integer overflow(depassement de bit)

Version imprimable

11/12/2014, 11h38
chekkal

integer overflow(depassement de bit)
bonjour à tous,

Je me retrouve encore confronté à un problème de dépassement de capacité. En effet j'ai une table "LOCATION" qui contient un trigger beforeapdate
Code:

1 2 3 4 5 6 mon=pua*qte /* mon numeric(14,2) pua numeric(14,5) qte numeric(14,5) */
et on faisant une requête d'insertion de données exple
Code:

1 2 insert into LOCATION (ord,pua,qte) values (1,1452.4521,6844.424)
il me signale erreur integer overflow, dépassement de bit. J'ai bien compris que le champs mon ne peut pas prendre la valeur (pua*qte), mais le problème comment contrôler ça.

merci de votre aide

en faisant un cast

actuellement voilà ce que vous avez :

Code:

1
2
3
4
5
SQL> select (cast(1452.4521 as numeric(14,5)) * cast(6844.424 as numeric(14,5))) from rdb$database;
 
             MULTIPLY 
===================== 
   9941198.0120904000

faites plutôt :

Code:

1
2
3
4
5
6
7
8
9
10
11
SQL> select cast(1452.4521*6844.424 as numeric(14,2)) from rdb$database;
 
                 CAST 
===================== 
           9941198.01 
 
SQL> select cast(cast(1452.4521 as numeric(14,5)) * cast(6844.424 as numeric(14,5)) as numeric(14,2)) from rdb$database;
 
                 CAST 
===================== 
           9941198.01

12/12/2014, 10h54
chekkal
j'ai essayé ta solution comme ça
Code:

1 2 new.mon=cast(pua as numeric(14,2))*cast(qte as numeric(14,2))
et ça marche :D, mais :calim2: l'arrondissement est faussé.
12/12/2014, 15h28
SergioMaster
Bonjour,
Citation:
Envoyé par chekkal

j'ai essayé ta solution comme ça

Code:

1 2 new.mon=cast(pua as numeric(14,2))*cast(qte as numeric(14,2))

et ça marche :D, mais :calim2: l'arrondissement est faussé.
c'est pas ce qui a été indiqué ! il faut bien relire

c'est

Code:

new.mon=cast(new.pua*new.qte as numeric(15,2))

que Philippe a indiqué
15/12/2014, 05h58
chekkal

plutôt comme ça

Code:

new.mon=cast(new.pua*new.qte as numeric(14,2))

:lol: