Integer overflow avec un champs calculé

Version imprimable

Bonjour,

J'utilise la version 2.1 de Firebird (WI-V2.1.2.18118).J'en suis au développement, il n'y a aucune production. Donc pas de problème pour trafiquer la base.

J'essaie de faire quelques calculs sur la TVA.
Seulement, il me met l'erreur ci-dessous. J'ai donc essayé de découper la requête pour tester la partie qui pose problème (normalement, il n'y a pas d'union).

Si j'enlève " * (1 - (REMISE_EN_POURCENT_TOTALE / 100))", la requête fonctionne :
http://www.flyonsoft.com/sql2.png

Et si je le remplace par " * 0.99"
http://www.flyonsoft.com/sql1.png

Citation:

ISC ERROR CODE:335544779

ISC ERROR MESSAGE:
Integer overflow. The result of an integer operation caused the most significant bit of the result to carry.

STATEMENT:
TIBOInternalDataset: "<TApplication>.frmMain.dlgWisql.<TIBOQuery>.<TIBOInternalDat
Code:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 SELECT (SUM(TVA1) * (1 - (REMISE_EN_POURCENT_TOTALE / 100))) as TVA1, TAUX, DESCRIPTION FROM ( SELECT SUM((LIGNE_COMMANDE.PU_HT * LIGNE_COMMANDE.QUANTITE - Ligne_Commande.Remise - (Ligne_Commande.PU_HT / 100 * Ligne_Commande.Quantite * Ligne_Commande.Remise_en_pourcent)) * (TVA.TAUX / 100)) as TVA1, TVA.DESCRIPTION, TVA.TAUX, COMMANDE.REMISE_EN_POURCENT_TOTALE FROM LIGNE_COMMANDE JOIN TVA on TVA.NUMERO_TVA=LIGNE_COMMANDE.NUMERO_TVA JOIN Commande ON Commande.NUMERO_DE_COMMANDE=Ligne_Commande.NUMERO_DE_COMMANDE WHERE LIGNE_COMMANDE.NUMERO_DE_COMMANDE='1' GROUP BY TAUX, DESCRIPTION, COMMANDE.REMISE_EN_POURCENT_TOTALE UNION SELECT 0 as TVA1, TVA.DESCRIPTION, TVA.TAUX, COMMANDE.REMISE_EN_POURCENT_TOTALE FROM LIGNE_COMMANDE JOIN TVA on TVA.NUMERO_TVA=LIGNE_COMMANDE.NUMERO_TVA JOIN Commande ON Commande.NUMERO_DE_COMMANDE=Ligne_Commande.NUMERO_DE_COMMANDE WHERE LIGNE_COMMANDE.NUMERO_DE_COMMANDE='1') GROUP BY TAUX, DESCRIPTION, REMISE_EN_POURCENT_TOTALE
Les chiffres ne sont pas gros. Voyez-vous de quel problème il s'agit ?

Merci

05/11/2009, 01h13
makowski

Quels sont les types de champs utilisés ?
05/11/2009, 21h56
gandf

Merci de vous pencher sur mon problème.

Voici les type des champs calculés :

"REMISE_EN_POURCENT_TOTALE" NUMERIC(18,4),
"QUANTITE" NUMERIC(18,4),
"PU_HT" NUMERIC(18,4),
"REMISE" NUMERIC(18,4),
"REMISE_EN_POURCENT" NUMERIC(18,4),
"TAUX" NUMERIC(18,4),
07/11/2009, 21h18
gandf

Aucune idée ?
Vous avez besoin de plus d'informations ?
08/11/2009, 08h28
seabs

Bonjour,

Par hasard, tu n'aurais pas un problème avec le point décimal et la virgule décimale.

En effet, tes nombres sont affichés avec la virgule décimale et dans 0.99 tu retiens le point décimal.

Il s'agit juste d'une réflexion.

Bon courage

Je ne pense pas que ce soit ça. J'ai une erreur si je met une virgule.

En effet, c'est juste IBOConsole qui 'affiche comme ça. C'est bien des float qui sont utilisés.

J'ai toujours le problème avec un code beaucoup plus court.

Code:

1
2
3
4
5
6
SELECT SUM((LIGNE_COMMANDE.PU_HT * LIGNE_COMMANDE.QUANTITE - Ligne_Commande.Remise  - (Ligne_Commande.PU_HT / 100 * Ligne_Commande.Quantite * Ligne_Commande.Remise_en_pourcent)) * (TVA.TAUX / 100)) * (1 - (REMISE_EN_POURCENT_TOTALE / 100)) as TVA1, TVA.DESCRIPTION, TVA.TAUX, COMMANDE.REMISE_EN_POURCENT_TOTALE
 FROM LIGNE_COMMANDE
 JOIN TVA on TVA.NUMERO_TVA=LIGNE_COMMANDE.NUMERO_TVA
 JOIN Commande ON Commande.NUMERO_DE_COMMANDE=Ligne_Commande.NUMERO_DE_COMMANDE
 WHERE LIGNE_COMMANDE.NUMERO_DE_COMMANDE='1'
 GROUP BY TAUX, DESCRIPTION, COMMANDE.REMISE_EN_POURCENT_TOTALE

08/11/2009, 18h25
SQLpro

Citation:

Si j'enlève " * (1 - (REMISE_EN_POURCENT_TOTALE / 100))", la requête fonctionne :

Essayez avec :
1)

Code:

* (1.0 - (REMISE_EN_POURCENT_TOTALE / 100.0))

2)

Code:

* (1.0 - (CAST(REMISE_EN_POURCENT_TOTALE AS DECIMAL(24,4) / 100.0))

A +
08/11/2009, 19h12
makowski

Citation:

Envoyé par gandf

Voici les type des champs calculés :

"REMISE_EN_POURCENT_TOTALE" NUMERIC(18,4),
"QUANTITE" NUMERIC(18,4),
"PU_HT" NUMERIC(18,4),
"REMISE" NUMERIC(18,4),
"REMISE_EN_POURCENT" NUMERIC(18,4),
"TAUX" NUMERIC(18,4),

18,4 ? pour un taux de TVA ?
18,4 ? pour une remise en % ?
18,4 ? pour un taux ?
quelle idée ?
Il faut changer ça, et caster les éléments dans vos expressions
et ne pas oublier que:
Numeric(p1,s1)/Numeric(p2,s2) donne un Numeric(18,s1+s2)
idem pour la multiplication

j'ajoute que la règle générale veut que l'on utilise des valeurs à décimales fixes pour ce que l'on compte et des valeurs flottantes pour ce que l'on mesure. Il est tout à fait cohérent de définir une table qui va utiliser par exemple : un INTEGER pour le nombre commandé, un DECIMAL pour la valeur totale de la vente et un FLOAT pour le pourcentage de rabais.
08/11/2009, 20h01
gandf

Merci, c'était bien ça le problème. J'ai pas fait attention aux types des données numériques.
Je ne savais pas qu'il fallait caster quand l'on fait des calculs en SQL parce que d'habitude, je n'ai pas besoin de faire de calcul dans mes requêtes.

MERCI
09/11/2009, 09h45
qi130

J'ajoute que la :faq: référence ce problème : http://firebird.developpez.com/faq/?...rreur#TRA00207
09/11/2009, 11h57
gandf

Encore faut-il identifier correctement le problème pour trouver la réponse.