Discussion :

[luimême]

Nous avons rencontré un problème sur une application de facturation nécessitant des calculs précis.
L'application est en ASP 3.0/Vbscript et javascript.
Le vb donnant le même résultat que le javascript.

--- En vb : CDbl(a) - CDbl(b) ---> Round(val, 3)
--- En javascript : ParseFloat(a) - ParseFloat(b) ---> toFixed(3)
pour résoudre le problème, nous avons du utilisé l'opération d'arrondi pour avoir le résultat attendu.

J'ai déjà eu un problème sur les opérations quand les deux opérandes n'étaient pas de même type, par exemple (int / double).


J'ai voulu faire un test en C#, on obtient le même résultat :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
 
 double a = double.Parse("6,8") - double.Parse("6,4");
 decimal b = decimal.Parse("6,8") - decimal.Parse("6,4");
//Résultat :
// a : 0.39999999999999947
// b : 0.4

Auriez-vous une explication à cette problématique ?
J'ai pensé à l'encodage du type double, l'appproximation ...



Merci de vos réponses.

[Guulh]

J'ai pensé à l'encodage du type double, l'appproximation ...

T'as ta réponse Tu devrais trouver un peu plus sur ce même forum en cherchant "double", "précision". Mais effectivement, pour des données de facturation (i.e. avec assez peu de chiffres après la virgule), les décimaux sont tout indiqués.

[Pol63]

single et double sont des types reels encodé avec une formule mathématique
ce qui permet d'avoir une valeur exacte, meme pour des quotients

malheureusement lors de calculs, on se retrouve parfois avec des nombres infinis après la virgule ...

donc il faut le type decimal qui lui enregistre les chiffres et la position de la virgule plutot qu'une représentation mathématique du nombre
malheureusement sur des calculs lourds et soutenus, le type decimal est plus lent
ce type correspond d'ailleurs au type money dans sql server par exemple, qui sert donc pour les factures et autre