Discussion :

[ricil78]

bonjour,

le code suivant perd la boule !

pour info toutes les variables sont des doubles

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Dim SommeRajouté As Double = (MontantTcc - SumOpération)

voici en valeur ce que je devrais obtenir
990.0 - 946.2 = 43.8

et voici ce que j'ai
990.0 - 946.2 = 43.799999999999955

par contre j'ai la bonne valeur en rajoutant le ToString

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Dim SommeRajouté As Double = (MontantTcc - SumOpération).ToString

je trouve ça moche mais avant tout je voudrais comprend ce qui se passe.


rajout : les valeurs sont prises de la fenêtre espion et non d'un pseudo calcul de tête.

[Philippe Vialatte]

Salut,

990.0 - 946.2 = 43.799999999999955

c'est normal...tu utilise un type double

Le type double ne stocke pas les informations precisement, je pourrais gratter un peu pour retrouver un article quelconque, mais grosso modo, Double et FLoat sont des types a utiliser pour des operations "physiques", et pas forcement "mathématiques"

je trouve ça moche mais avant tout je voudrais comprend ce qui se passe.

Dans ton exemple, tu prends un resultat en double (qui est le resultat d'une soustraction de deux nombres "imprecis"), que tu castes explicitement en String, et que tu recastes implicitement en double.

Du coup, comme par defaut, le Tostring va faire un arrondi au deuxieme chiffre, ca sembe etre un bon resultat...mais ce n'est absolument pas fiable

La "bonne" solution, ce serait, dans un premier temps, de passer en mode strict (parce que les casts a l'arrache comme ca, c'est mal), et, dans un second temps, d'utiliser le type decimal si tu dois gerer des operations de ce genre

[ricil78]

je connaissais pas cette subtilité !

Tu es trop fort

merci !

ps : je cherche une corde et une poutre !