Précision flottant sur Proc 64 bits

Bonjour,

je n'arrive pas à savoir pourquoi lorsque je fais ce simple calcul en C# d'après les autre discussions des forums, la précision que me renvoie C# devrait suffir pour avoir le nombre correct:

Code:

---

1 2 3 4

float o = 0.0575277540f; float yyy = 4.82798f;   float hhh = o * yyy;

---

la valeur de hhh est : 0,277742863

alors que le vrai calcul fait : 0,2777428457...

Merci par avance

Bonjour,

Si l'on regarde la documentation msdn :
- Précision Float
- Précision Double

Tu devrais essayer de passer par des Double qui ont une précision plus important :)

Il n'y a de "vrai calcul" avec les float sur une telle précision
http://msdn.microsoft.com/fr-fr/libr...=vs.80%29.aspx
( d'ailleurs il est juste au niveau de sa représentation 0.0575277545 * 4.82798 = 0.277742848 )


Si tu as un besoin d'une tel précision utilise un décimal (28 chiffres significatifs),
c'est plus lourd mais au moins le résultat est garanti :)

Si tu souhaite "optimiser" prend un Double comme le conseil Gurdil le nain, dans ton exemple le résultat sera le même en utilisant des Double ou des Decimal