Discussion :

[Algernon2]

Bonjour,

je n'arrive pas à savoir pourquoi lorsque je fais ce simple calcul en C# d'après les autre discussions des forums, la précision que me renvoie C# devrait suffir pour avoir le nombre correct:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
float o = 0.0575277540f;
float yyy = 4.82798f;
 
float hhh = o * yyy;

la valeur de hhh est : 0,277742863

alors que le vrai calcul fait : 0,2777428457...

Merci par avance

[Gurdil le nain]

Bonjour,

Si l'on regarde la documentation msdn :
- Précision Float
- Précision Double

Tu devrais essayer de passer par des Double qui ont une précision plus important

[alavoler]

Il n'y a de "vrai calcul" avec les float sur une telle précision
http://msdn.microsoft.com/fr-fr/libr...=vs.80%29.aspx
( d'ailleurs il est juste au niveau de sa représentation 0.0575277545 * 4.82798 = 0.277742848 )


Si tu as un besoin d'une tel précision utilise un décimal (28 chiffres significatifs),
c'est plus lourd mais au moins le résultat est garanti

Si tu souhaite "optimiser" prend un Double comme le conseil Gurdil le nain, dans ton exemple le résultat sera le même en utilisant des Double ou des Decimal