Discussion :

[darkloy]

Bonjour,

J'ai une erreur avec la méthode Pow de Math qui me sort un résultat incohérent pour moi :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Mathf.Pow(.1f,-3f);

Ceci me retourne 999.9999 ... Pour moi le résultat devrait être 1000...

Pour info je suis sous le .NET d'Unity d'où le Math(f)

Une idée ?

[tomlev]

Les nombres à virgule flottante binaires (float ou double) ne permettent pas de stocker toutes les valeurs décimales de façon exacte, car le nombre n'est pas en base 10 mais en base 2. Donc 0.1 n'est pas stocké comme exactement 0.1, mais plutôt comme 0.999999999.... et des poussières. Cette approximation se propage dans l'opération Math.Pow, d'où le résultat inexact. Si tu veux plus d'infos à ce sujet, je te suggère cet article (en anglais).

Sache en tous cas que double est plus précis que float, et dans ton cas ça donne bien 1000 (enfin, c'est affiché comme 1000, mais en réalité la valeur n'est pas exactement 1000)

Si tu dois travailler avec des valeurs exactes (calculs financiers par exemple), utilise le type decimal plutôt que float ou double.