Discussion :

[dymezac]

Bonjour,

J'ai constaté deux choses récemment en debuggant mon code et je recherche les explications sur ces phénomènes..

Lorsque j'ai saisi dans un formulaire la valeur "1" et que je la rentre dans une base de donnée, après l'avoir multiplié par un flottant, j'avais parfois au final "0.99999999"..

Voici des exemples simples et concrets :

------
Divisé un double par un flottant
------
0.02D / 0.01D = 2
0.02F / 0.01F = 2
0.02D / 0.01F = 2,00000004470348
Convert.ToDouble("0,02") / Convert.ToSingle("0,01") = 2,00000004470348

-----
Convertir en double une valeur provenant de la base de données
-----
DataRow dr = getDataRow("SELECT unNombre FROM t_nombre WHERE unNombre=0.01;");

Convert.ToDouble(dr["unite_facteur"].ToString()) = 0,01
Convert.ToDouble(dr["unite_facteur"]) = 0,00999999977648258




D'avance merci pour toutes explications !

[Sphax]

Salut,

L'arithmétique sur les flottants/ double etc.. est assez compliquée et il faut s'attendre à ce genre de phénomènes. Un article qui en parle ici.

Pas trés asp.net comme sujet cela dit.

[dymezac]

merci pour le lien,

c'est vrai que c'est pas très asp.net j'aurai du le mettre dans le forum C#.. désolé

[Mehdi Feki]

L'arithmétique sur les flottants/ double etc.. est assez compliquée

Je confirme [C# 2.0] Calculs inexplicablement imprécis