Discussion :

[Misterburma]

Bonjour à tous,

Je viens de découvrir que la conversion d'un single en double par les fonctions usuels de VS 2003 ne sont pas exact.

Par exemple une valeur = 12,5 en single donnera en la convertissant en Double la valeur suivante 12,499999754564324

Je pose la question pourquoi ?

[neguib]

Pouvez-vous nous donner le code de conversion que vous avez utilisé pour votre test :

[Misterburma]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
 
Dim aSingleValue as Single
Dim aDoubleValue as Double
 
aSingleValue = 12,4
aDoubleValue = CDbl(aSingleValue )

En réalité la valeur de aSingleValue est issu de la lecture d'un fichier binaire. J'ai vérifié et je stocke correctement dans aSingleValue la bonne valeur extraite.

Merci

[neguib]

Comme je ne peux pour l'instant faire moi même les tests
je te suggères l'utilisation de la classe Convert
Essayes

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
Dim aSingleValue as Single = 12,4
Dim aDoubleValue as Double 
 
aDoubleValue = Convert.ToDouble(aSingleValue)

Celà donne-t-il le même resultat :

[Misterburma]

J'ai tout essayé,

Je dois faire un Cdec ou Convert.Todecimal de ma valeur Single et ensuite je la converti en Double pour avoir la valeur correcte.

Ma question est simplement de savoir pourquoi j'ai un delta ?

[Keihilin]

J'ai testé par moi-même :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
 
			Single s = 12.4F;
			double d = System.Convert.ToDouble(s);
			MessageBox.Show(d.ToString());

Résultat : 12.3999996185303




N'utilisant jamais le type Single, je n'avais jamais remarqué ça...A mon avis il s'agit d'un bug.

[Piotrek]

non c'est normal:

http://www.developpez.net/forums/viewtopic.php?t=414775
la reponse de Dev01

[Keihilin]

non c'est normal:

Oui, ok s'il s'agit d'une opération, mais là on parle d'un simple changement de type.

[Piotrek]

Some widening conversions to Single or Double can cause a loss of precision

http://msdn.microsoft.com/library/default.asp?url=/library/en-us/cpguide/html/cpcontypeconversiontables.asp

[NicolasG]

Les single et double sont stockées sous la forme n*2^p alors que nous les voyons toujours en base 10 notés m*10^q (ou mEq) dans un compilateur ou un debugger.

Quand on tronque une valeur double en single, ce ne sont pas des décimales 0 en base 10 mais des "décimales" non nulles en base 2 qui disparaissent.

Le résultat est donc différent une fois affiché en base 10.