Discussion :

[kikiops]

Bonjour
Ca fait un petit moment que je n'avais pas touché a openOffice et je bute sur un problème de très très haut niveau (cm2)

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
 
Sub Main
		Dim maVariable as Double
 
		maVariable = 12 - 11.21
		msgbox maVariable
End Sub

Pourquoi "maVariable" retourne 0,7899999999999 ???

Merci de votre aide, j'ai déjà honte

[Jipété]

Yop !

(...) Pourquoi "maVariable" retourne 0,7899999999999 ???

Parce que !

Parce que c'est un problème de conversion, d'arrondi, toussa toussa, un "double" a une précision de 29 chiffres si l'aide est correcte...

Pour contourner le problème, faut faire sauter la décimale :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
Sub Main
		Dim maVariable as Double
 
		maVariable = (12 * 100) - (11.21 * 100)
		msgbox (maVariable / 100)
End Sub

[kikiops]

Parce que !

Forcement !

J'ai l'impression d’être encore à :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
 
Sub Main
            MsgBox 'HelloWord'
End Sub
 
' Et m... meme ca j'y arrive po :mouarf:

Merci de ton aide

[sevyc64]

LE problème vient du type de variable utilisé. Les types Double et Float (Single suivant les appellations) sont des nombres dit à virgule flottante respectivement Double et Simple précision.

Ces nombres là ont la particularité de ne pas être des nombres exacts. C'est à dire que l'encodage de la variable en mémoire ne permet pas de représenter la totalité des nombres possibles.
Si, pour une valeur donnée, celle-ci n'est pas représentable, elle sera représentée par la 1ere valeur possible la plus proche. Ce qui provoque des arrondis, avec une erreur qui se propage au fil des calculs et des arrondis sur les résultats successifs.

[kikiops]

avec une erreur qui se propage au fil des calculs et des arrondis sur les résultats successifs.

C'est bien ce qui m’inquiète !
Comment gérer efficacement et proprement ces variables, car même si mes macros ne demandent pas une grande précision, "7E-02" ou "7,8999999999999" n'est pas le résultat espéré.


Merci sevyc64

[sevyc64]

Les nombres à virgule flottante posent problème en comptabilité et dans le domaine financier et dans les domaines ou la précision loin après la virgule est très importante. On leur préfèrera dans ce cas des nombres justes, à virgule fixe, représentés souvent par des types (dépend des langages) tel que Decimal, Currency ...

Dans la majorité des cas, les nombres à virgule flottante sont largement suffisant, c'est les plus utilisés. Plus de 80% des calculs d'un processeur sont fait sur eux, la virgule flottante est la structure de base de calcul des processeurs actuels.

Donc, sauf à avoir besoin d'une très grande précision, voire de calculs absolument juste, ils sont parfaitement utilisables en en connaissant les limites, comme notamment faire arrondis lorsqu'il n'est pas nécessaire de conserver la précision du nombre.

Certes, 7,8999999999999 n'est pas le résultat attendu, mais tu n'as probablement pas besoin (pour l'affichage par exemple) d'avoir 13 chiffres après la virgule. Si 2 te suffisent l'arrondi te donnera 7.90, nombre attendu je présume.

[kikiops]

Merci sevyc64 pour ces détails. J'ai la mémoire qui me revient ! Ca y est j'ai honte