Discussion :

[steven22]

Bonjour,

Quelqu'un pourrais t il m'expliquer le comportement de VB6 suivant :

voici l'extrait de code :
vous mettez deux textbox et un CommandButton

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
 
Private Sub Command1_Click()
Dim Sng As Single
Dim Dbl As Double
Dim entier As Integer
 
entier = 118
 
Sng = 118 / 10
Dbl = 118 / 10
 
Text1.Text = Sng * 10000000
Text2.Text = Dbl * 10000000
 
End Sub

Voici le résultat :
text1.text ==> 118000001,907349
text2.text ==> 118000000

D'où viennent les chiffres du text1. ??
Pourquoi le résultat est correct en utilisant des doubles et faux si j'utilise des singles?

[DAUDET78]

Normal, Sng est un Single et il a moins de résolution que Dblk qui un Double. Donc il ne stocke pas 118,0000000000000000000000000
Fait cette manip :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
Dim Sng As Single
Dim Dbl As Double
Sng = 118.0 
Dbl = 118.0 
debug.print= format$(Sng)
debug.print= format$(Dbl)
Stop

A mon avis, tu as la réponse à ta question

PS: avant d'accuser VB (ou n'importe quel langage ) ......il faut connaitre ce que c'est qu'un flottant stocké sur 4 ou 8 octets

[steven22]

Je sais bien que single est sur 4 octets et double sur 8...le codage des flottants, merci je connais...j'ai fait de l'assembleur...

Il n'empêche que si tu portes ce code dans d'autre langages...le résultat est correct.

A mon avis c'est bien un dysfonctionnement de VB6.

[DAUDET78]

Il n'empêche que si tu portes ce code dans d'autre langages...le résultat est correct.

et ils stockent les flottants sur combien d'octets ?

[steven22]

4 pour le single, et 8 pour le double comme en VB6

[hpfx]

il n'y a pas 150 mille manieres de coder un float, il y a des normes pour celà : IEEE754.
il est donc normal de ne pas pouvoir coder exactement des float, c'est "by design".
Tout depends du nombre d'octet alloué pour la mantisse etc... et là, 4 octets ben c'est pas enorme.

Et quand on sait ça, la question est plutôt : pourquoi utiliser des singles ????

[10_GOTO_10]

Il n'empêche que si tu portes ce code dans d'autre langages...le résultat est correct.

Ca peut dépendre aussi de l'utilisation des instructions arithmétiques du processeur: en interne, le processeur conserve les flottants sur un peu plus que les 32 ou 64 bits du format mémoire (j'ai pas retrouvé le nombre exact, 44 et 80, je crois). Donc si la compilation fait que le calcul se passe entièrement dans le processeur, on aura une meilleure précision que si on stocke un résultat intermédiaire en mémoire.

Mais ce n'est pas un bug: les floats simple précision assurent une précision de 7 chiffres significatifs, et là on est au dessus.