Discussion :

[lio69]

Bonjour,

Je cherche à récupéré la partie entière d'un nombre. Vous allez me dire c'est pas compliqué, c'est Int(ton nombre).

Je fais quelques tests
Int(3)
==>3
Int(3.12)
==>3
Int(3.99)
==>3
Int(10*0.3)
==>2 ... Etrange, je pensais que 10*0.3=3 ... Après vérification avec la calculette windows, ca fait bien 3.

Int(10*0.4)
==>4
Int(10*0.5)
==>5
Int(10*0.6)
==>5 ... Encore une erreur

Ca vient de moi ou c'est un bug de VB (en fait c'est VBA Access)

Quelqu'un a une idée?


Merci d'avance.

Lionel

[droggo]

Hai,

Tes erreurs n'en sont pas, cela vient de la représentation interne des nombres réels avec une précision limitée.

La calculatrice ne semble pas les faire car elle utilise une représentation avec une précision supérieure (mais comme pour tout calcul de ce genre, elle finira par buter sur ce problème).

[ucfoutu]

Bonjour,

En passant : VBA, ce n'esqt pas VB6 (la présente section)

Peu importe

Petit exercice pour te donner des cauchemars (avec une textbox Text1 et un bouton de commande Command1

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
Private Sub Command1_Click()
  Text1.Text = Int(10 * 0.6) & "  " & Int(10 * 0.6)
  MsgBox Int(10 * 0.6) & "  " & Int(10 * 0.6)
  Dim a As Single, b As Single
  a = 10
  b = 0.6
  Text1.Text = Int(a * b)
  MsgBox Int(a * b)End Sub
End Sub

Clique 1 première fois ==>> observe ta textbox, notamment
Clique une 2ème fois ===>> observe encore

Remarque qu'en typant ===>> pas de problème !

N'oublie pas de donner une bise à M. Bill, de ma part.

[lio69]

Bonjour,

Merci pour vos réponses.
En validant mon message, je me suis dit zut c'est vba et pas vb6. Mais comme j'ai pas d'interaction avec access, ca doit être la même chose avec vb.

En gros si je fait Int(10*0.3) ca m***e. Si je fait Int(Cdbl(10*0.3)) c'est cool. Merci de m'avoir mis sur la piste.

N'oublie pas de donner une bise à M. Bill, de ma part.

Promis si je le rencontre, je lui ferais la bise de la part du ucfoutu du forum developpez.com

[DarkVader]

.../...
En gros si je fait Int(10*0.3) ca m***e. Si je fait Int(Cdbl(10*0.3)) c'est cool. .../...

Normal, ce n'est pas le CDbl qui régle le problème mais le fait de forcer l'opération

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
x=10*0.3
int(x)

aura le même effet.