[VB6] Erreur d' Overflow

j'ai d'éclarer un Long et je fais un calcul pour l'initialiser mais j'ai une erreur d'Overflow sauf si je met le resultat en dur mais je ne peu pas mettre le valeur en dure vu que le calcul dépend d'un variable

Code:

---

1 2	Dim Val As Long Val = ((1016 * 648) * 5) / 8

---

A quoi sert le type double ?

j'ai essayer mais cela ne change rien de plus situ fait le calcul tous seul tu veras que le total est egal a 411480 et la valeur max d'un long est 2147483647

Ah !
Je vois !
Ce serait pourtant la même chose en VB.NET dont tu nous a dit que tu le connaissais 8O


Ma vieille machine et mes vieilles versions (VB5) semblent avoir de très belles qualités car :

Code:

---

1 2 3 4 5 6

Private Sub Command3_Click() Dim Val As Double, toto As Double toto = 999999999 Val = ((toto * 648) * 5) / 8 MsgBox Val End Sub

---

ne pose aucun problème :roll:

petite subtililite de VB
une operation sur des entiers est convertie en entier
il faut forcer le type Long sur une des valeurs

Code:

---

1 2	Dim Val As Long Val = ((CLng(1016) * 648) * 5) / 8

---

merci ThierryAIM pour cette petit subtilité qui m'etais inconnu ;)

Citation:

---

Envoyé par Cirdan Telemnar

j'ai d'éclarer un Long et je fais un calcul pour l'initialiser mais j'ai une erreur d'Overflow sauf si je met le resultat en dur mais je ne peu pas mettre le valeur en dure vu que le calcul dépend d'un variable

Code:

---

1 2	Dim Val As Long Val = ((1016 * 648) * 5) / 8

---

---

Le problème vient tout simplement que VB donne comme format de résultat le type le plus grand des opérandes du calcul. Dans ce cas, le résultat est (pour VB) un entier court, puisque tous les opérandes sont des entiers courts. Donc si le résultat dépasse 32767, on a l'erreur d'overflow.

Par contre, si l'un des termes est un long (ou un flottant), VB détermine que le résultat est un long ou un flottant. La solution du problème est donc très simple : il suffit qu'UN au moins des termes de l'aquations soit un long, en écrivant par exemple (je les ai tous mis au même type, c'est plus pur)

Code:

---

1 2	Dim Val As Long Val = ((1016& * 648&) * 5&) / 8&

---

ou encore

Code:

---

1 2	Dim Val As Long Val = ((1016! * 648!) * 5!) / 8!

---

On peut panacher, etc.

PS. J'ai écrit cette contrib ce matin et je ne l'ai pas envoyée! Mais d'autres ont répondu (la même chose). Désolé pour ce retard.