Discussion :

[hunteshiva]

Bonjour,


petit soucis de capacité que je n'arrive pas a comprendre...
le calcul est pourtant pas compliqué, les valeurs cohérentes mais vb me sort une erreur

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
 
' Calcul des coefficients de la droite ( y = a.x + b )
 
        Dim Test_Num As Double = Nothing
        Dim Test_Denum_1 As Double = Nothing
        Dim Test_Denum_2 As Double = Nothing
 
        Test_Num = (n * S_Temps_LnU) - (S_Temps * S_LnU)
        Test_Denum_1 = (n * S_Temps_2) ' <- Dépassement de capacité sur cette ligne
        Test_Denum_2 = (S_Temps * S_Temps)
 
        a = Test_Num / ( Test_Denum_1 - Test_Denum_2 )
 
        b = (S_LnU * S_Temps_2 - S_Temps * S_Temps_LnU) / (n * S_Temps_2 - S_Temps * S_Temps) ' ou b = (S_LnU - a * S_Temps) / n

et voila ce qu'il me ressort


Le calcul est pourtant pas énorme: *17 Milliards*

61 * 279.111.600 = 17.025.807.600

Une idée?

[hunteshiva]

C'est bon, désolé pour le dérangement.

Va savoir pourquoi, mais comme mes deux variables étaient déclarées en Integer

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim n As Integer
Dim S_Temps_2 As Integer

vb devait faire sa routine sur une variable du même type...

Pas terrible...


Solution:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim n As Double
Dim S_Temps_2 As Double

[sevyc64]

Va savoir pourquoi, mais comme mes deux variables étaient déclarées en Integer

Parce que VB, comme la plupart des langages fait ses calculs dans le type du premier opérande, ici n. Au besoin le second opérande est d'abords convertis dans le type du premier.
Ensuite seulement le résultat est converti dans le type de la variable résultat.

avec n et S_Temps_2 integer, ou n integer et S_Temps_2 double, tu as le problème, le calcul se faisant en integer (dans le second cas S_Temps_2 étant d'abord converti en integer.

avec n et S_Temps_2 double, ou n double et S_Temps_2 integer, tu n'as pas le problème, le calcul se faisant en double (dans le second cas S_Temps_2 étant d'abords converti en double)

A noter que pour les 2 second cas ci-dessus, si tu calcule, non pas (n * S_Temps_2), mais (S_Temps_2 * n), tu inverse les cas d'apparition du problème