Discussion :

[aspire]

Bonjour a tous,

un souci de calcul tellement bête qu'il me prend la tête :-)

un long a une capacité de valeur positive : max long type :9.223372036854776E18 soit 2^63-1
or je calcule le résultat suivant :

long res=21 * 22 * 23 * 24 * 25 * 26 *27;
qui devrait tenir or j'ai une erreur : res= 180703904
qui me fait penser a une erreur de débordement.

(j'ai calculé le bon résultat en BigInteger est :res= 4475671200)

Pourquoi ce débordement en long ????
Ou est l'erreur ?

merci

[adiGuba]

Salut,

Pourquoi ce débordement en long ????

Parce que tu effectues ton calcul avec des ints et non des longs !

Ton opérande de droite (21 * 22 * 23 * 24 * 25 * 26 *27) ne comporte en effet que des int, et un calcul se fait entre deux valeurs se fait toujours sur la plus grande valeur des deux.
Mais comme tu n'a que des ints tu te retrouve avec un dépassement de valeurs et tu obtiens un résultat de 180703904.
Ce résultat est ensuite affecter dans un long, mais il est trop tard...


Pour effectuer un calcul sur des longs, le plus sûr étant de n'utiliser que des longs :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

long res =  21L * 22L * 23L * 24L * 25L * 26L * 27L;

a++

[aspire]

un grand merci à adiGuba.

et une grosse tape dans ma tête...
pour avoir oublié les calculs intermédiaires. J'aurais pu chercher longtemps.
thanks.