Discussion :

[Sarkou]

Bonjour,
J'ai a faire a un petit probleme de calcul. Voici tout d'abord le code

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
 
double fNumber;
__int64 nNumber = (__int64)(fNumber * (pow((double)10, 2)));
	fNumber = (double)nNumber / (pow((double)10, 2));

Le souci c'est que si fNumber = 0.28999...le resultat de tout ca sera 0.28,
mais si fNumber = 0.489999... j'obtiens 0.49.
Normalement le résultat attendu par l'utilisateur doit etre 0.29 et non 0.28.
Merci pour votre aide !
Sarah

[O( N )]

Bonjour

Je voudrais savoir si tu es obligé de faire
pow((double)10,2) et non 100 directement.
Tout calcul superflus peut faire perdre en qualité (il me semble)

Pour les problèmes de transtypage (cast en anglais)
je te conseille de vérifier la validité du transtypage
de ton code à ta ligne :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
 
__int64 nNumber = (__int64)fNumber;

Puis en réalisant l'inverse, cela pourrait te donner des indications si le problème venait d'ici.

Je ne te donne pas de code mais juste des tests de validation car je ne suis pas un trés grand connaisseur des problèmes liés au transtypage.

[Sarkou]

Je voudrais savoir si tu es obligé de faire
pow((double)10,2) et non 100 directement.

Oui car dans le code initial a la place de 2 j'ai une variable dont les clients peuvent fixer la valeur si ils le veulent
par contre pour ce qui est de ton test, je ne comprend pas trop
Pour moi aussi toutes ces trucs c'est un peu nouveau mais ce bug doit etre fixé donc je my colle ....

[Emmanuel Delahaye]

Le souci c'est que si fNumber = 0.28999...le resultat de tout ca sera 0.28,

Normalement le résultat attendu par l'utilisateur doit etre 0.29 et non 0.28.

Problème d'arrondi. C'est une .

Nota : __int64, n'est pas standard. En C99, il y a long long qui fait au moins 64 bits.

[Sarkou]

Problème d'arrondi.

Je fais une troncature pas un arrondi...est ce que le code n'est pas bon ?
J'avoue que je suis un peu perdue pour le coup...

[Sarkou]

Coucou
Voila finalement la solution que j'ai prise et qui a l'air de marcher pas mal:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
__int64 nNumber = (__int64)(ceil(fNumber * (pow((double)10, 5))));
		fNumber = ((double) nNumber) / (pow((double)10, 5));

Bye !