Probleme de calcul

Version imprimable

05/12/2006, 14h36
Sarkou

Probleme de calcul
Bonjour,
J'ai a faire a un petit probleme de calcul. Voici tout d'abord le code
Code:

1 2 3 4 double fNumber; __int64 nNumber = (__int64)(fNumber * (pow((double)10, 2))); fNumber = (double)nNumber / (pow((double)10, 2));
Le souci c'est que si fNumber = 0.28999...le resultat de tout ca sera 0.28,
mais si fNumber = 0.489999... j'obtiens 0.49.
Normalement le résultat attendu par l'utilisateur doit etre 0.29 et non 0.28.
Merci pour votre aide !
Sarah
05/12/2006, 16h13
O( N )
Bonjour ;)

Je voudrais savoir si tu es obligé de faire
pow((double)10,2) et non 100 directement. :mouarf:
Tout calcul superflus peut faire perdre en qualité (il me semble) :aie:

Pour les problèmes de transtypage (cast en anglais)
je te conseille de vérifier la validité du transtypage
de ton code à ta ligne :
Code:

1 2 __int64 nNumber = (__int64)fNumber;
Puis en réalisant l'inverse, cela pourrait te donner des indications si le problème venait d'ici.

Je ne te donne pas de code mais juste des tests de validation car je ne suis pas un trés grand connaisseur des problèmes liés au transtypage. :aie:
05/12/2006, 16h28
Sarkou

Citation:

Je voudrais savoir si tu es obligé de faire
pow((double)10,2) et non 100 directement.

Oui car dans le code initial a la place de 2 j'ai une variable dont les clients peuvent fixer la valeur si ils le veulent :lol:
par contre pour ce qui est de ton test, je ne comprend pas trop :(
Pour moi aussi toutes ces trucs c'est un peu nouveau mais ce bug doit etre fixé donc je my colle ....:mrgreen:
05/12/2006, 16h36
Emmanuel Delahaye

Citation:

Envoyé par Sarkou

Le souci c'est que si fNumber = 0.28999...le resultat de tout ca sera 0.28,

Normalement le résultat attendu par l'utilisateur doit etre 0.29 et non 0.28.

Problème d'arrondi. C'est une :faq:.

Nota : __int64, n'est pas standard. En C99, il y a long long qui fait au moins 64 bits.
05/12/2006, 16h49
Sarkou

Citation:

Problème d'arrondi.

Je fais une troncature pas un arrondi...est ce que le code n'est pas bon ?
J'avoue que je suis un peu perdue pour le coup...:(

Coucou
Voila finalement la solution que j'ai prise et qui a l'air de marcher pas mal:
Code:

1 2 __int64 nNumber = (__int64)(ceil(fNumber * (pow((double)10, 5)))); fNumber = ((double) nNumber) / (pow((double)10, 5));
Bye !