Discussion :

[Cheps]

Bonjour,

J'ai un petit soucis de précision avec une QDoubleSpinBox. Celle-ci est réglée avec une précision de 3 digits et une valeur minimale de 0.001. Le problème, quand je change la valeur depuis mon application, c'est que la valeur que me retourne value() peut varier au cours d'exécution. Par exemple, si j'ai 0.01, je peux avoir (valeur données par le debugger):

0.010000000000000000
ou
0.010000000000000002

Ce qui peut sembler comme un détail, mais ensuite j'utilise cette valeur pour différents calculs et j'affiche des résultats qui ensuite diffèrent (2400 et 2399 par exemple).

Alors d'où mon problème vient-il? Qt? Mon compilo (VC++ express 2008)? Ou "c'est comme ça les double en c++ on peut rien faire"?

Merci pour votre aide, je commence à

[cayou66]

Salut,
à mon avis tu es coincé. Tu as déjà une précision énorme !
Dans ton exemple :
0.010000000000000000
le nombre de digits après la virgule .

Je trouve bizarre par contre que tu ais une différence après tes calculs sur les unités...Regardes bien si tu fais pas une conversion foireuse, ou un truc du genre.

[Cheps]

Le problème c'est pas vraiment la précision elle-même, mais plutôt que ma QDoubleSpinBox a comme valeur 0.010, mais parfois la méthode value me retourne 0.010000000000000002 (là c'est faux), et parfois 0.010000000000000000 (là c'est juste). Le comportement au cours de l'exécution change

[cayou66]

Tu ne peux pas exiger une telle précision sur un double. Le soucis vient bien de la façon dont est codé un double. Je me demande toujours comment une si faible différence peut entrainer une tel écart après un travail dessus...

Lorsque tu mets dans ton doubleSpinBox 0.01, le double correspondant est de 0.010000000000****, mais vient un moment où la précision peut être moins fiable...
A 10^-10 -12....on peut s'attendre à ce que le système ne retourne pas une valeur exacte...

[yan]

tu n'utilise pas plutôt des float quand tu as
0.010000000000000002?

sinon, c'est normale, et c'est pareil pour tous les langages.
http://cpp.developpez.com/faq/cpp/?p...ions_flottants

[Cheps]

Non j'utilise bien des double uniquement. Ce qui m'étonne surtout c'est qu'au cours de l'exécution la valeur change d'une fois à une autre.

Bon je vais surement faire une petite manip genre multiplier par 1000 et cast en int pour arriver à des calculs finaux exacts.