Discussion :

[bouteille971]

Bonjour,

Pour les besoins du programme que je développe, je place à un moment une soustraction dans plusieurs boucles imbriquées sur un registre à décalage.
Pour prendre un exemple simple je soustrait 0.1 à 1 jusqu'à ce que le résultat de la soustraction soit nul. Soit {0.9;0.8;0.7;0.6;0.5;0.4;0.3;0.2;0.1;0}.

Les commandes qui permettent de régler la valeur de départ et le pas de décrémentation sont des double précision et sont des valeurs exactes.

Il se trouve qu'en dernière position, au lieu d'avoir {0}, j'ai 2.77(etc)E^-17 (soit environ 0). Si je pousse un peu plus loin et que je mets mon tableau en "virgule flottante" j'obtiens par exemple {0.8993;0.8000004;0.69987;etc etc..} C'est à dire presque le résultat souhaité en terme de valeur, mais totalement incompréhensible (en tout cas pour moi). Comme ces valeurs vont êtres envoyées dans un instrument très précis, il est embêtant que je n'obtienne pas les valeurs rondes que je demande dans ce petit exemple tout bête.

J'ai eu beau essayé de modifier la source (sgl, dbl,flt,...) rien n'y fait.

Help.. ?

Merci d'avance.

Quentin.

[Cheetor]

Bonjour,

Le fait est, tu utilises ici des nombres à virgules flottantes, ce qui peut poser problème au niveau de la programmation (Labview ou autre).
Si tu fais le test de la soustraction juste avec deux nombres doubles en entrée, à aucun moment tu n'arrives à ce que le résultat soit égal à 0. Tu auras par contre des valeurs approchées.

Deux liens : le premier renvoie sur la FAQ de Matlab qui expose le même problème : http://matlab.developpez.com/faq/?pa...bres_flottants
le second sur l'article de la virgule flottante : http://fr.wikipedia.org/wiki/Nombre_flottant

La FAQ de Matlab propose également une solution qui peut être adaptable sous Labview.