Discussion :

[djoumusic]

Bonjour,
Je developpe sous Mac pour Windows avec Xojo qui est en VB.. mon souci est sans doute simple, mais je ne vois pas vers où chercher.
je fais un calcul simple de multiplication et d'addition des resultats de ces multiplication pour arriver à un total que je compare par soustraction à une valeur de reference. jusque là, tout va..
lorsque le resultat est de "0" j'ai "parfois" un affichage à "2,842171e14" ?. et là, impossible d'identifier où se loge la source de ce "conflit"..
j'ai déjà vu cette valeur dans excel pour un affichage à 0.. je me doute qu'il existe une explication.. et en la connaissant.. je trouverai où modifier mon code et avoir mon bon résultat affiché..


d'avance Merci, et espere etre sur la bonne categorie pour le forum... (mais ca reste du VB.. donc...)

Merci

Julien.

[ZenZiTone]

Bonjour,

Quels types sont utilisés pour les calculs? Il semblerait que ce soit un problème de "précision".

PS : Le titre est -en partie- fait pour facilement identifier le sujet du problème. Ça permet -entre autre- d'être retrouvable par des tiers qui auraient le même problème.

[djoumusic]

Je viens de trouver et effectivement cela venait d'un problème de precision..
Les valeurs etaient en double..
J'ai simplement défini l'affichage de mon textfield qui m'affiche le résultat en format "# .00" et l'affichage est correct !

Merci d'avoir pris le temps de répondre..
Et je ferai attention a mes futurs titres..:-)

Julien.