Discussion :

[retraite83]

Bonjour à tous,

je m'arrache les cheveux pour trouver l'explication à mes résultats de calcul

Je vois bien que cela tourne autour de la définition des cellules mais je ne comprends pas.

j'ai 1 varibale définie ainsi

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

ratioTx As Double

et j'ai 2 cellules

infos.Range("K5")
param.Range("D16")

Chacunes définies en nombre avec 4 décimales et je fais un calcul

ratioTx = infos.Range("K5") / param.Range("D16")

Cas 1:
infos.Range("K5") est égal à 1,0000
param.Range("D16") est égal à 10,1

le résultat est correct

ratioTx = 0,0990...

Cas 2:
infos.Range("K5") est égal à 1,0000
param.Range("D16") est égal à 10,2

le résultat est incorrect

ratioTx = 9,803...

c'est à dire 100 fois trop grand

[Promethee25]

Bonjour,

Tu obtiens 9,80392156862745E-02 avec E-02 qui veut dire

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

* 10^-2

donc tout est ok.


https://fr.wikipedia.org/wiki/Virgule_flottante

[retraite83]

Bonjour et merci pour cette précision,

j'ignorai totalement ce fonctionnement dans les calculs, c'est pourtant tellement important.

Je n'ai pas fini d'apprendre..