Discussion :

[yoann1989]

Bonjour à tous,

Je développe actuellement à l'aide de MATLAB et je me suis rendu compte d'un phénomène assez bizarre. Lorsque je vais lire dans un fichier binaire une valeur de type float (codé sous 4 octet), la valeur qui est retourné n'est pas tout à fait correcte.

exemple : Dans mon fichier binaire la valeur 401.2 est enregistrée et lorsque je la récupère avec MATLAB j'obtiens 401.19999999 ou 401.200000001.

Pourriez-vous m'expliquer d'où vient le problème ?

Je vous remercie,
Yoann

[ol9245]

les floats n'ont pas une grande précision.
Par exemple, le nombre qui suit 1 est 1,00000012.
Pour résoudre le problème, tu peux arrondir tes nombres à 7 chiffres significatifs

[Jerome Briot]

Et pour plus d'information : Pourquoi 0.3-0.2-0.1 est-il différent de 0 ?

Par exemple :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
>> sprintf('%.8f',single(401.2))
 
ans =
 
401.20001221
 
>> sprintf('%.15f',double(401.2))
 
ans =
 
401.199999999999990

[yoann1989]

je vous remercie pour ces informations. Je vais effectuer un arrondi qui me garantira la précision des données.

Merci beaucoup,

Yoann

[FR119492]

Salut!
La formation d'un informaticien devrait obligatoirement inclure la norme IEEE 754. En as-tu déjà entendu parler?
Jean-Marc Blanc

[yoann1989]

Malheureusement non car je n'ai pas eu une formation informatique mais je peux t'assurer que j'irai voir de quoi il en retourne.

Désolé si tu as trouvé ma question d'une idiotie sans limite