Discussion :

[Sleepy_Ash]

Bonjour,

je suis débutant en Caml et j'utilise le système interprété d'OCaml (version 4.01.0).

Voici mon problème :

Je fais simplement 42.456 -. 42.0, je devrais donc obtenir 0.456 !

Merci à la personne qui saura me dire d'où vient ce problème de précision, et comment y remédier si c'est possible :)

[SpiceGuid]

Effectivement :

Code OCaml :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
 
# 1. /. 3.;;
- : float = 0.33333333333333331
# 42.456 -. 42.;;
- : float = 0.45600000000000307

Alors que la calculatrice de Windows XP résulte bien 0.456 pour la même opération.
Le type float ocaml est le type IEEE double précision 64 bits.
Or les cpu x86 possèdent (également) un type float étendu à 80 bits.
C'est (peut-être) ce qui explique la différence.
Ou bien alors la calculatrice Windows affiche juste moins de digits.

• OCaml peut-il utiliser le type x86 étendu à 80 bits ? Non, pas à ma connaissance.
• Il y a plusieurs solutions pour atteindre la précision souhaitée si elle est nécessaire.

Utiliser un type entier ou entier long (exemple avec Int64) :

Code OCaml :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
 
# Int64.sub 4245600000000000000L 4200000000000000000L;;
- : int64 = 45600000000000000L

Utiliser le type entier de précision arbitraire Num.num :

Code OCaml :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
# #load "nums.cma";;
# open Num;;
# (num_of_string "4245600000000000000") -/ (num_of_string "4200000000000000000");;
- : Num.num = Big_int <abstr>

Sinon il reste la possibilité d'utiliser un binding Multi-Precision.

[Sleepy_Ash]

Merci pour cette réponse très précise !
Sujet résolu

[SpiceGuid]

Dans la plupart des cas on n'a pas besoin d'une précision arbitraire.
Alors qu'est-ce qu'on fait d'un flottant comme 0.45600000000000307 ?
Hé bien on fait comme on ferait en C : on le castre en limitant sa précision à l'aide de Printf.printf.

Code OCaml :

Sélectionner tout - Visualiser dans une fenêtre à part

Printf.printf "%.2f\n" (42.456 -. 42.);;

Où %f signifie qu'on affiche un float en notation décimale et .2 signifie qu'on affiche seulement 2 décimales après la virgule.
Deux décimales ça suffit pour des valeurs monétaires où on ne s'intéresse qu'aux centimes.
Pour d'autres applications on peut désirer davantage de décimales.

avertissement: depuis la version ocaml 4.0 il y a eu un changement dans les paramètres d'affichage formatés.
Du coup je ne suis pas certain que mon Printf.printf "%.2f" soit le dernier truc cool à la mode gadt. Si quelqu'un a une alternative plus fun qu'il se fasse un plaisir de nous la faire connaître, merci d'avance.

[Sleepy_Ash]

En tout cas, l'affichage formaté fonctionne bien sous ma version 4.01.0. Merci encore :)