Discussion :

[f.le.chat]

Bonjour.
J'ai remarqué une bizarrerie lors d'une utilisation de la fonction SUM().
J'ai une vue qui affiche le SUM() d'une colone de type real, seulement quand je regarde le résultat, les décimales s'embalent et donnent des résultat avec des chiffres abérants. Par exemple au lieu d'obtenir 7,2 comme résultat, j'ai 7,19999980926514.
En cherchant un peu j'ai découvert que SUM() renvoyait une valeur de type float. Le problème viendrait il de la conversion real -> float ?
Je n'y comprends rien du tout alors si quelqu'un pourait m'expliquer svp.
Merci d'avance.

[KiLVaiDeN]

Salut,

Les operations sur les float ou les reels conduit TOUJOURS à une imprecision sur les décimales; normal, car les nombres de ce type sont stockés "à perte" en mémoire, par là je veux dire que jamais tu n'as la valeur exacte ( composé d'une infinité de décimales ) en mémoire.

Il faut donc procéder à un arrondi, un ceil ou un floor, en fonction des besoins de ton applications.

A+

[f.le.chat]

Mais si je fait un CEIL ou un FLOR je perds mes décimales or dans ce champ je rentre des prix (avec des centimes donc), il m'est donc impossible de 'perdre' ces décimales.

[KiLVaiDeN]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

round

[f.le.chat]

J'ai testé autre chose, j'ai fait un CAST de la somme en type real -> CAST(SUM(col) AS real) et j'arrive a une valeur exacte (je n'ai pas controlé tout les enregistrements, il y en a trop).
D'apres toi est-ce judicieux de faire cela ou vaut-il mieux utiliser ROUND comme tu l'a suggéré ?

[KiLVaiDeN]

Je n'en sais rien, désolé, mais en terme de performance, je ne pense pas qu'il y ait grande différence, étant donné que tu appliques le CAST sur un SUM ( donc il ne sera appliqué qu'une fois ).

Par contre, si tu faisais la même chose dans une requête... Je pense que ça serait lent...

A+

[f.le.chat]

Bon je vais faire plusieurs essai pour voir les différences.
En tout cas je te remercie pour tes réponses plus que rapides
Bon WE.