Probleme d'imprecision avec FLOAT

Salut,

Dans une GUI je recupere un champ float d'une table qui contient: -58.89
Pour l'extraire je fais un bete SELECT:

Code:

---

1 2 3 4 5 6 7 8

SELECT Id , Value FROM MaTable WHERE Id = @Id

---

Ca me retourne: -58.890000000000001

Les probleme c'est que dans la GUI, l'utilisateur peut ajuster cette valeur et dans certains cas l'annuler en saisissant l'inverse. La valeur finale etant donc la valeur initiale plus la somme des ajustements. Donc mon gentil user va voir ca, va copier/coller et changer le signe puis valider.
Ceci va me donner une erreur infime sur le total (genre 1e-16) mais une erreur quand meme qui va faire que je ne pourrais pas tester "valeur = 0.0".

Comment puis je faire pour empecher SQL server de me retourner toutes ces decimales sans arrondir la valeur et quelle que soit la precision du nombre concerne ?

Merci d'avance !!

Bonjour,

float et real sont des valeurs approchées. Il n'y a aucune garantie en SQL Server de consistance dans les opérations sur ces types. Utilise des decimal à la place.

Mais je perds en precision si je cast en decimal non ?

Il n'y a aucune précision quoi que tu fasses avec un float, la valeur est approchée. Citation des BOL :

Citation:

---

Types de données approximatives à utiliser avec des données numériques à virgule flottante. Les données à virgule flottante sont approximatives ; il n'est donc pas possible de représenter précisément toutes les valeurs de ce type de données.

---

http://msdn2.microsoft.com/fr-fr/library/ms173773.aspx

Donc, tu castes comme tu peux dans des nouvelles colonnes de type decimal, et tu arrêtes de travailler avec des float, ce type de données n'est pas fait pour stocker des valeurs fixes.

En ce qui me concerne, j'ai totalement abandonné le float au profit du decimal.

+ 1

Merci :)

mieux vaut tard que jamais ?

:koi: