Discussion :

[olibara]

Bonjour

Je suis confronté a un problème d'arrondi
Je ne sais pas si le probleme vient du type de données ou de conversion

Dans une table j'ai deux float
223,92
97,76

Je lis ces float en Csharp / ADO

Je retrouve bien deux float Csharp : 223,92 et 97,76
Je resauve ces données dans une autre table et voici ce que j'obtiens !

Est-il possible d'eviter cela ?

QT TpUnite PrixNet
223,919998168945 M2 9,76000022888184


Merci de votre aide

[elsuket]

Bonjour,

Je soupçonne fort une différence de mantisse entre le type float de C# et le type float de SQL Server.

Regardez la table suivante : je crois qu'il faudrait que vous utilisiez un Double en C# ...

Notons au passage que le type de données float de SQL Server n'est pas un type de données précis.
Il vaut mieux donc utiliser le type numeric ou decimal.

En revanche je ne comprend pas d'où vient la différence entre 97,76 et 9,76000022888184 (divisé par un peu plus 10 ?)

@++

[olibara]

En revanche je ne comprend pas d'où vient la différence entre 97,76 et 9,76000022888184 (divisé par un peu plus 10 ?)
@++

Sans doute une difference d'exposant sur mon clavier

Merci Elsuket et merci pour ce tableau,

Je vais travailler en double dans C#

[elsuket]

A votre place :

- Je changerai le type des deux colonnes vers numeric ou decimal : une quantité et un prix sont des valeurs précises

- Je changerai le type de données C# en conséquence pour utiliser Decimal, comme indiqué par la table

@++

[SQLpro]

- Je changerai le type des deux colonnes vers numeric ou decimal : une quantité et un prix sont des valeurs précises

Pour un prix oui, mais pas pour une quantité.
Par exemple si la "quantité" est au litre ou au poids et que vous achetez de l'or ou du safran, les décimales feront toutes la différence !!!!!

A +

[SQLpro]

Notons au passage que le type de données float de SQL Server n'est pas un type de données précis.

Mais c'est normalisé !

Il vaut mieux donc utiliser le type numeric ou decimal.

En revanche je ne comprend pas d'où vient la différence entre 97,76 et 9,76000022888184 (divisé par un peu plus 10 ?))

Problème récurent dux aux IHM (notamment VB) et à divers paramétrages (style régionale.....).

A +

[hmira]

Bonjour,
[...]
Notons au passage que le type de données float de SQL Server n'est pas un type de données précis.
Il vaut mieux donc utiliser le type numeric ou decimal.
[...]

C'est une idée fausse assez répondue de dire que le type float n'est pas précis. Tout dépend de l'utilisation que l'on fait. Ci-dessous un exemple où le type float s'avère plus précis !

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
DECLARE @float1 float, 
        @float2 float, 
        @float3 float,
        @float4 float;
 
SET @float1 = 145;
SET @float2 = 0.07;
SET @float3 = @float1/@float2;
SELECT @float3 / @float1 * @float2  AS "Doit être égale à 1";

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
Résultat : 
Doit être égale à 1
1

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
DECLARE @decimal1  decimal(12,4),
        @decimal2  decimal(12,4),
        @decimal3  decimal(12,4),
        @decimal4  decimal(12,4); 
 
SET @decimal1 = 145;
SET @decimal2 = 0.07;
SET @decimal3 = @decimal1/@decimal2;
SELECT @decimal3 / @decimal1 * @decimal2  AS "Doit être égale à 1";

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
Résulat 
Doit être égale à 1
1.00000001379310345

Je ne veux surtout pas dire qu'il faut utiliser le type float au lieu de décimal, ni l’inverse. Chacun des 2 types a son utilité. le type float peut être un bon choix pour les calculs scientifiques puisqu'il permet des mesures aussi proche de la réalité (plus précis !). le type decimal peut être approprié pour les chiffres ayant un nombre fixe de décimal tels que les montants exprimés en devise.

Autre chose, transformer un type float en décimal est légitime et cela peut être un bon choix en rapport avec l’utilisation que vous en faites, mais attention, ce n'est pas transparent pour votre application. Je veux dire que ce n'est pas anodin et que cela peut générer des erreurs et des régressions dans votre application.

Exemple :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
DECLARE @decimal1 decimal(8,4), @decimal2 decimal(8,4), @decimal3 decimal(8,4);
SET @decimal1 = 47;
SET @decimal2 = 0.002;
SET @decimal3 =  @decimal1 / @decimal2;
SELECT @decimal3 / @decimal1 * @decimal2 AS "Doit être égale à 1";

Résulat :
Msg*8115, Niveau*16, État*8, Ligne*4
Une erreur de dépassement arithmétique s'est produite lors de la conversion de numeric en type de données numeric.

alors qu'en utilisant le type float le programme ne générait aucune erreur !

A+

[olibara]

Bon !

Et bien merci pour ces enseignement !

je vais donc maintenant me battre pour essayer de trouver la meilleure combinaison possible afin de stocker en DB des quantité a 4 décimale et des valeurs a deux decimales et manipuler celles ci correctement en C#

Ca ne semble hélas pas trivial mais d'apres ce que je comprends le bon choix serait peut etre de travailler en Decimal des deux cotés (Sql Server et C#)

Personnelement je n'ai jamais travaillé en Décimal qui me semblait un type batard par raport au double ou au float !

[elsuket]

Pour ma part je n'utilise ni float (aucun calcul scientifique dans l'application sur laquelle je travaille) et surtout jamais le pseudo-type money, qui lui par contre produit des erreurs de calcul bien connues.

@++

[olibara]

Bonjour Elsuket
Effectivement j'avais déja constaté que Money est a proscrire
Par contre quand je suis en C# j'utilise généralement les doubles

Que me conseillerais tu en définitive pour assurer un bon dialogue avec SQL Server ?
decimal partout ?