[sqlserver2k8 ]différence de somme [Résolu]

[AJ_ing]

Bonjour,

J'ai un problème dont je trouve pas d'explication ,
je calcule une somme en sql comme suit:

Code :

1
2
3
4
5
6
 
SELECT 0.139384138629511 + 
0.487389830266509 + 
0.343476077970488 + 
0.00000259421522959 + 
0.0297473589182614

j'obtiens 0.99999999999999899

Alors en excel avec les mêmes chiffres j'obtiens le total de 1.

Je dois avoir en sql un total de 1 pour que mon calcul soit juste en global.
Je dois prendre en sql le chiffre en totalité de ses chiffres après la virgule.
les valeurs en sql sont de type nvarchar je les converti en float pour mon calcul.

Je comprends pas ou est le problème pourquoi sql retourne 0.99999 et non pas 1, quel type de données à mettre.

Merci de m'aider .

[elsuket]

Bonjour,

les valeurs en sql sont de type nvarchar je les converti en float pour mon calcul.

D'une part les valeurs ne devraient pas être stockées en nvarchar pour deux raisons :
- ce type est conçu pour stocker des chaînes de caractères, et non pas des valeurs décimales
- le fait d'utiliser nvarchar utilise Unicode, ce qui fait que tout caractère utilise 2 octets.
Or comme les chiffres ne sont pas des caractères non-latins, il n'y a aucun intérêt à les stocker en Unicode.
Pour stocker une chaîne qui ne contiendra que des caractères de l'alphabet latin et/ou des chiffres, on utilise varchar, qui utilise ASCII et donc un seul octet par caractère.

D'autre part le type float n'est pas, comme son nom l'indique, un type de données précis, ce qui explique l'imprécision que vous obtenez.
Vous devez donc pour cela utiliser le type decimal :

Code :

1
2
3
4
5
6
7
DECLARE @a decimal(18,17) = 0.139384138629511
	, @b decimal(18,17) = 0.487389830266509
	, @c decimal(18,17) = 0.343476077970488
	, @d decimal(18,17) = 0.00000259421522959
	, @e decimal(18,17) = 0.0297473589182614
 
SELECT @a + @b + @c + @d + @e

Lisez le sujet suivant

Qui lui non plus de retourne pas 1 mais une valeur très proche de 1.
Je ne sais pas quel est le nombre d'octets qu'Excel utilise pour effectuer des calculs avec des nombres décimaux à large mantisse, mais ce ne doit pas être les 9 octets que j'utilise dans l'exemple.

@++

[SQLpro]

Excel ne trouve pas non plus 1 dans ce calcul, mais arrondit à 1 en fonction de la cosmétique que vous avez donné à ce champs, ce qui est plus pervers !!!!!!!
http://www.developpez.net/forums/att...1&d=1310895784
Bref, apprenez à vous servir d'Excel avant de mettre en doute SQL Server !

A +

[hmira]

A propos du lien
Suivant

je viens d'y rajouter une couche ! et remercie elsuket pour ses investigations et contributions sur ce sujet.

A+