Discussion :

[lacombefr]

Bonjour,


Je ne sais pas encore comment faire pour que SQL Server me calcule correctement cette simple opération..

Si je fais :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT 0.065 / 0.001;

là ça fonctionne, ça me donne bien 65

Mais le problème est que je suis dans une procédure stockée et que le 0.065 est stockée dans du texte que je dois caster en real.

J'ai donc quelque chose comme :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
DECLARE @val varchar(max);
SET @val = '0.065';
 
SELECT CAST(@val AS real) / 0.001;

Et là voila, j'obtiens 64.999999 au lieu de 65.

Comment faire ?

D'avance merci beaucoup pour toute aide

[NokyDaOne]

Bonjour,


Je ne sais pas encore comment faire pour que SQL Server me calcule correctement cette simple opération..

Si je fais :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT 0.065 / 0.001;

là ça fonctionne, ça me donne bien 65

Mais le problème est que je suis dans une procédure stockée et que le 0.065 est stockée dans du texte que je dois caster en real.

J'ai donc quelque chose comme :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
DECLARE @val varchar(max);
SET @val = '0.065';
 
SELECT CAST(@val AS real) / 0.001;

Et là voila, j'obtiens 64.999999 au lieu de 65.

Comment faire ?

D'avance merci beaucoup pour toute aide

Et si tu multiplies par 1000, ça donne pareil ou pas ?

[elsuket]

Bonsoir,

Castez plutôt en NUMERIC ou DECIMAL, qui est un type précis, plutôt qu'en REAL ou FLOAT, qui ne le sont pas

[lacombefr]

Bonjour,

Merci elsuket, ça fonctionne bien decimal

[elsuket]

Avec plaisir