Discussion :

[Kyles]

Bonjour,

Problème rencontré
Je cherche à résoudre le problème suivant.
J'ai crée un procédure stockée qui retourne une valeur décimal(9,3) @stat en output.

le calcul suivant est effectué :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
DECLARE
@param1 decimal(9,3) = 76.000,
@param2 decimal(9,3) = 1338.000,
 
set @stat = @param1 / @param2

La valeur retournée en output est arrondie ou tronquée..:

Output Parameter(s): @stat = 0

la valeur obtenue est 0 au lieu de 0.57

le plus étrange est d'executer cette commande

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

select @stat

juste après le

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

 set @stat = @param1 / @param2

la valeur affichée est .057

Cette valeur est passée en ouput car elle est récupérée de cette manière en c#

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

stat = (decimal)db.GetParameterValue(dbCommand, "@Stat");

question :

Y 'a t'il un moyen de forcer sql server à retourner la valeur exacte en ouput?
Pour information j'ai essayé avec d'autres type de données (float,double etc..)

merci d'avance pour vos réponses.

[ZERS]

Bjr,

Quand tu exécutes ta PS directement, le résultat est arrondi ?
Car voici ce que j'ai fait, et si j'appelle la SP, ca marche parfaitement (sous sqlserveur 2000):

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
--APPEL DE LA SP
declare @resu decimal(9,3)
exec sp_decimal @resu output
select @resu

--RESU :
2.842


--CODE DE LA SP
CREATE PROCEDURE sp_DECIMAL @resu decimal(9,3) output  AS
BEGIN

declare @val1 decimal(9,3)
declare @val2 decimal(9,3)

set @VAL1 = 12344.55
set @VAL2 = 4343.090

set @resu= @val1/@val2

END
GO

[Kyles]

Merci Zers pour ta réponse.

La solution à ce problème est vraiment plus qu'étrange.

j'ai changé l'ordre des paramètres de sortie


Merci encore !