Discussion :

[Mathusalem]

Bonjour !


J'essaye de calculer un écart-type avec la version 12.5

Apparement les fonctions

Ecart type Select stddev(montant) from...
Variance Select var(montant) from...
Select variance(montant) from...

ne fonctionnent pas (source : http://fadace.developpez.com/sgbdcmp/fonctions/#LV)


J'ai donc essayé qqch du genre :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
SELECT 
	O.exec_qty,
	SUM(O.exec_qty)                                           [sum nb shares], 
	AVG(O.exec_qty)                                           [mean nb shares],
	sqrt(AVG(power(2,O.exec_qty)) - power(2,avg(O.exec_qty))) [Ecart type] -- V(X) = E(X²) - E(X)²

Mais j'ai un overflow, il doit avoir des soucis avec la mise au carré.



Vous connaissez un autre moyen ?

Merci !

[mpeppler]

Pour éviter le overflow il faut convertir les champs en FLOAT, via convert.

Quelque chose du genre:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
 
SELECT O.exec_qty, 
SUM(O.exec_qty) [sum nb shares], 
AVG(O.exec_qty) [mean nb shares], 
sqrt(AVG(power(2,O.convert(float, exec_qty))) - power(2,avg(convert(float, O.exec_qty)))) [Ecart type] -- V(X) = E(X²) - E(X)²

devrait pouvoir marcher.

Michael

[Mathusalem]

Merci de ta réponse Michael.

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Arithmetic overflow occurred.

Tant pis je vais faire le calcul sous Business Object.

[timan92]

Ta fonction est fausse surtout ton utilisation de POWER, voilà une solution possible :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
 
CREATE TABLE test2 (VALEUR int)
INSERT INTO test2 (VALEUR) VALUES (1)
INSERT INTO test2 (VALEUR) VALUES (13)
INSERT INTO test2 (VALEUR) VALUES (15)
INSERT INTO test2 (VALEUR) VALUES (20)
 
 
SELECT SQRT(AVG(POWER(VALEUR-AVG(CONVERT(float,VALEUR)),2))) FROM test2
 
Ecart type : 6.97764

il faut faire attention a convertir en float avant de faire la moyenne de celui ci sinon le resultat retourner sera tronqué en entier.