variance et écart-type avec 12.5 ?

Bonjour !


J'essaye de calculer un écart-type avec la version 12.5

Apparement les fonctions

Citation:

---

Ecart type Select stddev(montant) from...
Variance Select var(montant) from...
Select variance(montant) from...

---

ne fonctionnent pas (source : http://fadace.developpez.com/sgbdcmp/fonctions/#LV)


J'ai donc essayé qqch du genre :

Code:

---

1 2 3 4 5

SELECT O.exec_qty, SUM(O.exec_qty) [sum nb shares], AVG(O.exec_qty) [mean nb shares], sqrt(AVG(power(2,O.exec_qty)) - power(2,avg(O.exec_qty))) [Ecart type] -- V(X) = E(X²) - E(X)²

---

Mais j'ai un overflow, il doit avoir des soucis avec la mise au carré.



Vous connaissez un autre moyen ?

Merci !

Pour éviter le overflow il faut convertir les champs en FLOAT, via convert.

Quelque chose du genre:

Code:

---

1 2 3 4 5

SELECT O.exec_qty, SUM(O.exec_qty) [sum nb shares], AVG(O.exec_qty) [mean nb shares], sqrt(AVG(power(2,O.convert(float, exec_qty))) - power(2,avg(convert(float, O.exec_qty)))) [Ecart type] -- V(X) = E(X²) - E(X)²

---

devrait pouvoir marcher.

Michael

Merci de ta réponse Michael.

Code:

---

Arithmetic overflow occurred.

---

Tant pis je vais faire le calcul sous Business Object.

Ta fonction est fausse surtout ton utilisation de POWER, voilà une solution possible :

Code:

---

1 2 3 4 5 6 7 8 9 10 11

CREATE TABLE test2 (VALEUR int) INSERT INTO test2 (VALEUR) VALUES (1) INSERT INTO test2 (VALEUR) VALUES (13) INSERT INTO test2 (VALEUR) VALUES (15) INSERT INTO test2 (VALEUR) VALUES (20)     SELECT SQRT(AVG(POWER(VALEUR-AVG(CONVERT(float,VALEUR)),2))) FROM test2   Ecart type : 6.97764

---

il faut faire attention a convertir en float avant de faire la moyenne de celui ci sinon le resultat retourner sera tronqué en entier.