IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Mathématiques Discussion :

comment obtenir un polynome de regression


Sujet :

Mathématiques

  1. #1
    Candidat au Club
    Inscrit en
    juin 2003
    Messages
    3
    Détails du profil
    Informations forums :
    Inscription : juin 2003
    Messages : 3
    Points : 2
    Points
    2
    Par défaut comment obtenir un polynome de regression
    bonjour a tous,
    voila j'ai des données et j'aimerais pouvoir faire passer un polynome de degres n ( dans un premiertemp de degres 2) qui passe le plus pres possible de tous les points.
    je sais le faire pour une droite ( avec la droite de regression linéaire) mais je n'ai aucune idée de la maniere avec laquelle je dois m'y prendre pour un degres superieur... je connais bien les interpolateurs de Lagrange mais je ne pense pas que ce soit tres utile :'(.
    bref si quelqu'un a une idée...

    d'avance merci

    Evariste Galois
    Evariste Galois

  2. #2
    Membre actif
    Profil pro
    Inscrit en
    juillet 2003
    Messages
    304
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : juillet 2003
    Messages : 304
    Points : 253
    Points
    253
    Par défaut
    OUPS
    TOUT CE QUI EST VRAISEMBLABLE N'EST PAS FORCEMENT VRAI . MEFIEZ VOUS

  3. #3
    Futur Membre du Club
    Profil pro
    Inscrit en
    juillet 2003
    Messages
    6
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations forums :
    Inscription : juillet 2003
    Messages : 6
    Points : 6
    Points
    6
    Par défaut
    Si ton système est linéaire => interp. polynômiale

    - choisis n+1 points x0, x1, ... , xn
    - calcule y0 = f(x0), y1 = f(x1), ... , yn = f(xn)
    - cherche un polynôme de degré n tel que Pn(xi) = yi avec i = 0 , 1 , ... , n
    de la forme P(x) = anx^n + ... + a0

    Puisque tu connais Lagrange, utilise les coeff d'interpolation, sachant que
    P(x) = y0L0(x) + y1L1(x) + ... + ynLn(x) = Sum [ ykLk(x) ]

    Sinon transpose sous forme matricielle (type Vandermonde) et résous...

    Bon courage.

    Ps : ton nick est bien choisi !
    Les ordinateurs sont inutiles. Ils ne savent que donner des réponses...

  4. #4
    Membre confirmé
    Avatar de grishka
    Inscrit en
    janvier 2003
    Messages
    285
    Détails du profil
    Informations forums :
    Inscription : janvier 2003
    Messages : 285
    Points : 460
    Points
    460
    Par défaut
    le problème est de choisir le degrès de son polynome quel que soit le nombre de points or le polynome interpolateur de Lagrange est de degrès n pour n+1 points....

    Si tu veux commencer par du degrès 2 ou 3, regardes du coté des splines : ce sont des courbes polynomiales par morceau (degrès 2 ou 3 le plus souvent, mais tu peux généraliser). Je pense notament aux courbes de Hermite qui se calculent matriciellement.
    Sinon pour trouver le polynome de degrès n qui minimise la distance aux points, c'est un problème d'optimisation qui ne doit pas être différent de la régression linéaire sauf dans la complexité des calculs. Regarde du coté de la régression polynomiale...
    "Les gens normaux croient que si ca marche, c'est qu'il n'y a rien à reparer. Les ingénieurs croient que si ca marche, c'est que ca ne fait pas encore assez de choses."
    --Scott Adams

  5. #5
    Membre habitué
    Homme Profil pro
    Développeur en systèmes embarqués
    Inscrit en
    mai 2002
    Messages
    114
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 40
    Localisation : France

    Informations professionnelles :
    Activité : Développeur en systèmes embarqués

    Informations forums :
    Inscription : mai 2002
    Messages : 114
    Points : 153
    Points
    153
    Par défaut
    Lagrange te permet d'obtenir une erreur nulle en chaque point d'interpolation. En revanche c'est vrai que le degré de ton polynome est régi par le nombre de point que tu as. Tu peux chercher du côté des polynomes de Bezel aussi...

  6. #6
    Candidat au Club
    Inscrit en
    juin 2003
    Messages
    3
    Détails du profil
    Informations forums :
    Inscription : juin 2003
    Messages : 3
    Points : 2
    Points
    2
    Par défaut
    je me permet d'aporter une petite precision...

    en faite j'ai par exemple 50 points et je desire faire passer un unique polynome de degres 2 le plus pres possible de tous c'est point ... je cherche une methode car la je rame c'est horrible..... j'ai entendu parler de la methode des moindre carrées mais je ne trouve rien de bien sensationnelle (sur le net en tous cas) alors si quelqu'un la connais ou peut me tuyeuter dessus ou une methode comparable.....
    Merci pour vos reponses :-) :-)

    Evariste Galois
    Evariste Galois

  7. #7
    Membre confirmé
    Avatar de grishka
    Inscrit en
    janvier 2003
    Messages
    285
    Détails du profil
    Informations forums :
    Inscription : janvier 2003
    Messages : 285
    Points : 460
    Points
    460
    Par défaut
    méthode polynomiale avec la méthode des moindres carrés :

    soit ton ensemble de points (xi, yi) et un polynome modèle p(x) = ax²+bx+c

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    soit S = som( [yi - p(xi)]² ) le carré de la norme
     
    => S(a,b,c) = som( [yi - (axi²+bxi+c)]² )
    (a,b,c) tel que S(a,b,c) minimale? résoudre le système :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    dS/da = 0
    dS/db = 0
    dS/dc = 0
    donc :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    som(-2yixi^2+axi^4+bxi^3+cxi^2) =0
    som(-2yixi + axi^3+bxi^2+cxi) = 0
    som(-2yi+axi^2+bxi+c)=0
    donc :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    |som(xi^4) som(xi^3) som(xi^2)|  |a|    |2*som(yixi²)|
    |som(xi^3) som(xi^2) som(xi)   |*|b| = |2*som(yixi) |
    |som(xi^2) som(xi)     som(1) |  |c|    |2*som(yi)    |
    soit :
    M*X = Y

    un petit pivot de gauss et le tour est joué...Vérifie les calculs quand même....

    PS : La méthode est facilement adaptable à n'importe quel degrès de polynome modèle
    PS2 : est-ce forcément LE minimum? il faudrait calculer la signature de S(a,b,c) qui est une forme quadratique... je laisse le faire...
    "Les gens normaux croient que si ca marche, c'est qu'il n'y a rien à reparer. Les ingénieurs croient que si ca marche, c'est que ca ne fait pas encore assez de choses."
    --Scott Adams

  8. #8
    Membre confirmé
    Avatar de grishka
    Inscrit en
    janvier 2003
    Messages
    285
    Détails du profil
    Informations forums :
    Inscription : janvier 2003
    Messages : 285
    Points : 460
    Points
    460
    Par défaut
    j'chuis c** S est une norme donc forcément définie positive, et la signature est (3,0) (vive la France) donc c'est un minimum!
    "Les gens normaux croient que si ca marche, c'est qu'il n'y a rien à reparer. Les ingénieurs croient que si ca marche, c'est que ca ne fait pas encore assez de choses."
    --Scott Adams

  9. #9
    Membre habitué Avatar de Metal Tom
    Profil pro
    Inscrit en
    avril 2003
    Messages
    119
    Détails du profil
    Informations personnelles :
    Âge : 39
    Localisation : France

    Informations forums :
    Inscription : avril 2003
    Messages : 119
    Points : 129
    Points
    129
    Par défaut
    Il y a eu un post récemment sur l'interpolation.
    Tom

  10. #10
    Candidat au Club
    Inscrit en
    juin 2003
    Messages
    3
    Détails du profil
    Informations forums :
    Inscription : juin 2003
    Messages : 3
    Points : 2
    Points
    2
    Par défaut
    j'chuis c** S est une norme donc forcément définie positive
    errare humanum est.... et qui plus est l'erreur etait négligeable devant toute l'information que tu as distillé vu que j'ai la methode et si je veux je peux faire passer une autre fonction dutype ln ou sin ;-)....
    encore merci...... :-)
    Evariste Galois

  11. #11
    Nouveau Candidat au Club
    Profil pro
    Inscrit en
    septembre 2006
    Messages
    1
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : septembre 2006
    Messages : 1
    Points : 1
    Points
    1
    Par défaut c'est pour faire de la prévision de cours de bourse?
    c'est pour faire de la prévision de cours de bourse?

  12. #12
    Membre éclairé
    Inscrit en
    juin 2005
    Messages
    637
    Détails du profil
    Informations professionnelles :
    Secteur : Industrie

    Informations forums :
    Inscription : juin 2005
    Messages : 637
    Points : 740
    Points
    740
    Par défaut
    J'ai fournis des source codes pour résoudre du moindres-carrés et faire des fits polynômiaux sur ce même forum. Cette discussion a été initialisée le
    28/10/2005
    sous le nom
    Méthode d'interpolation a partir dune série de valeurs
    On résoud exactement ce problème par plusieurs technique dont celle citée ci-dessus

    Lien:
    http://www.developpez.net/forums/showthread.php?t=63949

  13. #13
    Membre éprouvé Avatar de Nemerle
    Inscrit en
    octobre 2003
    Messages
    1 106
    Détails du profil
    Informations personnelles :
    Âge : 50

    Informations forums :
    Inscription : octobre 2003
    Messages : 1 106
    Points : 1 199
    Points
    1 199
    Par défaut
    Quelques remarques supplémentaires:

    1. Si les différentes valeurs de ta séquence sont "peu" nombreuses, tu peux utiliser l'algorithme de Berlekamp-Massey (il n'y a pas "mieux")

    2. Effectivement, en fct de ce que TU cherches, ton modèle choisira l'algo. le + approprié: Neville, NURBS, Aitken... ou les classiques Lagrange, Chebyshev, Newton...

    Donc à toi de définir ce que tu veux (par exemple, si tu te fous du comportement aux extremes, si tu veux minimiser les variations entre 2 pts consécutifs...)
    Nemerle, mathématicopilier de bars, membre du triumvirat du CSTM, 3/4 centre

  14. #14
    Membre averti Avatar de Razgriz
    Profil pro
    Professeur / chercheur en informatique / mathématiques
    Inscrit en
    avril 2006
    Messages
    391
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Professeur / chercheur en informatique / mathématiques

    Informations forums :
    Inscription : avril 2006
    Messages : 391
    Points : 304
    Points
    304
    Par défaut
    euh j'ai un stress je résous à la main et j'ai pas la même chose que toi :
    (je suppose qu'on ait des données xi, yi avec i = 0 ... n )
    et qu'on cherche le pol de degré k = sum[0<= j <= k] (aj * x^j)

    Rq : sum[i] (f(x)) = sum[0 <= i <= n] f(f(x))

    Après
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
     
    dS/da = 0
    dS/db = 0
    dS/dc = 0
    (ici a = a2, b = a1 et c = a0)

    On a que

    dS/daj = sum[i] ( 2 * ( yi - sum[j](aj * xi^j) ) * (- aj xi^j ) )

    et donc

    dS / daj = -2 aj * sum[i]( ( xi^j ) * ( yi - sum[j](aj * xi^j) ) )

    Ce qui n'est pas ce que tu as écrit.
    Je me trompe peut-être bien sur, si qqn voit une faute, qu'il le dise
    On a toujours besoin d'un plus bourrin que soi

    Oui il y a quelques bugs dans ma librairie de Sécurité, mais les classes postées ne sont pas celles de la dernière version, et j'ai la flemme de tout modifier. Je vous donnerai avec plaisir la dernière version du jar par mp.

  15. #15
    Membre éclairé
    Inscrit en
    juin 2005
    Messages
    637
    Détails du profil
    Informations professionnelles :
    Secteur : Industrie

    Informations forums :
    Inscription : juin 2005
    Messages : 637
    Points : 740
    Points
    740
    Par défaut
    Vous Notez
    dS/daj = sum[i] ( 2 * ( yi - sum[j](aj * xi^j) ) * (- aj xi^j ) )
    ce qui n'est pas correct!

    Prenons un polynôme de degré n coef A0.. An
    et prenons N points (N >= n+1) 1..N
    Sima note implicitement Sigma ( p=0 à n )
    Somme note implicitement Somme ( i=1 à N )

    On minimise
    R = Somme [( Yi - Sigma(Ap.(Xi)^p) ] ^2
    on souhaite donc que
    @R/@aq=0 pour tout q=0..n

    @R/@Aq = 2 * Somme [( Yi - Sigma(Ap.(Xi)^p) * ( -Xi^q) ] =0
    =>
    Somme [( Yi - Sigma(Ap.(Xi)^p) * Xi^q) ] =0
    =>
    Somme ( Yi * Xi^q) ] =Somme [ Sigma(Ap.(Xi)^(p+q) ]
    =>
    Somme ( Yi * Xi^q) ] =Sigma [ Ap * Somme ((Xi)^(p+q)) ]

    Ce qui est bien un système de Kramer de n+1 équations à n+1 inconnues avec

    M*A = B

    Bq = Somme ( Yi * Xi^q) ] q=0..n
    Mpq= Mqp = Somme ((Xi)^(p+q)) p,q = 0..n,0..n

    Bien entendu, il est préférable de faire une homotétie pour ramener X dans [1,2] et corriger en conséquence la solution. Si non, Somme ((Xi)^(p+q))
    peut devenir gigantesque!

  16. #16
    Membre averti Avatar de Razgriz
    Profil pro
    Professeur / chercheur en informatique / mathématiques
    Inscrit en
    avril 2006
    Messages
    391
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Professeur / chercheur en informatique / mathématiques

    Informations forums :
    Inscription : avril 2006
    Messages : 391
    Points : 304
    Points
    304
    Par défaut
    OK désolé pour la faute
    Pouvez-vous donner une forme explicite sous forme matricielle du système?
    (Et ne me vousvoyez pas, je suis pas prof lol )
    On a toujours besoin d'un plus bourrin que soi

    Oui il y a quelques bugs dans ma librairie de Sécurité, mais les classes postées ne sont pas celles de la dernière version, et j'ai la flemme de tout modifier. Je vous donnerai avec plaisir la dernière version du jar par mp.

  17. #17
    Membre éclairé
    Inscrit en
    juin 2005
    Messages
    637
    Détails du profil
    Informations professionnelles :
    Secteur : Industrie

    Informations forums :
    Inscription : juin 2005
    Messages : 637
    Points : 740
    Points
    740
    Par défaut
    1- Vous demandez:
    Pouvez-vous donner une forme explicite sous forme matricielle du système?

    Je ne comprends pas:
    j'ai écrit

    M*A = B
    Bq = Somme ( Yi * Xi^q) ] q=0..n
    Mpq= Mqp = Somme ((Xi)^(p+q)) p,q = 0..n,0..n

    Ce qui est exactement la réponse à votre question.
    précisons peut-être M matrice carrée (n+1)X(n+1), B matrice colonne (n+1)
    A matrice colonne (n+1) représentant les inconnues du système

    2- J'avais donné du source code pour résoudre ce système:
    voir
    http://www.developpez.net/forums/showthread.php?t=63949

  18. #18
    Nouveau Candidat au Club
    Profil pro
    Inscrit en
    janvier 2007
    Messages
    1
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : janvier 2007
    Messages : 1
    Points : 1
    Points
    1
    Par défaut
    Et si x(i) est un vecteur de dimension d (pas scalaire), comment on peut transformer des variables x(i) de d-dimensions a 1-dimension ? , vecteurs x(i) contient d variables sous la distribution Normal(0,1)

    Merci bcp
    VD

    Citation Envoyé par Grégory Picavet
    méthode polynomiale avec la méthode des moindres carrés :

    soit ton ensemble de points (xi, yi) et un polynome modèle p(x) = ax²+bx+c

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    soit S = som( [yi - p(xi)]² ) le carré de la norme
     
    => S(a,b,c) = som( [yi - (axi²+bxi+c)]² )
    (a,b,c) tel que S(a,b,c) minimale? résoudre le système :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    dS/da = 0
    dS/db = 0
    dS/dc = 0
    donc :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    som(-2yixi^2+axi^4+bxi^3+cxi^2) =0
    som(-2yixi + axi^3+bxi^2+cxi) = 0
    som(-2yi+axi^2+bxi+c)=0
    donc :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    |som(xi^4) som(xi^3) som(xi^2)|  |a|    |2*som(yixi²)|
    |som(xi^3) som(xi^2) som(xi)   |*|b| = |2*som(yixi) |
    |som(xi^2) som(xi)     som(1) |  |c|    |2*som(yi)    |
    soit :
    M*X = Y

    un petit pivot de gauss et le tour est joué...Vérifie les calculs quand même....

    PS : La méthode est facilement adaptable à n'importe quel degrès de polynome modèle
    PS2 : est-ce forcément LE minimum? il faudrait calculer la signature de S(a,b,c) qui est une forme quadratique... je laisse le faire...

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. Comment obtenir le fps ???
    Par olive-sjs dans le forum OpenGL
    Réponses: 2
    Dernier message: 25/02/2004, 07h32
  2. Comment obtenir le nom d'un pc sur un réseau?
    Par Depteam1 dans le forum MFC
    Réponses: 2
    Dernier message: 19/02/2004, 10h17
  3. Réponses: 5
    Dernier message: 18/01/2004, 16h25
  4. Comment obtenir l'heure du serveur avec flash ?
    Par Michaël dans le forum Flash
    Réponses: 9
    Dernier message: 23/12/2003, 17h50
  5. Comment obtenir la liste des paramètres d'une SP ?
    Par Le Gritche dans le forum MS SQL Server
    Réponses: 2
    Dernier message: 14/03/2003, 16h54

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo