Comment améliorer les résultats d'un MLP ?

bonjour,
j'ai créé un MLP pour la prévision ayant comme architecture : 20 entrée, 1 couche cachée à 20 neur et 2 neurones de sortie voilà le code :

Code:

---

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31

clear,clc,close all x=(load ('x.txt')); d=(load ('d.txt')); % Chargement des données x:input , d:sortie désirée xt=(load ('xt.txt')); dt=(load ('dt.txt')); % xt et dt ensemble de test [xn,minx,maxx,dn,mind,maxd]=premnmx(x,d); [xtn,minxt,maxxt,dtn,mindt,maxdt]=premnmx(xt,dt);%assigner les valeurs entre -1 et 1 pr = minmax(xn); % pr est Rx2 est une matrice des valeurs min et max de la matrice xn de dim (RxQ) net = newff(pr, [20 2],{'tansig','tansig'},'traingdm'); % créer a « feed-forward backpropagation network » avec une couche caché de 20 neurones et une couche de sortie avec 2 neurone.   %Specify these parameters:   net.trainParam.epochs=1000; %net.trainParam.goal=0.005 net.trainParam.lr=0.001; %net.trainParam.mc=0.06; net=train(net,xn,dn); % Train a neural network.   %phase de test y=sim(net,xt); y t=postmnmx(y,mindt,maxdt); e=dt-y; e plot(2) plot(dt') hold plot(t','r'); title('Comparison entre valeur actuelle et la prévision') err=[y-dt].^2; mse=mean(err)

---

mais ce qui me gène c'est que la prévision des deux sorties est souvent très différentes des valeurs désirées lors de la phase de test, alors que mon travail ne sera correcte que si je trouve des courbes proches pacequ'il s'agit de prévision de série temporelles

voilà les courbes comparatives que j'obtient :

1- en utilisant le paramètre goal=0.005 et lr=0.001 et mc=0.006

http://moe.mabul.org/up/moe/2009/05/...15150wrnq6.png

2- en utilisant seulement le paramètre lr=0.001

http://moe.mabul.org/up/moe/2009/05/...15430szk69.png

les deux courbes bleue et vertes représentent les deux sorties désirér ( xt) les courbes rouges représentent les sorties prédites.

s'il vous plait comment doit- je procéder pour améliorer la performance de mon réseau? sachant que j'ai augmenter le nbr de neur. caché jusqu'à 100 mais toujours le même problème
merci de m'aider c'est ma première expérience en RN et je galère beaucoup.

cordialement

Bonjour,

pourquoi deux neurones de sortie ? Combien de classes as tu en sortie ?

Il est souvent inutile de mettre trop de neurones dans la couche cachée. La très grande majorité des réseaux de neurones ont une forme pyramidale : Ncaché = (Ninput+Noutput)/a.

Il y a plusieurs explications possibles à ton manque de performances :
- caractéristiques non pertinentes => étudie bien ton problème, comment manipuler ou créer des descripteurs plus performants (pertinents). Donc on est sur un travail en amont de MLP.
- erreurs irréductibles => ben oui, ça arrive. Les réseaux de neurones sont très puissants (aussi puissants que capricieux), mais il ne peuvent modéliser que ce qui ne peut l'être. As tu fait une étude de tes données avant de commencer à travailler (outliers, corrélations, distributions, etc.)? Là on est sur un travail sur les données.
- méthode d'ajustement des poids inadaptée => faut en essayer d'autres. Là on est sur un travail d'architecture.

Bref, il te faut travailler sur ces trois points pour améliorer ton MLP.

Au fait, comment valides tu tes modèles?

bonjour,

merci toto pour votre réponse

en fait mon problème consiste à effectuer une prévision de heure de la pointe et heure du creux de consommation d'électricité pour un jour donné i(c'est pour cette raison que j'ai deux neurones de sortie : 1-->heure_pointe ; 2--->heure_creux)

j'ai choisi comme descripteur :
-heures des pointes des 5 jours passés
--heures des creux des 5 jours passés
---température minimales des 5 jours passés
----températures maximales des 5 jours passé

Citation:

---

As tu fait une étude de tes données avant de commencer à travailler (outliers, corrélations, distributions, etc.)?

---

non je n'ai pas fait juste j'ai constater que l'heure de la pointe varie selon la saison donc elle est necessairement influencée par la température,
mais j'ai maintenant regardé la matrice de correlation entre heures (pointe et creux ) et température j'ai trouvé qu'elle ne sont pas correlés ( coef de l'ordre de 0.3 )
j'ai maintenat regarder la distribution des variable (graphe quantiles-quantiles) mais c'est loin d'être une distribution normale
question svp : comment est-ce que la distribution peut m'aider dans le choix des descripteurs?

- j'ai choisi le retard de 5 jours dans les variables explicatives parce normalement le jour i (pour lequel je doit prévoir l'heure de la pointe et l'heure du creux) représente la même structure (concernant les variables ) que les 5 jours passés. bref .. je ne sais pas si un bon raisonnement.

Citation:

---

- méthode d'ajustement des poids inadaptée => faut en essayer d'autres. Là on est sur un travail d'architecture.

---

en fait j'ai essayé plusieurs fonction d'activation et plusieurs méthode d'apprentissage (en changeant les paramètres de la fonction newff)

Citation:

---

Au fait, comment valide tu tes modèles?

---

pour le moment j'ai seuement fait l'apprentissage sur un échantillon et un test sur un autre (cf le code source) et j'ai regarder les résultats ;
mais normalement je doit utiliser une base avec plus d'exemple.
j'ai lu sur la méthode de validation croisée pour validé le modèle mais je pense que ça prend énormémment de temps!! existe-t il d'autre façon pour valider?

désolée pour avoir posé trop de questions, mais j'ai vraiment besoin de l'aide d'un pro pour réussir mon modèle vu mon manque d'expérince.

Bonsoir,

pour ce qui est des conseils de Pros... euh... comment dire? C'est pas gagné :king:

- si tu sais qu'il y a un rapport avec les températures, je te conseilles fortement d'ajouter au moins une courbe de température. Même si celle-si sera fortement corrélée avec tes descripteurs précédents. Il pourrait peut être même en ressortir que tes descripteurs soient inutiles et qu'utiliser la température suffit.

- En tout cas, je suis plutôt parti de BIEN étudier les descripteurs, vraiment comprendre les finesses du problème, plutôt que de tout donner à un classifieur en se disant : "il est puissant, il se débrouillera".

- Questions qui me passent par la tête
1 => Est ce que ce ne serait pas lié à la météo? ;) Ben oui, selon le temps qu'il fait, la température varie et donc la consommation...
2 => Est ce que tes exemples appartiennent tous à la même région? En fonction de la région, la température n'est pas la même, donc les besoins en chauffage varient. Ce que je veux surtout dire c'est si dans tes exemples tu as des courbes représentant des régions différentes, alors tu auras des erreurs irréductibles.

- 5 jours, pourquoi pas... mais pourquoi pas 7? ou 10? Bref, n'a tu pas un moyen de valider ce choix pour l'instant intuitif et arbitraire. Ne peux tu pas faire une étude des corrélations sur des durées?

- Pour la validation, tu n'as pas le choix. Cela demande plus de calculs, mais il faut valider. La validation croisée c'est bien, mais cela dépend du nombre d'exemple que tu as. D'ailleurs, combien en as tu?

- Pour t'améliorer, je te conseille TRES vivement de lire ce livre. Il est absolument indispensable lorsque l'on souhaite faire du data mining ou tout ce qui est apprentissage ;).

bonsoir,

Citation:

---

pour ce qui est des conseils de Pros... euh... comment dire? C'est pas gagné

---

hélas !!! :cry:
:)

j'ai essayé de considèrer comme discripteurs seulement la température min et max et voilà ce que g obtenu :

http://moe.mabul.org/up/moe/2009/05/...021233ks01.png

(N.B : j'ai essayé de changer les paramètres du rés de plusieurs façon, mais toujours la même forme : la courbe de prévision démarre d'une valeurs très inférieure à celle de la courbe réelle)

Citation:

---

Questions qui me passent par la tête
1 => Est ce que ce ne serait pas lié à la météo? Ben oui, selon le temps qu'il fait, la température varie et donc la consommation...

---

oui c'est surement li" à la meteo, parceque je voi que lorsque la saison change, la plage de valeurs des heures de max et min de consommation change aussi, mais j'ai pas pu exprimer ceci par un graphique.

Citation:

---

2 => Est ce que tes exemples appartiennent tous à la même région? En fonction de la région, la température n'est pas la même, donc les besoins en chauffage varient. Ce que je veux surtout dire c'est si dans tes exemples tu as des courbes représentant des régions différentes, alors tu auras des erreurs irréductibles.

---

oui mes exemples sont tous de la même région.

Citation:

---

- 5 jours, pourquoi pas... mais pourquoi pas 7? ou 10? Bref, n'a tu pas un moyen de valider ce choix pour l'instant intuitif et arbitraire. Ne peux tu pas faire une étude des corrélations sur des durées?

---

je me suis aussi posé la même question, mais pas de réponse convainquante
j'ai essayer de regarder le correlogramme (fonction d'autocorrelation) de la serie temporelle des heures de pointes et des creux, et j'ai remarqué qu'il y a un pic chaque les sept jours...mais ce n'est pas une bonne justification de choisir 7 jour non plus !!! parceque tous les coef d'autocorrelation sont significatifs sauf que celui au retard N° 7 , 14, 21 ... est plus grand qu'aux autres.

Citation:

---

D'ailleurs, combien en as tu?

---

j'ai des données jounalière pour 7 ans, que je doit classer entre jour ouvrables et jours férier (et faire l'apprentissage pour chaque type à part)

question : je ne comprends pas encore la difference entre test et validation, est ce que je peut valider mon modèle par les résultats obtenu sur l'ech de test seulement ? est comment le valider c-à-d qu'elle critères?

merci pour le livre, trèèès interessant, mais le pb que j'ai plus de temps, je doit étudier deux autres modèles en plus sue celui là.. je doit déposer mon travail en fin Mai et je n'ai encore aucun résultat fiable :cry:

les graphs que j'ai mis sont pour une base de 16 exemple d'apprentissage et 8 de test, j'ai construit cette petite base juste pour essayer.
mais est ce que le nombres réduits d'exemples peut être la cause des mauvais résultats obtenus??

Citation:

---

Envoyé par tamaris85

les graphs que j'ai mis sont pour une base de 16 exemple d'apprentissage et 8 de test, j'ai construit cette petite base juste pour essayer.
mais est ce que le nombres réduits d'exemples peut être la cause des mauvais résultats obtenus??

---

Rho... :fessee:
Essayons de te faire comprendre ton erreur... le problème... les réseaux de neurones...
Tu as dis que tu as mis 20 entrées (input=20). Admettons que tu aies une couche cachée standard (middle=10) et que tu aies un seul neurones en sortie (Output=1).
Combien de poids as-tu?
Réponse : Input*Middle + Middle*Output = 210.
Dans ce cas tout simple, ton MLP doit ajuster 210 poids, avec seulement 16 cas (instances, individus) :aie: Il faut compter au minimum quatre à cinq fois plus d'instances que de neurones. Sinon => Apprentissage par coeur & ajustement impossible.

Pour ta question, tu choisis un échantillon de travail composé de N individus (plus N est grand, mieux c'est). Tu divises ton échantillon en deux échantillons (apprentissage et validation) => Tu entraînes ton réseau de neurones sur l'échantillon d'apprentissage et tu le teste/valide sur l'échantillon de validation.

Tu as alors plusieurs protocoles de validation possible en fonction du nombre d'individus :
- Validation croisée classique (si N suffisant).
- BootStrap (Idem).
- k-Fold (appelé aussi N-fold out), si ton nombre d'individu est limite (moins de 1000/1500).
- Leave One Out (c'est un k-fold avec k=N) si tu as très peu d'individus (instances), de l'ordre de moins de 400.

oh quelle bétise !!! j'ai voulu m'assurer de la pertinence des descripteurs avant de m'engager dans la construction d'une base énorme, mais ce n'était pas gagné :oops:
ok merci beaucoup Toto pour l'explication.

Bonjour,

attention quand même...
Maintenant que tu vas utiliser des échantillons plus grand, il te faut faire une analyse des données :(
Il faut bien prendre en compte les distributions, les outliers, les corrélations entre tes descripteurs, l'efficacité mono-variables, etc.

oui c'est parti pour l'analyse de donnée !
merci.

bonjour Toto,

Je revient pour te demander de l'aide excuse moi pour ce dérangement:oops:

juste je voulais savoir s'il existe une fonction dans Matlab toolbox pour effectuer une des méthodes de validation dont tu m'a parlé, j'ai cherché pendant les jours passés mais je n'ai rien trouvé.

sinon s'il n'existe pas, est ce que je doit tout programmer ? (c'est presque impossible il ne me reste plus de temps que d'organiser les résultats et préparer le rappot) ou bien est ce qu'il y a un programme déjà implémenter qui puisse effectuer cette tâche?

merci d'avance.
cordialement.

bonjour,

zut, désolé pour le retard, je n'avais pas vu le nouveau message :(
Oui, il y a tout ce qu'il faut dans MatLab : classifieurs et méthode de validation. Mais je ne suis pas un spécialiste de MatLab (voire même je ne n'utilise pas), donc demande dans le forum adapté.