Discussion :

[jarppi]

Bonjour,

je cherche à réaliser un réseau de neurones (indications de l'exercice : 3-4 couches cachées avec "quelques neurones" sur chaque..) permettant la regression non linéaire.
J'ai une liste de points d'entrainements (x,y) et une liste de test (x).
Je suis assez sûre de mon code pour la partie de back propagation, néanmoins mon erreur ne converge pas... J'ai donc quelques questions à propos des différents paramètres du code :

1) il faut fixer les différents paramètres par essais erreurs (nombre de neurones, poids, taux d'apprentissage) mais existe-t'il une méthode plus précise ? Quel paramètre faut il fixer en premier ? ...

2) la formule de mise à jour des poids rattachés aux biais est-elle la même que pour les poids "normaux" ?

3) j'ai mis ma condition de sortie de mon algorithme de back propagation telle que les poids soient "validés" si l'erreur est inférieure à un seuil ou si l'on dépasse un certain nombre de périodes (epochs), mes listes d'entrainement possèdent entre 100 et 500 points, à partir de quelle période peut on etre surs que l'erreur ne convergera pas?

[sambia39]

Bonjour
Je vais essayer d'apporter une petite contribution si cela peut aider.
En vue de vos résultats personnellement je comprends une reconnaissance de surapprentissages et c'est peut être le cas actuel, c'est-à-dire que l'erreur globale est nulle due aux données erronées qui ont été fournies et, de ce fait, on perd complètement en généralisation et comme résultat, on a un surapprentissage.
"Qu'entent vous par, mais existe-t'il une méthode plus précise ? Quel paramètre faut il fixer en premier ? "
En attendant essayer les réseaux de Hopfield mais encore tout dépendant du domaine d'application et il est bien évident qu'il nous manque également beaucoup d'éléments dans le cas de votre exercice. L'exercice en question consiste t'il a détecté le surapprentissage ou autres choses ?
à bientôt

[jarppi]

Bonjour,

Ce que je ne comprenais pas, c'était comment trouver les bons poids, le bon taux d'apprentissage etc.. je pensais qu'il fallait fixer les poids, mais il faut en fait les mettres aléatoirement.

ça a débloquer mon problème, mais merci beaucoup d'avoir répondu