Réseau de neurone apprentissage (génétique éventuellement)
voila, je suis débutant en informatique et j'ai programmé récemment un réseau de neurone(perceptron multi couche)en caml.
Actuellement, l'apprentissage se fait par rétropropagation du gradient(la version la plus simple de l’algorithme) :
mon réseau fonctionne mais j'aimerais trouver une "meilleure" fonction d'apprentissage, quitte as chercher quelque chose de moins classique(en effet, mon réseau dévie parfois énormément lors de l'apprentissage avec la retropropagation), en particulier, j'ai rédigé un algorithme d'apprentissage génétique(je part d'une population de réseau, je les croise, fait muter et je pioche une partie des résultats(en privilégiant les réseaux qui minimisent l'erreur))qui tend encore très souvent vers un hyperplan plutôt qu'une courbe adapter a l'ensemble
en résumer, je cherche :
- des algorithme d'apprentissage intéressants pour un perceptron multi couche
- des idées pour expliquer le bug/faire marcher mon algorithme d'apprentissage génétique