Discussion :

[Naluh]

Bonjour,
Cela fait plusieurs jours que j'essaye d'implémenter un algorithme de retro-propagation du gradient sur un réseau de neurones de type perceptron multicouches, sans succès.
Mon domaine étant plus le code que les notations mathématiques, j'éprouve quelques difficultés à déchiffrer celles-ci.
J'ai actuellement un réseau de neurone à taille et a nombre de couche dynamique. Celui-ci s'exécute correctement, mais cela ne sert pas a grand chose sans l'algo d'apprentissage qui va avec !
Ce que je pense avoir compris à propos de la retro-propagation:
On part de la dernière couche (output layer) et on analyse les différences entre l'output voulue et l'output obtenu. J'ai décidé d'utiliser pour cela la fonction tangente hyperbolique.
Cela donne : g'(resultatAttendu) - g'(resultatActuel) avec g' = tanh' = 1 - tanh
Cela me donne une représentation numérique de l'erreur qui est censée être propagée selon la responsabilité de chaque neurone sur l'erreur grâce a la formule :

Je recalcule ensuite mes poids grâce la formule :

Un premier problème semble apparaitre : les poids ne font que descendre jusqu'à atteindre 0.
Mon code est de ce type pour l'apprentissage d'un XOR
Creation réseau (2, 2, 1)
while (NombreEssaisJuste d'affilé < 1000)
{
input[0] = rand()%2;
input[1] = rand()%2;
resultat = reseau.run(input);
if (resultat != XOR(input))
reseau.learn(input, desiredOutput);
}

J'ai donc beaucoup de zones d'ombre :
Comment choisir les poids au départ ? (entre 0 et 1 ?)
Dans mon cas j'utilise la fonction d'activation tanh. Qu'est-ce que la zone de transition et comment savoir si un neurone s'active lorsqu'il est proche de 0 ? ( actuellement mon neurone s'active si tanh(valeur) > 0. La valeur étant la somme des poids synaptiques multipliée par 0 ( si le neurone est activé ) ou 1( dans le cas contraire )))
Mes poids doivent-ils changer dans le cas ou le résultat de mon réseau est juste ? Si oui, selon quelle formule ( car actuellement, je calcule l'erreur, donc 0 dans le cas ou l'output est juste, et j'applique le calcul ci dessus soit erreur * coef d'apprentissage * xj, ce qui fait 0 et donc réduit mon poids à 0... ) ?
Le biais, ou threshold ou seuil, est-il une variable contenue dans le neurone définissant le seuil a dépasser ? Si oui, comment dois-je l'initialiser et le corriger ?
Dois-je corriger tous les poids avant de les mettre à jour ?
Actuellement mes entrées et sorties sont des bits (bool), mais est-il possible d'utiliser un double par exemple ?
Ce type de réseau est-il adapté pour faire une IA, pour un jeu par exemple ? ( actuellement, j'essaye de lui faire apprendre un xor avec un réseau a 2 entrées, 2 neurones cachés, et 1 sortie, donc j'en suis loin ).
Comment faire en sorte que son réseau puisse prendre un nombre d'entrées variable ?
C’est à dire que mon nombre d'entrées augmente au fur et à mesure ? (quid des nouveau poids ?)
Comment comparer une sortie à un résultat lorsque nous ne savons pas ce que nous voulons obtenir directement ? ( Encore une fois, dans un jeu, je ne sais pas directement si l'action que le réseau a fait va contribuer à la victoire/défaite de celui-ci)

Malgré toute la doc que j'ai lu, j'ai l'impression que ceux qui expliquent ces réseaux ne s'adressent qu'a des mathématiciens. Les rares exemples clairs que j'ai trouvés m'ont permis d'améliorer ma compréhension énormément !
Je pourrais fournir mon code, mais l'idéal serait une explication d'un cas concret comme celui du XOR, avec un tour d'application de l'algorithme de rétro-propagation.


Merci d'avance, je suis preneur de tout lien (anglais ou français) pouvant m'aider (si possible sans trop de notations complexes).

[bertry]

Salut,

Ceci pourrait répondre à beaucoup de tes questions: Introduction aux Réseaux de Neurones Artificiels Feed Forward
L'algo d'Apprentissage par descente de gradient est donné en pseudo-code, ce sera surement plus concret pour toi qui apprécie plus le code que les équations mathématiques.

[Naluh]

Hello,
Merci d'avoir repondu, mais j'ai déjà lu plusieurs fois ce lien. Le pseudo code n'est pas suffisant car il me manque quelque uns des éléments essentiels a la compréhension.
Par exemple :
On dit que le neurone est actif lorsque in >= 0, autrement dit lorsque a = g(in) >= seuilg = g(0). Similairement, on dit que le neurone est inactif lorsque in <= 0, autrement dit lorsque a = g(in) <= seuilg = g(0).

Cela veut dire que chaque neurone a un seuil? Si oui, quand est-il corrigé? (je ne vois pas de correction de seuil dans l'algo). si in == 0 alors le neurone est actif et inactif a la fois? Ce n'est vraiment pas clair pour moi...

[Alp]

Les seuils sont généralement modélisés comme un poids w_0 attaché à une entrée -1, donc ils sont concernés lors de la phase de "mise à jour des poids". Et chaque neurone en a un oui :-)

L'idée c'est que pour les fonctions d'activations qu'on utilise, bah elles ont toutes un peu la même allure: c'est en bas au début, puis à partir d'un certain "cran", ça monte pour être en haut. La montée peut être brutale (heavyside) ou douce (sigmoïde, tanh). Ce "cran" là, sur l'axe des abcisses, c'est justement le seuil.

Dis-moi s'il y a d'autres choses qui ne sont pas claires

[Gorzyne]

oui effectivement il ne faut pas combiner la fonction d'activation sigmoïde et un seuil Heavyside, c'est l'un ou l'autre
si tu décide d'activer ton neurone à partir d'une valeur alpha, c'est du heavyside, et il n'y a pas de fonction sigmoïde à appliquer, on applique le seuil sur le produit scalaire des poids et des noeuds n-1

[lilalex]

Cela veut dire que chaque neurone a un seuil? Si oui, quand est-il corrigé?

Jamais, le seuil est déterminé au début du programme par toi.
C'est les poids des connexions qui changent et leur cumul qui permet de déterminer si on passe le seuil ou pas.

si in == 0 alors le neurone est actif et inactif a la fois? Ce n'est vraiment pas clair pour moi...

Dans le cas d'un seuil Heavyside, soit on renvoit 0 soit 1, pas les deux.
C'est donc la condition IN < 0 et non IN <= 0 qu'il faut utiliser.

EDIT : Dis donc Gorzyne, tu as vu de quand il date le dernier message ?! Tu auras pu t'abstenir de le remonter ...