Discussion :

[on2101]

Bonjour,

J ai lu le (fabuleux) cour sur les réseaux de neurones. Malheureusement, je n'ai pas bien crompris une chose pourtant simple.

J'utilise des neurones Sigmoides. Je calcule pour un neurone le produit scalaire entre les entrées et les poids. Premiere interrogation : apres ce calcul, dois je faire +0.5 qui correspond au terme w0 de biais ?

Deuxieme interrogation : Imaginone que la combinaison valle 2 (avec ou sans le w0 selon la reponse a la question precedente). La fonction doit alors retourner le neurone en sortie : 1/(1+e(-2)) ou bien soit 0 soit 1 en fonction de la valeur par rapport au seuil ?

En d autres termes, un neurone sigmoide retourne t il seulement 0 ou 1 ou bien des nombres decimaux dans l intervalle 0;1 ?

Enfin, est il possible de faire apprendre a un perceptron multicouches à calculer par exemple la fonction carré en lui donnant des couples (x,y) de cette fonction ?

J ai aussi du mal a savoir comment fixer le nombre d itérations sur les données lors de l apprentissage. Je me doute qu il faut tester et que cela depend de l application, mais quel est l ordre de grandeur pour apprendre une fonction simple ?

Je pose ces questions car mon réseau me fait a chaque fois une sorte de moyenne de tout ce que je lui donne a apprendre. Il me sort toujours par exemple pour la fonction carré des nombres autour de 0.5 a 0.7.

J ai fixé le taux d apprentissage à 0.75, ce qui a l air cohérent avec c eque j ai pu lire.

Avez vous deja eu ce genre de problemes ? ( j ai deja verifie l algo d apprentissage de nombreuses fois).

Je vous remercie d avoir eu le courage de lire mon message

[Bucketpc]

J'utilise des neurones Sigmoides. Je calcule pour un neurone le produit scalaire entre les entrées et les poids. Premiere interrogation : apres ce calcul, dois je faire +0.5 qui correspond au terme w0 de biais ?

après avoir calculer le somme pondérée, il faut toujours rajouté -1 * biais

Deuxieme interrogation : Imaginone que la combinaison valle 2 (avec ou sans le w0 selon la reponse a la question precedente). La fonction doit alors retourner le neurone en sortie : 1/(1+e(-2)) ou bien soit 0 soit 1 en fonction de la valeur par rapport au seuil ?

La fonction sigmoid renvoie une valeur entre 0 et 1.

Enfin, est il possible de faire apprendre a un perceptron multicouches à calculer par exemple la fonction carré en lui donnant des couples (x,y) de cette fonction ?

il ya l'algorithme de rétro propagation qui permet d'entrainer une perceptron multicouche (algorithme est basé sur la correction d'erreur en modifiant la valeur des poids du réseau)

J ai aussi du mal a savoir comment fixer le nombre d itérations sur les données lors de l apprentissage. Je me doute qu il faut tester et que cela depend de l application, mais quel est l ordre de grandeur pour apprendre une fonction simple ?

le nombre d'itération est déterminé expérimentalement, sinon tu peux se baser sur l'erreur (tant que l'erreur global est supérieure a un taux alors apprendre), en gros selon la stratégie.

[on2101]

Simple, clair, précis. Merci beaucoup, je retourne à mon réseau !