Discussion :

[GLSpirit]

Bonjour,

Je suis en train de réaliser un percepton multi-couches dédié à la reconnaissance de caractères ("A", "B", .."0", "9").

J'entraîne mon réseau avec un jeu de test, soit des images représentant chaque caractère. Je doit établir un tableau de valeurs "désirées" pour chacunes de ces images. Si le premier neurone de sortie correspond à "A", quelles sont les valeurs attendues ?

• [1,0,0,0,0,...]
• [0.7,0.05,0.05,0.05,0.05,...]
• autre (répartition plus réaliste avec une valeur forte pour la première valeur)

Sachant que "O" est proche de "0" (zéro), j'imagine que les sorties désirées doivent être proche pour ces deux jeux de test.
En bref, les deux premiers exemples cités dans la liste sont-ils suffisant ?

[GLSpirit]

Il semble préférable d'utiliser trois types de données :

1 - Des données d'entraînement (entraîne le réseau + MAJ poids et seuils)
2 - Des données de validation (valide que la reconnaissance est effective)
3 - Des données pour tester le réseau

La page suivante semble intéressante :
http://code-spot.co.za/2009/10/08/15...-a-neural-net/

[ToTo13]

J'entraîne mon réseau avec un jeu de test, soit des images représentant chaque caractère. Je doit établir un tableau de valeurs "désirées" pour chacunes de ces images. Si le premier neurone de sortie correspond à "A", quelles sont les valeurs attendues ?

Normalement une probabilité supérieure à 0.5 pour ce neurone de sortie et des valeurs inférieures à 0.5 pour les autres.
Donc l'exemple 2. Mais si tu as une erreur de classement...

En général, les réseaux de neurones créent les neurones de sortie en fonction de l'ordre des classes dans l'échantillon d'apprentissage.

Sachant que "O" est proche de "0" (zéro), j'imagine que les sorties désirées doivent être proche pour ces deux jeux de test.
En bref, les deux premiers exemples cités dans la liste sont-ils suffisant ?

Oui cela est fort probable, surtout si tu alimentes ton RdN uniquement avec les valeurs des pixels.
Si tu es plus malin et que tu donnes en plus (ou à la place) des caractéristiques pertinentes, alors le problème ne se posera pas.

Il semble préférable d'utiliser trois types de données :

1 - Des données d'entraînement (entraîne le réseau + MAJ poids et seuils)
2 - Des données de validation (valide que la reconnaissance est effective)
3 - Des données pour tester le réseau

La page suivante semble intéressante :
http://code-spot.co.za/2009/10/08/15...-a-neural-net/

Oui, c'est la bonne façon de faire.

[GLSpirit]

Aurais tu des liens, thèses ou exemples d'articles détaillant le fonctionnement de la couche de sortie (dont les valeurs attendues) ?
Je voudrais accroître mes connaissances sur ce sujet.

[GLSpirit]

Je viens de trouver ceci :

10.6.4 Target Values
For pattern recognition, we typically train with the pattern and its category label, and thus we use a one-of-c representation for the target vector. Because the output units saturate at ± 1.716, we might naively feel that the target values should be those values; however, that would present a difficulty. For any finite value of netk, the output could never reach these saturation values, and thus there would be error. Full training would never terminate because weights would become extremely large, as netk would be driven to + infiny. This difficulty can be avoided by using teaching values of +1 for the target category and -1 for the non-target categories. For instance, in a four-category prob*lem if the pattern is in category W3, the following target vector should be used: t = (-1, -1, +1, -1)T Of course, this target representation yields efficient learning for categorization-the outputs here do not represent posterior probabilities.

RQ. : Parameters for the Sigmoid : f(net) = a*tanh(b net) avec a = 1.716

Source :
http://www.byclb.com/TR/Tutorials/ne...rks/ch10_1.htm

[ToTo13]

Aurais tu des liens, thèses ou exemples d'articles détaillant le fonctionnement de la couche de sortie (dont les valeurs attendues) ?
Je voudrais accroître mes connaissances sur ce sujet.

non !
Il n'y a rien d'extraordinaire à ma connaissance.