Discussion :

[matstriker]

Bonjour, je bosse en ce moment sur les réseaux de neurones pour réaliser un programme reconnaissant des chiffres (quelque chose d'assez simple pour commencer...
Je modélise les chiffres par des tableaux de bits censés représenter les pixels, et je veux utiliser un perceptron pour la reconnaissance.
Mais je ne sais pas quelle architecture adopter: un monocouche va-t-il suffire? (c'est à dire un neurone par chiffre à reconnaitre, recevant directement les infos de la rétine)?
Un multi-couche est-il indispensable ou apporte-t-il des améliorations notables? Si oui, je ne comprends pas l'utilité des couches intermédiaires, et leur role dans l'algorithme (pourquoi transformer les infos de la rétine , ...) quelqu'un pourrait-il me l'expliquer?
Merci d'avance.

[ToTo13]

Bonjour,

je ne connais pas encore très bien les réseaux de neurones, mais en revanche, je peux te conseiller deux soft sur lesquels tu pourras faire de tests :
- JMP
- Weka, un package Java contenant une interface et dont les sources sont gratuites. Il te suffit de le lancer ou d'installer Eclipse si tu veux jeter un coup d'oeil aux sources.

Pour ce qui est des éléments de caractérisation de tes caractéres, utiliser un tableau de bit me semble un peu "banal", même si les réseaux de neurones sont très puissant. Voire, ils sont souvent trop puissant et font immédiatement de l'apprentissage par coeur.
Il y a de nombreuses méthodes de caractérisations de caractères qui seraient plus fine au niveau description...

[matstriker]

merci de ton aide
mais en fait je bosse la-dessus pour mes TIPE, les réseaux de neurones sont en plein dans le sujet (variabilité / stabilité ) et on peut déborder sur plein d'autres applications donc j'aimerais approfondir ce type d'algo en priorité quitte à comparer ensuite à d'autres méthodes si j'ai le temps... Si un connaisseur en réseaux de neurones passe par ici...

[sidahmed]

Bonjour,

les réseaux de neurones sont de type boîte noire : donc tu ne vas jamais comprendre le fonctionnement interne ! Tu vas expérimenter, y a pas de recette miracle pour l'architecture du réseau, tu changes le nombre de neurones par couche cachée et tu regardes le résultat, sinon tu augmentes le nombre de couches cachées ...

Cordialement,
Sidahmed.

[Flo.]

Salut,

pour un OCR bête et méchant, tu as une structure toute simple.

• tu as 10 images binaires (0 ou 1) de 8 pixels par 8 pixels par exemple (pour les 10 chiffres)
• 1 couche de neurones avec 10 neurones (1 neurone par chiffre)
• chaque neurone prends les 64 pixels des images en entrée
• chaque neurone a une sortie qui code le pourcentage de reconnaissance pour le chiffre qui lui correspond (ainsi pour une image le neurone 0/9 donne le pourcentage de reconnaissance du chiffre 0)

Pour l'apprentissage, tu présentes, pour une image, ces 64 pixels en entrée du réseau puis le mot de 10 bits que tu veux en sortie. Style tu veux apprendre le chiffre 3 (en commençant par le 0), tu rentres en entrée du réseau les 64 pixels de l'image du 3 et la sortie désirée est 0001000000.

L'apprentissage est rapide est efficace par contre la reconnaissance n'est pas robuste. Au moindre bruit, ça loupe.

Mais si c'est la 1ère fois que tu fais ce genre d'algo, c'est très amusant et intéressant.

Une fois que tu te sauras familiarisé avec cet algo, la littérature te donnera des indications sur la meilleure signature à utiliser pour les images (au lieu des 64 pixels) et du type de réseau le plus approprié.

Flo.

[PRomu@ld]

les réseaux de neurones sont de type boîte noire : donc tu ne vas jamais comprendre le fonctionnement interne ! Tu vas expérimenter, y a pas de recette miracle pour l'architecture du réseau, tu changes le nombre de neurones par couche cachée et tu regardes le résultat, sinon tu augmentes le nombre de couches cachées ...

En fait, avec une analyse très fine, on peut éventuellement comprendre ce qui se passe en interne.

Si oui, je ne comprends pas l'utilité des couches intermédiaires, et leur role dans l'algorithme

En fait, si tu as eu l'occasion d'étudier un minimum ton réseau de neurone, tu sais qu'il sépare les éléments suivant des parties d'hyperplan (en 2D, tu as une droite). Le fait d'ajouter des couches permet d'affiner cette découpe. Ca permet de découper au mieux les classes que l'on veut apprendre.

[matstriker]

Merci beaucoup pour vos indications.
Les couches cachées serviraient donc à affiner la classification (même si j'ai lu quelque part qu'elles pouvaient illustrer certains aspects du problèmes, cf le probleme des familles et ses résultats étonnants).
Je teste pour l'instant un perceptron monocouche (pas brillant...) mais j'ai plus d'espoir pour l'algorithme du gradient (j'ai l'algo mais pas encore eu l'occasion de le tester).
Le plus difficile dans ce genre de probleme me semble de trouver les bons paramètres (je veux dire seuil d'arrêt, pas du gradient, nombre de neurones sur les couches cachées, coefficient de la sigmoide...), et je suppose que seule l'expérience permet de les déterminer...

[matstriker]

Bonjour, je relance ce topic pour un sujet légèrement différent: y a-t-il d'autres algorithmes classiques pour l'ocr (pour comparer avec les RdN)? Je n'arrive pas à trouver de la doc, donc si vous au moins quelques noms à me donner...

[ToTo13]

Bonsoir,

la méthode la plus couramment utilisée dans les OCR c'est la méthode des K plus proches voisins, associée à tout un tas de techniques de caractérisations, telle que les histogrammes de projections.

[matstriker]

Merci ToTo13, je vais pouvoir chercher un peu.