Discussion :

[mat09]

Bonsoir,

Je souhaite utiliser les réseaux de neurones à base radiale pour la classification des images donc j'ai 8 neurones en entrée et 25 en sortie.

Ma question est combien je dois utiliser de neurones pour la couche cachée je sais que je dois faire plusieurs expériences pour le savoir mais est ce qu'il y a une règle ou si quelqu'un a de la documentation concernant les formules de calcul dans les réseaux à base radiale surtout l'apprentissage (rétro propagation) .

Merci d'avance !

[ToTo13]

Bonsoir,

8 neurones en entrée et 25 en sortie ...
C'est plutôt inhabituel comme réseau.
Dans ce genre de cas, ce qui marche TRES SOUVENT le mieux est de faire des systèmes 1 contre TOUS <=> Faire autant de modèles que de classes de sortie, chaque modèle donnant la probabilité d'appartenance à une classe.

Quelles caractéristiques utilises tu?
Comment cela se fait il que tu aies autant de classes en sortie?

[mat09]

bonjour,

oui, je n'ai que 8 neurones en entrée car je dois extraire des caractéristiques de mes images(des distances) et comme sortie j'ai 25 individus chaque individu représente une classe.

merci.

[ToTo13]

oui, je n'ai que 8 neurones en entrée car je dois extraire des caractéristiques de mes images(des distances)

Tu as 8 caractéristiques car tu as décidé d'en extraire 8. Tu pourrais en avoir plus ou moins.
Si tu fais un peu de biblio, tu trouveras l'algorithme WND-CHARM qui extrait 2700 caractéristiques.

comme sortie j'ai 25 individus chaque individu représente une classe.

Combien as tu exactement d'individus dans ton échantillon d'apprentissage?

Tu peux avoir 25 classes en sortie, cela ne change absolument pas ce que j'ai marqué au dessus, à savoir : 25 modèle 1 contre tous seront plus efficaces qu'un seul modèle à 25 classes.

Surtout que pour répondre à ta question, la forme NORMALE d'un réseau de neurone est la pyramide :
- N neurones en entré.
- M (< N) neurones en sortie (un par classe)
- (M+N)/2 dans la couche cachée. Tu peux aussi souvent avoir 3 ou 4 comme dénominateur dans le calcul du nombre de neurones de la couche cachée.
Donc la forme de ton réseau est absolument atypique et surtout 25 classes en sortie, c'est... curieux.

[mat09]

bonsoir,

ma base d'apprentissage contient 25 individus.

dans ma méthode je dois extraire ces 8 distances je ne les ai pas choisis moi même!!

quand vous parlez des classes et un contre tout vous me faites ressentez que vous parlez des SVM ? moi je n'ai jamais entendu parler du RBF avec ces paramètres la!!!!!!!!!!! sinon ou est ce que je peut trouver de la documentation surtout les formules des règles d'apprentissage??

et si j'utilise 50 neurones en cachée ça peut marché??

merci pour vos réponses rapides!

[ToTo13]

Bonjour,

alors la première règle lorsque l'on utilise n'importe qu'elle méthode, c'est de savoir comment elle fonctionne, dans quelles conditions et surtout son champ d'application.
Les réseaux de neurones est peut être la technique la plus puissante à l'heure actuelle, mais à condition de savoir s'en servir.

Alors dans un réseau de neurones à M neurones en entrée, N en sortie et (M+N)/2 dans la couche cachée, le RdN doit ajuster M*(M+N)/2 + N*(M+N)/2 poids.
Pour pouvoir ajuster ses poids, un RdN à besoin d'au minimum trois fois plus d'individus, mais cinq fois plus c'est mieux. Sinon on est dans le cas d'un apprentissage par coeur :-(.

Donc dans ton cas si tu n'as pas de couche cachée, tu as 8 neurones en entrée, 25 en sortie, ce qui qui fait 200 poids. Donc tu as au minimum besoin de 600 individus dans ton échantillon d'apprentissage, sans parler des individus nécessaires à la validation.
Utiliser un seul individu par classe pour l'apprentissage, c'est de l'apprentissage par coeur.

Donc ta façon de faire n'est absolument pas robuste et statistiquement fausse. (Désolé).