Discussion :

[k3ops]

Salut à tous,
bon je tiens tout d'abord à signaler que je suis tout nouveaux dans le monde du réseaux de neurone c'est pourquoi je viens chercher quelques conseils auprès de vous!
Bon pour faire simple j'utilise la bibliothèque FANN pour faire un réseau de neurone. Je me suis inspiré donc sur le site de l'exemple que j'ai appliqué à mon problème.
J'ai 3 paramètres d'entrées(des doubles), 1 de sortie(soit 0 soit 1), voici un bout de mon fichier d'apprentissage :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
 
227 3 1
27497 0 0.178983
0
20115 0.00931966 0.151612
0
137856 0.103842 0.223272
1
...
...

Voila donc je fais comme dis dans le tutorial et je lance l'entrainement sur mon fichier (227 entrainements) et voici le résultat :


Comme vous pouvez le voir l'erreur ne descend pas vite et ralentit de façon inquiétante!!! Je n'arrive jamais à l'erreur désiré!!! J'ai essayé de modifier quelques paramètres du réseau (méthode d'algorithme, hidden neurones, ...) mais rien n'y fait, mon réseau n'est pas stable et donc mon apprentissage ne vaut rien...
Auriez-vous une idée de la raison de cet apprentissage erroné ?
Connaisez vous un site (hors celui de FANN naturellement) ou je pourrais trouver des astuces, conseils, une communauté active,... ?

Je ne sais vraiment plus quoi faire merci beaucoup de votre aide !!
A très bientôt j'espère a+

[Alp]

La communauté active, tu la retrouveras ici je l'espère, dans quelques temps

Pour commencer, as-tu lu mon article ? http://alp.developpez.com/tutoriels/...x-de-neurones/.

Tu verras notamment ceci dedans :

Il y a principalement deux facteurs qui influent sur l'apprentissage. Ce sont la qualité de l'échantillonage d'apprentissage(les exemples qui constituent la base d'apprentissage) et la diversité des valeurs. En effet, le réseau de neurones généralisera mieux (aura plus de chances de répondre correctement en lui donnat en entrée des informations non présentes dans les exemples d'apprentissage) si la qualité de l'échantillonage est meilleure et si les données des exemples d'apprentissage sont variées. Intuitivement, on est conscient que s'il sait répondre correctement pour un nombre fini de situations les plus diverses, il sera alors plus proche de ce que l'on veut dans un situation nouvelle.

ainsi que :


Ce qui devrait t'aider.

Toutefois, la principale chose que je suspecte dans ton cas, c'est la structure de ton réseau. Combien de neurones d'entrée ? cachés ? de sortie ? (tu as une seule couche cachée ?)

Quel est le problème pour lequel tu as besoin d'un réseau de neurone ?

[k3ops]

Salut, merci de me répondre, voila les constantes pour la topologie du réseau :
nb_layer : 3
nb_input : 3
nb_neurons_hidden : 6
nb_output : 1
nb_MAX_epochs : 500000
nb_epochs_report : 1000
desired_error : 0.001

J'ai déja essayé de changer le nombre de neurones cachés mais l'apprentissage ne se fait pas mieux, et si j'augmente le nombre de "layer" ben ca plante (erreur exécution...).
Mon but est de passer 3 caractéristiques d'un grain de beauté en entrée (taille, valeur d'asymétrie entre 0 et 1, valeur de coloration entre 0 et 1) et d'avoir en sortit une valeur entre 0 et 1 qui indique si ce grain de beauté est cancéreux ou non (0:bénin, 1:cancéreux, entre:incertitude plus ou moins grande). Voila donc le principe, il me semble que mes échantillons sont assez variés donc j'espère que ca vient d'autre chose (mes échantillons ne peuvent être modifiés voila pourquoi j'espère qu'ils suffisent...).
Merci de ton aide, j'espère que tu auras une autre idée pour moi....
a+

[Alp]

Si tu essayes avec par exemple 2, 3, 4 neurones cachés, ça donne quoi ?

Es-tu sûr que le problème ne vient pas de l'implémentation de l'algo d'apprentissage ?

[k3ops]

avec 2,3,4 ou même 9 neurones cachée les résultats sont les mêmes (j'ai essayé avec 40 aussi ) Sinon ca change quoi concrètement d'augmenter le nombre de neurones cachées (résoudre des cas plus difficiles ?) ??
Pourquoi je ne peux pas dépasser les 3 "layers" ???

J'ai déjà essayé avec bien plus de neurones mais c'est toujours la même chose impossible de passer la barre des 0.03 d'erreur ce qui est beucoup trop grand !!!
J'ai bien sur essayer de changer l'algo d'apprentissage (lineaire, quick, ...) mais c'est tout le temps pareil, RPROP me donne les meilleurs résultats...
J'avoue que je suis un peu perdu et FANN baisse dans mon estime !!!

merci des conseils, j'espère que tu auras d'autres idées!!!

[k3ops]

fann ne semble tout simple pas adapté à ma problématique, je dois utiliser une technique plus complexe à faire moi même en utilisant les régression logistique...
merci de ton aide.

[lucmoulinier]

Je pense que ce probleme peut etre resolu avec FANN. Je crois (il faut tester) que l'erreur vient tout seimplement du fait que tes donnees ne semblent pas normalisees ... Et c'est indispensable avec FANN !
Pour ce faire , determine pour chaque parametre la valeur min et max. Tu reprends alors chaque donnee x et :
x'= (x-min)/(max-min)

ca doit marcher ....
Luc