Discussion :

[Invité]

Bonjour, je ne sais pas exprimer le problème formellement alors je décris ma situation.

je fais l'expérience d'un réseau de neurone (Fann) pour faire du traitement du langage naturel dans le but de concevoir un agent conversationnel. Peut-être mal adapté, mais je souhaite faire l'expérience.

J'ai donc une base de connaissance comportant un ensemble de d'ouverture-fermeture de dialogue ou question-réponse, dont les longueurs sont variables.

Chaque mot est codé sur 3 décimaux compris entre 0.1 et 1.0.

Pour compléter les lignes de ma matrice d'apprentissage j'ai utilisé des triplet de valeur 0.0.

je me retrouve donc avec des ligne de quelque code plus un nombre conséquent dans certain cas de valeur 0.0. Hors, le résultat est que toute mes sortie on une valeur de 1.0. Je ne sais pas vraiment ce que ça signifit (je suis plutôt un amateur en info).

J'avais fait des test sur un petit réseau qui me laissé espérer avoir en sortie les codes correspondant au entrée dans ma matrice d'apprentissage.

je me dis que le réseau à généralisé sur l'ensemble des entrée à 0.0 et à activé l'ensemble des sortie, retournant 1.0 sur chaque sortie.

Quelle solution apporter, si il y a, pour que les triplet de 0.0 ne soit pas pris en compte dans l'apprentissage ?
Pour entrainer le réseau je fait un fann_cascadetrain.

Merci

[Invité]

Comment ça va sur la terre?
Ça va ça va, ça va bien.

Les petits chiens sont-ils prospères?
Mon Dieu oui merci bien.

Et les nuages?
Ça flotte.

Et les volcans?
Ça mijote.

Et les fleuves?
Ça s'écoule.

Et le temps?
Ça se déroule.

Et votre âme?
Elle est malade le printemps était trop vert elle a mangé trop de salade.

[Alp]

N'ayant jamais travaillé avec des RNA pour du traitement de langage, j'avoue ne pas pouvoir réellement t'aider. Mais qu'entends-tu par "petit réseau" ? Car si la structure change, il faut ré-effectuer l'apprentissage.

[Invité]

J'avais fait un réseau de 4 entrées/sorties avec une couche caché de 4 neurones et la matrice d'entrainnement suivante.

0.0 0.56 0.0 0.04
1.0 0.155 0.0 0.05
1.0 0.355 0.0 0.04
0.0 0.73 0.0 0.05
0.0 0.155 0.0 0.05
1.0 0.56 0.0 0.004
1.0 0.73 0.0 0.05
0.0 0.355 0.0 0.04

et en donnant l'une des enrées, j'avais la sortie correspondante à quelque 1/100ième prés.

[Invité]

Je pensais que le problème pouvait se rapporter à une image d'un signe sur fond blanc.

Ca fait beaucoup de blanc, et pourtant, on veux reconnaitre le signe.