Discussion :

[Invité]

Bonjour,
Je ne connais rien aux réseaux de neurone, alors j'étais sur point de faire une expérience, et je me suis dis, pourquoi ne pas poser la question.

Que puis-je espérer du système suivant ?

Soit un ensemble de dialogue en français dont chaque mot est identifié par code de 3 décimaux d'un delta de 0.01.

Soit un réseau de neurones avec :
N entrées (N = nombre de mots max dans la phrase d'entrée la plus longue de l'ensemble de dialogue X 3)
N sorties (N = nombre de mots max dans la phrase de sortie la plus longue de l'ensemble de dialogue X 3)

Question bonus,
Que va-t-il se passer lors de l'apprentissage ?
Que va-t-il se passer lors de l'exploitation ?

Merci

[Sylvain Togni]

Il me semble que le problème principal d'une telle approche est que la fonction à approximer par le réseau n'est pas très continue (un petit changement à l'entrée, comme le rajout d'une négation dans la phrase, peut entrainer un changement important à la sortie). Du coup le réseau aura des difficultés à généraliser.

[Invité]

Yep ! Merci,

Par exemple si j'ai dans mon modèle d'apprentissage :

(entrée) - je pense donc je suis.
(sortie) - L'être est un processus intellectuel
(entrée) - Je suis donc je pense.
(sortie) - un processus intellectuel est un être.
(entrée) - je ne mange pas de haricots verts
(sortie) - C'est dommage.

Et que je rentre : " je ne suis pas un haricot vert."

Je ne vais pas avoir quelque chose du genre : "C'est dommage".

?

Je m'attend à ce genre de résultat.

[Alp]

Je doute que ce genre de résultats soit prévisible. En effet, un réseau de neurones dans le cas général approche des fonctions continues. Tu lui donnes une image d'un 8 manuscrit, il te dit c'est un 8 (après apprentisage). Tu re-écris ton 8 (ça sera forcément un chouilla différent, justement un chouilla (cf le post de Sylvain)), et il te dira que c'est un 8 également il s'agit ici de continuité. Pour des fonctions discontinues c'est beaucoup plus complexe. Qui plus est, il me semble que les réseaux de neurones ne sont pas la solution à préférer pour ce qui concerne le langage. Toutefois, ne touchant pas du tout à ce domaine pour le moment, je te laisse effectuer des recherches pour trouver une technique d'IA efficace.

[alex_pi]

Faire un agent conversationnel est loin d'être chose facile... Il faut parser la phrase, en récupérer la structure (Groupe verbale, nominal, etc), en extraire la sémantique (le sens de la phrase), mais surtout, si tu veux faire un bon agent, il faut en analyser la pragmatique (en gros, qu'est ce qu'un humain répondrait dans ce cas ? Est ce que ma réponse présente un quelconque intéret). Je ne pense pas qu'un simple réseau de neuronne ai une chance de s'en sortir avec tout ça.
Il y a beaucoup de débat concernant le fait que le cerveau humain soit spécifiquement adapté au langage, mais ce qui semble assez raisonnable, c'est qu'un réseau en double couche à 42 neuronnes n'aura aucune chance de donner quoi que ce soit de probant.

[Invité]

yep, Je me doute bien que pour avoir quelque chose de cohérent je devrais mettre en œuvre une certain nombre de techniques variées et concevoir un certain nombre de chose indispensable à la maitrise du discours.

C'est en vue d'un développement plus élaboré (selon l'avancement de mes capacités) que je me suis donné cette expérience en exercice afin de définir une sorte de ligne médiane du comportement des RdN que je ne connais pas du tout.


Vous dites que le RdN n'est pas adapté au problème.
Cepndant, le modèle réel selon les connaissance est bien un modèle de RdN. Donc, quelque part, il doivent avoir leur place. Je doit trouver laquelle.