IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Méthodes prédictives Discussion :

Une réseau de neurones pour un agent de dialogue en langage naturel


Sujet :

Méthodes prédictives

  1. #1
    Invité
    Invité(e)
    Par défaut Une réseau de neurones pour un agent de dialogue en langage naturel
    Bonjour,
    Je ne connais rien aux réseaux de neurone, alors j'étais sur point de faire une expérience, et je me suis dis, pourquoi ne pas poser la question.

    Que puis-je espérer du système suivant ?

    Soit un ensemble de dialogue en français dont chaque mot est identifié par code de 3 décimaux d'un delta de 0.01.

    Soit un réseau de neurones avec :
    N entrées (N = nombre de mots max dans la phrase d'entrée la plus longue de l'ensemble de dialogue X 3)
    N sorties (N = nombre de mots max dans la phrase de sortie la plus longue de l'ensemble de dialogue X 3)

    Question bonus,
    Que va-t-il se passer lors de l'apprentissage ?
    Que va-t-il se passer lors de l'exploitation ?

    Merci

  2. #2
    Membre éclairé

    Profil pro
    Inscrit en
    Septembre 2006
    Messages
    717
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Septembre 2006
    Messages : 717
    Points : 858
    Points
    858
    Par défaut
    Il me semble que le problème principal d'une telle approche est que la fonction à approximer par le réseau n'est pas très continue (un petit changement à l'entrée, comme le rajout d'une négation dans la phrase, peut entrainer un changement important à la sortie). Du coup le réseau aura des difficultés à généraliser.

  3. #3
    Invité
    Invité(e)
    Par défaut
    Yep ! Merci,

    Par exemple si j'ai dans mon modèle d'apprentissage :

    (entrée) - je pense donc je suis.
    (sortie) - L'être est un processus intellectuel
    (entrée) - Je suis donc je pense.
    (sortie) - un processus intellectuel est un être.
    (entrée) - je ne mange pas de haricots verts
    (sortie) - C'est dommage.

    Et que je rentre : " je ne suis pas un haricot vert."

    Je ne vais pas avoir quelque chose du genre : "C'est dommage".

    ?

    Je m'attend à ce genre de résultat.

  4. #4
    Alp
    Alp est déconnecté
    Expert éminent sénior

    Avatar de Alp
    Homme Profil pro
    Inscrit en
    Juin 2005
    Messages
    8 575
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations forums :
    Inscription : Juin 2005
    Messages : 8 575
    Points : 11 860
    Points
    11 860
    Par défaut
    Je doute que ce genre de résultats soit prévisible. En effet, un réseau de neurones dans le cas général approche des fonctions continues. Tu lui donnes une image d'un 8 manuscrit, il te dit c'est un 8 (après apprentisage). Tu re-écris ton 8 (ça sera forcément un chouilla différent, justement un chouilla (cf le post de Sylvain)), et il te dira que c'est un 8 également il s'agit ici de continuité. Pour des fonctions discontinues c'est beaucoup plus complexe. Qui plus est, il me semble que les réseaux de neurones ne sont pas la solution à préférer pour ce qui concerne le langage. Toutefois, ne touchant pas du tout à ce domaine pour le moment, je te laisse effectuer des recherches pour trouver une technique d'IA efficace.

  5. #5
    alex_pi
    Invité(e)
    Par défaut
    Faire un agent conversationnel est loin d'être chose facile... Il faut parser la phrase, en récupérer la structure (Groupe verbale, nominal, etc), en extraire la sémantique (le sens de la phrase), mais surtout, si tu veux faire un bon agent, il faut en analyser la pragmatique (en gros, qu'est ce qu'un humain répondrait dans ce cas ? Est ce que ma réponse présente un quelconque intéret). Je ne pense pas qu'un simple réseau de neuronne ai une chance de s'en sortir avec tout ça.
    Il y a beaucoup de débat concernant le fait que le cerveau humain soit spécifiquement adapté au langage, mais ce qui semble assez raisonnable, c'est qu'un réseau en double couche à 42 neuronnes n'aura aucune chance de donner quoi que ce soit de probant.

  6. #6
    Invité
    Invité(e)
    Par défaut
    yep, Je me doute bien que pour avoir quelque chose de cohérent je devrais mettre en œuvre une certain nombre de techniques variées et concevoir un certain nombre de chose indispensable à la maitrise du discours.

    C'est en vue d'un développement plus élaboré (selon l'avancement de mes capacités) que je me suis donné cette expérience en exercice afin de définir une sorte de ligne médiane du comportement des RdN que je ne connais pas du tout.


    Vous dites que le RdN n'est pas adapté au problème.
    Cepndant, le modèle réel selon les connaissance est bien un modèle de RdN. Donc, quelque part, il doivent avoir leur place. Je doit trouver laquelle.

  7. #7
    Expert éminent
    Avatar de Jedai
    Homme Profil pro
    Enseignant
    Inscrit en
    Avril 2003
    Messages
    6 245
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Côte d'Or (Bourgogne)

    Informations professionnelles :
    Activité : Enseignant

    Informations forums :
    Inscription : Avril 2003
    Messages : 6 245
    Points : 8 586
    Points
    8 586
    Par défaut
    Citation Envoyé par jovalise Voir le message
    Vous dites que le RdN n'est pas adapté au problème.
    Cepndant, le modèle réel selon les connaissance est bien un modèle de RdN. Donc, quelque part, il doivent avoir leur place. Je doit trouver laquelle.
    Ouaip, sauf que le "modèle réel" comme tu l'appelle si joliment il en a un peu plus des neurones... Et le "un peu" est là pour être poli. Les réseaux de neurones actuels emploie une quantité de neurones et de synapse absolument incomparable, sans parler des petites différences entre les neurones réels et les "neurones" utilisés habituellement en informatique.

    De plus, les réseau de neurone doivent subir une phase d'apprentissage, or pour automatiser cette phase d'apprentissage dans ton cas... Ca va être un peu dur. (mais bon si tu es prêt à éduquer ton ordi à la main pour quelques dizaines d'années... )

    En bref, la question n'est pas si simple !!

    --
    Jedaï

  8. #8
    Invité
    Invité(e)
    Par défaut
    Merci Jedaï ,

    Il n'est pas question d'éduquer la machine à la main.
    Je vais prendre un ensemble de dialogue existant et constituer un base d'apprentissage.

    Pour le reste, je crois qu'il ne manque pas beaucoup de temps avant d'y remédier.



    Vous ne m'avez pas convaincu de l'inutilité de l'expérience. Je suis recadré, mais je vais tester.

    Merci de votre aide.

  9. #9
    Expert éminent sénior

    Profil pro
    Inscrit en
    Janvier 2007
    Messages
    10 601
    Détails du profil
    Informations personnelles :
    Âge : 66
    Localisation : France

    Informations forums :
    Inscription : Janvier 2007
    Messages : 10 601
    Points : 17 913
    Points
    17 913
    Billets dans le blog
    2
    Par défaut
    Citation Envoyé par jovalise Voir le message
    Merci Jedaï ,

    Il n'est pas question d'éduquer la machine à la main.
    Je vais prendre un ensemble de dialogue existant et constituer un base d'apprentissage.
    .
    Juste un peu de bon sens : avec nos milliards de neurones, il nous faut environ 17 à 20 ans (et encore, quand on voit sur ce forum...) pour maitriser notre langue....

    Avec une 50aine.....
    "Un homme sage ne croit que la moitié de ce qu’il lit. Plus sage encore, il sait laquelle".

    Consultant indépendant.
    Architecture systèmes complexes. Programmation grosses applications critiques. Ergonomie.
    C, Fortran, XWindow/Motif, Java

    Je ne réponds pas aux MP techniques

  10. #10
    Invité
    Invité(e)
    Par défaut
    Un peu voir suffisamment pour l'invalider, inconsistante, ... notre langue ... au passage.

  11. #11
    Invité
    Invité(e)
    Par défaut
    Bonjour,

    Dans quelque heures, je devrais être fixé sur la validité du principe dont je fais l'expérience.

    Je voudrais anticiper un peu sur la réussite.

    Je voudrais savoir si je doit reprendre l'apprentissage du réseau à zéro dans le cas d'une extension de la matrice d'apprentissage ou si je peux profiter d'un apprentissage antérieur ? Svp Merci.

  12. #12
    Invité
    Invité(e)
    Par défaut
    Bonjour ou re-bonjour,

    Voila, je suis toujours sur ce projet... Et je cherche à savoir comment définir mon échantillon d'apprentissage, si je ne me trompe pas de question.

    Ce programme doit donc prendre des chaînes de mots de longueur variable.
    Afin de constituer un I.A. je fait l'expérience d'architecturer, et d'instruire des RdN artificiels. Mais si je connais à peux près le contenu d'une représentation discursive de la réalité, je n'ai aucune idée de la taille de l'échantillon d'apprentissage. Existe t-il un moyen de la calculer à peu près ?
    S'il vous plaît merci!

  13. #13
    Alp
    Alp est déconnecté
    Expert éminent sénior

    Avatar de Alp
    Homme Profil pro
    Inscrit en
    Juin 2005
    Messages
    8 575
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations forums :
    Inscription : Juin 2005
    Messages : 8 575
    Points : 11 860
    Points
    11 860
    Par défaut
    Aussi varié que possible. Tant que tu pourras ajouter des exemples qui apportent une connaissance à ton RdN (exploitent une dimension peu exploitée par les autres, etc), rajoutes en.

  14. #14
    Invité
    Invité(e)
    Par défaut
    Citation Envoyé par Alp Voir le message
    Aussi varié que possible. Tant que tu pourras ajouter des exemples qui apportent une connaissance à ton RdN (exploitent une dimension peu exploitée par les autres, etc), rajoutes en.
    Merci Alp. Donc, rester varié. Pas de redondance... Si j'ai 4 exemple d'une règle, ça sert à rien d'en mettre ne serait-ce que deux.

  15. #15
    Alp
    Alp est déconnecté
    Expert éminent sénior

    Avatar de Alp
    Homme Profil pro
    Inscrit en
    Juin 2005
    Messages
    8 575
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations forums :
    Inscription : Juin 2005
    Messages : 8 575
    Points : 11 860
    Points
    11 860
    Par défaut
    Bah ça dépend de si les exemples sont différents ou pas.

    L'idée c'est que la distance entre deux exemples de ta base d'apprentissage soit pas toute petite, en moyenne. Ca sert à rien de mettre un paquet d'exemples qui sont très très proches les uns des autres. Ca ne ferait que renforcer l'apprentissage de tels exemples mais au dépit des autres types d'exemples. Imagine tu veux faire un RdN qui va apprendre à reconnaître des chiffres manuscrits. Il est fortement déconseillé par exemple de lui donner 100 exemples de "7" manuscrits à apprendre, et 10 exemples pour tous les autres chiffres. Car il reconnaitrait très bien les 7 mais moins bien les autres, que ce qu'il aurait pu si tu n'avais pas mis 100 exemples de 7.

  16. #16
    Invité
    Invité(e)
    Par défaut
    Re-merci Alp.

  17. #17
    Expert éminent sénior

    Profil pro
    Inscrit en
    Janvier 2007
    Messages
    10 601
    Détails du profil
    Informations personnelles :
    Âge : 66
    Localisation : France

    Informations forums :
    Inscription : Janvier 2007
    Messages : 10 601
    Points : 17 913
    Points
    17 913
    Billets dans le blog
    2
    Par défaut
    Citation Envoyé par Alp Voir le message
    au dépit
    aux dépens
    "Un homme sage ne croit que la moitié de ce qu’il lit. Plus sage encore, il sait laquelle".

    Consultant indépendant.
    Architecture systèmes complexes. Programmation grosses applications critiques. Ergonomie.
    C, Fortran, XWindow/Motif, Java

    Je ne réponds pas aux MP techniques

  18. #18
    Alp
    Alp est déconnecté
    Expert éminent sénior

    Avatar de Alp
    Homme Profil pro
    Inscrit en
    Juin 2005
    Messages
    8 575
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations forums :
    Inscription : Juin 2005
    Messages : 8 575
    Points : 11 860
    Points
    11 860
    Par défaut
    Citation Envoyé par souviron34 Voir le message
    aux dépens
    Promis je vais trouver une excuse valable pour avoir fait une telle faute au milieu de la journée

  19. #19
    Invité
    Invité(e)
    Par défaut
    Citation Envoyé par Alp Voir le message
    Promis je vais trouver une excuse valable pour avoir fait une telle faute au milieu de la journée
    Me semble que c'est "en dépit". le "au" m'aura suffis à ne pas me laisser prendre à la faute.

    Vous êtes vraiment des expert en IA ?

  20. #20
    Alp
    Alp est déconnecté
    Expert éminent sénior

    Avatar de Alp
    Homme Profil pro
    Inscrit en
    Juin 2005
    Messages
    8 575
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations forums :
    Inscription : Juin 2005
    Messages : 8 575
    Points : 11 860
    Points
    11 860
    Par défaut
    Expert non, mais je ne devrais pas avoir dit de bêtise pour autant

    Sinon, c'était bien "au dépens" que je voulais utiliser à l'origine.

Discussions similaires

  1. Réseau de neurones pour faire une addition
    Par DJEcalcul dans le forum Méthodes prédictives
    Réponses: 8
    Dernier message: 06/03/2014, 13h23
  2. Réseau de neurones pour un Morpion
    Par wadison dans le forum Méthodes prédictives
    Réponses: 19
    Dernier message: 20/09/2011, 15h37
  3. Réseau de neurones pour un OCR
    Par overlolo dans le forum Méthodes prédictives
    Réponses: 4
    Dernier message: 24/05/2009, 11h52
  4. Réseau de neurone pour prévision d'une série temporelle
    Par ranianwayra dans le forum Méthodes prédictives
    Réponses: 1
    Dernier message: 23/08/2008, 00h55
  5. Réseau de neurones pour la classification de signaux.
    Par jeanlouis_lecodeur dans le forum Méthodes prédictives
    Réponses: 3
    Dernier message: 26/03/2008, 19h28

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo