Discussion :

[Invité]

Bonjour,

Dans le cadre du développement d'un projet d'IA par modélisation connexionniste, j'aurais besoin de concevoir une mémoire neuronale.

N'étant q'un simple utilisateur de réseaux de neurones formels, je cherche les technique à appliquer.

Avez vous des connaissances dans ce domaine ? Pouvez m'indiquer si de telles techniques existent ?

Je suis exclusivement francophone. Merci pour votre aide.

[Clercq]

Ciao,

L'apprentissage réalisé par un réseau de neurone est l'ajustement des poids synaptiques par une technique donnée.

Sauf mauvaise compréhension de ta question, la "mémoire neurale" consiste simplement en la sauvegarde de ces poids synaptiques. L' "activation" de cette mémoires ce fait dans un contexte donnée, "Tiens, je dois faire une addition", "Je dois bouger mon bras pour attraper cette bouteille de lait" ...

[Invité]

Merci Clercq,


C'est à dire, que lorsque j'utilise une sauvegarde de réseau, j'utilise une mémoire neural ou neuronal, bref ?

J'utilise une bibliothèque fournissant un réseau de neurones formels qui ne propose que trois fonctions :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
 
procedure Respond (Pattern : in Positive; Output : out Output_Set);
      -- Calls Get_Input for this pattern #, and propagates the input through the network to obtain the network's response
 
      procedure Train;
      -- Propagates error & derivative backward through the network, & updates the network's weights
 
      procedure Save_Weights;
      -- Saves the network's values in the files with supplied names

Est-ce que cette sauvegarde proposée par cette bibliothèque est une sauvegarde de ces poids synaptiques ?

Pour moi, habituellement, chaque connaissance est un groupe de deux données. Les données que je peux appeler les données d'activation, et les données à retourner lors de l'activation. Ici, je souhaite mémoriser des évènements, constituant une donnée unique. Alors, j'ai une idée ; C'est de constituer chaque connaissance avec un doublé de la donnée évènementielle.

Que va-t-il ce passer dans ce cas ? Est-ce comme ceci que ça fonctionne ?

[Clercq]

C'est à dire, que lorsque j'utilise une sauvegarde de réseau, j'utilise une mémoire neural ou neuronal, bref ?

Hmmm, si tu fais référence au cerveau, c'est beaucoup plus compliqué ... (mémoire épisodique, sémantique, perceptive, procédurale... ) qui ne pourrait être simplifié par de simple poids... Enfin...

Disons que dans le cas des RdN, "mémorisé" une fonction, c'est en effet enregistrer les poids appris.

J'utilise une bibliothèque fournissant un réseau de neurones formels qui ne propose que trois fonctions :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
 
procedure Respond (Pattern : in Positive; Output : out Output_Set);
      -- Calls Get_Input for this pattern #, and propagates the input through the network to obtain the network's response
 
      procedure Train;
      -- Propagates error & derivative backward through the network, & updates the network's weights
 
      procedure Save_Weights;
      -- Saves the network's values in the files with supplied names

Est-ce que cette sauvegarde proposée par cette bibliothèque est une sauvegarde de ces poids synaptiques ?

J'imagine que oui. Je ne vois pas d'autre chose qu'il puisse sauvegarder.

Pour moi, habituellement, chaque connaissance est un groupe de deux données. Les données que je peux appeler les données d'activation, et les données à retourner lors de l'activation.

Ici, tout dépends comment tu représente tes connaissances... Je peux très bien avoir
- une table d'association entrées->sortie
- un RdN entrées->W->sortie
- ...
Tout dépends des données que tu veux "mémoriser".

Mais pour "mémoriser" à la manière du cerveau... On a encore du chemin à faire...

Ici, je souhaite mémoriser des évènements, constituant une donnée unique. Alors, j'ai une idée ; C'est de constituer chaque connaissance avec un doublé de la donnée évènementielle.

Un simple mapping entrée->sortie ?

Que va-t-il ce passer dans ce cas ? Est-ce comme ceci que ça fonctionne ?

Là je ne te suis pas ...

[Invité]

Hmmm, si tu fais référence au cerveau, c'est beaucoup plus compliqué ... (mémoire épisodique, sémantique, perceptive, procédurale... ) qui ne pourrait être simplifié par de simple poids... Enfin...

Et bien, le cerveau, en tout cas la partie volatile, c'est un ou plusieurs réseaux de neurones et pas plus, pour moi, en tout cas je part avec ce semblent de connaissance.

Disons que dans le cas des RdN, "mémorisé" une fonction, c'est en effet enregistrer les poids appris.

Ok ça, c'est une réponse qui me convient et me plait.

J'imagine que oui. Je ne vois pas d'autre chose qu'il puisse sauvegarder.

Ok, j'ai pas vraiment le chois en effet.
J'étudierais d'autre bibliothèque pour voir.

Ici, tout dépends comment tu représente tes connaissances... Je peux très bien avoir
- une table d'association entrées->sortie
- un RdN entrées->W->sortie
- ...
Tout dépends des données que tu veux "mémoriser".

Mais pour "mémoriser" à la manière du cerveau... On a encore du chemin à faire...

Je sens tout de même, qu'avec ta présente contribution je vais parvenir à ma fin.

Un simple mapping entrée->sortie ?

Oui, c'est ce à quoi je pensais, même si ce n'était peut-être pas une bonne idée.

Là je ne te suis pas ...

Je voulais savoir si donner des entrées et sortie identique n'allais pas fausser le fonctionnement attendu d'un RdN.

Et bien merci beaucoup Clercq.

Peut-être puis-je étendre le sujet de ce fil de discussion pour aborder le système de décision à base de réseau de neurones formels ?
Cela serait-il possible de modéliser un système de décision à base RdN ?

[Clercq]

Et bien, le cerveau, en tout cas la partie volatile, c'est un ou plusieurs réseaux de neurones et pas plus, pour moi, en tout cas je part avec ce semblent de connaissance.

On peut, s'en trop se tromper que le cerveaux est un ensemble de réseaux de neurones: il existe plusieurs type de neurones, plusieurs type de connexions... Donc plusieurs, a priori plusieurs réseaux. Le problèmes, c'est qu'on ne sait pas vraiment comment tout ces réseaux interagisse, même si pour la "fonction visuelle" on arrive a pas décrire le cheminement, il n'en reste pas moins que ces "quelques" réseaux comportent des millions de neurones avec des milliards de connexion...

Oui, c'est ce à quoi je pensais, même si ce n'était peut-être pas une bonne idée.

Qu'est ce qui te "chagrine" dans cette option?

Je voulais savoir si donner des entrées et sortie identique n'allais pas fausser le fonctionnement attendu d'un RdN.

Si tu entends part la A->A, B->B ... Je ne vois tout simplement pas le but? A moins de faire un réseaux perroquet

Peut-être puis-je étendre le sujet de ce fil de discussion pour aborder le système de décision à base de réseau de neurones formels ?
Cela serait-il possible de modéliser un système de décision à base RdN ?

Tout dépends de ce que tu entends par décision. Pour des décisions "simples" : J'ai un vecteur de critères et je veux choisir la meilleurs action au sens d'un apprentissage préalable, c'est tout a fait possible.
Pour des décisions plus complexe qui demande une "réflexion", je ne m'étendrais pas. Disons qu'il est difficile de définir ce qu'est la réflexion, est une suite de RdN qui constitue lui même un RdN de RdN qui permettrais d'obtenir une réponse par rapport a l'apprentissage effectuer tout au long de nos expériences, ou bien ... Enfin.