Discussion :

[MEKKI-AHMED]

Bonjour tous le monde,
Je débute en réseaux de neurones et j'ai une question :
*les poids des connexions au sein du réseau ont des significations physique (interaction entre les entres....) et comment on peut determiner cette relation(interaction)?
*comment on fait l'initialisation de matrice poids ( avec matlab)?
*dans le cas ou on'a un sortie parmis deux non mesurable ( char ) comment on peut l'introduire dans notre programme (avec matlab) et comment on peut explique leur poids ?
merci d'avance

[Clercq]

Je débute en réseaux de neurones et j'ai une question :

hmmm... des questions?

*les poids des connexions au sein du réseau ont des significations physique (interaction entre les entres....) et comment on peut determiner cette relation(interaction)?

La signification des poids, est la contribution d'une entrée à la couche suivante. Dans le cas idéal, si une seule dimension d'entrée permettait la discrimination, alors seule cette dimension aurait un poids non nul.
La relation peut être expliquée plus ou moins facilement. Dans la classification de texte par exemple, on devrait avoir des poids plus important pour les mots qui permettent de déterminer à quelle classe appartient tels ou tels texte. Le Problème est que l'on projette la couche d'entré dans une dimension auxiliaire (la couche cachée) qui elle même est projetée dans une seconde dimension (la couche de sortie). Ce qui rends la lecture des poids relativement difficile, voir impossible.
D'autre algorithme de classification on était créé avec une meilleur lisibilité (human-readable), comme LWPR.

*comment on fait l'initialisation de matrice poids ( avec matlab)?

Avec matlab ou autre, on initialise généralement les matrices de poids de façon aléatoire, voir stochastique. Je ne sais pas si une initialisation stochastique avec la loi de distribution a priori de mes données permet une meilleur initialisation, et donc une meilleur convergence...

*dans le cas ou on'a un sortie parmis deux non mesurable ( char ) comment on peut l'introduire dans notre programme (avec matlab) et comment on peut explique leur poids ?

Dans ce cas tu dis: classe 1: négatif, classe 2: positif, et ensuite tu fais négatif->char_1, positif->char_2.
Dans le cas de plus de deux classes, par exemple... 3:
char_1 0 0 1
char_2 0 1 0
char_3 1 0 0
et pour connaitre la classe que ton réseaux prédit : max(Y_hat_1, Y_hat_2, Y_hat_3).
Ou alors tu fais du 1 contre tous.
Pour l'explication des poids... Je pense que c'est relativement compliqué.

Peut être qu'une décomposition en valeurs singulières (SVD) de tes matrices de poids donnerait quelque-chose... Je n'ai jamais testé.