Discussion :

[ganondorf5]

Bonjour,

je m'intéresse depuis peu aux réseaux de neurones, notamment en ce moments aux réseaux de neurones convolutifs, mais j'ai plusieurs questions auxquelles je n'arrive pas à trouver de réponse claire et précise ...
Je suis donc venu ici dans l'espoir d'y trouver des réponses !

Si j'ai bien compris, dans une couche "full connected", chaque neurone est relié à tous les neurones de la couche précédente et chaque neurones a également une matrice de poids (de la même taille que l'entrée) et un biais (optionnel).
Dans une telle couche les neurones vont faire la somme des x(i)*w(i) et rajouter le biais à la fin (x est l'entrée et w les poids).

Et dans une couche convolutionnelle c'est tout pareil sauf que la multiplication des matrices est remplacée par une convolution ? (où ce qui est entrainable est le noyau et le biais)
Si c'est le cas alors pourquoi une couche de convolution à des neurones en profondeur ?
Pourquoi dit-on que chaque neurone ne regarde qu'une partie de l'image à la fois, alors qu'ils font tous la convolution de toute l'image par leur filtre (noyau) ?
J'ai crus comprendre que les neurones sur le même "plan" regardaient des parties différentes de l'image mais partageaient le même noyau ? Et que les neurones en profondeur regardaient la même partie que les neurones devant et derrière mais avec un noyau différent (mais commun avec leur plan ?)
Si les neurones ne font pas la convolution de toute l'image par leur noyau alors que font-ils ? Font-ils seulement une seule itération de la convolution ? (faire la somme des produits indice à indice de leur noyau avec une partie de l'image ?) Dans ce cas il faut adapter le nombre de neurones de la première couche à la taille de l'image en entrée ?
Peut-être que c'est carrément l'opération de convolution que j'ai mal comprise et qu'en fait la convolution d'une matrice par un noyau est juste le fait de faire la somme des produits indice à indice de la matrice avec le noyau ? Mais d'après Wikipedia il faut réaliser cette étape en faisant glisser le noyau sur la matrice ...

Bon ça fait beaucoup de questions c'est vrai mais ce sont des questions simples et je suis complètement perdu
Si quelqu'un pouvait m'expliquer comment ça se passe exactement pour chaque neurone dans une couche de convolution ça m'aiderait vraiment beaucoup !
Merci d'avance !

[ToTo13]

Dans une couche de convolution, tu as généralement plusieurs maps, que l'on appelle aussi "feature map".
Chacune de ces maps a son propre noyau de convolution. Donc il y a autant de noyaux de convolution que de map.
Ensuite, un neurone d'une map, va faire la convolution d'une même zone de toutes (ou une partie, c'est le cas du LeNet qui a un temps battu le record du MNIST) des maps de la couche précédente.

[ganondorf5]

Merci pour ta réponse, j'ai à peu près compris l'histoire des feature maps.

Mais en fait il n'y a pas vraiment de neurones dans une feature map (si on veut l'implémenter) ?
Chaque feature map va faire la convolution de toute l'image (avec son propre noyau) et un neurone représente une itération de la convolution c'est ça ? (Du coup on dit qu'un neurone regarde une partie de l'image)
Puis il y a une étape de pooling ... Ensuite la couche de convolution suivante aura des feature maps (autant qu'on veut) avec une profondeur égale au nombre de feature maps de la couche précédente
Mais un détail me chiffone ... Si on part d'une image 32x32x3 et qu'on applique une convolution de noyau 5x5x3, les feature maps qui en ressortiront seront de taille 28x28 ou 28x28x3 ? En théorie c'est censé ressortir en 28x28x3 mais en lisant différents articles j'ai l'impression que ce qui ressort est du 28x28 ...
Merci !