[Réseaux de neurones] Utilité du biais ?

Bonjour,

Je suis actuellement entrain d'apprendre à développer des réseaux de neurones.

J'ai implémenté un perceptron multi-couche pour le calcul du XOR en insérant pour chaque couche un biais (ce biais étant relié à un poid).

Je me suis demandé tout à coup à quoi servait ce biais. J'ai essayé de le retirer pour voir comment le réseau allait réagir mais effectivement il ne calculait plus le XOR comme auparavant.

Alors ma question c'est à quoi peu bien servir le biais ?
Parce que à part rajouter un poid sur chaque couche, j'ai de la peine à savoir en quoi il peut aider le réseau.

PS: Je connais la différence entre le seuil et le biais.

Merci d'avance pour vos réponses ;)

Il y a cette explication pour le cadre générale:

Biais dans les réseaux de neurones Chapitre 3/4

Dans le cas d'une fonction XOR, ta fonction d'activation est la quel dans ton neurone ? Car elle doit être différente de 0. Ne serais ce pas la raison de ton biais.

J'ai peur de dire une bêtise mais voilà l'explication que je donnerais.

Salut,

Merci pour ta réponse, mais même avec l'aide du PDF, j'arrive pas à me représenter la chose. Surtout que dans ce cas le biais n'est pas associé à un poid.

Pour les neurones de la couche cachée et la couche de sortie, j'utilise la fonction sigmoide comme fonction d'activation.

J'ai peut-être aussi oublié de préciser que les biais des deux couches sont considérés comme des entrées supplémentaires associés à des poids et qu'ils sont égales à 1.

Je vais essayer d'être pédagogue.
Prenons un réseaux de deux neurones qui renvoie une valeur en entrée.

Pour l'entrer:
Pour f(x)=1/(1+e^-x) alors f(0) = 1/2 et f(1)=<1/2 ou 1/4<f(1)<=1/2
On a les deux points du même coté de la tangente verticale.

Avec un biais:
Pour g(x)=1/(1+e^(-x-0.5)) alors g(0)=0.6 et f(0)=0.4
Nous avons les points de chaque coté de la tangente verticale.

Dans le premier cas ton second neurone ne peux pas différentier f(1) de f(0) du fais qu'ils sont du même coté de la tangente verticale alors que dans le second cas ils sont de part et autre.

Tu peux faire varier le poids du neurone mais dans tout les cas si w > 0 alors f(1) et f(0) seront inférieur à 1/2 et dans le cas w<0 supérieur à 1/2.


Autre approche en Anglais.

Est ce que cela t'aide à ta compréhension du problème ?

Salut,

Oui merci, à l'aide du lien et de ton explication, j'ai peu comprendre la problématique.

Je te remercie :)