Discussion :

[plume1]

Bonjour à tous,

Je suis étudiante en biologie mais j'ai besoin de coder un réseau de neurones pour un projet. Jusqu'ici mon réseau apprend bien et est plutôt précis quand les valeurs entrées sont positives, mais ne semble pas capable de retourner des valeurs en dessous de 0. (Je mets en pièces jointes le graphe des valeurs attendues en fonction des valeurs théoriques pour que vous puissiez visualiser le problème, dans l'idéal j'aimerais avoir une droite). Connaissez-vous la fonction/ l'option à utiliser pour que le réseau puisse également estimer des valeurs négatives ?

Je précise que mon réseau prend 75 entrées pour 20 sorties, qu'il contient 3 couches cachées de 60, 45 et 30 neurones avec une fonction d'activation 'relu' et j'ai utilisé la fonction de couts 'mean squared error'

Merci d'avance à ceux qui prendront le temps de m'aider et bonne journée !

[robinechuca]

Bonjour,

La fonction d'activation 'relu' est une fonction de R -> R+, donc oui c'est normal qu'il ne retourne pas de valeur en dessous de 0.
Vous ne devez pas utiliser cette fonction, au moins pour la dernière couche.
Je ne connais pas l'étendue de vos valeur en sortie mais il faut que vous mettiez une fonction d'activation allant de R -> [Vmin, Vmax].
Pour cela, vous pouvez dilater une sigmoide par example, la sigmoide va de R -> [0, 1]
Donc en prenant comme fonction d'activation en sortie: f(x) = sigmoide(x)*(Vmax - Vmin) + Vmin
Vous vous retrouvez dans le bon intervalle.

Je ne sais pas a quel point c'est simple a implémenter ou pas dans tensorflow, mais sinon j'ai envie de dire, ne mettez tout s'implement pas de fonction d'activation sur la dernière couche. De toute façon quand la sortie est positive, la 'relu' ne fait rien.