Dérivation fonction sigmoïde

[pierre-luc]

Une fonction sigmoïde est utilisée pour le calcul de la valeur de sortie "u" d'un neurone artificiel. Celle-ci est de forme:

f(u)=1/(1+exp(-au))

Dans la phase de modification des poids synaptiques, une descente de gradient est effectuée, ce qui oblige une fonction dérivable telle que f(u). Voilà, donc, pour sa dérivée, j'obtiens:

f'(u)=1/(e^u(1+1/e^u)^2)

Alors que j'ai rencontré également cette expression:

f'(u)=f(u)[1-f(u)]

Est-ce la même chose ? N'est-ce qu'une question d'algèbre ?

[indian58]

c'est pas très clair ta dérivée: ils sont passés où le a et le signe "-"?

[pierre-luc]

En fait, pour le paramètre a, c'est pas trop la peine de sans soucier car on l'oublie parfois dans les équations que j'ai rencontrées. Il ne fait que modifier la pente.

[indian58]

et le signe "-", je crois que tu l'as oublié?

[pierre-luc]

Bon, après avoir consulté quelques sites, je constate que l'expression plus couramment utilisée est la seconde. La première m'a été donnée par un enseignant de mathématique: je le questionnerai lundi.

http://www.cs.duke.edu/~natsev/thesis/node15.html