Réseaux de neurones

[isozv]

Bon jour/soir

J'ai quelques questions sur les perceptrons dont j'essaie désespérement (toujours...) de trouver un ouvrage de qualité :

1. Pourquoi et qu'est-ce qui jusitifie que par définition nous fassion le produit scalaire des poids et des entrées et pas une autre opération mathématique.

2. Pourquoi n'y aurait-t-il pas rétro-action dans la définition du perceptron ? (comment argument cela également)

3. Comme justifier quelle fonction d'activation doit être choisie (il me semble que les fonctions sigmoïde ou tanh() sont pris comme "range tout" sans justifier leur utilisation)

4. Comment choisir "au mieux" les "poids" du réseau de neurones à l'initialisation du système

D'autres question viendront très certainement par la suite

Merci pour vos conseils
-----

[inviteb865367f]

3. La fonction de seuil doit être continue, dérivable et avoir une limite sup et inf.
Donc si tu veux en prendre une autre tu es "libre".

[isozv]

je connaissais ces critères mais ta réponse me choque considérablement et me semble être totalement à l'opposé d'une vraie démarche scientifique.

[inviteb865367f]

Ensuite il est bon de prendre un bonne fonction qui facilite les calculs de l'algo lors de l'apprentissage.

Mais tu veux prendre quoi à la place ?

[A voir en vidéo sur Futura]

[isozv]

la question n'est pas ce qu'il faut "prendre à la place" mais comment argumenter pourquoi prendre une fonction de transfert plutôt qu'une autre sans faire par tatonnements (sans bricoler quoi...)

[Rodrigue]

La théorie des réseaux de neurones est calquée sur la fonctionnement biologique du cerveau... Les fonctions mathématiques utilisées sont très sembables à celles qu'on retrouve dans la nature (en un peu plus simplifiées qd même car on doit savoir faire du temps-réel).

Cordialement,
Rodrigue

[isozv]

oui mais cela ne dit quand même pas quand même "comment choisir"

[Rodrigue]

Question philosophique