Salut,
J'ai encore quelques questions:
Comment peut on savoir, pour que le réseaux de neurones soit le plus performant possible combien de neurones faut il mettre en entré, en couché caché et en sortie?
Comment peut on savoir, pour que le réseaux de neurones soit le plus performant possible combien de couché caché faut il mettre?
Est-ce possible qu'il y ai plus de neurones en sortie qu'en entré?
Merci
En entrée et en sortie, ça dépend directement des données qu'on veut approximer. En couche caché: on sait pas, donc il faut tâtonner.Envoyé par neokiller007
Indice: plus il y a de neurones dans la couche cachée, plus le réseau va apprendre les exemples de la base d'entraînement. Moins il y en a, moins le réseau va faire des erreurs dans la base de généralisation. Donc une façon de décider est de tester une série de réseau en variant le nombre de neurone des couches cachées, puis de mesurer les erreurs sur la base d'apprentissage et les erreurs sur la base de généralisation. En fonction des résultats, on pourra alors choisir "à la main" le nombre de neurone dans les couches cachées qui donne des résultats suffisamment bon avec chacune des deux bases de données (base d'apprentissage et base de généralisation).
Même problème que pour le nombre de neurone dans la couche cachée: on sait pas. Par contre on sait que n'importe quel réseau à n couches (n>2) peut être approximé par un réseau à deux couches cachées. Donc en pratique on en fait deux sauf raisons spéciales.
Pas de problèmes.
Resalut,
J'essaye de faire ton réseau de neurones mais il y a des truc que je ne connais pas:
C'est quoi une somme pondérée?
Une fonction non linéaire? (une fonction dont la courbe représentative n'est pas une droite?)
"il fait une somme pondérée de ses entrées, puis passe le résultat dans une fonction non linéaire" Comment il passe de la somme pondérée à la fonction non linéaire ?
"On va utiliser 1/(1+exp(-X))" Pourquoi 1/(1+exp(-X))?
Et que veut dire le "exp"?
Merci
Soit un neurone qui reçoit 3 entrées (e1, e2, e3) et que chacune de ces entrées à un poids synaptique (w1, w2, w3), alors il recoit au tota la somme pondérée p=e1*w1+e2*w2+e3*w3
C'est comme faire une moyenne avec des matières qui ont des coefiscients différents, sauf qu'on ne divise pas par la somme des coefs.
C'est une fonction où des petites variations en entrées peuvent produire soit de gros changements, soit de petits changements, selon où on est dans la courbe. Par exemple avec s=1/(1+exp(-X)) si on est aux alentours de X=0 alors de petits changements font une grosse différence pour s, alors que si on est très négatif ou très positif de petit changements en X mènent à des changements encore plus petit pour s.
Par étape: d'abord on calcule p=e1*w1+e2*w2+e3*w3, puis s=1/(1+exp(-p))
C'est la fonction exponentielle, c'est à dire qui multiplie une base par elle même -p fois. Par exemple en base 10, ça correspond presque à la notation scientifique (exceptée que l'exposant n'est pas forcément entier). Dans excel tu peux appeler cette fonction sans trop te préoccuper de ce que ça fait.
Pourquoi pas? On pourrait en utiliser d'autres, sauf que celle-ci est pratique: symétrique, bornée, continue, et facile à utiliser pour le calcul de rétropopagation.
Salut,
Je comprend pas grand chose, j'ai du utiliser un tableur qu'une seul fois dans ma vie alors si tu pouvais expliquer précisément ce qu'il faut que je fasse ce serais sympa.
J'ai fait un schéma de ce que j'ai compris (clique ici).
Alors, c'est juste?
Merci!!
Bingo!
Pour être tout à fait complet, il faudrait mettre aussi ce qui se passe pendant l'apprentissage: comment changer les poids par la méthode de rétropopagation. D'une certaine façon, tu as décris le sens "aller" depuis les entrées jusqu'aux sorties, et la rétropopagation pourrait figurer le "retour": comment changer les poids à partir de l'erreur calculée en sortie.
Mais ce que je ne comprend pas c'est que, une entrée n'a pas de poid synaptique?
Donc comment faire la somme pondéré?
Et le résultat compris entre 0 et 1 j'en fait quoi?
Par exemple si je veut savoir de combien mon gateau monte en fonction du nombre de gramme de levure que j'ai mis dedans, de la température à laquelle je le fait cuire et de combien de temps je le fait cuire.
Je me retrouve avec un résultat (ici même deux!) compris entre 1 et 0 j'en fait quoi??
Merci
D'abord un petit retour sur ton schéma pour être sur: chaque "neurone" a la même fonction d'activation, pas seulement la première couche ok? Ensuite les connexions se font entre couches adjacente comme indiqué CE=>CC1=>CC2=>CS, mais aussi entre couches non adjacentes dans le sens entrée=>sortie donc CE=>CC2, CE=>CS, et CC1=>CS existent aussi.
Du coup ça répond à ta première question: oui il existe de poids synaptiques entre les entrées et le reste. Regarde mon message 20, j'avais indiqué notamment 2 tableaux qui représentent les poids synaptiques:
Avec deux couches cachées ça donnerait trois tableaux:Poids synaptiques à partir des entrées
_____C1___C2___S1____S2
E1___0.2__0.1__0.4___0.2
E2___0.3__-.5__-.4___0.1
1____-.1__0.1__0.2___-.2
poids synaptiques à partir de la couche cachée
_____S1____S2
C1___0.1___-.5
C2___-.5___0.4
_____C01___C02___C11____C12___ _S1____S2
E1
E2
1
_____C11____C12____S1____S2
C01
C02
_____S1____S2
C11________X
C12
...qui se lisent comme suit: le poids synaptique entre le premier neurone de la couche 2 et le deuxième neurone de sortie est là où il y a un X
Une fois que tu as calculé le résultat s=f(e) à partir d'un ensemble de poids synaptiques pris au hasard, tu t'attends à avoir de nombreuses erreurs. Donc tu vas comparer tes sorties dites "théoriques" avec les vrais sorties (c'est à ce niveau qu'il faut absolument avoir normalisé ses données entre 0 et 1), tout simplement en faisant une soustraction.Et le résultat compris entre 0 et 1 j'en fait quoi?
Tu as alors une erreur (en fait une erreur par neurone de sortie- 2 dans l'exemple que tu donnes). Cette erreur va ensuite être "retournée" le long de chaque voie ayant menée aux sorties (d'où le nom de rétropopagation). Enfin, les poids synaptiques seront ajustés pour faire une erreur un petit peu moins grande (voir le message 40 pour les formules).
En réitérant cette procédure sur de nombreux exemples, tu vas t'apercevoir que les poids synaptiques "convergent" vers des valeurs stables: le réseau a alors appris la fonction s=f(e), et il ne te reste plus qu'à tester la généralisabilité: c'est à dire à vérifier que ton réseau marche non seulement sur les données qu'il a appris, mais aussi sur d'autres données similaires.
Salut,
Alors voila j'ai un problème, c'est qu'on a pas de problématique.
On a demandé aux profs si cette problématique était bonne:Qu'est-ce qu'un réseau de neurones, comment fonctionnent ils, à quoi ça sert?
Mais les profs nous on dit que c'est plus une problématique de recherche qu'autre chose.
Alors, j'ai pensé à faire un truc du genre: Comment reconnaitre les formes avec un réseau de neurone?
Vu que j'ai trouvé des programmes permettant ça.
Mais c'est peut être trop précis comme problématique.
Puis comme plan on a fait deux partie: Une partie pour les neurones biologique, et l'autre pour les neurones mathématiques.
Mais je ne sais pas si c'est la bonne solution car au départ on a fait ça pour dire que les neurone mathématiques sont inspirés des biologiques.
Mais comme on a fait deux groupes: une sur les neurones mathématiques et l'autre sur les neurones biologiques.
Ben 90% de ce que disent le groupe sur les neurones biologiques ne sert à rien pour les neurones mathématiques, c'est beaucoup trop approfondie.
Alors ce serais sympa de me guider un peu parce que je croit que je me suis perdu...
Merci
a++
Absolument. Tu peux dire qu'il y a deux types de communications dans les vrai cellules: chimique et électrique. Les RDNA s'inspirent entièrement du fonctionnement électrique, et pas du tout du fonctionnement chimique. Celui-ci est central pour comprendre la plasticité, c'est à dire comment les poids synaptiques sont modifiées selon différentes échelles de temps et en fonction de l'activité du neurone. Dans un RDNA, on utilise des rêgles qu'on sait fonctionner pour résoudre certains problèmes, mais qui ne représentent pas toute la subtilité (ni la spécificité -il existe des millions de types de neurones) des modifications synaptiques qu'on retrouve dans le réel.90% de ce que disent le groupe sur les neurones biologiques ne sert à rien pour les neurones mathématiques
Donc il faudrais que nous nous rencentrions autours des réseaux neuronaux.
Et la partie sur les neurones biologiques serais toute petite (voir inexistante, si on met ça en intro?).
Sinon pour une problématique, aucune idée?
Ou sinon, pour la partie neurone biologique il faudrait expliquer la notion de réseaux de neurones biologique.
Non?
ps: si t'auras des cours sur les réseaux neuronaux numérisé (pdf, doc ou autre) ça m'intéresserais.
C'est à vous de décider ce que vous voulez faire
PS non j'ai pas... à part une version imprimée de cette discussion bien sur
Au départ on voulais expliquer la notion de réseaux neuronaux, comment ça marhce, à quoi ça sert etc et pourquoi pas faire un petit exemple.
Mais le prof nous a dit qu'il faudrais amené le problématique autrement (un truc du style Comment reconnaitre des formes? ce qui nous amènerais à parler des réseaux...)
Sinon est-ce que ça serais bien de parler des réseaux de neurones(électrique) biologique pour introduire les réseaux de neurones mathématiques ou il n'y a rien à voir?
Oui ça a très à voir: le premier modèle de neurone artificiel de McCulloch et Pitts en 1953 (rêgle: actif si la somme pondérée des entrées dépasse un seuil, sinon inactif), qui est presque identique à celui qu'on a utilisé dans ce fil, est directement inspiré de la transmission électrique dans les neurones réels: les dépolarisations venant des synapses sont effectivement sommées de façon relativement linéaire, et il y a effectivement un seuil de déclenchement.Sinon est-ce que ça serais bien de parler des réseaux de neurones(électrique) biologique pour introduire les réseaux de neurones mathématiques ou il n'y a rien à voir?
Après la question est comment ces synapses se modifient-elles? C'est là que toute la subtilité de la transmission chimique (qui interagit avec les fonctions cellulaires) intervient, et qu'on modèlise sans trop se soucier de la réalité complexe qui est derrière.
Ok, merci.
J'ai un petit problème, dans wikipédia ils disent: "Un réseau de neurones...inspirée du fonctionnement de vrais neurones (humains ou non)" Et ce n'est pas précisé de neurone electrique.(Au fait on dit neurone électrique ou neurone à synapse électrique?)
Donc est-ce que je réctifie l'article en précisant que ce n'est inspiré que des neurones électrique?
j ai peut etre une idee a propos d un suget de tpe pour toi
lesfractals(images se repetant a l'infini comme la vache qui rit avec sa boucle d'oreille)
j'espere que cela t'aidera
Merci mais le sujet je l'ai déja, les réseaux neuronaux...
Zut zut zut j'ai encore été d'une clareté calcairique. Je ne voulais pas parler des neurones ayant des synapses électrique, mais du fait que les neurones "normaux" utilisent deux type de transmission.
Au niveau des synapses, c'est chimique puisque véhiculé par les neurotransmetteurs.
Après la synapse, on passe à une transmission électrique: d'abord par des dépolarisations provenant de chaque synapse et qui se propagent en direction du corps cellulaire. A ce niveau les signaux diminuent d'intensité avec le temps et les dépolarisations élémentaires provenant de chaque synapse se somment linéairement: une synapse loin du corps cellulaire aura donc moins d'influence. C'est l'ensemble de ce fonctionnement qui est modélisé, de manière franchement élégante, par la rêgle de sommation pondérée linéaire des entrées.
Arrivé à la base de l'axone, les dépolarisations provoquent, si elles sont assez fortes, le déclenchement d'un potentiel d'action qui se propagera intact (au contraire des dépolarisations dans les dendrites et corps cellulaire) tout le long de l'axone jusqu'aux synapses suivantes. C'est ce comportement en "tout ou rien" qui est modélisé par l'ajout d'une fonction non linéaire.
Ces deux aspects de la transmission électrique sont donc la source d'inspiration principale pour nos modèles. Reste la rêgle de rétropopagation pour modifier les poids synaptiques. Dans ce cas il s'agit surtout de la résolution d'un problème mathématique dont je te passerais les détails -surtout considérant que je me trompe environ 1 fois sur 2
D'autre rêgles de modifications des poids existent et sont proches de la biologie: la très célèbre rêgle de Hebb peut s'écrire comme suit "si un neurone émet un potentiel d'action, alors les synapses actives connectées à ce neurone augmentent leur efficacité". Ca donne des associateurs (mémoires) relativement efficaces, et surtout ça correspond tout à fait aux résultats expérimentaux.
Salut, je suis en premiere S et je doit faire mon sujet de TPE autour des math et phisique ..
J'etait parti sur un suet autour de l'aviation !? Si vous avez une problematique interessante je suis prenant 8D !
Et si vous pouvez me faire des proposition de sujet originaux pour ces matiere .. ?
Merci beaucoup !
Y a un rapport avec la SVT là?
Je sers la science et c'est ma joie.... Il parait.
Bonjour l'accueil des nouveau
En même temps le nouveau il poste son message partout où il peut sans aucun respect pour la conversation en cours. Le titre ici est pourtant explicite non?
Si tout le monde faisait comme vous croyez qu'il ressemblerait à quoi ce forum.
Sujet: les nouvelles avancées en physique quantique.
réponse 1: je cherche des infos sur le pré cambrien. Merci d'avance.
réponse 2: mon frigo est en panne.
etc....
Il aurait bonne mine tiens....
Je sers la science et c'est ma joie.... Il parait.
Les plagistes tels que thomasamoth ne méritent aucune aide. peut etre au mieux des batons ds les roues. Je lui souhaite d'ailleurs bonne chance avec moi, il lui en faudra.
Bonjour à tous,
J'èspère ne pas déranger votre conversation en posant ma question mais je suis vraiment désemparée Cela fait maintenant 2 mois que j'ai commencé les TPE, avec mon groupe, nous avons longuement réfléchi a un sujet, sans succès. Nous cherchons un sujet peu commun avec commes disciplines dominantes Maths et SVT.
Merci de votre éventuelle réponse =) .
