encore les neurones artificiels.... effet d'annonce ou avancée?

[Bounoume]

dans le post #130 de
https://forums.futura-sciences.com/d...-de-soi-2.html
il y a la référence (CNRS)
https://www.iledefrance-gif.cnrs.fr/...rs-algorithmes
et la seule explication du principe:
https://www.cnrs-thales.fr/spip.php?article194

en examinant la courbe: R=f(B), ou bien: R=f(V) R=résistance en ohms, B= champ magnétique ,V= volts (?pas sûr..)
il y a un hystérésis avec plusieurs paliers: mémorisation d'une valeur analogique, je veux bien.... mais après nous dit que ça permettrait de concevoir des réseaux neuromimétiques faisant directement touts les calculs pour une IA..... Comment va-t-on accéder à chaque élément? plus facile que les classiques RAM dynamiques (? ) Quelle organisation d'ensemble les promoteurs envisagent-ils?
Effet d'annonce? perspectives?
Quel avenir?
-----

[Deedee81]

Bonjour,

Tu as encore oublié de dire bonjour

[Deedee81]

Pour les neurones artificiels neuro-mimétiques, c'est loin d'être nouveau. Le but étant essentiellement de simuler les vrais neurones pour diverses études sur le comportement des réseaux de vrais neurones (ça peut être beaucoup plus facile pour expérimenter certaines choses).

Mais il est vrai qu'on en parle récemment pour concurrencer les neurones formelles en IA. Mais je ne sais pas du tout ce que ça vaut. Le CNRS j'aurais plus tendance à faire confiance que des annonces de la NASA par exemple Mais ça reste à vérifier. Je ne sais pas qui est assez qualifié pour y répondre.

[Deedee81]

Et de fait, pas de discussion de comptoir s'il vous plait (comme c'est trop souvent le cas sur l'IA).

Si vous n'êtes pas spécialistes, justifiez vos raisonnements/opinions par des références ou alors abstenez-vous. D'autant que la question posée par Bounoume est quand même très précise.

Merci,

[A voir en vidéo sur Futura]

[Avatar10]

Même si vous êtes spécialiste, faut des références, après tout quelle assurance j'ai de lire une personne qui soit vraiment spécialiste sur un forum ou beaucoup sont anonymes ? .

[Deedee81]

Même si vous êtes spécialiste, faut des références, après tout quelle assurance j'ai de lire une personne qui soit vraiment spécialiste sur un forum ou beaucoup sont anonymes ? .

Bien vu, d'autant qu'un spécialiste aura plus de chance de connaitre les références

[ArchoZaure]

Sans être spécialiste et donc je m'abstiendrai des commentaires, voici le grain à moudre (architecture semblable aux IA par retro-propagation) via les SNN Spike Neural Network :
https://www.researchgate.net/publica...ent_Plasticity
https://www.frontiersin.org/articles...22.929644/full
https://compneuro.neuromatch.io/tuto...Tutorial4.html

[Bounoume]

Désolé: j'ai encore fait une gaffe! Alors, bien amicalement, un grand bonjour à toi, Deedee81 !

Merci de vos informations.... mais les 3 références fournies, c'est plutôt destiné à des spécialistes de la question, alors que je n'ai que des notions très très primaires du domaine......
C'est pourquoi je compte sur vous pour suppléer à mon ignorance et, autant que possible, en combler au moins les + grosses lacunes à un niveau bien plus élémentaire!
A bientôt....

[Deedee81]

Salut,

Ca va pas être facile. Je crois que personne ne maîtrise ça ici !!!!

[Liet Kynes]

Bonjour,

Une petite conférence d'introduction (l'analogie avec le ban de poissons est à garder à l'esprit):https://www.youtube.com/watch?v=e_1-c_jYBMc

Et pour aller vraiment dans le sujet cette seconde conférence: https://www.youtube.com/watch?v=HpxIHxLgdow

Il me semble que l'on a déjà parlé de ces idées dans d'autres fils (je n'ai pas retrouvé ).

[fred3000gt]

Sans être spécialiste et donc je m'abstiendrai des commentaires, voici le grain à moudre (architecture semblable aux IA par retro-propagation) via les SNN Spike Neural Network :
https://www.researchgate.net/publica...ent_Plasticity
https://www.frontiersin.org/articles...22.929644/full
https://compneuro.neuromatch.io/tuto...Tutorial4.html

Alors les spiking neurons sont présents depuis plus de 20 ans, le king dans le domaine est Gerstner, j’ai personnellement implémenté une partie des algos de son bouquin. Le coeur de l’apprentissage est la diff de phase entre les spikes (STDP), c’est biologiquement plausible, ca demande moins de neurones que des traditionnels… mais c’est bien plus galère à utiliser et à ma connaissance, personne n’utilise cela sur des problèmes pratiques (mais j’adore quand même..).

Par contre ne n’ai pas vu le lien avec les systèmes neuromorphiques de Bounoune, qui me semblent pas spiker.

dans le post #130 de
https://forums.futura-sciences.com/d...-de-soi-2.html
il y a la référence (CNRS)
https://www.iledefrance-gif.cnrs.fr/...rs-algorithmes
et la seule explication du principe:
https://www.cnrs-thales.fr/spip.php?article194

en examinant la courbe: R=f(B), ou bien: R=f(V) R=résistance en ohms, B= champ magnétique ,V= volts (?pas sûr..)
il y a un hystérésis avec plusieurs paliers: mémorisation d'une valeur analogique, je veux bien.... mais après nous dit que ça permettrait de concevoir des réseaux neuromimétiques faisant directement touts les calculs pour une IA..... Comment va-t-on accéder à chaque élément? plus facile que les classiques RAM dynamiques (? ) Quelle organisation d'ensemble les promoteurs envisagent-ils?
Effet d'annonce? perspectives?
Quel avenir?

A priori je suis sceptique. Alors des memristors et des systèmes neuromorphiques, ca fait des dizaines d’années qu’on lie des annonces et que ca tombe dans l’oubli, comme la dernière puce TrueNorth de IBM. Et plus proche des articles cités, c’est tout le domaine du CIM (computing in materio) qui existe depuis les ordinateurs analogiques. D’une manière générale toute approche “unconventional computing” peut faire l’objet d’une publi si on cherche à reproduire des réseaux de neurones.

Dans le genre extrême tu as même des gens (comme moi par exemple…) qui utilisent des neurones vivants pour réaliser des stockage d’information et c’est marrant que tu parle de mémorisation par hystérèse car c’est exactement ce que l’on a accompli l’année dernière…

Salut,

Ca va pas être facile. Je crois que personne ne maîtrise ça ici !!!!

je ne suis pas sûr que quelqu’un au monde maitrise les neuromorphiques, en fait même le deep-learning “tout bête”, on le fait fonctionner plus par tatonnement qu’autre chose… (je parle des hyperparamètres).

[pm42]

je ne suis pas sûr que quelqu’un au monde maitrise les neuromorphiques, en fait même le deep-learning “tout bête”, on le fait fonctionner plus par tatonnement qu’autre chose… (je parle des hyperparamètres).

Faire une recherche d'un optimal par les différentes méthodes utilisées (grid, bayésienne, arbres d'estimateurs de Parzen) n'est pas tout à fait la même chose que "ne pas maitriser" et "tatonner".
On a quand même des choses qui marchent et sur lesquelles on construit, des grands principes architecturaux suivant les domaines...

Après, c'est un domaine de recherche en effet, pas 100% théorisé et même loin de là

[fred3000gt]

Faire une recherche d'un optimal par les différentes méthodes utilisées (grid, bayésienne, arbres d'estimateurs de Parzen) n'est pas tout à fait la même chose que "ne pas maitriser" et "tatonner".
On a quand même des choses qui marchent et sur lesquelles on construit, des grands principes architecturaux suivant les domaines...

Après, c'est un domaine de recherche en effet, pas 100% théorisé et même loin de là

Je ne connais pas de méthode bayésienne pour trouver les hyperparamètres d’un réseau de neurones (Parzen, je connais même pas…), et ainsi éviter les tatonnements auquels je faisais référence.

[Liet Kynes]

Il y a un article dans Pour la Science, https://www.pourlascience.fr/sd/elec...s-ia-24721.php

Bien que les technologies soient différentes, le concept a l'air proche de ce fil et de celui que j'ai évoqué à travers l'idée de scalabilité dans le fil qui est resté à l'état de "brouillon" https://forums.futura-sciences.com/d...mites-lia.html

Il me semble que deux problèmes différents se superposent , celui de l'efficience énergétique et celui de la nature même de la mémoire et du langage ?

[Bounoume]

celui de la nature même de la mémoire et du langage ?

quoique auparavant déjà amplement discutés, mais questions apparemment peu importantes dans le succès de l'approche actuelle?
Pourtant....
'la' mémoire? : ne s'agirait-il pas plutôt maintenant de la représentation des connaissances mémorisables d'une part, et surtout de leur représentation en mémoire.....
'le' langage? : plutôt que des caractéristiques intrinsèques d'un idiome,
ne s'agirait il pas des liens entre le contenu des blocs de texte entrants, d'une part, et d'autre part la prise en compte des connaissances internes.....l'archivage, la mise à jour et la prise en compte des connaissances internes..... ainsi que les mécanismes qui régissent l'organisation des éléments en sortie, en fonction des représentations internes.....

.......ces mécanismes dépassant si possible les calculs avec poids et gradients non individuellement représentatifs de concepts ou propositions, pour lier des paramètres internes à des propositions exprimées en entrées ou sorties (et à des associations logiques internes entre propositions) et devenant peut-être des éléments d'optimisation des processus d'apprentissage puis de production????