Gordon : un cerveau biologique contrôlant un robot

[invite3de65c50]

Bonjour,

J'ai entendu parlé récemment (aux infos sur TF1 notamment) d'une nouvelle technologie concernant la robotique. On utiliserait des neurones de rats pour construire des cerveaux de robots. Le cerveau serait composé de dizaine de milliers de neurones interconnectés entre eux et agirait comme un véritable cerveau d'être vivant.

C'est la première fois que j'entends parler de ça, et apparemment, cela existe depuis plusieurs années déjà, et ça fonctionne. Malgé tout, on trouve peu d'infos détaillées sur le sujet.

J'aurai donc deux questions à ce propos :

Y a t-il des liens qui mènent vers des sites qui approfondissent le sujet ?

N'y aurait-il pas un problème d'éthique ? Ne dépasserait-on pas les limites ?
-----

[invite21f77fce]

Salut, tout ce qu'on peut voir à la TV ou sur de nombreux sites n'est plus ou moins que la reprise de la dépêche AFP :

En Anglais :
http://afp.google.com/article/ALeqM5...kSi7i1P-GS80Vg

En Français:
http://fr.news.yahoo.com/afp/2008081...e-c2ff8aa.html

Recherche éventuellement avec Gordon (Le nom du robot), Kevin Warwick (http://www.kevinwarwick.com), le scientifique cité dans l'article ou sur le site de l'université de Reading (http://www.reading.ac.uk/sse/about/N...008-08-18b.asp)


Pour ce qui est des problèmes éthiques, dans la dépèche de l'AFP :

Quant à utiliser des neurones humains pour Gordon: "il y a clairement des obstacles éthiques. C'est plus une question éthique que technique", répond-il.

[invite17a570c1]

Voilà quelque chose de plutôt fascinant :

Gordon: un cerveau biologique contrôlant un robot
Une machine possédant un cerveau biologique, provenant d'un être vivant. Cela fait penser à de célèbres films d'anticipation, et c'est ce que vient de réaliser une équipe de chercheurs de l'Université de Reading, en Angleterre. La machine a été baptisée Gordon.

La suite est ici : http://www.techno-science.net/?onglet=news&news=5712

[invite52011504]

Bonjour,

Sujet très interessant. On a l'impression d'être dans un film de science fiction

[A voir en vidéo sur Futura]

[invite6f9dc52a]

Salut,
Ce qui rend caduques les fils ouverts sur les possibilités des robots (l'hypothèse ayant été prise que ceux-ci sont entierement electroniques).
Finalement, ce n'est peut etre pas l'humain qui va coloniser la galaxie ...

[invite3de65c50]

Bonjour benwit75 et merci pour tes réponses.

Salut, tout ce qu'on peut voir à la TV ou sur de nombreux sites n'est plus ou moins que la reprise de la dépêche AFP

C'est ce que j'ai remarqué. C'est pour ça que j'aurais souhaité avoir plus d'infos, notamment techniques.

Quant au problème d'éthique qui est abordé, c'est à propos de l'utilisation de neurones humains. Mais personnellement, je pense qu'utiliser des neurones de rat ne devrait pas être pris à la légère, et ceci pour deux raisons :

- Le rat est un être vivant.

- les cerveaux créés sont en mesure de prendre des décisions par eux-mêmes et acquierrent même un type de caractère, et donc, une autre question se pose :

Le cerveau du robot peut-il être conscient ?

[invite52011504]

Bonjour,

Pour ce sujet, je partage ton inquiétude du point de vue éthique mais aussi pour la prise de decision, donc avoir une indépendance, que pourrait prendre le robot. Cela dit le développement de sa conscience doit être assez long et pourrait le ces écheant être controlé.

Cordialement

[invite02ff802c]

C’est curieux comme cet article me donne l’impression d’un poisson d’avril.
Ce ne serait pas plus compliqué que ça : on pose des cellules souches sur une plaque munie d’électrodes, on les nourrit et tout s’organise comme par miracle !

ND

[invite8f0c515e]

Tout ne s'organise pas comme par miracle, tu n'as jamais étudié les réseaux neuronaux?
Chaque stimulus d'entrée (contact par exemple) provoque une réponse dans le réseau qui fait avancer le problème rencontré, assez aléatoire au début. Au fur et à mesure des expériences, seules les réponses (déplacement par exemple) positives vont être renforcée, ce qui aboutit à l'émergence d'un comportement adapté.
Ça ne se passe surement pas exactement comme ça dans ces travaux expérimentaux, mais c'est l'idée : avec des mécanismes très simple, l'apprentissage peut aboutir à une forme d'intelligence.

[mach3]

Mais personnellement, je pense qu'utiliser des neurones de rat ne devrait pas être pris à la légère, et ceci pour deux raisons :
(...)

si tu as des problèmes avec ça alors attaque directement l'étape précédente, à savoir l'utilisation des animaux pour l'expérimentation.
Si tu n'as pas de problème avec l'expérimentation animale, alors tu ne peux pas avoir de problème avec cela.

m@ch3

[invite6f9dc52a]

... avec des mécanismes très simple, l'apprentissage peut aboutir à une forme d'intelligence.

Ne le dit pas comme ça, car ça risque fort de faire l'objet d'un long débat.
(Moi, je suis d'accord, mais, chuuut ... )

[JPL]

Comme il y avait déjà une discussion ouvert j'ai fusionné les deux.

[invite02ff802c]

Tout ne s'organise pas comme par miracle, tu n'as jamais étudié les réseaux neuronaux?

Je ne vois pas le rapport avec la manip telle qu’elle est décrite, très vaguement d’ailleurs.
« En guise de cerveau, une culture de neurones prélevés sur un foetus de rat. Les neurones ont été préparés et déposés sur un ensemble d'une soixantaine d'électrodes. »
Si tout, en guise de réseau, tout est dans le « Les neurones ont été préparés… », alors on aimerait en savoir plus.

ND

[invite3de65c50]

si tu as des problèmes avec ça alors attaque directement l'étape précédente, à savoir l'utilisation des animaux pour l'expérimentation.
Si tu n'as pas de problème avec l'expérimentation animale, alors tu ne peux pas avoir de problème avec cela.
m@ch3

Justement, l'expérimentation animale ne m'a jamais beaucoup plu, principalement dans les cas où l'animal doit souffrir évidemment.
Mais je trouve que créer un cerveau vivant capable de réfléchir est bien pire que ça. C'est d'un tout autre niveau d'expérimentation (et de morale), surtout si le cerveau a la capacité d'être intelligent, voire d'être conscient. De plus, ça me semble dangereux surtout qu'on ne connaît pas grand chose du cerveau encore aujourd'hui et que nous ne savons toujours pas pourquoi nous sommes conscient.

C’est curieux comme cet article me donne l’impression d’un poisson d’avril

Non, c'est bien réel apparemment. Le nombre d'articles à ce sujet semble le confirmer. J'ai même lu un article qui date de 2005 et qui parle d'un cerveau qui pilote et F-22 Raptor en simalateur. Donc, ça ne date pas d'aujourd'hui.

Voici le lien : http://www.generation-nt.com/simulat...lite-9888.html

[invite765732342432]

Ce ne serait pas plus compliqué que ça : on pose des cellules souches sur une plaque munie d’électrodes, on les nourrit et tout s’organise comme par miracle !

On retrouve ce mécanisme dans toutes les interfaces cybernétique réalisées jusqu'à présent: les prothèses mais aussi les électrodes introduites dans le cerveau de certains paralysés leur permettant d'apprendre à contrôler un ordi...

Bref la technique de connexion neurone/électrode doit commencer à être bien connue.
Là, le point intéressant est qu'on part de "presque rien" pour obtenir un mini cerveau plus ou moins fonctionnel (et puis ça doit être moins simple qu'évoqué dans les articles)

[invite02ff802c]

On retrouve ce mécanisme dans toutes les interfaces cybernétique réalisées jusqu'à présent: les prothèses mais aussi les électrodes introduites dans le cerveau de certains paralysés leur permettant d'apprendre à contrôler un ordi...
Bref la technique de connexion neurone/électrode doit commencer à être bien connue.

OK, on réalise déjà une interface plus ou moins contrôlée entre le cerveau d’un être vivant existant et des appareils soit de mesure soit de pilotage. Ce qui revient au même puisque les appareils de contrôle par le cerveau se basent sur des mesures de l’activité des neurones.

Là, le point intéressant est qu'on part de "presque rien" pour obtenir un mini cerveau plus ou moins fonctionnel (et puis ça doit être moins simple qu'évoqué dans les articles)

C’est bien ça le problème. J’avais aussi déjà vu cette nouvelle. Il n’est nulle part question de ce qui pourtant serait le plus intéressant : comment les cellules souches forment un… disons processeur, en grandissant.
Y a-t-il la moindre hypothèse sur ce qui fait que les neurones en se multipliant forment un réseau capable de faire des traitements de l’information ? Est-ce que les électrodes ont été connectées au hasard ?
Pour fabriquer le premier processeur, les ingénieurs ont pris une poignée de transistors et les ont jetés sur une plaque de silicium ?

ND

[invite8915d466]

en extrapolant, on va peut etre découvrir que le plus efficace est un vrai cerveau humain, utilisant un ordinateur, par exemple par l'intermédiaire de fibres musculaires actionnant des contacts électriques? ce serait sympa non?

[invite21f77fce]

personnellement, je pense qu'utiliser des neurones de rat ne devrait pas être pris à la légère, et ceci pour deux raisons :

- Le rat est un être vivant.

- les cerveaux créés sont en mesure de prendre des décisions par eux-mêmes et acquierrent même un type de caractère, et donc, une autre question se pose :

Le cerveau du robot peut-il être conscient ?

Effectivement, ce ne doit pas être pris à la légère.

Personnellement, pour juger du caractère éthique, je mettrai en balance les éventuels bénéfices/risques de tels expériences.

Dans l'article du site de l'université, il est dit (en traduisant) :

L'objectif à terme est que cela conduira à une meilleure compréhension du développement et des maladies et des troubles qui affectent le cerveau comme la maladie d'Alzheimer, la maladie de Parkinson, les accidents vasculaires cérébraux et les lésions cérébrales.

Si l'objectif est sincère et pas uniquement pour rapporter des fonds, je suis d'avis qu'on peut bien sacrifier quelques rats (il y a bien le métier de dératiseurs )

Quand aux deux autres points que tu soulignes, même si je pense que c'est prématuré, on risque que les cinéastes nous sorte un croisement entre Terminator et Stuart Little.

[invite8f0c515e]

Comme si le secteur militaire n'allait pas finir par détourner ces recherches. Le développement de drones et de robots soldats est pratiquement explicite quand on parle de ce type de travaux.

[invite17a570c1]

C'est ce que j'ai remarqué. C'est pour ça que j'aurais souhaité avoir plus d'infos, notamment techniques.

Pour l'instant, on ne sait pas où est publié le papier. Quand il sortira, tu pourras avoir des infos techniques

Quant au problème d'éthique qui est abordé, c'est à propos de l'utilisation de neurones humains. Mais personnellement, je pense qu'utiliser des neurones de rat ne devrait pas être pris à la légère, et ceci pour deux raisons :

- Le rat est un être vivant.

- les cerveaux créés sont en mesure de prendre des décisions par eux-mêmes et acquierrent même un type de caractère, et donc, une autre question se pose :

Le cerveau du robot peut-il être conscient ?

La deuxième raison que tu évoques ici ne concerne pas l'expérimentation animale.
Je ne vois pas en quoi la capacité de prise de décision indépendante par un "pseudocerveau" a à voir avec l'expérimentation animale.

Justement, l'expérimentation animale ne m'a jamais beaucoup plu, principalement dans les cas où l'animal doit souffrir évidemment.

Ca signifie quoi : "dans les cas où l'animal doit souffrir évidemment"?

Mais je trouve que créer un cerveau vivant capable de réfléchir est bien pire que ça. C'est d'un tout autre niveau d'expérimentation (et de morale), surtout si le cerveau a la capacité d'être intelligent, voire d'être conscient. De plus, ça me semble dangereux surtout qu'on ne connaît pas grand chose du cerveau encore aujourd'hui et que nous ne savons toujours pas pourquoi nous sommes conscient.

Je ne comprends pas cet argument.
* déjà, ça suignifie quoi "pire que la souffrance animale = un cerveau capable de réfléchir"?
* ensuite, le troll éternel : c'est quoi d'être intelligent? Ce que l'on appelle un "système expert" peut être considéré comme intelligent (implémentation faisant partie du domaines des IA).
* être conscient de son existence? Ca veut dire quoi?

Si l'objectif est sincère et pas uniquement pour rapporter des fonds, je suis d'avis qu'on peut bien sacrifier quelques rats (il y a bien le métier de dératiseurs

Je ne comprends pas : tu considères que les fonds dont dispose un labo servent à quoi si ce n'est à être utilisés pour la recherche...?

[JPL]

L'objectif à terme est que cela conduira à une meilleure compréhension du développement et des maladies et des troubles qui affectent le cerveau comme la maladie d'Alzheimer, la maladie de Parkinson, les accidents vasculaires cérébraux et les lésions cérébrales.

Personnellement je pense que cela fait partie de ces affirmations bidons qu'on voit maintenant à la fin de chaque article. Tout le monde se croit obligé (pour faire du racolage de fonds, pour attirer l'attention ou pour se justifier ?) d'annoncer que sa recherche purement théorique aura des applications bientôt, et comme par hasard toujours dans des domaines très médiatisés.
Parce qu'il n'y a pas besoin d'être grand clerc pour voir qu'il n'y a pas beaucoup de rapports entre cette expérience et les domaines annoncés.

[invite21f77fce]

Je ne comprends pas : tu considères que les fonds dont dispose un labo servent à quoi si ce n'est à être utilisés pour la recherche...?

Bien sûr que les fonds dont dispose un labo sont utilisés par la recherche.

En disant "Si l'objectif est sincère et pas uniquement pour rapporter des fonds, je suis d'avis qu'on peut bien sacrifier quelques rats", je voulais signifier si l'objectif cité (meilleure compréhension du développement et des maladies et des troubles qui affectent le cerveau comme la maladie d'Alzheimer, la maladie de Parkinson, les accidents vasculaires cérébraux et les lésions cérébrales) est le vrai objectif !

On pourrait dire que l'objectif réel de certains chercheurs est tout autre (interfacer un cerveau humain avec un robot par exemple) mais que pour obtenir des fonds dans ce cadre là, c'est peut être moins facile que si on met en avant les possibles répercutions sur la médecine.
Attention, je ne dis pas que c'est le cas, je ne suis pas partisan d'une théorie du complot, je voulais juste conditionner mes propos pour ne pas paraitre naïf.

Qu'on le veuille ou non, l'attribution de l'argent pour la recherche n'est pas parfait. Il y a des effets de mode, il y a des financiers qui n'y connaissent pas grand chose. Je connais des chercheurs pour lesquels il était bon ton d'indiquer que leur recherche portaient sur le virus de la vache folle à l'époque où ça faisait la une de l'actualité (ils ne mentaient pas, mais c'était vraiment plus un effet indirect).

Edit : JPL exprime d'une autre façon ce que je voulais dire.

[invitedb325deb]

Bonjour,

Personnellement je pense que cela fait partie de ces affirmations bidons qu'on voit maintenant à la fin de chaque article. Tout le monde se croit obligé (pour faire du racolage de fonds, pour attirer l'attention ou pour se justifier ?) d'annoncer que sa recherche purement théorique aura des applications bientôt, et comme par hasard toujours dans des domaines très médiatisés.
Parce qu'il n'y a pas besoin d'être grand clerc pour voir qu'il n'y a pas beaucoup de rapports entre cette expérience et les domaines annoncés.

Alors là, entièrement d'accords avec toi !
Mais malheureusement, vu l'orientation de l'institution scientifique en France (et ailleurs !?), ce sera de pire en pire !!!! (beaucoup de chercheur que j'ai fréquenté le font avec dégout mais sont obligé sinon ils n'ont aucun financement....).

Pour ce qui est de l'émergence d'un réseau, le premier inscrie est bien evidemment les soixantes électrodes : donc les neurones, à prime abord, ne sont que des fils entre électrode. L'expérimentateur associe ensuite une action avec une stimulation et de proche en proche, certaines voies neuronales sont amplifiées (comme dans le cerveau) de part leur activitée. Par contre, je ne sais pas si ce protocerveau est capable de mettre en place de nouveau réseau ne dépendant pas d'une stimulation préalable par les électrodes....je pense pas personnellement (et rien dans le lien ne le laisse supposé si j'ai bien lu).

[mach3]

sinon questions pour l'instant sans réponse vu le manque d'information de l'article :

mettent-ils uniquement des neurones ou aussi de la glie (qui est parfois supposé assuré un rôle conséquent dans le fonctionnement du cerveau)?

comment les nourrissent-ils?

m@ch3

[invite6f9dc52a]

Meme si il me semble évident que les militaires seront bénéficiaires de cette technologie,

...(interfacer un cerveau humain avec un robot par exemple) ...

est en rapport direct avec la médecine (amputés, paralysés, troubles moteurs importants en général ...).

[invite46bc5f13]

Salut a tous,
Je me demandait si le fait de placer des neurones de rats dans un robot ne serait pas dangereux pour nous les Hommes.
Le rat est avant tout un petit animal dont l'instinct de survie est plus fort que tout.
En mettant ces neurones dans un robot, il ne reste donc pas a son état initial (a savoir tout petit).
Se pourrait-il que ce robot intelligent et donc maintenant doté d'un instict de survie ne pourrait pas représenter une menace pour l'humanité?

[invite3de65c50]

La deuxième raison que tu évoques ici ne concerne pas l'expérimentation animale.
Je ne vois pas en quoi la capacité de prise de décision indépendante par un "pseudocerveau" a à voir avec l'expérimentation animale.

En ce qui concerne Gordon, je n'appellerais pas ça un "pseudocerveau", mais un vrai cerveau constitué de véritables neurones. L'expérimentation se fait donc, dans ce cas précis, sur du vivant.

Ca signifie quoi : "dans les cas où l'animal doit souffrir évidemment"?

En ce qui me concerne, c'est une question de morale. Les animaux sont des êtres vivants tout comme nous. L'expérimentation animale peut se discuter, mais à partir du moment où l'on porte atteinte à l'animal et qu'il y a souffrance, on devrait s'abstenir.

Je ne comprends pas cet argument.
* déjà, ça suignifie quoi "pire que la souffrance animale = un cerveau capable de réfléchir"?
* ensuite, le troll éternel : c'est quoi d'être intelligent? Ce que l'on appelle un "système expert" peut être considéré comme intelligent (implémentation faisant partie du domaines des IA).
* être conscient de son existence? Ca veut dire quoi?

Lorsque je parle d'intelligence, je parle de capacité à comprendre et intéragir avec son environnement. La conscience étant le sentiment de se sentir vivant (soi-même), un système intelligent conscient est capable de prendre des décisions sans que nous ayons à intervenir par un quelconque algorithme d'IA.
Ici, dans le cas de Gordon, son environnement semble être uniquement les électrodes. Il reçoit des impulsions et en émet lui-même en fonction de sa capacité à réfléchir.
Quand je dis "pire que la souffrance animale", je me suis peut-être mal expliqué. Cela signifie surtout que nous ne savons même pas ce que nous faisons. Nous ne savons pas ce que ressent le cerveau, et de plus, nous l'obligeons à se comporter d'une certaine façon au sein un environnement très restreint.
Personnellement, je trouve qu'il y a un grave problème d'éthique, car non seulement nous travaillons sur des être vivants, mais apparemment, nous pouvons les concevoir de toute pièce. Et ce n'est que le début.

[invite02ff802c]

Personnellement je pense que cela fait partie de ces affirmations bidons qu'on voit maintenant à la fin de chaque article. Tout le monde se croit obligé (pour faire du racolage de fonds, pour attirer l'attention ou pour se justifier ?) d'annoncer que sa recherche purement théorique aura des applications bientôt, et comme par hasard toujours dans des domaines très médiatisés.
Parce qu'il n'y a pas besoin d'être grand clerc pour voir qu'il n'y a pas beaucoup de rapports entre cette expérience et les domaines annoncés.

Je dirais même plus, le papier de l’Université de Reading lui-même sent à plein nez le bidonnage dès le titre : Robot with a Biological Brain: new research provides insights into how the brain works.
Quand on voit la minceur des infos dans le corps de l’article par rapport à cette annonce fracassante on tombe de haut.
On me dira qu’ils ne nous disent peut-être pas tout. Mais justement, pourquoi nous cachent-ils le plus intéressant : leurs « insights into how the brain works » ? On aimerait au moins quelques insights sur leurs insights. Que dalle. Il faudrait les croire sur parole.

Car l’essentiel de cette expérience est, sinon comment fonctionne le cerveau (ils anticipent sans vergogne), tout bêtement comment fonctionne leur manip : comment les neurones sont organisés, quelles connexions il y a entre eux et comment elles se sont établies, quelles connexions il y a entre les électrodes et les neurones (sur l’axone ? les dendrites ? le corps ?) selon que c’est en input ou en output, etc. Or précisément ce qui devrait être le cœur même de l’article est une boite noire : il nous dit ce qui entre et ce qui sort et il veut nous faire croire que c’est la clé pour comprendre le cerveau.

Je trouve que les différents médias qui ont relayé cette « information » manquent de discernement car il n’y a rien dans le papier. En toute rigueur ils ne devraient pas se contenter de reproduire les communiqués de presse des universités, des laboratoires de recherche ou des boites de HiTech.

ND

[invite3de65c50]

Salut a tous,
Je me demandait si le fait de placer des neurones de rats dans un robot ne serait pas dangereux pour nous les Hommes.
Le rat est avant tout un petit animal dont l'instinct de survie est plus fort que tout.
En mettant ces neurones dans un robot, il ne reste donc pas a son état initial (a savoir tout petit).
Se pourrait-il que ce robot intelligent et donc maintenant doté d'un instict de survie ne pourrait pas représenter une menace pour l'humanité?

Tout à fait, à mon avis, c'est fort probable.

[JPL]

En ce qui concerne Gordon, je n'appellerais pas ça un "pseudocerveau", mais un vrai cerveau constitué de véritables neurones.

Ici, dans le cas de Gordon, son environnement semble être uniquement les électrodes. Il reçoit des impulsions et en émet lui-même en fonction de sa capacité à réfléchir.

Cerveau, réfléchir... Il y a quand même une énorme différence entre un petit amas de neurones et un cerveau ! On est simplement ici au niveau de la culture de cellules. Quant à réfléchir il n'en est pas du tout question : il s'agit simplement de cheminement d'influx nerveux sur des petits circuits de neurones dont l'activité est renforcée par les stimulation qu'ils reçoivent de l'expérimentateur.
Ceci n'a pas pour but de diminuer l'exploit que cela représente mais il faut remettre les choses à leur place.