Ethique et biocomputing

[fred3000gt]

Bonjour,

Le biocomputing est l’idée d’utiliser (par exemple) des neurones vivants pour faire des calculs.

Je travaille sur ce sujet depuis plusieurs années. Ce n’est pas du tout opérationnel est cela prendra peut-être 10 ans avant que l’on puisse utiliser cette approche.

Or récemment notre activité est devenue virale (y compris ici sur Futura, même si l’article n’est pas au niveau du sérieux que l’on peut attendre de Futura) et beaucoup de journalistes me demandent:

“Le biocomputing est-il éthique?”.

Je ne me sens pas plus apte qu’un autre pour répondre…

Quelle vous semble la bonne réponse?

Merci!
-----

[Avatar10]

Si la question est "Manipuler le vivant est-il éthique?" la réponse est dans la pratique (cela ne veut pas dire que c'est gravé dans le marbre).

Il y a beaucoup de domaine où on utilise, manipule de diverses façons, le vivant en tant qu'objet, les neurones, les virus, bactéries ect...dit autrement, un neurone est-il un être vivant? faire un OGM d'un fruit par exemple est-il éthique? faire de la microbiologie dont nous tirons de grands bénéfices en termes de médecine est il éthique?

[GBo]

Bonjour,

Le biocomputing est l’idée d’utiliser (par exemple) des neurones vivants pour faire des calculs.

Je travaille sur ce sujet depuis plusieurs années. Ce n’est pas du tout opérationnel est cela prendra peut-être 10 ans avant que l’on puisse utiliser cette approche.

Or récemment notre activité est devenue virale (y compris ici sur Futura, même si l’article n’est pas au niveau du sérieux que l’on peut attendre de Futura) et beaucoup de journalistes me demandent:

“Le biocomputing est-il éthique?”.

Je ne me sens pas plus apte qu’un autre pour répondre…

Quelle vous semble la bonne réponse?

Merci!

Bonjour, il y a déjà une question qui me turlupine, pourquoi diable vous utilisez des neurones d'origine humaine et pas des neurones de rat par exemple, ce qui réduirait la sensibilité de la question éthique. Après tout un rat de labo se débrouille dans un labyrinthe...on aimerait déjà voir ça en "wetware" !

Ensuite pour l'article de Futura, il n'est pas si différent de ce qu'on trouve ailleurs (dont Paris-Match !), et mon feeling est que c'est vous (pas vous personnellement sans doute mais FinalSpark) qui faites mousser votre invention auprès de la presse et non le contraire à votre insu, alors qu'elle n'est pas prête pour la révolution, pourtant annoncée par votre propre site.

[polo974]

l'éthique s'appuie sur un référentiel moral, c'est donc presque religieux...
là, c'est pas Frankenstein, on ne prélève pas sur des cadavres ou cobayes humains.

l'article zappe la phrase importante de l'interview qu'il cite (version traduite):

Eh bien, la toute première réponse est que cela ne fonctionne pas encore – mais le « encore » est un mot important.

bref, il fantasme...

bon, le parallèle avec la levure pour faire la bière, on va dire que c'est de l'humour de scientifique .
faudrait essayer la bière à la place de la dopamine...


et pour le passage d'un truc plat de 0.5mm à un truc quasi sphérique de 120mm ou plus, il y a du chemin (un facteur 10 million environ en nombre de neurones, une paille (46 ans selon St Moore))...

(petit HS: mais pourquoi n'utilise-t-on pas encore ces "cellules souches pluripotentes induites" pour faire repousser des dents ???)

[A voir en vidéo sur Futura]

[fred3000gt]

Si la question est "Manipuler le vivant est-il éthique?" la réponse est dans la pratique (cela ne veut pas dire que c'est gravé dans le marbre).

Il y a beaucoup de domaine où on utilise, manipule de diverses façons, le vivant en tant qu'objet, les neurones, les virus, bactéries ect...dit autrement, un neurone est-il un être vivant? faire un OGM d'un fruit par exemple est-il éthique? faire de la microbiologie dont nous tirons de grands bénéfices en termes de médecine est il éthique?

Oui c’est une ligne argumentaire que je soutiens, cependant, ici on parle de neurones, c’est une cellule qui a dans l’imaginaire collectif un statut à part, presque “sacré”.

Bonjour, il y a déjà une question qui me turlupine, pourquoi diable vous utilisez des neurones d'origine humaine et pas des neurones de rat par exemple, ce qui réduirait la sensibilité de la question éthique. Après tout un rat de labo se débrouille dans un labyrinthe...on aimerait déjà voir ça en "wetware" !

C’est correct, on en a utilisé pas mal de neurones de rats, mais dans une perspective long terme les neurones humains semblent naturellement plus prometteurs (performances cognitives et applications indirectes pour l’homme).

l'éthique s'appuie sur un référentiel moral, c'est donc presque religieux...
là, c'est pas Frankenstein, on ne prélève pas sur des cadavres ou cobayes humains.

Je suis bien d’accord, mais on ne peut juste pas se contenter de dire que c’est pas Frankenstein, si les gens percoivent un problème éthique, alors je pense qu’il mérite d’être adressé.

[polo974]

...
Je suis bien d’accord, mais on ne peut juste pas se contenter de dire que c’est pas Frankenstein, si les gens perçoivent un problème éthique, alors je pense qu’il mérite d’être adressé.

Oui, bon, d'accord, en mettant Frankenstein sur la table, c'est dans mon habitude excessive un peu provocatrice, mais bon, il y en a encore qui en sont à la "théorie" créationniste, et chez eux, leur schéma éthique est tel que qu'on ne peut rien adresser.

Donc en fait, c'est plus à ceux qui pensent qu'il y a un problème éthique d'argumenter.

Ah, je viens de lire qu'on peut aussi trouver des cellules "reprogrammables" en CSPi dans l'urine. Donc même pas besoin de prélèvement vaguement invasif...

Le truc rigolo (et éthiquement éventuellement discutable) serait de faire des concours entre diverse souches venant de personnes dont on connaît les capacités cognitives (j’imagine déjà les pubs (et titres futura): "tester votre qi potentiel à partir d'une analyse d'urine"...).

[GBo]

[...]
C’est correct, on en a utilisé pas mal de neurones de rats, mais dans une perspective long terme les neurones humains semblent naturellement plus prometteurs (performances cognitives et applications indirectes pour l’homme).

Pouvez-vous développer ? En quoi est-ce plus pertinent sur le plan de la recherche scientifique ? quelles sont les différences fondamentales qui justifient ce choix ?

[polo974]

une comparaison
Direct electrical recordings to compare human and rat cortical dendrites
https://www.cell.com/cell/fulltext/S0092-8674(18)31106-
Mais il faudrait quelqu'un pour tout expliquer...

[fred3000gt]

Oui, bon, d'accord, en mettant Frankenstein sur la table, c'est dans mon habitude excessive un peu provocatrice, mais bon, il y en a encore qui en sont à la "théorie" créationniste, et chez eux, leur schéma éthique est tel que qu'on ne peut rien adresser.

Donc en fait, c'est plus à ceux qui pensent qu'il y a un problème éthique d'argumenter.

Je pense que l'on ne peux pas se contenter de dire cela (mais je reconnais que ce serait plus simple!), les scientifiques doivent faire l'effort d'apporter des éléments de réflexion.

Ah, je viens de lire qu'on peut aussi trouver des cellules "reprogrammables" en CSPi dans l'urine. Donc même pas besoin de prélèvement vaguement invasif...

Le truc rigolo (et éthiquement éventuellement discutable) serait de faire des concours entre diverse souches venant de personnes dont on connaît les capacités cognitives (j’imagine déjà les pubs (et titres futura): "tester votre qi potentiel à partir d'une analyse d'urine"...).

Nous utilisons bien sûr des cellules souches pluripotentes induites pour nos neurones humains (générées à partir de de cellule de peau ou de sang). Donc s'il y a un problème éthique, il ne se situe pas là.

Pouvez-vous développer ? En quoi est-ce plus pertinent sur le plan de la recherche scientifique ? quelles sont les différences fondamentales qui justifient ce choix ?

J'ignore les différences fondamentales. Toute cette approche est nouvelle.

Mais, sous toute réserve, j'ai cité 2 raisons:
1. Performances cognitives: je ne connais aucun travail permettant d'attribuer les performances cognitives supérieures des humains à des caractéristiques propres à leurs neurones. C'est juste une hypothèse raisonnable.
2. Applications indirectes pour l'homme: l'approche biocomputing amènera peut-être des applications inédites dans des domaines thérapeutiques, même si ce n'est pas l'objectif initial. Par exemple, si l'on parvient à maitriser l'apprentissage in-vitro, on peut ensuite peut-être développer des molécules que l'on peut tester directement pour contrer certaines maladies neuro-dégénératives (voire en médecine personalisée puisque l'on peut générer les neurones du patient et les tester).

une comparaison
Direct electrical recordings to compare human and rat cortical dendrites
https://www.cell.com/cell/fulltext/S0092-8674(18)31106-
Mais il faudrait quelqu'un pour tout expliquer...

Je ne suis pas parvenu à ouvrir ton lien, mais tu faisais peut-être référence à cette publication:
https://www.cell.com/cell/fulltext/S...2818%2931106-1

Je ne connaissais pas ce travail. Attention, il faut être très prudent sur les conclusions définitives que l'on voudrait tirer à partir d'un travail particulier en neurobiologie, surtout pour les publications récentes.

De par mes propres observations, je n'ai pas constaté de différences frappantes au niveau electro-physiologique entre rats et humains (mais je n'ai pas fait d'étude spécifique), à part le fait que je crois me souvenir que le temps de maturation (passage de neuro-progéniteurs à des neurones électriquement actifs) que l'on avait était significativement plus long avec des neurones humains.

[polo974]

oups, j'ai viré le 1 en fin du lien, oui, c'est bien ça. mais en fait, j'ai juste mentionné, car pas le niveau pour analyser...

[GBo]

Je pense que l'on ne peux pas se contenter de dire cela (mais je reconnais que ce serait plus simple!), les scientifiques doivent faire l'effort d'apporter des éléments de réflexion.
Mais, sous toute réserve, j'ai cité 2 raisons:
1. Performances cognitives: je ne connais aucun travail permettant d'attribuer les performances cognitives supérieures des humains à des caractéristiques propres à leurs neurones. C'est juste une hypothèse raisonnable.
2. Applications indirectes pour l'homme: l'approche biocomputing amènera peut-être des applications inédites dans des domaines thérapeutiques, même si ce n'est pas l'objectif initial. Par exemple, si l'on parvient à maitriser l'apprentissage in-vitro, on peut ensuite peut-être développer des molécules que l'on peut tester directement pour contrer certaines maladies neuro-dégénératives (voire en médecine personalisée puisque l'on peut générer les neurones du patient et les tester).

Sur le point 2 on ne peut qu'être d'accord mais ce n'est pas votre cible, d'autres s'en chargent directement.
Sur le point 1, j'ai de gros doutes sur le caractère raisonnable de cette hypothèse justement, les neurones de mammifères étant semblables entre eux (je ne parle pas des capacités cognitives d'un cerveau entier bien sûr), à tel point que l'on peut transplanter des neurones d’homme dans la tête d’un rat:

https://www.cerveauetpsycho.fr/sd/ne...-rat-24782.php

Bien sur votre choix de travailler à partir de cellules humaines vous appartient, vous faites ce que vous voulez mais il peut alors paraitre paradoxal de venir ici poser des questions sur l'éthique de la démarche, puisque c'est justement ce choix non étayé par la biologie qui fait se poser ces questions.

[polo974]

L'avantage d'utiliser des cellules humaines, c'est qu'en cas de découverte plus ou moins fortuite applicable à la santé, il y a une étape en moins à franchir pour une mise en oeuvre.

[GBo]

J'ai browsé sur le sujet : en fait si ils sont différents, c'est ça qu'il fallait me répondre

“It’s not just that humans are smart because we have more neurons and a larger cortex. From the bottom up, neurons behave differently,” says Mark Harnett, the Fred and Carole Middleton Career Development Assistant Professor of Brain and Cognitive Sciences. “In human neurons, there is more electrical compartmentalization, and that allows these units to be a little bit more independent, potentially leading to increased computational capabilities of single neurons.”

"Electrical properties of dendrites help explain our brain’s unique computing power"
https://news.mit.edu/2018/dendrites-...ing-power-1018

[MissJenny]

Bonjour, il y a déjà une question qui me turlupine, pourquoi diable vous utilisez des neurones d'origine humaine et pas des neurones de rat par exemple, ce qui réduirait la sensibilité de la question éthique. Après tout un rat de labo se débrouille dans un labyrinthe...on aimerait déjà voir ça en "wetware" !

pour avoir travaillé sur des souris, je peux te dire que les contraintes éthiques sont pires pour les animaux que pour les humains. Je parle là de la règlementation, mais il me paraît clair que si on produit un calculateur à base de neurones d'animaux la question de la conscience et de sensibilité de ce calculateur se posera à peu près de la même manière que si les neurones étaient humains.

[GBo]

pour avoir travaillé sur des souris, je peux te dire que les contraintes éthiques sont pires pour les animaux que pour les humains. Je parle là de la règlementation, mais il me paraît clair que si on produit un calculateur à base de neurones d'animaux la question de la conscience et de sensibilité de ce calculateur se posera à peu près de la même manière que si les neurones étaient humains.

Merci de ton témoignage, cependant tu as pu travailler sur des souris, alors que tu n'aurais pas pu le faire sur des humains, il y aura toujours une frontière.
De toute façon il y a tellement de difficultés pour faire marcher le wetware depuis le temps qu'on essaie (le mot est nouveau mais pas le concept) que je crois davantage aux solutions d'électronique analogique, bien plus facile à interfacer avec le numérique, et qui ne pas clampser pour un rien, genre "oh non, mon ordi a rendu l'âme" mais au sens propre du terme.

"Analog AI : Making Deep Neural Network systems more capable and energy-efficient."
https://research.ibm.com/projects/analog-ai

[MissJenny]

Je ne sais pas si l'idée est de concurrencer Intel ou NVIDIA. Ca paraît difficile, sachant qu'effectivement les cultures cellulaires sont très fragiles et que déjà les ordinateurs sont de meilleurs calculateurs que nos cerveaux avec leur énorme quantité de neurones. Mais il est difficile de prévoir les applications d'une technologie naissante. Les cellules utilisent une source d'énergie totalement différente de celle nécessaire aux circuits électroniques, ça peut avoir un avantage dans certains environnements, qui sait?

[GBo]

Les ordinateurs classiques sont de meilleurs calculateurs qu'un cerveau humain en effet (cette profession n'existe plus), c'est pour ça qu'introduire dans ce fil le bio-computing comme une façon de faire des calculs est maladroit.
L'intérêt du cerveau biologique animal (dont humain) est qu'il est un modèle énergétique performant pour la reconnaissance des images, des odeurs, le déplacement dans l'espace par la marche ou le vol, le raisonnement, la prise de décision etc... Aucune de ces fonctions ne peut être qualifié de calcul, et tout est fait de façon analogique. D'où l 'intérêt de l'électronique classique ( = analogique) pour tenter d'approcher cette performance énergétique. Car mantenant on peut la miniaturiser.

Donc par exemple ces "nanoscale ionic programmable resistors" sont une piste plus prometteuse pour arriver au but mais fait moins de bruit dans la presse, car la science-fiction n'y avait pas pensé avant:
https://www.science.org/doi/10.1126/science.abp8064

Et là pas de question d'éthique du premier ordre, ce sont juste des résistances programmables.

[GBo]

Bonjour,
Je me rends compte que j'ai fait dériver le sujet sur les apports de l'électronique dans l'émulation de neurones d'inspiration biologique ce qui n'était pas le sujet initial: je m'en excuse auprès des lecteurs et de fred3000gt à qui je souhaite bien sûr le meilleur dans ses recherches. Le fait que je sois dubitatif sur les débouchés pratiques du "wetware" n'a aucune importance, c'est de la recherche fondamentale, on ne peut qu'apprendre de telles expériences... Bonne continuation en tout cas

[Mickey-l.ange]

il me paraît clair que si on produit un calculateur à base de neurones d'animaux la question de la conscience et de sensibilité de ce calculateur se posera à peu près de la même manière que si les neurones étaient humains.

Bonjour,
Passer d'assemblages de cellules neuronales directement à des notions complexes comme la "conscience" et la "sensibilité", n'est-ce pas un bond un peu rapide ?

[fred3000gt]

Je ne sais pas si l'idée est de concurrencer Intel ou NVIDIA. Ca paraît difficile, sachant qu'effectivement les cultures cellulaires sont très fragiles et que déjà les ordinateurs sont de meilleurs calculateurs que nos cerveaux avec leur énorme quantité de neurones. Mais il est difficile de prévoir les applications d'une technologie naissante. Les cellules utilisent une source d'énergie totalement différente de celle nécessaire aux circuits électroniques, ça peut avoir un avantage dans certains environnements, qui sait?

Effectivement, pour le calcul brut, la latence propre aux réseaux biologiques les rend totalement sans intérêt.

De toute façon il y a tellement de difficultés pour faire marcher le wetware depuis le temps qu'on essaie (le mot est nouveau mais pas le concept) que je crois davantage aux solutions d'électronique analogique, bien plus facile à interfacer avec le numérique, et qui ne pas clampser pour un rien, genre "oh non, mon ordi a rendu l'âme" mais au sens propre du terme.

"Analog AI : Making Deep Neural Network systems more capable and energy-efficient."
https://research.ibm.com/projects/analog-ai

La SF en parle depuis longtemps, mais on essaie depuis très peu de temps, à part quelques visionnaires (comme Steve Potter par exemple).

Bonjour,
Passer d'assemblages de cellules neuronales directement à des notions complexes comme la "conscience" et la "sensibilité", n'est-ce pas un bond un peu rapide ?

En effet. Et pour en revenir à ma question initiale, ma réponse habituelle est:
Le biocomputing ne pose aucun problème éthique aujourd'hui, ne serait-ce que par le faible nombre de neurones utilisés.

Par contre, que dire si demain on construit des organoides de plusieurs milliards voire trilliards de neurones?

Ce n'est pas totalement irréaliste, car les cellules souches se reproduisent spontanément au point que l'on doit interrompre cette multiplication pour ne pas trop en avoir (mais de gros organoides posent toujours des problèmes de vascularisation).

Je n'ai pas de réponse à ce jour, et voici certaines des questions ouvertes:
- Serait-il moins éthique d'exploiter un tissu nerveux de plusieurs milliards de neurones?
- Devrait-on fixer une limite arbitraire de neurones, comme les nombre de semaines avant une interruption de grossesse?
- Et pourquoi pas une limite sur le nombre de cellules gliales?
- Et dans ce cas, devrait-on aussi fixer une limite sur le nombre de connexions dans les réseaux de neurones artificiels utilisés en IA?

Cette interrogation sur l'éthique n'est pas une considération abstraite pour moi, car c'est ce sur quoi m'interrogent les journalistes, youtubeurs, podcasteurs, etc, plusieurs fois par semaine...

[Flyingbike]

Je n'ai pas de réponse à ce jour, et voici certaines des questions ouvertes:
- Serait-il moins éthique d'exploiter un tissu nerveux de plusieurs milliards de neurones?
- Devrait-on fixer une limite arbitraire de neurones, comme les nombre de semaines avant une interruption de grossesse?
- Et pourquoi pas une limite sur le nombre de cellules gliales?
- Et dans ce cas, devrait-on aussi fixer une limite sur le nombre de connexions dans les réseaux de neurones artificiels utilisés en IA?

Cette interrogation sur l'éthique n'est pas une considération abstraite pour moi, car c'est ce sur quoi m'interrogent les journalistes, youtubeurs, podcasteurs, etc, plusieurs fois par semaine...

A mon avis, la limite en question, elle est du même esprit que celle qu'on essaie de définir pour l'IVG. Cela revient à se demander quand on décrète qu'un tas de cellule est un individu ? Et il n'y a pas de réponse évidente, comme souvent en éthique.

Oui c’est une ligne argumentaire que je soutiens, cependant, ici on parle de neurones, c’est une cellule qui a dans l’imaginaire collectif un statut à part, presque “sacré”.

De ce que j'en ai vu en recherche, et c'est peut être le cas aussi du côté médical, travailler sur des neurones ou sur le système nerveux est plus "noble" que le reste. Va savoir pourquoi

[GBo]

La SF en parle depuis longtemps, mais on essaie depuis très peu de temps, à part quelques visionnaires (comme Steve Potter par exemple).

Bonsoir, l'entrée wikipedia anglais sur le wetware computing fait remonter les premières expériences fonctionnelles de ce type à 1999, par un certain William Ditto alors au Georgia Tech:
https://en.wikipedia.org/wiki/Wetware_computer

Le magazine Future Tech titrait d'ailleurs dès 2000:
"What's beyond silicon and fiber optics? Would you believe microprocessors with living brain tissue?"
https://www.discovermagazine.com/technology/future-tech
L'article est intéressant comme vulgarisation.


cdlt,
GBo

[GBo]

Puisqu'on parle du Dr. Steve Potter justement, voir cette vidéo mise en ligne il y a 14 ans (en anglais):

"Living Neural Networks"
https://youtu.be/51_dXt63JY4

"...brain cells from rats..."