Quand vous fabriquez un robot

[Liet Kynes]

L'homme aussi comme un mixeur qui peut sentir un courant plus ou moins important peut sentir un stimulus unique et en être conscient, une note de musique par exemple. On pourrait lui enlever toutes parties du cerveau et ne lui laisser que celle qui permettent d'entendre une note, il se transformerait en mixeur...

Les dégats que peuvent faire un mixeur sur un cerveau sont impressionants.
-----

[GBo]

C'est hélas la plupart du temps le cas dans les fils d'Odin2, celui-ci n'est même pas le pire.

[Anathorn]

Pour qu'il y ait une conscience, il faut forcément une appréhension de l'environnement.
Que cet environnement soit réel ou fictif.
Et pour appréhender un environnement, il faut des capteurs et une unité de traitement.
L'unité de traitement, c'est l'intelligence, necessaire mais non suffisante par elle même à la conscience.
La conscience c'est encore au dessus.
A un niveau hors de portée de nos IA actuelles et des projections factuelles de nos sciences cognitives experimentales les plus poussées.
Contrairement a ce que dit Musk, on est loin d'avoir besoin d'un bouton rouge.
Même s'il n'est pas exclut qu'on en ait besoin un jour, celui ci est imaginaire à ce stade.
Spot et Atlas ne sont encore que des tas de ferraille qu'il faut programmer.

[Ernum]

Donc, si je lâche mon crayon, il a conscience qu'il faille tomber?
(en réponse à Odin2)

[Liet Kynes]

Pour ma part je suis partisan de dire qu'un mixeur a une conscience, puis je vois pas vraiment ce que la conscience de soi vient faire dans le problème.

En fait tu es dans la philo et la frontière avec des concepts comme la conscience n'est pas clairement établie.
Ma remarque sur mixeur et cerveau est une réaction au fait que j'ai l'impression que tu confonds certains concepts et fais quelques erreurs de raisonnement.
Tu peux tenter de lire des choses sur les qualias pour t'aider à faire le tri: https://fr.wikipedia.org/wiki/Qualia
Il y a actuellement une passerelle entre philo et science sachant que la science cherche surtout à savoir formuler sa question correctement.

[Deedee81]

Salut,

Pour ma part je suis partisan de dire qu'un mixeur a une conscience [...]
L'homme [...[ On pourrait lui enlever toutes parties du cerveau et ne lui laisser que celle qui permettent d'entendre une note, il se transformerait en mixeur...

Il ne faut qu'une minuscule lésion dans la partie ad hoc du cerveau pour perdre conscience (tomber dans le coma) et même toute forme de conscience au sens clinique. Et toi tu espères rester conscient en enlevant 99.99 % du cerveau ?
T'est quand même sacrément bizarre

Il y a actuellement une passerelle entre philo et science sachant que la science cherche surtout à savoir formuler sa question correctement.

Oui, mais Futura oblige, je propose de nous axer sur les définitions scientifiques (notamment cliniques) et sur la mesure expérimentale et sur comment étendre ça aux animaux ou aux IA et la discussion ci-dessus sur les expériences animales est fort intéressante par exemple, le message 26 notamment. Autant continuer sur la bonne voie et éviter de passer la discussion au mixeur
(par exemple mieux vaut éviter la conscience phénoménale, trop philo, et se concentrer sur la cognition)

[pm42]

T'est quand même sacrément bizarre

C'est très gentil parce que quand on dit qu'un mixeur a une conscience, on est plutôt en orbite tellement lointaine de la Terre qu'on croise des théières.

[penthode]

Savoir faire un lien entre le mouvement que l'on fait et son reflet qui bouge ça ne prouve même pas une conscience j'ai envie de dire, une rétroaction dans un système... oui. l'exmple du chien et son bâton qui tente sans succès de passer une porte prouve bien que des liens hyper naturel à faire pour nous peuvent être impossible à faire pour un animal tel que le chien.
.

personnellement observé avec un os à jambon avec de beaux restes à la place du bâton

le brave toutou voulant aller le déguster tranquille (et hors la présence du chat) fut incapable de passer seul la porte entre-ouverte

ça nous a fait rire , c'était pas gentil !

[Deedee81]

on croise des théières.

Non, non, des mixeurs on a dit

Il y en avait un (je vais être gentil et ne pas citer le nom) une fois qui avait parlé de niveau de conscience.... des cailloux (son idée était qu'il y a un continuum de conscience et que tout pouvait avoir conscience éventuellement à un niveau particulièrement faible. Mais comme c'était flou, pas de définition stricte de "conscience", et douteux, ça n'a pas été bien loin). Et ma fois un mixeur c'est pas pire.

Pour rester plus sérieux. Ce n'est pas tant le "niveau de conscience" qui me fait réagir. C'est plutôt le soucis des droits. Par exemple, je trouve normal que l'on ait attribué certains droits aux animaux car :
- ils sont conscients
- ce sont des être sensibles
- ils sont sous notre joug et subissent nos actes (en bien ou en mal)
J'imagine que si des IA devenaient vraiment intelligente (au sens intelligence généraliste) et estimée conscientes (selon la définition qui conviendrait) voire sensibles, il deviendrait normal de leur attribuer certains droits (même très limités, c'est une question queque peu hors thématique). Mais à mon mixeur ? Faut pas pousser bobonne. Si je jette mon mixeur au recyclage et pas dans une décharge c'est par respect de l'environnement et pas parce ce serait lui accorder un enterrement décent.

[pm42]

Mais comme c'était flou, pas de définition stricte de "conscience", et douteux, ça n'a pas été bien loin).

Comme je le disais plus haut, c'est bien le problème et cela permet justement ce coté de "moi je pense que" niveau bistrot après beaucoup trop de verres qui amène à "donnons des droits aux mixeurs en orbite russellienne" et n'a rien à voir avec de la science ou même toute forme de raisonnement.

[stefjm]

Spot et Atlas ne sont encore que des tas de ferraille qu'il faut programmer.

Et surtout conscience des autres humains autour de lui...

Il y a des vidéo où Atlas coopère avec des humains?

Notez la zone d'exclusion d'humains autour du robot Atlas dans les vidéo!

[titijoy3]

je ne suis pas certain que le test du miroir prouve une plus ou moins grande conscience de soi,

pour moi, ça a plus à voir avec une capacité de traitement de l'information supérieure, l'animal se rend compte (ou pas) que les mouvements de l'image renvoyée par le miroir sont exactement les mêmes que ceux qu'il produit et en déduit (ou pas) que ce sont les siens,

il existe au moins un miroir naturels dans la nature et les animaux les plus évolués ont appris à identifier leur image

[Deedee81]

Titijoy, je suis d'accord avec ton analyse. C'est insuffisant comme test et très difficile à relier à la conscience.

Concernant Atlas et les IA, il faut aussi faire attention aux "bonnes simulations". C'est le problème de la chambre chinoise
https://fr.wikipedia.org/wiki/Chambre_chinoise
Cela explique d'ailleurs les difficultés de passer de définitions pratiques et scientifiques de la conscience à des définitions applicables à des IA. J'ai déjà dialogué avec des IA vraiment bluffantes alors que leur programmation est juste une simulation bien pondue. Et cela va même jusqu'à dire "mais bon sang de bois, c'est quoi vraiment la conscience". Et je pense que personne (dans quel que domaine que ce soit) n'ai vraiment la réponse. Malgré des définitions opérationnelles très précises en neurologie, il est très difficile de vraiment comprendre ce que c'est. C'est sans doute bien pire que la définition de l'intelligence qui pourtant est aussi très épineuse.

[GBo]

je ne suis pas certain que le test du miroir prouve une plus ou moins grande conscience de soi,
pour moi, ça a plus à voir avec une capacité de traitement de l'information supérieure, l'animal se rend compte (ou pas) que les mouvements de l'image renvoyée par le miroir sont exactement les mêmes que ceux qu'il produit et en déduit (ou pas) que ce sont les siens,

J'ai mis en gras dans ton explication (vraisemblable) tout ce qui devrait te faire penser que c'est aussi la preuve que l'animal, capable de cette prouesse, a aussi conscience de lui-même, de son corps, forcément. Dire que cela n'a rien à voir avec la conscience de soi est prendre Gordon G. Gallup et les scientifiques pour ce qu'ils ne sont pas...

il existe au moins un miroir naturels dans la nature et les animaux les plus évolués ont appris à identifier leur image

Donc une antilope qui a l'habitude de voir son reflet dans l'eau du lac calme quand elle s'y abreuve se reconnait ? Elle sait que c'est SON reflet ? tu en es sûr ?

[Deedee81]

Donc une antilope qui a l'habitude de voir son reflet dans l'eau du lac calme quand elle boit se reconnait ? Elle sait que c'est SON reflet ? tu en es sûr ?

C'est idiot, cette phrase m'avait échappé

Oui, je confirme que tous les animaux (au moins les mammifères, les oiseaux) sont biologiquement programmés pour reconnaitre leurs semblables. Mais dire qu'il SE reconnait est abusif.

[Anathorn]

La conscience, c'est un sujet trop compliqué, parce que c'est un sujet trop diversifié.
Quand on parle de la conscience humaine, on parle surtout de sa capacité directe d'agir sur son environnement immédiat.
Mais si on était une espèce vraiment consciente, on serait déjà en phase de règlement de nos problèmes de destruction de la biodiversité et de réchauffement climatique.
Pour la plupart de nos congénères, la conscience s'arrête à leur nombril : je veux gagner 100 euros de plus par mois, je veux la dernière PS5 et le dernier smartphone etc.
Alors que notre pouvoir d'agir (et donc de nuisance, si on ne le fait pas avec conscience) s'étend bien au délà : "même si mon dernier smartphone est un assemblage de trucs qui ont du faire 20 fois le tour de la Terre avant d'arriver dans ma poche".
Je ne suis pas sur que la majorité des humains puisse donc se "vanter" d'avoir une conscience.
Cette saloperie de black friday a failli m'inciter a changer mon vieux smartphone de 5 ans (déjà bas de gamme a l'époque) contre un nouveau bas de gamme a 100 balles (~10 fois mieux...).
Tellement facile...
J'ai résisté facilement là ou jaurais cédé instantanément il y a 20 ans.
Comme disait le père de spiderman (référence interessante non ? ) : un grand pouvoir implique une grande responsabilité.
J'ai un immense pouvoir, comme tout le monde, le tout c'est d'en prendre conscience et d'avoir un impact responsable.
A ce titre, finalement, la conscience n'est pas une chose si généreusement distribuée dans notre espèce.
Alors c'est bien gentil de parler de la "conscience des robots", mais commençons par nous occuper de la notre.

[Ernum]

Salutation,

La conscience, c'est un sujet trop compliqué, ...

oh, toi tu n'aurais subrepticement pas fait un détour pour prendre des nouvelles du bourg dans la taverne du coin avant le déjeuné? Bon appétit!

[JPL]

Mais si on était une espèce vraiment consciente, on serait déjà en phase de règlement de nos problèmes de destruction de la biodiversité et de réchauffement climatique.

Belle confusion avec la conscience morale (Jiminy Cricket ) qui n’a rien à voir avec ce dont on discute ici. Un même mot pour désigner deux choses totalement distinctes.

[Deedee81]

Belle confusion avec la conscience morale (Jiminy Cricket ) qui n’a rien à voir avec ce dont on discute ici. Un même mot pour désigner deux choses totalement distinctes.

Plus que deux. Il y a quatre ou cinq "grandes définitions" et celle qui nous intéresse est elle-même floue et polysémique.

C'est un défaut des forums (je ne vise personne et ce n'est pas que Futura, mais c'est un constat). Dès qu'une discussion s'entame sur un sujet aussi polysémique et flou.... ça s'éternise car on y répond (moi aussi, je ne m'absout pas) sans même être foutu de préciser de quoi on parle vraiment.

[GBo]

Et dès qu'on essaie de le faire, on se fait taxer de réductionnisme (je ne parle pas que sur Futura), ce qu'est pourtant la science, par principe.

[Bounoume]

Alors c'est bien gentil de parler de la "conscience des robots", mais commençons par nous occuper de la notre.

quoique j ' aie le même sentiment que toi sur la "conscience" dont tu parles, et dont je nomme 'connerie' l' absence omniprésente chez nous, ce n' est pas le sujet ici.....

Sur la 'conscience de soi' des animaux, il n' y a pas besoin du controversé test du miroir.....
C' est très facile d' en constater l' existence......
Un exemple: ma jument Kamla.... qui fait un peu de conjonctivite, ce qui fait pleurer l' oeil, puis les sécrétions séchées restent au coin des paupières.... pas beau, peut-être gênant pour Madame, donc, à la main, je les enlève..... ce qui implique que la dite main arrive au contact de l' oeil, de l' animal.....
Allez chatouiller l"' oeil d' une bête... l' animal vous fera bien comprendre qu' on ne touche pas sa propriété privée (et indispensable à sa survie...)
Cependant, moi, je n' ai aucune difficulté à approcher le globe oculaire (sans d' ailleurs le réflexe normal de brusque fermeture de paupières).
La toilette est acceptée sans aucune réticence....
Serait-ce que Kamla a conscience non seulement de son corps, mais des actions qu' un quidam précis va faire et du résultat qu' elle peut en attendre (agréable ici, désagréable si c' est un autre qui veut peut-ếtre lui faire des misères.....)
De même, conscience de leur force: comportement très différent envers le poulain, ou l' humain (fragile) considéré comme ami.... contre celui envers le cheval étranger.... et intermédiaire avec le cheval plus ou moins copain..... dans un cas, ne tape jamais, dans l' autre tape, ou mord, ou fuit, et dans le troisième.... fait simplement comprendre que ça suffit: avertissement sans frais avant la baffe!......

Bon, on va dire qu' il y a ici et conscience de soi; et conscience de l' autre..... ainsi que traitement émotif......
Malheureusement, ici tout ceci n' est que est notre interprétation subjective de la réalité.
Il n' y a pas de possibilité de preuve objective, ni même de 'commencement de preuve' comme disent les juristes.....
Quand le bestiau (humain, ou robot) prétend décrire les processus dans un langage des mots à nous explicite, on pourrait croire réel le contenu du discours......
Sauf si l' individu ment....

Or les justifications verbales peuvent décrire une 'réalité' falsifiée, des processus 'mentaux' inexistants ...... ce qui est le cas quand on 'cause' avec un chatbot astucieusement programmé

[Liet Kynes]

Plus que deux. Il y a quatre ou cinq "grandes définitions" et celle qui nous intéresse est elle-même floue et polysémique.

C'est un défaut des forums (je ne vise personne et ce n'est pas que Futura, mais c'est un constat). Dès qu'une discussion s'entame sur un sujet aussi polysémique et flou.... ça s'éternise car on y répond (moi aussi, je ne m'absout pas) sans même être foutu de préciser de quoi on parle vraiment.

Perso, concernant cette polysémie j'aime bien ce qui est développé par Stanislas DEHAENE : voir au chapitre "Quelques distinctions théoriques" dans la presentation du cours : https://www.college-de-france.fr/sit...1-05-09h30.htm

[titijoy3]

et moi, je maintient que pour moi le test du miroir à plus à voir avec la capacité de déduction qu'avec la conscience de soi,

d'ailleurs, un miroir ne renvoie pas une image exacte de soi mais une image inversée, c'est pour ça que beaucoup de gens n'aiment pas leur photo, elle est inversée par rapport à ce qu'ils voient dans leur miroir,

@ deedee, un hanneton ne reconnait pas son semblable ? une abeille ? une fourmi ?

pour moi, les animaux ont parfaitement concsience d'eux mêmes mais ont des capacités de déduction différentes

[Deedee81]

Salut,

et moi, je maintient que pour moi le test du miroir à plus à voir avec la capacité de déduction qu'avec la conscience de soi,

Comme je l'ai dit plus haut, je suis d'accord avec toi. Les deux sont liés mais la réussite de ce test n'est ni nécessaire ni suffisant (pour dire "il y a conscience de soi").

Mais difficile de prouver quoi que ce soit dans ce domaine.

@ deedee, un hanneton ne reconnait pas son semblable ? une abeille ? une fourmi ?

A vrai dire je n'en sais rien (enfin, si en partie pour les insectes sociaux). J'ai juste voulu limiter par sécurité.

pour moi, les animaux ont parfaitement concsience d'eux mêmes mais ont des capacités de déduction différentes

Je ne serais pas affirmatif pour une fourmi (je ne dis pas que non, juste que je n'en sais rien). Parmi les quelques centaines de définitions de la conscience, laquelle utilises-tu pour dire "pour moi ils sont conscient d'eux-mêmes" ? (en particulier pour une amibe ou un protiste qui sont aussi des animaux !!!!)
(ma question est sérieuse et due à mon énervement de voir affirmation, opinion, etc.... sans même savoir de quoi on parle en réalité !!!! Je le dis pas en vert, j'ai fait la même chose )
"quelle est la couleur du schmilblick", "c'est bleu", "non c'est vert".... et cent messages plus loin on ne sait toujours pas ce qu'est le schmilblick.

[antek]

Les insects sociaux n'ont pas forcément davantage de relations sociales que les autres ("sociaux" dans ce cas n'a pas la définition habituelle appliquée aux mammifères par exemple).
Pour qu'il y ait interraction sociale il faut que les individus soient reconnus, est-ce le cas chez les insects ?

[Deedee81]

Les insects sociaux n'ont pas forcément davantage de relations sociales que les autres ("sociaux" dans ce cas n'a pas la définition habituelle appliquée aux mammifères par exemple).
Pour qu'il y ait interraction sociale il faut que les individus soient reconnus, est-ce le cas chez les insects ?

Ben justement, ches les insectes non sociaux, je n'en sais fichtre rien. Je suppose au moins en partie, sinon comment se reproduiraient-ils ??? Mais ça ne nous dit que dale sur la conscience.

[titijoy3]

@deedee, entièrement d'accord avec toi, il faut déjà définir ce qu'on appelle "conscience de soi"

[Liet Kynes]

@deedee, entièrement d'accord avec toi, il faut déjà définir ce qu'on appelle "conscience de soi"

Le lien que j'ai donné évoque bien ces problèmes.

La grande question est de savoir si une conscience a besoin d'un langage ou pas pour nommer "soi".

[titijoy3]

le langage apporte un plus à la cohésion sociale d'une espèce mais sa maîtrise n'est pas indispensable à l'existence d'une conscience de soi, les abeilles en ont un par exemple

[Liet Kynes]

le langage apporte un plus à la cohésion sociale d'une espèce mais sa maîtrise n'est pas indispensable à l'existence d'une conscience de soi, les abeilles en ont un par exemple

Pas un langage qui permet de se nommer individuellement à ma connaissance.