Quand vous fabriquez un robot

[Odin2]

Bonjour,

quand vous fabriquez un robot, est ce que vous vous dites qu'il pourrait être conscient ? Et qu'en pensez vous ?
-----

[Piefra]

Bjr,

Qu'entendez vous par robot ?

Dans 90% des cas , ce ne sont que des automates , certes a programme variable , mais toujours pilote
L'ia ne sait pas encore stocker son apprentissage a la facon cerveau humain et ne peux pas encore deriver
On est obliger d'introduire un facteur aleatoire pour lui simuler un semblant de changement de comportement
Y a encore quelque lustres a attendre avant d'avoir un peu de conscience dans une machine
A notre epoque on ne fait que du mimetisme

C'est mon avis

Cdlt

[Odin2]

La question c'est est ce que la mémoire et l'apprentissage sont indispensable à l'émergence d'une conscience ? Pas convaincu pour ma part

[JPL]

La conscience de soi me semble impossible sans mémoire.

[A voir en vidéo sur Futura]

[Anathorn]

La question c'est est ce que la mémoire et l'apprentissage sont indispensable à l'émergence d'une conscience ? Pas convaincu pour ma part

La recherche IA en deeplearning nous montre que même une IA primitive, encore loin du niveau de conscience, à déjà besoin d'apprentissage et de mémoire.
Si on avait ni besoin de mémoire ni d'apprentissage, les nouveaux nés seraient déjà des experts.

[Odin2]

D'accord mais là tu parles d'intelligence pas de conscience...

[jiherve]

bonsoir
sont elles dissociables ?
Que savons nous de la conscience des animaux réputés intelligents: rien ou presque si l'on ne tient pas compte du fait que certains savent se reconnaitre (test du miroir).
JR

[GBo]

Oui, bonne pioche, le test du miroir marche avec l'homme et les animaux les plus intelligents (ex qui savent contourner des obstacles pour aller chercher la nourriture, se servir et modeler des objets comme outil etc..), on peut donc supposer qu'il s'agit d'une propriété qui émerge à partir d'un certain degré d'intelligence.

[Odin2]

J'ai toujours eu du mal à comprendre en quoi le test prouvait une conscience. Cela suggère de faire le lien entre une image et les mouvements que l'ont fait, pour moi c'est comme faire n'importe quel lien par exemple, que chaque samedi les éboueur passent... Tout le monde n'arrive pas à faire ce lien, ça prend parfois du temps, sont il inconscients pour autant.

[jiherve]

Re
cela marche aussi avec les lucanes mâles qui face à un miroir se mettent en position d'attaque, et cela dure longtemps.
La bestiole reconnait donc un autre mâle mais sans savoir que c'est lui, manip amusante faite plusieurs fois mais est ce de la conscience ?
Il est très difficile de définir la conscience.
le test du miroir consiste historiquement à coller une marque sur la tete de l'animal et à observer leur reaction face à un miroir, les plus "conscients" essaieront de l'enlever .
https://fr.wikipedia.org/wiki/Test_du_miroir
JR

[GBo]

Sauf que c'est un échec du test du miroir si la lucane ne se reconnait pas !
La pie elle se reconnait, car si on a peint une tâche rouge entre ses deux yeux à son insu, elle la voit pour la 1ere fois dans le miroir et essaie de se l'enlever (sur elle même) !

[GBo]

J'ai toujours eu du mal à comprendre en quoi le test prouvait une conscience. Cela suggère de faire le lien entre une image et les mouvements que l'ont fait, pour moi c'est comme faire n'importe quel lien par exemple, que chaque samedi les éboueur passent... Tout le monde n'arrive pas à faire ce lien, ça prend parfois du temps, sont il inconscients pour autant.

Pour les animaux qui ratent ce test, ce n'est pas une preuve qu'ils n'ont pas conscience d'eux mêmes pour autant, mais pour ceux qui le réussissent comme le corbeau, c'est une preuve indiscutable qu'ils ont cette conscience, "la conscience de soi".

[jiherve]

re
nous sommes d'accord c'est un échec mais cela prouve tout de même que le lucane sait reconnaitre un autre lucane uniquement par la vue et que donc il possède une représentation "mentale" de ses congénères.
C'est ce qui m'a toujours étonné chez les chiens qui malgré une grande variété d'aspect s'identifient toujours même sur des images.
Le grand René s’était bien planté en assimilant les animaux à des machines.
JR

[GBo]

Sauf que c'est un échec du test du miroir si la lucane ne se reconnait pas !

Source :

Un animal qui échoue au test du miroir réagira à sa propre réflexion comme s'il s'agissait d'un autre animal avec des réponses agressives ou basées sur la peur.

https://www.netinbag.com/fr/health/w...rror-test.html

[Ernum]

Oui,
et un serpent qui se met à l’abri des rayons du soleil n'attend pas d'être desséché ( ou de faire une commotion cérébrale) pour le faire, qu'est-ce que la conscience de soi à avoir avec ça. La cloche qui sonne l'heure du dîner est du même acabit pour le rat de laboratoire comme pour moi.
Rien à voir avec le test du miroir.

[GBo]

Oui,
et un serpent qui se met à l’abri des rayons du soleil n'attend pas d'être desséché ( ou de faire une commotion cérébrale) pour le faire, qu'est-ce que la conscience de soi à avoir avec ça. La cloche qui sonne l'heure du dîner est du même acabit pour le rat de laboratoire comme pour moi.
Rien à voir avec le test du miroir.

Pas compris. On vient de rappeler que l'échec du test du miroir n'est pas une preuve d'absence de conscience de soi.
La réussite systématique de ce test est par contre une preuve de sa présence chez l'espèce en question.

[Bounoume]

La signification de ce mot 'conscience' est sacrément ambigüe.... et se réfère toujours à un complément: conscient... de qui/ de quoi?

A) Le robot avec main préhensile et force de préhension ajustée selon la résistance de la chose qu'il prend.... donc qui ajuste sa force à la mesure provenant de capteurs, est-il conscient des caractéristiques de la dite chose?
idem, l' ordinateur qui détecte une erreur/une exception au cours d' un traitement, et qui la gère et contourne le bug, est-il conscient de son fonctionnement?

Il y a déjà la boucle de rétroaction (de réflexivité) dans le processus, et la mémorisation du résultat du traitement au temps t-1, mais difficile de parler de conscience.....

Mais la représentation de l' état t-1 (valeur du capteur, ou n° du processus et de l' exception), c' est extrêmement simpliste..... donc exit la conscience.....

B) Dans le test du miroir, les états sont bien plus élaborés..... et l' individu va appliquer son système d' interprétation d' image..... une deuxième fois, à l' image initiale, altérée par le résultat de son comportement sur la tache de couleur....
alors, conscience de soi?

C) habituellement, on attend d' un individu 'conscient' (de lui, d' un fait, d' un autre, etc....) qu 'il soit capable d' exprimer (intérieurement ou extérieurement) la prise en compte de l' information, du fait, de l' objet... dont il est censé ếtre conscient......
habituellement cette 'conscience' est exprimable par le langage des mots et des idées... elle se justifie elle-même et elle justifie les conséquences de ce qu' elle a appris en examinant ou en s' examinant.....

ça, le robot ne sait encore pas du tout faire: même si il y a IA..... le comportement sera ajusté, le paramètres internes seront modifiés, mais sans recours à une communication partageable avec le papa du robot..... ni avec son 'moi' intérieur.....

[Ernum]

Oui,
j'ai vu après publication que d'autres messages étaient passés, ce qui rend le mien peut-être ambigu?
Pourtant, je t'assures que je partage tous a fait ce que tu viens de dire. Je ne portais aucun jugement de valeur (j'en étais pas là encore ).

Je soulignais juste le fait qu'entre, "à un certain moment de la journée, associer l'éboueur au bruit du camion " et l'expérience du miroir ( c'est aussi à quoi je pensais avec ton exemple de la pie), on ne prétend pas démontrer la même chose; dans une la capacité d’apprentissage et dans l'autre la conscience de soi.

[pm42]

La signification de ce mot 'conscience' est sacrément ambigüe

C'est en fait le sujet du fil et le problème de tous ces fils : on ne définit jamais précisément de quoi on parle, et souvent, les concepts sont suffisamment flous pour qu'il n'existe même pas de définition consensuelle ou qui puisse être validée scientifiquement.

Donc chacun peut dire ce qu'il croit/pense et à la fin, on n'est pas plus avancé. En terme de quantité d'information, un fil comme ça se résume à son titre.

[Bounoume]

ça, le robot ne sait encore pas du tout faire: même si il y a IA..... le comportement sera ajusté, le paramètres internes seront modifiés, mais sans recours à une communication partageable avec le papa du robot..... ni avec son 'moi' intérieur.....

toutefois, cette communication en langage courant..... il y en a un embryon, avec les 'transformers' (GPT3 ou GPT4 ?), qui réussissent à extraire du sens de textes présentés en entrée, et ensuite d' apporter une 'réponse' relativement pertinente, ou à en donner une traduction le plus souvent satisfaisante.....

Si une telle architecture (avec l' apprentissage ad hoc ? ) permettait d' examiner des informations (des connaissances diverses) d' une base initiale, d' en obtenir une sortie dépendant de son état, d' en injecter les 'résultats' dans la dite base (mémorisation) puis de ré-examiner les informations de la base... etc.....
ceci avec possibilité d' interaction avec un témoin/partenaire humain extérieur,
et le tout 'codé' en langage naturel, anglais, français, ou en mandarin ...
alors ça pourrait peut-être constituer un analogue grossier de notre 'conscience intérieure'.....
mais ceci n' a rien à voir avec Spot de Boston dynamics! : pas conscient, mais habile!


ps dans le peu que j' ai compris des 'transformers' il y a encore un obstacle: même si le résultat du passage dans les 2 structures (codeur puis décodeur) pouvait être ré-injecté en entrée (avec des éventuelles modifications) il me semble qu' on ne pourrait pas ou difficilement pour le moment.... lui faire aussi modifier de façon déterminante les poids internes dans les réseaux de neurones.... (? ??) alors qu' un phénomène de 'conscience' se doit de pouvoir influer sur son objet

[Liet Kynes]

C'est en fait le sujet du fil et le problème de tous ces fils : on ne définit jamais précisément de quoi on parle, et souvent, les concepts sont suffisamment flous pour qu'il n'existe même pas de définition consensuelle ou qui puisse être validée scientifiquement.

Donc chacun peut dire ce qu'il croit/pense et à la fin, on n'est pas plus avancé. En terme de quantité d'information, un fil comme ça se résume à son titre.

Bonjour,

tout à fait d'accord avec cela, à noter que dans le domaine vétérinaire une définition est donnée qui est peut-être à l'origine de nombreuses confusions et prises de positions non fondées scientifiquement sur ce mot.

"Nous avons été confrontés à une grande diversité de définitions de la conscience. Après les avoir examinées, nous sommes convenus de retenir la suivante : la conscience est une expérience subjective qu’un individu — humain ou non humain — a de son environnement — naturel et social —, de son propre corps et de ses propres connaissances. " extrait de l'ouvrage "La conscience des animaux" https://www.quae-open.com/extract/325

L'extension de cette définition au domaine informatique verra peut-être emmergée également des positions "welfaristes" et "antispecistes" ? En tâche de fond également tournent les théories béhavioristes que je trouve très réductrices.

[Deedee81]

Salut,

L'extension de cette définition au domaine informatique verra peut-être emmergée également des positions "welfaristes" et "antispecistes" ?

Tant qu'on ne dit pas que mon robot moulinex est conscient et a des droits, ça ne me gêne pas.

Je précise cette fois sans rire qu'on a déjà eut des discussions interminables tant sur la conscience que sur les robots ou les IA. Je vois mal ce qu'on pourrait dire de nouveau sur ces sujets.

Toutefois la citation que tu donnes a l'avantage d'être pragmatique et donc scientifique (au moins selon mon appréciation de la science) Je l'aime bien. Il manque une explication pragmatique de "comment selon cette définition détermine-t-on si X est conscient" mais ils en parlent peut-être vu la taille de ce chapitre dans le pdf (mais je n'ai hélas pas le temps de le lire là).

[Liet Kynes]

Toutefois la citation que tu donnes a l'avantage d'être pragmatique et donc scientifique (au moins selon mon appréciation de la science) Je l'aime bien. Il manque une explication pragmatique de "comment selon cette définition détermine-t-on si X est conscient" mais ils en parlent peut-être vu la taille de ce chapitre dans le pdf (mais je n'ai hélas pas le temps de le lire là).

La défintion que je trouve la moins polysémique de la conscience est philosophique "cogito ergo sum": "La faculté de douter de sa propre existence qui « atteste » de cette existence même." tiré du développement fait dans wikipedia sur la conscience de soi : https://fr.wikipedia.org/wiki/Consci...science_de_soi

J'en reste de ce fait à la remarque judicieuse de PM42 mais j'ai tenu à signaler l'influence grandissante de la théorie béhavioriste (qui se veut scientifique) actuelle dans l'approche de ce concept.

[GBo]

Elle n'est scientifique, cette definition, que si l'on peut imaginer des tests animaux permettant de la mettre en évidence. Donc bof bof...
C'est pour ça que je parlais de la conscience de se voir, soi, dans un miroir (= test de Gallup), ça au moins c'est testable bien que constituant un peu le "haut du panier" de ce type de conscience (on n'est pas dans le tout ou rien), que l'on a le privilège de partager avec les corvidés, les chimp et les dauphins.

[Deedee81]

Elle n'est scientifique, cette definition, que si l'on peut imaginer des tests animaux permettant de la mettre en évidence. Donc bof bof...

C'est vrai d'ailleurs et d'ailleurs une bande magnétique récitant "je n'existe pas" serait consciente selon cette définition Et ça ne répond pas à la difficulté de tester certaines définitions dont celle du message 21 que je trouve intéressante.

Le test du miroir est efficace bien qu'insuffisant (le chien échoue et j'aurais du mal à accepter que le chien soit non conscient) mais c'est un bon pas. Il y a aussi les tests neurologiques, très utilisés en médecine pour déterminer les "états de consciences" (pas uniques mais bien décrits) des comateux. Mais limité aux être vivants, inapplicables aux IA. Et le test du miroir serait facile pour une IA correctement programmée.... pour ne faire que ça !

Par exemple dans la définition ci-dessus : comment détermine-t-on en pratique que X a "une expérience subjective de son environnement — naturel et social —, de son propre corps et de ses propres connaissances". C'est loin d'être évident. Une mémoire est indispensable mais très largement insuffisante (on en revient à la bande magnétique )

Il est de fait que le concept de conscience est un des plus flous des plus évanescents qui soit : il ne nous semble évident que parce que nous sommes conscient et nous postulons que les autres humains sont comme nous. C'est comme essayer de capturer un courant d'air avec ses mains C'est d'ailleurs pour ça que la seule définition scientifique et validée est la définition neurologique mais comme dit ci-dessus quelque peu insatisfaisante.

[GBo]

Le chien est très olfactif, or le test du miroir, basé uniquement sur la vue mais aussi sur le soin "esthétique" accordé à son apparence (très important chez les primates et les oiseaux), ne lui convient peut-être pas, d'ailleurs le cochon échoue également.
Ce qui m'intrigue quand même, c'est que les animaux qui réussissent sont aussi jugés les plus intelligents par d'autres tests (intelligence pratique, ouvrir des verrous, contourner la grllle d'un enclos non fermé pour entrer etc...). Tout le monde a vu sur Youtube ces chiens avec un long bâton serré entre les dents ne pas pouvoir passer une porte étroite, sans comprendre pourquoi. Ce n'est pas à un grand singe ou à une corneille que cela arriverait.

[CM63]

On pourrait s'interroger sur la question : quelle est la forme la plus élémentaire de la conscience de soi? Le test du miroir est un bon exemple, mais il y en a peut-être d'autres qui sont plus simple, plus élémentaire. En recherchant un test la plus élémentaire possible, on aurait davantage de chance de pouvoir l'appliquer à l'intelligence artificielle.

[GBo]

C'est très difficile, par exemple une grenouille décervelée (désolé pour les âmes sensibles - dont je fais partie) arrive à enlever avec ses pattes un patch d'acide que l'on colle sur son corps, la moelle épinière suffit donc à donner l'illusion d'une conscience de soi, mais c'est une illusion (reflexes nerveux).

[Odin2]

Pour ma part je suis partisan de dire qu'un mixeur a une conscience, puis je vois pas vraiment ce que la conscience de soi vient faire dans le problème.

Savoir faire un lien entre le mouvement que l'on fait et son reflet qui bouge ça ne prouve même pas une conscience j'ai envie de dire, une rétroaction dans un système... oui. l'exmple du chien et son bâton qui tente sans succès de passer une porte prouve bien que des liens hyper naturel à faire pour nous peuvent être impossible à faire pour un animal tel que le chien.

L'homme aussi comme un mixeur qui peut sentir un courant plus ou moins important peut sentir un stimulus unique et en être conscient, une note de musique par exemple. On pourrait lui enlever toutes parties du cerveau et ne lui laisser que celle qui permettent d'entendre une note, il se transformerait en mixeur...

[GBo]

Ah d'accord, j'en parlerai à mon Dyson.