IA / Machines à prise de conscience de soi

[ArchoZaure]

En fait le truc pour définir si une machine est intelligente ou pas c'est facile.
Puisqu'on peut produire des tests permettant de la mesurer (je ne dis pas que tout le monde sera d'accord sur la
-----

[ArchoZaure]

Non, sans rire, je vois oµ tu veux en venir et en fait je suis d'accord mais tes arguments sont à c....hummmmmmmmmmmmmmm (auto-censure )

C'est normal puisque j'ai simplifié pour commencer.

Donc je déploie.
Mesurer l'intelligence, phénomène qu'on ne doit pas confondre avec la conscience, c'est facile.
Je ne dis pas que la valeur mesurée fera consensus mais que c'est facile de faire une mesure et aussi que la valeur aura en très gros et au pire des valeurs similaires.
Pourquoi ? Parce-qu'on mesure une valeur en provenance d'une "boite noire" (le cerveau) et qu'on n'a pas besoin de savoir ce qui se passe dans la baboite pour dire : J'ai mesuré l'intelligence.
On peut aussi faire appel à un psychologue pour donner une bonne valeur mais c'est bien une mesure... EXTERNE.

Concernant la conscience... c'est la même chose.
Les scientifiques produisent une estimation du niveau et du type de conscience (la conscience est multidimensionnelle comme l'intelligence d'ailleurs) et ils le font sur la base de mesures EXTERNES.

Et là vous allez me dire : Ben vous voyez c'est pareil et donc je peux par exemple sur la base d'une discussion avec une IA informatique vérifier au même titre qu'avec tout autre objet d'étude s'il est intelligent ou et conscient.
Et bien non.
Car il ne faut pas oublier que la science n'a pas de modèle avéré de ce qu'est la conscience et que ça ne l'a pas empêché de commencer à la mesurer.
On a donc DEUX notions (et j'insiste sur ce point crucial) de ce qu'on appelle conscience en neurosciences :
N°1. Celle opérationnelle que l'on mesure (Mesure EXTERNE)
N°2. Celle fonctionnelle que l'on ignore et pour laquelle on connait quelques modèles (Mesure INTERNE)

Un neuroscientifique ne peut donc pas se contenter d'une mesure externe sur un objet lambda pour acter de la présence d'une conscience.
Il peut acter sur un objet identifié et connu et reconnu comme un humain quel est le niveau de conscience N°1 et reconnaitre le N°2 puisque... le scientifique est humain.
Il sait (Mesure INTERNE) qu'il est conscient et il l'expérimente personnellement comme tout être humain et nous en discutons et sommes d'accord pour dire que chacun de nous est conscient.
Dans ce cas de figure on peut donc se contenter de la mesure EXTERNE.

Dans le cas d'un animal ou autre non humain c'est plus difficile. L'animal est-il conscient comme l'est un être humain ?
Ça on ne peut pas le dire...
Donc, ce qu'on fait c'est qu'on compare les structures physiques (comme dans l'exemple de l'ordinateur sa mémoire ses process comment et où l'information circule etc) du modèle dont on sait qu'il produit de la conscience (nous) et qu'à l'aide d'un modèle théorique (il en existe quelque-uns mais c'est limité) on vérifie la possibilité que l'objet d'étude (animal, plante, IA, chaise, etc) puisse fonctionner comme le modèle connu produisant de la conscience (nous).

Ici avec un ordinateur qui fait tourner un programme on peut mesurer la valeur opérationnelle de la conscience N°1 mais cette valeur n'est pas validée puisque le modèle structurel PHYSIQUE sous-jacent n'a rien à voir avec ce qu'on retrouve chez les êtres doués de conscience de manière avéré (nous). Et même pire... il n'y a pas d'explication physique qui permettrait de même inventer un nouveau modèle "pour l"ordinateur", "pour la chaise" etc.
Ce qui est plus évident c'est qu'un ordinateur imite un résultat (pas la manière de fonctionner en interne) tout simplement et c'est normal puisqu'il a été conçu pour ça.

[Deedee81]

C'est normal puisque j'ai simplifié pour commencer.

Akuna matata, je plaisantais et en plus je n'avais pas vu le nombre de messages qui suivaient.
Désolé de ce petit aparté

[Bounoume]

alors....
Tout ça pour confirmer qu'on ne peut que simuler ce que nous nommons 'conscience' en général, ou 'conscience de xxxx' suivant nos envies de causer.....
cela a déjà été dit:

A part pour faciliter ponctuellement la communication avec les humains et pour cela pas besoin de "ressentir" si tant est que cela veuille dire quelque chose, juste de simuler, quel serait l'intérêt d'avoir des IAs émotionnelles qui pourrait pleurer, être en colère, etc quand on leur dit certaines choses ?

fabriquer quelque chose d'identique (émuler parfaitement) c'est une illusion....
*
*
*
*
*

maintenant ce qui pourrait constituer des sujets dérivés:

Les études sur la conscience animale sont assez similaires d'une certaine façon à ce qui peut être envisagé en tant que conscience pour les machines : il s'agit pour un "système" de donner des signaux assimilables à ce qui est classable dans le grand fourre-tout des mots conscience et intelligence.

les diverses définitions des 'consciences' ?

Clairement, il est triviale de dire qu'une machine n'est pas un humain mais il va être de plus en plus difficile (voir impossible) dans certains contextes (qui vont être de plus en plus nombreux) de distinguer ce qui est communiqué par des humains de ce qui est communiqué par des machines.
Plus subtil aussi le fait, qui est en croissance forte, que désormais des décisions soient énoncées couramment par des humains mais déterminées par des machines dans des domaines que l'on pensait réserver aux humains.

les impacts des systèmes automatisés dits 'intelligents' sur les décisions humaines... et les responsabilités humaines

[JPL]

Merci de ne pas dégrader la qualité de la discussion

Tu veux dire "merci de ne pas la dégrader encore plus" ?

[Liet Kynes]

Ici avec un ordinateur qui fait tourner un programme on peut mesurer la valeur opérationnelle de la conscience N°1 mais cette valeur n'est pas validée puisque le modèle structurel PHYSIQUE sous-jacent n'a rien à voir avec ce qu'on retrouve chez les êtres doués de conscience de manière avéré (nous). Et même pire... il n'y a pas d'explication physique qui permettrait de même inventer un nouveau modèle "pour l"ordinateur", "pour la chaise" etc.
Ce qui est plus évident c'est qu'un ordinateur imite un résultat (pas la manière de fonctionner en interne) tout simplement et c'est normal puisqu'il a été conçu pour ça.

le modèle structurel PHYSIQUE sous-jacent de "nous" c'est quoi ???

[ArchoZaure]

le modèle structurel PHYSIQUE sous-jacent de "nous" c'est quoi ???

Pas LE mais LES modèles de la conscience (ou comprendre LE comme faisant référence AUX modèles de manière générale comme je l'ai fait), basés sur LA structure physique (le CERVEAU).

[Liet Kynes]

En ce cas, si je reprends ta phrase, on peut se dire un ordinateur produit (et non pas imite) un résultat (pas la manière de fonctionner en interne) semblable à ce qui nous semble être des preuves avérées de la conscience..
Si la conscience peut-être considérée comme un ensemble de phénomènes constatables, la question est de savoir si il peut exister des phénomènes impossibles à générer par un système non biologique ?
"Phénomènes" pouvant se réduire à la production d'informations dans un langage écris dans un premier temps (l'audio intégrant déjà des combinaisons plus complexes du fait du ton, du débit etc..)

[Deedee81]

Salut,

Tu veux dire "merci de ne pas la dégrader encore plus" ?

Archozaure tes messages sont souvent intéressants (enfin, moi je trouve) mais parfois franchement c'est "pourquoi faire simple quand on peut faire compliqué", moi non plus je ne t'avais pas compris, j'ai cru que tu parlais des atomes

basés sur LA structure physique (le CERVEAU).

C'est quand même plus clair de dire "basé sur la neurologie" (deux modèles sérieux)

Il serait aussi utile de détailler l'impact sur le raisonnement ce qui découle de chacun de ces modèles (le modèle de l'espace de travail et le modèle des corrélats neuronaux).
Parce que là c'est quand même très très flou (bon, je comprend que c'est pas facile et ça prend du temps, déjà pour argumenter il y a intérêt à bien potasser ces modèles qui ne sont pas, eux, pas simples justement. Mais c'est pas une raison pour le remplacer par des expressions alambiquées comme "la structure physique sous-jacente"). Moi même je ne le fait pas car je ne les maîtrise pas assez (*) (ni le troisième grand modèle qui lui n'est pas basé sur la neurologie, son nom m'échappe) et je n'ai pas le temps. Et donc faut pas se jeter sur les nonos quand on n'a pas l'appétit qu'il faut. On est sensé avoir l'esprit scientifique, pas être des chiens (même si j'adore les chiens et surtout mon bouboule dog )

(*) par exemple il me semble que la neurologie (et les travaux fort avancé à l'hopital universitaire de Liège, cocorico ) confirment mieux le modèle des corrélats (et d'ailleurs encore un excellent article sur l'attention et la conscience que j'ai lu ce week-end, même s'ils ne parlent pas de ces modèles) mais je n'en suis même pas sûr !!!!

EDIT Liet, on s'est croisé. Le troisième modèle dont le nom m'échappe est avant tout un modèle mathématique (modèle de l'information intégrée peut-être, à confirmer) et c'est lui qu'on utilise pour définir une notion de conscience pour ce qui est non neurologique comme une machine, une IA ou même un E.T. Je ne sais pas trop ce que ça vaut mais c'est de coté là qu'il faut creuser et référence si on veut quitter la discussion de comptoir

[ArchoZaure]

Il serait aussi utile de détailler l'impact sur le raisonnement ce qui découle de chacun de ces modèles (le modèle de l'espace de travail et le modèle des corrélats neuronaux).
Parce que là c'est quand même très très flou (bon, je comprend que c'est pas facile et ça prend du temps, déjà pour argumenter il y a intérêt à bien potasser ces modèles qui ne sont pas, eux, pas simples justement. Mais c'est pas une raison pour le remplacer par des expressions alambiquées comme "la structure physique sous-jacente"). Moi même je ne le fait pas car je ne les maîtrise pas assez (*) (ni le troisième grand modèle qui lui n'est pas basé sur la neurologie, son nom m'échappe) et je n'ai pas le temps. Et donc faut pas se jeter sur les nonos quand on n'a pas l'appétit qu'il faut. On est sensé avoir l'esprit scientifique, pas être des chiens (même si j'adore les chiens et surtout mon bouboule dog )

Oui mais il n'y en a pas besoin pour comprendre. Ce qui fait qu'on peut d'or et déjà affirmer qu'un ordinateur et même un ordinateur faisant fonctionner un programme ne peut pas être conscient.
Je me limite à ça puisque c'est la question posée.

En ce cas, si je reprends ta phrase, on peut se dire un ordinateur produit (et non pas imite) un résultat (pas la manière de fonctionner en interne) semblable à ce qui nous semble être des preuves avérées de la conscience..

Oui c'est vrai. Si on veut couper le cheveu en quatre le mot est mal choisi. Produire un résultat semblable c'est effectivement ce qu'on appelle imiter. Ici le mot que j'aurai du employer c'est "mimer" (d'où le terme par exemple de "biomimétisme").

Si la conscience peut-être considérée comme un ensemble de phénomènes constatables, la question est de savoir si il peut exister des phénomènes impossibles à générer par un système non biologique ?
"Phénomènes" pouvant se réduire à la production d'informations dans un langage écris dans un premier temps (l'audio intégrant déjà des combinaisons plus complexes du fait du ton, du débit etc..)

La conscience doit être constatée et être issue d'un modèle physique analogue à ceux connus dans le cas où on est sûr qu'on a affaire à de la conscience.
Si la deuxième condition n'est pas réalisée, eh bien... c'est pas rien mais c'est pas ce qu'on appelle de la conscience.
Par exemple vous avez des chercheurs qui produisent des structures réelles (physiquement parlant) qui imitent (là le mot est bien employé) les réseaux de neurone biologiques (ce que ne font pas les ordinateurs qui font tourner par exemple ChatGPT).
Là, si on obtenait des résultats comme ceux de ChatGPT on pourrait commencer à se demander si le réseau de neurone artificiel fait état de la conscience.

Concernant les neurones formels :

Un neurone formel, parfois appelé neurone de McCulloch-Pitts¹, est une représentation mathématique et informatique d'un neurone biologique.

https://fr.wikipedia.org/wiki/Neurone_formel

Et concernant ce qu'on peut entendre par neurone réel (à distinguer du neurone dit formel employé par les IA informatiques) un neurone biomimétique donc :

https://www.iledefrance-gif.cnrs.fr/...?itok=HIMiY6WR
Mis au point par Julie Grollier et son équipe, ce cylindre de métal, mille fois plus fin qu’un cheveu, est le premier neurone artificiel « en dur » à avoir fonctionné au sein d'une application. Il est ici vu en microscopie électronique à balayage. Spintronics Research Center Lab, AIST Tsukuba, Japon / CNRS le Journal

https://www.iledefrance-gif.cnrs.fr/fr/cnrsinfo/des-reseaux-de-neurones-artificiels-dynamiques-pour-concurrencer-les-meilleurs-algorithmes

[ArchoZaure]

Pour être encore plus clair.

Vous pouvez produire par biomimétisme un insecte mécanique volant comme l'insecte naturel.
Cette machine vole réellement.

Vous pouvez également produire cette même machine en 3D sur un écran informatique.
Ce programme ne vole pas réellement.

Vous ne pouvez pas mesurer le déplacement de l'air autour de votre image etc. C'est une imitation.

[pm42]

Ce qui fait qu'on peut d'or et déjà affirmer qu'un ordinateur et même un ordinateur faisant fonctionner un programme ne peut pas être conscient.

Ah bon ? sans définition formelle largement acceptée de la conscience ? Sans même savoir si le concept est pertinent ?

J'ai lu ce que tu as écrit plus haut et c'est un raisonnement cyclique : en gros, vu qu'on a un seul cas connu de conscience, on construit des modèles de cette unique instance.
Et donc on ne peut pas avoir la même chose ailleurs.

Cela ignore au moins 2 choses :
- qu'il est parfaitement envisageable à terme de simuler de façon très proche un cerveau humain. Dans ce cas, on pourrait même s'en servir pour valider les théories de la conscience
- il est également possible en science de constater que 2 phénomènes différents relèvent de la même explication. Du genre la pomme qui tombe et la Lune qui tourne. Donc on pourrait parfaitement également constater qu'on a des machines qui sont indiscernables de l'homme pour ce qui est des manifestations de la conscience et construire une théorie sur ce qui la fait apparaître et son mode de fonctionnement qui prenne en compte les 2 cas.

[Deedee81]

Petite provoc :

j'affirme que la conscience de ArchoZaure (mais pas que lui) n'est qu'une simulation (à peine différente de ce que font des neurones formels) réalisée par des impulsions électriques dans le réseau de neurone.
Et donc la conscience n'existe pas.

Prouvez moi le contraire sans juste dire "il y a des théories de la conscience"

Je plaisante mais je suis sûr que vous comprenez où je veux en venir

[ArchoZaure]

J'ai lu ce que tu as écrit plus haut et c'est un raisonnement cyclique : en gros, vu qu'on a un seul cas connu de conscience, on construit des modèles de cette unique instance.
Et donc on ne peut pas avoir la même chose ailleurs.

Vous voudriez faire comment ? En science c'est toujours un raisonnement cyclique.
On observe, on catégorise, on modélise, on nomme
Nommer un phénomène par exemple "conscience" implique d'avoir associé ce mot au phénomène.
Et lorsqu'on observe le phénomène qui correspond au modèle on le nomme par exemple conscience.
C'est "circulaire" ou vu autrement, bidirectionnel.

Il ne suffit pas que ça ressemble ou qu'on donne le nom au jugé pour que ça soit en rapport avec le même phénomène.

Donc je répète : Si vous aviez un autre truc qui donne l'impression qu'on a quelque-chose ressemblant à la conscience humaine et que le modèle sous-jacent n'a rien à voir alors ça portera un autre nom pour commencer.
Ensuite libre à vous de réunir les deux modèles ... si possible.
Et en ce qui concerne la relation entre le modèle PHYSIQUE (j'insiste on n'est pas en métaphysique) du chatbot et du cerveau humain, libre à vous de le présenter.
Et vous devez commencer par définir "pour de vrai", physiquement, la composition de votre ordinateur. Car c'est de lui dont on parle... de son fonctionnement interne, pas juste du résultat.
Alors quoi ? Il faut de la mémoire ? Laquelle ? De masse ? Volatile ? C'est des processeurs à combien de cœurs. Quels sont les pipelines ? Largeur du bus ? C'est en multitâche ? Quel OS ? etc etc etc.
Maintenant faites le rapprochement avec par exemple (on a fini par y venir... bien vu Deedee81 ) le modèle physique de la conscience suivant :

Les scientifiques ont ainsi identifié deux grands modèles de communication entre les régions du cerveau. Chez des patients qui ne semblaient pas conscients, il y avait des connexions simples, par exemple entre deux paires de régions qui avaient des liens physiques directs entre elles.
En revanche, chez les personnes qui avaient un certain niveau de conscience, les interactions entre régions étaient plus dynamiques et complexes. Elles impliquaient « 42 régions du cerveau appartenant à six réseaux cérébraux jouant un rôle important dans la cognition ». Ce réseau complexe d'interactions disparaissait quand les patients étaient plongés dans une anesthésie profonde, ce qui montre qu'il est caractéristique d'une forme de conscience.

https://www.futura-sciences.com/sant...science-65121/

Cela ignore au moins 2 choses :
- qu'il est parfaitement envisageable à terme de simuler de façon très proche un cerveau humain. Dans ce cas, on pourrait même s'en servir pour valider les théories de la conscience

Non. Ça resterait une simulation virtuelle d'un phénomène réel et donc pas applicable en science.
En sciences la conscience n'est pas un terme métaphysique. Un objet scientifique doit provenir du réel.
Par exemple tout le monde connait l'existence de la racine carrée. Mas vous pourrez toujours la chercher dans la nature...elle n'existe pas.

- il est également possible en science de constater que 2 phénomènes différents relèvent de la même explication. Du genre la pomme qui tombe et la Lune qui tourne. Donc on pourrait parfaitement également constater qu'on a des machines qui sont indiscernables de l'homme pour ce qui est des manifestations de la conscience et construire une théorie sur ce qui la fait apparaître et son mode de fonctionnement qui prenne en compte les 2 cas.

C'est ce que je viens de dire avec le projet GrenaDyn.
Mais si vous faites une simulation sur un ordinateur vous sortez du champ de la phénoménologie.

[pm42]

Vous voudriez faire comment ? En science c'est toujours un raisonnement cyclique.

Ah bon ? Vous êtes sur ?

On observe, on catégorise, on modélise, on nomme

Il y a un cycle là ?

Nommer un phénomène par exemple "conscience" implique d'avoir associé ce mot au phénomène.

Sauf que dans le cas présent, on n'est même pas sur de l'existence du phénomène et de sa définition.
Pour le reste, votre phrase est une tautologie : nommer X comme Y implique d'avoir associé Y à X.

Et lorsqu'on observe le phénomène qui correspond au modèle on le nomme par exemple conscience.

Confusion entre "nommer" et "identifier".

C'est "circulaire" ou vu autrement, bidirectionnel.

Confusion entre circulaire et bidirectionnel qui n'ont pourtant pas grand chose à voir.

Ça resterait une simulation virtuelle d'un phénomène réel et donc pas applicable en science.

Il me semble que vous n'avez pas la moindre idée ce qu'est la science contemporaine et même plus ancienne.
On peut même dire que la science, c'est de la modélisation et donc uniquement de la simulation virtuelle de phénomènes réels. Et en plus, on simplifie toujours et souvent massivement le dit "réel" pour pouvoir modéliser et ça marche remarquablement bien.
Qu'on le fasse avec un ordinateur ou un papier/crayon ne change rien au passage.

Le reste est à l'avenant

[ArchoZaure]

Petite provoc :

j'affirme que la conscience de ArchoZaure (mais pas que lui) n'est qu'une simulation (à peine différente de ce que font des neurones formels) réalisée par des impulsions électriques dans le réseau de neurone.
Et donc la conscience n'existe pas.

Prouvez moi le contraire sans juste dire "il y a des théories de la conscience"

Je plaisante mais je suis sûr que vous comprenez où je veux en venir

On rigole on rigole mais c'est pourtant un sujet (intellectuel) bien sérieux.
Qu'est-ce qui me permet d'affirmer que la conscience que j'expérimente pour moi même existe aussi chez les autres êtres humains ?
Rien. Si ce n'est une forme de rasoir d'Ockham.
Pareil pour la douleur. Peut-être que la douleur que je peux expérimenter pour moi même n'existe pas chez les autres êtres vivants ?
Les autres ne font que donner l'impression d'avoir mal mais ne la ressentent pas pour de vrai ?
Puisqu'on peut ressentir de la douleur, le pauvre ordinateur souffre-t-il ?
Faisons simple et évitons la camisole.

[Deedee81]

Rien.

Merci,

donc discussion sans objet (ce que confirment d'ailleurs les derniers échanges où on commencent à raconter du n'importe quoi et à s'irriter).

Je ferme