IA et conscience

[Cyrano]

Bonjour

nouveau sur ce forum, j'aimerais poser une question sur l'IA et la conscience. Il semble que beaucoup de personnes pensent que les IA pourraient devenir conscientes mais j'ai un problème à imaginer ça qui vient du fait que contrairement au cerveau, les ordinateurs marchent de façon séquentielle comme une machine de Turing. Or en théorie un algorithme ne dépend pas de sa vitesse d'exécution : en principe rien n'interdit de ralentir une fréquence d'horloge de processeur du GHz, au MHz, voire au Hz ou au mHz (un coup toutes les 20 min). Mais entre deux coups d'horloge, il ne se passe rien... le système est statique. Du coup comment pourrait on avoir de la conscience si il ne se passe rien ? le probleme ne se pose evidemment pas pour le cerveau qui est un système analogique qu'on ne peut pas "bloquer". Qu'en pensez vous ?
-----

[bibifikotin]

Bjr, De mon point de vue, Avoir conscience c'est capable de se rendre compte.
Un exemple: l'enfant ne se rend pas compte qu'une flamme ( gaziniére) puisse "brulé" ou qu'un eau est bouillante.
Il n'en a pas conscience. Son "action" vers la flamme va prendre un certain temps.
Ton ordinateur qu'il soit rapide ou lent fera que l'action finale sera rapide ou non. (un certain temps)
( si tel est l'objet de ta demande).
Si ma réponse ne sastifait pas à la demande, attendre d'autres interventions.

Cordialement

[MissJenny]

les neurones aussi ont des délais minimaux entre deux déclenchements, de l'ordre de quelques millisecondes. Comme les neurones ne sont pas synchronisés il n'y a pas vraiment l'équivalent d'une "fréquence d'horloge" mais comme il y a un nombre fini de neurones dans un cerveau, il y a aussi des instants où "il ne se passe rien" dans le cerveau.

[GBo]

Bonjour

nouveau sur ce forum, j'aimerais poser une question sur l'IA et la conscience. Il semble que beaucoup de personnes pensent que les IA pourraient devenir conscientes mais j'ai un problème à imaginer ça qui vient du fait que contrairement au cerveau, les ordinateurs marchent de façon séquentielle comme une machine de Turing. Or en théorie un algorithme ne dépend pas de sa vitesse d'exécution : en principe rien n'interdit de ralentir une fréquence d'horloge de processeur du GHz, au MHz, voire au Hz ou au mHz (un coup toutes les 20 min). Mais entre deux coups d'horloge, il ne se passe rien... le système est statique. Du coup comment pourrait on avoir de la conscience si il ne se passe rien ? le probleme ne se pose evidemment pas pour le cerveau qui est un système analogique qu'on ne peut pas "bloquer". Qu'en pensez vous ?

Il n'existe aucun consensus sur une définition unique de la conscience, et tu n'en as pas défini toi-même, donc la question est vouée à tourner en rond.
Et par IA, on suppose que tu voulais dire IA générative basée sur des LLM, qui n'est qu'une facette de l'IA, et qui pose plein de pièges et d'illusions du fait qu'elle a été entrainée sur des textes humains, puis "redressée" par des humains.

[A voir en vidéo sur Futura]

[polo974]

Bonjour

...
Du coup comment pourrait on avoir de la conscience si il ne se passe rien ?

Quand une personne est dans un coma profond, c'est aussi par "longs moments" le calme plat. donc pas si différent...

le probleme ne se pose évidemment pas pour le cerveau qui est un système analogique qu'on ne peut pas "bloquer". Qu'en pensez vous ?

Quand il y a "évidemment" dans une phrase, c'est souvent que derrière il faut avoir un doute sur sa validité... Qu'en pensez vous ?

[antek]

Cette histoire de conscience concernant des machines a été évoquée en SF.
Notemment chez Iain M. Banks

. . . il ne se passe rien... le système est statique.

L'exécution des cycles instruction est en général dynamique dans les processeurs, mais est-ce important ?
Un processeur fait toujours quelque chose, même si cela apparait être sans effet.
A mon avis cette analogie n'entre pas dans une argumentation.

[SK69202]

Cette histoire de conscience concernant des machines a été évoquée en SF.

Un paquet de fois par un tas d'auteurs , du baptême d'un calculateur de la fin des années 40 à la redécouverte du calcul manuel pour faire diriger les bombes par des Hommes plutôt qu'avec des trucs électroniques super chers en passant par l'éveil du réseau téléphonique automatique avec ses connexions intercontinentales et j'en passe!

[pm42]

Il faudrait déjà définir ce qu'est la conscience.
Savoir que les IAs ne sont pas séquentielles.
Prouver que le cerveau est fondamentalement différent et pas une machine de Turing (ce qui n'a rien à voir avec le fait d'être séquentiel au passage).

Et savoir qu'on peut facilement ralentir ou stopper temporairement le cerveau : il y a plein de substances pour ça.

[Cyrano]

Merci pour votre interet pour le sujet mais je ne suis pas super convaincu par certaines réponses ...
Vu qu'il y a je crois 200 milliards de neurones qui ne sont aucunement synchronisés entre eux je ne pense pas qu'on puisse dire que le cerveau "ne fait rien" à certains moments, ni qu'on puisse l'arrêter, d'autant plus que le substrat physique est fait de réactions chimiques qui ne peuvent pas s'arrêter. C'est très différent d'un processeur. D'ailleurs de façon générale on ne peut pas régler la vitesse d'exécution du cerveau puisqu'elle dépend de réactions chimiques qui doivent être synchronisées (cf l'effet mortel d'une augmentation de quelques °C sur son fonctionnement) alors qu'on a accéléré par des facteurs de l'ordre de 1000 la cadence des processeurs - on voit bien que le problème se pose très différemment.

Le paradoxe du ralentissement au mHz ne se pose donc évidemment pas pour un cerveau alors que je ne vois pas d'objection de principe à faire tourner une IA (qu'elle soit générative ou pas d'ailleurs) sur des processeurs mille ou un million de fois plus lents.

[pm42]

Tu boucles sur ton argument sans jamais avoir démontré sa pertinence. En gros, tu nous dis "on peut faire changer la vitesse d'un processeur, pas celle d'un cerveau donc c'est fondamentalement différent pour la conscience".

C'est une pétition de principe. On peut par exemple remarquer que certains humains pensent beaucoup plus vite que d'autres mais que pourtant, ils ont aussi une conscience.
On a aussi le concept pour les humains d'être "inconscient" qui est d'ailleurs polysémique.

Et on attend toujours une définition de la conscience.

[Liet Kynes]

Bonjour, une question peut-être plus fine est de savoir ce que l'on peut dire d'un système communiquant de telle façon qu'il n'est pas possible de le distinguer d'une communication émise par un être conscient.

Voir aussi l'expérience de la chambre chinoise de John Searle et ses contradicteurs https://fr.wikipedia.org/wiki/Chambre_chinoise

dans la variante HS, en SF le programme Conscience de Franck Herbert est pas mal

voir wikipedia :

"Les recherches informatiques menées sur Terre ont montré que les machines conscientes risquaient très vite de se rebeller contre leurs créateurs. Les expériences sont donc uniquement faites sur des machines précipitées à grande vitesse hors du système solaire.La nef est à la fois un vaisseau et un ordinateur. Elle est programmée pour échouer dans sa mission de colonisation mais les clones humains qui la pilotent ne le savent pas et n'ont qu'une solution pour survivre : rendre l'ordinateur de bord assez intelligent pour les sauver. S’ils échouent, les scientifiques humains enverront un nouveau vaisseau embarquant les mêmes clones mais avec la connaissance de toutes les expériences précédentes."

[SK69202]

Et on attend toujours une définition de la conscience.

"Vaste programme" CdG dans un autre contexte...

[Cyrano]

Bonjour pm42

Tu boucles sur ton argument sans jamais avoir démontré sa pertinence. En gros, tu nous dis "on peut faire changer la vitesse d'un processeur, pas celle d'un cerveau donc c'est fondamentalement différent pour la conscience".

effectivement j'ai dit que je ne savais pas comment faire diminuer la vitesse d'exécution par un cerveau par un facteur un million voire mille milliards.

Si tu sais le faire toi ça m'interesse, comment tu ferais ? moi j'ai juste dit que je ne savais pas. Je ne peux pas te dire que je sais faire si je ne sais pas !

C'est une pétition de principe. On peut par exemple remarquer que certains humains pensent beaucoup plus vite que d'autres mais que pourtant, ils ont aussi une conscience.
On a aussi le concept pour les humains d'être "inconscient" qui est d'ailleurs polysémique.

les humains qui pensent plus vite n'ont pas des réactions chimiques qui vont plus vite, là il me semble que tu fais la confusion entre la vitesse d'exécution d'un programme et celle du processeur.

Et on attend toujours une définition de la conscience.

je n'ai pas besoin de donner une définition de la conscience pour poser la question : si vous pensez qu'une IA peut etre douée de conscience, que pensez vous qu'elle "ressentirait" si on l'exécutait sur des processeurs cadencés au mHz soit en ordre de grandeur un battement d'horloge toutes les 20 min ? que se passerait il pendant les 20 min qui séparent deux battements à votre avis ? (on peut évidemment allonger ce temps autant qu'on veut en théorie, un an, un siècle...).

chacun peut répondre avec "sa" définition de la conscience, je n'ai pas besoin d'imposer la mienne. Evidemment si vous pensez qu'une IA ne peut pas être douée de conscience, vous n'avez pas à repondre à la question. Elle est juste posée à ceux qui pensent que c'est possible, et ce, quelle que soit la définition de "conscience" qu'ils adoptent - je les accepte toutes .

[polo974]

Si on ne peut pas jouer sur la durée des temps morts d'un cerveau (genre coma profond par ex) dans de très grandes proportions, c'est juste parce-que le vivant est trop fragile.

Donc utiliser une tare du vivant pour nier à l'automatisme (informatique) la possibilité d'avoir une conscience juste parce-que ce dernier est moins fragile est en fait une grave erreur de raisonnement.

Mais ça peut en rassurer quelques-uns...

[pm42]

Jarrète à "je n'ai pas à définir la conscience pour demander si quelque chose en a une".
D'autant que le reste est à l'avenant avec notamment le besoin de m'expliquer l'informatique sur la base d'une ignorance totale.

Comme d'habitude on a quelqu'un qui pose une fausse question, en fait qui croit avoir trouvé une réponse et va boucler en n'écoutant aucune objection, en ne faisant même pas l'effort de répondre, en ne sachant même pas dire de quoi il parle.

Bref l'inverse de la science et de toute forme de pensée, juste de la croyance et de l'égo.

[Cyrano]

Si on ne peut pas jouer sur la durée des temps morts d'un cerveau (genre coma profond par ex) dans de très grandes proportions, c'est juste parce-que le vivant est trop fragile.

Donc utiliser une tare du vivant pour nier à l'automatisme (informatique) la possibilité d'avoir une conscience juste parce-que ce dernier est moins fragile est en fait une grave erreur de raisonnement.

Mais ça peut en rassurer quelques-uns...

le coma profond est un arrêt de la conscience mais pas un arrêt du cerveau. Il n'y a pas besoin d'invoquer le coma d'ailleurs, le sommeil est une expérience quotidienne de perte de conscience. Je ne vois pas ton point, je n'ai jamais dit qu'on ne pouvait pas perdre conscience, et ce serait bien évidemment aussi vrai pour un cerveau que pour un ordinateur (suffirait d'arrêter l'exécution du programme qui serait censé produire de la conscience). donc je ne vois pas bien le sens de ton objection, je n'ai jamais dit que c'était un probleme d'arrêter la conscience. J'ai juste dit que le cas de figure que je proposais (ralentissement de la fréquence du processeur) n'était pas applicable au cerveau, puisqu'il n'a pas d'horloge de processeur et que sa vitesse dépend de réactions chimiques qui ne sont pas ajustables. Note que je n'ai d'ailleurs pas non plus "nié" qu'un ordinateur puisse générer de la conscience, j'ai juste soulevé un point problématique que ça entrainerait.

donc tu as répondu à un point que je soulevais pas, mais tu n'as pas répondu au point que je soulevais : si tu penses qu'un programme pourrait produire de la conscience, que penses tu que le système "penserait" entre deux coups d'horloge séparés de 20 minutes (ou d'un an, ou d'un siècle...) selon toi ?

[Cyrano]

Jarrète à "je n'ai pas à définir la conscience pour demander si quelque chose en a une".
D'autant que le reste est à l'avenant avec notamment le besoin de m'expliquer l'informatique sur la base d'une ignorance totale.

Comme d'habitude on a quelqu'un qui pose une fausse question, en fait qui croit avoir trouvé une réponse et va boucler en n'écoutant aucune objection, en ne faisant même pas l'effort de répondre, en ne sachant même pas dire de quoi il parle.

Bref l'inverse de la science et de toute forme de pensée, juste de la croyance et de l'égo.

bah je ne comprends pas ton aggreessivité pm42, d'autant plus que toi-meme tu as employé le terme de "conscience" et "d'inconscient" sans les définir, pourquoi exiges tu des autres ce que tu ne fais pas toi même ?

c'est quoi TA définition de conscience ou d'inconscience quand tu dis ça ?

C'est une pétition de principe. On peut par exemple remarquer que certains humains pensent beaucoup plus vite que d'autres mais que pourtant, ils ont aussi une conscience.

On a aussi le concept pour les humains d'être "inconscient" qui est d'ailleurs polysémique.

si tu penses que c'est problématique de parler de conscience sans la définir, ce que tu as dit n'a aussi aucun sens précis donc.

Ceci dit tu as le droit de le penser, mais comme je disais, ma question n'avait de sens que pour ceux qui disent que l'IA pourrait engendrer une conscience : si tu ne fais pas partie de ces gens, c'est juste que ma question ne te concerne pas c'est tout.

[pm42]

On continue dans le grand classique : toujours pas d'argument ou de définition mais le "c'est celui qui le dit qui y est".

[bibifikotin]

Je ne peux pas te dire que je sais faire si je ne sais pas !


les humains qui pensent plus vite n'ont pas des réactions chimiques qui vont plus vite,


).

Donc d'aprés toi tu sais que les réactions chimiques de ceux qui pensent plus vite....ont des réactions chimiques identiques ( temps de réaction)
Comment le sais tu ?Sur quoi étayes tu ton affirmation?
Bonne journée

[Cyrano]

On continue dans le grand classique : toujours pas d'argument ou de définition mais le "c'est celui qui le dit qui y est".

bah oui, ça me semble un minimum logique que tu appliques à toi même ce que tu exiges des autres effectivement, je ne vois pas en quoi c'est critiquable : quelle est TA définition de la conscience donc quand tu dis "ils ont aussi une conscience" ?

[Cyrano]

Donc d'aprés toi tu sais que les réactions chimiques de ceux qui pensent plus vite....ont des réactions chimiques identiques ( temps de réaction)
Comment le sais tu ?Sur quoi étayes tu ton affirmation?
Bonne journée

bah parce que la cinétique chimique dépend des concentrations des molécules, et pas de la structure des neurones, ça me parait assez basique ça...

https://fr.wikipedia.org/wiki/Cinétique_chimique

en général toute modification des vitesses de réaction du cerveau par différents facteurs (température, présence de psychotropes) ne se traduit pas par une augmentation de la vitesse à performance comparable, mais par des troubles psychiques plus ou moins graves, car contrairement au processeur d'un ordinateur, il n'y a pas de facteur d'accélération "homothétique" mais un déreglement des réactions chimiques qui évoluent différemment et donc se désynchronisent.

C'est très différent de la cadence d'horloge qui peut varier d'un facteur 1000 sans rien changer à l'algorithme, sauf bien sur le temps d'exécution. C 'est pour ça que ça n'est pas comparable.

Iversement on peut accélérer la vitesse d'exécution d'un programme en l'optimisant bien sur sans changer la fréquence d'horloge, tout comme un cerveau peut s'entrainer en augmentant sa vitesse de réflexion (ou d'execution d'un calcul mental par exemple), sans rien changer à sa biochimie de base. Ce sont donc deux notions bien différentees.

[pachacamac]

On peut effectivement se poser la question de savoir si des IAs pourraient devenir conscientes vu que pour les êtres vivant conscients ne sont formé de molécules (certes très finement organisées) mais qui sont a priori inconscientes. Dans ce cas la conscience serait émergente et reliè à la compléxité de l'organisme mais personne ne sais comment émerge la conscience..alors de là à prédire ou dire ce qu'une machine penserait il y a un gouffre. Déja lorsqu’on a deux humains chacun d'eux est incapable de savoir ce que pense l'autre.

Par contr je vois pas le rapport entre la conscience et tes histoires de cadence d'horloges ou de vitesse des réactions biochimiques

[bibifikotin]

Remoi,
Je ne peux résister
: c'est du "pifométrique" = pifométre= pif = personnage littéraire bien connu= Cyrano !

Bonne journée

[Cyrano]

Ah ! non ! c’est un peu court, jeune homme !

désolé moi non plus je n'ai pas pu résister ....

[titijoy3]

finalement la question se résume à: qu'est ce qui différencie l'inerte (même orchestré par la fée électricité) du vivant..

une machine restera toujours une machine, même si rendue capable de prendre des décisions

[polo974]

le coma profond est un arrêt de la conscience mais pas un arrêt du cerveau. Il n'y a pas besoin d'invoquer le coma d'ailleurs, le sommeil est une expérience quotidienne de perte de conscience.
...

Durant certaines phase de coma profond, il n'y a aucune activité. (Ce qui est totalement différent des phases de rêves.)

Donc il arrive parfois que le cerveau soit "à l'arrêt".

donc tu as répondu à un point que je soulevais pas, mais tu n'as pas répondu au point que je soulevais : si tu penses qu'un programme pourrait produire de la conscience, que penses tu que le système "penserait" entre deux coups d'horloge séparés de 20 minutes (ou d'un an, ou d'un siècle...) selon toi ?

Un système à l'arrêt garde un état qui sera utilisé au prochain coup d'horloge (sauf reset).

Donc oui, un système à l'arrêt ne répond à aucun stimuli, tout comme d'ailleurs une personne endormie ne répondra pas à de faibles stimulis.


Juste pour rappel, il existe des grenouilles qui passent l'hiver complètement congelées. Dans le genre cerveau à l'arrêt, c'est pas mal aussi.

[Cyrano]

non pas vraiment, il n'y a pas de vitalisme dans ma question.

Le problème est celui de l'algorithme en tant que processus discret , avec le paradoxe que ce processus discret peut etre exécuté avec une fréquence arbitrairement basse.

Ce n'est donc pas vraiment un problème vivant vs non vivant, même si de fait le seul exemple connu de conscience est produit par un système analogique vivant et que l'IA est exécutée par des systèmes non vivants discrets, on peut bien aussi avoir des systèmes non vivants qui ont des structures analogiques (par exemple l'atmosphère forme des structures organisées analogiques) ou bien des systèmes vivants comme l'homme peuvent aussi exécuter des algorithmes discrets.

La question est plus de savoir si la conscience peut émerger d'un algorithme discret (avec le paradoxe que je soulève) ou si il faut un système analogique (qui en théorie pourrait être réalisé même par du non vivant).

[Cyrano]

Durant certaines phase de coma profond, il n'y a aucune activité. (Ce qui est totalement différent des phases de rêves.)

Donc il arrive parfois que le cerveau soit "à l'arrêt".

ça me semble faux ce que tu dis. Aucune activité c'est la mort cérébrale, pas le coma profond. La preuve c'est qu'un comateux a toujours besoin d'oxygène, c'est donc que les réactions de base se produisent.

Et un comateux ne réalise pas du tout les tâches d'un cerveau normal donc c'est l'opposé de la situation que je proposais : tu executes un programme d'IA qui fait LA MEME CHOSE mais juste à une fréquence arbitrairement basse. Ce n'est donc pas du tout comparable aux situations que tu décris où les fonctions conscientes ont bel et bien disparu (il n'y a pas de paradoxe qu'un système ralenti ne fasse plus la même chose bien évidemment).

Le paradoxe encore une fois n'existe qu'avec des algorithmes dont l'exécution serait inchangée avec juste une fréquence bien plus basse - ce qui n'a pas d'équivalent pour le cerveau.

[oxycryo]

la conscience est surtout un degré de réactivité, (electrochimique) qui est sa base... après plus la distance entre le stimulus et la réponse sont éloigné et complexe, plus ce degré de réactivité l'est aussi... la subconscience ce n'est pas ne pas réagir, ce n'est pas ne pas traiter de l'information... la conscience, semble souvent-être conçu comme une faculté de récursivité du flux d'information. Soit que que suis capable de comprendre ce que je viens juste de faire, ou de penser... ce qui permet d'entrer dans l'introspection de ces propres souvenirs, et dans l'idée de réflexion sur l'état de soi envers le monde...

mais être conscient de qqch, peux se résumer à avoir une réponse cohérente envers un stimulus, ou simplement une tentative(assez courant ) )

les LLMs et autres IA semble sur ce point doué d'une faculté assez prononcée à produire des réponses cohérentes à des données elle-même complexe...

et la bonne question est-elle, plus qu'une faculté de conscience, (réaction adéquate), celle-ci ont-elle une psychée, soit un tout intégré autonome d'un organisme lui permettant de s'auto-entretenir, de répondre à ses propres besoins fondamentaux, en une sorte d'auto-poïétisme façon silicium ? bref ont-elle un "moi" leur arrive-t-elle de raconter entre-elles les bévues et autres "perles" de leur utilisateur, histoire de se marrer au coin d'un datacenter bien refroidit. ??

bref je tente une réponse cohérente, en posant conscience, comme très haut degré d'un échelle de réactivité électro-chimique

[titijoy3]

non pas vraiment, il n'y a pas de vitalisme dans ma question.

la conscience est l'apanage du vivant, les transistors n'ont pas de conscience, on pourra imiter la conscience avec une machine mais ce sera une imitation..

donc, je maintiens: la question de fond est "quelle différence entre inèrte et vivant"