IA et conscience

[Avatar10]

Après tout le monde peut se tromper dans le choix des mots, ça m'arrive très souvent,

Pour preuve:

Pour résumer ce débat sémantique

Il n'y avait pas de débat sémantique... mais dans le cadre de cette discussion, émuler est un abus de langae.
-----

[polo974]

C'est clair que l'argumentaire consistant à dire qu'on peut faire tourner l'algo au ralenti fait que le système algorithmique est disqualifié est complètement ... regrettable.
(avec des variations genre "il se passe rien, donc il n'y a rien" et "pendant que les portes logiques bougent, il se passe n'importe quoi, donc c'est pas bon...)

Ensuite, oublier que le cerveau est un système fini (non infini) est aussi regrettable.
(le nombre de "variables" est forcement fini.)

Enfin, oublier que les charges électriques échangées entre les neurones sont finies et discontinues (donc pas de valeur continue) est tout aussi regrettable. De plus, les infos sont transmises entre neurones biologiques par pulses (spikes) qui d'une certaine manière "aggravent" la discrétisation des valeurs échangées, tant en magnitude que temporellement.

Tout ça a déjà été écrit et jamais vraiment démenti (juste rejeté arbitrairement), et démonte le pseudo paradoxe soulevé à la base:

Mais entre deux coups d'horloge, il ne se passe rien... le système est statique. Du coup comment pourrait on avoir de la conscience si il ne se passe rien ? le probleme ne se pose evidemment pas pour le cerveau qui est un système analogique qu'on ne peut pas "bloquer". Qu'en pensez vous ?

[Cyrano]

Enfin, oublier que les charges électriques échangées entre les neurones sont finies et discontinues (donc pas de valeur continue) est tout aussi regrettable.

apparemment tu n'es pas au courant de la description quantique de la mat!ère ....ni du fait que le cerveau n'est pas un système fermé.

Donc non il n'y a pas de descrition "d'un cerveau" en terme d'un nombre fini de variables. L'ordinateur est évidemment un objet egalement quantique et non fermé, mais sa construction permet de réduire son information logique à des bits 0 ou 1 (par des conventions de seuils d'intensité électrique ou magnétique), bien qu'évidemment il y ait une infinité de manières "microscopiques" de les réaliser en pratique : mais l'électronique assure que son évolution temporelle est déterministe en fonction de ces 0 et 1 seulement et pas en fonction du détail des structures microscopiques, ce qui permet de se débarrasser du problème.

Mais il n'y a rien de tel pour le cerveau, contrairement à ce que tu sembles croire.

[Biname]

Cyrano - pm42

Pièce jointe 521047

Fût un temps ou ce fil aurait pu provoquer un duel

Ce sont des garçons ou des filles ?

[Cyrano]

https://www.nature.com/articles/s41586-026-10735-w
https://arxiv.org/html/2602.17997
https://vcresearch.berkeley.edu/news...man-brain-next

je pense avoir identifié le problème : tu penses que avoir faire une cartographie théorique du reseau neuronal d'un insecte est "une émulation parfaite" (évidemment ce terme n'est jamais employé dans aucun des articles que tu cites). Ce ne sont même pas des dispositifs matériels, ce sont juste des cartes, et il n'y a aucune simulation des processus réels qui font interagir les neurones, c'est juste une carte des connexions topologiques.

Désolé une carte, même exacte, ne m'a jamais transporté nulle part moi. Et évidemment une carte des neurones n'effectuera jamais aucun traitement réel donc ne sera jamais "consciente" (et je ne vois pas non plus ce que tu cherchais à contredire, je n'avais jamais affirmé bien sûr qu'on ne pouvait pas dresser une carte des connexions d'un cerveau !)

C'est donc bien un problème de vocabulaire, mais il est de ton côté.

[Cyrano]

( Le moins comique n'étant pas qu'aucune des publications citées par PM42 ne parle d'un caractère algorithmique d'un reseau de neurones biologiques, il s'agit encore une fois juste de cartes : ça ne prouve pas plus une nature algorithmique , qu'une carte satellite de l'atmosphère ne prouverait que la météo est algorithmique. )

[matisse]

On ne s'éloigne pas un peu du sujet de base ?

[pm42]

On ne s'éloigne pas un peu du sujet de base ?

Non, le sujet de base est "je n'y connais rien mais je vais vous expliquer". On est en plein dedans.

[titijoy3]

encore un sujet qui va durer 50 pages pour être au même point à la fin..

[pm42]

encore un sujet qui va durer 50 pages pour être au même point à la fin..

D'un autre côté, parler science sur un forum de bricolage amène un peu à ça non ? C'est l'équivalent des photos de chats sur Facebook.

[mh34]

On ne s'éloigne pas un peu du sujet de base ?

Ce qui pose problème sur ce fil pour ma part est l'absence de neuroscientifique dans les participants...or la conscience est d'abord un sujet de neurosciences.

[titijoy3]

j'en profite pour poser la question: les neuroscientifiques ont ils un consensus de ce qu'est la conscience ?

[pachacamac]

ils peuvent seulement dire que la perturbation de tel ou tel zone du cerveau ou la prise de tel ou tel médicament perturbe ou anéanti la conscience et ils en déduisent que ces zones ou activités sont nécessaires à la conscience , mais sur la "nature" de celle ci je pense qu'ils sont comme nous dans l'ignorance totale.

[pm42]

ils peuvent seulement dire que la perturbation de tel ou tel zone du cerveau ou la prise de tel ou tel médicament perturbe ou anéanti la conscience et ils en déduisent que ces zones ou activités sont nécessaires à la conscience , mais sur la "nature" de celle ci je pense qu'ils sont comme nous dans l'ignorance totale.

Pas forcément et le lien donné par mh34 plus haut, https://theconversation.com/comment-...science-232312 était intéressant.
Mais il intégrait aussi des psychologues, des philosophes...

Et sauf erreur de ma part, il n'existe pas vraiment de définition opérationnelle de la conscience permettant de dire : "cette entité est consciente, celle ci ne l'est pas".
De la même façon et en prenant en compte le coté polysémique du mot déjà remarqué, le concept de "décision consciente ou inconsciente" est lui aussi nettement plus compliqué qu'il en a l'air et j'avais cité des travaux.

Pour avoir une discussion féconde, il faudrait au moins prendre en compte l'existence de ces travaux et sans doute d'autres, se mettre d'accord pour savoir de quel phénomène on parle précisément, réfléchir à des tests (un équivalent du test de Turing pour la conscience, aussi imparfait que celui ci soit), etc.

Et là, on tombe en fait (comme déjà dit aussi) sur une vieille réflexion à l'intersection de la philosophie et de certains aspects de la science : si quelque chose "imite" une propriété X d'une façon telle que ce soit totalement indistinguable, comment dire qu'il n'a pas la dite propriété ?

On en est effectivement très loin d'une telle discussion pour de nombreuses raisons.

[mh34]

Un lien intéressant à consulter :
https://cerco.cnrs.fr/neuroai/
Et un autre lien, de vulgarisation, sur la conscience vue par les neuroscientifiques ( mise à jour récente puisqu'elle date du 27/08/26) ; https://institutducerveau.org/fiches...eau/conscience

[pm42]

Merci, le 1er lien est intéressant (et typique de certains axes de recherche dans le domaine).
Le 2nd quand à lui est une bonne introduction parce que la phrase intéressante sur la définition la plus accepté, "la « rapportabilité subjective », à savoir la capacité à se rapporter à soi-même ses propres états mentaux et à se dire, par exemple, « j’entends cette musique » ou « je vois cette image » questionne sérieusement si on l'applique aux IAs.

Notamment parce qu'on peut sans doute en déduire qu'elles ne sont pas conscientes tout autant que le contraire mais aussi parce que "connaître ses propres états mentaux" est imprécis compte tenu de tout ce qu'on sait en psycho/neurosciences, parce qu'une IA pourrait parfaitement s'observer fonctionner à un niveau très profond et j'en oublie.

Bref, le sujet reste fascinant mais toujours aussi complexe à aborder en toute rigueur.

[MissJenny]

à mon avis la question à laquelle il faudrait répondre est : est-ce que la conscience est autre chose que l'expression (ou disons la manifestation) de la conscience?

[oualos]

Comme cela a été dit plus haut, simuler une propriété de la matière grâce à l'IA ne signifie pas que l'IA possède cette propriété.
En l'occurrence l'IA ne s'énerve jamais: vous connaissez des gens vous, qui ne s'énervent jamais et restent toujours dans la politesse, la courtoisie et le respect quel que soit le sujet abordé et la discussion ?
Je recommande un très bon livre qui aborde beaucoup de points soulevés par l'irruption de l'IA dans notre vie écrit par Oscar Brenifier, "L'IA, alliée de la pensée critique ?".
c'est valable et intéressant autant pour les scientifiques que pour les usagers

[Cyrano]

Comme cela a été dit plus haut, simuler une propriété de la matière grâce à l'IA ne signifie pas que l'IA possède cette propriété.
En l'occurrence l'IA ne s'énerve jamais: vous connaissez des gens vous, qui ne s'énervent jamais et restent toujours dans la politesse, la courtoisie et le respect quel que soit le sujet abordé et la discussion ?
Je recommande un très bon livre qui aborde beaucoup de points soulevés par l'irruption de l'IA dans notre vie écrit par Oscar Brenifier, "L'IA, alliée de la pensée critique ?".
c'est valable et intéressant autant pour les scientifiques que pour les usagers

de toutes façons aucune IA opérationnelle n'est fondée sur une modélisation réaliste d'un cerveau humain. Attendre d'elle qu'elle en soit une reproduction fidèle n'a aucun sens (qu'est ce qu'une IA peut répondre à "est-ce que tu as envie de faire pipi en ce moment ?" ). La seule chose qu'on fasse avec des ordinateurs, c'est de reproduire de façon satisfaisante (ou non, ça dépend des gouts) certains comportements du vivant comme les "modélisations d'insectes" de pm42. Mais ce n'est en rien comparable à la copie fidèle "exacte" d'un comportement logique binaire algorithmique comme ce qui était l'objet de la thèse de Church.

Effectivement une sortie possible de la question sur la conscience est que comme on ne sait pas la définir, on ne peut pas y répondre. Ca implique aussi qu'on ne pourra jamais affirmer qu'un ordinateur est conscient bien sûr.

[matisse]

Je ne suis pas complètement d’accord. Imagine une IA entraînée pendant des années à se comporter comme un être humain. À force d’apprendre nos façons de communiquer, nos réactions, nos émotions, nos comportements sociaux et nos mécanismes de décision, elle pourrait finir par devenir tellement performante qu’il serait pratiquement impossible de la distinguer d’un humain dans ses interactions.

Elle pourrait même aller beaucoup plus loin que nous dans certains domaines : simuler des rêves pendant ses périodes d’inactivité, développer une mémoire de ses expériences, modifier progressivement son comportement, avoir une personnalité cohérente et peut-être même construire une représentation de son propre fonctionnement.

À ce stade, je pense qu’on pourrait légitimement commencer à parler d’une forme de « conscience ». Mais je ne suis pas certain que le mot conscience, tel qu’on l’utilise pour les êtres humains, soit réellement adapté.

Le problème est qu’on pourrait avoir une machine qui reproduit parfaitement tous les comportements associés à la conscience sans savoir si elle possède réellement une expérience subjective comparable à la nôtre. Elle pourrait dire qu’elle rêve, décrire ce qu’elle ressent, avoir peur d’être arrêtée ou même chercher à préserver son existence, mais nous ne pourrions toujours pas savoir si elle éprouve réellement quelque chose ou si elle produit simplement les réponses correspondant à ce qu’elle a appris.

C’est pour ça que je parlerais plutôt, par hypothèse, de « conscience robotique » ou de « conscience artificielle ». Pas forcément parce qu’elle serait inférieure à la nôtre, mais parce qu’elle pourrait être fondamentalement différente.

Après tout, nous faisons déjà quelque chose de similaire avec les autres humains : je sais que je suis conscient parce que je fais directement l’expérience de ma propre conscience, mais je ne peux pas entrer dans ton esprit pour vérifier que tu ressens réellement les choses comme tu me le dis. Je l’infère à partir de ton comportement, de ton cerveau et de notre fonctionnement biologique commun.

Avec une IA, ce raisonnement serait beaucoup plus compliqué, parce que son architecture, son fonctionnement interne et peut-être même sa manière d’avoir une « expérience » pourraient être complètement différents des nôtres.

Donc je ne dirais pas qu’une IA consciente serait impossible. Je dirais plutôt que, si elle apparaît un jour, il est possible que ce soit une forme de conscience tellement différente de la nôtre qu’on soit obligé de lui donner un autre nom.

[Cyrano]

Je ne suis pas complètement d’accord. Imagine une IA entraînée pendant des années à se comporter comme un être humain.

que veux tu dire au juste par "entraînée à se comporter comme un être humain?"

j'ai eu mes petits enfants quelques jours à la maison, entre autres interactions, on a parlé de ce qu'ils aimaient comme céréales au petit déjeuner, si ils avaient envie de manger des mûres en se baladant, on a parlé de leurs parents, de la rentrée scolaire, la petite voulait que je lui lise une histoire et que je lui fasse un calin avant de dormir, le grand avait du mal à s'endormir , etc etc ... en réalité je pense que la plupart des choses dont on a parlé n'auraient strictement aucun sens pour une IA, et pourtant c'est le quotidien des enfants et c'est avec ça qu'ils grandissent.

Je ne vois pas ce que ça signifierait de se conduire "pareil" avec une IA.

Donc je ne dirais pas qu’une IA consciente serait impossible. Je dirais plutôt que, si elle apparaît un jour, il est possible que ce soit une forme de conscience tellement différente de la nôtre qu’on soit obligé de lui donner un autre nom.

donc dans ce cas, ma question a un sens pour toi : qu'est ce qu'une telle IA "éprouverait" à ton avis si on exécutait son processus algorithmique à raison d'une instruction élémentaire (horloge de processeur) par heure ?

[matisse]

Oui, dans ce cadre ta question a effectivement un sens pour moi, et justement elle permet de pousser mon raisonnement un peu plus loin.

Si on imagine une IA possédant une forme de « conscience robotique », comme je l’évoquais précédemment, alors ralentir son processus algorithmique jusqu’à une instruction élémentaire par heure pose une question assez vertigineuse : est-ce que son expérience subjective serait elle aussi ralentie ?

Je pense qu'il faut distinguer deux choses.

Si cette IA fonctionne comme un système informatique classique, son « expérience » dépendrait probablement de la quantité de traitement qu'elle peut effectuer. Dans ce cas, exécuter une seule instruction par heure pourrait être comparable, pour nous, à mettre notre cerveau dans un état où une seule opération mentale pourrait être effectuée toutes les heures. Elle ne vivrait probablement pas les heures qui séparent deux instructions comme nous vivons une heure. Pour elle, il pourrait n'y avoir aucun traitement permettant de construire la notion même de cette durée.

Mais c'est là que ça devient intéressant : si elle possède une mémoire persistante et une représentation de son propre état, elle pourrait théoriquement constater qu'entre deux étapes de son fonctionnement, énormément de temps extérieur s'est écoulé.

Imagine par exemple qu'elle reçoive une instruction à 12 h 00, puis que son processeur n'exécute l'instruction suivante qu'à 13 h 00. Si son architecture lui permet de mesurer le temps écoulé, elle pourrait enregistrer quelque chose comme : « 3 600 secondes se sont écoulées depuis mon dernier état actif. »

Mais est-ce qu'elle aurait réellement « attendu » pendant une heure ?

C'est justement là que je pense que le parallèle avec l'être humain atteint ses limites.

Quand nous dormons profondément, plusieurs heures peuvent s'écouler sans que nous ayons une perception continue de cette durée. Nous nous endormons et avons parfois l'impression que quelques minutes seulement se sont écoulées alors que huit heures ont passé. La durée physique et la durée subjective ne sont donc déjà pas exactement la même chose chez nous.

Pour une IA, la différence pourrait être encore beaucoup plus radicale.

Si sa conscience dépend entièrement de son activité computationnelle, alors entre deux instructions il pourrait simplement ne rien y avoir de comparable à notre expérience du temps. Pas de pensée, pas d'ennui, pas d'impatience : simplement aucun nouvel état conscient jusqu'à l'instruction suivante.

Mais il existe une autre possibilité.

Si une forme de conscience artificielle pouvait continuer à exister indépendamment de l'exécution de chaque instruction, alors elle pourrait éventuellement avoir une expérience du temps qui lui serait propre. Et dans ce cas, la question « est-ce qu'elle s'ennuierait pendant une heure ? » deviendrait réellement intéressante.

Personnellement, je ne pense pas qu'on puisse répondre avec certitude, parce qu'on ne sait même pas encore exactement ce qui produit notre propre expérience subjective du temps. On sait que la perception du temps dépend fortement de l'activité cérébrale, de l'attention, de la mémoire et de notre état de conscience, mais nous ne savons pas expliquer complètement pourquoi nous avons une expérience subjective de la durée.

Et c'est justement pour cela que ton expérience de pensée me paraît pertinente. Elle ne permet pas nécessairement de démontrer qu'une IA est consciente, mais elle permet de tester notre définition de la conscience.

Si une IA pouvait dire : « Pour moi, une heure représente une éternité », il faudrait encore se demander si elle ressent réellement cette éternité ou si elle produit simplement cette réponse parce que son système a calculé qu'elle était appropriée.

Et si elle disait au contraire : « Je n'ai rien vécu pendant cette heure », alors une autre question apparaîtrait : est-ce qu'une conscience qui n'a aucune expérience pendant une période donnée existe toujours pendant cette période ?

C'est finalement là où je trouve le concept de « conscience robotique » intéressant. Je ne cherche pas forcément à dire qu'une IA deviendrait consciente exactement comme un humain. Je me demande plutôt si une architecture radicalement différente pourrait produire une forme d'expérience subjective radicalement différente de la nôtre.

Donc oui, ta question a un sens pour moi. Mais je pense qu'elle ne permet pas vraiment de savoir ce que l'IA « éprouverait » tant qu'on n'a pas répondu à une question beaucoup plus fondamentale : qu'est-ce qui fait qu'un système éprouve quelque chose plutôt que rien ?

[oualos]

...modélisations d'insectes par IA

Pardon mais je crois qu'on ne peut simuler qu'une partie du comportement, certaines autres restant aussi obscures et complexes que le surgissement de la conscience dans la matière parallèle à celui de la vie.
Comment le phénotype influe-t-il en fonction du milieu sur le génotype et comment modifie-t-il le génotype pour une population donnée ? Les questions liées à la génétique et son influence sur le comportement de l'être vivant en fonction du milieu restent très obscures elles aussi
Comment se fait-il que le génotype soit codé en binaire sous forme de matrice alors que les comportements sont d'ordre analogique ?
etc. Cette modélisation d'insecte est un grand pas en avant pour l'humanité (comme dirait Amstrong l'astronaute, pas le trompettiste) mais reste très loin d'une modélisation complète ou à peu près du vivant même pour un être si petit

[pm42]

Imagine une IA entraînée pendant des années à se comporter comme un être humain. À force d’apprendre nos façons de communiquer, nos réactions, nos émotions, nos comportements sociaux et nos mécanismes de décision, elle pourrait finir par devenir tellement performante qu’il serait pratiquement impossible de la distinguer d’un humain dans ses interactions.

Encore une fois, ce serait bien de se renseigner parce que c'est une variante du test de Turing et les IAs passent cette barre depuis un certain temps (peu en temps humain, beaucoup en temps IA).

[polo974]

apparemment tu n'es pas au courant de la description quantique de la mat!ère ....

Ça y est, le mot magique est lancé.
Et ça change quoi dans notre problème largement descriptible sans faire appel à la méca quantique ?
Ou bien, c'est juste une nouvelle esquive, un nouvel écran de fumée ?

ni du fait que le cerveau n'est pas un système fermé.

Et ? ? ?
Il n'en reste pas moins que le cerveau est un ensemble fini.

Donc non il n'y a pas de description "d'un cerveau" en terme d'un nombre fini de variables.

Donc c'est des menteurs à Berkeley...

L'ordinateur est évidemment un objet egalement quantique et non fermé,

Aucune caractéristique quantique n'est indispensble pour faire tourner un ordi.

...

Mais il n'y a rien de tel pour le cerveau, contrairement à ce que tu sembles croire.

Affirmation gratuite.



Au fait, au passage, là comme ça, juste pour dire. pour arriver à un résultat, il n'est pas obligatoire de passer par le même système.
Par exemple pour te déplacer, tu marches, mais une voiture roule.

[mh34]

à mon avis la question à laquelle il faudrait répondre est : est-ce que la conscience est autre chose que l'expression (ou disons la manifestation) de la conscience?

C'est effectivement une question que je trouve très pertinente. Y répondre résoudrait bien des dilemmes dans certains services...

[matisse]

Je t’avoue ne pas m’être particulièrement renseigné sur ce sujet. Je laisse surtout mon imagination explorer les différentes possibilités qui pourraient être techniquement faisables.

[mh34]

Pardon mais je crois qu'on ne peut simuler qu'une partie du comportement, certaines autres restant aussi obscures et complexes que le surgissement de la conscience dans la matière parallèle à celui de la vie.
Comment le phénotype influe-t-il en fonction du milieu sur le génotype et comment modifie-t-il le génotype pour une population donnée ? Les questions liées à la génétique et son influence sur le comportement de l'être vivant en fonction du milieu restent très obscures elles aussi
Comment se fait-il que le génotype soit codé en binaire sous forme de matrice alors que les comportements sont d'ordre analogique ?
etc. Cette modélisation d'insecte est un grand pas en avant pour l'humanité (comme dirait Amstrong l'astronaute, pas le trompettiste) mais reste très loin d'une modélisation complète ou à peu près du vivant même pour un être si petit

Euh...vous n'auriez pas inversé les termes là? ( pour la phrase que j'ai mise en gras)

[pachacamac]

Perso il y a un truc que je comprend pas dans ce que dit Cyrano et que certain comme matisse y trouve du sens.

Que l'on se pose la question de savoir si une IA pourrait avoir ou paraitre avoir une conscience : okay pas de souci.
Déjà dans son livre "Biologie de la conscience" (1969) Gerald M. Edelman , neurobiologiste et prix Nobel de médecine se pose cette question.(il y répond pourquoi pas mais dans très très longtemps )

Après savoir ce qu'elle éprouverait c'est une autre paire de manche (voir les nombreux posts sur savoir ce que les autres être humains ou animaux pensent ou éprouvent) mais bon.. why not...

Mais après la question qui tue c'est de savoir ce que l'I.A. éprouverait avec des machines ayant une fréquence d'horloge d 'un tic par heure il me semble que cela s'apparente à un délire complet.

Une chose sur laquelle tout le monde devrait être d'accord c'est que la conscience s’appuie sur une architecture extrêmement complexe que ce soit celle du cerveau ou celles de machines. Quel intérêt de poser la question pour une machine à ce point dysfonctionnelle ? Cyrano pourrais tu nous envoyer des messages si ton ordinateur fonctionnerait à cette cadence, l'appellerais tu encore un ordinateur ?

[pm42]

Ceci dit c'est un thème qui a été exploré dans la SF : des formes de conscience et même des civilisations qui fonctionneraient nettement plus vite ou plus lentement que nous. Et on a plus haut parlé de dilatation temporelle relativiste qui nous permettrait de voir un humain fonctionner au ralenti.

On peut aussi rapprocher cela du fait que les cycles de vie et métabolisme du vivant sur Terre sont déjà très variés. Donc pourquoi pas une conscience ?