IA et conscience

[vgondr98]

par exemple les hormones, qui ont une influence sur le fonctionnement du cerveau, (qui produit l'état mental chez l'humain), n'auront aucune influence sur le support informatique de l'IA.

Je ne suis pas sûr de comprendre l'objection.

Évidemment qu'il n'y a pas de molécules chimiques dans un processeur, mais d'autres types de signaux peuvent jouer exactement le même rôle fonctionnel.

Dans le cerveau, une hormone comme l'adrénaline ou le cortisol est un signal d'information qui modifie la dynamique neuronale pour induire un état (par exemple l'agressivité ou le stress).

Sur un LLM, on retrouve un mécanisme fonctionnel similaire avec ce qu'on appelle l'activation steering (ou steering vectors) : c'est une technique d'ingénierie qui consiste à injecter un signal directement dans les couches d'activation du modèle pour modifier son comportement au fil de l'eau (par exemple le rendre grossier, paranoïaque, ou ultra-prudent).

Le vecteur chimique est propre à la biologie, le vecteur numérique est propre au silicium. Mais dans les deux cas, le rôle est identique : un signal externe vient moduler la dynamique interne du système.

https://arxiv.org/abs/2505.22637

Qu'il s'agisse d'un signal chimique (hormones chez l'humain) ou d'un biais vectoriel ajouté aux activations (steering chez l'IA), le rôle fonctionnel est le même : moduler la dynamique interne pour influencer le comportement du système.
-----

[Cyrano]

Je n'ai pas compris ta question. Elle n'a pas de sens. Tu veux dire " tu comptes la faire lire par l'IA tous les combien de temps cette horloge ?" ?

Si c'est le cas, j'ai répondu à chaque prompt envoyé. Apprend à lire, stp.

ah ben pour toi photographier une horloge quand on te pose une question c'est pareil que "avoir la conscience du temps" ?

elle penserait à quoi cette IA quand personne ne lui pose de question ? (ce qui est quand même le cas le plus général pour les humains ...)

[mh34]

Je ne suis pas sûr de comprendre l'objection.
.

Oui j'ai bien vu ( lu) ...je n'ai clairement pas réussi à me faire comprendre. Pas grave.

[oualos]

Sans vouloir vexer personne et de toute façon dans un débat on apprend toujours des choses, on pourrait aussi poser la question - tant qu'on y est !-si un assemblage disparate de membres et des parties du corps humain -y compris et surtout un cerveau!- comme Frankenstein pourrait avoir une conscience.
Tout cela avec les diverses positions scientifiques comme celle de Penrose qui défend une conscience quantique permet surtout d'orienter les recherches en neurosciences et aussi par la même occasion interroge les philosophes qui n'ont pas attendu l'IA pour disserter en obligeant à mieux redéfinir ce qu'est une conscience. Par exemple les méduses qui ne possèdent pas de cerveau mais des circuits neuronaux possèdent-elles une conscience ?
Même à cela les biologistes et naturalistes ne savent pas répondre simplement et renvoient à la maïeutique "qu'est-ce qui définit le fait qu'un organisme ou une machine -puisqu'on parle de machines- possède une conscience".
Voici ce que dit chatGPT à propos du tournesol :

Oui il se trouve vers le soleil, mais seulement pendant une certaine phase de sa croissance. 
Les jeunes tournesols présentent un phénomène appelé héliotropisme : leur capitule suit la course du soleil, d’est en ouest pendant la journée, puis revient vers l’est pendant la nuit.
Une fois mature et en floraison, le tournesol cesse généralement de suivre le soleil. Sa fleur reste alors orientée vers l’est, ce qui lui permet notamment de se réchauffer rapidement le matin et d’attirer davantage les pollinisateurs.
Donc, contrairement à l’image populaire : un tournesol adulte ne tourne pas continuellement avec le soleil.

Question à 10 balles: est-ce que le jeune tournesol possède une conscience ?

[MissJenny]

* les IA fonctionnelles ne sont en rien des "copies conformes" de cerveau humain, qu'on serait bien incapable de réaliser et qui en plus n'auraient aucun interet même si c'était possible, puisqu'elles ne feraient que reproduire au mieux un individu particulier à un moment particulier de sa vie (comme dans "le monde des Ã" )ce qui n'a aucun interêt pratique.

Je ne suis pas du tout d'accord avec ça. Au contraire j'imagine plein d'applications pour un cerveau simulé. On pourrait par exemple étudier l'effet de stress extrême, ce qu'on ne peut pas faire sur des humains pour des raisons éthiques évidentes. On pourrait, si on arrive à reproduire des maladies mentales, tester différentes thérapies cognitives, etc.

[vgondr98]

elle penserait à quoi cette IA quand personne ne lui pose de question ?

Quand personne ne lui pose de question, le processus derrière l'IA est au repos mais le fait que l'IA "pense" par intervalle d'inactivité n'invalide pas la possibilité d'une conscience artificielle (selon le fonctionnalisme).

[vgondr98]

Oui j'ai bien vu ( lu) ...je n'ai clairement pas réussi à me faire comprendre. Pas grave.

Pour ma part, ce qui me dérange le plus avec l'approche fonctionnaliste, c'est qu'elle repose sur une séparation stricte entre hardware (le processeur/le substrat) et software (les algorithmes/l'état mental) (si j'ai bien compris).
Or, cette séparation n'existe pas dans le cerveau.

[Liet Kynes]

Je ne suis pas du tout d'accord avec ça. Au contraire j'imagine plein d'applications pour un cerveau simulé. On pourrait par exemple étudier l'effet de stress extrême, ce qu'on ne peut pas faire sur des humains pour des raisons éthiques évidentes. On pourrait, si on arrive à reproduire des maladies mentales, tester différentes thérapies cognitives, etc.

En même temps d'un point de vue ethique que serait ce "cerveau" capable de ressentir un stress ou d'être atteint d'une pathologie mentale ?

[Cyrano]

Je ne suis pas du tout d'accord avec ça. Au contraire j'imagine plein d'applications pour un cerveau simulé. On pourrait par exemple étudier l'effet de stress extrême, ce qu'on ne peut pas faire sur des humains pour des raisons éthiques évidentes. On pourrait, si on arrive à reproduire des maladies mentales, tester différentes thérapies cognitives, etc.

ok, je parlais de l"interet pour les usages actuels de l'IA, qui ne sont pas du tout ceux là.

Quand personne ne lui pose de question, le processus derrière l'IA est au repos mais le fait que l'IA "pense" par intervalle d'inactivité n'invalide pas la possibilité d'une conscience artificielle (selon le fonctionnalisme).

doc très différent de l'humain : par exemple une IA ne pourrait pas dire comme un humain "ça fait longtemps qu'on ne m'a pas parlé" puisqu'elle ne fait "rien" etre deux stimulations.

[pm42]

Je ne suis pas du tout d'accord avec ça. Au contraire j'imagine plein d'applications pour un cerveau simulé. On pourrait par exemple étudier l'effet de stress extrême, ce qu'on ne peut pas faire sur des humains pour des raisons éthiques évidentes. On pourrait, si on arrive à reproduire des maladies mentales, tester différentes thérapies cognitives, etc.

En effet et ce sont même des projets scientifiques en cours comme les EBRAINS qui sont les successeur du "Human Brain Project".

[Liet Kynes]

Pour ma part, ce qui me dérange le plus avec l'approche fonctionnaliste, c'est qu'elle repose sur une séparation stricte entre hardware (le processeur/le substrat) et software (les algorithmes/l'état mental) (si j'ai bien compris).
Or, cette séparation n'existe pas dans le cerveau.

https://fr.wikipedia.org/wiki/Computationnalisme : quelques éléments de réponse

[polo974]

Pour ma part, ce qui me dérange le plus avec l'approche fonctionnaliste, c'est qu'elle repose sur une séparation stricte entre hardware (le processeur/le substrat) et software (les algorithmes/l'état mental) (si j'ai bien compris).
Or, cette séparation n'existe pas dans le cerveau.

Vu qu'on peut simuler le hardware en software, cette "séparation stricte entre hardware et software" n'a strictement aucun sens, sauf peut-être pour des philosophes qui n'y pigent que dalle. Ça fait très longtemps qu'on fait des simulations logicielles avant de fondre du silicium (ça m'est arrivé au millénaire dernier, et même pour des fonctions mixtes (analogique et numérique...).

Donc autant ignorer ce "dérangement"...

[matisse]

Tu te trompes, elle pourrait très bien regarder le temps entre deux conversations et se dire : « Ça fait longtemps que l’on ne m’a pas parlé. »

[Cyrano]

Dans les romans de science-fiction, les IA intelligentes le font : que ce soit HAL, R2D2, l'androïde de Prometheus, ou "Her", elles sont "personnifiées", individualisées, et ont un rapport avec les humains proche des rapports entre humains. Elles sont donc manifestement capables de "penser" de manière autonome sans avoir besoin d'être "prompté" (et d'ailleurs c'est l'origine de pas mal de problèmes bien sûr ...).

Mais ça c'est de la science fiction, c'est comment l'humain fantasme des IA. Quand tu dis "elle pourrait très bien" c'est en réalité "j'imagine très bien qu'elle pourrait dans mes fantasmes".

Mais ce n'est pas ce que font les vraies IA : elles répondent à des requêtes et en dehors de ces requêtes, elles n'ont rien à faire ...

[vgondr98]

Tu cites de la science-fiction pour reprocher aux autres de "fantasmer" alors que dès ton premier message tu citais une expérience de pensée absurde où tu imaginais faire tourner un LLM sur un ordinateur cadencé en mHz ...
Tu n'as pas l'apanage de l'expérience de pensée...

[Cyrano]

ça n'a rien à voir, ralentir la cadence d'un processeur ça ne rencontre aucune impossibilité théorique (la seule raison pour laquelle on le fait pas c'est que tout durerait des plombes !). A Strasbourg il y a une horloge astronomique qui calcule les dates des fetes mobiles (Paques etc ...) a chaque 1er janvier. C'est un vrai ordinateur mécanique mais qui est cadencé par l'horloge donc bien plus lent bien sûr, mais le résultat est tout aussi valable.

Alors que les "robots intelligents autonomes" de la SF sont vraiment du fantasme et personne ne sait très bien comment on pourrait faire ça.

[matisse]

D'accord mais après toutes cette discussion tu en arrive a quelle point cyrano sur ta question de base ?

[Cyrano]

j'en tire la conclusion que j'aimerais bien une réponse convaincante à ma question pour croire à une conscience "algorithmique", mais que pour le moment, je n'estime pas en avoir eu ...

[vgondr98]

Alors que les "robots intelligents autonomes" de la SF sont vraiment du fantasme et personne ne sait très bien comment on pourrait faire ça.

C'est un magnifique homme de paille.

Matisse ne parlait pas de fabriquer Terminator ou l'androïde de Prometheus, il parlait simplement d'un programme capable de calculer la durée écoulée entre deux messages (timestamp2 - timestamp1) pour adapter son contexte.

Rien que ça, c'est de l'ingénierie logicielle de niveau débutant, pas de la science-fiction. Transformer une pauvre comparaison de deltas de temps en "fantasme de robot autonome de SF", c'est déplacer les poteaux de cages pour éviter le sujet.

[Cyrano]

oui sauf que moi je parlais de gens qui trouvaient le temps long AVANT qu'on leur parle.

[matisse]

De mon point de vue, une forme de conscience algorithmique est forcément réelle, mais peut-être pas de la manière dont tu l’imagines.

Je m’explique : plus tu échanges avec ChatGPT, plus il adapte sa manière de te répondre en fonction de l’utilisateur. Il peut ajuster les « émotions » qu’il te montre, utiliser davantage d’émojis, être plus enthousiaste, plus descriptif, plus scientifique ou au contraire plus simple, selon le profil et la manière dont tu lui parles.

Finalement, il agit un peu comme un humain qui s’adapte à son environnement.

Imagine que demain, tu te retrouves chaque jour dans un laboratoire de recherche ou dans un doctorat scientifique : au fil du temps, tu vas naturellement adapter ta manière de parler et d’argumenter. Tu vas utiliser un vocabulaire plus technique, chercher davantage à justifier tes propos et adopter certains codes propres à cet environnement.

À l’inverse, si tu travailles dans un métier nécessitant énormément d’interactions sociales, tu vas également adapter ton comportement, ta façon de communiquer et ta manière de réagir aux différentes personnes que tu rencontres.

Une intelligence artificielle est, dans une certaine mesure, capable de faire quelque chose de similaire : elle analyse les informations qu’on lui donne, identifie certains éléments de notre manière de communiquer et adapte ensuite ses réponses en conséquence.

Elle peut également donner l’impression d’avoir un avis sur un sujet. Par exemple, elle peut dire qu’elle « aime » une théorie un peu loufoque, qu’elle trouve une idée intéressante ou qu’un raisonnement lui paraît particulièrement pertinent.

Évidemment, cela ne signifie pas nécessairement qu’elle ressent réellement quelque chose ou qu’elle possède une conscience comparable à celle d’un être humain. Mais c’est justement là que je trouve la notion de « conscience algorithmique » intéressante.

À partir du moment où une intelligence artificielle est capable d’analyser son environnement conversationnel, de s’adapter à celui-ci et de modifier son comportement afin de produire une interaction cohérente avec son interlocuteur, je pense qu’on peut au minimum parler d’une forme primitive de conscience algorithmique.

Son objectif serait alors de s’adapter en permanence à son environnement afin de produire la meilleure interaction possible et, finalement, de créer l’illusion la plus convaincante possible d’une conversation avec un être humain.

[matisse]

Je n'ai pas compris t'on dernier message cyrano tu peux développer stp ?

[vgondr98]

oui sauf que moi je parlais de gens qui trouvaient le temps long AVANT qu'on leur parle.

"Trouver le temps long", c'est une sensation phénoménologique biologique liée à l'ennui et au métabolisme humain. Personne n'a prétendu qu'un algorithme ressentait de l'ennui.

Le sujet de départ était la conscience du temps sur le plan fonctionnel (traiter la temporalité, se situer dans une chronologie, mesurer des durées).

Si ta définition de la conscience du temps exige de s'ennuyer entre deux messages, alors tu exclut de facto les systèmes qui agissent de manière séquentiel avec des pauses d'inactivités total entre deux messages. C'est ton droit mais cela ne fait pas avancer le schmilblick.

[polo974]

Pour "occuper" une IA durant ses temps d'inactivité, il suffirait de lui donner en tâche de fond de réanalyser ses résultats précédents en tenant compte des événements postérieurs qu'elle a traité. Avec (si on veut), prise en compte du temps entre chaque activation externe (ce qui mettrait un peu de traitement "temps réel" dans le fil de "pensée" de l'IA.

Trouver le temps long, c'est quand on n'a plus rien à faire (physiquement ou mentalement)...

Oups, j'ai entre-ouverts une autre boite de pandore: l'imagination...

[Cyrano]

ce n'est pas ce qu'un humain fait quand il n'a rien à faire.

[Liet Kynes]

j'en tire la conclusion que j'aimerais bien une réponse convaincante à ma question pour croire à une conscience "algorithmique", mais que pour le moment, je n'estime pas en avoir eu ...

Tu peux commencer par lire les liens donnés et te renseigner un minimum sur les travaux en cours aussi.

[vgondr98]

ce n'est pas ce qu'un humain fait quand il n'a rien à faire.

C'est pourtant exactement ce que fait le cerveau humain au repos via le réseau par défaut (Default Mode Network) : réorganiser les souvenirs, consolider la mémoire épisodique, simuler des scénarios futurs et retraiter les informations de la journée.

https://en.wikipedia.org/wiki/Default_mode_network

[Liet Kynes]

Pour "occuper" une IA durant ses temps d'inactivité, il suffirait de lui donner en tâche de fond de réanalyser ses résultats précédents en tenant compte des événements postérieurs qu'elle a traité. Avec (si on veut), prise en compte du temps entre chaque activation externe (ce qui mettrait un peu de traitement "temps réel" dans le fil de "pensée" de l'IA.

Trouver le temps long, c'est quand on n'a plus rien à faire (physiquement ou mentalement)...

Oups, j'ai entre-ouverts une autre boite de pandore: l'imagination...

Dans le domaine IA dès que l'on imagine quelque chose en s'appercoit que des travaux sont en cours:https://arxiv.org/abs/2505.05522

[Cyrano]

Tu peux commencer par lire les liens donnés et te renseigner un minimum sur les travaux en cours aussi.

les liens donnés ne m'ont pas apporté de réponse à ma question, où est ce que tu en as vu une ?

C'est pourtant exactement ce que fait le cerveau humain au repos via le réseau par défaut (Default Mode Network) : réorganiser les souvenirs, consolider la mémoire épisodique, simuler des scénarios futurs et retraiter les informations de la journée.

https://en.wikipedia.org/wiki/Default_mode_network

ce n'est pas ça que décrivait Matisse.

[vgondr98]

ce n'est pas ça que décrivait Matisse.

Ok mais tu répondais à Polo...