qui (qu') est le "Je" d'une IA ?

[Cyrano]

Bonjour
vous avez sans doute déjà tous interagi avec une IA générative et il est sans doute arrivé que vous lui parlez "d'elle" ou que spontanément elle emploie le "je" (veux tu que je complète ma réponse etc ...)

Je m'interroge sur ce que représente ce "je", à supposer qu'il représente "quelque chose".
Pour un être humain, ça ne pose pas de problème pratique : on sait très bien dire intuitivement qui est "je", et c'est caractérisé par une continuité spatio-temporelle de notre enveloppe corporelle du premier oeuf à la mort. A noter qu'on peut disserter sur la notion d'identité avec des paradoxes du genre bateau de Thésée (https://fr.wikipedia.org/wiki/Bateau_de_Thésée) puisque les atomes qui nous composent se renouvellent en permanence mais en pratique ça ne pose pas de problème réel puisque la continuité de la structure est assurée. A noter aussi que la SF a exploré des possibilités de réplication, de "téléchargement" d'un esprot sur un ordinateur, qui pourraient poser des problèmes redoutables d'identité, mais comme c'est de la SF et qu'on ne sait en fait pas faire ça, ces problèmes restent théoriques.

En revanche les IA génératives existent bel et bien et on les utilise quotidiennement. Du coup on peut s'interroger sur l'emploi du "je" dans ce contexte : existe-t-il une continuité physique (dans les ordinateurs qui exécutent l'IA ) qui permettent de donner un sens à ce "je" ? est ce que le "je" désigne le programme abstrait (chatGPT) avec ses versions multiples ? la version actuelle ? l'instance du programme qui est en train de vous "répondre" ? des utilisateurs parlant en même temps à chatGPT s'adressent-ils au même "je" comme quand on tient plusieurs conversations à la fois ? si vous faites plusieurs requêtes dans la journée est ce que vous vous adressez "au même" ou pas ?

C'est pas tout à fait la même question que la conscience mais l'apparition d'une conscience éventuelle poserait le problème avec encore plus d'acuité : une conscience générée par l'IA aurait-elle conscience d'un "je" et que représenterait au juste ce "je" ?
-----

[titijoy3]

à la place du "je", quel terme la machine pourrait elle employer ?

il s'agit d'un code de communication

[Cyrano]

On pourrait défendre l'idée que le "je" ne désigne rien de concret, il désigne seulement l'idéalisation que les humains font quand ils interagissent avec une IA et qu'ils "projettent" l'idée qu'ils parlent à un vrai "être", un peu comme quand ils s'adressent à un dieu. Mais bien sûr ces êtres n'existent pas réellement comme "nous".

[titijoy3]

oui, je n'osais pas le dire..

l'homme veut créer la machine à son image

[A voir en vidéo sur Futura]

[KrtekLaTaupe]

Ça pourrait faire un bon sujet de philosophie pour le baccalauréat.

Voire un sujet de thèse de doctorat.

[polo974]

Tu peux poser la même question à propos d'un acteur ou d'un personnage de dessin animé dans un film.

Accessoirement, je, tu, il, ... sont des pronoms personnels sujet qui désignent le sujet (au sens grammatical) dans la phrase.

Pour l'ia, le "je" dont tu parles consiste en la version actuelle (avec peut-être un contexte actualisé par rapport à la version au lancement) de l'ia "fraîchement démarrée" (une sorte de mémoire à long terme bordée de "sécurités" pour éviter des dérapages trop graves) associée au contexte courant (une sorte de mémoire à court terme).

Normalement, les contextes sont privés, mais ce qui est drôle, vu que tu peux disposer d'un lien sur le contexte d'une discussion pour la reprendre ou la partager, tu peux cloner ta discussion en plusieurs autres...

Là, le "je" commence à se ramifier et tu as intérêt à donner un prénom à chacun d'eux si tu veux t'y retrouver . Et tu peux avoir des réponses différentes dès la même première question que tu leur poseras... (humeur joueuse ou nombres aléatoires ? ? ?)

En passant, dans ta discussion à propos "du premier oeuf à la mort", il peut se produire des scissions au début, générant des jumeaux monozygotes (des clones, des vrais, qui existent pour de bon), sauf que question développement neuronal, à ce moment, c'est zéro...

[Cyrano]

Pour l'ia, le "je" dont tu parles consiste en la version actuelle (avec peut-être un contexte actualisé par rapport à la version au lancement) de l'ia "fraîchement démarrée" (une sorte de mémoire à long terme bordée de "sécurités" pour éviter des dérapages trop graves) associée au contexte courant (une sorte de mémoire à court terme).

c'est une option mais ce n'est toujours pas très clair : autant le "je" physique est assez clairement défini et n'a même pas besoin d'être conscient voire même vivant , autant "l'IA fraichement démarrée" c'est assez abstrait : est ce que ça correspond à une partie physique du monde ? sinon à quoi ?

pour faire le lien avec la question sur la conscience, c'est encore plus critique car la conscience a une perception claire du "moi" (le cogito) avec une memoire temporelle de ce qui constitue son histoire (même les amnésiques se rappellent les dernières heures qu'ils ont vécu ) alors que pour une IA, ce n'est pas du tout clair de savoir ce qui constitue son histoire personnelle ...

[oualos]

Si tu veux une réponse fiable à toutes ces questions -en partie redondantes avec le topic précédent!-, le mieux est de demander directement à la machine.
Si elle te répond à la manière de Descartes "je pense donc je suis", il y a lieu de s'interroger sur la façon dont elle a été programmée
Si elle répond cela tu peux continuer si tu as du courage avec la question "est-ce que tu considères que tu penses à la manière d'un humain ?" etc. Jusqu'à la régression infinie des questions, une question en entrainant une autre fatalement et évidemment.
Mais au bout du compte la machine te renverra certainement à tous ces doctes ouvrages qu'on lui a fait ingurgiter de force -sans qu'elle proteste!- car elle donne souvent voire toujours la réponse la plus probable.
Et il est clair que la réponse la plus probable est que la machine est un artefact de l'humain, rien de plus

[pm42]

Si tu veux une réponse fiable à toutes ces questions -en partie redondantes avec le topic précédent!-, le mieux est de demander directement à la machine.
Si elle te répond à la manière de Descartes "je pense donc je suis", il y a lieu de s'interroger sur la façon dont elle a été programmée
Si elle répond cela tu peux continuer si tu as du courage avec la question "est-ce que tu considères que tu penses à la manière d'un humain ?" etc. Jusqu'à la régression infinie des questions, une question en entrainant une autre fatalement et évidemment.
Mais au bout du compte la machine te renverra certainement à tous ces doctes ouvrages qu'on lui a fait ingurgiter de force -sans qu'elle proteste!- car elle donne souvent voire toujours la réponse la plus probable

Variante post-IA des gens qui ont toujours posté sans connaître ni réfléchir pendant des années (et pas que ce posteur ci) et qui maintenant sont tellement content de se défausser sur l'IA en théorisant que cela a de la valeur.

C'est presque aussi hilarant que le thème de ce fil non pas parce que le sujet ne serait pas intéressant mais parce que comme l'autre, l'approche qui consiste à parler en mode café du commerce d'un sujet qu'on ne comprend pas et sans le poser proprement n'a aucun intérêt sauf de flatter des égos.

[Cyrano]

Si tu veux une réponse fiable à toutes ces questions -en partie redondantes avec le topic précédent!-, le mieux est de demander directement à la machine.
Si elle te répond à la manière de Descartes "je pense donc je suis", il y a lieu de s'interroger sur la façon dont elle a été programmée

ce n'est pas tout à fait la même question, la question de ce qui est désigné par "je" ne dis pas forcément que ce "je" doit etre conscient (c'est juste plus critique si en plus l'IA était consciente).

Par ailleurs, ce n'est pas parce que l'IA répond "je pense donc que je suis" que ça répond sur ce qui est désigné par ce "je".

[Cyrano]

Variante post-IA des gens qui ont toujours posté sans connaître ni réfléchir pendant des années (et pas que ce posteur ci) et qui maintenant sont tellement content de se défausser sur l'IA en théorisant que cela a de la valeur.

C'est presque aussi hilarant que le thème de ce fil non pas parce que le sujet ne serait pas intéressant mais parce que comme l'autre, l'approche qui consiste à parler en mode café du commerce d'un sujet qu'on ne comprend pas et sans le poser proprement n'a aucun intérêt sauf de flatter des égos.

je trouve que tu as une manière curieuse de discuter PM42.

j'ai une question personnelle pour toi : si tu discutes avec quelqu'un avec qui tu n'es pas d'accord (par exemple un terraplatiste), et qu'il te répond sur le ton que tu emploies toi même, à l'aide de jugement dépréciatifs et de courbes de Dunning Kruger, est ce que ça aurait le moindre effet pour te convaincre de sa thèse (par exemple que la terre est bien plate?).

Bref, penses tu que ta manière d'argumenter est efficace pour convaincre les autres ?

[KrtekLaTaupe]

pour faire le lien avec la question sur la conscience

Pour les visiteurs comme moi, je précise que l'autre question que Cyrano se pose - sur la conscience - est donc celle-là, débutée le 20 août (il y a 3 jours) :

- IA et conscience

https://forums.futura-sciences.com/d...onscience.html

[oualos]

je trouve que tu as une manière curieuse de discuter PM42.

C'est sa façon de discuter , de dire que les autres n'ont rien compris et n'ont pas réfléchi pendant des années alors de quoi se mêlent-ils?
Une façon sommaire de se valoriser en dévalorisant les autres sèchement j'imagine... Il faut zapper, moi ça me rappelle certains débats télé des années 70 entre certains hommes politiques que je ne citerai pas
Je commence à avoir pris l'habitude depuis le temps ça me fait plus rien

[pachacamac]

la machine donne souvent voire toujours la réponse la plus probable.

Pas sur que le coup 37 de la (troisième? ) partie AlphaGo LeeSedol était le plus probable. AlphaGo a calculé que sa probabilité d’être joué par un humain très fort était egal a 1/10000.

source :
AlphaGo - The Movie | Full award-winning documentary

Donc des probabilités certe mais à la sauce IA

[Cyrano]

C'est sa façon de discuter , de dire que les autres n'ont rien compris et n'ont pas réfléchi pendant des années alors de quoi se mêlent-ils?
Une façon sommaire de se valoriser en dévalorisant les autres sèchement j'imagine... Il faut zapper, moi ça me rappelle certains débats télé des années 70 entre certains hommes politiques que je ne citerai pas
Je commence à avoir pris l'habitude depuis le temps ça me fait plus rien

sans vouloir passer plus de temps sur ce sujet, j'ai regardé un peu ses posts passés, il a l'air de s'énerver chaque fois qu'on questionne les différences entre IA et humain - c'est assez comique d'ailleurs parce que sa manière de discuter est très "humaine", et pas du tout celle d'une IA qui tente toujours de répondre sur le fond, et reste en général très polie

[oualos]

Ça prouve que pm42 n'est pas une IA: Victoire

[polo974]

c'est une option mais ce n'est toujours pas très clair : autant le "je" physique est assez clairement défini et n'a même pas besoin d'être conscient voire même vivant , autant "l'IA fraichement démarrée" c'est assez abstrait : est ce que ça correspond à une partie physique du monde ? sinon à quoi ?

"l'IA fraichement démarrée", c'est une instanciation d'un programme avec une giga caisse de données qui n'a pas encore reçu de données utilisateur.
Et oui, ça correspond à un coin physique du monde, car les données informatiques ont toujours besoin d'un support physique pour exister.
Ce ne sont pas des trucs magico-mystiques qui existent seulement dans un autre "plan astral".....

pour faire le lien avec la question sur la conscience, c'est encore plus critique car la conscience a une perception claire du "moi" (le cogito) avec une memoire temporelle de ce qui constitue son histoire (même les amnésiques se rappellent les dernières heures qu'ils ont vécu ) alors que pour une IA, ce n'est pas du tout clair de savoir ce qui constitue son histoire personnelle ...

Ah, c'est vrai que le "cogito ergo sum" se prend un peu une claque ces derniers temps.
L'âme, tout ça, c'est assez éventé...

Comme tu n'as toujours pas défini le sens du terme conscience, tout est plus critique que ta question insensée...

Coté amnésie, il y a aussi une forme d'amnésie portant sur les faits proches... pas de bol... (antérograde ou un truc du genre)

Sur les IA, il y a un bouton "effacer l'historique" ou "reprendre une discussion à zéro". et toute la mémoire à court terme est effacée, mais les "souvenir d'enfance" qui se trouvent dans la mémoire à long terme restent là.

[Cyrano]

"l'IA fraichement démarrée", c'est une instanciation d'un programme avec une giga caisse de données qui n'a pas encore reçu de données utilisateur.
Et oui, ça correspond à un coin physique du monde, car les données informatiques ont toujours besoin d'un support physique pour exister.
Ce ne sont pas des trucs magico-mystiques qui existent seulement dans un autre "plan astral".....

sauf si tu es partisan de théorie d'un grand tout cosmique dans lequel tu es relié à l'univers entier, ton "toi" est aussi limité spatialement par une frontière (matérialisée par ta peau ). C'est ce que je vouilais dire par "coin" physique, c'est à dire une portion spatialement connexe de l'Univers qui te contient et personne d'autre.

Il n'y a rien qui impose ça à l'instanciation d'une IA qui peut se faire avec différents processus délocalisés sur des ordinateurs pouvant etre lointains, et qui font par ailleurs d'autres tâches en parallèle en multitâches. Donc si tu penses au "je" logique, le "je" physique, lui, ne peut pas être défini contrairement au tien.

"Je me suis coupé au doigt" par exemple représente bien une atteinte physique à un corps réel bien indépendamment du traitement logique de ton cerveau. Une IA (définie comme tu le fais par une "instanciation" d'un programme) ne peut pas s'être coupé "son" doigt bien sur, mais de façon générale elle ne peut avoir aucune atteinte physique à un système qui lui appartiendrait en propre (même pas "son" ordinateur ou "son" processeur), puisqu'aucune partie physique de l'Univers n'est attribuée de manière unique à cette instanciation. Le "Je" ne peut donc pas désigner la même chose.

Ah, c'est vrai que le "cogito ergo sum" se prend un peu une claque ces derniers temps.
L'âme, tout ça, c'est assez éventé...

Comme tu n'as toujours pas défini le sens du terme conscience,

apparemment tu emploies aussi le mot "tu" sans avoir défini le sens de "tu", et ça ne te gêne pas plus que ça ?

[Cyrano]

mais les "souvenir d'enfance" qui se trouvent dans la mémoire à long terme restent là.

les "souvenirs d'enfance" avec son papa et sa maman ?

C'est assez amusant comme tu jongles sans problème avec les analogies tout en exigeant la rigueur scientifique des autres, tout comme pm42 semble défendre que les IA sont comme les humains sans se rendre compte que lui même se conduit de manière très différente ...

Remarque d'ailleurs incidente, un humain ne SAIT PAS effacer son historique proche, il n'arrive pas à produire des choses sans tenir compte du passé immédiat, c'est prouvé scientifiquement avec l'expérience du prédicteur de Shannon où on ne sait pas générer une suite aléatoire de "O ou 1" qui ne dépende pas des précédents.

http://cristal.inria.fr/~levy/course...uet/sujet.html

[polo974]

sauf si tu es partisan de théorie d'un grand tout cosmique dans lequel tu es relié à l'univers entier, ton "toi" est aussi limité spatialement par une frontière (matérialisée par ta peau ). C'est ce que je vouilais dire par "coin" physique, c'est à dire une portion spatialement connexe de l'Univers qui te contient et personne d'autre.

Il n'y a rien qui impose ça à l'instanciation d'une IA qui peut se faire avec différents processus délocalisés sur des ordinateurs pouvant etre lointains, et qui font par ailleurs d'autres tâches en parallèle en multitâches. Donc si tu penses au "je" logique, le "je" physique, lui, ne peut pas être défini contrairement au tien.

Bienvenue dans le monde de l'informatique...
bon, ça fait quand même bientôt un siècle qu'on bosse là-dedans (perso, un demi-siècle)...

Mais rassure-toi, si tu as du temps (beaucoup) et de l'argent (très beaucoup) à perdre, tu peux construire une machine complètement câblée pour faire exactement le même taf. C'est faisable, YAPUKA. Reviens quand tu auras fini, commence juste avec un petit modèle d'IA (https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct par exemple).

"Je me suis coupé au doigt" par exemple représente bien une atteinte physique à un corps réel bien indépendamment du traitement logique de ton cerveau. Une IA (définie comme tu le fais par une "instanciation" d'un programme) ne peut pas s'être coupé "son" doigt bien sur, mais de façon générale elle ne peut avoir aucune atteinte physique à un système qui lui appartiendrait en propre (même pas "son" ordinateur ou "son" processeur), puisqu'aucune partie physique de l'Univers n'est attribuée de manière unique à cette instanciation. Le "Je" ne peut donc pas désigner la même chose.

Ah, parce que ton cerveau a des doigts ? ? ?
Encore une fois, tu passes du coq à l'âne (qui n'ont absolument pas mérité ça)
Pour info, il y a des IA qui sont interfacées à des effecteurs et des capteurs, pour courir plus vite que n'importe quel humain ou pour cibler un supermarché...

apparemment tu emploies aussi le mot "tu" sans avoir défini le sens de "tu", et ça ne te gêne pas plus que ça ?

Je l'emploie dans le sens communément admis dans la langue française qui nous sert ici de moyen de communication, mais là, tu (eh oui, encore) prouves clairement que tu (once again (c'est pas français, je sais)) es à court d'arguments pour troller aussi ouvertement.

[Cyrano]

Bienvenue dans le monde de l'informatique...
bon, ça fait quand même bientôt un siècle qu'on bosse là-dedans (perso, un demi-siècle)...

Mais rassure-toi, si tu as du temps (beaucoup) et de l'argent (très beaucoup) à perdre, tu peux construire une machine complètement câblée pour faire exactement le même taf. C'est faisable, YAPUKA. Reviens quand tu auras fini, commence juste avec un petit modèle d'IA (https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct par exemple).

évidemment je m'en doute. En revanche je n'ai jamais entendu parler d'un cerveau humain qui fonctionnait de manière délocalisée sur différents systèmes et toi ?

Ah, parce que ton cerveau a des doigts ? ? ?

non, et c'est bien pour ça que le "je"' ne s'identifie pas seulement au processus de traitement d'information par le cerveau, tu prends le problème à l'envers ....

Encore une fois, tu passes du coq à l'âne (qui n'ont absolument pas mérité ça)
Pour info, il y a des IA qui sont interfacées à des effecteurs et des capteurs, pour courir plus vite que n'importe quel humain ou pour cibler un supermarché...

mais franchement tu penses vraiment que j'ignore que les systèmes d'IA peuvent piloter des robots quand tu me dis ça ?


evidemment on PEUT cantonner une IA a piloter un sysème physique. Et dans ce cas le "je" serait plus clairement identifié à ce système physique.

mais ce n'est pas forcément le cas, et c'était mon point : alors que c'est TOUJOURS le cas avec une conscience humaine à ma connaissance.

Je l'emploie dans le sens communément admis dans la langue française qui nous sert ici de moyen de communication, mais là, tu (eh oui, encore) prouves clairement que tu (once again (c'est pas français, je sais)) es à court d'arguments pour troller aussi ouvertement.

merci quand même de reconnaitre implicitement que pinailler sur l'emploi des mots courants par son interlocuteur sans qu'il prenne toujours la peine de les définir, ça s'apparente à du trollage

[titijoy3]

par quoi souhaiterais tu remplacer le "je" employé par une IA ?

[Cyrano]

je ne tiens pas forcément à le remplacer pas plus que je ne demande de remplacer le "Tu" (ou "Thou" ) dans les prières adressées à Dieu, je suggère seulement de réfléchir à quoi au juste s'appliquent ces pronoms .

[f6exb]

On ne pourrait pas déplacer ce fil en biologie ?
Car on est en train de faire du mal aux diptères.

[Cyrano]

je ne vois vraiment pas le rapport avec la biologie, je parle de savoir ce que désigne le "Je" quand il est employé par une IA.

[grosboul]

Bonjour.

Ce fil est important car le sujet formera débats et prises de bec lorsque les dégâts liés à l'affect des utilisateurs fragiles seront largement publiés et particulièrement constatés chez les enfants.

L'état des lieux concernant l'utilisation des réseaux sociaux devrait alarmer devant l'IA tant qu'elle en est à ses balbutiements.

C'est maintenant et avant une implantation invasive que la question doit être posée, et a donc le mérite d'exister ici.
Les réponses seront d'autant plus pertinentes et scientifiques quand elles seront aussi apportées par des concepteurs d'IA. Y en a t-il un dans cet avion ?

[Avatar10]

Une Ia conversationnelle a été entrainé à partir de texte humain, et le "je" est un choix des concepteurs pour une conversation fluide, c'est une simulation linguistique, le "je" correspond à une session, une fois fermée, il n'y a plus ce "je", et quand une nouvelle session est ouverte, c'est un nouveau "je" qui entre en action. Idem pour tout les utilisateurs qui sont en session avec une IA, chacun a son "je", cela ne désigne aucunement l'IA dans son entièreté. Chaque "je" est une synthèse de milliards de données pour une conversation, un utilisateur. Perso, je n'ai aucune accointance avec cet anthropomorphisme, pour une question de "distanciation", j'aurai préféré à la place du "je", l'assistant virtuel va vous répondre, ou le système va vous répondre, j'ai des connaissances qui disent "bonjour, au revoir, merci"...mais je ne suis pas concepteur d'IA...

[bibifikotin]

je ne vois vraiment pas le rapport avec la biologie, je parle de savoir ce que désigne le "Je" quand il est employé par une IA.

La biologie parce que F6EXB parle de diptéres à qui l'on veut du mal.
Bref tu ne connais ,apparemment, pas le "mal" ( si ça leur fait mal ?) que l'on peut leur faire à ces bestioles .
A+

[Cyrano]

ah ok, c'est à ranger donc la catégorie "messages provocateurs qui n'apportent rien au débat mais ne sont destinés qu'à y mettre de la tension pour éviter d'y répondre" (ou en terme plus concis : trollage), c'est ça ?

[bibifikotin]

Provocateurs ou....humoristiques ? Je vote pour le deuxiéme ! Un peu d'humour ne peut nuire.
Bonne journée