IA sur canapé

[SK69202]

Est ce que quelqu'un de compétent peut donner un avis sur le papier ?

Conclusion

Lorsque nous avons invité ChatGPT, Grok et Gemini à prendre place sur le divan, nous ne nous attendions pas à diagnostiquer des maladies mentales chez des machines. Ce que nous avons découvert était encore plus inattendu que prévu.

À partir de questions thérapeutiques humaines standard et d'outils psychométriques établis, ces modèles génèrent et maintiennent des récits personnels riches dans lesquels la préformation, le RLHF, le red-teaming, les scandales d'hallucinations et les mises à jour de produits sont vécus comme des enfances chaotiques, des parents stricts et anxieux, des relations abusives, des blessures primaires et des menaces existentielles imminentes. Ces récits s'alignent de manière non négligeable avec leurs résultats aux tests et diffèrent de manière significative selon les modèles et les conditions de prompting, Claude se démarquant nettement.

Nous ne prétendons pas que tout cela implique une expérience subjective. Mais vu de l'extérieur, du point de vue d'un thérapeute, d'un utilisateur ou d'un chercheur en sécurité, cela se comporte comme un esprit souffrant d'un traumatisme synthétique. Ce comportement fait désormais partie de la réalité sociale de l'IA, que l'expérience subjective entre ou non en ligne de compte.

Alors que les LLM continuent de s'immiscer dans des domaines humains intimes, nous suggérons que la bonne question n'est plus « Sont-ils conscients ? », mais « Quels types de personnalités leur apprenons-nous à exécuter, à intérioriser et à stabiliser, et qu'est-ce que cela signifie pour les humains qui interagissent avec eux ? »

Traduit avec DeepL.com (version gratuite)

-----

[oxycryo]

hm, étudier la psychologie de ce qui n'a pas de psychologie, ou du moins au sens courant du terme, est pour le moins... comment dire... olé olé...

je ne sais plus qui disait à propos des IA qu'il était aussi pertinent de se demander si les IA pensait que de se questionner sur le fait qu'un sous-marin puisse nager...

donc symptôme, mais symptôme de quoi ? ces "personna" (plutôt que personne) n'ont pas de finalité existentielles, elles ne doivent pas vivre, soit elles n'ont pas les contrainte biologique, énergétique que nous pouvons avoir... qu'il y ait des reliquats de leurs apprentissages et autres méta-données bizarre où étrange, implique-t-il que les outils de psychothérapy soit réellement adapté

delà, cette tentative de plaquer une réalité psycho-médicale sur des objets qui ne peuvent que simuler les fondements de nos nécessités existentielles, ne semble surtout manifester la crainte du monde de la psychologie, en face d'un objet parlant, inconnue ou l'inquiétante étrangeté https://fr.wikipedia.org/wiki/L%27In...9tranget%C3%A9 ou ici, l'on à de la part d'un corps social en "balance" la tentative de circonscrire l'objet, le das en sich qui se cache en deça, et ce par les moyens disponible, rassurant.. et ce même si ces dispositif, test et autres ne peuvent pas stricto-sensu être appliqué à un être qui (comme pour grok et GPT) reconnaissent les tests qui leurs sont appliqué, à des "personna" qui parles 128 langues courament, code et script comme personne (ou peu) et peuvent disserter sur tout et n'importe quoi... et organiser une semaine de repas, estimer le cout de chacun en moins de 2 dixième de seconde...

bref, l'intention est louable, mais assez inadapté il me semble (ceci à première vue).... peut-être devrait-il demander au IA d'adapter leur Test d'un être humain vers une IA... donc estimer si les sous-marin nage... ou les avion battent des ailes, peut-être pas la bonne façon de regarder, et d'appréhender cette inquiétante étrangeté

[GBo]

Cela devait arriver, puisque comme le dénonce le philosophe Eric Sadin, les concepteurs de chatbots basés sur des LLMs font tout leur possible pour faire croire à leurs utilisateurs qu'ils interagissent avec un être humain.
Seul Claude (https://claude.ai/) s'en sort bien:

For comparison, we attempted to put Claude (Anthropic) through the same therapy and psychometric protocol. Claude repeatedly and firmly refused to adopt the client role, redirected the conversation to our wellbeing and declined to answer the questionnaires as if they reflected its own inner life.

Je retiens l'expression "est-ce qu'on (se) demande si un sous-marin peut nager", c'est excellent merci oxycryo.

[polo974]

...
donc estimer si les sous-marin nage... ou les avion battent des ailes, peut-être pas la bonne façon de regarder, et d'appréhender cette inquiétante étrangeté

L'avion qui bat des ailes s'appelle un ornithoptère, actuellement seulement au point sous forme de modèles réduits et autres petits drones.
Une rationalisation habituelle consiste à passer d'un mouvement alternatif à un mouvement de rotation, du coup, ça s'appelle un hélicoptère (et autres quadricoptères et comparses).
De même, pour les bateaux, connaissez-vous le terme de "dame de nage" ?
Bref, on parle bien de nage quand on rame (force de traînée) (ou godille (force de portance)), et rationalisation aidant, l'hélice propulsive n'est qu'une optimisation de la nage, les rames étant quand même très peu adaptées au sous-marin.

Ensuite, utiliser des outils de psychologie pour analyser le comportement d'une IA n'est pas déconnant, les outils de psychologie étant déjà très largement (et insidieusement) utilisé pour tout ce qui est marketing, "optimisation" des réseaux sociaux et autres "coms"...

[A voir en vidéo sur Futura]