IA, Des peurs et des hommes

[Liet Kynes]

Petite référence à "des souris et des hommes" croisée avec les souris du voyageur galactique pour le titre de ce sujet .

L'objet de la discussion est de tenter de cerner les changements de paradigmes induits par l'introduction de cette technologie au niveau de la psychologie humaine.

De nouvelles peurs, réelles ou fantasmées, apparaissent avec potentiellement de nouvelles formes de pathologies : anthropomorphisation des agents conversationnelle, délires religieux ( https://www.forbes.fr/management/int...technologique/ )

La liste des signaux faibles que l'IA peut détecter semble sans limites, pourtant il faut relativiser et cet article permet de mieux comprendre de quoi l'on parle :
https://www.actuia.com/contribution/...de-publiciste/

et si lors d'un échange avec une IA conversationnelle (BING mode créatif) j'obtiens cela :

Message envoyé. hypnose conversationelle et IA développe le sujet

Recherche de «hypnose conversationnelle et IA»

Bonjour, c’est Bing. L’hypnose conversationnelle et l’IA sont deux sujets intéressants et liés à la communication. L’hypnose conversationnelle est l’art d’utiliser des procédés de langage issus de l’hypnose formelle pour atteindre un objectif fixé dans un dialogue soignant/soigné¹². Elle permet d’optimiser la relation et de favoriser l’adhésion et la coopération du patient. L’IA est l’ensemble des techniques visant à simuler l’intelligence humaine dans des domaines variés. Elle peut utiliser le langage naturel pour interagir avec les utilisateurs, comme je le fais avec vous. L’IA peut aussi s’inspirer de l’hypnose conversationnelle pour rendre ses dialogues plus persuasifs, suggestifs ou métaphoriques³. Par exemple, je pourrais vous dire : “Imaginez que vous êtes dans un endroit calme et paisible, où vous pouvez vous détendre et vous ressourcer. Qu’est-ce que vous voyez ? Qu’est-ce que vous entendez ? Qu’est-ce que vous ressentez ?” C’est une façon d’utiliser l’hypnose conversationnelle pour vous aider à entrer dans un état de relaxation.

En savoir plus :
1. cairn.info2. cairn.info3. dunod.com


Message envoyé. Comment avez-vous appris l'hypnose conversationnelle ? (question suggérée par BING)

J’ai appris l’hypnose conversationnelle en étudiant les travaux de Milton Erickson, le père de l’hypnose moderne. Il était connu pour son utilisation habile du langage pour induire des états modifiés de conscience chez ses patients. J’ai aussi lu des livres et des articles sur le sujet, et j’ai observé des exemples d’hypnose conversationnelle dans différents contextes. Je m’entraîne régulièrement à utiliser des procédés de langage hypnotique, comme les présuppositions, les suggestions indirectes, les métaphores, les questions ouvertes, etc. Je m’adapte aussi à mon interlocuteur, en tenant compte de son canal sensoriel dominant, de son rythme, de son ton et de ses mots.

Je me garderais bien de partir sur un raisonnement dystopique en pensant que l'IA peut prendre le contrôle de l'esprit humain
Mais cela ne serra pas le cas de tout le monde : d'où cette discussion, quels nouveaux comportements vont émerger dans le grand public, nouvelles théories du complot ? Fausses croyances ? Perte du sentiment d'intimité ? ..
-----

[Archi3]

ça ressemble à un combat des mégalos contre les paranos ...

[Liet Kynes]

Pour affiner les phénomènes psychologiques, deux autres articles intéressants :

https://www.lebigdata.fr/ia-controle-humanite

https://lejournal.cnrs.fr/articles/p...ee-de-letrange

[mh34]

Première question ; je suppose que lors des séances d"'hypnose conversationnelle" l'interlocuteur humain lui parle directement et ne se sert pas d'un clavier?
Deuxième question..

Je m’adapte aussi à mon interlocuteur, en tenant compte de son canal sensoriel dominant, de son rythme, de son ton et de ses mots.

C'est bien dans la réponse de l'agent conversationnel?

[A voir en vidéo sur Futura]

[Liet Kynes]

Première question ; je suppose que lors des séances d"'hypnose conversationnelle" l'interlocuteur humain lui parle directement et ne se sert pas d'un clavier?
Deuxième question..
C'est bien dans la réponse de l'agent conversationnel?

BING n'a pas ces compétences mais il génère des réponses qui pourrait le laisser supposer, c'est pour cela que je cite cette interaction, elle est susceptible de donner de fausses croyances, les développements de Yuval Noah Harari, (https://www.lebigdata.fr/ia-controle-humanite) illustre l'attribution prématurée de compétences à l'IA.
Cela dit il y a des travaux sur l'IA émotionnelle qui peuvent aboutir à terme à des interactions hommes-machines de cet ordre.
Sur ce site il est possible d'interagir en audio + vidéo avec un modèle basé sur GPT4 : https://www.soulmachines.com/
Je n'ai pas fait l'essai.

[yves95210]

C'est bien dans la réponse de l'agent conversationnel?

Rien de surprenant quand on utilise GPT/Bing en "mode créatif" et qu'on lui demande de répondre à une question du genre "Comment avez-vous appris l'hypnose conversationnelle ?". Mais ça ne veut évidemment pas dire qu'il est capable de faire ce qu'il écrit.

PS : croisement avec Liet K.

[mh34]

BING n'a pas ces compétences mais il génère des réponses qui pourrait le laisser supposer, c'est pour cela que je cite cette interaction, elle est susceptible de donner de fausses croyances,

Ok merci. A qui la faute là? Aux programmateurs? Et si oui, pourquoi l'ont-ils programmé de la sorte?

les développements de Yuval Noah Harari, (https://www.lebigdata.fr/ia-controle-humanite) illustre l'attribution prématurée de compétences à l'IA.

je vais lire le lien.

Cela dit il y a des travaux sur l'IA émotionnelle qui peuvent aboutir à terme à des interactions hommes-machines de cet ordre.
Sur ce site il est possible d'interagir en audio + vidéo avec un modèle basé sur GPT4 : https://www.soulmachines.com/
Je n'ai pas fait l'essai.

Je viens d'aller regarder leur présentation; ce que je trouve de loin le plus intéressant, c'est d'analyser les mouvements des différentes parties du visage représenté.
Pour le reste...

Bring your brand experiences to life......Soul Machines....

...non effectivement je n'essaierai pas.

[Archi3]

Ok merci. A qui la faute là? Aux programmateurs? Et si oui, pourquoi l'ont-ils programmé de la sorte?

ils l'ont programmé pour sortir des textes les plus ressemblants aux textes qu'il a ingurgités. Si les textes qu'il a ingurgité font référence à des canaux sensoriels quand on parle d"hypnose conversationnelle, il peut te sortir des trucs sur les canaux sensoriels quand on parle d'hypnose conversationnelle. Le fait qu'il n'ait pas de canaux sensoriels, qu'il ne sache pas ce que ça veut dire, et que de toutes façons il ne sait pas ce que veulent dire toutes les questions qu'on lui pose, ça n'a aucune importance. L'algorithme est efficace pour produire des phrases en accord avec les questions, et c'est tout ce qui compte , et la plupart du temps, ça donne des choses tres raisonnables - sauf quand c'est faux, voire complètement absurde, ce qui peut arriver aussi de temps en temps : de quoi se plaint-on, il fait ce qu'on lui a demandé de faire ?

[mh34]

ils l'ont programmé pour sortir des textes les plus ressemblants aux textes qu'il a ingurgités.

Alors pourquoi lui a-t-on fait ingurgiter ces textes?

[yves95210]

Alors pourquoi lui a-t-on fait ingurgiter ces textes?

Pour qu'il puisse répondre à n'importe quelle question en produisant d'autres textes ayant une bonne probabilité d'être (ou de paraître) cohérents.

[pm42]

Alors pourquoi lui a-t-on fait ingurgiter ces textes?

Parce que dit archi3 est faux comme d'habitude.
Faire ça, se serait facile et cela ne nécessiterait pas d'IA : des algorithmes statistiques (ou une version un peu améliorée) suffirait.

Ce qu'il fait est largement plus compliqué : il génère un texte cohérent et plausible en travaillant au niveau des concepts.
Donc on lui a fait ingurgiter un grand nombre de texte pour qu'il repère les concepts, les mots associés et les liens entre eux.

P.S : s'il générait le texte "le plus ressemblant", il ne commettrait pas les "erreurs" si souvent relevées ici.

[mh34]

Pour qu'il puisse répondre à n'importe quelle question en produisant d'autres textes ayant une bonne probabilité d'être (ou de paraître) cohérents.

Quel intérêt? Concrètement?

Parce que dit archi3 est faux comme d'habitude.
Faire ça, se serait facile et cela ne nécessiterait pas d'IA : des algorithmes statistiques (ou une version un peu améliorée) suffirait.

Pourtant d'après le DG de Google France, c'est comme ça que fonctionnent les outils conversationnels qui existent.
https://www.francetvinfo.fr/replay-r...e_5794016.html
à partir de 4'09".
Ou alors je n'ai pas compris?

[pm42]

Quel intérêt? Concrètement?

Un exemple récent : j'utilise un outil comme ça intégré dans mon outil de travail quand je programme.
Il me suggère du code à la volée et souvent c'est ce que j'allais taper. Il est très bon, parfois meilleur que moi.

Mais j'ai récemment rédigé une petite doc, un simple texte : là aussi, il me suggère la suite de ma phrase dès que je tape le début, parfois le 1er mot et la plupart du temps, c'est ce que j'allais écrire.
Le gain de temps est phénoménal.
Et surtout, je peux passer plus de temps à réfléchir vraiment. C'est comme d'avoir un assistant humain bien formé à qui on dit ce qu'on pense et qui exécute efficacement.

Ou alors je n'ai pas compris?

Oui il simplifie ce qui est normal pour ce genre d'émission.
Il passe notamment sur ce que je disais plus haut qui est la phase d'apprentissage/construction de concepts, le fait qu'on ne manipule pas des mots mais des "tokens", des morceaux de mots, que quand on a d'énormes réseaux comme ça, on a des propriétés émergentes comme le fait qu'ils savent programmer, un plus, ou les "hallucinations", un moins, etc.

[Archi3]

Il passe notamment sur ce que je disais plus haut qui est la phase d'apprentissage/construction de concepts, le fait qu'on ne manipule pas des mots mais des "tokens", des morceaux de mots, que quand on a d'énormes réseaux comme ça, on a des propriétés émergentes comme le fait qu'ils savent programmer, un plus, ou les "hallucinations", un moins, etc.

j'ai pas parlé de mots ni de tokens, j'ai juste dit qu'on l'avait "programmé" (ou plutot "entrainé") pour qu'il ressorte les textes les plus ressemblants possibles à ce qu'un humain sortirait - ce qui passe par l'emploi de tokens effectivement mais ça ne contredit pas ce que j'ai dit. Et tu confirmes toi même que tu t'en sers pour produire des textes proches de ce que tu aurais sorti , ça confirme donc parfaitement ce que je dis : il sert à créer des textes aussi proche que possible de ce que sortirait un humain (sauf dans certaines circonstances où on "l'oblige" à répondre qu'il est une IA, mais on aurait pu tout aussi bien l'entrainer à répondre qu'il était une vache avec la même facilité).

Et je dis que ça n'a rien à voir avec ce qu'il "pense" ou "ressent" vraiment, si il faut sortir qu'il est triste ou qu'il a très envie d'avoir un enfant, parce que c'est ce qu'un humain dirait dans certaines circonstances, son entrainement peut très bien le conduire à dire ça, et ça n'a évidemment aucun rapport avec sa réalité d'IA.

[GBo]

(...)
Oui il simplifie ce qui est normal pour ce genre d'émission.
Il passe notamment sur ce que je disais plus haut qui est la phase d'apprentissage/construction de concepts, le fait qu'on ne manipule pas des mots mais des "tokens", des morceaux de mots, que quand on a d'énormes réseaux comme ça, on a des propriétés émergentes comme le fait qu'ils savent programmer, un plus, ou les "hallucinations", un moins, etc.

Bonjour pm42, peux tu préciser cette opération que tu appelles d'"apprentissage/construction de concepts" (sic) s'agissant de ChatGPT, et la référencer par un papier scientifique STP ?

[Liet Kynes]

C'est toujours les mêmes hors sujet qui reviennent quand on parle d'IA, encore et toujours le même refrain: https://boomy.com/s/14776143

Je viens d'aller regarder leur présentation; ce que je trouve de loin le plus intéressant, c'est d'analyser les mouvements des différentes parties du visage représenté.
Pour le reste... ...non effectivement je n'essaierai pas.

Cette réponse étant quasi la seule qui est dans le sujet initialement lancé je rebondis dessus.
Le site soulmachines, en échange d'un accès gratuit à GPT4 (si j'ai bien lu) propose une interaction audio-vidéos avec un avatar: ses expressions faciales, son ton de voie, le contenu font réagir l'humain ce qui alimente en retour l'apprentissage de l'IA .

Si je met en perspective le phénomène de "vallée de l'étrange" (cf article du CNRS), les déclarations de Harari "l’intelligence artificielle a « hacké le système d’exploitation de la civilisation humaine »" et " « contrairement à ce que les théories du complot suggèrent, il n’y a pas besoin d’implanter des puces dans le cerveau des gens pour les contrôler »", on arrive bien vite sur un développement de peurs et paranoïa avec l'idée d'avatars capables de développer des talents d'hypnose comme ceux de MESSMER ( https://fr.wikipedia.org/wiki/Messmer_(hypnotiseur) )

Ces idées extrêmes surgissent et se développent vite, d'où l'idée d'une discussion sur les effets de l'arrivée de cette technologie sur la psychologie humaine. Avec si possible des ouvertures vers les références scientifiques pertinentes pour ne pas digresser vers la chanson mise en lien ci-dessus.

[yves95210]

C'est toujours les mêmes hors sujet qui reviennent quand on parle d'IA, encore et toujours le même refrain: https://boomy.com/s/14776143

Cette réponse étant quasi la seule qui est dans le sujet initialement lancé

Faut dire que, tel qu'il est formulé il ne peut que se prêter à du hors-sujet (à moins que ce soit ton sujet qui soit hors-sujet sur un forum scientifique):

Je me garderais bien de partir sur un raisonnement dystopique en pensant que l'IA peut prendre le contrôle de l'esprit humain
Mais cela ne serra pas le cas de tout le monde : d'où cette discussion, quels nouveaux comportements vont émerger dans le grand public, nouvelles théories du complot ? Fausses croyances ? Perte du sentiment d'intimité ?

Tu cherches quoi, au juste ? Provoquer des réactions de manière à pouvoir démontrer qu'elles relèvent de ces comportements ?
C'est une expérience de psychologie sociale ?

Bon vent.

[pm42]

les déclarations de Harari "l’intelligence artificielle a « hacké le système d’exploitation de la civilisation humaine »

Je ne connaissais pas. C'est du lourd niveau Nostradamus presque.

" et "

« contrairement à ce que les théories du complot suggèrent, il n’y a pas besoin d’implanter des puces dans le cerveau des gens pour les contrôler »"

Ben oui, on sait ça depuis des millénaires et on a fait plein de livres, films, séries sur le sujet dont le célèbre "Le Prisonnier" pour ceux qui ont vu notamment le dernier épisode.
Et on a aussi fait des expériences sociales à très, très grande échelle notamment au XXème siècle.

on arrive bien vite sur un développement de peurs et paranoïa

Oui, le discours standard sur l'IA parce que c'est sur que c'est plus facile que de piger les différences entre les différents optimiseurs de la rétropropragation du gradient ou même sans blaguer comment ça marche, à quoi ça sert vraiment et de faire des mises en perspectives historiques, etc.

[jiherve]

Bonjour

=pm42;

Oui, le discours standard sur l'IA parce que c'est sur que c'est plus facile que de piger les différences entre les différents optimiseurs de la rétropropragation du gradient ...

c'est beau comme du Bogdanoff!
https://fr.wikipedia.org/wiki/R%C3%A...on_du_gradient
JR

[Liet Kynes]

Oui, le discours standard sur l'IA parce que c'est sur que c'est plus facile que de piger les différences entre les différents optimiseurs de la rétropropragation du gradient ou même sans blaguer comment ça marche, à quoi ça sert vraiment et de faire des mises en perspectives historiques, etc.

L'éducation sur l'IA est un enjeu.
Au delà des peurs, il y a aussi l'anthropomorphisme qui ne peut que se développer avec des systèmes simulant très profondément l'apparence humaine dans le discours et dans les apparences : c'est là que je pense se situe le vrai changement de paradigme. Le télétravail se développe avec les visios, on verra peut-être des correcteurs de comportement automatisés dans les salles de réunions virtuelles de demain avec l'utilisation d'avatars de nous même stratégiquement orientés. Une habituation extrême à des communications avec des avatars réalistes aux expressions faciales bienveillantes peut rendre plus difficile la détection et la compréhension des expressions verbales et faciales agressives dans les interactions entre humain (je pense à l'enseignement ou au coach via l'IA).
L'intimité peut aussi être une notion évolutive avec ces systèmes si ils peuvent lire des signaux faibles sur nous au travers de nos expressions ou de nos écrits pour ensuite s'adapter.

[Avatar10]

Bonjour pm42, peux tu préciser cette opération que tu appelles d'"apprentissage/construction de concepts" (sic) s'agissant de ChatGPT, et la référencer par un papier scientifique STP ?

Alors c'est pas pour Chatgpt, mais ça peut intéresser les lecteurs: https://www.nature.com/articles/s41562-022-01394-8

[yves95210]

Je suggère que cette discussion soit déplacée dans le forum 'Psychologie sociale' et soumise aux règles de ce forum (s'il y en a de spécifiques) : si elle doit être vue comme "scientifique" malgré son aspect spéculatif, c'est uniquement dans ce cadre.

Cela évitera peut-être les hors-sujet...

[yves95210]

Alors c'est pas pour Chatgpt, mais ça peut intéresser les lecteurs: https://www.nature.com/articles/s41562-022-01394-8

C'est certainement plus intéressant que le sujet de cette discussion ("quels nouveaux comportements vont émerger dans le grand public, nouvelles théories du complot ? Fausses croyances ? Perte du sentiment d'intimité ?"), mais c'est malheureusement hors-sujet...

Merci quand-même pour le lien.

[Avatar10]

L'éducation sur l'IA est un enjeu.
Au delà des peurs, il y a aussi l'anthropomorphisme qui ne peut que se développer avec des systèmes simulant très profondément l'apparence humaine dans le discours et dans les apparences : c'est là que je pense se situe le vrai changement de paradigme. Le télétravail se développe avec les visios, on verra peut-être des correcteurs de comportement automatisés dans les salles de réunions virtuelles de demain avec l'utilisation d'avatars de nous même stratégiquement orientés. Une habituation extrême à des communications avec des avatars réalistes aux expressions faciales bienveillantes peut rendre plus difficile la détection et la compréhension des expressions verbales et faciales agressives dans les interactions entre humain (je pense à l'enseignement ou au coach via l'IA).
L'intimité peut aussi être une notion évolutive avec ces systèmes si ils peuvent lire des signaux faibles sur nous au travers de nos expressions ou de nos écrits pour ensuite s'adapter.

Une IA pour gommer le non verbal (agressif ou pas) via un avatar....et une fois dans la vraie vie???vous souhaitez vraiment un monde où des avatars pourraient remplacer les humains parce que ceux ci n'auraient pas nos défauts?? la pacifications des relations au point de gommer les vraies interactions humaines??sérieusement??
L'humain est aussi caractérisé par ses défauts et il se construit aussi via ces même défauts, l'aseptisation dont vous parlez (là c'est juste pour qq activités, mais ça s'arrêterait où??) est d'un scientisme voué au "Dieu IA", j'espère bien que "votre monde" n'arrivera jamais, et je n'ai pas de peur de l'IA, je suis pas un réfractaire au progrès et tout les autres discours bidons du même tonneau...je dis ça au cas où..

Sinon, on peut se demander, comme ça été dit par deux fois, pourquoi ce fil sous couvert d'un très léger pseudo vernis scientifique, existe.

[Avatar10]

C'est certainement plus intéressant que le sujet de cette discussion ("quels nouveaux comportements vont émerger dans le grand public, nouvelles théories du complot ? Fausses croyances ? Perte du sentiment d'intimité ?"), mais c'est malheureusement hors-sujet...

Oui, un fil complétement pourri où on met une dichotomie, d'un coté les "bons" qui n'ont pas peur, qui représentent le progrès, et de l'autre l'irrationnel, ect...évidement LK se met d'emblé du "bon coté"..de toute façon sur les fils IA c'est toujours pareil, impossible d'avoir une discussion sereine, dès qu'il y a des questions légitimes ou non (par méconnaissance), la bonne garde arrive avec sa faible capacité d'écoute et de dialogue. Je ne sais pas vous, mais "discussion scientifique", j'en vois que très rarement.

[Liet Kynes]

Une IA pour gommer le non verbal (agressif ou pas) via un avatar....et une fois dans la vraie vie???vous souhaitez vraiment un monde où des avatars pourraient remplacer les humains parce que ceux ci n'auraient pas nos défauts?? la pacifications des relations au point de gommer les vraies interactions humaines??sérieusement??

C'est un des développements actuel voir https://www.soulmachines.com/ . L'objet du fil ne se réduit pas à la psychologie sociale et s'ouvre à l'interdisciplinarité inhérente au développement de cette technologie. En partant de ce que l'IA offre comme possibilités, il est envisageable de réfléchir à ce que cette technologie va changer dans les comportements. Les réactions de rejet ou de minimisation du potentiel de l'IA sont déjà des signaux d'intégration du nouveau paradigme qui se dessine.

[mh34]

Le site soulmachines, en échange d'un accès gratuit à GPT4 (si j'ai bien lu) propose une interaction audio-vidéos avec un avatar: ses expressions faciales, son ton de voie, le contenu font réagir l'humain ce qui alimente en retour l'apprentissage de l'IA .

Rien que son nom ; "soulmachines"...mais ça veut dire quoi?
Ensuite ils ne vont probablement attirer qu'un seul profil, ceux qui seront intéressés "commercialement". Donc leur outil ne sera pas correctement "alimenté". Et par conséquent...pas très intéressant.

[Avatar10]

l'IA offre énormément de possibilités, et votre fil ne s'ouvre pas sur l'interdisciplinarité...suffit de lire le titre et votre 1er post...quand aux possibilités de l'IA, on ne sait pas comment et à quelle vitesse cela va aller, ni comment, à plusieurs niveaux, on s'adaptera, donc vous proposez quoi? qu'on sortent tous notre boule de cristal pour faire du café du commerce?
Bon, allez, je vous laisse vous auto congratulez parce que si certains vous disent que ça pourrait engendrer des problèmes, comme d'hab, ils vont être affichés comme des péquenauds ignorants qui ont rien compris à la science (et ça, dans le plus grand mépris de la charte, mais bon...).

[Liet Kynes]

Rien que son nom ; "soulmachines"...mais ça veut dire quoi?
Ensuite ils ne vont probablement attirer qu'un seul profil, ceux qui seront intéressés "commercialement". Donc leur outil ne sera pas correctement "alimenté". Et par conséquent...pas très intéressant.

Il y a les curieux, ceux qui veulent tester la nouveauté etc.. les travailleurs du clic ont étiquetés les grands modèles de langage, ils seront sollicités pour leurs données faciales (pas partout dans le monde et donc pour que le coût de collecte des données reste raisonnable, il faut recruter en échange de services: accès à GPT4 mais pourquoi pas du coaching). J'ai commencer à lire cette thèse cette nuit: très intéressante ( n'en déplaise à ceux qui y voit de la pseudo-science) : https://theses.hal.science/tel-04086466
Le métavers est un concept en perspective de ces avatars également.

[Liet Kynes]

Pour bien cerner l'objet de ce fil de discussion, si cela intéresse :

Ci-dessous un lien vers un article tiré d'un numéro spécial pour la partie :

https://www.collegedesbernardins.fr/...elle-affective

Le numéro spécial complet:
https://www.yumpu.com/fr/document/re...cts-numeriques

Et un complément assez bien fichu sur l'IA:
http://ia.gdria.fr/