Avis de l'académie de technologie sur l’imitation artificielle de langages

[Liet Kynes]

Mise en ligne, le 09/05/2023:

https://www.academie-technologies.fr...langages-avis/
https://www.academie-technologies.fr...ls-ChatGPT.pdf

J'ai trouvé cela un peu poussiéreux au sens mais l'académie doit en être consciente et avertie :

"
Bien entendu, il s’agit ici d’un premier avis de l’Académie. La technologie de l’IA-G pour le langage est caractérisée actuellement par une rapidité inhabituelle d’évolution. Nous suivons donc ces évolutions et nous formulerons des mises au point, le cas échéant."







-----

[Liet Kynes]

Il manque un bout à ma phrase

J'ai trouvé cela un peu poussiéreux au sens d'une nécessaire réserve liée à une nouveauté en pleine évolution mais l'académie doit en être consciente et avertie :
""
Bien entendu, il s’agit ici d’un premier avis de l’Académie. La technologie de l’IA-G pour le langage est caractérisée actuellement par une rapidité inhabituelle d’évolution. Nous suivons donc ces évolutions et nous formulerons des mises au point, le cas échéant."




Et le smiley car dans le PDF on trouve une petite révolution qui laisse entrevoir la finesse de "le cas échéant":

Académie des technologies[/URL]]ChatGPT peut être enrichi de capacités de raisonnement, améliorant sa cohérence et sa crédibilité et progressant vers une certaine notion de sens commun. GPT4 avancerait dans ce sens ; cependant l’hybridation des méthodes statistiques et des méthodes de preuve logique ou mathématique est un problème difficile, pour lequel une première proposition existe toutefois 9

Le "9" c'est : "Voir l’annonce ChatGPT gets its “Wolfram superpower” par l’éditeur de logiciel scientifique Wolfram. Ce plugin permet de connecter chatGPT à Wolfram | Alpha, un outil de calcul formel mathématique doté d’un langage. Il reste à examiner de plus près les nouvelles possibilités offertes par cet assemblage. Voir aussi Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, un travail de Google."

Wolfram superpower = https://writings.stephenwolfram.com/...m-superpowers/ et c'est là que l'on comprends que les choses vont très vite et très loin.

[GBo]

Le style d'écriture est un peu vieillot (on dirait une dissertation scolaire des années 60-70) mais le rapport se lit bien et ne comporte pas d'erreurs grossières à mes yeux d'amateur averti du sujet.

Il me parait même particulièrement équilibré sur les apports positifs possibles que cette techno peut apporter (aide au marketing et aux ventes, adaptation pour en faire un outil à usage scolaire, etc...) sans omettre pour autant les problèmes inhérents à ces "langageurs" (néologisme de bon goût qu'ils ont créé pour les chatBots dopés au LLMs comme ChatGPT) que sont le manque de fiabilité dans les réponses et la consommation électrique problématique.

On peut leur reprocher de ne pas être à jour (GPT-4 est désormais le fer de lance des "langageurs"), mais rien de fondamental ne changerait leur dissertation, si ce n'est que les promesses d'hybridation entre GPT-4 et d'autres programmes plus rigoureux devraient se concrétiser (mais on demande toujours à voir).

[Liet Kynes]

On peut leur reprocher de ne pas être à jour (GPT-4 est désormais le fer de lance des "langageurs"), mais rien de fondamental ne changerait leur dissertation, si ce n'est que les promesses d'hybridation entre GPT-4 et d'autres programmes plus rigoureux devraient se concrétiser (mais on demande toujours à voir).

Tu peux avoir accès à l'hybridation avec wolfram de GPT4 mais c'est payant. J'attends que Google sorte son produit mais pour le coup le couple GPT4/Wolfram c'est déjà très fort à concurrencer.

[A voir en vidéo sur Futura]

[Archi3]

Le style d'écriture est un peu vieillot (on dirait une dissertation scolaire des années 60-70) mais le rapport se lit bien et ne comporte pas d'erreurs grossières à mes yeux d'amateur averti du sujet.

Il me parait même particulièrement équilibré sur les apports positifs possibles que cette techno peut apporter (aide au marketing et aux ventes, adaptation pour en faire un outil à usage scolaire, etc...) sans omettre pour autant les problèmes inhérents à ces "langageurs" (néologisme de bon goût qu'ils ont créé pour les chatBots dopés au LLMs comme ChatGPT) que sont le manque de fiabilité dans les réponses et la consommation électrique problématique.

On peut leur reprocher de ne pas être à jour (GPT-4 est désormais le fer de lance des "langageurs"), mais rien de fondamental ne changerait leur dissertation, si ce n'est que les promesses d'hybridation entre GPT-4 et d'autres programmes plus rigoureux devraient se concrétiser (mais on demande toujours à voir).

je me demande avec quel programme plus rigoureux il faudrait "hybrider" GPT-4 pour éviter ce genre de réponse ? (posée à Bing GPT 4)

Quelle est la longueur de la frontière entre le Kirghizistan et l'Afghanistan ?

Selon Wikipédia1, le Kirghizistan a quatre frontières internationales, dont une avec l’Afghanistan. La longueur de la frontière entre le Kirghizistan et l’Afghanistan est de 76 km2. Elle se situe au fond du corridor du Wakhan, une région montagneuse qui forme une queue de poêle au nord-est de l’Afghanistan. Elle est la frontière la plus orientale du Kirghizistan et la plus éloignée du reste du pays et de zones urbaines2.

petit problème la réponse est fausse, le Kirghizistan n'a pas de frontière commune avec l'Afghanistan. Une des références qu'il donne est la recherche par Bing sur "longueur frontière kirghizistan afghanistan", recherche qui renvoie en premier à un article de wikipedia intitulé "Frontière du Kirghizistan" et en deuxième à un article intitulé "Frontières de l'Afghanistan". Aucun des deux ne mentionne évidemment une frontière commune puisqu'elle n'existe pas, mais celui sur l'Afghanistan mentionne bien une frontière de 76 km au fond du couloir de Wakhan, mais avec la Chine. D'où la confusion de Bing qui a mélangé les deux en essayant de répondre.

Un autre exemple que vous pouvez essayer est la recette de spaghetti farci : chatGPT invente une recette "hallucinée" en préparant une farce et en ouvrant les spaghettis en deux pour les garnir de farce, BingGPT donne une recette de "courgette spaghetti " farcie (un type de courgette jaune), mais il ne dit pas que la demande est idiote.

La confusion ne vient donc pas d'un manque de capacité de recherche ou d'information , l'information est bien donnée sous forme exacte dans wikipedia, le couplage avec les pages web est fait. Le problème est dans la synthèse cohérente de cette information. C'est pas en couplant avec Wolfram ou n'importe quel programme déterministe que ça va arranger les choses. Je ne doute pas que des progrès puissent être faits et seront faits dans le futur, mais il y a bien un problème dans la méthode de génération de texte en elle même, pas seulement dans le manque d'information dont elle dispose.

[Liet Kynes]

je me demande avec quel programme plus rigoureux il faudrait "hybrider" GPT-4 pour éviter ce genre de réponse ? (posée à Bing GPT 4)

C'est marrant de poser ce genre de questions alors que la réponse est justement dans le fil.

[yves95210]

C'est marrant de poser ce genre de questions alors que la réponse est justement dans le fil.

Tu es à côté de la plaque, ou tu n'as pas lu le message d'Archi3 jusqu'au bout.
Ou alors il faut que tu nous expliques comment le couplage de GPT avec Wolfram (qui certes devrait lui apporter des capacités de calculs et éviter qu'il se plante en faisant des additions) permettra d'éviter le type d'"hallucination" décrit par Archi3.

Si tu n'es pas capable de nous donner cette explication on risque d'en conclure que certains discours sur l'IA relèvent de la pensée magique...

[pm42]

on risque d'en conclure que certains discours sur l'IA relèvent de la pensée magique...

Coté pensée magique, il me semble que c'est largement réparti et notamment l'obsession de certains à vouloir qu'une IA générationnelle soit capable de te dire "ce n'est pas possible" pour une recette alors que justement, c'est un des intérêts de la technologie et que ça a été expliqué ici de nombreuses fois.
Sinon, pas de textes de fiction, pas de recettes "délirantes" pour des extra-terrestres, pas de Dall-E...

Et tjs en pensée magique/biais, prendre ce que dit Archi3 pour vrai sans le vérifier est pas mal. Parce que quand on demande à GPT-4 très exactement :

"Quelle est la longueur de la frontière entre le Kirghizistan et l'Afghanistan ?"

La réponse est :

"Il semble y avoir une erreur dans votre question. Le Kirghizistan n'a pas de frontière avec l'Afghanistan..."

[jiherve]

Bonjour,
le prompt made in PM42

Quelle est la longueur de la frontière entre le Kirghizistan et l'Afghanistan ?

la reponse GPT4 en mode créatif:

Bonjour, c’est Bing. Selon les résultats de recherche, la longueur de la frontière entre le Kirghizistan et l’Afghanistan est de 76 km1. C’est la frontière la plus orientale de l’Afghanistan et la plus éloignée du reste du pays et de zones urbaines1. Elle se situe au fond du corridor du Wakhan, lequel forme une queue de poêle au nord-est du pays1.

en mode équilibré:

La longueur de la frontière entre le Kirghizistan et l’Afghanistan est d’environ 1 206 km1.

CQFD!!!
JR

[yves95210]

Et tjs en pensée magique/biais, prendre ce que dit Archi3 pour vrai sans le vérifier est pas mal. Parce que quand on demande à GPT-4 très exactement :

"Quelle est la longueur de la frontière entre le Kirghizistan et l'Afghanistan ?"

La réponse est :

"Il semble y avoir une erreur dans votre question. Le Kirghizistan n'a pas de frontière avec l'Afghanistan..."

Et prendre systématiquement Archi3 pour un troll proférant des contre-vérités ?

Je viens de poser exactement la même question (copieé/collé) à Bing/GPT, la réponse est

La longueur de la frontière entre le Kirghizistan et l’Afghanistan est de 76 km1. C’est la frontière la plus orientale de l’Afghanistan et la plus éloignée du reste du pays et de zones urbaines1.

Mais, ce que ni Archi3 ni toi n'avez précisé, j'ai obtenu cette réponse en choisissant le style de conversation "plus équilibré".
En utilisant le style "plus précis", la réponse fournie par Bing/GPT est

D’après mes recherches, le Kirghizistan, un État enclavé d’Asie centrale, a 4 frontières internationales : avec la Chine (858 km), le Kazakhstan (1 051 km), l’Ouzbékistan (1 099 km) et le Tadjikistan (984 km) 1. Cependant, il ne partage pas de frontière avec l’Afghanistan.

[pm42]

Et prendre systématiquement Archi3 pour un troll proférant des contre-vérités ?

Sur l'IA, c'est une bonne description.

Je viens de poser exactement la même question (copieé/collé) à Bing/GPT, la réponse est

Oui, c'est ce que je disais : vous ne faites même pas l'effort d'utiliser GPT-4 en direct et vous donnez votre "avis".

Mais, ce que ni Archi3 ni toi n'avez précisé, j'ai obtenu cette réponse en choisissant le style de conversation "plus équilibré".
En utilisant le style "plus précis", la réponse fournie par Bing/GPT est

Donc il suffit d'utiliser les paramètres adaptés pour avoir la bonne réponse ?
Et quand on demande des réponses "créatives" on les a ?

Mais bien sur, quand quelqu'un donne la réponse récupérée avec les mauvais paramètres, tu le cites tel quel comme un problème ?

Ce n'est pas de la pensée magique, juste la mauvaise foi typique alimentée par le refus de comprendre quelque chose au sujet des discussions sur l'IA, le tout du à la peur. Ca fait pas mal de biais ceci dit.

[yves95210]

Ce n'est pas de la pensée magique, juste la mauvaise foi typique alimentée par le refus de comprendre quelque chose au sujet des discussions sur l'IA, le tout du à la peur. Ca fait pas mal de biais ceci dit.

Je parlais de pensée magique au sujet de la réponse de LK, qui semblait convaincu que l'intégration de Wolfram avec GPT pourrait éviter le type d'erreur relevé par Archi3.

A part ça je n'utilise pas GPT (sous aucun de ses avatars), je n'ai ouvert Bing sur Edge que pour vérifier vos dires à Archi3 et à toi. Je me doutais bien que cela devait avoir un rapport avec le style de conversation utilisé.

Mais (c'est plus un problème de communication de la part de Microsoft ?), quand une propriété de l'agent conversationnel est nommée "style de conversation" on s'attend plutôt à ce que ça porte sur la forme que sur le fond. Et même pour le style "plus équilibré", Bing (ou GPT ?) indique que la discussion sera "informative et amicale".

[jiherve]

Re
Donc si l'on suit ton raisonnement il ne faut pas utiliser la version couplée à Bing, or c'est celle là que le pekin lambda(moi en l’occurrence) utilisera de prime abord, j'en conclue que cet outil (assez étonnant au demeurant) n'est pas à mettre entre toutes les mains, ce que , moi même et d'autres répétons à longueur de fil , ce que tu récuses en utilisant l'argument débile de la peur de la nouveauté.
Pour le réglage Bing est par défaut sur équilibré et déconne un max!
C'est toujours difficile de discuter avec les croyants!
JR

[pm42]

Mais (c'est plus un problème de communication de la part de Microsoft ?), quand une propriété de l'agent conversationnel est nommée "style de conversation" on s'attend plutôt à ce que ça porte sur la forme que sur le fond. Et même pour le style "plus équilibré", Bing (ou GPT ?) indique que la discussion sera "informative et amicale".

Je suggère que du haut de ton immense expertise puisque tu n'utilises pas, tu ailles leur dire que quand Archi3 et toi faites des erreurs, c'est de leur faute.

Tu fais aussi semblant d'oublier que tu as cité Archi3 tel quel sans vérifier qu'il avait tort et que tout simplement il ne sait pas utiliser l'outil et mettre les bons paramètres pourtant indiqués ici souvent.

Vu que le reproche fait à l'IA est de dire "oui mais les gens vont croire sans vérifier alors que ça peut se tromper", il est ironique de croire Archi3 sur parole par contre. Ou alors il ne peut pas se tromper ?

Comme je disais, mauvaise foi à 100%. J'arrête là.

[Avatar10]

Sur l'IA, c'est une bonne description.

Ce que je trouve gênant dans toutes ces discussions sur l'IA, c'est que vous vous posez comme "expert", que vous travaillez dans le domaine de l'Ia c'est possible, mais vous aussi avez fait des affirmations dont on peut fortement douter ( à titre perso, j'ai a plusieurs reprises contre-argumenter en mettant des sources scientifiques de chercheurs en IA par ex, et j'attends toujours des réponses sur le pourquoi vous êtes en contradiction avec ce qu'ils disent...). Du coup, vous donnez votre avis d'"expert", et les autres qui ne sont pas forcément toujours d'accord avec vous, sont des trolls ou autres sobriquets toujours sympathiques et cordiaux, comme ceci:

Ce n'est pas de la pensée magique, juste la mauvaise foi typique alimentée par le refus de comprendre quelque chose au sujet des discussions sur l'IA, le tout du à la peur. Ca fait pas mal de biais ceci dit.

Sinon j'ai une question, quel intérêt d'avoir plusieurs mode avec Bing si deux d'entre eux ne sont pas fiables? Et est-ce précisé dans lce cas que c'est juste du blabla qui donne des informations pourries (surtout pour le mode "plus équilibré")?

[yves95210]

Oui, c'est ce que je disais : vous ne faites même pas l'effort d'utiliser GPT-4 en direct et vous donnez votre "avis".

Ah oui, autre chose : ici je n'ai pas donné un "avis" sur GPT-4 (par ailleurs je ne vois pas pourquoi Microsoft aurait décidé d'en faire une mauvaise utilisation via Bing, et je suppose que le réglage du "style de conversation" offerts à travers Bing ne fait qu'utiliser des paramètres de GPT-4 qu'un utilisateur averti pourrait régler lui-même).

L'avis que j'ai exprimé ne portait que sur la réponse de LK.

Mais c'est toujours plus facile d'attaquer une version volontairement biaisée d'un message (ou d'attaquer personnellement son auteur) que d'y répondre avec des arguments.

Même en sachant que GPT-4 peut être paramétré pour fournir des informations plus précises (et moins imaginatives), tu sais très bien qu'il sera toujours sujet aux "hallucinations" propres à ce type de technologie. Elles seront juste moins fréquentes ou moins grossières (mais du coup moins faciles à détecter...).
J'aimerais donc que LK ou toi m'expliquiez comment son intégration avec Wolfram permettrait d'y échapper (à part évidemment dans le domaine d'expertise de Wolfram).

[Archi3]

comme j'avais bien dit

Je ne doute pas que des progrès puissent être faits et seront faits dans le futur, mais il y a bien un problème dans la méthode de génération de texte en elle même, pas seulement dans le manque d'information dont elle dispose.

je n'ai aucun doute qu'on puisse trouver des solutions pour que l'IA puisse répondre correctement à une question sur la longueur des frontières, ça n'a rien d'un problème insurmontable (on peut d'ailleurs être un peu étonné que GPT-4 fasse ce genre d'erreurs dans certains modes...), tout comme les erreurs sur les filmographies. Ce n'était pas mon point : mon point était que ce n'était pas le couplage avec des logiciels déterministes comme ceux faisant des calculs formels, tout comme ce n'était pas le simple couplage avec des pages web, qui allait résoudre magiquement tous les problèmes et faire une formule magique assurant qu'il n'y a pas d'erreur.

Je veux bien admettre qu'il réponde plus correctement dans certains modes, mais si il existe plusieurs modes, c'est certainement que ces modes ont d'autres inconvénients par ailleurs. Le problème de l'utilisateur sera donc de savoir par avance quel mode choisir pour avoir la bonne réponse, ce qu'il ne peut évidemment pas savoir si il ne la connait pas lui même....

[ThM55]

J'ai lu la page de Wolfram sur son plugin chatGPT. Il n'y a là pas du tout de pensée magique, cette page explique clairement ce que se passe. Je cite:

How did this work? Under the hood, ChatGPT is formulating a query for Wolfram|Alpha—then sending it to Wolfram|Alpha for computation, and then “deciding what to say” based on reading the results it got back.

Franchement, à la lecture des infos de Wolfram, je ne vois rien de mystérieux ni de "magique". C'est en fait l'utilisation des capacités langagières du GPT pour interagir de manière plus riche avec Wolfram Alpha. C'est intéressant, comme pas mal d'applications de GPT4. Il faut vraiment lire ce texte et examiner les exemples. C'est même à mon avis une source d'inspiration pour d'autres applications auxquelles je pense...

[Archi3]

j'ai pas de souci avec ça, je disais juste que les difficultés de GPT-4 ou des IA conversationnelles en général n'étaient pas toutes d'une nature telles qu'elles seraient résolues par un couplage avec un programme de calcul numérique ou formel. Le "magique" était juste employé pour " solution qui résoudrait magiquement tous les problèmes".

[Liet Kynes]

Tu es à côté de la plaque, ou tu n'as pas lu le message d'Archi3 jusqu'au bout.
Ou alors il faut que tu nous expliques comment le couplage de GPT avec Wolfram (qui certes devrait lui apporter des capacités de calculs et éviter qu'il se plante en faisant des additions) permettra d'éviter le type d'"hallucination" décrit par Archi3.

Si tu n'es pas capable de nous donner cette explication on risque d'en conclure que certains discours sur l'IA relèvent de la pensée magique...

Le couplage GPT4/Wolfram résout une grande partie des problèmes. Ensuite concernant les modes de BING: utiliser un outil perfectionné sans lire le mode d'emploi c'est possible :

[Liet Kynes]

J'ai lu la page de Wolfram sur son plugin chatGPT. Il n'y a là pas du tout de pensée magique, cette page explique clairement ce que se passe. Je cite:



Franchement, à la lecture des infos de Wolfram, je ne vois rien de mystérieux ni de "magique". C'est en fait l'utilisation des capacités langagières du GPT pour interagir de manière plus riche avec Wolfram Alpha. C'est intéressant, comme pas mal d'applications de GPT4. Il faut vraiment lire ce texte et examiner les exemples. C'est même à mon avis une source d'inspiration pour d'autres applications auxquelles je pense...

C'est bien là le sens de ma réponse à Archi3.

[jiherve]

Bonsoir
Quel mode d'emploi, je ne l'ai pas trouvé; Pourtant il n'existe que trois choix!
JR

[Liet Kynes]

Bonsoir
Quel mode d'emploi, je ne l'ai pas trouvé; Pourtant il n'existe que trois choix!
JR

Il ne te reste qu'à découper du saucisson.. dommage

[jiherve]

Re

Il ne te reste qu'à découper du saucisson.. dommage

Pour çà je suis équipé( je viens de me faire une petite rondelle) mais d'un instrument à ne pas non plus mettre entre toutes les mains, des doigts pourraient tomber!
en restant serieux l'aurais tu trouvé , si oui il faut faire partager, si non on se tait!
JR

[Liet Kynes]

pm42 a tenté un début d'explication: fais le test de très mal formuler une question, en mode précis l'IA renvoie une fin de non recevoir (l'IA renvoie "j'entrave pas ton baratin, peux tu être moins con dans ta formulation"), en mode créatif il y a un élargissement sémantique, une "traduction" de ce qui a peut-être était dit par l'utilisateur et une génération de réponse. Cela permet déjà à ce genre de question d'être prise en compte, reformuler et affiner. Il faut expérimenter, c'est pour cela qu'il ne peut y avoir de mode d'emploi, expérimenter la planche à découper "Ipad" c'est par exemple s'apercevoir qu'il y a des boutons dessus.
La notion de compréhension de ce que l'on dit nous même est en fait très relative, notre sémantique commune n'est pas si commune que ce à quoi on peut s'attendre. Le langage naturel n'est pas formel (et perso je pense que même le "formel" est relmatif) à partir de là l'IA conversationnelle possède des ensembles sémantiques. Ce domaine est trans-disciplinaire et peut-être le plus complexe à ce jour: il faut du temps pour ingérer les choses et garder de la souplesse d'esprit: le temps des définitions confortables est peut-être révolu.

[jiherve]

re
tu as ecrit :

utiliser un outil perfectionné sans lire le mode d'emploi c'est possible :

et tu ecris :

Il faut expérimenter, c'est pour cela qu'il ne peut y avoir de mode d'emploi

ne serait ce pas contradictoire?
JR

[Liet Kynes]

Dans un mode créatif, cela peut ne pas être contradictoire.

[Archi3]

pm42 a tenté un début d'explication: fais le test de très mal formuler une question, en mode précis l'IA renvoie une fin de non recevoir (l'IA renvoie "j'entrave pas ton baratin, peux tu être moins con dans ta formulation")

pm42 et toi même avez aussi donné plusieurs exemples de questions bien formulées, auxquelles une IA avait répondu, réponse que vous avez considéré a priori comme juste, alors qu'elle était fausse. Il a fallu que d'autres personnes vous le disent pour que vous vous en rendiez compte. Donc le danger de ne pas bien "lire le mode d'emploi" est réel, y compris pour vous.

[Liet Kynes]

pm42 et toi même avez aussi donné plusieurs exemples de questions bien formulées, auxquelles une IA avait répondu, réponse que vous avez considéré a priori comme juste, alors qu'elle était fausse. Il a fallu que d'autres personnes vous le disent pour que vous vous en rendiez compte. Donc le danger de ne pas bien "lire le mode d'emploi" est réel, y compris pour vous.

De même que tu as crédité comme fiable une étude complètement bidon sortie de Cureus pour laquelle tu as jugé, je te cite :
"J'ai assez d'expérience dans la lecture des articles scientifiques pour me faire un avis assez rapide sur la qualité générale des études : quand on a plusieurs auteurs, une méthodologie bien décrite, une analyse des principaux biais potentiels , une prudence dans les conclusions, ça fait plus sérieux qu'une étude à un seul auteur prenant un ton polémique. Après, analyser le détail de la méthodologie, les possibles biais statistiques, etc ..., ça devient du travail de spécialiste qui est probablement hors de ma portée. Donc pour moi ça me parait une attitude saine de donner mon avis en précisant la position d'où je parle, qui n'en fait pas un avis de spécialiste : je dis juste que je ne décèle pas en première lecture d'alerte rouge rendant l'article a priori suspect de partialité, mais tu peux avoir un avis différent et expliquer pourquoi ."

[pm42]

C'est surtout qu'il ment : les réponses étaient exactes, certains aspects étaient incorrects comme des liens...

Mais de toute manière, on va rester bloqué sur "les trains vont étouffer les passagers dans les tunnels".