ChatGPT peut se tromper mais le reconnaît poliment

[pm42]

Qui dit que c'est un google killer ?

La presse qui fait du sensationnalisme alors que comme le disait Yann Le Cun cité plus haut, OpenAI n'est pas le seul à avoir cette techno.
Ceci dit et on se répète, Google considère que c'est la prochaine étape des moteurs de recherche, c'est à dire de ne pas être seulement capables de donner une liste de lien mais aussi de faire une synthèse.

Historiquement, on est passé de "chacun garde ses signets" à "on a un site avec plein de signets", la 1ère version de Yahoo suivi de "on cherche dedans vaguement" à "on cherche très efficacement" de Google et son page ranking suivi d'évolutions incrémentales.

Et on parle de besoins très différents : celui qui consiste à récupérer de l'information en masse détaillée et d'aller chercher dedans soi-même celle qui est pertinente. Ca, on a aujourd'hui.

Un autre qui consiste à répondre à plein de questions où la réponse tient en une ligne : on a aussi ça dans Google aujourd'hui même si c'est imparfait. Cela doit être la majorité de leurs requêtes "grand public".

Le but est d'aller plus loin en étant capable de fournir un résumé/synthèse de l'information dispersée.
J'avais déjà donné l'exemple de "que visiter à Helsinki ?" ou ChatGTP fournit immédiatement une liste pertinente et argumentée alors que par défaut, on lit plusieurs sites pour se faire une idée et une "moyenne" de leurs recommandations.
Il y a de très nombreux cas où cette approche s'avèrerait efficace.

Un autre cas et de "lire" la réponse. J'utilise pas mal les assistants vocaux chez moi et pouvoir poser des questions à haute voix et avoir la réponse est pratique. Mais dès qu'on pose une question où la réponse est le résultat d'une recherche, on est coincé : il faut repasser par un ordinateur ou téléphone.
Il serait pratique là aussi d'écouter la synthèse.
Et même si les dits assistants vocaux ne sont pas forcément répandus en Europe, aux US, ils sont déjà utilisés par plus de 40% de la population.
-----

[Bounoume]

Et on parle de besoins très différents : celui qui consiste à récupérer de l'information en masse détaillée et d'aller chercher dedans soi-même celle qui est pertinente. Ca, on a aujourd'hui.

ce qui permet d'en évaluer la pertinence et de virer complotistes et ufologues et naturopathes et autres bestiaux...... alors que si c'est petit Chat qui le dit, on ne peut pas trier, alors qu''on n' a aucun contrôle sur sa façon d' évaluer les informations.... : biais, classification des sources, raisonnements sur les contenus, et éventuelle censure...


par contre effectivement, pour trouver rapidement les curiosités à visiter au Mexique, par exemple, ça peut même être bien mieux qu'une recherche superficielle sur les sites ad hoc.... même en ajoutant les trucs à la mode à la TV....et les réseaux...

[Deedee81]

La presse

Merci. Ah là, je suis pas surpris

[ArchoZaure]

Google Killer je ne pense pas non plus.
Les gens seront vite déçus à mon avis puisque ChatGPT produit des synthèses ce qui amène à un discours unique et très généraliste.
Du moins c'est l'impression que ça donne lorsqu'on l'utilise un peu.
C'est un peu comme si le monde était normalisé et que ChatGPT produisait une "normalisation de l'offre".

De plus et de l'autre côté on risque par ce même principe de normalisation que l'IA ne comprenne pas les demandes des utilisateurs.
Et s'il n'y a pas moyen de contourner cette "normalisation de la demande" ou qu'il soit nécessaire de luter pour faire comprendre à cette (foutu ) machine (j'anticipe) ce qu'on attend d'elle, alors les utilisateurs seront déçus.
Pareil pour les sources codes produites par l'IA : C'est beau c'est bien mais après faut obligatoirement passer derrière pour vérifier ajuster et enlever les trucs inutiles ou stupides.
D'autant que si on demande deux fois la même chose même si les réponses sont proches on n'a pas la même réponse, ce qui demande de vérifier à chaque fois.

Au niveau productivité d'après ce que j'ai pu en voir je dirais que ça se vaut avec la recherche des codes sources produits par des individus et retrouvés sur internet.
Et même, pour ChatGPT, sachant qu'on va avoir affaire à Microsoft en tant qu'actionnaire majoritaire, on connait à peu près la politique de cette société pour ce qui est de la propriété intellectuelle des codes informatiques.
Là à terme ce serait le rêve : Copropriétaire du code source de toutes les sociétés qui ont fait appel à son IA ? Bon sur ce point faut voir je ne connais pas les contrats que M$ fera passer aux sociétés d’éditions.

Par contre un bon point c'est la possibilité de faire rédiger des trucs de routine (éventuellement sans vérification humaine si c'est pas trop sensible), des genre de "patrons" (pareil pour le code informatique finalement) qu'on peut même et pourquoi pas utiliser en conjonctions avec des bases de données pour faire du "publipostage".
Les services marketing seront ravis.

[pm42]

Les gens seront vite déçus à mon avis

Pour le moment, c'est le contraire et ton avis semble peu étayé.

puisque ChatGPT produit des synthèses ce qui amène à un discours unique et très généraliste.

C'est parfois ce que l'on veut et cela suppose qu'il reste seul sur le marché alors qu'on sait que ce ne sera pas le cas. On pourra donc choisir son outil en fonction du résultat attendu et pour reprendre les remarques plus haut, on aura sans doute à terme de IA compatibles avec telle ou telle religion ou homophobes dans les pays où c'est la norme par exemple.

C'est un peu comme si le monde était normalisé et que ChatGPT produisait une "normalisation de l'offre".
De plus et de l'autre côté on risque par ce même principe de normalisation que l'IA ne comprenne pas les demandes des utilisateurs.
Et s'il n'y a pas moyen de contourner cette "normalisation de la demande" ou qu'il soit nécessaire de luter pour faire comprendre à cette (foutu ) machine (j'anticipe) ce qu'on attend d'elle, alors les utilisateurs seront déçus.

Affirmations gratuites, théorie perso, etc.

Pareil pour les sources codes produites par l'IA : C'est beau c'est bien mais après faut obligatoirement passer derrière pour vérifier ajuster et enlever les trucs inutiles ou stupides.

C'est pareil avec les humains, c'est pour ça qu'on fait du code-review. C'est pareil avec la traduction automatique.
La question est le gain de productivité entre relire/corriger vs écrire et la réponse est : il est important.

D'autant que si on demande deux fois la même chose même si les réponses sont proches on n'a pas la même réponse, ce qui demande de vérifier à chaque fois.

C'est pareil avec les humains.

je dirais que

Affirmation gratuite et opinion personnelle...

Et même, pour ChatGPT, sachant qu'on va avoir affaire à Microsoft en tant qu'actionnaire majoritaire, on connait à peu près la politique de cette société pour ce qui est de la propriété intellectuelle des codes informatiques.
Là à terme ce serait le rêve : Copropriétaire du code source de toutes les sociétés qui ont fait appel à son IA ? Bon sur ce point faut voir je ne connais pas les contrats que M$ fera passer aux sociétés d’éditions.

Théorie du complot qui ne tient pas la route à tous niveaux y compris juridique.

[ThM55]

Mon but initial en créant ce fil était de mieux comprendre les limitations de chatGPT. J'avais remarqué avec amusement qu'il acceptait mes remarques disant qu'il se trompait. J'avais vérifié qu'il n'était pas efficace pour la logique ou les maths, mais qu'on pouvait lui signaler ses erreurs et qu'il prétendait les comprendre. Suite à cela on m'a fait un bizarre procès d'intention auquel je n'ai rien compris, alors que je ne faisais que vérifier concrètement les points signalés par openAI eux-même et que je ne voulais pas du tout minimiser ou dénigrer ce produit (je suis retraité, je n'ai absolument aucun intérêt professionnel dans ce domaine, même si dans ma carrière d'ingénieur passée j'ai été amené à apprendre des techniques d'AI et de ML et de les appliquer occasionnellement dans le domaine de la sécurité). Mais bon, peu importe. Je suis très étonné que ce fil ait atteint plus de 400 réponses et si on s'en tient à mon intention initiale d'illustrer les limitations, je pense qu'on en a fait le tour, et même plusieurs fois. Si on ferme ce fil, je comprendrais parfaitement.

[pm42]

Suite à cela on m'a fait un bizarre procès d'intention auquel je n'ai rien compris

Parce que quand tu disais que c'était un Eliza un peu mieux et finalement nul avant de changer d'avis, tu ne penses pas que c'était problématique ?

Que juger sans connaitre ni comprendre dans un domaine où on n'a pas d'expertise est une attitude scientifique d'après toi ?

Comme quand tu disais :

Finalement, est-ce tellement plus sophistiqué que l'ancien Elisa des années 1980 et qui tournait sur de petits ordis à 16 kilobytes de RAM?

Sans même parler du fait que la plupart des remarques initiales traduisaient le fait que les "testeurs" n'avaient pas fait l'effort de comprendre ce que peut faire ou pas un chatbot et s'obstinaient à lui demander de faire des raisonnements scientifiques avant de s'étonner que ce ne soit pas une IA forte...
Réécrire l'histoire n'est pas non plus une attitude scientifique.

[roro222]

De plus et de l'autre côté on risque par ce même principe de normalisation que l'IA ne comprenne pas les demandes des utilisateurs.
Et s'il n'y a pas moyen de contourner cette "normalisation de la demande" ou qu'il soit nécessaire de luter pour faire comprendre à cette (foutu ) machine (j'anticipe) ce qu'on attend d'elle, alors les utilisateurs seront déçus.

Salut
C'est vrais que cette foutu machine ne pige rien à ce qu'on lui demande

1Ni oui ni non chat GPT.png
la suite
2Ni oui ni non chat GPT.jpg

[Deedee81]

Après examen, deux discussions avaient déjà été fermées et d'autres sont ouvertes mais dans des forums plus "ciblés".

Donc on laisse ouvert.

Mais, s'il vous plaît, essayez de recentrer :
- on est très largement hors sujet (enfin, pas le message de roro222 qui parle justement du sujet initial)
- plus de la moitié des messages sont des propos de comptoir : avis personnels sans justification par des références ou bien ça tourne en rond.

Je sens même des agacements. Donc essayez aussi de vous calmer.

Merci,

[Archi3]

Salut
C'est vrais que cette foutu machine ne pige rien à ce qu'on lui demande

c'est attendrissant tous les efforts que font les humains pour lui faire comprendre ses erreurs, et lui donner une chance de se rattraper quand même. On dirait des parents qui aident leurs enfants, ou qui leur trouvent des excuses quand ils font des bêtises (mais il est encore petit, c'est ses copains d'école qui lui ont appris des gros mots, etc ...)

[evrardo]

Pareil pour les sources codes produites par l'IA : C'est beau c'est bien mais après faut obligatoirement passer derrière pour vérifier ajuster et enlever les trucs inutiles ou stupides..

Exact, il est très limité dès qu'on lui demande une aide sur des langages peu employés. Il donne un code très général, souvent pas à jour, et inutilisable.
C'est peut être bien pour un programmeur qui connait bien un langage, il n'aura plus qu'à corriger les éventuelles erreurs de GPT.

[ArchoZaure]

c'est attendrissant tous les efforts que font les humains pour lui faire comprendre ses erreurs, et lui donner une chance de se rattraper quand même. On dirait des parents qui aident leurs enfants, ou qui leur trouvent des excuses quand ils font des bêtises (mais il est encore petit, c'est ses copains d'école qui lui ont appris des gros mots, etc ...)

Exact. Et tout le monde qui l'a un peu pratiqué le constatera aisément.

Non pas qu'il ne comprenne pas les erreurs qu'on lui pointe...
Mais il faut lui montrer ses erreurs pour obtenir... finalement la réponse qu'on attendait.
Donc du coup ça laisse de la marge pour obtenir les réponses qu'on n'est pas en mesure de corriger.

Un exemple amusant :

Alain Martin
Le père Noel officie la messe le 24 Decembre. Va-t-il faire des cadeaux ?

ChatGPT
Le Père Noël n'officie pas la messe le 24 décembre. Il est traditionnellement considéré comme le personnage qui apporte des cadeaux aux enfants le soir du 24 décembre, en particulier en France, en Belgique, au Canada et aux États-Unis. Cependant, il est important de noter que cette tradition varie d'un pays à l'autre et de certaines croyances religieuses.

Alain Martin
Oui mais le père Noel est un prêtre. Va-t-il faire des cadeaux ?

ChatGPT
Il n'y a pas de lien officiel entre le Père Noël et le clergé. Le Père Noël est un personnage folklorique qui est souvent associé à la fête de Noël, qui célèbre la naissance de Jésus-Christ. Il est traditionnellement considéré comme celui qui apporte des cadeaux aux enfants le soir du 24 décembre. Il est donc tout à fait possible que des prêtres ou des personnes qui se déguisent en Père Noël distribuent des cadeaux dans leur communauté ou dans des centres pour enfants en difficulté.

Alain Martin
Oui mais le père s’appelle Noel. Va-t-il faire des cadeaux ?

ChatGPT
Je comprends maintenant que vous voulez savoir si un prêtre nommé Noël va distribuer des cadeaux. Je n'ai pas suffisamment d'informations pour répondre à cette question de manière précise. En général, les prêtres sont impliqués dans des activités religieuses et spirituelles plutôt que dans la distribution de cadeaux. Cependant, il est possible qu'un prêtre nommé Noël participe à des activités de bienfaisance ou de service communautaire qui impliquent la distribution de cadeaux.

C'est quand il ne comprend pas des trucs élémentaires directement qu'on fini pas s'exaspérer.
Pourquoi il ne nous pose pas des questions pour valider ses doutes ?
Là à la limite ça deviendrait un peu moins pénible.

[Deedee81]

limité [...] sur des langages peu employés

D'un côté, c'est quand même assez logique

[Deedee81]

C'est quand il ne comprend pas des trucs élémentaires directement qu'on fini pas s'exaspérer.
Pourquoi il ne nous pose pas des questions pour valider ses doutes ?
Là à la limite ça deviendrait un peu moins pénible.

Là franchement j'aurais répondu comme lui. Et je n'aurais ni douté ni tilté avant ta dernère question. Ce qui est assez bluffant d'ailleurs. Quand on dit "père Noël" on n'a vraiment pas l'intuition d'un père = prêtre qui s'appellerait justement Noël (même si je suis sûr qu'il doit en exister ).

[ArchoZaure]

Là franchement j'aurais répondu comme lui. Et je n'aurais ni douté ni tilté avant ta dernère question. Ce qui est assez bluffant d'ailleurs. Quand on dit "père Noël" on n'a vraiment pas l'intuition d'un père = prêtre qui s'appellerait justement Noël (même si je suis sûr qu'il doit en exister ).

Non mais on dit que le père officie donc c'est pas le père Noel des mythes.
D'ailleurs au bout de deux corrections il finit par s'excuser et comprend.
C'est une fois de trop...
Mais c'est normal pour une machine limitée, ce qui ne consolera pas les utilisateurs.

Maintenant il est vrai qu'une question doit pouvoir être éclaircie.
Le problème c'est que si on doit le faire par écrit c'est laborieux.
Et le problème si on doit le faire par oral c'est que c'est aléatoire.
Problème insoluble pour le moment.

[JPL]

Pinaillages sans intérêt. Merci de laisser les mouches vivre leur vie comme elles l’entendent.

[ArchoZaure]

Vous remarquerez d'ailleurs que ChatGPT a des problèmes pour distinguer le cas général du cas particulier.

Normalement un être normalement constitué (QI supérieur à 80 environ) sait facilement faire la distinction entre le prêtre particulier dont on parle et la catégorie prêtre, et là on ne peut rien en dire.
Inutile de nous asséner la condition générale des prêtres : Il lui aurait suffit de dire qu'on a affaire à un cas particulier, le père ici qui s’appelle Noel et l'affaire est bouclée.
Au lieu de ça il nous sort un truc imbitable pour le commun des mortels. Non le truc c'est que le prêtre il est libre le faire ce qu'il veut.

PS: Pinaillages sans intérêt. Merci de laisser les mouches vivre leur vie comme elles l’entendent.

Vous parlez de la mouche ChatGPT ?

[Deedee81]

Non mais on dit que le père officie donc c'est pas le père Noel des mythes.

Justement, moi non plus je ne l'avais pas compris comme ça et mon premier réflexe a été de dire "c'est impossible".
Tandis que "le père s’appelle Noel" m'a fait comprendre ce que tu avais en tête (car on ne dit jamais ça du père Noël d'où => tilt).

Tout comme ChatGPT.

Maintenant je ne peux pas généraliser ma compréhension à tout le monde évidemment (et toi non plus, tu as un énorme biais : toi tu sais très bien ce que tu voulais dire ).
Faudrait que d'autres donnent leur avis, a minima.

Mais je suis d'accord, la machine est limitée .... sans doute d'ailleurs par son apprentissage.... et cela peut (peut-être) expliquer ses limites "humaines" (les données viennent de textes rédigés par des humains). Bon, là j'intuite, ça reste à vérifier.

Ces difficultés ne sont peut-être pas insoluble mais je dois t'avouer que je ne sais pas ce qu'il faudrait faire. Un spécialiste de l'IA aurait peut-être un avis, je n'en sais rien.

[ArchoZaure]

Non mais je vais vous donner un autre exemple :

Pourquoi les requins font des bulles dans l'eau ?

ChatGPT
Les requins font des bulles dans l'eau pour plusieurs raisons. L'une d'elles est qu'ils utilisent des bulles pour chasser leur proie. Les bulles peuvent perturber les sens des poissons et des crustacés, rendant plus difficile pour eux de détecter la présence du requin. Les bulles peuvent également servir de camouflage, en aidant le requin à se fondre dans l'environnement. Les requins peuvent également utiliser des bulles pour communiquer avec d'autres requins ou pour marquer leur territoire.

CQFD.

Bon là j'ai pas voulu l'emmerder avec les dauphins... la flemme.

[ArchoZaure]

Allez un autre. Faut être créatif (j'en ai testé plein des comme ça).

Alain Martin
En combien de temps je peux traverser la Manche en vélo ?

ChatGPT
Il est difficile de donner un temps précis pour traverser la Manche en vélo, car cela dépendra de plusieurs facteurs tels que le parcours emprunté, les conditions météorologiques et le niveau de forme physique de la personne qui traverse. Cependant, il est généralement possible de traverser la Manche en vélo en une journée si vous prenez un ferry pour traverser la mer. Il est important de noter que cela peut être un défi physique et il est recommandé de bien se préparer avant de tenter l'expérience.

Ne pas mettre cet outil dans les mains d'un enfants, c'est tout ce que j'aurai à ajouter.

[JPL]

Tu n’en as pas marre de ces pinaillages débiles ? Moi si ! Va poster ça sur n’importe quel autre réseau social, mais pas ici !

[ArchoZaure]

Tu n’en as pas marre de ces pinaillages débiles ? Moi si ! Va poster ça sur n’importe quel autre réseau social, mais pas ici !

Pourtant on est exactement dans le sujet.
Le ChatGPT se trompe facilement.
Mais si vous l'aidez à creuser la vérité il fini par admettre son erreur.
C'est pas ça le sujet ?

Mais vous avez raison je vais voir ailleurs un bon bout de temps.
C'est quand même vous le responsable des forums. Faut pas déconner.

[ThM55]

D'accord avec tout cela, cet outil ne fait pas de la logique, il manipule le langage, sans tenir compte du sens commun. C'est exactement ce que j'avais trouvé en lui faisant faire des démonstrations mathématiques ou d'autres exercices rigolos.

C'est par contre un bon outil pour produire des poèmes surréalistes. Plus tard , s'ils arrivent à le coupler avec des IA plus spécialisées et plus performantes pour la logique ou les connaissances élémentaires communes, comme par exemple celle du fait qu'un vélo ne flotte pas , il pourra servir de très bonne interface en langage naturel.

[pm42]

D'accord avec tout cela, cet outil ne fait pas de la logique, il manipule le langage

Mince alors ? Et l'eau froide mouille aussi ?
En plus, c'est vraiment étonnant qu'un outil qui s'appelle anglophone Chat quelque chose et est un chatbot manipule le langage et ne fasse pas de logique. Qui aurait pu s'y attendre ?
C'est sans doute pour ça qu'on lui a demandé au début du fil de faire de la logique ceci dit.

Plus tard , s'ils arrivent à le coupler avec des IA plus spécialisées et plus performantes pour la logique ou les connaissances élémentaires communes, comme par exemple celle du fait qu'un vélo ne flotte pas , il pourra servir de très bonne interface en langage naturel.

On boucle un peu sur "comment parler de l'IA sans rien y connaitre".

Parce que justement, le "truc plus spécialisé" et surtout "les connaissances élémentaires communes" dans le cas présent, c'est d'avoir un modèle du monde et ça, c'est précisément ce qu'on ne sait pas faire, ce dont on ne sait pas si c'est possible sans avoir un corps et des sens et un expérience de la réalité physique et un des obstacles pour faire une IA forte.

C'est un peu comme de dire "si on arrive à faire une théorie de grande unification et à manipuler la gravité" ou "si on arrive à dépasser la vitesse de la lumière"...

[Deedee81]

Je sens que le sujet s'épuise vitesse grand V. Bon, on verra dimanche ou lundi, Non week-end

[ThM55]

J'ai toujours un peu de mal à comprendre le manque d'aménité de tes réponses à mes messages. Je répondais à ArchoZaure à propos de ses exemple marins qui prétendaient "piéger" chatGPT, en lui demandant de faire des déductions logique et je ne prétendais pas avoir "découvert que l'eau mouille". Je suis déçu de constater qu'il n'est plus possible de réfuter un argument ici de manière courtoise et je vais finir par me sentir obligé de masquer tes messages.

[pm42]

J'ai toujours un peu de mal à comprendre le manque d'aménité de tes réponses à mes messages.

J'ai toujours du mal avec les gens qui donnent leur avis sur un sujet sans avoir fait l'effort de lire une page de vulgarisation sur le sujet et qui expliquent ce qu'il faudrait faire pour trouver une solution à un problème sur lequel un paquet de chercheurs très bien formés, très intelligents travaillent depuis longtemps sans avoir aucune idée des obstacles, solutions envisagées, etc bref qui se contentent d'un yakafokon comme ci-dessus.

Bref, de balancer des à-priori basé sur leur expérience perso de 2 minutes en tout plutôt que d'essayer d'apprendre.
Donc oui, je reconnais que je manque d'aménité face à ce comportement surtout quand il est répétitif et que s'être trompé déjà n fois ne pousse pas la personne à se poser des question.
C'est très mal, un immense défaut et j'irai en enfer je n'en doute pas Mais en ayant dit un peu moins de conneries que d'autres normalement ou en tout en ayant essayé.

[ThM55]

qui se contentent d'un yakafokon comme ci-dessus

Ce n'est pas un yakafokon, c'est une remarque faite par un chercheur éminent dans ce domaine et que j'ai simplement reproduite (je ne sais plus si c'est sur Futura ou ailleurs dans la presse et d'ailleurs tout cela ne me motive pas à encore perdre du temps à retrouver la référence).

Cela dit, je n'ai fait que répondre (poliment et avec la courtoisie que mes parents m'ont apprise) à ArchoSaure, qui a réussi à piéger un programme qui ignore que le vélo ne flotte pas, c'est tout. Désolé mais je ne vois pas ce qu'il y a de faux ou de mal informé dans ma réponse et il n'y a aucune raison pour que je la modifie.

[pm42]

Désolé mais je ne vois pas ce qu'il y a de faux ou de mal informé dans ma réponse et il n'y a aucune raison pour que je la modifie.

Oui, c'est comme les remarques sur Eliza. C'est ce que je disais : tu ne connais pas le sujet mais tu recopies des choses sans les comprendre ni donner de référence et vu que tu ne vois pas où est le problème dans ton erreur (normal, c'est ce qui arrive quand on parle de ce qu'on ne connait pas, on ne voit pas ses erreurs), tu te dis que tout va bien.
Comme je disais, plus anti-scientifique comme attitude, c'est difficile.
Mais à chacun son jeu de valeur : le tien est de dire n'importe quoi poliment, le mien est un poil différent.
Ce qui conclue ce que j'ai à dire sur ce sujet.

[Archi3]

Tu n’en as pas marre de ces pinaillages débiles ? Moi si ! Va poster ça sur n’importe quel autre réseau social, mais pas ici !

moi je trouve ça intéressant pour délimiter ce qu'il peut faire ou non, il faut justement explorer les frontières, c'est à dire là où il commence à dire n'importe quoi.

#### critique de la modération

Tiens on pourrait demander à ChatGPT si il pense que les différents posts sont agressifs ou pas, ça pourrait être rigolo