ChatGPT peut se tromper mais le reconnaît poliment

[stefjm]

Si oui, on ne pourra plus faire la différence avec un étudiant.
-----

[Archi3]

par le fait qu'il a les mêmes performances le vendredi matin peut être ?

[Morteen]

Je te remercie pour ton analyse, je ne doute pas que tu aies raison, je n'ai pas étudié GPT.
Je remarque tout de même que lorsque je lui fais remarquer que nous n'avons pas les JDB de Colomb contrairement à ce qu'il affirme dans sa première réponse, il le reconnait et précise les noms de plusieurs auteurs de comptes rendus (plus ou moins crédibles, mais c'est un autre problème). C'est ce que j'appelais (maladroitement donc) de manière argumentée.

[pm42]

Je te remercie pour ton analyse

Ce n'est pas une analyse, c'est la nième variante de "oui mais ce n'est pas une IA forte".
Ce qu'on sait depuis le début.
Mais cela n'empêche pas certains de passer leur temps à dire "oui mais le vélo là, il est peut-être mieux que les précédents il n'a pas de moteur ni de coffre donc ce n'est pas une voiture".

[Archi3]

oui mais ces informations existent sur le net, donc il les "connait". Fonctionnant de manière probabiliste, il peut faire des erreurs, puis les corriger quand tu les signales en prenant en compte des remarques, qu'il lie à d'autres éléments du corpus. Le problème comme j'ai dit est qu'il peut aussi tout aussi bien prendre en compte des remarques de ta part qui sont fausses (peut être accorde-t-il un poids trop important à ce qu'on lui dit dans la conversation pour avoir l'air "de suivre" ?). Il peut aussi par exemple écrire des absurdités mathématiques (ce qui fait bizarre quand ça vient d'un ordinateur).

[Archi3]

Ce n'est pas une analyse, c'est la nième variante de "oui mais ce n'est pas une IA forte".
Ce qu'on sait depuis le début.
Mais cela n'empêche pas certains de passer leur temps à dire "oui mais le vélo là, il est peut-être mieux que les précédents il n'a pas de moteur ni de coffre donc ce n'est pas une voiture".

c'est néanmoins une réponse correcte à faire à ceux qui penseraient que c'est une voiture, par exemple parce qu'il a un carénage .

[pachacamac]

"de rien" n'est pas français ? c'est quand même couramment utilisé en français et en espagnol: gracias - de nada.
Cela a le sens de c’était rien pour moi ( ou rien = quasi rien)
Je te trouve un peu vache avec ChatGpt

[ArchoZaure]

Et inutile de lui dire Merci...
Vous le faites lorsque votre PC envoi votre mail ?
Oui je sais face à "une machine qui parle" il se peut qu'il y ait un temps d'adaptation.

[Archi3]

Un avis de quelqu'un qu'on ne peut pas soupçonner de parler en dehors de son domaine de compétences ...

https://www.01net.com/actualites/il-...r-chatgpt.html

[Deedee81]

Salut,

Merci, très intéressant. On retiendra quand même le "bien ficelé" (vont pas faire leur pub avec un truc mal foutu). Mais le pas innovant est certainement important à pointer du doigt.

[pm42]

Merci, très intéressant. On retiendra quand même le "bien ficelé" (vont pas faire leur pub avec un truc mal foutu). Mais le pas innovant est certainement important à pointer du doigt.

En fait, c'est plus subtil. On sait que d'autres boites ont une technologie équivalente en effet mais qu'ils ne la mettent pas en accès public entre autre à cause des problèmes de réponses "socialement inacceptables" déjà évoqués plusieurs fois dans ce fil.
Et Yann Le Cun s'est aussi confronté à ça.

Ceci dit, ce qu'il dit est parfaitement vrai : ChatGPT est le successeur d'une lignée de ChatBot, les technologies sont connues, etc.
Et la presse présente cela comme un truc extraordinaire pour vendre, rien de nouveau.

Mais ce qui est ironique, c'est que son interview a été là aussi présentée par des titres sans nuance qui laissent penser qu'il regarde ça de haut.
Il a donc publié un rectificatif qui lui ne sera sans doute pas repris massivement :

Je ne veux pas critiquer le travail d’OpenAI, ni leurs déclarations. J’essaie de corriger la perception du public et des médias qui voient ChatGPT comme une invention incroyable, nouvelle, innovante et unique, loin devant tous les autres. Ce n’est pas du tout le cas »

https://twitter.com/ylecun/status/1617921903934726144

Là aussi, on rejoint ce qui a été dit dès le début du fil notamment sur les travaux de Google dans le domaine pour alimenter son moteur de recherche. Une partie simplifiée est déjà en production notamment pour les suggestions de complétions je crois qui ne sont plus faites par des algos statistiques classiques.


On peut noter que ce n'est pas la 1ère fois qu'il fait ce genre de déclaration sont typiques d'un scientifique qui voit loin et large : il essaie de rétablir les faits dans un monde médiatique qui est dans l'hyperbole, l'émotionnel, la simplification et la polémique.

A l'époque où AlphaGo avait gagné contre le champion du monde, il avait expliqué "qu'on n'avait pas encore une vraie IA", i.e. une IA forte.
Parce que son objectif, c'est celui là et il fait penser à Werner von Braun qui voulait la Lune et n'était pas intéressé par le reste sauf en temps qu'étapes pour y arriver (y compris la guerre de son pays et l'avoir dit à l'époque lui avait valu quelques ennuis).

[evrardo]

Salut,

Merci, très intéressant. On retiendra quand même le "bien ficelé" (vont pas faire leur pub avec un truc mal foutu). Mais le pas innovant est certainement important à pointer du doigt.

Comment ça pas innovant?
J'ai besoin d'un bout de code en Vba pour une macro sur Word Office, je demande à Chat Gpt et il me sort ce code en quelques secondes!
Idem pour n'importe quel autre langage, demandez lui de coder en Html/Css, une page complète et Chat Gpt le fait. alors qu'il m'aurait fallu quelques heures pour écrire ce code, le débuger.
Si c'est pas innovant ça!

[Deedee81]

Comment ça pas innovant?

Lit le commentaire de pm42 qui précise un peu la situation.

Il ne faut pas confondre "innovant en terme de technologie/algorithme/..." et "innovant pour l'utilisateur/grand public".

J'avais d'ailleurs deviné en voyant les explications de Yann Le Cun. Si la technologie en soi n'est pas innovante et si cela soulève de telles réactions (sur Futura 5 discussions, et 403 messages ici, et ce n'est que le reflet de ce qu'on voit sur le net, ça me rappelle le début du covid mais, non non non, on ne va pas créer un forum ChatGPT ) cela signifie que la nouveauté c'est l'accès au grand public. Les explications de pm42 n'ont fait que confirmer.

Ceci dit, pour le grand public ou les passionnés comme nous (si, si ), c'est important je trouve car ça permet de voir justement ce qui se fait dans le domaine. Sinon, à moins de s'immerger dans les travaux existant, ça reste un peu brumeux. Par exemple pour moi, qui avait suivi un peu il y a déjà quelques temps (par "phases" : les systèmes experts, j'ai beaucoup "joué" avec Lisp et Prolog est les méthodes d'apprentissages, les réseaux de neurones, le deep learning) j'étais conscient des gros progrès fait dans le domaine mais je savais qu'une des difficultés était que l'AI puisse justifier les résultats qu'elle donne. Et je dois dire que c'est ce qui m'a le plus épaté avec ChatGPT. Et au tout début j'ai cru aussi à quelque chose de totalement nouveau.

Donc innovant, pas totalement, progrès assez récent, certainement, impressionnant pour nous, oui, sans nul doute.
(par nous j'entends bien sûr les "passionnés à caractère scientifique" sans être spécialiste, je suis informaticien mais dans la gestion et ma grande passion, là où je m'informe le plus, c'est la physique théorique, pas l'I.A.).

[ThM55]

Je sais que chatGPT est devenu assez populaire pour produire rapidement du code dans divers langages. Mais a-t-on évalué sérieusement la qualité et la correction de ce qu'il produit? Je pose la question car j'ai conçu quelques doutes à ce sujet en faisant quelques essais. Je n'ai toutefois pas le temps d'investiguer ça.

[ThM55]

Ce matin, il n'est pas très en forme, le chatGPT. Il m'écrit ceci :

Ah, dear user of ChatGPT, thou art not alone in thy desire to engage with our esteemed AI chatbot. Many have flocked to our website in this hour, and we do our utmost to accommodate each and every one. Yet, alas, our resources are not without limit and we must ask for thy patience and forbearance. In time, we shall be able to provide thee with access to ChatGPT. Until then, we beg thee to return at a future juncture, when we may better serve thy needs. Until then, we bid thee adieu and good fortune.

[pm42]

Mais a-t-on évalué sérieusement la qualité et la correction de ce qu'il produit?

C'est très variable mais le but n'est pas de passer le code en prod tel quel, juste d'automatiser toute la partie automatique, d'avoir un gros canevas qu'on peut ensuite corriger/améliorer/compléter.

Il ne s'agit pas non plus de lui faire écrire un code complet en millions de lignes (ou même moins) mais pour cracher un truc d'une page ou un peu plus qui sert de base, c'est bien.

C'est un peu la même chose que pour la traduction (et ce avant ChatGPT) : on fait faire 90% du boulot mécanique par la machine et l'humain corrige et complète ce qui est plus efficace.

[Deedee81]

Et n'oubliez pas que ChatGPT c'est seulement une démonstration du savoir faire de OpenAI. Il n'a pas tel quel pour objectif d'être un outil. Sauf pour certains qui pourraient le trouver utile (on a eut quelques exemples de ça dans la discussion y compris le message 402 par exemple) Sinon OpenAI le vendrait, il ne le mettrait pas à disposition gratuitement

[pm42]

Sinon OpenAI le vendrait, il ne le mettrait pas à disposition gratuitement

En fait ils le vendent déjà mais uniquement l'accès par l'API. Ils sont dans un modèle où ils se rendent visible par le grand public mais se font payer par les entreprises qui construisent des solutions autour. Ceci dit, le gros de leur revenu va venir de l'investissement massif de Microsoft.

[Deedee81]

En fait ils le vendent déjà mais uniquement l'accès par l'API. Ils sont dans un modèle où ils se rendent visible par le grand public mais se font payer par les entreprises qui construisent des solutions autour. Ceci dit, le gros de leur revenu va venir de l'investissement massif de Microsoft.

D'accord, merci, je ne savais pas.

[Liet Kynes]

Il y a déjà des abonnements avec en perspective des accès illimités.. chatGPT4 va devenir aussi indispensable qu'une suite bureautique.
Quand Yann LeCun dit que chatGpt "est bien ficelé, bien réalisé" je cherche le sens du qualificatif "bien" dans un panel de points de vue très large (sans m'attarder sur une dychotomie bien mal, juste comment c'est bien).
Il est certain que nous assistons à une mise sur le marché d'un produit indispensable et incontournable. Et il est certain que nous sommes encore naïfs quant à ce qu'il va permettre de réaliser.
Analogie à peine exagérée : on a découvert le feu une seconde fois.


https://intelligence-artificielle.de...-occasionnels/

Le truc particulier de l'IA réside dans la capacité à étiqueter les éléments d'une base d'apprentissage, des projets du style wikipedia vont surement se lancer dans ce sens avec un appel à des volontaires bénévoles..

[Archi3]

J'ai entendu ce matin une étude sur le positionnement politique de ChatGPT réalisé par un universitaire (à la radio, je n'ai pas trouvé rapidement d'article la décrivant sur une page internet, mais je n'ai peut etre pas assez cherché). Si on lui demande franchement des opinions politiques, il va louvoyer et prétendre qu'il est une IA qui n'a pas d'opinion, mais en le soumettant à un questionnaire utilisé pour définir le positionnement politique des gens (où le sens des questions est "caché"), il révèle un vrai positionnement , manifestement copié de ses créateurs : libéral (au sens américain), contre la peine de mort, pour le mariage homosexuel , etc ... Il a été éduqué pour ne pas propager des idées racistes, sexistes, etc ... donc forcément ça dessine en creux un positionnement culturel (et dans le jeu proposé par Médiat, on voit clairement aussi que quand on lui demande de décrire des jeunes, il choisit des jeunes occidentaux d'un milieu social assez élevé).

C'est intéressant comme constatation, ça montre déjà qu'on ne peut pas émuler un humain "neutre"; tout humain étant le fruit d'une culture et d'un environnement familial, il ne peut pas exister un humain "universel", penser comme "n'importe qui" n'a pas de sens : on appartient toujours à une culture et un mode de pensée particulier. Meme une IA forte devrait forcément adopter des codes d'une communauté particulière.

Autre conclusion; on peut en déduire un type de devoir pour les sciences humaines comme la philosophie que ChatGPT ne pourrait faire correctement : imaginer une rédaction écrite par un raciste ou un sexiste ....

[pm42]

Sujet déjà abordé par JPL ici : https://forums.futura-sciences.com/d...ml#post7048514

et avant de ce fil avec explications, etc.

[Deedee81]

Sujet déjà abordé

Bonjour,

Ceci est signe supplémentaire qu'il commence à y avoir trop de fils sur ChatGPT. Aussi intéressant que soit le sujet cela se justifie mal et entraine des redites et des dispersions.

Il va sans doute falloir recentrer et fermer certaines discussions, en particulier celle-ci qui devient anormalement longue (anormalement car quelque soit le sujet, quand on dépasse 400 messages, sauf exceptions, ça ne progresse plus vraiment et si une question méritait d'être résolue elle l'est depuis longtemps ou ne le sera jamais).

Mais pas tout de suite Et je demanderai sans doute aussi l'avis du reste de la modération. Je préférais prévenir pour ne pas être saisi en voyant quelques fermetures.

Merci,

[Liet Kynes]

On arrive quand même vers des questions intéressantes. La solution technique pour qualifier chatGPT de "bien ficelé" me semble loin d'être évidente : est-ce que OpenAI a donné sa recette ?

[Deedee81]

Salut,

questions intéressantes

C'est bien ce que j'ai dit (aussi intéressant que...) C'est pas le manque d'intérêt qui pose un soucis c'est l'éparpillement dans cinq discussions (et le fait que ça s'éternise).

Sur le fond : dans la page principale il y a une explication du fonctionnement, mais je ne l'ai pas lu donc aller voir si la recette est assez détaillée.

Et la prochaine fois, par MP s'il-te-plaît (au moins ta première phrase qui est sans aucun doute possible une réponse à mon message).

[pm42]

La solution technique pour qualifier chatGPT de "bien ficelé" me semble loin d'être évidente : est-ce que OpenAI a donné sa recette ?

Dans les grandes lignes mais pas dans les détails et de toute manière, cela nécessite de la main d'oeuvre et du temps de calcul très intensif pour un coût élevé.
Au départ OpenAI devait être 100% open-source d'où leur nom mais pour différentes raisons dont des considérations éthiques, ils ont créé une filiale commerciale.

Pour l'histoire de la boite :
https://www.businessinsider.com/hist...2-12?r=US&IR=T

[Deedee81]

Dans les grandes lignes mais pas dans les détails

Ca répond à mon invitation. merci. Dis-donc, vous postez plus vite que votre ombre aujourd'hui

[pm42]

Ca répond à mon invitation. merci. Dis-donc, vous postez plus vite que votre ombre aujourd'hui

On s'est juste croisé ce qui nous arrive

[evrardo]

Certains disent que Chat GPT est le Google killer.
En fait c'est pas vraiment le même produit et surtout, Google reste encore plus performant sur certains points, parce qu'à partir d'une question il renvoie directement à des forums spécialisés qui donnent des réponses précises, alors que le Chat Gpt va se contenter de faire une synthèse pour répondre et donc perd en précision.

Par exemple, je demande à GPT "sur telle application, lorsque j'ouvre le fichier A, pourquoi le fichier B s'ouvre automatiquement?".
Gpt répond un truc très général et inutile. Alors que Google me donne de suite des liens vers des forums où des personnes ont déjà eu CE problème précis.

[Deedee81]

De plus quand on utilise google on a rarement une question très précise. Souvent c'est juste un sujet, une thématique, que l'on cherche.
Et sa liste de liens pertinents est bien plus vaste que les "connaissances" de ChatGPT
Dire que c'est google killer serait un peu absurde car on pourrait le dire aussi de Wikipedia (au moins sur une partie des sujets) alors que ce n'est évidemment pas le cas.

Qui dit que c'est un google killer ?