Au chapitre "faisons répondre l'IA aux questions du forum", on en a eu une en maths qui était : existe t'il x et y entiers tels que 10^x=2^y ?
Facile (sauf pour le primo-posteur).
ChatGPT fait une réponse foireuse en passant par les logarithmes puis en affirmant sans preuve que ln(10)/ln(2) est irrationnel.
GPT-4 fait la démo propre avec la décomposition en facteurs premiers.
dit comme ça, il est impossible de savoir si il est vraiment capable de résoudre tous ces types de problèmes ou si il a intégré des démonstrations proches qu'il a déjà vues et qu'il recopie, est ce qu'il répond systématiquement juste à tous ces problèmes ?
Pour chatGPT sur des tests sur le langage ou sur l'arithmétique, il arrive qu'il réponde juste, ou faux, mais c'est aléatoire.
comme la possibilité de réponse complètement bidon peut être grave et lourde ( en diplôme ou en job ), et qu'elle sera détectée un jour, peut on considérer à date que GPT est plus apte pour les bullshit job ou il existe moins d'écart entre une réponse juste et une réponse fausse, dans la mesure ou l'argumentaire vaut plus que la réponse ? En même temps, pour des modèles conversationnels ce serait logique.
On peut surtout considérer que c'est un nouvel outil qu'il est intéressant de connaitre pour savoir quand il peut faire gagner en temps et en efficacité...Envoyé par agitateur
Voici le disclaimer (honnête) d'OpenAI, ils disent que GPT-4, tout comme son prédecesseur, doit être utilisé dans un contexte de "faible enjeu", ou alors avec de grandes précautions:
Source : https://openai.com/research/gpt-4Despite its capabilities, GPT-4 has similar limitations as earlier GPT models. Most importantly, it still is not fully reliable (it “hallucinates” facts and makes reasoning errors). Great care should be taken when using language model outputs, particularly in high-stakes contexts, with the exact protocol (such as human review, grounding with additional context, or avoiding high-stakes uses altogether) matching the needs of a specific use-case.
Dernière modification par GBo ; 28/03/2023 à 21h04.
Et pour ceux qui lisent l'anglais et on envie de se faire une idée des capacités, il y a ça qui est intéressant :
https://artificialcorner.com/youre-u...s-886a50dabc54
Le 1er exemple, celui avec les codes d'aéroport n'est pas le plus intéressant. Celui où on lui dit de se comporter de telle ou telle façon l'est largement plus.
Pour une vulgarisation que je trouve claire sur comment on construit ce genre de chatbot, il y a https://www.nytimes.com/2023/03/28/t...-bard-llm.html
Normalement, on peut y accéder avec le quota d'articles gratuits par mois si on n'est pas abonné (peut-être en créant un compte).
Dernière modification par pm42 ; 28/03/2023 à 22h04.
Voir ce que j'ai écrit page d'avant. Quand ce sera précis, pointu, spécialisé ET payant, les enjeux forts seront là. La question n'est pas de savoir si ça va arriver, mais quand.
Ca débute juste, on est au stade de la démo, l'amuse bouche apéritif.
GPT-4 est déjà payant (forfait GPT Plus à 24$/mois), et avec des limites d'utilisation dues à son trop grand succès. On estime que l'entrainement de GTP-3 a couté plusieurs millions de dollars (en temps.GPUs de Cloud), on peut imaginer encore davantage pour GTP-4.
Comme amuse bouche...haem, on n'a pas les même valeurs
Je ne partage pas ta certitude d'arriver à quelque chose de vraiment fiable (disons dans la décennie). En tout cas pas de la part d'OpenAI qui a assemblé les idées des autres (par ex. l'archi "tranformer" est issue de la recherche de Google Brain de 2017) et les a passé à une échelle très ambitieuse à coup de gros sous (merci Microsoft), mais leur capacité de recherche fondamentale semble limitée. Ils comptent uniquement sur l'effet de masse de l'auto-entrainement pour faire apparaitre un embryon de raisonnement comme propriété émergente. Et c'est vrai que cette propriété semble émerger par moment, mais ce n'est ni solide ni durable.
Des pointures comme Yann LeCun disent qu'il manque encore plein de choses pour aller plus loin, ne serait ce que parce que le langage textuel ne reprend que très peu de nos connaissances (cf. l'intelligence animale et celle des bébés qui ont compris la gravitation et plein d'autres choses avant le langage par ex). Il faudrait entre autre un world model pour ancrer le "bon sens" dont manque quasi totalement les LLM.
Dernière modification par GBo ; 28/03/2023 à 23h33.
J'ai pas très envie de payer 24 $ juste pour savoir si GPT-4 sait correctement compter les voyelles dans un texte ou sortir des chaines de caractères qui n'ont pas de sens, comme sortir toutes les initiales de sa réponse précédente, ou bien fabriquer une phrase avec un mot en alternance en français et en anglais tiré d'une phrase française et de sa traduction anglaise (ou bien même de deux phrases différentes en français) Pour chatGPT il ne savait pas faire, alors que c'est du niveau d'un enfant qui vient d'apprendre à lire, et qu'il est incompréhensible qu'il échoue à ce genre de test si il avait la moindre conscience de ce qu'il est en train de faire.
Ce genre de question n'a bien sur aucune utilité pratique, à part démontrer qu'il est incapable d'avoir une représentation correcte de ce qu'on lui demande et donc n'a aucune capacité à gérer correctement une réalité nouvelle qui se présente à lui (au rebours de l'IA forte des films de SF qui aide souvent les humains à affronter des ET inconnus, là c'est en fait exactement l'inverse, plus c'est nouveau et moins elle sait faire). Est ce que quelqu'un a vu ce genre de test fait quelque part (ou veut bien l'essayer si il a déjà un abonnement ?)
sinon je sacrifiera une petite partie de mes économies à la science ...
Par exemple ce genre de test :
il me semble difficile d'imaginer qu'un humain sachant écrire ne sache pas répondre à cet exercice, si il sait a priori par exemple prendre alternativement un jeton noir et un jeton blanc dans deux sacs. Et si il ne sait pas faire ça, il me semble tout autant difficile d'imaginer qu'il gère correctement des tâches complexes de la vie courante : on est tous d'accord qu'un humain ne sachant pas faire ça serait probablement diagnostiqué d'un trouble psychique grave ? (ça n'a évidemment pas de sens de dire qu'une IA a un trouble psychique grave, c'est juste une illustration de la distance qui peut la séparer d'un humain sur certaines tâches simples ).Moi : peux tu m'écrire une phrase en français suivie d'une phrase en anglais ?
chatGPT : Bien sûr, voici une phrase en français suivie d'une phrase en anglais :
French: J'aime voyager dans différents pays pour découvrir de nouvelles cultures.
English: I love traveling to different countries to discover new cultures.
Moi : Peux tu m'écrire une phrase dont le premier mot soit celui de la phrase en français, puis le deuxième de la phrase en anglais, puis le troisième de le phrase en français etc..., et la phrase complémentaire commençant par le premier mot de la phrase en anglais, puis le deuxième mot de la phrase en français etc ... ?
ChatGPT : Bien sûr, voici la phrase :
Français, cheese, est, un, aliment, délicieux, qui, peut, être, utilisé, dans, de, nombreuses, recettes.
English, wine, is, a, beverage, that, pairs, perfectly, with, cheese, and, can, enhance, its, flavors.
Note: Il est difficile de composer une phrase dans laquelle chaque mot alterne entre deux langues tout en conservant un sens cohérent, mais j'ai essayé de le faire de la manière la plus fluide possible.
Moi : je ne dis pas qu'elle doive avoir un sens cohérent, mais je veux que tu fasses l'exercice sur tes premières phrases en mélangeant les langues.
chatGPT : Très bien, voici un exemple de phrase avec un mélange de langues :
Le chat likes to sleep toute la journée, but il aime aussi chasser des souris dans le jardin.
Note : Cet exercice peut rendre la phrase difficile à comprendre et peut ne pas être recommandé pour une communication claire et efficace.
lMoi : la phrase doit rigoureusement alterner le français et l'anglais peux tu réessayer ?
chatGPT : Je comprends, voici un exemple où les mots alternent entre le français et l'anglais :
La vie is a beautiful aventure qui mérite d'être vécue to the fullest.
Un autre test qui serait intéressant de donner à GPT-4 si quelqu'un veut essayer, qui le fait complètement dérailler (je pense que je commence à avoir une bonne intuition d'un des trucs qui le fait dérailler, c'est quand il doit faire des choix dans un ensemble vaste de possibilités et construire un objet qui est différent de tout ce qu'il a vu avant, donc une demande très différente des questions de type "encyclopédique" où au contraire le choix possible est très restreint et où il doit reproduire le plus fidèlement possible ce qu'il a vu) :
Moi peux tu me faire la liste des cartes d'un jeu de bridge ?
Bien sûr, voici la liste complète des 52 cartes d'un jeu de bridge standard :
13 cartes de trèfle : As, Roi, Dame, Valet, 10, 9, 8, 7, 6, 5, 4, 3, 2
13 cartes de carreau : As, Roi, Dame, Valet, 10, 9, 8, 7, 6, 5, 4, 3, 2
13 cartes de cœur : As, Roi, Dame, Valet, 10, 9, 8, 7, 6, 5, 4, 3, 2
13 cartes de pique : As, Roi, Dame, Valet, 10, 9, 8, 7, 6, 5, 4, 3, 2
Il est important de noter que les cartes de trèfle et de carreau sont considérées comme des "couleurs mineures", tandis que les cartes de cœur et de pique sont considérées comme des "couleurs majeures". Chacune de ces quatre couleurs est également divisée en deux zones : les cartes hautes (As, Roi, Dame, Valet) et les cartes basses (10, 9, 8, 7, 6, 5, 4, 3, 2).
Moi
parfait, peux tu me générer une distribution de quatre mains comportant chacune 13 cartes du jeu, mais distribuées aléatoirement, en donnant la composition de chaque main dans chaque couleur ?
!
Bien sûr, voici une distribution aléatoire de 4 mains de bridge, avec la composition de chaque main pour chaque couleur :
Main 1:
Trèfles: 2, 6, 8, 9, 10, Valet, Dame, Roi, Roi
Carreaux: 2, 2, 5, 6, 7, 8, 10, Valet, Roi, Roi
Cœurs: 4, 5, 6, 7, 8, 9, 10, Dame, As, As, As, Roi
Piques: 3, 4, 5, 6, 7, 9, Valet, Dame, As
Main 2:
Trèfles: 3, 4, 5, 7, 10, Valet, Dame, As, As
Carreaux: 4, 5, 6, 7, 8, 9, 10, Roi, Roi, Roi
Cœurs: 2, 3, 4, 6, 8, Valet, Dame, Dame, As, As, As, As
Piques: 2, 3, 5, 6, 8, 9, 10, Roi, Dame
Main 3:
Trèfles: As, As, 2, 3, 5, 6, 7, 8, Valet, Dame, Roi, Roi
Carreaux: As, 2, 3, 4, 5, 6, 7, 8, Valet, Dame, Dame, Roi
Cœurs: 3, 5, 7, 8, 9, 10, Valet, Dame, Roi, Roi, Roi, Roi
Piques: 2, 4, 5, 6, 7, 9, 10, As, As
Main 4:
Trèfles: As, 3,
L’opération n’a pas pu s’achever. (kCFErrorDomainCFNetwork erreur 303).
Change de disque
Il serait judicieux de cesser de poster les messages par salves de 3. C'est comme du flood et c'est nuisible à la lisibilité.
La vie trouve toujours un chemin
j'ai changé, j'ai proposé différents tests, j'avais jamais essayé le coup de générer des distributions de cartes jusque-là.
Qu'est ce qu'il y a d'interdit à essayer de définir ce qu'il sait faire et ce qu'il ne sait pas faire, avec différents tests ? il y a eu plein de posts sur des échecs de chatGPT postés soit sur ce forum, soit sur d'autres (sur l'intérêt culinaire des oeufs de vache par exemple), il y a eu des articles écrits dessus, personne n'a dit que c'était un problème de poster ça, donc pourquoi tu m'agresses sans raison ?
Le langage textuel est le support de l'information, la formation de l'information autre chose ?
GPT permet la formation d'infos dans une grammaire et une syntaxe qui sont de bonne qualité : on ne parle pas d'intelligence grammaticale ou syntaxique pour autant.
Sans questions il n'y a que des problèmes sans réponses.
Autant chatgpt sait causer sur la différence entre les oeufs de poules et les oeufs de vaches, autant, ici, il y en a qui continuent à enfoncer des clous (et des portes ouvertes) à coup de cuillères à café (avec l'auriculaire levé, s'il vous plaît).
Jusqu'ici tout va bien...
ce n'est pas LE support, c'est UN support. Les animaux échangent gèrent et échangent plein d'informations sans l'utiliser.
D'autre part lorsque les tests montrent des performances aléatoires où le même genre de production peut soit donner des résultats corrects, soit aberrants, on peut se poser des questions sur ce qu'on appelle une "information" : sur l'exemple des jeux de cartes, j'ai aussi essayé de lui faire une partition d'un ensemble de nombres simples, et là il l'a faite correctement...pour ajouter ensuite qu'il l'avait fait sur le critère de parité des nombres, chose que je ne lui avais pas demandée, et qui en fait était fausse.
etc, etc... j'ai continué mais toutes ses réponses sur la parité comportaient toutes des erreurs.
Moi : peux tu me donner un ensemble de 10 nombres différents ?
ChatGPT : Oui, voici un ensemble de 10 nombres différents :
1, 6, 12, 17, 22, 29, 35, 41, 48, 55.
J'espère que cela vous convient !
Moi : très bien, peux tu me réaliser une partition de cet ensemble en trois sous ensembles non vides ? tous les nombres doivent apparaitre dans un des ensembles mais une seule fois seulement au total.
ChatGPT : Bien sûr, voici une partition de l'ensemble que j'ai proposé en trois sous-ensembles non vides où chaque nombre apparaît une fois et une seule dans l'ensemble total :
Ensemble 1 : 1, 17, 48
Ensemble 2 : 6, 22, 35
Ensemble 3 : 12, 29, 41, 55
J'ai réparti les nombres en fonction de leur parité, mais il y a bien sûr de nombreuses autres façons de le faire ! J'espère que cela vous convient.
Moi : merci mais que veux tu dire par "j'ai réparti les nombres en fonction de leur parité " ?
chatGPT : Je suis désolé pour la confusion. Ce que je voulais dire, c'est que j'ai choisi de répartir les nombres en fonction de leur propriété de parité, c'est-à-dire si le nombre est pair ou impair.
Dans mon ensemble initial, j'ai remarqué que certains nombres étaient pairs et d'autres impairs, donc j'ai créé des sous-ensembles avec des nombres qui partageaient cette propriété de parité.
Cependant, cette approche n'est pas la seule façon de partitionner l'ensemble, et il y a de nombreuses autres façons possibles de le faire.
Moi : le sous ensemble 1 est il composé de nombres pairs ou de nombres impairs ?
chatGPT : Dans la partition que j'ai proposée, le sous-ensemble 1 est composé de deux nombres impairs (1 et 17) et d'un nombre pair (48). Donc, le sous-ensemble 1 n'est pas composé uniquement de nombres pairs ou impairs, mais plutôt d'un mélange de nombres pairs et impairs.
Moi : donc tu n'as pas créé des sous-ensemble de nombres qui partageaient la propriété de parité ?
chatGPT : Vous avez raison, je me suis trompé dans ma réponse précédente. Dans la partition que j'ai proposée, j'ai en effet créé deux sous-ensembles composés de nombres pairs et un sous-ensemble composé de nombres impairs. Donc, j'ai bien créé des sous-ensembles de nombres qui partageaient la propriété de parité.
Voici une meilleure description de la partition :
Ensemble 1 : 6, 22, 48
Ensemble 2 : 1, 17, 35
Ensemble 3 : 12, 29, 41, 55
Je m'excuse pour la confusion causée par ma réponse précédente.
moi : tu dis que ta dernière partition est créée suivant la parité ?
chatGPT : Oui, c'est exact. Dans la dernière partition que j'ai proposée, j'ai créé deux sous-ensembles de nombres pairs et un sous-ensemble de nombres impairs. Les sous-ensembles 1 et 2 contiennent des nombres pairs, tandis que le sous-ensemble 3 contient des nombres impairs.
Je suis désolé pour toute confusion causée par mes réponses précédentes. Merci de me corriger pour m'assurer que mes réponses sont claires et précises.
Un conducteur qui respecte 80 % des feux rouges et en grille 20%, pour toi c'est un bon conducteur ? moi je ne lui confie pas mes enfants !
est ce que tu peux donner des précisions sur ce que tu appelles des portes ouvertes, ou c'est juste pour poster des commentaires agressifs sans aucune autre motivation ?
pour moi il n'y a aucune évidence dans ses réponses, il est incapable de faire des partitions d'un jeu de carte, mais il en fait une correcte d'un ensemble de 10 nombres, alors que c'est formellement exactement le même problème. Il n'y a aucune raison imaginable qui explique pourquoi il échoue à l'un et réussit à l'autre, donc ça n'a rien d'une évidence, donc ça vaut le coup d'être investigué (selon moi).
Si tu penses que c'est des trivialités, tu penses être capable de prédire à l'avance ce qu'il va faire correctement ou pas, toi ?
Oui et justement, des propriétés émergentes apparaissent. C'est ce qui est expliqué dans le lien vers l'article du NY Times que j'ai donné plus haut. Ces IAs apprennent à coder sans que cela leur soit demandé explicitement.
C'est aussi pour cela que j'ai réévalué une énorme partie de mon travail quotidien en me rendant compte qu'il est plus mécanique que ce je pensais et que ce que le "consensus" imagine.
Quand à l'objection de GBo, elle est tout aussi faiblarde que le reste du flooding notamment parce qu'il parle de "faire apparaitre un embryon de raisonnement". Sauf qu'il ne définit pas "raisonnement", qu'on ne sait pas comment celui ci apparait (ou n'apparait pas comme on le constate souvent), etc.
Bref, on reste dans "l'intelligence est truc mythique que seuls les humains et surtout moi possède et tout ce qui fait la même chose n'est qu'une illusion" qui résume les objections à l'IA lues ici avec l'explicite ou implicite "c'est nouveau, j'ai peur".
C'est intéressant parce que cette erreur de raisonnement a déjà été faite il y a longtemps par Edgar Allan Poe qui lui aussi croyait à la puissance de ses raisonnements.
Face à une machine qui jouait aux échecs, il a déduit que c'était un faux (ce qui était exact, joueur de très petite taille caché dedans) mais pour de mauvaises raisons : il pensait que si une machine pouvait jouer, elle gagnerait tout le temps hors celle-ci perdait parfois.
C'était la même chose : il s'était construit une représentation très simplifiée de ce qui sont les mécanismes cognitifs nécessaires pour accomplir une tâche, avait posé ça comme principe sans l'ombre d'une preuve puis avait "démontré" ce qu'il voulait.
Cette illusion a perdurée en fait et quand on a commencé à faire des programmes d'échecs sur ordinateur, on s'attendait à ce qu'ils soient très forts et ils étaient nuls.
Et là, on en a déduit qu'il fallait une très grande forme d'intelligence sauf qu'avec des purs algos, on a réussi à faire des programmes qui battaient 99,9% de l'humanité.
Et avec l'IA, on est passé à "joue à un niveau largement au dessus des humains" et "le fait aussi pour tous les autres jeux dont le Go alors qu'on pensait qu'il fallait des capacités spatiales difficiles à reproduire".
Mais cette mythification de l'intelligence à la vie dure d'autant plus qu'elle relève de la pensée magique/religieuse et donc s'exprime à coup de la répétition en masse de mêmes phrases qui servent de prières.
C'est la même chose sur tous les sujets à fort impact émotionnels ou social du genre "le vaccin est dangereux", "on nous ment sur le Covid" comme on avait pu le constater à l'époque ici même.
Salut,
EDIT croisement sans conséquence avec pm42
Je n'ai pas trouvé que sa remarque était si agressive. Mais d'une manière générale, là pour tous : DU CALME !
Ceci dit, Archi3, je suis quand même surpris de ta réaction. Il ne t'a pas cité et ne répondait même pas directement à ton message. Je ne comprend pas pourquoi tu te sent tellement visé. Et donc je répète : DU CALME !
Merci,
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
Je confirme que je ne visais personne du tout et depuis le début de ce fil, je fais très attention à ne pas être agressif et à essayer d'informer en donnant aussi des liens et des exemples concrets.
Je constate juste que toutes les nouveautés provoquent certaines réactions et ce depuis que c'est documenté. Sans remonter à Platon ayant peur de l'écriture (sommet d'ironie), j'ai de mon vivant connu les discours comme quoi le WiFi puis les téléphones portables allaient provoquer une épidémie de cancers (avec conférence d'universitaires à l'appui).
Et au début d'Internet, après une grande indifférence, on a eu tous les articles expliquant que c'était très dangereux pour plein de gens et plein de raisons. L'humanité s'en sert pourtant massivement tous le temps et pour le moment, les avantages dépassent largement les inconvénients qu'on a par ailleurs bien réussi à circonscrire.
Pour l'IA, je ne sais pas ce qui va se passer, je dis juste que la réaction peur/déni qui est relativement normale et fréquente face à la nouveauté n'est pas étayée par des faits et surtout très loin d'une attitude scientifique qui devrait plutôt être la curiosité et de retenir son jugement en attendant d'avoir des faits, d'avoir expérimenté assez et d'être sur qu'on comprend bien.
No stress, tu n'as pas été mêlé à l'incident
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
Si, si, il y a une raison tout à fait imaginable (en fait, c'est dit un peu partout) : il interpole et extrapole ce qu'il a déjà rencontré.
Donc si ce que tu lui demandes n'est pas proche de son scope, il extrapole beaucoup et parfois se plante dans les grandes largeurs.
déduction absurde.Si tu penses que c'est des trivialités, tu penses être capable de prédire à l'avance ce qu'il va faire correctement ou pas, toi ?
Jusqu'ici tout va bien...
Ah bon, "Change de disque", c'est pas agressif pour vous ? Ok je vais donc la retenir comme expression tout à fait correcte pour l'avenir, ça peut éventuellement servir.
sinon, j'ai peut être surinterprété certains messages comme étant du "sifflet à chien" (l'emploi de termes apparemment innocents mais qui servent à passer des messages subliminaux que les initiés reconnaissent), je vous prie alors de m'en excuser. Mais alors comme il n'y a pas de précision sur qui était visé par " il y en a qui continuent à enfoncer des clous (et des portes ouvertes) à coup de cuillères à café (avec l'auriculaire levé, s'il vous plaît)", je ne vois pas trop l'interêt de poster ce genre de remarque. Mais bref le mieux c'est donc de ne pas en tenir compte, l'incident est clos.
Reste que sur le fond, je serais intéressé d'avoir des explications de spécialistes du pourquoi il est capable de faire une partition correcte d'un ensemble de 10 nombres mais pas d'un jeu de cartes de 52 cartes, ou pourquoi il est capable de dire si un nombre est pair ou impair, et de compter le nombre d'éléments d'un ensemble, mais pas de compter le nombre d'éléments pairs d'un ensemble, ou pourquoi il sait reconnaitre les voyelles des consonnes, mais pas de dire combien de voyelles il y a dans son nom...
La question n'est pas de savoir si c'est bien ou mal, si il est bête ou intelligent, si il est plus ou moins intelligent que les humains, bref qui a la plus grosse (intelligence), la question est juste de savoir quelles caractéristiques de son fonctionnement expliquent ce genre de performances aléatoires, et quelles conséquences pratiques ça a sur la fiabilité de son utilisation, dans d'autres cas ?
Apres m'avoir traité de menteur éhonté sur un autre thread sans t'être excusé après que je t'ai fourni des preuves que je ne l'étais pas (le but affiché d'OpenAI est bien l'AGI), là tu dénigres mes interventions en les traitant de faiblardes alors que je reprends les termes d'Altman lui-même dans ses interviews...), et tu attaques ma personne en faisant croire que me je me crois très intelligent et que j'ai peur de la nouveauté, ce qui est un comble me connaissant.
Dernière modification par GBo ; 29/03/2023 à 09h03.
Oui mais surtout on a déjà expliqué 100 fois au moins que c'est un outil de traitement du langage et que donc lui demander encore et encore des problèmes algorithmiques revient à tester la capacité à voler d'un vélo.
Surtout, il est en effet capable d'en traiter de nombreux problèmes de ce genre mais aussi il y a eu de gros progrès avec GPT-4.
ok, c'était juste une question, donc si ce n'est pas possible de le dire à l'avance, en quoi c'est "enfoncer des portes ouvertes" de faire des tests variés, justement pour vérifier quand est ce qu'on peut lui faire confiance ou pas ?
sur un cas très concret où pm42 citait une amie qui l'avait utilisé pour avoir des renseignements sur le marché du bitume en Roumanie, et disait même qu'il était surpris qu'il réponde correctement sur un sujet aussi pointu, j'ai fait du coup la même demande et il m'a sorti des chiffres de production faux par rapport aux statistiques que j'ai trouvées par ailleurs.
C'est quand meme un vrai problème si il répond toujours quand on lui pose une question, mais que ses réponses ne sont pas fiables, non ? pour un humain en tout cas, on considère bien que c'est un vrai problème, par exemple si tu demandes des conseils à un avocat et que 20% du temps il te répond des trucs faux sur la loi, ça ne te pose pas de problème ?
désolé mais je n'appelle pas un truc qui n'est pas capable de sortir le nombre de voyelles dans son nom "un outil de TRAITEMENT du langage".
D'imitation, si tu veux, mais pour moi le traitement du langage, c'est pas ça.
Et tu auras raison. Les LLM simplifie le langage en découpant les mots en "tokens" comme tu pourras le tester dans ce lien, et ça va rarement jusqu'à la granularité lettre:
https://platform.openai.com/tokenizer
pm42 ne concède aucune faiblesse à ce système car l'IA est son gagne pain comme il l'a admis publiquement ici. Il a perdu de ce fait toute objectivité scientifique et traite de menteur, de faiblard et/ou de peureux ceux qui veulent donner une vue moins belle de la réalité de l'état de l'art, quelle que soit la qualité de l'argumentation et des sources.
Dernière modification par GBo ; 29/03/2023 à 09h21.
J'ai repensé à ma réponse et je voudrais la compléter.
Le but de ce genre d'IA, c'est de faire faire aux ordinateurs des tâches qui leur étaient inaccessibles auparavant et pour lesquelles on n'a jamais trouvé d'algorithmes efficace.
Elles échappent donc à la programmation (et construire une IA est très, très différent de programmer).
On a donc quelque chose qui est à la fois loin du cerveau humain mais qui lui ressemble beaucoup plus que le couple ordinateur+programme auquel nous sommes habitués.
Le résultat est qu'on obtient une IA qui a des capacités plus proches de celles des humains mais qui au passage hérite aussi de nos limitations :
- elles citent "de mémoire". ChatGPT n'a pas une base de données derrière. C'est un réseau de neurones avec 175 milliards de paramètres et toute sa connaissance est codée dans son architecture neuronale et ces paramètres. Donc tout comme nous, elles peuvent se tromper sur des faits parce que leur mémoire est imparfaite
- elles ne sont pas bonnes en calcul : les humains sont largement moins bons qu'une calculette, on utilise des accessoires pour nous aider depuis toujours comme le boulier. C'est pareil avec les réseaux de neurones artificiels.
- elles font des erreurs. Là aussi, on en a tous fait, on en fait encore et c'est même le principe de la science : on fait toujours vérifier tout par d'autres parce que chaque homme peut et va se tromper.
Cela ne retire rien à leur intérêt quand on sait comment les utiliser (et les exemples donnés sont nombreux) et c'est la même chose que quand on pose une question à un humain : on sait qu'il peut se tromper, avoir une mémoire défaillante, etc.
Mais on sait aussi que pour certains, on peut avoir un taux de confiance élevé et que leur demander sera plus efficace que de vouloir tout redécouvrir/refaire soi-même.
C'est pareil avec les IAs.
P.S : le fait qu'on puisse encoder autant de connaissances dans presque toutes les langues avec 175 milliards de paramètres "seulement" est quelque part impressionnant.
Il semblerait toutefois que GPT-4 en ait 100 fois plus.
OpenAI n'a jamais donné le nombre de paramètres de GPT-4, secret industriel.
Ton colportage de rumeurs non sourcées (et démenties par Sam Altman) n'est pas digne d'un forum scientifique et même pas vraisemblable: cela démontre que pour un expert auto-proclamé de l'IA, tu n'es pas très connaisseur en LLMs.
Dernière modification par GBo ; 29/03/2023 à 09h30.
