Avis de l'académie de technologie sur l’imitation artificielle de langages

[Archi3]

De même que tu as crédité comme fiable une étude complètement bidon sortie de Cureus pour laquelle tu as jugé, je te cite :[I]

bah premièrement, contrairement à la fausseté des affirmations dont je parlais, ni toi ni personne n'a démontré que cette étude était "complètement bidon", et deuxièmement, même si c'était vrai, je ne vois pas en quoi mes défauts éventuels change en quoi que ce soit le fait que vous ayez cru qu'un message d'une IA était vrai alors qu'il était faux, et change en quoi que ce soit le problème que ça pose pour utiliser l'IA dans la société.

Je t'avoue que j'ai aussi eu des contraventions en voiture, et que je fais parfois des erreurs de calcul, et alors, ça change quoi au problème ?
-----

[Liet Kynes]

bah premièrement, contrairement à la fausseté des affirmations dont je parlais, ni toi ni personne n'a démontré que cette étude était "complètement bidon", et deuxièmement, même si c'était vrai, je ne vois pas en quoi mes défauts éventuels change en quoi que ce soit le fait que vous ayez cru qu'un message d'une IA était vrai alors qu'il était faux, et change en quoi que ce soit le problème que ça pose pour utiliser l'IA dans la société.

Je t'avoue que j'ai aussi eu des contraventions en voiture, et que je fais parfois des erreurs de calcul, et alors, ça change quoi au problème ?

Que le taux d'erreurs que tu fais toi en tant qu'humain est très largement plus important que celui d'un LMM. Si je te pose deux cents questions précises sur un échantillon aléatoire de wikipedia quelle sera ta performance et quelle sera celle de l'IA ?

Une autre avancée sur le sujet :https://intelligence-artificielle.de...auto-corriger/

[Archi3]

C'est surtout qu'il ment : les réponses étaient exactes, certains aspects étaient incorrects comme des liens...

pour info, j'ai signalé ton message comme faux et diffamatoire : il n'y a pas que des liens qui étaient faux, (et de toutes façons déjà ça ça suffirait pour que mon message ne soit pas un mensonge), et ton accusation de mensonge est donc diffamatoire.

Merci donc à la modération de supprimer les messages diffamatoires pour permettre au fil de continuer normalement.

[Archi3]

Que le taux d'erreurs que tu fais toi en tant qu'humain est très largement plus important que celui d'un LMM. Si je te pose deux cents questions précises sur un échantillon aléatoire de wikipedia quelle sera ta performance et quelle sera celle de l'IA ?

donc :

a) je ne sais pas d'où tu tires que mon taux d'erreur est largement plus important que celui d'un LMM. Tu prends quels chiffres pour les comparer, sur quel échantillon tu mesures ces taux ?

b) si on me pose une question à laquelle je ne sais pas répondre, je n'hésite pas à répondre que je ne sais pas. Ca concernera surement une très grande partie des questions que tu me poserais sur un échantillon aléatoire de Wikipédia. Donc ça sera une réponse correcte de ma part, pas une erreur.

c) ça n'a toujours aucun rapport avec ma remarque ni avec le sujet, le rapport de l'Académie ne consistait pas à comparer les performances de ma petite personne avec celles d'une IA mais de s'interroger sur l'utilisation de l'IA dans la société. Si un ordinateur fait 10 % d'erreurs en convertissant un format mpeg en images, ça restera beaucoup mieux que ce que je peux faire (je suis incapable de le faire tout simplement), ça n'en serait pas pour autant acceptable pour l'utiliser concrètement.

Une autre avancée sur le sujet :https://intelligence-artificielle.de...auto-corriger/

c'est marrant toutes ces avancées qu'on fait dans un domaine où certains disent qu' il n'y a pas de problème . Mais ça ne contredit pas ce que je disais, je disais que des progrès étaient certainement possibles, mais que le couplage à un logiciel de calcul ne résolvait pas tout. Tu confirmes donc par cette citation que ma remarque était correcte, je te remercie pour cette confirmation.

[Liet Kynes]

b) si on me pose une question à laquelle je ne sais pas répondre, je n'hésite pas à répondre que je ne sais pas.

Et donc tu crois que l'IA sait quelque chose ?

[Archi3]

Et donc tu crois que l'IA sait quelque chose ?

je ne vois pas en quoi tu déduis ça de ma réponse, et donc la pertinence du "donc" ? je t'ai dit ce que je faisais moi, ça ne préjuge rien de si l'IA "sait" quelque chose ou pas, mais indéniablement elle produit des réponses, et moi aussi.

[ArchoZaure]

Bonjour.

b) si on me pose une question à laquelle je ne sais pas répondre, je n'hésite pas à répondre que je ne sais pas. Ca concernera surement une très grande partie des questions que tu me poserais sur un échantillon aléatoire de Wikipédia. Donc ça sera une réponse correcte de ma part, pas une erreur.

Je pense que ceci fait que plus largement, les IA, quelles que soient leurs performances, sont loin du compte pour ce qui est d'imiter l'intelligence humaine.
Ou plus précisément ils présentent le profil d'un "malade mental".
Leur emploi peut donc être intéressant dans les domaines de faible enjeu; inventer une publicité, rédiger un faux rapport, raconter une comptine, etc, mais leur emploi est à proscrire lorsque les résultats ne permettent pas "des extravagances", certes plus ou moins rares, mais malheureusement certaines.

La raison à mon avis en est que les êtres intelligents n'expriment pas systématiquement leur pensée.
Au contraire des IA actuelles, et ceci inclue aussi les mouvements, les individus "normaux" inhibent l'expression de leur pensée et leurs actions, en s'appuyant sur ce qu'on pourrait qualifier de l'introspection.
On peut même parler de "réflexion" : S'observer penser et agir, et ainsi pouvoir limiter l'expression ou l'action aux éléments choisis par la réflexion.

On peut d'ailleurs se demander qui est véritablement l'idiot dans cette affaire : Celui qui croit tout ce que dit et admet tout ce que fait un individu atteint du syndrome #####, ou l'individu atteint du syndrome.
Je pencherait pour le premier; il n'y a pas lieu de prendre la production brute d'une IA pour une production intelligente.
Il lui manque la possibilité de recommencer à exprimer sa pensée en interne autrement que la première fois, sans que personne n'en prenne connaissance, et ainsi par "réflexion" et aller-retours soit capable de détecter les incohérences.... avant d'exprimer une pensée épurée (ce que tout le monde fait sans vraiment s'en rendre compte... et je n'exprimerai pas le fond de ma pensée sur la question )

[vgondr98]

Il lui manque la possibilité de recommencer à exprimer sa pensée en interne autrement que la première fois, sans que personne n'en prenne connaissance, et ainsi par "réflexion" et aller-retours soit capable de détecter les incohérences.... avant d'exprimer une pensée épurée (ce que tout le monde fait sans vraiment s'en rendre compte... et je n'exprimerai pas le fond de ma pensée sur la question )

C'est exactement sur cela que porte innovation posté au message 32 ...

[Archi3]

peut être que j'ai mal compris, mais je n'ai pas compris que la référence citée ne mettait aucun acteur externe dans le feed back, mais plutot que le retour était implémenté sous forme de langage que l'agent conversationnel prenait en compte : mais il y a bien "quelqu'un qui prend connaissance" du résultat produit et en fait la critique (voir la figure 2 de https://arxiv.org/pdf/2303.11366.pdf )

[vgondr98]

Ma compréhension est que internal feedback est du texte généré par l'Evaluaor (un modèle de langage) tandis que external feedback est du texte généré par l'utilisateur.

[ArchoZaure]

C'est exactement sur cela que porte innovation posté au message 32 ...

Effectivement...j'avais parcouru le fil un peu vite.

Après, pour ma part je pensais un cran plus loin; celui qui consisterait à faire appel à la logique; l'emploi du côté rationnel que permet la pensée s'appuyant sur la syntaxe, sans aide externe... mais pas avec le même modèle d'IA (celui qu fait apparaitre les assertions les plus probables) mais avec un modèle basé sur la logique, plus primitif en somme.
Pour faire une comparaison rapide, c'est comme si on utilisait le cerveau animal + la partie du cerveau logique.
Faire comme les humains quoi, et pas uniquement comme les animaux.
Le cerveau humain présente des zones ne fonctionnant pas toutes de la même manière (c'est plus complexe qu'un GPT)

De plus, à la base, avec une bonne partie d'internet à sa disposition, l'IA ne devrait pas non plus avoir besoin qu'un humain fasse la correction.
Car si la base de donnée est défaillante, alors ce n'est plus un problème de modèle d'IA mais de sélection de la base.
Vaste travail à faire en amont certes, mais l'IA ce n'est pas magique, c'est comme pour un enfant, il faut éviter de lui fournir de mauvaises informations si on veut qu'il évite les erreurs.

[Liet Kynes]

Le cerveau humain présente des zones ne fonctionnant pas toutes de la même manière (c'est plus complexe qu'un GPT)

Dire que c'est plus complexe que GPT est relatif dans le sens ou les cerveaux humains ne fonctionnent visiblement pas tous de la même manière.

[Archi3]

Il y a plein de choses qui différent entre une IA et un cerveau humain, évidemment.

Comme j'ai déjà dit, si on pose les questions qu'on pose à une IA à un vrai humain, sa réponse sera bien plus probablement quelque chose comme "j'ai pas que ça à faire, je suis pas ton larbin, et puis tu peux bosser un peu et chercher toi même sur internet non ? "

[Liet Kynes]

Il y a plein de choses qui différent entre une IA et un cerveau humain, évidemment.

Comme j'ai déjà dit, si on pose les questions qu'on pose à une IA à un vrai humain, sa réponse sera bien plus probablement quelque chose comme "j'ai pas que ça à faire, je suis pas ton larbin, et puis tu peux bosser un peu et chercher toi même sur internet non ? "

Il y a là un début de compréhension de l'intérêt du concept d'AGI.

[oualos]

chatGPT invente une recette "hallucinée" en préparant une farce et en ouvrant les spaghettis en deux pour les garnir de farce.

Miam! Et si on fait une farce au poisson pour garnir les spaghetti ouverts par moitié et qu'on rajoute mettons des moules et des crevettes c'est délicieux.
question: est-ce qu'une intelligence artificielle peut vous inviter à diner chez elle ?

[Liet Kynes]

Miam! Et si on fait une farce au poisson pour garnir les spaghetti ouverts par moitié et qu'on rajoute mettons des moules et des crevettes c'est délicieux.
question: est-ce qu'une intelligence artificielle peut vous inviter à diner chez elle ?

Question: tu es sur quel genre de forum ici?

[JPL]

Il faut dire qu’un nombre énorme de messages postés ici sur les diverses discussions concernant ChatGPT et l’IA ne donnent pas impression d’un niveau relevant de la science. À vrai dire c’est souvent à pleurer que ça incite.

[Archi3]

Il y a là un début de compréhension de l'intérêt du concept d'AGI.

c'est l'inverse, l'IA n'est utilisable que si elle ne réalise que ce que l'humain attend d'elle, c'est qui est exactement l'inverse d'une intelligence autonome. C'est bien d'ailleurs la source des fantasmes de SF d'une IA qui se révolte contre son concepteur quand elle devient vraiment intelligente. Ce qu'elle ne fera jamais évidemment, comme on l'a dit, le danger de l'IA est dans ce que l'humain acceptera de se déposséder pour le confier à une machine aveugle, et dans rien d'autre. Et ce sont ceux qui la mythifient qui en seront responsables.

[pm42]

c'est l'inverse, l'IA n'est utilisable que si elle ne réalise que ce que l'humain attend d'elle, c'est qui est exactement l'inverse d'une intelligence autonome.

Affirmation gratuite comme d'hab (et fausse, et contraire à l'avis des experts du domaine).

C'est bien d'ailleurs la source des fantasmes de SF d'une IA qui se révolte contre son concepteur quand elle devient vraiment intelligente. Ce qu'elle ne fera jamais évidemment

Affirmation gratuite comme d'hab (et fausse, et contraire à l'avis des experts du domaine).

comme on l'a dit

Et si les gens ici l'ont dit vu leur immense connaissance en IA qui tangente le -infini, c'est forcément vrai.

le danger de l'IA est dans ce que l'humain acceptera de se déposséder pour le confier à une machine aveugle, et dans rien d'autre. Et ce sont ceux qui la mythifient qui en seront responsables.

Variante de "pas mal de gens sont des idiots à part moi qui pose comme principe que tout ce que je dit est vrai et prend ça pour une preuve d'intelligence".

La rigolade continue et on est vraiment dans l'équivalent IA de "j'ai trouvé une erreur dans la Relativité" ou "je vais vous expliquer les trous noirs et ce qui se passe quand on atteint le point de singularité et que l'espace et le temps s'inverse".
Et encore, je suis généreux : on est plutôt dans le genre du "mais non, la plume tombe moins vite, j'ai fait l'expérience".

[Archi3]

Comme dit JPL

Il faut dire qu’un nombre énorme de messages postés ici sur les diverses discussions concernant ChatGPT et l’IA ne donnent pas impression d’un niveau relevant de la science. À vrai dire c’est souvent à pleurer que ça incite.

comme le message #30 qui réussit l'exploit d'être à la fois factuellement faux (chat GPT a bien fait des erreurs au-delà de fabriquer des liens faux, ce qui est déjà en soit une tromperie, par exemple en publiant des multiplications fausses, en attribuant faussement des fuite de virus au H5N1 au lieu du SRAS, ou en prétendant compresser un texte en hexa, erreurs non détectées par ceux qui le portent aux nues et qu'il a fallu que des "non spécialistes" leur fasse remarquer), d'accuser des forumeurs personnellement en violant la charte, et d'être diffamatoire au regard de la loi en les accusant de mentir, donc au moins trois violations manifestes de la charte en quelques lignes.

Mais apparemment ça passe crème, donc s'en plaindre, c'est un peu l'hôpital qui se fout de la charité. Mais bon comme ces forumeurs appliquent la tactique de pourrir les fils par des attaques personnelles pour provoquer leur fermeture, même sur les fils qu'ils ont eux mêmes ouverts, là ça devient franchement surréaliste !

[Liet Kynes]

Une distinction qui est importante à faire est celle entre IA forte et IA généraliste (AGI en anglais, IAG en français). L'IA forte c'est de la SF , l'IAG c'est quelque chose d'évaluable, l'avis de l'académie est réservé (ouvert à de nombreuses évolutions) car au stade actuel et à la vitesse de développement actuelle de cette tech, il n'est plus insensé de voir des systèmes satisfaire au consensus de définition de l'IAG.

C'est grosso modo le message que je voulais faire passer dans ce fil et les quelques lien donnés servent à comprendre en partie comment l'évolution de ces systèmes est en cours.

[Archi3]

la distinction n'est pas si claire que ça :
https://datafranca.org/wiki/Intellig...ielle_générale

L’intelligence artificielle générale (IAG) désigne des systèmes capables de donner de « bons » résultats dans toutes les tâches cognitives propres aux êtres humains ou aux animaux dits supérieurs.

Parfois, on élargit le concept d’intelligence artificielle générale à des systèmes dotés d’une conscience et même de sentiments (ce qui se rapproche de l’IA forte). Cela reste toutefois à définir plus précisément et fait l’objet de débats dans la communauté scientifique.

Il est important d’insister sur le fait qu’aucun système d’intelligence artificielle générale n’existe aujourd’hui. Tout comme pour l’IA forte, l’IA générale demeure un sujet spéculatif.

pour moi c'est une distinction casuistique qui sert à faire rentrer par la fenêtre ce qui n'est pas passé par la porte, comme quand tu dis "L'IA forte c'est de la SF , l'IAG c'est quelque chose d'évaluable", alors qu'aucune n'existe réellement, et qu'il n'y a pas de différence profonde évidente : ou alors il faudrait dire clairement quelles choses seraient faisables par une IA forte et pas par une IA générale ?

[Liet Kynes]

pour moi c'est une distinction casuistique qui sert à faire rentrer par la fenêtre ce qui n'est pas passé par la porte, comme quand tu dis "L'IA forte c'est de la SF , l'IAG c'est quelque chose d'évaluable", alors qu'aucune n'existe réellement, et qu'il n'y a pas de différence profonde évidente : ou alors il faudrait dire clairement quelles choses seraient faisables par une IA forte et pas par une IA générale ?

Faisons un test, je pose l'hypothèse que tu sois une IAG: prouves-moi que ce n'est pas le cas puis fais l'expérience de penser en tant qu'évaluateur de l'IAG.
La subtilité d'avec l'IA forte c'est que l'IA forte c'est du ressort de la philosophie ou SF.

[GBo]

Une distinction qui est importante à faire est celle entre IA forte et IA généraliste (AGI en anglais, IAG en français). L'IA forte c'est de la SF , l'IAG c'est quelque chose d'évaluable, l'avis de l'académie est réservé (ouvert à de nombreuses évolutions) car au stade actuel et à la vitesse de développement actuelle de cette tech, il n'est plus insensé de voir des systèmes satisfaire au consensus de définition de l'IAG.

C'est grosso modo le message que je voulais faire passer dans ce fil et les quelques lien donnés servent à comprendre en partie comment l'évolution de ces systèmes est en cours.

Bof bof, l'académie des technologies n'en parle pas justement, et il n'y a au contraire aucune piste pour dire que l'AGI sera une évolution des bonimenteurs, pardon des langageurs actuels.

Même Sam Altman le dit dans la fameuse interview par Lex Fridman que j'ai déjà posté 3 fois*, pour lui il manque quelque chose voire plusieurs choses et il ne sait pas quoi.

Yann LeCun lui a une proposition (d'ailleurs il ne dit pas AGI mais HLAI pour human level artificial intelligence), mais ça reste de la recherche fondamentale, pas de quoi équiper vite fait Bing et TEAMS pour gagner des parts du marché.

Chercher "Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcast #367"
C'est long et pénible à écouter mais c'est nécessaire.

[Archi3]

Faisons un test, je pose l'hypothèse que tu sois une IAG: prouves-moi que ce n'est pas le cas puis fais l'expérience de penser en tant qu'évaluateur de l'IAG.
La subtilité d'avec l'IA forte c'est que l'IA forte c'est du ressort de la philosophie ou SF.

je ne peux pas te prouver que je ne suis pas une IAG si tu ne m'a pas donné une définition opérationnelle pour toi de ce qu'est une IAG, c'est à dire des critères que tu considérerais toi comme valable.

Et ça passe en particulier par répondre à ma question précédente : pour toi, qu'est ce qu'une IA forte pourrait faire, que ne pourrait pas faire une IAG, concrètement ?

Tant que tu n'as pas répondu à cette question, je ne pourrai pas accéder à ta demande.

[Liet Kynes]

Bof bof, l'académie des technologies n'en parle pas justement, et il n'y a au contraire aucune piste pour dire que l'AGI sera une évolution des bonimenteurs, pardon des langageurs actuels.

Il ne développe leur avis que sur qui existe mais y pose une réserve et se gardent de se prononcer sur la faisabilité : "Bien entendu, il s’agit ici d’un premier avis de l’Académie. La technologie de l’IA-G pour le langage est caractérisée actuellement par une rapidité inhabituelle d’évolution. Nous suivons donc ces évolutions et nous formulerons des mises au point, le cas échéant."

[Liet Kynes]

je ne peux pas te prouver que je ne suis pas une IAG si tu ne m'a pas donné une définition opérationnelle pour toi de ce qu'est une IAG, c'est à dire des critères que tu considérerais toi comme valable.

Et ça passe en particulier par répondre à ma question précédente : pour toi, qu'est ce qu'une IA forte pourrait faire, que ne pourrait pas faire une IAG, concrètement ?

Tant que tu n'as pas répondu à cette question, je ne pourrai pas accéder à ta demande.

S'agissant d'un expérience de pensée, je te propose un échange avec toi même pas avec moi.

[GBo]

Il ne développe leur avis que sur qui existe mais y pose une réserve et se gardent de se prononcer sur la faisabilité : "Bien entendu, il s’agit ici d’un premier avis de l’Académie. La technologie de l’IA-G pour le langage est caractérisée actuellement par une rapidité inhabituelle d’évolution. Nous suivons donc ces évolutions et nous formulerons des mises au point, le cas échéant."

C'est ce que je dis, ce n'est pas traité par le post avec lequel tu as ouvert le thread. J'ai fait l'effort de lire le rapport en entier.
Il valait mieux bien lire ce qui est dit par cette académie sur le sujet traité ("pro and cons" des langageurs actuels donc) que d'imaginer ce qui ne l'est pas, à grand renfort de smileys.

[Archi3]

S'agissant d'un expérience de pensée, je te propose un échange avec toi même pas avec moi.

c'est toi qui poses la question, sur une catégorie mal définie "IAG", donc je ne peux pas te prouver que je n'en suis pas si tu n'as pas précisé quelle était ta définition de l'IAG : il faut que tu donnes tes critères de ce que tu accepterais comme "preuve".

D'autre part tu as affirmé avec pas mal d'assurance que l'IAG et l'IA forte ce n'était pas la même chose, donc il me semble que tu devrais savoir répondre à la question : qu'est ce qu'une IA forte peut faire, qu'une IAG ne peut pas faire ? si la différence est évidente pour toi , il me semble que tu devrais pouvoir répondre.

Ou alors on retombe dans le problème des assertions non scientifiques dès qu'on parle d'IA.

[Archi3]

Faisons un test, je pose l'hypothèse que tu sois une IAG: prouves-moi que ce n'est pas le cas

PS ; suivant une définition opérationnelle de l'IAG, je ne peux pas te prouver que je n'en suis pas, puisque j'en suis bien une, à base de protéines et de médiateurs chimiques. Si tu restreins "IAG" à des circuits en silicium, alors la meilleure preuve que je n'en suis pas serait juste de boire une bière ensemble