Deux articles intéressants sur l'IA conversationnelle

[ArchoZaure]

Bonjour.

L'exemple donné est simple mais significatif.

On a “Sarah lies still on the bed, feeling ____” et on doit remplir le blanc.

Le plus logique est "tired" : elle est allongée sur lit sans bouger parce qu'elle est fatiguée.

Il n'y a rien de logique là dedans, au mieux c'est statistique.
On ne peut pas rendre intelligente une phrase idiote.
-----

[Deedee81]

Il n'y a rien de logique là dedans, au mieux c'est statistique.

Ni l'un ni l'autre en fait (bien qu'on puisse en donner une interprétation statistique, c'est exactement ce que font les machines), c'est abus de langage qui veut dire "dans la manière de raisonner humaine".

On ne peut pas rendre intelligente une phrase idiote.

[Ladrix]

Salut à tous

@deedee81

aussi l’étiquetage des documents, l'élimination de certains textes ne respectant pas certains risques de biais

Voilà ce que je prétendais qui est confirmé.

L'élimination des données suivant des critères qu'on ne maitrise pas.

Note
Mon omniscience n'est que le reflet d'une intelligence réelle (mais ça reste douteux même pour moi 158)
fin de note

Ladrix

[pm42]

Voilà ce que je prétendais qui est confirmé.

Pas du tout, c'est du biais de confirmation parce que justement, dans les cas récents, on n'a pas éliminé de textes. On a utilisé une autre technique qui a été décrite ici.
Il faudrait lire plutôt que de parler sans savoir.

L'élimination des données suivant des critères qu'on ne maitrise pas.

Faux également, ce n'est pas du tout ce qui est fait.

Mon omniscience n'est que le reflet d'une intelligence réelle (mais ça reste douteux même pour moi 158)
fin de note

Là aussi, "intelligence réelle" nécessiterait d'être définie et dans le cas présent, on peut considérer qu'il y a de nombreuses preuves qui permettent de réfuter cette affirmation gratuite.

Ce qui est intéressant dans les discussions sur l'IA, c'est le nombre de personnes qui disent "les machines ne sont pas intelligentes mais moi je le suis".
Vu qu'en général aucune d'elle n'a fait l'effort d'apprendre, que leurs arguments sont tous faux, que leurs raisonnements oscillent entre le biaisé et le ridicule, je me demande quelle est leur définition de l'intelligence.

[Deedee81]

Faux également, ce n'est pas du tout ce qui est fait.

Ben dis donc, heureusement. Sinon j'imagine le foutoir avec les IA (celles utilisées pour de "vrais" usages, dans divers corps de métier, dans l'éducation)

En fait, beaucoup de règles de sélection ont été mises en place parceque il y avait divers problèmes. Si on ne maitrisait pas ces critères, non seulement les problèmes seraient toujours là mais en plus, on ne se ferait pa ch...er à utiliser de tels critères. Attention, je ne dis pas que c'est parfait, bien entendu, tout est perfectible, surtout quand c'est récent et complexe. Mais dire qu'on ne maîtrise pas ces critères est absolument effarant.

les machines ne sont pas intelligentes mais moi je le suis

Je crois que tu viens de mettre le doigt sur LE truc qui distingue les IA des humains (bon, je plaisante.... un peu)

[pm42]

Je crois que tu viens de mettre le doigt sur LE truc qui distingue les IA des humains (bon, je plaisante.... un peu)

On en revient à "il faudrait définir l'intelligence".
Et comme je le disais, je me pose pas mal de questions.

Par exemple, je connais quelques dizaines de langages informatiques, j'en pratique 3 à 5 au quotidien et je peux en apprendre un nouveau rapidement.
Là, je fais à titre de hobby une App pour iPhone ce qui nécessite d'apprendre le langage Swift et la librairie SwiftUI.

Normalement, être capable de faire cela est considéré comme nécessitant une forme d'intelligence et souvent, les programmeurs ont une formation d'ingénieur.

Sauf qu'au lieu d'apprendre à l'ancienne, je demande à GPT-4 de me dire "comment faire ça" et il me sort le code.
Quand ça ne se comporte pas comme prévu, je lui dis "oui mais en fait, ça s'affiche comme ça et pas comme tu dis" et il me sort la correction.

C'est vraiment comme si j'avais un collègue compétent qui me guide et m'explique. Pas un expert au top, on n'en est pas là mais quelqu'un qui a déjà de l'expérience et peut soit me donner la solution soit me pointer dans la bonne direction.

Et là, je me rends compte que "l'intelligence" derrière ces tâches est en fait de se construire un catalogue de solutions et de les appliquer à bon escient. Que c'est plus mécanique que je ne le pensais.

Et quand je lis le forum en science, je me dis la même chose sur beaucoup de réponses.

Donc, j'ai de plus en plus de mal à définir "l'intelligence" ou tout du moins, je pense qu'elle s'explique par des mécanismes plus simples que ce qu'on suppose et qu'elle n'a pas du tout ce coté mystique que certains lui attribuent.

[khurnous]

Bonjour,

Une demande de précision PM42, lorsque tu parles de "programmeurs", a quoi penses exactement ? Tous, et de loin, n'ont pas une formation d'ingénieur. En termes de référentiel métier, c'est des diplômes de niveau 5 à 7 (en gros du DUT/BTS aux diplômes d'ingénieur proprement dit).

Pour l'intelligence, traditionnellement, on en distingue plusieurs types. C'est pourquoi je suis dubitatif sur l'utilisation de ce terme à propos d'IA.

Pour ton exemple, il est intéressant. L'intelligence, au cas particulier, sera d'être capable de choisir une solution qui sera peut-être moins immédiatement performante, mais plus simple en termes de maintenance (ratio coût/avantage) et potentiellement plus évolutive. Si je comprends le fonctionnement d'une IA, elle te donnera la meilleur solution "brute" sans tenir compte de son environnement...

Nous sommes au moins d'accord sur le fait qu'elle n'a rien de mystique.

[Archi3]

il n'y a qu'à définir l'intelligence comme la capacité à demander à une IA de faire le boulot à sa place, et tout le monde sera content

[Liet Kynes]

Il y a un article dans cerveau et psycho :https://www.cerveauetpsycho.fr/sd/in...-ans-24968.php
et ici ; https://trustmyscience.com/ia-chatgp...heorie-esprit/
On y parle de propriétés émergentes.

[ArchoZaure]

et ici ; https://trustmyscience.com/ia-chatgp...heorie-esprit/
On y parle de propriétés émergentes.

C'est juste une inférence statistique basée sur la reproduction des schémas mentaux inscrits dans les pages qui ont servi à l'entrainement... qui "émerge" (ouais je sais ça fait classe et plein de promesses d'utiliser ce mot plutôt que "est produit" )

Ils le disent eux-même dans cet article.

Ces résultats n’en restent pas moins intéressants à d’autres niveaux : en effet, pour Michal Kosinski, cette découverte devrait « conduire à une réévaluation de la manière de tester cette forme cruciale d’intelligence », puisqu’il est visiblement tout à fait possible de contourner ces tests. En outre, en faisant des essais avec différentes versions de ChatGPT, il a pu constater que ces capacités liées à la théorie de l’esprit sont « un phénomène nouveau » : les premières versions de ChatGPT étaient tout à fait incapables de réussir un tel test, et la capacité est apparue de façon graduelle, version après version.

Mais sinon et de manière générale, il n'y a de toutes façon pas de définition pour l'intelligence avec un grand I vu qu'il y a plein de formes d'intelligences et aussi comme on vient de le voir ici, plusieurs manières de produire un certain type d'intelligence (valable dans un certain contexte, et selon un certain coût etc).

[Archi3]

Si une IA réussit certains tests qui sont adaptés à l'humain pour savoir quelles capacités intellectuelles il a , mais échoue complètement à d'autres similaires, on en déduit quoi ?

Ou posé autrement, pourquoi une IA devrait avoir les mêmes corrélations entre les réussites à des tests qu'un humain ? les exemples donnés sur le forum montrent que ce n'est certainement pas le cas, c'est à dire qu'une même iA peut etre à la fois "très intelligente" et "très bête" suivant le choix du test.

[Liet Kynes]

Si une IA réussit certains tests qui sont adaptés à l'humain pour savoir quelles capacités intellectuelles il a , mais échoue complètement à d'autres similaires, on en déduit quoi ?

Ou posé autrement, pourquoi une IA devrait avoir les mêmes corrélations entre les réussites à des tests qu'un humain ? les exemples donnés sur le forum montrent que ce n'est certainement pas le cas, c'est à dire qu'une même iA peut etre à la fois "très intelligente" et "très bête" suivant le choix du test.

Cela montre qu'une des formes de l'intelligence humaine dans le contexte actuel de développement des IA est de savoir choisir la bonne IA pour une utilisation spécifique : personne n'aurait l'idée de demander à WOLFRAM de résumer un texte.

[Archi3]

bien sur, sur la question pratique, la réponse est évidente , on choisit l'IA pour les applications pour lesquelles elle donne satisfaction. Mais ces tests ne sont pas des tests de performance pour des trucs utiles (on s'en fiche qu'elle réponde correctement à la question de où est la banane, nous on le sait), ça me semble être des tests pour savoir "comment elle marche", et pour certains peut être "si elle pense" . C'est plus des tests pour essayer de savoir en quoi elle se rapproche des humains. Donc ma question est : si elle réussit à des tests jugés "un peu compliqués" pour des humains mais échoue à des tests jugés "très simples" pour ces mêmes humains, qu'en déduit on sur sa proximité ou son infériorité/supériorité par rapport aux humains ?
Note qu'on a le même phénomène avec certaines formes d'autisme ou d'autres troubles psychiques, par exemple les soi-disant "idiots savants"

[pm42]

Cela montre qu'une des formes de l'intelligence humaine dans le contexte actuel de développement des IA est de savoir choisir la bonne IA pour une utilisation spécifique : personne n'aurait l'idée de demander à WOLFRAM de résumer un texte.

Cela montre surtout que les humains en question ne savent pas s'en servir parce qu'ils n'ont pas l'intelligence minimale de comprendre qu'un outil se maitrise.
C'est tout.

Et ce qui est amusant, c'est l'opposition entre "très intelligente" et "très bête" comme si là aussi les humains y échappaient.
C'est l'illusion dans laquelle certains vivent d'être "intelligents" c'est à dire d'être capable d'avoir un discours pertinent sur tout, tout le temps en appliquant ce qu'ils croient être leurs remarquables capacités de "raisonnement".
Alors que la réalité, c'est qu'on a tous des domaines de compétence, que dès qu'on en sort, on raconte vite n'importe quoi et qu'en plus, on a également tous des biais psychologiques qui font qu'être "intelligent" tout le temps est impossible.

C'est pour ça que la science se fait par consensus/peer-review/vérification au lieu de se contenter de dire "le grand sage a dit que donc c'est vrai".
Et l'ironie s'approfondit : ces gens qui se croient "intelligents" au sens scientifique se voient dans le rôle du "grand sage qui sait" et donc sont dans la pensée magique/religieuse à 100%.

Leur discours est donc comme celui des IA : "intelligent" parfois pour certains d'entre eux qui ont une formation correcte dans un domaine totalement "bête" le reste du temps.

P.S : je me demande si on ne devrait pas définir l'intelligence au moins partiellement comme une capacité à connaitre ses propres limites et biais et à essayer d'éviter les pièges associés ce qui éviterait cette dichotomie entre "je suis compétent dans un domaine" et "je raconte régulièrement n'importe quoi".
Sans même parler des gens qui ne sont pas spécialement compétents et qui eux disent n'importe quoi tout le temps ce qui servirait à définir l'opposé de l'intelligence.

[Archi3]

P.S : je me demande si on ne devrait pas définir l'intelligence au moins partiellement comme une capacité à connaitre ses propres limites et biais et à essayer d'éviter les pièges associés ce qui éviterait cette dichotomie entre "je suis compétent dans un domaine" et "je raconte régulièrement n'importe quoi".
Sans même parler des gens qui ne sont pas spécialement compétents et qui eux disent n'importe quoi tout le temps ce qui servirait à définir l'opposé de l'intelligence.

ah dans ce cas chatGPT ne sait pas qu'elle ne sait pas répondre à certaines questions, et préfère répondre n'importe quoi que dire qu'elle ne sait pas, donc elle est très bête suivant ton critère...

[GBo]

Cela montre qu'une des formes de l'intelligence humaine dans le contexte actuel de développement des IA est de savoir choisir la bonne IA pour une utilisation spécifique : personne n'aurait l'idée de demander à WOLFRAM de résumer un texte.

Salut Liet.
Et ceux qui ont eu l'idée d'en demander à ChatGPT se demandent si elle était si bonne que ça:

According to the lawsuit, the misinformation ensued when Fred Riehl, the editor-in-chief of gun publication AnmoLand, asked ChatGPT for a summary of the Second Amendment Foundation v. Ferguson case as background for a case he was reporting on.

La suite sur:
"ChatGPT's hallucination just got OpenAI sued. Here's what happened"
https://www.zdnet.com/article/chatgp...what-happened/

Perso, j'ai laissé tomber la règle à calcul au lycée dès que la calculette a été autorisée (juste avant le bac, OUF). Mais la grosse différence avec ce qui se passe aujourd'hui avec les langageurs (chatbots à base de LLM), c'est que la calculette, elle, ne se trompe jamais.

[ArchoZaure]

Et ce qui est amusant, c'est l'opposition entre "très intelligente" et "très bête" comme si là aussi les humains y échappaient.
C'est l'illusion dans laquelle certains vivent d'être "intelligents" c'est à dire d'être capable d'avoir un discours pertinent sur tout, tout le temps en appliquant ce qu'ils croient être leurs remarquables capacités de "raisonnement".

Marrant que vous y faites référence.
Moi en tous cas je crois encore dans la supériorité intellectuelle d'un être qui raisonne plutôt que dans celui d'une machine qui produit de la réponse statistique.
D'ailleurs et ça vous a peut-être échappé mais ce critère est celui revendiqué par le forum... puisque les sciences s'appuient sur le raisonnement !
Donc en prétendant le contraire vous dites que les scientifiques vivent dans l'illusion d'être intelligents...

Vous voyez à quoi servent les raisonnements ?

[Archi3]

Marrant que vous y faites référence.
Moi en tous cas je crois encore dans la supériorité intellectuelle d'un être qui raisonne plutôt que dans celui d'une machine qui produit de la réponse statistique.
D'ailleurs et ça vous a peut-être échappé mais ce critère est celui revendiqué par le forum... puisque les sciences s'appuient sur le raisonnement !
Donc en prétendant le contraire vous dites que les scientifiques vivent dans l'illusion d'être intelligents...

Vous voyez à quoi servent les raisonnements ?

effectivement, pour certains, l'esprit scientifique, c'est la possibilité de raisonner, d'inventer, de proposer, de se tromper, de discuter, et la liberté d'expression, sans argument d'autorité ... mais bon à mon avis, pm42 ne croit pas complètement à la supériorité de l'IA, sinon il lui demanderait toujours son avis avant de poster quelque chose .

Salut Liet.
Et ceux qui ont eu l'idée d'en demander à ChatGPT se demandent si elle était si bonne que ça:

La suite sur:
"ChatGPT's hallucination just got OpenAI sued. Here's what happened"
https://www.zdnet.com/article/chatgp...what-happened/

c'est pas comme si personne ne l'avait prévu ....

[JPL]

Il est temps de clore cette discussion en raison de ses dérapages. De toute façon, au bout de quelques messages on en revient toujours a ressasser les mêmes choses connues depuis la première discussion ouverte sur ce sujet.

MONSIEUR JOURDAIN
Non, vous dis-je, je ne veux que ces seules paroles-là dans le billet ; mais tournées à la mode, bien arrangées comme il faut. Je vous prie de me dire un peu, pour voir, les diverses manières dont on les peut mettre.

MAÎTRE DE PHILOSOPHIE
On les peut mettre premièrement comme vous avez dit : Belle Marquise, vos beaux yeux me font mourir d’amour. Ou bien : D’amour mourir me font, belle Marquise, vos beaux yeux. Ou bien : Vos yeux beaux d’amour me font, belle Marquise, mourir. Ou bien : Mourir vos beaux yeux, belle Marquise, d’amour me font. Ou bien : Me font vos yeux beaux mourir, belle Marquise, d’amour.

MONSIEUR JOURDAIN
Mais de toutes ces façons-là, laquelle est la meilleure ?

MAÎTRE DE PHILOSOPHIE
Celle que vous avez dite : Belle Marquise, vos beaux yeux me font mourir d’amour.

MONSIEUR JOURDAIN
Cependant je n’ai point étudié, et j’ai fait cela tout du premier coup.

Molière