La nouvelle tendance: les IA remplacent les humains

[pm42]

Luc Julia prend en début de conférence la Pascaline en exemple pour dire que l'on ne peut pas parler d'intelligence artificielle, ce qui à mes yeux révèle une vision réduite du terme d'intelligence dès le départ.

On en revient à ce que je disais : le mot "intelligence" est un attrape-tout, imprécis et dont il existe des centaines de définitions.

C'est pour cela que considérer que la discipline cherche à reproduire nos fonctions cognitives est intéressant.
Par exemple, faire de la reconnaissance de texte ou d'images ne fonctionne pas bien algorithmiquement mais par contre, le deep-learning sait le faire aussi bien que nous.

On peut considérer que "savoir lire" n'est pas de l'intelligence mais en même temps, c'est une caractéristique cognitive réservée aux humains.

Un autre exemple du caractère totalement imprécis et évolutif du concept d'intelligence : il y a 1 siècle et avant, quelqu'un qui n'était pas capable d'apprendre à compter et calculer aurait été considéré comme "peu intelligent".
Pourtant, n'importe quel ordinateur ou téléphone aujourd'hui est capable de compter mieux et des milliards de fois plus vite qu'un humain.

Donc, est ce que cette capacité qui est en fait mécanique n'a rien à voir avec "l'intelligence" ou bien est ce qu'on a fait ce que je disais plus haut : changé la définition dès qu'on a eu un contre-exemple.

Autre exemple : un LLM aujourd'hui est très loin d'avoir toutes les capacités d'un humain. Il n'apprend pas de lui même, il n'a pas de représentation du monde, il n'est pas très bon en raisonnement rigoureux, etc.
Pourtant si on lui pose une question, qu'on lui demande de rédiger un texte ou même de faire un exo de maths simples, on a une réponse qui est meilleure que 99% de ce qu'on lit en ligne, plus argumentée, basée sur des données factuelles, etc.

Là aussi, j'ai du mal à voir comment le concept attrape-tout d'intelligence s'applique.
Il est plus cohérent de considérer que nous avons un jeu de capacités cognitives, que nos machines sont capable d'en reproduire certaines, pas encore toutes mais qu'on progresse. Et qu'on ne sait pas encore jusqu'où on ira ni à quelle vitesse.
-----

[Ikhar84]

Un autre exemple du caractère totalement imprécis et évolutif du concept d'intelligence : il y a 1 siècle et avant, quelqu'un qui n'était pas capable d'apprendre à compter et calculer aurait été considéré comme "peu intelligent".
Pourtant, n'importe quel ordinateur ou téléphone aujourd'hui est capable de compter mieux et des milliards de fois plus vite qu'un humain.

Un ordinateur ne sait pas compter...
Celui qui sait compter est celui qui a conçu le substrat physique, les composants électronique, et l'intelligence, le soft...

Tant qu'il n'y a pas de prise de décision autonome, avec un apprentissage préalable, une volonté de décision, les résultats des ses actions ne sont que le reflet de l'intelligence de celui (plutôt ceux) qui l'a conçu...

(Je ne parle pas d'IA "autonome", dans le sens où ses actions n'ont pas été explicitement programmées...)

[pm42]

Un ordinateur ne sait pas compter...
Celui qui sait compter est celui qui a conçu le substrat physique, les composants électronique, et l'intelligence, le soft...

Donc un enfant ne sait pas compter ? Ceux qui savent compter sont les parents qui l'ont conçu et les profs qui lui ont appris ?

Tant qu'il n'y a pas de prise de décision autonome, avec un apprentissage préalable, une volonté de décision, les résultats des ses actions ne sont que le reflet de l'intelligence de celui (plutôt ceux) qui l'a conçu...

C'est exactement ce que je disais : tu utilises une définition de "savoir" et "intelligence" qui t'es propre et qui ne fait pas consensus (parce qu'il n'y en a aucun dans le domaine).

Au passage, quand on apprend aux enfants à compter, j'ai un doute sur "décision autonome", "volonté de décision", etc.

Pour le reste, c'est une illustration de ce que je disais : il y a 1 siècle, on aurait considéré que savoir compter était une fonction qui relevait de l'intelligence.
Maintenant que les ordinateurs le font, tu dis "ils ne savent pas compter".
C'est s'accrocher au mythe que nous avons quelque chose de spécial, que nos fonctions cognitives relève de quelque chose d'indéfinissable, quasi mystique.
Pourtant, on est justement capable d'en reproduire de plus en plus.

[titijoy3]

Un ordinateur ne sait pas compter...
Celui qui sait compter est celui qui a conçu le substrat physique, les composants électronique, et l'intelligence, le soft...

Tant qu'il n'y a pas de prise de décision autonome,

que fait une auto autonome quand elle décide de freiner ?

avec un apprentissage préalable,

ça se fait

une volonté de décision,

voir plus haut

les résultats des ses actions ne sont que le reflet de l'intelligence de celui (plutôt ceux) qui l'a conçu...

celui qui l'a conçu à été programmé pour exécuter une tache, ça s'appelle la formation

(Je ne parle pas d'IA "autonome", dans le sens où ses actions n'ont pas été explicitement programmées...)

comprend pas

[GBo]

Luc Julia prend en début de conférence la Pascaline en exemple pour dire que l'on ne peut pas parler d'intelligence artificielle, ce qui à mes yeux révèle une vision réduite du terme d'intelligence dès le départ.

Il prend au contraire en exemple la machine à calculer de Pascal pour montrer que tenter de reproduire certains aspects de l'intelligence humaine ne date pas d'hier, et que c'est abusif d'appeler "ça" de l'intelligence, comme on le fait pourtant aujourd'hui avec le I de l'IA, ce qui, pour lui, dessert donc ce domaine de l'informatique, par comparaison injuste. Il montre d'ailleurs brillamment - car c'est un bon conférencier en plus de bien connaitre le domaine - que cette machine mécanique dépasse les capacités de calcul "de tête" de l'auditoire. Pour autant, intelligente ?

Je remets le lien:

"2023 | Luc Julia - L'intelligence artificielle n'existe pas"
https://www.youtube.com/watch?v=BiYWm75Yvb4&t=139s

[Murayama]

Bonjour!

Luc Julia prend en début de conférence la Pascaline en exemple pour dire que l'on ne
peut pas parler d'intelligence artificielle, ce qui à mes yeux révèle une vision réduite
du terme d'intelligence dès le départ.

Si vous vous êtes arrêtés à l'histoire de la Pascaline, le fait est que cela ne prouve
pas grand chose. Ça me rappelle un concert de François Bérenger, quand j'étais (très)
jeune, parlant des journalistes: ils assistent à ma ère partie et ils écrivent sur
la seconde.

Il prend au contraire en exemple la machine à calculer de Pascal pour montrer que
tenter de reproduire certains aspects de l'intelligence humaine ne date pas d'hier [...]

Apparemment, votre explication de texte n'est pas inutile. Merci! Il faut coire que
quand un quidam montre la lune, il y en a encore pas mal qui regardent son doigt.

Pascal

[pm42]

quand un quidam montre la lune, il y en a encore pas mal qui regardent son doigt.

Quand on n'a aucun argument et qu'on ne comprend rien au sujet, on en arrive en général à ce genre "d'argument".

[GBo]

De fait, la conférence de Julia (celle de 2023 en lien ci dessous) mérite mieux que le portrait peu flatteur que Liet en donne, je suis en train de l'écouter et la comparaison à Raoult était particulièrement déplacée. Julia dit les choses de façon certes un peu franchouillarde (terme revendiqué), mais il dit des choses vraies, à 180° des discours marketing et/ou apocalyptique des ténors de la silicon valley (qu'il connait bien).

[Ikhar84]

@pm... erreur de copier/coller...

Je voulais montrer à Liet que l'erreur commune est d'attribuer à la "créature" l'intelligence du "créateur", dans le seul contexte technique bien sûr...

La réalisation technique n'est que la projection de l'intelligence du concepteur, jusqu'à ce qu'elle se "libère" de ses créateurs, au sens que ses actions ne sont plus pré-programmées...

[pm42]

mais il dit des choses vraies, à 180° des discours marketing et/ou apocalyptique des ténors de la silicon valley (qu'il connait bien).

Oui mais ici, on est sur un forum scientifique : quand des gens expliquent que le CERN va faire des trous noirs qui vont absorber la Terre, ça fait rigoler tout le monde et on n'a pas ça sorti en boucle sur tous les fils de physique.

Quand on parle d'IA, on boucle sur ce genre de trucs, le "ce n'est pas de l'intelligence", "ca va être la fin du monde", etc.

Personne n'apprend rien de cette façon. Cela fait penser au Covid avec les discussions qui tournaient autour des théories perso de tout un chacun qui s'improvisait épidémiologiste ou expert en santé publique.

[GBo]

Bonjour!

On met l'AI à toutes les sauces, on en parle dans toutes les pubs, c'est un mot
qui va faire flop quand le soufflé sera retombé.
Pour remettre les choses à leur place, voyez ce lien.

Pascal

Maintenant que j'ai écouté la conf entièrement (merci pour le lien): plus exactement Luc Julia parle du soufflé de l'IA générative (il cible particulièrement ChatGPT pour la génération de texte et MidJouney pour la génération d'image, en invoquant également des soucis légaux, pas que techniques). Il ne parle pas de l'IA en général.

Pour les voitures autonomes par exemple, il pense qu'on attendra le niveau 4, c'est dire s'il y croit, et c'est de l'IA ça, beaucoup d'IA...

A titre personnel, uen anecdote: bien lisant l'anglais parfaitement, je me surprends de plus en plus à utiliser la touche click droit "traduire en français" quand c'est un article de presse sur un domaine non technico-scientifique, ça va 2x plus vite. Ca commence à marcher très très bien, même si je suis parfois obligé de faire F5 pour vérifier quand la trad. se gourre manifestement de sens d'où l'importance, là aussi de "reprendre le volant des mains" et de maîtriser soi même les langues. Mais ces outils de traduction (qui utilisent les LLMs à l'instar de l'IA générative textuelle) sont faits pour rester.

Une variante de ChatGPT allégée, spécialisée pour aider à générer du code générique en Python ou autre langage de script, ça aussi ça va rester.
Mais un chatGPT utilisé comme "Oracle" (réponse à tout), le "hype" ne peut en effet que retomber avec ces plus de 30% d'erreurs factuelles (chiffre d'une étude scientifique citée par Julia), tant des solutions n'ont pas été trouvées.

[Liet Kynes]

De fait, la conférence de Julia (celle de 2023 en lien ci dessous) mérite mieux que le portrait peu flatteur que Liet en donne, je suis en train de l'écouter et la comparaison à Raoult était particulièrement déplacée. Julia dit les choses de façon certes un peu franchouillarde (terme revendiqué), mais il dit des choses vraies, à 180° des discours marketing et/ou apocalyptique des ténors de la silicon valley (qu'il connait bien).

La comparaison s'arrête au fait qu'à donner trop vite un avis sur des choses qui ne sont pas encore claires laisse transparaître un manque de sérieux.
Il y a une étape pas encore envisagée, à ma connaissance qui est de forcer un système à penser en le plaçant en sollicitation permanente par des sens. Nous sommes au tout début de cette technologie, il ne faut pas l'oublier.

[pm42]

Il y a une étape pas encore envisagée, à ma connaissance qui est de forcer un système à penser en le plaçant en sollicitation permanente par des sens. Nous sommes au tout début de cette technologie, il ne faut pas l'oublier.

L'étape est envisagée et déjà testée.

[Liet Kynes]

L'étape est envisagée et déjà testée.

Une "pensée" cohérente émerge ?

[GBo]

La comparaison s'arrête au fait qu'à donner trop vite un avis sur des choses qui ne sont pas encore claires laisse transparaître un manque de sérieux.

Oui tu as jugé trop vite, mais c'est bien de le reconnaitre

Il y a une étape pas encore envisagée, à ma connaissance qui est de forcer un système à penser en le plaçant en sollicitation permanente par des sens. Nous sommes au tout début de cette technologie, il ne faut pas l'oublier.

C'est l'objet des recherches d'un Le Cun par exemple (dont Luc Julia ne dit que du bien), qui est le chantre, pour les machines, d'un apprentissage du monde comme le font les petits d'Homme ou d'animal. Au sommet du hype sur ChatGPT il y a un an, quand certains se voyaient déjà au portes de l'AGI voire de l'apocalypse, Le Cun nous ramenait sur terre avec son humour tordant mais plein de sens:

"Before we can get to "God-like AI" we'll need to get through "Dog-like AI"

Source: https://x.com/ylecun/status/1646882539833794560

[pm42]

Une "pensée" cohérente émerge ?

Non parce qu'on est très loin de cela et qu'il est probable que ce qu'on appelle "pensée cohérente" ne vient pas que des sens. Après tout, les animaux ont tous des sens aussi.

C'est l'objet des recherches d'un Le Cun par exemple (dont Luc Julia ne dit que du bien), qui est le chantre, pour les machines, d'un apprentissage du monde comme le font les petits d'hommes ou d'animaux. Au sommet du hype sur ChatGPT il y a un an, quand certains chez µsoft ou OpenAI se croyaient déjà au portes de l'AGI voire de l'apocalypse, Le Cun nous ramenait sur terre avec son humour tordant mais plein de sens:

Oui et ce qu'il dit est très pertinent mais il faut aussi le mettre dans le contexte : Le Cun est un chercheur qui veut aller plus loin. Il est donc très conscient des limitations des IAs actuelles.

Cela ne veut pas dire pour autant qu'elles ne sont pas déjà très performantes.

Il y a quelques décennies, avant que Deep Blue ne batte Kasparov, quelqu'un avait fait cette remarque : "on dit que les ordinateurs ne sont pas meilleurs que les hommes aux échecs parce que le champion du monde est devant eux mais en pratique, ils sont déjà devant 99,9% des joueurs".

C'est pareil actuellement : un LLM généraliste va être faiblard en maths certes. Mais comparé à qui ? La majorité des humains n'est franchement pas meilleure.

[Liet Kynes]

Non parce qu'on est très loin de cela et qu'il est probable que ce qu'on appelle "pensée cohérente" ne vient pas que des sens. Après tout, les animaux ont tous des sens aussi.

Le discernement des insectes est déjà quelque chose de très "intelligent" : ils possèdent des sens et sont continuellement approvisionnés en infos et pourtant ils trouvent ce qui leur faut et font ce qui leur permet de continuer d'exister en tant qu'espèce. Implanté cela dans un système d'IA n'est pas pour tout de suite.

[GBo]

Le discernement des insectes est déjà quelque chose de très "intelligent" : ils possèdent des sens et sont continuellement approvisionnés en infos et pourtant ils trouvent ce qui leur faut et font ce qui leur permet de continuer d'exister en tant qu'espèce. Implanté cela dans un système d'IA n'est pas pour tout de suite.

Oui, là on est d'accord. L'intelligence artificielle n'existe pas (pas encore). On a des bouts d'intelligence très performantes comme des "cortex" visuels artificiels capable de reconnaitre des tumeurs mieux que la moyenne des radiologues, des bouts d'intelligence capable de traduire du texte dans plus de langues que n'importe quel traducteur professionnel, des "cortex" auditifs artificiels capables de décomposer un tube rock/pop en ses pistes individuelles, des IA capables d'imiter la voix d'une personne que l'on connait etc... et pourtant on n'a rien qui qui mette tout ça en musique dans un tout cohérent, capable de planifier des actions dans un but particulier, s'adapter aux imprévus, réagir face à un danger, communiquer entre individus etc...
C'est pour ça que je marre quand je vois le hype actuel sur des start-up de robots androïdes, ils sont certes très impressionnants dans des démos préparées à l'avance au mm, mais ils n'ont même pas le cerveau d'un insecte !

[polo974]

Puisqu'on parle d'insectes
https://fr.wikipedia.org/wiki/Liste_...re_de_neurones

Les drosophiles et les escargots n'ont pas énormément de neurones, par contre, ils sont immergés dans un bain de stimuli auquel il faut rapidement répondre...

Le gros problème pour comparer nos IA avec ces derniers, c'est que les IA ne sont pas soumises aux mêmes stimuli et récompenses/punitions.

Par ailleurs, quel est le niveau de "précablage" des cerveaux des animaux (probablement assez élevé chez ceux n'ayant que peu de neurones). Une mouche ne semble pas apprendre à voler, alors qu'un oiseau oui, par exemple.

[pm42]

Les drosophiles et les escargots n'ont pas énormément de neurones, par contre, ils sont immergés dans un bain de stimuli auquel il faut rapidement répondre...

Le gros problème pour comparer nos IA avec ces derniers, c'est que les IA ne sont pas soumises aux mêmes stimuli et récompenses/punitions.

Par ailleurs, quel est le niveau de "précablage" des cerveaux des animaux (probablement assez élevé chez ceux n'ayant que peu de neurones). Une mouche ne semble pas apprendre à voler, alors qu'un oiseau oui, par exemple.

En fait, on en revient à ce qui a été dit plus haut : on parle d'un concept très général, l'intelligence, l'apprentissage, etc alors qu'en fait il s'agit de nombreuses fonctions différentes.
Par exemple, il y a comme tu dis différents types d'apprentissage/connaissance :
1) ceux qui sont précablés ou innés, un apprentissage darwinien
2) ceux qui sont fait pendant l'enfance par configuration du cerveau. Comme tu le dis, celui-ci peut-être quasi inexistant pour certains animaux.
3) ceux qui viennent d'expériences répétitives, du pavlov pour faire simple. On peut noter que certains animaux en sont incapables : il n'est pas vraiment possible d'apprendre quelque chose à un insecte, de le "dresser" alors que c'est possible pour un chien
4) l'apprentissage rapide à partir de quelques exemples : les humains en sont capable mais pas beaucoup d'animaux ou aucuns. Et encore, même chez les humains, c'est une capacité que beaucoup perdent plus ou moins à l'âge adulte.

Actuellement, les IAs sont capables de faire les 1 à 2, un peu de 3 mais pas par elles-mêmes et on travaille sur le 4.

Donc sur le 3, elles ne sont pas au niveau de pas mal d'animaux. Ce qui est également le cas pour la représentation du monde ce qui fait dire à Le Cun qu'elles n'ont pas le bon sens d'un rat.

A coté de ça, elles ont des capacités cognitives supérieures à tous les animaux et très proche du niveau des humains coté langage, certaines capacités de raisonnement, etc.

[GBo]

Bonjour,
Je ne pense pas qu'une IA générative comme GPT-4 comprenne le sens des mots comme les humains. Elle doit comprendre quelque chose puisqu'elle semble comprendre les questions qu'on lui pose, mais elle ne comprend pas très bien ce qu'elle raconte.
Pour illustrer mon propos, vu à l'instant avec Microsoft Copilot dans Bing, il n'y avait aucun piège dans la question:



-> parler de "capacités cognitives très proche du niveau des humains coté langage", c'est un peu "abusé" comme disent les jeunes.

[titijoy3]

il est question ici de l'apprentissage (défaillant) de la définition du mot "célèbre", c'est la même chose pour un humain et une machine,

il y a peut être une notion de degré de célébrité ou de qualité de célébrité ?

[GBo]

Non ce n'est pas ça, puisque dans une nouvelle session, à la question "Tom Cruise est-il une personne célèbre ?" Copilot de bing répond "Oui, Tom Cruise est un acteur, producteur et réalisateur américain très célèbre. Il est connu pour ses rôles dans [...]".
D'ailleurs l'apprentissage des IA de ce type ne se passe pas du tout comme tu sembles le penser, on ne lui donne pas des définitions mot par mot (cf. les liens que pm42 a donné l'an dernier vers des blogs de bonne vulgarisation sur comment ça se passe).

[GBo]

Quant aux capacités émergentes de raisonnement des LLMs, il faut regarder ce qu'en disent les papiers critiques qui commencent a sortir, on en a un bon florilège dans ce vlog de "AI Explained" (que j'aime bien car il est bon connaisseur du domaine mais objectif):

"ChatGPT Fails Basic Logic but Now Has Vision, Wins at Chess and Prompts a Masterpiece"
https://youtu.be/HrCIWSUXRmo

On y voit d'ailleurs à un moment une certaine Paige Bailey, chef de produits chez Google admettre qu'on est encore loin du compte en terme de capacités de raisonnement pour les LLMs, de planification, de pouvoir scinder des tâches à résoudre en sous-tâches plus simples etc... En bref, "it's a challenging space".

Mais le vlog date d'il y a 9 mois, il y a sûrement de nouveaux papiers depuis, à la fois sur les progrès et sur les failles de base.

[titijoy3]

Non ce n'est pas ça, puisque dans une nouvelle session, à la question "Tom Cruise est-il une personne célèbre ?" Copilot de bing répond "Oui, Tom Cruise est un acteur, producteur et réalisateur américain très célèbre. Il est connu pour ses rôles dans [...]".
D'ailleurs l'apprentissage des IA de ce type ne se passe pas du tout comme tu sembles le penser, on ne lui donne pas des définitions mot par mot (cf. les liens que pm42 a donné l'an dernier vers des blogs de bonne vulgarisation sur comment ça se passe).

d'accord, il faut que je m'informe, je vais consulter les liens, merci

[titijoy3]

par contre, si tu as les liens, je suis preneur parce que là, je crois qu'il va me falloir un moment pour les trouver merci d'avance

[GBo]

par contre, si tu as les liens, je suis preneur parce que là, je crois qu'il va me falloir un moment pour les trouver merci d'avance

https://forums.futura-sciences.com/a...ml#post7103923

[titijoy3]

https://forums.futura-sciences.com/a...ml#post7103923

super, grand merci !

[pm42]

Je ne pense pas qu'une IA générative comme GPT-4 comprenne le sens des mots comme les humains. Elle doit comprendre quelque chose puisqu'elle semble comprendre les questions qu'on lui pose, mais elle ne comprend pas très bien ce qu'elle raconte.
Pour illustrer mon propos, vu à l'instant avec Microsoft Copilot dans Bing, il n'y avait aucun piège dans la question:

C'est un très bon exemple. Parce que :
- tu généralises à partir d'un seul cas
- tu utilises une seule IA sans qu'on sache vraiment ce qu'elle a fait ni qu'elle soit à la pointe. Parce que si je pose la question à ChatGPT 3.5, Gpt4o, Claude, LLama3, Perplexity.ai, j'ai à chaque fois la réponse correcte. Seul Mistral75b se trompe mais "correctement" : il me dit que c'est la mère de Reese Whiterspoon, le genre d'erreur qu'un humain pourrait faire
- tu ne définis pas les concepts utilisés notamment "comprendre le sens des mots comme un humain".
- tu supposes implicitement une supériorité des humains qui "comprennent ce qu'on leur dit". Ce n'est pas mon expérience : parfois, rarement, les humains écoutent/lisent, prennent le temps de comprendre, de réfléchir et de faire une réponse argumentée. 99% du temps, ils filtrent tout à travers leurs biais, se contentent de répéter leurs croyances et à-priori et leurs réponses sont soit de répéter "oui mais je crois que" ou de devenir agressif ou tout autre mécanisme pour ne pas réfléchir.
- il aurait donc fallu définir une "baseline" : quelle est la performance des humains dans une conversation, le "taux de compréhension", le "taux de réponses pertinentes", etc et comparer avec les LLMs. Ou simplement aller regarder les études qui ont été faites.

-> parler de "capacités cognitives très proche du niveau des humains coté langage", c'est un peu "abusé" comme disent les jeunes.

Comme je le disais, on ne peut pas prendre 1 seul exemple.

Perso, quand j'ai une question sur la plupart des sujets, je la pose à une IA plutôt que sur le forum. Pourquoi ? J'ai des réponses plus pertinentes et un meilleur dialogue sur la plupart des sujets.

Je viens de faire le test sur une question que j'ai posée ici en bricolage : la réponse de l'IA contient tout ce qui m'a été dit et plus. Ma question est parfaitement comprise, mes questions suivantes aussi, les réponses sont structurées et précises.
Le forum avait été de bon niveau mais l'IA l'est tout autant.

[GBo]

[...]
Comme je le disais, on ne peut pas prendre 1 seul exemple.

Il y a au contraire plein d'exemples, ce serait-ce que sur FS, où ChatGPT montre (sans même vouloir le piéger comme plus haut) qu'il n'a qu'une compréhension très superficielle de la langue, des règles de logique ou du bon sens physique de base (qu'un bébé a acquis avant même de savoir bien parler, ce qui devrait faire réfléchir les tenants du "tout LLM" pour atteindre l'AGI).
A l'époque on donnait ces exemples en GPT-3.5 car gratuit, et tu disais qu'il n'en était rien avec GPT-4...