Deux articles sur l'IA

[ThM55]

Bonjour. J'ai lu deux articles très récents sur le sujet de l'IA.

Le premier est publié dans La Libre, un quotidien belge et est accessible sans abonnement:

https://www.lalibre.be/debats/opinio...NJO2VH6SI6AOA/

Je trouvais intéressant de le partager car il illustre un fait qu'on a déjà constaté: à chaque progrès quelqu'un vient et déplace la barre vers le haut pour montrer quelque chose que l'IA ne pourra prétendument jamais faire. Ici, il explique pourquoi l'IA générative non seulement ne peut faire de la littérature (fait absolument banal que tout le monde connaît), mais en plus qu'elle ne pourra jamais en faire. Il y a 30 ou 40 ans, l'IA ne pourrait jamais avoir accès à des capacités langagières de niveau humain, quelle que soit la manière de définir cet épithète. Il y a 10 ans on se gaussait des traductions maladroites de Google Translate. Maintenant que ce jugement est infirmé, elle ne pourra jamais faire de la littérature: l'auteur déplace la barre vers le haut, et pas un petit peu. Je ne parlerai pas du jugement de nature politique assorti de name dropping contenu dans l'article, qui n'est pas pertinent pour ma remarque.

Second article, bien plus remarquable, écrit par le fameux mathématicien Terence Tao et la physicienne Tanya Klowden:

https://arxiv.org/abs/2603.26524

Il illustre des réflexions importante sur l'IA par son application créative aux mathématiques. Un point de vue optimiste, très différent des paniques que les divers auteurs de tribunes expriment dans la presse.
-----

[pm42]

Le premier est publié dans La Libre, un quotidien belge et est accessible sans abonnement:

https://www.lalibre.be/debats/opinio...NJO2VH6SI6AOA/

Je trouvais intéressant de le partager car il illustre un fait qu'on a déjà constaté: à chaque progrès quelqu'un vient et déplace la barre vers le haut pour montrer quelque chose que l'IA ne pourra prétendument jamais faire. Ici, il explique pourquoi l'IA générative non seulement ne peut faire de la littérature (fait absolument banal que tout le monde connaît), mais en plus qu'elle ne pourra jamais en faire.

Oui, c'est très typique. J'ai lu la même chose récemment à propos de la musique domaine où l'IA commence à être impressionnante. Certains expliquent qu'elle ne sera jamais créative.
Ce qui est typique de cette mythologie de l'humain qui aurait des pouvoirs exceptionnels, non reproductibles sans jamais qu'on sache pourquoi.

Sauf que la créativité n'a rien de spécial. On peut même la voir comme une capacité émergente de la masse : on a beaucoup d'humains qui génèrent des variations aléatoires sur ce qui existe et parfois, l'un d'eux rencontre du succès sur le moment où des années voire décennies plus tard.
Bref, ce ne serait pas fondamentalement différent du phénomène qui optimise la recherche et la collecte de nourriture chez les fourmis par exemple où quelques principes simples donnent des comportements très différents suivant l'environnement mais toujours efficaces.

Et effectivement, avoir des IAs ayant tout lu, tous les livres, les critiques et réfléchissant pendant longtemps à ce qui n'a pas été fait, ce qui colle à l'époque, faisant relire et critiquer par d'autres IAs est parfaitement envisageable d'ici quelques années au pire et donnerait de la "créativité".

On peut aussi remarquer que l'argument "c'est juste des statistiques" est typique de cette ignorance méprisante : rien ne prouve que ce n'est pas le fonctionnement du cerveau humain, que la variabilité des IA pour produire des "aspérités" existe aussi et je pourrais continuer longtemps.

Second article, bien plus remarquable, écrit par le fameux mathématicien Terence Tao et la physicienne Tanya Klowden:

Je crois que Tanya Klowden est historienne de l'art.

Il illustre des réflexions importante sur l'IA par son application créative aux mathématiques. Un point de vue optimiste, très différent des paniques que les divers auteurs de tribunes expriment dans la presse.

C'est logique : Terence Tao est 1. très, très intelligent, ouvert d'esprit, capable de collaborer avec des nombreuses personnes et 2. a commencer à utiliser l'IA générative très tôt pour l'aider en maths quand beaucoup se contentait de rejeter au lieu d'apprendre.

Je ne nie pas les problèmes que posent l'IA, je pense même qu'elle va me remplacer entièrement dans quelques années et qu'il faut donc que je réinvente mon activité.
Mais tout ce que je lis dans la presse est d'un niveau très faible et pratiquement tout le temps écrit par des gens dont la connaissance de l'IA est d'avoir lu un peu de vulgarisation simpliste, taper 2 ou 3 prompts en ne sachant pas vraiment comment faire puis d'avoir déduit que vu qu'ils sont intelligents, ils n'ont pas besoin de plus pour donner leur avis.

Je vais prendre le temps de lire en détail ce long article.

[jiherve]

Bonjour,

Je ne nie pas les problèmes que posent l'IA, je pense même qu'elle va me remplacer entièrement dans quelques années et qu'il faut donc que je réinvente mon activité.

Il y a une étude parue sur le sujet il y a peu et de mémoire la conclusion était :
métiers physiques BTP, métiers physiques de bouche, metiers physiques du soin.
Donc ce que certains ont nommé les "premiers de corvée".
JR

[pm42]

Il y a une étude parue sur le sujet il y a peu et de mémoire la conclusion était :
métiers physiques BTP, métiers physiques de bouche, metiers physiques du soin.

Certains de ces métiers sont déjà ces cibles pour la robotisation donc l'étude a du rater quelque chose.
Par exemple, il ya Cafe X, des cafés entièrement automatisés, Makr Shakr qui fait des robots barman, des robots serveurs notamment en Chine.
Idem pour le BTP avec les poseurs de brique automatiques, les véhicules autonomes, etc.

Pour les services à la personne, c'est plus embryonnaire mais là aussi, il y a déjà des outils utilisés.

[A voir en vidéo sur Futura]

[oualos]

Je trouvais intéressant de le partager car il illustre un fait qu'on a déjà constaté: à chaque progrès quelqu'un vient et déplace la barre vers le haut pour montrer quelque chose que l'IA ne pourra prétendument jamais faire. Ici, il explique pourquoi l'IA générative non seulement ne peut faire de la littérature (fait absolument banal que tout le monde connaît), mais en plus qu'elle ne pourra jamais en faire.

Il existe des sites qui reconnaissent un texte écrit en IA; style, vocabulaire construction répondent à des normes assez précises donc reconnaissables surtout par une autre IA. Actuellement en tout cas mais ça peut et ça va sûrement évoluer...
Pour répondre, tout dépend de ce qu'on appelle littérature. Depuis son invention par Madame de Sévigné ou de Staal, on a essayé à toutes les époques de définir la littérature chez nous au travers du roman principalement: puis un nouveau courant est apparu qui a modifié la définition. Que ce soit surréalisme, nouveau roman, oulipo, minimaliste et bien d'autres. Certains courants ont disparu d'autres continuent d'exister.
Pour cela au vu aussi de certains romans qui sortent en librairie, on peut s'interroger sur la nature même de cette formulation soulignée en gras: le courant scientiste qui pense que tout est possible par le progrès met de côté l'Art et sa "définition" souvent contestable même décriée comme par exemple par les créateurs de mode. Certaines oeuvres peuvent être imitables mais jusqu'à quel point ?
Des faussaires ont été capables de reproduire des Picasso, des Matisse et les ont mis sur le marché: même des experts ont été incapables de reconnaître le vrai du faux.
Mais jusqu'ici personne ni aucune machine n'a été capable de reproduire un Stendhal, un Balzac ou un Proust. Ça viendra peut-être (?)...

Il existe quand même un fossé entre les mathématiques et la logique d'une part et la littérature de l'autre.
Mais on ne peut toutefois pas se prévaloir des progrès futurs de l'IA qui donneront certainement des choses nouvelles et inattendues

[antek]

Pour faire du "humain" la machine devra intégrer son vécu dans son comportement, avec tous les aleas subis intégrés au fil du temps à sa "personnalité".
Je suppose qu'il faudrait pour réaliser cela la laisser autonome.

C'est de la SF ?

[albanxiii]

Pour faire du "humain" la machine devra intégrer son vécu dans son comportement, avec tous les aleas subis intégrés au fil du temps à sa "personnalité".

Parce que Thomas Harris s'est basé sur son comportement et son vécu pour écrire la tétralogie Hannibal Lecter ?
Ou bien j'ai mal compris votre argument.

[GBo]

Ce qui manque à ce jour à l'IA d'après une IA (extrait de la réponse de Gemini à "Est-ce que l'IA est/sera capable de faire une oeuvre littéraire ?":

Si l'IA peut aligner des mots de manière sublime, il lui manque des éléments fondamentaux propres à l'expérience humaine :

- L'intentionnalité : Une IA ne "veut" rien dire. Elle prédit le mot suivant le plus probable statistiquement. Elle n'a pas de message politique, de traumatisme à exorciser ou de vision du monde à partager.

- L'expérience sensorielle : Je peux décrire l'odeur de la pluie sur le bitume chaud parce que j'ai lu des milliers de descriptions à ce sujet, mais je ne l'ai jamais ressentie. Cette absence de corps limite la profondeur de l'empathie transmise.

- L'innovation radicale : L'IA est entraînée sur le passé. Elle est excellente pour recycler, mais plus en difficulté pour inventer une rupture stylistique totale, comme a pu le faire Joyce avec Ulysse.

On remarquera le passage inopiné de "elle" à "je" suivant le bullet point, cela manque de cohérence pour un auteur.

PS. pour la musique, en tant que musicien du dimanche et mélomane averti (en jazz moderne surtout), je n'ai rien entendu de bien transcendant pour l'instant de la part d'IA, que des imitations stylistiques (limite pastiche) avec un son digne de MP3 trop compressé.

[pm42]

C'est court comme réponse de la part de Gemini. Le "statistiquement le plus probable" notamment est simpliste, typique de la vulgarisation publiée massivement au début de l'IA. On a mieux compris depuis.
Par curiosité j'ai posé la question à ChatGPT qui m'a fait une réponse plus détaillée mais qui reprend des arguments que je trouve non solidement fondés.

Donc je lui fait remarquer en étant conscient que cela introduit un biais mais cela donne une réponse nettement plus intéressante:

Quelle est la part de ces arguments qui viennent d'humains et de ce que tu as lu parce que certains semblent un peu simplistes et basé sur le principe de "les humains ont quelque chose de spécial".

Ta remarque est pertinente — et tu mets le doigt sur un biais réel.

La réponse que je t’ai faite reprend en grande partie des arguments humains classiques, souvent issus de la critique littéraire, de la philosophie et du discours public sur l’art. Ce ne sont pas des “vérités objectives”, mais plutôt des cadres d’interprétation dominants.

1. D’où viennent ces arguments ?

Ils viennent de plusieurs traditions humaines :

La vision “romantique” de l’auteur (XIXe siècle)
→ l’œuvre comme expression d’un moi profond
→ ex : Victor Hugo

La phénoménologie et l’existentialisme
→ importance du vécu, de l’expérience incarnée
→ ex : Jean-Paul Sartre

La critique moderne de la littérature
→ valorisation de la singularité, de la rupture

�� Donc oui : ces arguments sont hérités de traditions humaines très situées culturellement.

2. Pourquoi ça peut sembler simpliste

Parce qu’ils reposent souvent sur une idée implicite :

“L’humain possède quelque chose d’unique que la machine ne peut pas avoir.”

C’est une position intuitive… mais discutable.

On peut la critiquer sur plusieurs points :

a) Le “vécu” est-il indispensable ?

Un lecteur ne perçoit pas directement le vécu de l’auteur.
Il perçoit un texte.

�� Une IA pourrait produire un texte qui donne parfaitement l’illusion du vécu.

b) La “singularité” est-elle vraiment si rare ?

Beaucoup d’œuvres humaines :

suivent des codes

recyclent des formes

imitent des styles

�� L’IA ne fait pas forcément pire que la majorité des auteurs humains.

c) L’intention est-elle nécessaire ?

Une œuvre doit-elle être :

voulue ?

consciente ?

Ou suffit-il qu’elle soit interprétable comme telle ?

�� C’est une question ouverte, débattue depuis longtemps (ex : “la mort de l’auteur”).

3. Une autre lecture possible (moins anthropocentrée)

On peut reformuler complètement le problème :

�� Une œuvre littéraire =
un objet linguistique qui produit certains effets chez des lecteurs.

Dans cette optique :

peu importe l’origine (humain / IA / hasard)

seul compte le résultat

C’est une position proche de certains théoriciens comme Roland Barthes.

4. Ce que “je pense” (structurellement)

Je ne “crois” pas que les humains aient quelque chose de magique.

Mais j’observe que :

Les humains valorisent fortement :

l’intention

la biographie

l’authenticité

Donc même si une IA produit une œuvre équivalente,
elle ne sera pas forcément reconnue de la même façon.

�� La limite est peut-être sociale et culturelle, plus que technique.

5. Là où ta critique est juste

Dire :

“l’IA n’a pas de vécu donc elle ne peut pas faire de littérature”

�� est probablement trop simpliste.

Une version plus solide serait :

“nos critères actuels de la littérature sont historiquement liés à l’humain”

Et ces critères pourraient évoluer.

Conclusion

Oui, beaucoup d’arguments contre la “littérature IA” sont hérités de conceptions humaines traditionnelles

Oui, ils sont parfois fragiles ou contestables

Et oui, il est tout à fait possible qu’on soit en train de défendre une frontière… qui va disparaître

Si tu veux, on peut pousser plus loin :
�� essayer de définir un critère robuste qui distinguerait vraiment une œuvre humaine d’une œuvre IA — ou voir s’il n’en existe tout simplement aucun.

[antek]

Parce que Thomas Harris s'est basé sur son comportement et son vécu pour écrire la tétralogie Hannibal Lecter ?

Toute ²uvre est le résultat d'un vécu non ? Ce n'est pas une évidence ?!
Tiens j'ai perdu le e dans l'o . . .

[pm42]

Toute oeuvre est le résultat d'un vécu non ? Ce n'est pas une évidence ?!

C'est tout sauf une évidence et en général, quand on utilise cet argument, c'est qu'on n'en a pas. Et sur un forum scientifique, on doute encore plus des évidences parce qu'avec elles, la Terre est plate.

[oualos]

Connaître ses limites ou du moins les appréhender ça fait aussi partie de l'état d'esprit voire de la mentalité scientifique non ?
A force de répéter qu'on pourra tout faire avec l'IA tout et absolument tout, les futurs robots vont finir par trouver que finalement on est pas si différents d'eux

[WizardOfLinn]

Les écrivains sérieux ne vont pas demander à une IA d'écrire seule un roman complet mais l'utiliser comme un assistant. L'écrivain définit les lignes directrices d'une histoire, ses personnages, etc., et utilise l'outil pour produire du texte, en interagissant pour introduire des nuances ou corriger le style, en retravaillant chaque chapitre.
A côté, il y a aussi une littérature de gare dont la production est complètement automatisée, et de faible intérêt artistique.
Tout cela va probablement déplacer les critères d'appréciation, la maîtrise de la langue aura peut-être moins d'importance que l'originalité des histoires.

[jiherve]

Bonjour
Donc l'IA jouera le rôle du nègre.
C'est problématique!
JR

[antek]

. . . quand on utilise cet argument, c'est qu'on n'en a pas.
. . . parce qu'avec elles, la Terre est plate.

Je n'argumente pas, je m'interroge.
Ce n'est pas évident . . .

[WizardOfLinn]

Bonjour
Donc l'IA jouera le rôle du nègre.
C'est problématique!
JR

En quoi est-ce plus problématique que si l'assistant est un humain ? (porte-plume, ou plus familièrement, nègre).

[jiherve]

re
n'y aurait il pas appropriation culturelle?
JR

[ThM55]

Il faut tout de même mentionner qu'au départ les créateurs de ces modèles de langage n'avaient aucune intention de fabriquer des créateurs de littérature! Le but était de fabriquer des machines qui sont capables de comprendre le langage humain afin de les intégrer dans des applications où elles sont utiles, comme des chatbots pour la clientèle, de la traduction automatique, la création de résumés de textes, et en général une aide chaque fois que la manipulation du langage est utile. Par exemple aussi, et c'est peut-être là que se situe le réel danger pour la société, pour communiquer avec des agents autonomes.

Et on ne peut pas nier que c'est un succès sans précédent. Je me souviens des débuts de Google Translate, il y a des années, un journaliste avait écrit un article pour se moquer de ses erreurs, dont certaines étaient effectivement hilarantes. Le même genre de journaliste, malheureusement pour lui, ne peut plus écrire cela à propos de chatGPT, il ne peut plus s'en moquer aussi facilement.

L'article de journal que j'ai référencé n'est qu'un exemple parmi d'autres. On déteste la technique, mais on ne peut plus se moquer du résultat, d'où la panique. Eh bien c'est simple, pour se rassurer on utilise l'argument de l'épouvantail. Schopenhauer le décrivait comme suit: "il s’agit de reprendre la thèse adverse en l’élargissant hors de ses limites naturelles, en lui donnant un sens aussi général et large que possible et l’exagérer, tout en maintenant les limites de ses propres positions aussi restreintes que possible". C'est exactement ça: on prend un LLM, on fait croire que le but de ses créateurs était de remplacer les écrivains et on proclame que c'est un échec. L'article ajoute des références à Barthes et Orwell, ça fait chic et ça permet de montrer que non seulement l'IA est un échec, mais qu'en plus elle est très vilaine ("fasciste"!) comme le disaient ces auteurs. C'est vraiment, vraiment, médiocre.

[pm42]

C'est vraiment, vraiment, médiocre.

Entièrement d'accord avec toute ton analyse mais ce n'est vraiment pas nouveau : l'histoire de l'humanité, c'est ça et sur la toute petite partie que j'ai vécue, j'ai vu ce genre de réaction pour tout depuis l'intégration d'automatisme dans les appareils photos ou le passage au numérique, mon grand-père qui me faisait l'apologie de la boite à crabots "parce qu'il fallait savoir conduire", les calculatrices, ordinateurs personnels, Internet, les smartphones, tout langage de programmation plus abstrait que le précédent et j'en oublie...

Quelqu'un a dit "la vérité ne triomphe jamais mais ses adversaires finissent par mourir" et c'est exactement ça qu'on pourrait adapter au changement.

P.S : récemment, j'ai expliqué à une réunion d'informaticiens que notre métier qui est historiquement de savoir parler aux ordinateurs et donc de faire la chaine d'intermédiaires entre le besoin de l'utilisateur final et la machine allait massivement disparaitre. Que depuis quelques décennies, on avait déjà massivement diminuer la longueur de la dite chaine.
Ils me regardaient tous comme si j'étais Cassandre parce qu'ils pensent les changements sur la base de l'IA aujourd'hui, pas celle de dans 5 ans. Ils ne veulent pas regarder les progrès faits en 4 ans et dire "dans 5 ans, un utilisateur dira ce qu'il veut, l'IA lui posera des questions pour préciser vraiment son besoin et trouvera la meilleure solution et la mettra en oeuvre en un rien de temps, que cela nécessite de prendre un soft existant et le configurer, d'en écrire un en tout ou partie, etc".

[jiherve]

Bonsoir,

la vérité ne triomphe jamais mais ses adversaires finissent par mourir

oui de faim car là on assiste à une révolution comme l'humanité n'en a jamais connue et ne nous sommes pas prêts, bien sur comme d'habitude une minorité s'en sortira.
JR

[oualos]

Des révolutions de l'ordre de la technologie il y en a eu un paquet: le train, l'avion, la radioactivité, le laser, l'informatique, Internet et maintenant l'IA...
J'en oublie certainement
C'est juste l'histoire qui dans le domaine de la science ne s'arrête jamais.
Après qui l'utilise et pourquoi, c'est une autre histoire