IA et pensée humaine

[sunyata]

Bonjour à tous,

Derrière l'engouement des IA génératives, l'humain ne nourrit il pas le fantasme que les agencements langagiers du passé contiennent les réponses à toute forme de question qu'il se pose ? Que la conscience n'est pas nécessaire au processus de pensée, qu'un système stimulus-réponse de type pavlovien, suffisament complexe est suffisant pour régler toute situation, au point qu'on envisage de remplacer des salariés par des bots ? On a l'impression de voir ressurgir sous une forme analogue le problème de Hilbert d'une pensée universelle enchassée dans la matrice du langage ?
L'IA sera t'elle un stimulant ou un frein à la créativité humaine face aux défis auquels elle doit faire face ?
L'humain a dans le passé montrer sa capacité à changer de paradigme, mais une pensé perfusée à l'IA en sera t'elle capable ?

Cordialement
-----

[GBo]

Derrière l'engouement des IA génératives, l'humain ne nourrit il pas le fantasme que les agencements langagiers du passé contiennent les réponses à toute forme de question qu'il se pose ?

Bah c'est en substance que certains chercheurs (et de renom, comme Y. Le Cun qu'on ne présente plus j'espère) reprochent à une approche 100% langagière de l'IA (j'y inclus les langages informatiques de scripting comme Python): pour une AGI, il leur manque par exemple le bon sens physique qu'un enfant a acquis par l'observation et la pratique (ex : faire tomber des objets) avant même de savoir parler correctement. D'où des axes de recherche fondamentale dans ce sens.

Par contre on n'arrive même pas à définir la conscience, donc ce serait étonnant que ce soit un ingrédient nécessaire à une IA capable de dépasser le savoir-faire avec l'"homme de l'art" au pic de la maitrise de son métier (dans d'autres domaines que celui du langage comme la traduction ou le codage dirigé par des prompts, où l'IA générative commence à faire son trou).

[pm42]

qu'un système stimulus-réponse de type pavlovien

Compte tenu du fait que les IAs actuelles sont meilleures en maths et raisonnement que 90% de l'humanité au moins, les décrire comme cela est une erreur.

A partir de là, tout le reste est faux aussi sans parler du fait que comme à chaque fois, des mots comme "conscience", "pensée", etc ne sont pas définis ce qui permet toutes les interprétations.

P.S : on remplace du travail humain par autre chose depuis toujours, des animaux domestiqués, des machines, des ordinateurs... Rien de nouveau.

[Cromagnon]

Derrière l'engouement des IA génératives, l'humain ne nourrit il pas le fantasme que les agencements langagiers du passé contiennent les réponses à toute forme de question qu'il se pose ?

Je n'aurais pas dit mieux.

Après, ce n'est pas totalement faux, car il est vrai que l'espace du langage, qui correspond à une certaine représentation de la pensée (le langage représente ce que nous pensons de la réalité, il ne représente pas la réalité directement, le langage des humains est en réalité un métalangage), et qui se base donc en partie sur la réalité (mais pas seulement... les fantasmes, chimères et confusions), peut être parcouru autrement que par la pensée (donc parcouru par l'IA).
C'est tout à fait analogue au modèle de la représentation du monde, aujourd'hui bien accepté dans les neurosciences.
Pour simplifier : "On" (un individu et c'est important de le préciser, car ce n'est pas analogue à l'IA en général mais à un entrainement ponctuel d'un modèle d'une certaine IA) nous représentons le monde sur la base d'un ensemble discret d'expériences. On a un certain nombre de "points d'ancrage", formant, pour se le représenter, un "espace de représentation avec des trous".
Cet espace n'est pas continu (il est discret), car les expériences du monde sont nécéssairement limitées... et le cerveau humain INVENTE, comble les espaces entre les faits issus de l'expérience.
Nous n'en avons évidement pas conscience, tout est automatique.

Toutes les expériences ne se valant pas, tout n'est pas mélangé, et on a donc des espaces correspondant aux différentes représentations issues des différentes manières d'appréhender "le monde" (qui est évidement le monde "fabulé", le "vrai monde", comme en physique, personne ne sait ce que c'est mais à la limite ça n'a pas d'importance).
Espace de représentation visuel, espace de représentation émotionnel,... espace de représentation du langage.

Dans le cas de l'IA, c'est pareil, sauf qu'évidement une machine qui se limite à l'espace de représentation du langage ne sera jamais totalement efficace pour évoluer dans le monde, sachant que les espaces de représentation se chevauchent certes, mais parfois et là ça devient embêtant, ils se contredisent.
L'avantage du langage néanmoins, c'est qu'il présente, par le fait même de présenter des règles de structuration, des informations sur le monde (par exemple les temps).
Il n'a pas évolué par le plus grand des hasards.

C'est un truc à se taper le cul par terre tout ça !

[A voir en vidéo sur Futura]

[GBo]

Bah c'est en substance que certains chercheurs (et de renom, comme Y. Le Cun qu'on ne présente plus j'espère) reprochent à une approche 100% langagière de l'IA

Pour sunyata, voici une conférence de Le Cun en plein sur le sujet, elle est relativement récente (4 mois) et a l'avantage d'être en Français:

https://youtu.be/eDY9FUT5ces?t=389

A noter que lui ne parle pas d'AGI mais de HLAI (Human-Level AI) ou de AMI (Advanced Machine Intelligence), car l'intelligence humaine elle-même ne serait pas générale (il ne développe pas ce point hélas).

J'attends beaucoup de son approche (entre autre), notamment pour que les robots humanoïdes "majordomes" qu'on nous promet soient enfin munis d'un poil de jugeotte pratique, mais c'est de la recherche fondamentale où les moyens sont comptés par rapport aux XXX milliards investis dans le génératif, il faudra donc être patient.

[Bounoume]

toutefois je doute que ces projets puissent aboutir à la machine qui invente puis conduit un raisonnement structuré aboutissant à la découverte d'une nouvelle théorie scientifique...... ou d'un nouveau théorème, ou d'une conjecture encore en débat?
Encore plus tordu... quand AMI fera-t-elle la 'grande unification' dans le domaine de la Physique théorique ???
qu'en est-il réellement?

[pm42]

toutefois je doute que ces projets puissent aboutir à la machine qui invente puis conduit un raisonnement structuré aboutissant à la découverte d'une nouvelle théorie scientifique...... ou d'un nouveau théorème, ou d'une conjecture encore en débat?

On en est actuellement très loin. Ceci dit, cela fait des décennies qu'on sait faire des programmes qui trouvent de nouveaux théorèmes et les démontrent.
Comme https://en.wikipedia.org/wiki/Automated_Mathematician qui date des années 70.

Mais trouver des théorèmes intéressants et féconds est une toute autre histoire.

Encore plus tordu... quand AMI fera-t-elle la 'grande unification' dans le domaine de la Physique théorique ???
qu'en est-il réellement?

Là aussi, aucune chance actuellement et le problème est peut-être aussi l'absence de données expérimentales parce que des théories de grande unification, ce n'est pas ce qui manque. C'est plutôt la confrontation avec l'expérience le problème pour élaguer le domaine et donner des idées.

On peut aussi remarquer que ce n'est pas le but de l'IA et il est amusant de voir qu'on est dans le mythe permanent de la recherche de la machine supérieure, ultime.
Mais économiquement, faire des tâches jusque là réservées aux humains a largement plus de sens : une IA qui trouve et démontre des théorèmes ou qui fait de la physique avancée, beaucoup moins.
Bref, il vaut mieux savoir faire du Powerpoint que du contenu pointu en LaTex.

[GBo]

toutefois je doute que ces projets puissent aboutir à la machine qui invente puis conduit un raisonnement structuré aboutissant à la découverte d'une nouvelle théorie scientifique...... ou d'un nouveau théorème, ou d'une conjecture encore en débat?
Encore plus tordu... quand AMI fera-t-elle la 'grande unification' dans le domaine de la Physique théorique ???
qu'en est-il réellement?

Tu lis trop les discours qui font rêver, si "ça" (je parle de JEPA) aboutit à donner une utilité pratique (et de la sécurité) aux robots domestiques autonomes, en ce sens qu'ils pourront anticiper (comme nous et certains animaux) les conséquences physique d'un geste avant de le faire, geste qu'il aura auparavant planifié de façon autonome comme étape ultime d'un but assigné de façon plus abstraite, ce sera déjà énorme. Aujourd'hui on n'a pas grand chose de tangible, ce n'est pas un hasard si les robots humanoïdes qui font la une des revues de tech ne sortent pas dans le grand public, c'est parce qu' "il leur manque une case"...

[yves95210]

toutefois je doute que ces projets puissent aboutir à la machine qui invente puis conduit un raisonnement structuré aboutissant à la découverte d'une nouvelle théorie scientifique...... ou d'un nouveau théorème, ou d'une conjecture encore en débat?

On en est actuellement très loin. Ceci dit, cela fait des décennies qu'on sait faire des programmes qui trouvent de nouveaux théorèmes et les démontrent.
Comme https://en.wikipedia.org/wiki/Automated_Mathematician qui date des années 70.

Mais trouver des théorèmes intéressants et féconds est une toute autre histoire.

A lire sur ce sujet une explication intéressante (il me semble), et sa conclusion :

So what is the benchmark measuring? I think it's something like the following: (a) how much known (if possibly obscure) mathematical knowledge does the LLM have, and (b) can it match a problem to the knowledge it has memorized.
Thinking about this over the past couple of months, I've come to the conclusion that a fair amount of math research actually does have this flavor--one looks up or recalls some known facts and puts them together. This is the 90% of math research that is "routine." What this suggests to me is that these reasoning models are not too far from being very useful aids in this part of doing math. I expect them to be regularly useful at this kind of thing by the end of the year.

What about the non-routine part of math research--coming up with genuinely new ideas or techniques, understanding previously poorly-understood structures, etc.? First, I think it's worth saying that this is (i) the important part of research, and (ii) it happens pretty rarely. I'm not necessarily skeptical that an AI tool can do this. If this incident has revealed anything to me it is that I don't necessarily fully understand what skills one needs to do non-routine mathematics work.
My sense is that the skills used to do this are quite different from what the AI is using to solve FrontierMath problems--that is, I don't think the primary skill being used is recall. It is, I think, something more like philosophy, and it's less clear how to train for it.