Article sur l'interprétation de Penrose sur ce sujet, il faut chercher les propos en langue anglaise de Penrose pour se faire une opinion.
Une seule chose est certaine, c'est que le fait qu'il n'y ait pas de définition formalisée selon la méthode scientifique des mots intelligence et conscience n'a pas fini de faire illusion.
https://intelligence-artificielle.de...st-pas-le-bon/
Sans questions il n'y a que des problèmes sans réponses.
Penrose est un cas particulier. Formidable mathématicien, mais en dehors de sa spécialité il a écrit des choses très douteuses. On trouve aisément des réfutations de son "Emperor's new mind". Un livre brillant et provocateur mais ses réponses aux réfutations dans un second ouvrage le sont beaucoup moins.
Dernière modification par ThM55 ; 07/03/2025 à 21h30.
Donc il persiste et signe avec cette interview en quelque sorte. Je me demande s'il n'est pas parti dans des variantes du style "intelligent design"...
Sans questions il n'y a que des problèmes sans réponses.
Je ne pense pas, mais il est vrai que depuis longtemps il avance en neurobiologie des idées bizarres.
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
Serait-ce la "maladie du Nobel", mais contractée avant d'avoir reçu le prix?
Peut-être un appel à creuser les choses vers tel ou tel direction quand on a plus le temps ni les capacités de le faire soi même ?Envoyé par ThM55
Sans questions il n'y a que des problèmes sans réponses.
Peut-être a-t-il inconsciemment envie de faire un "scoop" comme celui de Schrödinger avec What is Life ? (Qu'est-ce que la vie ? en français) ?
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
C'est toujours la même chose que ce qu'il disait déjà au début des années 1990. Rien de nouveau.
“I'm smart enough to know that I'm dumb.” Richard Feynman
C'est comme une idée obsessionnelle du coup.
Sans questions il n'y a que des problèmes sans réponses.
Pourquoi ? Il défend ses idées et on l'interroge dessus, c'est tout.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Et on l'interroge très mal, j'ai rarement vu ça à ce point, voici le lien direct issu de l'article de Develoopez.com que Liet a dégotté:
https://youtu.be/biUfMZ2dts8
Ceci dit, qu'un grand comme Penrose se laisse aller à faire sortir le théorème de Gödel de son périmètre de validité est assez indéfendable.
Autant les physiciens Sokal et Bricmont ont épinglé des ténors de sciences humaines à ce propos*, et à juste titre bien sùr, autant quand c'est des collègues de sciences dures qui s'adonnent aux mêmes travers, et prestigieux qui plus est, y a moins de monde...
(*) https://shs.cairn.info/impostures-in...ge-159?lang=fr
Dernière modification par GBo ; 12/03/2025 à 11h05.
Je ne crois pas que ce soit le cas.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Il ne sort pas le théorème de son périmètre, il explique que pour savoir si UN théorème est vrai (celui-là, celui de Gödel, est le plus parlant d'après lui car il est au fondement des autres, et c'est pourquoi il l'utilise je pense, vu qu'on ne peut pas se référer à un autre, admis pour vrai, qui serait admis sur un autre etc...) ... il faut de la conscience et sans conscience on ne peut PAS, JAMAIS, "savoir", "comprendre".Ceci dit, qu'un grand comme Penrose se laisse aller à faire sortir le théorème de Gödel de son périmètre de validité est assez indéfendable.
Autant les physiciens Sokal et Bricmont ont épinglé des ténors de sciences humaines à ce propos*, et à juste titre bien sùr, autant quand c'est des collègues de sciences dures qui s'adonnent aux mêmes travers, et prestigieux qui plus est, y a moins de monde...
https://youtu.be/biUfMZ2dts8?t=467
Il dit en substance "Understanding requires consciousness" (La compréhension nécessite de la conscience)
Sans la conscience, pour lui il n'y a pas d'intelligence (c'est SA définition). Un calcul n'est pas intelligent. Lorsqu'on dit que quelqu'un est intelligent, cela implique d'après lui qu'il ait une conscience.
C'est un problème d'épistémologie de base.
Pour démontrer quelque-chose il faut s'appuyer sur autre chose que l'on tient pour vrai de manière "arbitraire", il n'y a pas d'autre choix.
Toute la science est basée sur ce paradigme (qui est une limitation à la pleine calculabilité du monde), et on finit par poser pour vrai UNE BASE, dont "nous", les humains, pensons pouvoir nous servir comme pilier du savoir que nous construisons sur ce socle.
Cette base ne se démontre pas, elle est tenue pour vrai par ceux chez qui nous admettons de l'intelligence, car c'est "le sentiment" que nous en avons, que "c'est vrai", que "c'est intelligent".
C'est ton droit, mais vous êtes rares à le croire.
Lire par exemple la critique du bouquin de Penrose "Shadows of the mind" (1994) par Hilary Putnam qui a fait date:
Extrait:
"The background to Penrose's claim is as follows: In 1961 John Lucas—an Oxford philosopher well known for espousing controversial views—published a paper in which he purported to show that a famous theorem of mathematical logic known as Gödel's Second Incompleteness Theorem implies that human intelligence cannot be simulated by a computer. Roger Penrose is perhaps the only well-known present-day thinker to be convinced by Lucas's argument.
[...]
Gödel's Second Incompleteness Theorem states that if a system S of formalized mathematics—that is, a set of axioms and rules so precisely described that a computer could be programmed to check proofs in the system for correctness— is strong enough for us to do number theory in it, then a certain well-formed statement of the system, one which implies that the system is consistent, cannot be proved within the system. In a popular (but dangerously sloppy) formulation, "If S is consistent, then that fact cannot be proved in S." The fallacy in Lucas's original argument is as follows: Lucas confused very different statements which could be called "the statement that S is consistent". In particular, Lucas confused the ordinary language statement that the methods mathematicians use are consistent with the very complex mathematical statement which would arise if we applied the Gödel Theorem to a hypothetical formalization of those methods. (The latter statement, might, for example, be the statement that a certain primitive recursive function never takes the value zero.)
However, Penrose uses a different form of the Gödel Theorem, and his mistake is less technical than Lucas's.
[...]"
La suite:
https://www.ams.org/journals/bull/19...95-00606-3.pdf
Dernière modification par GBo ; 12/03/2025 à 20h55.
Avant le livre qui est l'objet de la critique de Putnam, Penrose avait écrit "The emperor new mind", traduit en français sous le titre "L'esprit, l'ordinateur et les lois de la physique", qui était en fait le sous-titre de l'original, dont le titre était une référence aux "Habits neufs de l'emprereur" (à mon avis, les traducteurs ont supposé que le lecteur francophone est moins familier des contes d'Andersen que le public anglophone, ce qui est à mon avis une erreur). Les idées de base de Penrose y sont exposées de manière plus simple et directe que dans le second livre "Les ombres de l'esprit", qui est pour l'essentiel une réponse aux nombreuses critiques et tentatives de réfutation. "The emperor new mind" est plus abordable et contient de beaux passages sur les machines de Turing, sur la physique et la cosmologie avec de nombreuses illustrations de l'auteur, qui est aussi un excellent dessinateur. En particulier vers la fin du livre, près de la conclusion, après la page 450; son argument est fondé sur la pratique mathématique, qui est communicable: on saisit et on admet une vérité mathématique qui nous est communiquée, selon Penrose, par la "conscience" et non par un algorithme implanté dans notre cerveau car cet algorithme devrait être (à cause du théorème de Gödel) d'une complexité et d'une obscurité telle que nous ne pourrions jamais en comprendre les règles ni sa validité. Au début, quand j'avais lu ce livre pour la première fois, j'avais cru avoir simplement réfuté ses arguments en imaginant une machine capable de démontrer le théorème de Gödel, ce qui est tout à fait possible puisqu'il s'agit de logique à la portée d'un prouveur de théorème qui existait déjà à cette époque, mais j'ai ensuite dû admettre que cela ne réfute pas du tout l'argument de Penrose, qui se situe sur un autre registre. Je trouve que cet argument est vraiment difficile à réfuter, il faut à mon avis une analyse d'une grande rigueur logique pour y arriver. Il me semble, comme Penrose l'a dit, que les critiques qui ont été écrites à ce sujet, y compris celle de Putnam, citée ci-dessus, sont un peu trop faibles.
Dernière modification par ThM55 ; 14/03/2025 à 08h34.
Le titre anglais complet est "The emperor's new mind. Concerning computers, minds, and the laws of physics" (j'ai oublié le génitif dans ma dernière réponse).
Es tu au moins d'accord sur la validité de la critique que Putman fait de Lucas ? Puisque c'est quand même Lucas qui a inauguré le "Penrose–Lucas argument".
Oui bien sûr. Je cite le passage crucial:
Ma traduction: "En particulier, Lucas confond l'énoncé du langage ordinaire qui dit que les méthodes que les mathématiciens utilisent sont consistantes, avec l'énoncé très compliqué qui serait produit si nous appliquions le théorème de Gödel à une formalisation hypothétique des ces méthodes". C'est une confusion dangereuse conduisant à une erreur, je suis d'accord avec ça. Et effectivement, il décrit très bien en quoi l'argument de Penrose est différent et à mon avis plus subtil. Mais attention, je ne suis pas non plus convaincu par Penrose, qui me semble franchir un pas énorme sans démonstration logique. Mais d'un autre côté je peux admettre qu'on frôle par moment dans ce genre de discussion les limites de la pensée logique et personnellement je pense, avec Penrose, que la pensée consciente humaine, je veux dire la compréhension consciente de faits vrais, dépasse d'une certaine manière la simple application de règles formelles. C'est la partie de son argument que je trouve trop difficile à réfuter. Peut-être, au fond, parce qu'on n'a pas une définition de la "conscience". J'ai écrit "d'une certaine manière", mais je ne sais pas exactement comment, contrairement à Penrose. Par exemple, je ne crois pas à ses idées qui font intervenir la mécanique quantique là dedans car je ne vois pas en quoi cela change quelque chose (c'est là que je veux voir les effets d'une "Nobel disease" précoce); et je ne peux prétendre avoir une preuve que des réseaux de neurone artificiels ne pourraient accéder à ces capacités par des effets émergents.In particular,
Lucas confused the ordinary language statement that the methods mathemati-
cians use are consistent with the very complex mathematical statement which
would arise if we applied the Gödel Theorem to a hypothetical formalization of
those methods.
Dernière modification par ThM55 ; 14/03/2025 à 16h30.
En même temps la pensée humaine n'est pas hyper fluide pour formaliser (temps + énergie) mais peut-être est-ce là, dans des égarements/erreurs qu'elle trouve de l'inspiration : en mode "raisonner" certains LLM écrivent un cheminement de "pensée", en fait je pense qu'ils suivent des instructions de reformulation des prompts, dans ces ré-écritures des prompts, des égarements ne seraient -ils pas possibles?
Sans questions il n'y a que des problèmes sans réponses.
Ce serait peut-être un bon exercice au lycée, de demander aux élèves d'écrire une question et une réponse à cette question qui ne pourrait pas avoir été écrite par un LLM. Curieux de savoir, d'abord si c'est possible et ensuite comment ils s'y sont pris.
Quand j'en ai discuté avec Penrose en 1996 c'est ce qu'il supposait aussi car il était étonné qu'on ai pas maintenu son titre et il m'avait donc demandé sur on connaissait ce conte en France et j'avais répondu que oui. Je ne suis plus sûr de ce que je lui ait dit ensuite, ça fait presque 30 ans maintenant mais je crois que je lui avait dit qu'il fallait un titre plus explicite car il n'était pas aussi célèbre que Hawking en France et que je pensais que c'était la véritable raison du changement de titre, personne n'aurait voulu réfléchir au titre original provenant d'un auteur "inconnu".
“I'm smart enough to know that I'm dumb.” Richard Feynman
Il y a un point qui me semble important, je crois que Penrose lui même ne pense pas avoir démontré quoi que ce soit si ce n'est que le théorème de G pourrait raisonnablement impliquer que l'esprit humain fait des choses qui ne sont pas de l'ordre du calculable.En tout cas, c'est ce que je pense moi, je n'ai pas l'impression d'une démonstration mais juste d'un argument avancé et ce qu'il dit me semble différent de Lucas bien que proche.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Je suis d'accord. Dans son premier livre, il explique assez bien qu'il va plus loin que ce simple raisonnement. Il explique aussi sa philosophie de la physique, que j'avais comprise à l'époque comme du platonisme pur, et celle de la compréhension que nous avons des mathématiques.
Mais à mon avis il se fourvoie dans deux voies: quand il veut faire intervenir la mécanique quantique et l'intrication dans le fonctionnement de la conscience au sein du cerveau et quand il attribue la faculté de la compréhension mathématique humaine à la conscience. Sur ce dernier point, au contraire, il y a des fondements complètement inconscients dans notre compréhension qui sont puissamment mis en oeuvre et coordonnés quand on fait des maths, en particulier des notions géométriques comme la position relatives d'objets dans l'espace, l'adjacence, les formes, le continu, mais aussi dans le langage et la logique, ainsi que l'intuition du nombre. Ce sont des choses qui sont enfouies dans nos réseaux de neurones et dont nous n'avons pas conscience, des automatismes. Même quand on entre dans des domaines limites en mathématique, comme la théorie des ordinaux de Cantor, on s'aide de représentations géométriques (voir les illustrations sur la page Wikipedia: https://fr.wikipedia.org/wiki/Nombre_ordinal). Penrose est certainement au fait de ces capacités, lui qui s'est toujours ingénié à dessiner les concepts mathématiques qu'il utilisait, y compris dans son livre sur les spineurs, où ils les représente par une hampe et un drapeau.
On sait depuis longtemps que certaines lésions cérébrales font perdre certaines de ces capacités sans, semble-t-il, altérer la conscience elle-même (voir "L'homme qui prenait sa femme pour un chapeau", le classique d'Oliver Sacks qui décrit plusieurs cas cliniques surprenants). Pour toutes ces raisons, je trouve difficile d'adhérer complètement à ses idées.
Dernière modification par ThM55 ; 17/03/2025 à 09h08. Motif: conjugaison
"LA" conscience c'est juste une manière de parler "DES" états de conscience.
Les états de conscience, multiples donc, sont ce qu'on peut voir d'un TYPE de phénoménologie (une manière qu'a la matière de se comporter).
Évidement on n'a aucune preuve, réellement, que les différents états de conscience sont l'expression d'un même type de phénomène (phénomènes dits physiques, mais il est quand même à noter que certains se posent des questions AUSSI quant à la matérialité des phénomènes, on parle d'esprit, mais il sont assez peu nombreux à tenter cette voie, pour des raisons évidentes, la raillerie n'étant jamais loin), mais intuitivement c'est ce que les scientifiques croient à notre époque.
C'est probablement vrai.
Donc on peut tout à fait conserver certains types de conscience en ayant pourtant perdu une partie du réseau cérébral, sachant qu'on n'en est pas à quantifier formellement "la valeur" d'une conscience.
Si ça se trouve, certains états de conscience sont du coup amoindris, mais on ne le sait pas, faute de mesure précise.
