IA forte uniquement verbale: envisageable? comment?

[Topix]

Si l’expérience conscience des couleurs est un phénomène physique alors un aveugle de naissance pourrait avoir connaissance de ce qu'est l’expérience vécu du ressenti de couleur juste en lisant des cours de physique ce qui manifestement est loin de la description que fait Tommy Edison, aveugle de naissance

Je ne vois pas du tout le rapport. De toute façon, c'est très simple : si ce n'est pas une phénomène physique, qu'est-ce que c'est ?
-----

[ClairEsprit]

Si tu comprends que la conservation de l'énergie n'est ni plus ni moins une thèse ou un principe que le CTD, alors on sera d'accord sur le fond.

De prime abord, je tiens à dire que ma connaissance de CTP tient uniquement à ce fil et à ce que j'en ai lu sur wikipedia. Je veux bien admettre que ce soit un principe. Je n'ai pas d'idée préconçue sur le sujet, je cherche à m'en faire une idée précise. Mais je m'interroge :

En quoi le CTP est un principe de même valeur que la conservation de l'énergie ? La conservation de l'énergie est un principe depuis lequel on peut démontrer quasi toute la physique (en conjonction avec d'autres principes), avec des formules conduisant à des formalisation d'expériences que l'on peut opposer à la réalité, ce qu'on a fait avec succès depuis des siècles. La conservation de l'énergie à donc gagné le droit d'avoir son statut de principe. Il est démontré, vérifié, ce n'est pas une thèse.

En ce qui concerne le CTP, a-t-on ce même niveau de validité ? Peut-on l'utiliser pour modéliser des expériences opposables à la réalité ? Cela a-t-il déjà été fait ? Si dans l'esprit la qualité de principe qu'il propose semble effectivement du même niveau que celui de la conservation de l'énergie, on a l'air d'être très loin d'une base aussi solidement démontrée et vérifiée, non ?

Si j'ai bien compris, on a apparemment quelques modèles de machines pour définir la calculabilité qui définissent la même classe de fonctions, donc on a posé l'hypothèse que la calculabilité ainsi définie est bien celle que l'on entend intuitivement. Cela n'est pas à priori démontré. Ensuite, on remarque que pour calculer il faut le faire avec un système physique, et de là, on propose que tout système physique puisse être simulé par une machine universelle au sens de Turing. Derrière, on ajoute une couche de MQ... très bien. On réussit donc à modéliser toutes les mathématiques utiles à la physique avec une machine qu'on peut théoriquement fabriquer. Tout ça en très gros et sans doute avec des erreurs ou raccourcis de ma part.

Donc on a une base qui n'est pas démontrée (la calculabilité est celle des machines de Turing et des autres, c'est la seule possible et c'est la bonne), et un principe derrière qui semble extrêmement difficile à vérifier. Comment vérifier que la simulation est en tout point identique à la description du système physique, dans le cas d'une molécule, par exemple ? Je ne parle même pas du cerveau.

Bref. Dites-moi comment vous pouvez être persuadés que le principe CTP est du même ordre de certitude que celui de la conservation de l'énergie. Je n'ai pas d'à priori, je veux juste comprendre.

Ensuite, une fois arrivé à ce point, comment faire le raccourci que la description physique du cerveau suffit à capturer ce qu'est une conscience (c'est-à-dire, en gros, comment justifier que la physique capture bien la totalité du réel).

[Archi3]

A la réflexion, je devrais dire plutôt "programme d'ordinateur". Le cerveau dans ce cadre serait donc en tout point semblable à un programme d'ordinateur.

euh mais le principe CTD ne parle pas du tout de la définition de ce qu'est un "programme d'ordinateur", quel rapport donc avec ce principe ?

[Archi3]

Archi3 : parce que tu n'as meme pas essayé de comprendre mon raisonnement, et a fortiori encore moins d'y répondre. Selon toi existe-t-il des systèmes qui ne sont pas des ordinateurs, et si oui, pour quelles raisons ne le sont-ils pas ?

Le CTD est un principe universel qui s'applique à tous les objets physiques, par définition de ce principe, tel que déjà répondu plusieurs fois avec source à l'appui. Ce n'est pas parce que tu as décidé de prétendre que "il dit contraire si on le lit bien" que ça en fait un point méritant débat.

es tu au moins d'accord que tu ne réponds absolument pas à la question que je posais (qui est je le rappelle : quels systèmes physiques ne sont pas des ordinateurs, et pour quelle raison ? )
J'imagine très bien pourquoi tu te gardes bien d'y répondre, d'ailleurs ...

[Archi3]

Pour aider à la discussion, les systèmes suivants par exemple peuvent ils être considérés comme des ordinateurs, OUI ou NON (réponse simple demandée ! ) ?
* un nuage
* un tourbillon d'eau
* une paramécie
* une amibe
* une méduse
(on voit je pense où je veux en venir ...)

[Topix]

Pour aider à la discussion, les systèmes suivants par exemple peuvent ils être considérés comme des ordinateurs, OUI ou NON (réponse simple demandée ! ) ?
* un nuage
* un tourbillon d'eau
* une paramécie
* une amibe
* une méduse
(on voit je pense où je veux en venir ...)

Vous devriez développer votre argumentation vous-même selon les 2 réponses possibles, car je ne suis pas certain que tout le monde comprenne où vous voulez en venir, moi le premier.

Voici ma question : qu'est-ce que cela change au fait qu'il soit possible de simuler une conscience sur un ordinateur ?

[Archi3]

Vous devriez développer votre argumentation vous-même selon les 2 réponses possibles, car je ne suis pas certain que tout le monde comprenne où vous voulez en venir, moi le premier.

Voici ma question : qu'est-ce que cela change au fait qu'il soit possible de simuler une conscience sur un ordinateur ?

ça ne change rien , mais je pense important de savoir si tout est par principe un ordinateur , ou non.

[ClairEsprit]

euh mais le principe CTD ne parle pas du tout de la définition de ce qu'est un "programme d'ordinateur", quel rapport donc avec ce principe ?

Le rapport selon moi est qu'une machine universelle de Turing augmentée de MQ peut simuler selon CTD n'importe quel système physique. Dans une machine de Turing, il y a un programme. Donc si on peut simuler le cerveau avec une machine de Turing, je comparerais le cerveau plus à un programme qu'à un ordinateur, l'ordinateur étant évidemment la machine de Turing.

Après je n'ai pas la prétention d'avoir parfaitement compris le sujet en deux jours en y ayant réfléchi dix minutes. Je peux être totalement à côté de la plaque.

[Archi3]

Le rapport selon moi est qu'une machine universelle de Turing augmentée de MQ peut simuler selon CTD n'importe quel système physique. Dans une machine de Turing, il y a un programme. Donc si on peut simuler le cerveau avec une machine de Turing, je comparerais le cerveau plus à un programme qu'à un ordinateur, l'ordinateur étant évidemment la machine de Turing.

donc tout système serait un programme d'ordinateur, pas seulement le cerveau ?

[ClairEsprit]

donc tout système serait un programme d'ordinateur, pas seulement le cerveau ?

Dans ma compréhension actuelle de ce principe, oui. En même temps, identifier la simulation à l'original est un raccourci que j'ai un peu de mal à faire même si je ne vois pas pourquoi je ne le ferais pas si la simulation est parfaite. Dans le cas d'un cerveau, si la simulation est réellement parfaite, la conscience émulée doit être la même (si tant est qu'elle est bien capturée par notre description physique du monde).

Comme je le disais plus haut, peut-être que le seul ordinateur universel capable de faire de telles simulations n'est autre que l'univers lui-même.

[ClairEsprit]

En définitive, je pense que s'opposer à ce que CTD puisse assimiler un cerveau à un ordinateur, ou un programme d'ordinateur, est strictement équivalent au fait de s'opposer à ce que la conscience ne soit pas capturée par la description physique du monde. Une telle opposition est donc une croyance hors charte.

[ansset]

En définitive, je pense que s'opposer à ce que CTD puisse assimiler un cerveau à un ordinateur, ou un programme d'ordinateur, est strictement équivalent au fait de s'opposer à ce que la conscience ne soit pas capturée par la description physique du monde. Une telle opposition est donc une croyance hors charte.

pas clair pour moi :
"assimiler" au sens de l'analogie ou au sens d'une forme de bijection. ( et avec quel ordinateur ? mais c'est subsidiaire )
"capturée par" : c-a-d ?

[ClairEsprit]

pas clair pour moi :
"assimiler" au sens de l'analogie ou au sens d'une forme de bijection. ( et avec quel ordinateur ? mais c'est subsidiaire )
"capturée par" : c-a-d ?

"assimilé" au sens d'une forme de bijection, avec au pire l'ordinateur étant l'univers lui-même.

"capturée", c'est-à-dire qu'il n'y aurait pas de "variables cachées" nécessaires à la description de la conscience qui ne soit pas déjà dans notre description physique du monde (entre guillemets car puisque la description implique l'utilisation de la MQ il n'y a déjà pas de variable cachée au sens scientifiquement accepté du terme; pour continuer à se cacher ça devient donc compliqué, peut-être faudrait-il descendre au niveau des concepts pour les remettre en cause et encore je ne vois pas comment).

[ansset]

je n'y comprend rien du tout , un dodo s'impose.
bonne nuit

[Bounoume]

Il se fait tard......;
Je suis toujours aussi perplexe.....
où allons-nous?
Quelle est la signification des substantifs:
ordinateur
conscience
simulation
Je ne m'y retrouve pas du tout....
simuler, est-ce "être sans être réellement" avec les mêmes propriétés physiques..... les mêmes processus......
ou seulement "renvoyer à un observateur des signaux identiques à ceux qu'il recevrait par son observation si il manipulait la réalité réelle et pesante"
ou encore "donner l'illusion très ressemblante et même trompeuse... de la réalité matérielle"

Pour la conscience (pas l'état médical 'conscient' en opposition avec l'état médical 'comateux' -ou endormi par anesthésie!- )
là encore, est-ce que mon chat (ou mon cheval, ou mes poules...) ont une conscience? est-ce qu'ils sont 'conscients' ?
Et même.... quand mon CPU détecte une exception ou un plantage programme, qu'il traite l'exception ou qu'apport signale l'anomalie, s'agit-il d'une 'conscience' frustre?
Quel est le rôle du Verbe dans la conscience -celle proprement humaine et civilisée, car il y a les autres......

Ordinateur?
Processus de traitement (déterministe à la base) des informations? Quel qu'en soit le support physique....
Engin électronique dont les états et leurs mécanismes de production sont des outils de traitement de l'information?
C'est pas la même chose....
nb. déterministe? Pas tant que ça (fonction rand().... et les erreurs d'arrondi, les threads qui se télescopent, les défauts de programmation....... mais ça, cette remarque, c'est pour le fun.....

Après, on peut tout dire....
Circularité???????
Bonne nuit tout le monde.
Demain il fera jour.....

[Topix]

ça ne change rien , mais je pense important de savoir si tout est par principe un ordinateur , ou non.

Je pense que la question est mal posée. Je pense qu'il convient mieux de demander si un système physique fini fonctionne selon une logique mathématique.

Selon le principe de CTD, la réponse est oui. C'est plus élégant que de dire qu'une paramécie est un ordinateur et ça évite les confusions.

[invite73192618]

Si l’expérience conscience des couleurs est un phénomène physique alors un aveugle de naissance pourrait avoir connaissance de ce qu'est l’expérience vécu du ressenti de couleur juste en lisant des cours de physique

Une expérience amusante à tester dans son entourage: demande à quelques cyclistes amateurs dans quel sens il faut tourner le guidon, en cas de déséquilibre vers la droite. La plupart vont répondre "à gauche". Pourtant la bonne réponse est de tourner vers la droite, ce qu'ils font instinctivement (sinon ils se casseraient la figure très très vite). A l'origine cette petite expérience est une façon de montrer qu'il y a une différence entre la mémoire procédurale (qui nous sert à faire du vélo) et la mémoire sémantique (qui nous sert à en parler). Mais une fois que cette expérience est connue, n'est-il pas évident que la possession d'une information, par un cerveau, n'est pas équivalente à la possession d'une information, par la partie du cerveau responsable de l'expérience consciente des couleurs?

En quoi le CTP est un principe de même valeur que la conservation de l'énergie ?

Le lien le plus direct est avec le principe d'unitarité de la MQ. Toute loi physique qui respecte cela est par construction calculable et donc respecte le CTD. A l'inverse, si le CTD est faux alors l'unitarité de la MQ peut difficilement être respectée.

Le lien avec la conservation de l'énergie est légèrement moins direct. Il faut d'abord remarquer que la conservation de l'énergie correspond à une symétrie temporelle (i.e. que les lois de la physiques sont indifférentes quand on les prend dans un sens ou dans l'autre). Or cette indifférence est une conséquence directe de l'unitarité de la MQ. Si le CTD est faux, alors l'unitarité ne tient pas et donc la conservation de l'énergie non plus.

Finalement le lien le plus indirect est avec la vitesse de la lumière. Pour cela il faut passer par les expériences de choix retardé p/r les inégalités de Bell. Dans ces expériences c'est l'unitarité (et oui encore elle...) qui permet de sauver le respect de la vitesse de causalité. Si elle est brisée, on peut transmettre des informations plus vite que la lumière et donc remonter le temps.

Un bémol: sur le plan logique on pourrait imaginer que l'univers débute avec un certain nombre de qbits qui porteraient des informations non calculables. Dans ce scénario le CTD pourrait être faux sans que la MQ soit invalidée (c'est en substance l'idée de Scott Aaronson cité plus haut, qui appelle cela des freebits et suppose que le cerveau les utilise pour prendre des décisions non déterministes). Par contre on ne peut pas créer d'informations non calculables à partir de la MQ sans qu'elles soient présentes dans l'état initial. Bien sur, il reste toujours la possibilité que la MQ soit fausse, ou la conservation de l'énergie, ou le non dépassement de c. Le point est simplement qu'un univers qui ne respecterait pas le CTD serait profondément différent de ce qu'on pense en connaitre.

Ensuite, une fois arrivé à ce point, comment faire le raccourci que la description physique du cerveau suffit à capturer ce qu'est une conscience (c'est-à-dire, en gros, comment justifier que la physique capture bien la totalité du réel).

Cela rejoint la question de paradigme sur l'aspect métaphysique. Oui, le CTD ne permet pas de s'assurer que le principe métaphysique 'la conscience est un phénomène physique, localisé dans le cerveau' soit vrai. C'est ce que j'essayais de dire quand je mentionnais que le CTD n'est pas utile pour quelqu'un qui penserait que la conscience est phénomène miraculeux.

[Archi3]

Il se fait tard......;
Je suis toujours aussi perplexe.....
où allons-nous?
Quelle est la signification des substantifs:
ordinateur
conscience
simulation.....

c'est effectivement un préalable à toute assertion du genre "le cerveau est un ordinateur", non ?

[Archi3]

Je pense que la question est mal posée. Je pense qu'il convient mieux de demander si un système physique fini fonctionne selon une logique mathématique.

Selon le principe de CTD, la réponse est oui. C'est plus élégant que de dire qu'une paramécie est un ordinateur et ça évite les confusions.

pardon mais quand on dit "le cerveau est un ordinateur" , est ce que ça veut dire pareil que "le cerveau fonctionne selon une logique mathématique " ou non? pourquoi est ce "élégant" de dire que le cerveau est un ordinateur et pas qu'une paramécie est un ordinateur ? on est dans la science là, avec des grands principes genre conservation de l'énergie ou unitarité de la mécanique quantique , ou dans la qualification affective ?

[Archi3]

Une expérience amusante à tester dans son entourage: demande à quelques cyclistes amateurs dans quel sens il faut tourner le guidon, en cas de déséquilibre vers la droite. La plupart vont répondre "à gauche". Pourtant la bonne réponse est de tourner vers la droite, ce qu'ils font instinctivement (sinon ils se casseraient la figure très très vite). A l'origine cette petite expérience est une façon de montrer qu'il y a une différence entre la mémoire procédurale (qui nous sert à faire du vélo) et la mémoire sémantique (qui nous sert à en parler). Mais une fois que cette expérience est connue, n'est-il pas évident que la possession d'une information, par un cerveau, n'est pas équivalente à la possession d'une information, par la partie du cerveau responsable de l'expérience consciente des couleurs?


Le lien le plus direct est avec le principe d'unitarité de la MQ. Toute loi physique qui respecte cela est par construction calculable et donc respecte le CTD. A l'inverse, si le CTD est faux alors l'unitarité de la MQ peut difficilement être respectée.

Le lien avec la conservation de l'énergie est légèrement moins direct. Il faut d'abord remarquer que la conservation de l'énergie correspond à une symétrie temporelle (i.e. que les lois de la physiques sont indifférentes quand on les prend dans un sens ou dans l'autre). Or cette indifférence est une conséquence directe de l'unitarité de la MQ. Si le CTD est faux, alors l'unitarité ne tient pas et donc la conservation de l'énergie non plus.

Finalement le lien le plus indirect est avec la vitesse de la lumière. Pour cela il faut passer par les expériences de choix retardé p/r les inégalités de Bell. Dans ces expériences c'est l'unitarité (et oui encore elle...) qui permet de sauver le respect de la vitesse de causalité. Si elle est brisée, on peut transmettre des informations plus vite que la lumière et donc remonter le temps.

Un bémol: sur le plan logique on pourrait imaginer que l'univers débute avec un certain nombre de qbits qui porteraient des informations non calculables. Dans ce scénario le CTD pourrait être faux sans que la MQ soit invalidée (c'est en substance l'idée de Scott Aaronson cité plus haut, qui appelle cela des freebits et suppose que le cerveau les utilise pour prendre des décisions non déterministes). Par contre on ne peut pas créer d'informations non calculables à partir de la MQ sans qu'elles soient présentes dans l'état initial. Bien sur, il reste toujours la possibilité que la MQ soit fausse, ou la conservation de l'énergie, ou le non dépassement de c. Le point est simplement qu'un univers qui ne respecterait pas le CTD serait profondément différent de ce qu'on pense en connaitre.


Cela rejoint la question de paradigme sur l'aspect métaphysique. Oui, le CTD ne permet pas de s'assurer que le principe métaphysique 'la conscience est un phénomène physique, localisé dans le cerveau' soit vrai. C'est ce que j'essayais de dire quand je mentionnais que le CTD n'est pas utile pour quelqu'un qui penserait que la conscience est phénomène miraculeux.

Jiav, je pense que tu devrais ouvrir un fil spécifique sur le CTD, car comme j'ai dit ça n'a rien à voir avec la question de savoir si "le cerveau est un ordinateur" (dont la réponse me semble simplement dépendre de la définition que tu prends pour un ordinateur, qui n'a rien à voir avec la validité de CTD).

On pourra discuter sur ce fil de savoir si une mesure quantique est "calculable" ...

[Archi3]

Pour résumer, tu ramènes la question de savoir si "le cerveau est un ordinateur" à la question "le cerveau est calculable par un ordinateur", et tu invoques le principe CTD pour répondre à la deuxième question en prétendant que ça répond à la première. Or
* les deux questions ne sont certainement pas équivalentes si la catégorie "ordinateur" ne concerne pas tous les systèmes physiques (pas les paramécies par exemple), elle ne s'assimile certainement pas à la catégorie "tout ce qui est calculable par un ordinateur" (et encore moins si CTD est vraie)
* la mise au point d'une IA forte ne repose pas du tout sur la simulation physique d'un cerveau réel, donc c'est encore moins pertinent

Donc les discussions sur le CTD n'ont aucune pertinence sur ce fil ...

[ansset]

j'y reviens, car il y a pour moi une confusion de base que je résume ainsi.
1 )préambule implicite :
tout phénomène phys déterministe => calculable.
j'en doute si on tient compte de l'ensemble des phénomènes chaotiques.
donc théoriquement calculable oui : dans la pratique non !
2 )quid de la MQ , quel sens donner à la calculabilité

[Archi3]

questions intéressantes, mais à discuter sur un fil spécifique sur le CTD comme je disais.

[ansset]

Pour le point 2) oui, car en présentant le CTD avec un peu d'ironie.
- le modèle CT a montré qu'il était insuffisant
- Deutch y rajoute donc une pincée de quantique dans la soupe ( l'ordinateur de demain ) et hop la potion de Panoramix est théoriquement prête.

Pour le point 1) il est déjà avéré que la combinatoire d'un phénomène fortement chaotique, je reste donc là dans la phys classique ( ex type simple : la météo ) est , dans la pratique, impossible à résoudre en totalité.

Bref, même avec l'épice quantique , "théoriquement possible" est de l'ordre de la thèse, et n'implique pas son caractère réalisable.

[ansset]

On peut remplacer "fortement" par "suffisamment" .

[ansset]

Désolé pour ce triplet.
De fait, je crains que l'on ne réponde pas à la question initiale de Bounoume qui me semble plutôt être.
Peut on crée une IA forte avec uniquement l'apprentissage par des faits et connaissances ( + fonctionnement informatique ad hoc ).
Et dans sa présentation IA forte est présentée comme IA ayant les capacités cognitives équivalentes à celle d'un humain ( ou d'avantage ), ce qui est différent d'une présentation IA forte = "Humain like I ".

Il y a donc deux questions :
- comment structurer/modéliser l'ensemble de ces capacités cognitives ( il faudrait déjà les lister de manière exhaustive ) ?
- peuvent elle exister seules ? sans aucun "qualia" par exemple.

[ClairEsprit]

, je crains que l'on ne réponde pas à la question initiale de Bounoume

Il me semble que ça a déjà été répondu. On sait que c'est possible (CTD) mais on ne sait pas encore comment, et sans doute que n'utiliser que l'analyse textuelle n'est pas une approche suffisamment féconde. En plus pour réponde à la question il n'est même pas besoin d'aller jusqu'à l'émulation de conscience puisqu'on ne cherche que les capacités cognitives, et il est suffisamment démontré en pratique maintenant qu'on peut les approcher (pour des cas ad'hoc).

[ansset]

Il me semble que ça a déjà été répondu. On sait que c'est possible (CTD) mais on ne sait pas encore comment,.....

j'adore !! et du coup je plussoie l'idée de faire un fil à part sur le CDT qui explique clairement on démontre que c'est possible.
Et qui ne se résume pas à : la "thèse" proposée est plutôt bien accueillie par ceux la trouve cohérente.

dans le même esprit , les cordistes et les bouclistes adhèrent chacun de leur coté à ses deux modèles quantique, sans que l'on puisse démontrer que l'une, l'autre ou aucune n'est valide.

[Archi3]

Il me semble que ça a déjà été répondu. On sait que c'est possible (CTD) ..

personnellement, j'ai expliqué pourquoi CTD n'apportait aucunement une réponse , j'ai expliqué pourquoi, et j'estime qu'on n'a nulle part expliqué en quoi mes arguments n'était pas bons. Je ne dirai donc pas qu'on "sait que c'est possible", sauf à remplacer les argumentations logiques par des assertions répétées en boucle.

[Paradigm]

personnellement, j'ai expliqué pourquoi CTD n'apportait aucunement une réponse , j'ai expliqué pourquoi, et j'estime qu'on n'a nulle part expliqué en quoi mes arguments n'était pas bons. Je ne dirai donc pas qu'on "sait que c'est possible", sauf à remplacer les argumentations logiques par des assertions répétées en boucle.

Je partage la même analyse. Voir même partant d'une hypothèse qui peut être fausse "la conscience est un phénomène physique" dans le cadre de la logique du premier ordre à partir du faux on peut démontrer de manière totalement valide le tout et son contraire.

Cordialement,