IA forte uniquement verbale: envisageable? comment?

[Archi3]

Ha bon, il dit ça ce "principe" ? ou plutôt on peut l'interpréter ainsi ?
j'en suis assez ébahi !

moi aussi !
-----

[mh34]

C'est ce principe : https://fr.wikipedia.org/wiki/Princi...Turing-Deutsch

Ce qui veut dire qu'il est en théorie possible de créer une conscience sur un ordinateur.

Euh...moi je lis ça ;

N'importe quel système physique fini réalisable peut être parfaitement simulé par un modèle de machine calculatrice opérant par des moyens finis. »

Vous pouvez m'expliquer comment vous en arrivez à votre conclusion?

Oups, croisement avec Archi et Ansset...désolée...

[invite73192618]

Ha bon, il dit ça ce "principe" ? ou plutôt on peut l'interpréter ainsi ?

Il dit cela, et c'est précisément l'intention originelle. Néanmoins, en toute rigueur on devrait plutôt dire "Si la conscience est un phénomène physique, alors CTD stipule qu'il est possible de créer une conscience sur un ordinateur."

Si quelqu'un veut croire que la conscience est un phénomène miraculeux (que ce soit au sens chrétien ou, comme Penrose première mouture, au sens d'une communication avec un monde idéal des idées), alors le CTD n'est pas une objection à sa croyance.

Le point notable, c'est que la plupart des gens qui disent "non non le cerveau n'est pas un ordinateur" pensent qu'ils font proposition anodine voir de bon sens. En fait c'est une affirmation extraordinaire, qui ne demande ni plus ni moins de preuve que n'importe quel inventeur d'énergie gratuite ou de machine à remonter le temps.

[ansset]

mais n'est ce pas un principe purement théorique ?
quand à dire que remettre en cause sa "portée" voire sa "validite" revient à considérer la conscience comme un phénomène miraculeux, n'est ce pas de l'ordre de l'ironie méprisante ?

[invite73192618]

mais n'est ce pas un principe purement théorique ?

Ni plus ni moins que la conservation de l'énergie, l'unitarité de la MQ, le non dépassement de c.

n'est ce pas de l'ordre de l'ironie méprisante ?

Pas du tout. Si je te dis que tu es un grand singe (sauf miracle qui viendrait remettre en question tout ce qu'on sait sur l'évolution des espèces, la génétique et la paléontologie), c'est une information sans conotation méprisante -et d'ailleurs on est logé à la même enseigne sur ce plan. Si je te dis que tu es un ordinateur (sauf miracle qui viendrait remettre en question tout ce qu'on sait sur la conservation de l'énergie, l'unitarité de la MQ et l'impossibilité de dépasser c), c'est une information sans conotation méprisante, et d'ailleurs on est logé à la même enseigne sur ce plan.

[Archi3]

Il dit cela, et c'est précisément l'intention originelle. Néanmoins, en toute rigueur on devrait plutôt dire "Si la conscience est un phénomène physique, alors CTD stipule qu'il est possible de créer une conscience sur un ordinateur."

Si quelqu'un veut croire que la conscience est un phénomène miraculeux (que ce soit au sens chrétien ou, comme Penrose première mouture, au sens d'une communication avec un monde idéal des idées), alors le CTD n'est pas une objection à sa croyance.

Le point notable, c'est que la plupart des gens qui disent "non non le cerveau n'est pas un ordinateur" pensent qu'ils font proposition anodine voir de bon sens. En fait c'est une affirmation extraordinaire, qui ne demande ni plus ni moins de preuve que n'importe quel inventeur d'énergie gratuite ou de machine à remonter le temps.

donc "un ordinateur peut simuler le Soleil" , c'est équivalent à dire "le Soleil est un ordinateur" ?
"un ordinateur peut calculer l'énergie fournie par le Soleil", c'est équivalent à dire "un ordinateur peut fournir l'énergie du Soleil" ?


un petit problème logique : si on définit la propriété d'un système comme "ayant une conscience correcte de sa propre nature" , par exemple : nous savons que nous sommes un etre biologique faits de protéines et autres molécules organiques - parce que nous le sommes effectivement. Comment cette propriété pourrait etre correctement simulée par une machine qui n'est PAS faite de protéines ? elle pourrait peut-être imaginer qu'elle l'est, mais dans ce cas sa croyance ne serait pas correcte. L'adaptation au monde n'est donc par définition PAS transposable sur n'importe quel système. C'est bien pour cela que justement les IA REELLES ne font aucunement appel à ton "principe", qui est de facto sans aucune utilité (contrairement à la conservation de l'énergie).

[Archi3]

Le point notable, c'est que la plupart des gens qui disent "non non le cerveau n'est pas un ordinateur" pensent qu'ils font proposition anodine voir de bon sens. En fait c'est une affirmation extraordinaire, qui ne demande ni plus ni moins de preuve que n'importe quel inventeur d'énergie gratuite ou de machine à remonter le temps.

quand on définit un mot comme "ordinateur", cela implique une catégorisation dans l'ensemble des choses. Le mot n'a d'intérêt que si il permet de séparer ce qui l'est de ce qui ne l'est pas. En ce sens, ordinateur a un sens précis comme une machine descriptible par un nombre fini d'états et munie d'un système physique permettant de faire transiter de manière déterministe d'un état à un autre en fonction d'informations discrètes. Tu peux en principe construire un ordinateur en bout de bois à condition d'agencer les bouts de bois d'une manière particulière qui le fait obéir à la définition. Ce n'est pas pour cela que n'importe quel foret est un ordinateur. Et les ordinateurs obéissent à la thèse de Church-Turing, c'est à dire l'équivalence formelle avec une machine de Turing.
Maintenant en rajoutant le "D" de Deutsch, on arrive à une proposition totalement différente, qui n'est en rien une "extension" mais une proposition qui n'a plus rien à voir. On parle de la calculabilité du monde. Ca n'a rien à voir avec le fait de distinguer une partie des objets d'une autre en formant une catégorie, mais au contraire avec une assertion universelle sur tous les objets qu'on peut concevoir (comme le principe de conservation de l'énergie) : ça ne sert pas du tout à la même chose . Enoncer une définition qui permet de distinguer des choses d'autres choses (par exemple qu'est ce qu'un solide, un liquide , ou un gaz), c'est dans le principe très différent d'énoncer une proposition qui concerne tout le monde ("tous les corps obéissent aux principes de la thermo, qu'ils soient solides liquides ou gazeux). Tu ne peux certainement pas utiliser un principe "universel" pour en "déduire" qu'un objet particulier obéit à une classe particulière. Ca n'a pas de sens. Déduire du principe de CTD que "le cerveau est un ordinateur" (alors que cette proposition demanderait justement à définir ce qu'un ordinateur a de différent des autres choses) n'a pas de sens logique.

[Archi3]

Ni plus ni moins que la conservation de l'énergie, l'unitarité de la MQ, le non dépassement de c.


Pas du tout. Si je te dis que tu es un grand singe (sauf miracle qui viendrait remettre en question tout ce qu'on sait sur l'évolution des espèces, la génétique et la paléontologie), c'est une information sans conotation méprisante -et d'ailleurs on est logé à la même enseigne sur ce plan. Si je te dis que tu es un ordinateur (sauf miracle qui viendrait remettre en question tout ce qu'on sait sur la conservation de l'énergie, l'unitarité de la MQ et l'impossibilité de dépasser c), c'est une information sans conotation méprisante, et d'ailleurs on est logé à la même enseigne sur ce plan.

exemple typique de gloubi-boulga théorique (gloubi-boulga n'a pas de connotation méprisante, ça veut juste dire que tu mélanges des choses très différentes entre elles). Ta première phrase se rapporte à des principes universels, qui ne peuvent t'être d'aucune utilité pour "décider" de si un objet obéit à une catégorie ou une autre , et ta deuxième se rapporte à des catégorisations qui ne peuvent certainement pas être résolues par des principes universels: la Mécanique Quantique ou la conservation de l'énergie ne peut certainement pas t'aider à savoir si l'Homme est un grand Singe !! .

Si tu utilises le principe CTD "universel" pour répondre à une question "catégorielle" , il y a forcément un problème. Ce qui explique que tu t'es bien gardé de répondre à ma première question : qu'est ce qui 'n'est pas" un ordinateur selon toi, et pourquoi ?

[noureddine2]

Ha bon, il dit ça ce "principe" ? ou plutôt on peut l'interpréter ainsi ?
j'en suis assez ébahi !

Bonjour ,
la page en anglais https://en.wikipedia.org/wiki/Church...ldid=764857218
est un peu differente

Histoire
Le principe a été initialement énoncé par Deutsch en ce qui concerne les machines et les processus finitaires . Il a observé que la physique classique , qui utilise le concept de nombres réels , ne peut être simulée par une machine de Turing , qui ne peut représenter que des réels calculables .

donc les nombres reels non calculables ne peuvent pas etres simulés

[ansset]

Si tu utilises le principe CTD "universel" pour répondre à une question "catégorielle" , il y a forcément un problème. Ce qui explique que tu t'es bien gardé de répondre à ma première question : qu'est ce qui 'n'est pas" un ordinateur selon toi, et pourquoi ?

Il me semble qu'il y a répondu plus haut quand j'ai posé la question sur la "portée" de ce "principe" et que sa réponse fut en substance que ceux qui n'y adhère pas considèrent donc que la "conscience" est alors de l'ordre du spirituel.
ce que, perso, j'ai trouvé ironique et méprisant.

d'autant que son aparté sur les grands singes dans la foulée était pour moi à coté de la plaque par rapport à cette discussion.

[HenriParisien1]

Ni plus ni moins que le principe d'unitarité de la MQ, ou le respect de la conservation de l'énergie, ou le respect de la vitesse de la lumière (en fait la limite de la vitesse de la causalité). Ces principes vont main dans la main au point qu'on puisse difficilement violer l'un sans violer les autres.

Je suis d'accord avec cette partie. Pas avec la deuxième :

De là, les seuls objets physiques pour lesquels il n'est pas complètement déraisonnable de penser qu'ils échappent éventuellement au CTD sont les mêmes que ceux pour qui la conservation de l'énergie est possiblement douteuse, i.e. l'expansion de l'univers et la thermodynamique des trous noirs.

Ce que nous appelons objets physiques, c'est notre compréhension de ces objets. Notre compréhension est limitée par notre approche qui passe par forcément par un formalisme, donc une calculabilité.
Notre approche des objets physique est bonne (parfois même excellente avec pour certaines constantes des précisions de calcul incroyables), mais dire qu'elle est exacte, c'est un acte de foi. Nous n'avons aucun principe qui puisse obliger l'univers à être calculable.

--

Mais nous n'avons pas spécialement besoin du CTD pour justifier qu'une conscience artificielle est possible. On a juste besoin de supposer qu'il n'y a rien de surnaturelle dans le sens de non reproductible. Ce qui est beaucoup plus faible que le CTD et est vraisemblable au vu du nombre de consciences "naturelles" existant.

En pratique, on peut imaginer fabriquer une conscience artificielle sans que l'on soit en mesure de la réduire à un algorithme.

[invite73192618]

donc les nombres reels non calculables ne peuvent pas etres simulés

Tout-à-fait. De même que les compresseurs universels, les orcales pour l'arrêt, ainsi que quelques autres détaillés dans le lien que j'ai envoyé plus haut sur la question de ce qui n'est pas simulé par une machine de Turing.

Maintenant en rajoutant le "D" de Deutsch, on arrive à une proposition totalement différente, qui n'est en rien une "extension" mais une proposition qui n'a plus rien à voir.

Perso c'est exactement la même proposition, mais sur ce point ma position n'est pas universellement acceptée parmi ceux qui comprennent le sujet.

Tu ne peux certainement pas utiliser un principe "universel" pour en "déduire" qu'un objet particulier obéit à une classe particulière.

Ah bon. Je vais avoir une amende alors. Question pour toi: si je "déduis" de trois principes "universels" que le cerveau respecte la conservation d'énergie, la vitesse de la lumière et le no cloning, est-ce que mon amende augmente ou ce sont des peines concomitantes?

[invite73192618]

Mais nous n'avons pas spécialement besoin du CTD pour justifier qu'une conscience artificielle est possible.

Tout-à-fait. D'ailleurs Penrose est un exemple de quelqu'un qui croit que la conscience n'est pas calculable au sens CTD, mais qui précise par ailleurs qu'il ne voit aucune objection de principe à ce qu'on construise des consciences artificielles (exceptée, bien sur, que pour lui il faudra qu'on utilise des propriétés physiques spéciales, actuellement non connues, qui rendent fausse la mécanique quantique actuelle).

En pratique, on peut imaginer fabriquer une conscience artificielle sans que l'on soit en mesure de la réduire à un algorithme.

On peut, mais c'est une proposition beaucoup plus faible (au sens de beaucoup plus vraissemblable) que de dire qu'elle serait en principe irréductible à un algorithme.

[Archi3]

" Envoyé par Archi3
Tu ne peux certainement pas utiliser un principe "universel" pour en "déduire" qu'un objet particulier obéit à une classe particulière."
Ah bon. Je vais avoir une amende alors. Question pour toi: si je "déduis" de trois principes "universels" que le cerveau respecte la conservation d'énergie, la vitesse de la lumière et le no cloning, est-ce que mon amende augmente ou ce sont des peines concomitantes?

tes dernières propositions ne relèvent pas du rangement dans une catégorie particulière, mais du fait qu'un objet obéit à un principe général, donc elles sont justifiées. Mais la phrase "le cerveau est un ordinateur" relève lui d'un rangement dans une catégorie particulière, et ne peut donc être justifié par un principe général.
As tu besoin d'une explication complémentaire, ou bien la répétition suffit-elle ?

"Tu ne peux certainement pas utiliser un principe "universel" pour en "déduire" qu'un objet particulier obéit à une classe particulière.""

[Archi3]

"appartient" est plus correct que "obéit", sorry ...

[Topix]

donc "un ordinateur peut simuler le Soleil" , c'est équivalent à dire "le Soleil est un ordinateur" ?
"un ordinateur peut calculer l'énergie fournie par le Soleil", c'est équivalent à dire "un ordinateur peut fournir l'énergie du Soleil" ?

Quel problème logique cela est-il censé poser ? Simuler ne veut pas dire créer de la matière.

un petit problème logique : si on définit la propriété d'un système comme "ayant une conscience correcte de sa propre nature" , par exemple : nous savons que nous sommes un etre biologique faits de protéines et autres molécules organiques - parce que nous le sommes effectivement. Comment cette propriété pourrait etre correctement simulée par une machine qui n'est PAS faite de protéines ? elle pourrait peut-être imaginer qu'elle l'est, mais dans ce cas sa croyance ne serait pas correcte. L'adaptation au monde n'est donc par définition PAS transposable sur n'importe quel système. C'est bien pour cela que justement les IA REELLES ne font aucunement appel à ton "principe", qui est de facto sans aucune utilité (contrairement à la conservation de l'énergie).

Là encore, je ne comprends pas bien la pertinence de ce paragraphe. Imaginons que notre réalité soit simulée par des ordinateurs, un peu comme dans Matrix, qu'est-ce que cela est censé changer concrètement pour vous ? Absolument rien et vous n'avez aucun moyen de le savoir.

[Archi3]

Quel problème logique cela est-il censé poser ? Simuler ne veut pas dire créer de la matière.

j'ai juste posé la question si "simuler" était la même chose "qu'être". Je n'ai pas dit que ça pose un problème logique. Alors est ce que "un ordinateur peut simuler le Soleil" , c'est équivalent à dire "le Soleil est un ordinateur" ? oui , ou non? et pourquoi ?

Là encore, je ne comprends pas bien la pertinence de ce paragraphe. Imaginons que notre réalité soit simulée par des ordinateurs, un peu comme dans Matrix, qu'est-ce que cela est censé changer concrètement pour vous ? Absolument rien et vous n'avez aucun moyen de le savoir.

je parle de ce qui apparait être notre réalité. Les questions sur sa réalité profonde ne m'intéressent pas, c'est comme le solipsisme, on ne peut pas y répondre. Si notre univers était une simulation, une IA "apparemment réelle" serait aussi une simulation, et la question serait pertinente par rapport à sa "réalité dans la simulation" ; on peut poser les mêmes questions : une IA qui "croit" qu'elle est humaine sans l'être est elle équivalente à une intelligence qui croit etre humaine tout en l'étant ? pour moi, ils ne sont pas équivalents sur le critère de savoir si oui ou non ils ont une représentation correcte de la réalité.

Et avoir une représentation correcte de la réalité, ça compte : tu n'as qu'a essayer de traverser une autoroute les yeux fermés pour comprendre pourquoi.

[ClairEsprit]

Archi3 : une IA qui "croit" qu'elle est humaine sans l'être

Comment est-il possible qu'une IA ayant des capacités cognitives identiques à celles d'un être humain ne puisse pas se rendre compte assez rapidement qu'elle n'est qu'une IA ? Pour qu'elle soit abusée il faudrait qu'on lui envoie en continu des simulations d'inputs sensoriels permettant de recréer un environnement cohérent avec des souvenirs implantés, avec le degré de finesse qui convient. C'est déjà bien assez compliqué de simuler une conscience, alors un environnement complet ... !

[ansset]

T
Perso c'est exactement la même proposition, mais sur ce point ma position n'est pas universellement acceptée parmi ceux qui comprennent le sujet.

tu m'en vois rassuré.
et j'ignorai qu'en général tes autres "positions" l'étaient elles : "universellement" ( mazette ) , car c'est un peu le sous-entendu.

[Topix]

j'ai juste posé la question si "simuler" était la même chose "qu'être". Je n'ai pas dit que ça pose un problème logique. Alors est ce que "un ordinateur peut simuler le Soleil" , c'est équivalent à dire "le Soleil est un ordinateur" ? oui , ou non? et pourquoi ?

Non, parce qu'un Soleil simulé ne produirait pas les mêmes effets. De toute façon, la question ne se pose pas en ces termes : un ordinateur peut-il éprouver les mêmes émotions qu'un humain ? C'est la seule chose qu'il importe de savoir. Le reste, c'est de la philosophie.

on peut poser les mêmes questions : une IA qui "croit" qu'elle est humaine sans l'être est elle équivalente à une intelligence qui croit etre humaine tout en l'étant ? pour moi, ils ne sont pas équivalents sur le critère de savoir si oui ou non ils ont une représentation correcte de la réalité.

1) Pourquoi une IA devrait forcément-elle croire qu'elle est humaine ?

2) Qu'est-ce que cela est censé changer fondamentalement ? Il y a bien des humains qui croient plein de choses qui sont fausses...

[invite73192618]

c'est un peu le sous-entendu.

Ce n'est pas sous-entendu, c'est une affirmation claire et directe. Par contre je n'ai pas dit que [la proposition que soit CTD est juste soit certains principes physiques universels sont faux] est universellement acceptée. J'ai dit qu'elle est universellement acceptée par ceux qui comprennent le sujet.

...et la pluie, ça mouille.

[Archi3]

Archi3 : une IA qui "croit" qu'elle est humaine sans l'être

Comment est-il possible qu'une IA ayant des capacités cognitives identiques à celles d'un être humain ne puisse pas se rendre compte assez rapidement qu'elle n'est qu'une IA ? Pour qu'elle soit abusée il faudrait qu'on lui envoie en continu des simulations d'inputs sensoriels permettant de recréer un environnement cohérent avec des souvenirs implantés, avec le degré de finesse qui convient. C'est déjà bien assez compliqué de simuler une conscience, alors un environnement complet ... !

Non, parce qu'un Soleil simulé ne produirait pas les mêmes effets. De toute façon, la question ne se pose pas en ces termes : un ordinateur peut-il éprouver les mêmes émotions qu'un humain ? C'est la seule chose qu'il importe de savoir. Le reste, c'est de la philosophie.



1) Pourquoi une IA devrait forcément-elle croire qu'elle est humaine ?

2) Qu'est-ce que cela est censé changer fondamentalement ? Il y a bien des humains qui croient plein de choses qui sont fausses...

mes remarques visaient l'emploi du principe de CTD pour justifier qu'un cerveau pourrait forcément être émulé par un ordinateur.
Or le principe de CTD dit
"Every finitely realizable physical system can be perfectly simulated by a universal model computing machine operating by finite means"

"perfectly simulated", ça implique que l'ordinateur ait exactement la même conscience que ce qu'il émule, donc qu'il croit qu'il est un être humain !
comme je disais, c'est donc incompatible avec l'exigence "naturelle" (que vous exprimez spontanément) d'une conscience, c'est qu'elle ait d'abord une conscience de ce qu'elle est et pas d'autre chose !
donc une IA "réelle" ne peut en aucun cas etre "la simulation parfaite d'un cerveau humain", sauf à aboutir à une contradiction logique.
La conclusion est que le principe CTD n'est absolument d'aucune utilité pour une IA "réelle" - et on constate effectivement qu'aucune IA n'est vraiment fondée sur la simulation exacte d'un cerveau humain, pour l'excellente raison que ça ne marcherait pas .

Je conteste donc absolument que le principe CTD puisse apporter aucune assurance "théorique" de l'existence d'une telle IA.

[Archi3]

Non, parce qu'un Soleil simulé ne produirait pas les mêmes effets. De toute façon, la question ne se pose pas en ces termes : un ordinateur peut-il éprouver les mêmes émotions qu'un humain ? C'est la seule chose qu'il importe de savoir. Le reste, c'est de la philosophie.



1) Pourquoi une IA devrait forcément-elle croire qu'elle est humaine ?

2) Qu'est-ce que cela est censé changer fondamentalement ? Il y a bien des humains qui croient plein de choses qui sont fausses...

ces gens là ont quand même une représentation suffisamment correcte de la réalité pour y survivre - ce qui n'a rien d'une évidence facile à réaliser. Evidemment si un robot croit qu'il a besoin de boire un litre d'eau par jour, ça risque de mal se passer ...

[Archi3]

Vous remarquez d'ailleurs que le principe de CTD comporte en lui même cette contradiction puisqu'il dit :
""Every finitely realizable physical system can be perfectly simulated by a universal model computing machine operating by finite means"
comme il précise "une machine à calculer universelle", c'est bien qu'il existe des catégories particulières d'objets (les machines à calculer) qui ne sont pas "comme les autres" : ce sont des machines au sens de Turing.
Mais d'un autre coté il affirme que tous les systèmes , qu'ils soient des machines de Turing ou non, peuvent être simulés par une machine de Turing.
Cela implique nécessairement donc (aussi nécessairement que la conservation de l'énergie) qu'il existe des systèmes qui peuvent etre simulés par une machine de Turing sans être une machine de Turing. (ce qui est évident, par exemple le Soleil dans ma question).

Je ne vois donc pas du tout en quoi ce principe impliquerait que le cerveau "serait" un ordinateur parce qu'il "pourrait être simulé" par un ordinateur : le principe de CTD ne dit pas du tout cela. Si on l'examine bien, il dit même l'inverse ....

[ansset]

Ce n'est pas sous-entendu, c'est une affirmation claire et directe.
.

Alors nous avons cet immense honneur d'entendre le pape "universel" de l'IA en personne ici.
Je sors donc puisque toute contribution s'avère inutile, par "principe" ( bien sur )
bien cordialement.

[Topix]

"perfectly simulated", ça implique que l'ordinateur ait exactement la même conscience que ce qu'il émule, donc qu'il croit qu'il est un être humain !

Si on simule votre intelligence sur un ordinateur, elle ne va pas se rendre compte au bout d'un moment qu'elle est différente des humains biologiques ? Honnêtement, je ne vois pas bien où vous voulez en venir.

Le propre d'une intelligence, c'est justement de s'adapter à des situations nouvelles.

c'est donc incompatible avec l'exigence "naturelle" (que vous exprimez spontanément) d'une conscience, c'est qu'elle ait d'abord une conscience de ce qu'elle est et pas d'autre chose !

Je ne sais pas d'où vous sortez ces règles totalement arbitraires. Pourtant, les histoires de personnes faisant des actes inconsidérés parce qu'elles se croyaient littéralement invincibles sont nombreuses. Il faut donc croire que ces personnes étaient de simples automates.

Cela revient quasiment à dire qu'une conscience n'a pas le droit d'avoir des erreurs d'appréciations.

[ClairEsprit]

Archi3 : "perfectly simulated", ça implique que l'ordinateur ait exactement la même conscience que ce qu'il émule, donc qu'il croit qu'il est un être humain !

(je ne trouve pas la citation sur la nouvelle interface, désolé)

Non, c'est une extension que je ne ferais pas, personnellement. "perfectly simulated", ça implique que l'ordinateur a les mêmes capacités cognitives que ce qu'il émule, et donc il se rend compte assez rapidement qu'il y a un problème. Ce qu'on émule, ce n'est pas la croyance d'être un être humain, mais une conscience qui évolue, raisonne, réfléchit... On n'émule pas que la sensation d'exister (sensation qui n'est pas forcément uniquement ressentie par un être humain d'ailleurs); on émule aussi et surtout "l'intelligence". La croyance d'être un être humain vient de l'association conscience + capacités cognitives + mémoire, et je dirais même que c'est uniquement la mémoire qui joue un rôle primordial dans cette croyance. La représentation que la conscience a d'elle-même vient de la comparaison qu'elle fait entre le contenu de sa mémoire et les inputs sensoriels qui l'alimentent et la modèlent à chaque instant.

Si on vous injecte un puissant somnifère par surprise, et qu'ensuite on vous met sur une table d'opération, qu'on vous retire vos capacités sensorielles et locomotrices par section de certain nerfs, et qu'on vous réveille puis vous alimente par intraveineuse jusqu'à la fin de vos jours : vous n'auriez aucune possibilité de savoir si vous étiez un être humain ou non, vous finiriez par douter de ce que vous êtes vraiment car aucun de vos souvenirs ne serait conforme à ce que vous vivriez par la suite.

[Topix]

Pourtant, les histoires de personnes faisant des actes inconsidérés parce qu'elles se croyaient littéralement invincibles sont nombreuses. Il faut donc croire que ces personnes étaient de simples automates.

Ce n'est pas exactement l'exemple que j'avais en tête, mais voici : https://fr.wikipedia.org/wiki/Band%C...gor%C5%8D_VIII

[ansset]

Non, c'est une extension que je ne ferais pas, personnellement. "perfectly simulated", ça implique que l'ordinateur a les mêmes capacités cognitives que ce qu'il émule, et donc il se rend compte assez rapidement qu'il y a un problème. Ce qu'on émule, ce n'est pas la croyance d'être un être humain, mais une conscience qui évolue, raisonne, réfléchit... On n'émule pas que la sensation d'exister (sensation qui n'est pas forcément uniquement ressentie par un être humain d'ailleurs); on émule aussi et surtout "l'intelligence". La croyance d'être un être humain vient de l'association conscience + capacités cognitives + mémoire, et je dirais même que c'est uniquement la mémoire qui joue un rôle primordial dans cette croyance. La représentation que la conscience a d'elle-même vient de la comparaison qu'elle fait entre le contenu de sa mémoire et les inputs sensoriels qui l'alimentent et la modèlent à chaque instant.
.

j'aimerais mieux saisir.
vous faites un lien entre la "conscience" et la mémoire ( diff en effet d'imaginer que la première puisse se passer de l'autre ).
d'un autre coté, vous proposer que ce qui est émulé ce ne sont que les capacités cognitives.
( celles ci ne sauraient justement se développer sans une mémoire évolutive., jusque là, tout va bien )
par ailleurs, on pourrait imaginer ( en suivant certains discours ) que les capacités sensoriels pourraient aisément être remplacées par d'autres formes d'inputs.
c'est d'ailleurs le sujet du fil en gros.
en prolongeant ce raisonnement, tous les "ingrédients" que vous citez sont présents pour ce que vous proposer comme les constituants de la conscience.!
du fait, je ne saisi plus le bemol de votre introduction. ( cette distinction )
à moins que cela soit ce que vous évoquez en parlant de ce que j'ai mis en gras ? ( le "problème" )

[ansset]

désolé, j'avais promis de ne plus répondre, mais là j'en reste assis.

Mais nous n'avons pas spécialement besoin du CTD pour justifier qu'une conscience artificielle est possible.

Tout-à-fait. D'ailleurs Penrose est un exemple de quelqu'un qui croit que la conscience n'est pas calculable au sens CTD, mais qui précise par ailleurs qu'il ne voit aucune objection de principe à ce qu'on construise des consciences artificielles (exceptée, bien sur, que pour lui il faudra qu'on utilise des propriétés physiques spéciales, actuellement non connues, qui rendent fausse la mécanique quantique actuelle).
.

Ben c'est pas gagné alors !
déjà Penrose ne dit pas la même que vous semble t-il. ( un autre "universel" ? )
Par selon lui , le "principe" ( un autre ? ) est valable mais il faut revoir quand même quelques très légers détails.
Ceci dit, les gens "qui s'y connaissent eux", ont forcement des pistes pour revoir notre physique ( piske le(s) principe(s) disent que c'est tout bon ).