IA forte uniquement verbale: envisageable? comment?

[invite6c250b59]

Merci de les lire et de me dire où ils se trompent ...

Ils argumentent que CT!=CTD, en ayant la politesse de mentionner que plusieurs personnes très compétentes sont d'un avis différent.

Je viens de vous dire que c'est possible que CTD SOIT VRAIE et que NEANMOINS LE CERVEAU NE SOIT PAS UN ORDINATEUR.

Tu l'as dit. C'est faux. Pas besoin de crier. Les raisons pourquoi c'est faux sont plus haut. Bonne chance pour retrouver le post.

tu n'as probablement pas donné assez d'explications de ton point de vue

Ou alors c'est noyé

sur l'estimation quantitative du nombre de bits qu'il faudrait pour calculer "exactement" un cerveau

Puisque tu m'interpelles par ailleurs sur la question, "exactement" est possiblement nécessaire ou possiblement inutile à "calculable" dépendant comment on l'interpréte. Pour clarifier: Pi est un nombre calculable, car on peut l'approcher d'aussi près qu'on veut. Si par "calculer Pi" tu veux dire "avoir tous les chiffres", alors exactement est faux (on ne peut pas avoir un nombre infini de chiffres en temps fini). Si par "calculer Pi" tu veux dire "avec exactement la bonne décimale, quelque soit la décimale spécifié en temps fini" alors exactement est tout-à-fait juste. Dans le contexte d'un cerveau (c'est-à-dire d'un système bruité) il faut prendre en compte qu'il y a une limite aux nombres de chiffres significatifs. La version équivalente devient alors "un cerveau est calculable si une machine de Turing peut produire des informations dont il serait impossible de dire si elles viennent du cerveau biologique ou de la machine de Turing". Autrement dit il faut avoir exactement tous les chiffres significatifs, mais pas exactement au point d'inclure des chiffres non significatif.

En passant mon guess actuel serait autour du pétaoctet (i.e. beaucoup moins que la plupart des collègues, incluant moi-même il y a 5 ans), mais je dois avouer que le rapport avec la choucroute me laisse perplexe.
-----

[invitec830472d]

Vous n'arrivez vraiment pas à "saisir" ça ????

Non, je ne comprends toujours strictement rien... vous savez ce qu'est un androïde ? : http://scd.rfi.fr/sites/filesrfi/ima...fia-cnbc_0.jpg

Qu'est-ce qui vous empêche d'imaginer un corps robotique qui reproduise parfaitement les aptitudes du corps humain ? Honnêtement, je ne comprends pas pourquoi vous butez sur des choses si simples à concevoir... vous pouvez toujours arguer que c'est impossible techniquement, mais on s'en fiche un peu.

Il s'agit fondamentalement d'une expérience de pensée : on simule parfaitement un cerveau humain que l'on met dans un corps en apparence identique à celui des autres humains. Qu'est-ce qui vous pose problème ?

absolument pas. Sans le "exactement", le principe n'a strictement aucun interêt. Si il n'y a pas le "exactement", alors c'est simulé " à peu près", et ça , c'est trivialement vrai, puisque personne ne peut définir précisément ce que veut dire "à peu près".

Ah bon ? Si une IA se met à agir comme un humain, au point d'être indistinguable de ce dernier, je n'ai aucun moyen de savoir quand la précision est suffisante ?

tiens, vous touchez du doigt une des difficultés importantes du principe CTD ... .

Donc, votre clone parfait n'est pas conscient parce qu'il ne pense pas exactement la même chose que vous ?

les simulations ne se comportent absolument pas "exactement" comme la réalité, si vous pensez ça , c'est quand meme grave ...

Elles ne se comportent pas comme dans la réalité, car ce ne sont jamais des simulations parfaites.

euh .. franchement vos arguments deviennent plus que bizarres ! si je pense que j'ai raison et que vous avez tort, et vice versa, le fait que vous ne soyez pas cohérent est un élément important pour savoir qui est dans le vrai, non ?

Ce n'est pas vis-à-vis de moi que vous devez avoir raison, mais vis-à-vis du principe de CTD. C'est pourtant simple à comprendre.

je répète : c'est incohérent de dire que tous les systèmes sont des ordinateurs, et que tous les systèmes ne sont pas des ordinateurs. C'est vraiment compliqué à admettre que c'est incohérent de dire une chose et son contraire? vous avez besoin de quoi d'autres ?

Et selon quelle règle m'est-il interdit de dire que tous les systèmes sont des ordinateurs, mais que tous les ordinateurs ne peuvent pas simuler n'importe quel ordinateur ? Encore l'une de vos règles arbitraires qui sort de nulle part ?

ne pas faire la démonstration du contraire ne prouve pas que vous avez démontré l'assertion originale ...

On peut dire la même chose du principe de causalité.

si on savait tout calculer, pourquoi a-t-on construit le LHC a votre avis? il suffisait de calculer ce que donnait la collision de 2 protons à 7 TeV (ce qui a priori est beaucoup moins compliqué que simuler un cerveau humain !!)
c'est un peu de l'argent fichu par la fenêtre non ?

À quel moment j'ai dit qu'on savait tout calculer ? J'ai dit qu'un ordinateur pouvait calculer tout ce qui est calculable, c'est tout. Si on ne sait pas lui dire quoi faire, il ne se passera rien. C'est notamment le problème d'une IA forte...

ben par exemple quand on fait une mesure quantique, c'est quel "calcul" qui est effectué ?

Bon j'avoue, vous avez finalement fini par avancer le seul argument que je trouve problématique. Comment simuler le hasard quantique ontologique ? Jiav, avez-vous une opinion sur ce point précis au regard du principe de CTD ?

Pas exactement ce que vous en avez compris quand même ... !!!

Je ne vois pas où est la contradiction, mais bon... savez-vous ce que Church et Turing auraient pensé du principe de CTD ? Moi pas. Peut-être n'y ont-ils tout simplement pas pensé. En revanche, Deustch fait clairement une déduction logique de leurs travaux.

[Archi3]

Tu l'as dit. C'est faux. Pas besoin de crier. Les raisons pourquoi c'est faux sont plus haut. Bonne chance pour retrouver le post.

que ce soit vrai ou faux, je crie parce que ca m'énerve que Clair Esprit me cite en disant le contraire de ce que j'ai dit. Ca explique en grande partie la longueur de la discussion.
Il est facile de retrouver tes réponses à mon post où je dis ça, elles ne sont pas si nombreuses que ça. Manifestement tu as appliqué la tactique "je ne sais pas répondre , donc je ne réponds pas et j'attends que la discussion soit devenue suffisamment longue pour pouvoir prétendre que j'ai répondu mais que ça devient compliqué de retrouver les posts."
Mais bon parcourir une dizaine de page , ça prend au plus une minute.
J'ai présenté ma proposition au #289 , page 10.
Tu as répondu ça au #300

a et b sont en contradiction avec c et d.

sans aucune explication. Je t'ai demandé l'explication au #301, page 11 et tu as daigné en donner un peu plus :

Est-ce vraiment nécessaire? C'est en contradiction presque par simple définition des termes que tu utilises.

a versus c: si la conscience est une propriété attachée à une certaine configuration (proposition a), alors la substance des particules composant cette configuration n'a aucune importance. Ta proposition (a) est donc en contradiction avec ta proposition (c), selon laquelle deux objets matériels différents ne peuvent réaliser la même configuration.

b versus d: si les configurations conscientes sont Turing-calculables (proposition b) alors les messages qu'elles peuvent produire pour communiquer sont nécessairement calculables par un assemblage de métal et de silicium, ce qui est en contradiction avec ta dernière proposition (proposition d).

auquel j'ai répondu au #306 :
[quote]

ah bon, pourquoi ça ? si je te dis que les propriétés de l'eau sont dues à une certaine configuration des atomes (2 H accrochés à un O , qui ne donneront pas les mêmes propriétés que 2H accrochés à 2 O qui donne l'eau oxygénée), toi tu en déduis que la nature des atomes n'a pas d'importance ?
je suis en désaccord avec toi , et ma proposition a) ne veut pas dire ce que tu crois. Il n'y a pas de contradiction.

et...

ben non, puisque je t'ai dit que calculer une structure n'implique pas que tu puisses "communiquer" avec ce calcul. Bien au contraire, c'est incompatible.

Ou alors c'est noyé

en bref , tu as donné UN post d'argument, auquel j'ai répondu que tu te trompais avec des arguments simples et évidents (bien sur que la nature des atomes compte dans ce que produit un système !) et tu n'as pas répondu. C'est ça qui t'a "noyé" ? et tu prétends t"être épuisé dans la discussion avec moi ?

Puisque tu m'interpelles par ailleurs sur la question, "exactement" est possiblement nécessaire ou possiblement inutile à "calculable" dépendant comment on l'interpréte. Pour clarifier: Pi est un nombre calculable, car on peut l'approcher d'aussi près qu'on veut. Si par "calculer Pi" tu veux dire "avoir tous les chiffres", alors exactement est faux (on ne peut pas avoir un nombre infini de chiffres en temps fini). Si par "calculer Pi" tu veux dire "avec exactement la bonne décimale, quelque soit la décimale spécifié en temps fini" alors exactement est tout-à-fait juste. Dans le contexte d'un cerveau (c'est-à-dire d'un système bruité) il faut prendre en compte qu'il y a une limite aux nombres de chiffres significatifs. La version équivalente devient alors "un cerveau est calculable si une machine de Turing peut produire des informations dont il serait impossible de dire si elles viennent du cerveau biologique ou de la machine de Turing". Autrement dit il faut avoir exactement tous les chiffres significatifs, mais pas exactement au point d'inclure des chiffres non significatif.

En passant mon guess actuel serait autour du pétaoctet (i.e. beaucoup moins que la plupart des collègues, incluant moi-même il y a 5 ans), mais je dois avouer que le rapport avec la choucroute me laisse perplexe.

un peta octet te semble suffisant pour simuler exactement le cerveau "exactement" au sens de CTD ???
je suppose que tu veux plutot dire "simuler au sens de Clair Exprit", c'est à dire simuler un truc qui donne l'illusion d'avoir été produit par un cerveau, mais sauf erreur ça n'a rien à voir avec le calcul au sens de CTD. Ca pourrait à la rigueur etre une équivalence algorithmique au sens simple de CT (d'ou l'importance de prétendre que "le cerveau est un ordinateur"), mais certainement pas au sens de CTD.

[Archi3]

Non, je ne comprends toujours strictement rien... vous savez ce qu'est un androïde ? : http://scd.rfi.fr/sites/filesrfi/ima...fia-cnbc_0.jpg

bien sur que je le sais: c'est un etre mythique au même titre que les dragons, la fée Clochette, ou le père Noel. Vous voulez vraiment qu'on discute des capacités physiques du père Noel ?

Qu'est-ce qui vous empêche d'imaginer un corps robotique qui reproduise parfaitement les aptitudes du corps humain ? Honnêtement, je ne comprends pas pourquoi vous butez sur des choses si simples à concevoir... vous pouvez toujours arguer que c'est impossible techniquement, mais on s'en fiche un peu.

comment ça, qu'est ce qui empêche d'imaginer ? absolument rien n'empêche de l'imaginer, je n'ai jamais dit ça ! je n'ai rien contre l'imagination, moi aussi j'aime bien voir Blade Runner ! j'ai juste dit que ce genre d'être n'avait rien à voir avec CTD, puisqu'il ne "calculait " certainement pas exactement un cerveau humain au sens où CTD introduit ce "calcul".

Il s'agit fondamentalement d'une expérience de pensée : on simule parfaitement un cerveau humain que l'on met dans un corps en apparence identique à celui des autres humains. Qu'est-ce qui vous pose problème ?

les androïdes ne "simulent certainement pas parfaitement" un cerveau humain. Un cerveau humain est connecté à un tas d'organes et est sensible à un tas de neuro-transmetteurs que ne possèdent pas les androïdes, comment voulez vous qu'ils le "simulent parfaitement" si ces organes et ces neurotransmetteurs n'existent pas ?

en fait, je crains que depuis le début , vous ne compreniez "simuler parfaitement" par "donner une illusion parfaite de" : mais ce n'est pas du tout ce que dit CTD. Un calcul parfait décrit tous les aspects dans le moindre détail : par exemple il ne faut pas seulement que le programme "parle" comme un humain, mais qu'il décrive aussi exactement la même activité électrique physique à la base de la parole : sinon ce genre d'expérience ne pourrait absolument pas marcher et on saurait si on a affaire à un androïde ou un humain en lui mettant un casque sur la tete ! ca n'a rien donc d'une "simulation parfaite" au sens de Deutsch.

Ah bon ? Si une IA se met à agir comme un humain, au point d'être indistinguable de ce dernier, je n'ai aucun moyen de savoir quand la précision est suffisante ?

réponse juste au dessus. Ca ne peut etre indistinguable "à tous les points de vue" pour un système physique réel. : c'est bien pour ça que j'argumente depuis le début que CTD n'est pas pertinent pour les androïdes réels auxquels vous pensez.

CTD serait pertinent pour un immense calcul de la structure détaillée du cerveau dans tous ces détails, mais ce calcul ne pourrait pas "vivre" dans notre monde, ce ne serait aucunement l'androïde réel que vous imaginez. Ce serait le calcul d'un monde virtuel auquel vous n'auriez aucun accès et aucune manière de communiquer avec lui.

Donc, votre clone parfait n'est pas conscient parce qu'il ne pense pas exactement la même chose que vous ?

non, la phrase juste est : mon clone n'est pas un clone "parfait" si il ne pense pas exactement la même chose que moi

Elles ne se comportent pas comme dans la réalité, car ce ne sont jamais des simulations parfaites.



Ce n'est pas vis-à-vis de moi que vous devez avoir raison, mais vis-à-vis du principe de CTD. C'est pourtant simple à comprendre.

ce qui devrait etre simple à comprendre, c'est que vous parlez de tout bout de champ de CTD pour l'appliquer à des trucs qui n'ont rien à voir !!! CTD ne parle pas de simulations approchées , c'est clair ça ou non ? il n'en parle pas, parce que dire qu'on peut faire des simulations approchées d'un système, ça n'a strictement aucun intérêt théorique et philosophique : tout le monde le sait, qu'on peut le faire, on en fait plein tout le temps et il n'y a absolument pas besoin d'ordinateurs quantiques pour faire ça, la preuve !

Et selon quelle règle m'est-il interdit de dire que tous les systèmes sont des ordinateurs, mais que tous les ordinateurs ne peuvent pas simuler n'importe quel ordinateur ? Encore l'une de vos règles arbitraires qui sort de nulle part ?

je ne vous interdit rien, je voulais juste savoir quelle était votre position, parce qu'elle n'était pas claire.
Donc un nuage ou une paramécie, pour vous, c'est aussi un "ordinateur" ? au sens du Turing simple ?

Je ne vois pas où est la contradiction, mais bon... savez-vous ce que Church et Turing auraient pensé du principe de CTD ? Moi pas. Peut-être n'y ont-ils tout simplement pas pensé. En revanche, Deustch fait clairement une déduction logique de leurs travaux.

absolument pas, mais comme manifestement vous n'avez pas très bien compris la proposition de Deutsch d'après ce que vous avez dit plus haut, je comprends que vous puissiez aussi vous tromper la dessus.

[invite6c250b59]

Bon j'avoue, vous avez finalement fini par avancer le seul argument que je trouve problématique. Comment simuler le hasard quantique ontologique ? Jiav, avez-vous une opinion sur ce point précis au regard du principe de CTD ?

Le statut de la mesure dépend de l'interprétation, mais le point important est qu'il n'a jamais été possible de faire une expérience qui démontre que la réduction du paquet d'onde était réelle (sinon il n'y aurait plus de débat sur la mq, et au passage le CTD serait immédiatement douteux). Cela ne pose pas de problème pour, par exemple, les tenants du many world (pour eux il n'y a jamais de vrai mesure, simplement une superposition de mondes dans lesquels les mesures observées sont différentes, donc c'est normal de ne pas voir de brisures car elles n'existent pas). Cela pose problème pour les tenants d'un effondrement objectif, car il y a des expériences dans lesquelles il n'y a aucune raison qu'on ne soit pas capable de mesurer la réduction, et pourtant tout semble conspirer pour nous empêcher de la mesurer - je pense en particulier aux expériences dites de choix retardée ou on observe que les résultats obéissent à lunitarite même quand le type de mesure est décidée après... le tout est un peu compliquée si tu ne connais pas déjà, mais c'est un petit bijou en soi avec beaucoup de littérature qui mérite un détour.

[Archi3]

Le statut de la mesure dépend de l'interprétation, mais le point important est qu'il n'a jamais été possible de faire une expérience qui démontre que la réduction du paquet d'onde était réelle (sinon il n'y aurait plus de débat sur la mq, et au passage le CTD serait immédiatement douteux). Cela ne pose pas de problème pour, par exemple, les tenants du many world (pour eux il n'y a jamais de vrai mesure, simplement une superposition de mondes dans lesquels les mesures observées sont différentes, donc c'est normal de ne pas voir de brisures car elles n'existent pas).

ça pose juste le problème qu'il n'y a pas de théorie cohérente du many world, et en particulier, pas d'explication claire de ce qu'est "la fonction d'onde initiale" qui se partage (ou parait "collapser" dans une des branches) : car connaitre la fonction d'onde, c'est déjà le résultat d'une mesure préliminaire. Autrement dit, les règles de la mécanique quantique ne font que corréler le résultat de deux mesures : l'initiale qui "prépare" la fonction d'onde", et la finale qui mesure quelque chose sur celle-ci. Mais aucune interprétation de la mécanique quantique n'arrive à définir clairement ce qui est "l'état réel" du monde : tout ce que nous en percevons, c'est la conscience de ce que nous en avons - d'où les interrogations de Penrose sur ce qu'est vraiment la conscience, et les doutes sur ce que c'est exactement que "calculer l'état d'un système" au sens de Deutsch.

Mais comme j'ai dit depuis le début, tout ceci aurait du prendre place dans une discussion spécifique sur le CTD, parce que le problème principal , examplifié par les posts précédents, c'est que quand vous vous mettez à parler d'IA "réelles", à la "Blade Runner", vous parlez de choses qui n'ont plus rien à voir avec le calcul au sens de Deutsch (même Jiav qui l'introduit à tout bout de champ !!).

[invite6c250b59]

tu as donné UN post d'argument, auquel j'ai répondu que tu te trompais avec des arguments simples et évidents (bien sur que la nature des atomes compte dans ce que produit un système !)

Tu as changé ta proposition (a) "seulement la configuration" par une proposition différente "Pas seulement la configuration mais aussi la nature des atomes", et répondu une autre bêtise sur la contradiction b-d. Oui, c'est fatigant d'analyser de bonne foi tes propositions et de constater que tu n'hésites pas à leur faire dire le contraire d'eux posts plus loin. Si tu penses avoir réglé les contradictions, montre tes nouveaux axiomes et on en discutera. Si tu penses toujours qu'il n'y en avait pas, he bien let's agree to disagree.

un peta octet te semble suffisant pour simuler exactement le cerveau "exactement" au sens de CTD ???

Poserais-tu cette question uniquement pour le plaisir de ne pas tenir compte de la réponse? Tu m'as demandé mon estimé. Je t'ai répondu.

[Archi3]

Justement, tiens je pense à un truc :
en théorie, on pourrait imaginer que ce genre de truc se généralise et qu'on soit capable de communiquer et d'interagir juste par lecture de nos ondes cérébrales . On n'aurait meme pas besoin de se parler, suffit de penser un truc à dire à quelqu'un, c'est capté par un casque et traduit en paroles dans une oreillette qu'on porterait en permanence.
Comment ce truc pourrait marcher sur un androïde ? bien sur un androïde pourrait générer une parole qu'on entend par le même processus, mais surement pas par le casque - on saurait donc immédiatement si on a affaire à un androïde ou à un humain. Dans tous les cas, comme je disais plus haut, ça n'a strictement plus rien à voir avec le "calcul exact" dont parle Deutsch.
D'ailleurs Jiav m'amuse avec sa "précision". La précision du calcul, ça n'a de sens que si on veut simuler une structure physique où on voudrait simuler exactement tous les paramètres "matériels" du cerveau (activité électrique, concentrations en neurotransmetteurs, ou que sais-je encore) mais bien sur il faut énormément plus qu'1 Po pour faire ça. Pour ce qui est des "outputs", le cerveau ne produit rien avec une grande précision, donc si vous vous contentez de comparer les "produits finaux" (textes, expressions du visages, ) , ça n'a aucun sens de parler de "précision" de la simulation : on demande juste qu'elle soit "reconnue apparemment" comme humaine, mais on se fiche totalement de la machinerie hyper complexe qu'il y a dessous - et du coup, je repète, ça n'a strictement rien à voir avec le "calcul exact" au sens de Deutsch.

[Archi3]

Tu as changé ta proposition (a) "seulement la configuration" par une proposition différente "Pas seulement la configuration mais aussi la nature des atomes", et répondu une autre bêtise sur la contradiction b-d.

c'est drôle ça : tu n'as pas compris ce que je voulais dire, et quand je t'explique, tu réponds que j'ai changé ? je n'ai pas changé, c'est toi qui ne comprends pas ce qu'est la configuration des atomes ! (qui n'est pas pareil que la configuration d'un ordinateur !)
un petit texte pour t'aider, niveau lycée : http://www.pedagogie.ac-nantes.fr/ph...31.kjsp?RH=PER

Oui, c'est fatigant d'analyser de bonne foi tes propositions et de constater que tu n'hésites pas à leur faire dire le contraire d'eux posts plus loin. Si tu penses avoir réglé les contradictions, montre tes nouveaux axiomes et on en discutera. Si tu penses toujours qu'il n'y en avait pas, he bien let's agree to disagree.

je n'ai pas à les changer, je peux tout au plus te les réexpliquer.

Poserais-tu cette question uniquement pour le plaisir de ne pas tenir compte de la réponse? Tu m'as demandé mon estimé. Je t'ai répondu.

oui et ça m'éclaire beaucoup , merci. Ca prouve que , volontairement ou non, tu entretiens depuis le début une confusion constante entre le calcul d'une structure physique au sens de Deutsch (qui demanderait énormément plus qu'un Po) et un calcul "informatique" au sens de l'IA, qui n'a rien à voir avec la simulation au sens de Deutsch. Confusion entretenue chez quasiment tous les participants de la discussion. J'ai bien fait de poser la question !!

[invite6c250b59]

il n'y a pas de théorie cohérente du many world

Tu devrais préciser que c'est loin d'être une affirmation concensuelle, mais de toute façon le mot clef est "par exemple". On aurait pu prendre Roveli pour dire la même chose, avec le désavantage que son interprétation est moins connue.

[multicroisement et dodo]

[invitec830472d]

ca n'a rien donc d'une "simulation parfaite" au sens de Deutsch.

Vous ne comprenez pas ce que je dis. J'ai dit que le principe de CTD était utile pour savoir si créer une conscience sur un ordinateur était possible en théorie et c'est fondamental. Une fois que l'on sait que c'est possible, on peut s'en éloigner et imaginer d'autres types de scénarios qui ne collent pas parfaitement au principe de CTD.

J'ai pourtant affirmé plusieurs fois que rien ne dit qu'il faille simuler un cerveau humain pour aboutir à une conscience et encore moins que la simulation doit être parfaite.

Parfait n'a de toute façon aucun sens... cela fait uniquement sens si l'on veut recréer une copie totalement identique. Il n'y a pas un modèle unique de cerveau, tous les cerveaux sont différents. En d'autres termes, vous seriez quand même incapable de différencier la simulation des autres cerveaux humains : ce serait un cerveau parmi d'autres. Savoir que ce n'est pas une simulation parfaite ne vous avancera pas à grand-chose.

Ce serait le calcul d'un monde virtuel auquel vous n'auriez aucun accès et aucune manière de communiquer avec lui.

D'où sort cette règle totalement arbitraire ? Si vous contrôlez la simulation, vous y faites ce que vous voulez, un peu à la manière d'un jeu vidéo. Vous pouvez très bien y inclure un avatar pour communiquer avec votre simulation enfermée dans son propre monde.

Ici encore, je ne fais que me répéter.

Donc un nuage ou une paramécie, pour vous, c'est aussi un "ordinateur" ? au sens du Turing simple ?

Ce sont des ordinateurs, mais pas des ordinateurs universels au sens qu'ils ne peuvent pas simuler n'importe quel autre ordinateur. Mais encore une fois, on est dans l'épiphénomène.

absolument pas, mais comme manifestement vous n'avez pas très bien compris la proposition de Deutsch d'après ce que vous avez dit plus haut, je comprends que vous puissiez aussi vous tromper la dessus.

http://rspa.royalsocietypublishing.o...nt/400/1818/97 : It is argued that underlying the Church–Turing hypothesis there is an implicit physical assertion. Here, this assertion is presented explicitly as a physical principle: ‘every finitely realizible physical system can be perfectly simulated by a universal model computing machine operating by finite means’.

[Archi3]

Vous ne comprenez pas ce que je dis. J'ai dit que le principe de CTD était utile pour savoir si créer une conscience sur un ordinateur était possible en théorie et c'est fondamental.

première arnaque intellectuelle : le principe de CTD ne te permet pas de dire cela. Il te dit que tu peux en principe calculer exactement l'évolution d'un cerveau. C'est toi qui es convaincu que cette simulation serait aussi consciente, mais tu n'en as aucune preuve, et CTD ne te le garantit absolument pas.

Une fois que l'on sait que c'est possible, on peut s'en éloigner et imaginer d'autres types de scénarios qui ne collent pas parfaitement au principe de CTD.

oups ! drôle de logique quand meme ! deuxième arnaque intellectuelle : tu commences par affirmer (faussement ) qu'un principe te démontre un truc, et ensuite tu ajoutes que "bah ça doit marcher aussi autrement meme sans ce principe" ! avec un raisonnement aussi "loose", tu peux effectivement démontrer n'importe quoi. Et rajouter ensuite une pincée de méca Q, d'unitarité, d'invariance des lois de la physique, ça peut pas faire de mal ...

Et tu ne comprends toujours pas pourquoi depuis le début je dis que CTD ne permet de démontrer rien de ce genre ?

J'ai pourtant affirmé plusieurs fois que rien ne dit qu'il faille simuler un cerveau humain pour aboutir à une conscience et encore moins que la simulation doit être parfaite.

tu l'as affirmé, tu as le droit de le croire, mais tu n'as pas le droit de dire que c'est grâce à CTD que tu le démontres.

Parfait n'a de toute façon aucun sens... cela fait uniquement sens si l'on veut recréer une copie totalement identique. Il n'y a pas un modèle unique de cerveau, tous les cerveaux sont différents. En d'autres termes, vous seriez quand même incapable de différencier la simulation des autres cerveaux humains : ce serait un cerveau parmi d'autres. Savoir que ce n'est pas une simulation parfaite ne vous avancera pas à grand-chose.

je suis tout à fait d'accord. C'est justement à cause de ça que je dis que CTD n'est d'aucune utilité (et ça fait 14 pages que je le dis ...).

http://rspa.royalsocietypublishing.o...nt/400/1818/97 : It is argued that underlying the Church–Turing hypothesis there is an implicit physical assertion. Here, this assertion is presented explicitly as a physical principle: ‘every finitely realizible physical system can be perfectly simulated by a universal model computing machine operating by finite means’.

je ne vois vraiment pas le rapport avec cette citation et ce que vous avanciez

En revanche, Deustch fait clairement une déduction logique de leurs travaux.

elle dit tous le contraire : CT ont fait une assertion sur les propriétés des algorithmes, et Deutsch a fait une assertion sur le monde physique réel. : il n'y a évidemment aucun moyen de "déduire" la seconde de la première.

[invitec830472d]

première arnaque intellectuelle : le principe de CTD ne te permet pas de dire cela. Il te dit que tu peux en principe calculer exactement l'évolution d'un cerveau. C'est toi qui es convaincu que cette simulation serait aussi consciente, mais tu n'en as aucune preuve, et CTD ne te le garantit absolument pas.

Sauf à considérer que la conscience est hors du monde physique, je ne comprends pas ce que vous voulez dire. De toute façon, vous n'avez aucune preuve que les autres humains sont conscients. On peut jouer longtemps à ce petit jeu.

tu l'as affirmé, tu as le droit de le croire, mais tu n'as pas le droit de dire que c'est grâce à CTD que tu le démontres.

Et vous parlez de logique hasardeuse ? Ce n'est pas vous qui disiez que la conscience était dépendante du support ? Le principe de CTD montre justement que ce n'est pas le cas. Ma position est tout à fait logique.

je ne vois vraiment pas le rapport avec cette citation et ce que vous avanciez

Deutsch dit qu'il y a une affirmation physique implicite dans les travaux de Church et Turing. Il ne fait que la dévoiler. C'est une simple déduction.

[invitec830472d]

Le statut de la mesure dépend de l'interprétation, mais le point important est qu'il n'a jamais été possible de faire une expérience qui démontre que la réduction du paquet d'onde était réelle (sinon il n'y aurait plus de débat sur la mq, et au passage le CTD serait immédiatement douteux). Cela ne pose pas de problème pour, par exemple, les tenants du many world (pour eux il n'y a jamais de vrai mesure, simplement une superposition de mondes dans lesquels les mesures observées sont différentes, donc c'est normal de ne pas voir de brisures car elles n'existent pas). Cela pose problème pour les tenants d'un effondrement objectif, car il y a des expériences dans lesquelles il n'y a aucune raison qu'on ne soit pas capable de mesurer la réduction, et pourtant tout semble conspirer pour nous empêcher de la mesurer - je pense en particulier aux expériences dites de choix retardée ou on observe que les résultats obéissent à lunitarite même quand le type de mesure est décidée après... le tout est un peu compliquée si tu ne connais pas déjà, mais c'est un petit bijou en soi avec beaucoup de littérature qui mérite un détour.

Pour résumer, cela revient à dire que le vrai hasard n'existe pas ?

[mh34]

bon, il se fait tard, et c'est long, long, long....

Pi surtout c'est passé au second plan...

PS: une IA 'alien' non communicable, ça craint!
Soit ça tourne en rond dans le vide du discours, soit ça prend le pouvoir, et alors, moi, je me barre vite fait -ou si impossible, je me flingue dès que ça tourne mal!

On sera plusieurs je crois...
Mais on a le temps de voir venir.

[Bounoume]

C'est toujours HS, mais allons-y!

Tout au long du fil, on parle d'Information. Qui peut me contredire?

Si personne ne peut "me jeter la première pierre" pour me condamner, je continue:

cette 'information' qu'on parle de créer, elle a un 'poids' énorme, en nombre de bits, octets, MO, etc.......
Or je crois avoir déjà lu que les physiciens affirment une correspondance entre Information et Energie: chaque élément d'information contiendrait une part (infime.....) d'énergie.....
Si cela est admis, alors quelle énergie faudrait-il pour faire les 'simulations parfaites' dont on parle au regard du principe de CTD?

[est-ce raisonnable?]
Exiger une 'simulation parfaite', et même en discuter, est-ce raisonnable au regard de ça?



Deuxio: réel et réalité
La distinction: même Lacan fait la distinction entre ce qui 'existe' indépendamment du 'je' .... et est définitivement inatteignable (et même pas fractionnable en sous-ensembles distincts, selon ma pomme)... c'est LE réel
et la 'réalité"n qui est CE QUE 'je' perçois avec mes moyens d'investigation, à travers mon vécu -et mon intelligence, et ce dont j'ai hérite de mes frères humains ... ceci éventuellement, bien sûr )

Simuler la 'réalité', c'est seulement simuler ....... ce que je perçois [ce que les autres perçoivent aussi, par le principe de l'intersubjectivité partagée ]
ça me semble tourner en rond........

[Archi3]

Sauf à considérer que la conscience est hors du monde physique, je ne comprends pas ce que vous voulez dire.

moi non plus je ne comprends pas ce que vous voulez dire. Que veut dire "la conscience est hors du monde physique" ? d'une part je n'ai jamais prétendu une chose pareille, d'autre part je ne comprends même pas ce que cela voudrait dire. Encore une fois la conversation durerait moins longtemps si vous vous contentiez de répondre à ce que je dis au lieu d'inventer des positions de ma part que je n'ai jamais dite.
J'ai présenté une position dans le détail où
a) la conscience est un phénomène du monde physique ("émergent")
b) elle n'est pas de nature algorithmique.
Contrairement à ce que vous avez l'air de prétendre, on peut tout à fait penser cela sans violer aucun principe - y compris CTD.

Et vous parlez de logique hasardeuse ? Ce n'est pas vous qui disiez que la conscience était dépendante du support ? Le principe de CTD montre justement que ce n'est pas le cas. Ma position est tout à fait logique.

grand portenawak, je ne vais pas continuer à discuter longtemps comme ça. Ou voyez vous que le principe CTD dit quelque chose de la conscience? la conscience n'est nulle part mentionnée dans ce principe, je ne vois vraiment pas comment vous pouvez affirmer une chose pareille !!!
par ailleurs vous vous contredisez pleinement puisque vous affirmez à coté qu'une IA simulant le cerveau n'aurait "évidemment" pas la même conscience qu'un être humain - ça prouve bien justement que ça dépend du support.

Deutsch dit qu'il y a une affirmation physique implicite dans les travaux de Church et Turing. Il ne fait que la dévoiler. C'est une simple déduction.

ce n'est pas du tout une "déduction" , c'est une assertion sur une extension , qui n'est pas partagée par d'autres. Il dit d'ailleurs explicitement que son programme ne peut pas être réalisée par une machine de Turing ordinaire, ça ne peut donc pas etre une "déduction". Si c'était une "déduction", ce ne serait pas un autre principe, encore une fois.

[Paradigm]

Simuler la 'réalité', c'est seulement simuler ....... ce que je perçois [ce que les autres perçoivent aussi, par le principe de l'intersubjectivité partagée ]
ça me semble tourner en rond........

Même pire que cela. Via nos interactions nous avons accès qu'a une "phénoménologie physique" que nous modélisons par des théories. Et les simulations ne portent que sur nos théories/modèles (la carte et non le territoire). Il est bien connu que ceci n'est pas une pipe.

Cordialement

[Archi3]

Pi surtout c'est passé au second plan...


On sera plusieurs je crois...
Mais on a le temps de voir venir.

Pour ceux qui sont un peu submergés par les 14 pages, et qui ne comprennent plus trop où on en est et de quoi on discute, je me permets de tenter un résumé pour savoir si on est au moins tous "d'accord sur nos désaccords" , c'est à dire essayer de résumer les positions de chacun sur des questions (qui sont quand meme très fondamentales et pas du pinaillage de détail , à la base).

Premier point : la validité du principe CTD (qui devrait plutot etre appelé principe de Deutsch à mon avis), c'est à dire que tout système physique fini est en principe calculable par un "super-ordinateur" (quantique?).
Topix, Jiav, Clair Esprit : le principe est certainement vrai
Archi3 : n'en sait rien , il est tout à fait possible qu'il soit faux (et les "trous" dans la physique actuelle sont suffisamment importants pour qu'il soit permis d'en douter).

Deuxième point : admettons le principe CTD: est ce qu'il prouve automatiquement que la conscience est un phénomène lié à un algorithme, c'est à dire en particulier que SI on pouvait réaliser une simulation exacte du cerveau comme un système physique, est ce que cette simulation serait "consciente" comme le cerveau ?

Topix, Jiav, Clair Esprit : bah oui bien sur et évidemment !!! (pas vu de message expliquant pourquoi, juste des répétitions en boucle ...)

Archi 3 : euh .. ben non, je ne vois pas du tout en quoi CTD l'assure. C'est pas parce qu'on admet qu'on peut calculer le cerveau, que ça veut dire automatiquement que ce calcul ait lui même une conscience ! voir message #360 en particulier pour quelques objections pratiques à cette idée.

Ttroisème point : admettons quand meme le 2e point et qu'une simulation calculant le cerveau serait consciente. Est ce que ça assure qu'on peut faire une IA concrètement sur cette idée ?

Topix, Jiav, Clair Esprit : bah oui bien sur et évidemment !!! si on peut simuler exactement le cerveau, alors on peut faire aussi n'importe quel système qui fasse quelque chose de ressemblant, et même si c'est pas du tout une simulation de cerveau humain, ça pensera pareil, c'est évident non ? donc le principe CTD permet d'assurer qu'on peut faire des robots pensant.

Archi 3 : euh .. ben non, et encore non. Je ne vois pas du tout quelle logique permet de passer de propriétés supposées pour la simulation exacte d'un vrai cerveau qui reproduise tout dans les moindres détails (ce qui demanderait une somme pharamineuse de calculs absolument impossible à réaliser matériellement avec les ordinateurs actuels) à des propriétés pour des systèmes qui n'auraient rien à voir avec cette simulation exacte - ce qui est le fait des IA réelles qui sont construites actuellement. Donc le principe CTD n'a de toutes façons aucune pertinence pour la construction d'IA "réelles" comme on essaie de le faire actuellement.

pour résumer les deux positions au final :

position a) : le principe CTD est incontestable, et il est hyper cool car il nous assure qu'on va bientôt avoir des robots avec qui on va pouvoir faire plein de trucs interessant et causer avec eux comme dans Star wars

position b) : le principe CTD est douteux, et il n'est de toutes façons d'aucune utilité pour déduire quoi que ce soit sur la possibilité de faire des IA fortes (dont il est plus que douteux par ailleurs qu'elles existent un jour).

[Paradigm]

On peut déjà commencer par cela

Premier point : la validité du principe CTD (qui devrait plutot etre appelé principe de Deutsch à mon avis), c'est à dire que tout système physique fini est en principe calculable par un "super-ordinateur" (quantique?).
Topix, Jiav, Clair Esprit : le principe est certainement vrai
Archi3 : n'en sait rien , il est tout à fait possible qu'il soit faux (et les "trous" dans la physique actuelle sont suffisamment importants pour qu'il soit permis d'en douter).

Que signifie un système physique fini calculable (4 concepts) ? C'est quoi qui est calculable la modélisation que nous en faisons ?

Cordialement,

[Paradigm]

Bonjour,

Second point qu'en pense Bounoume du détournement d'autorité de son fil pour traiter de la validité ou non du principe CTD ?

Cordialement

[ClairEsprit]

Premier point : la validité du principe CTD (qui devrait plutot etre appelé principe de Deutsch à mon avis), c'est à dire que tout système physique fini est en principe calculable par un "super-ordinateur" (quantique?).
../... Clair Esprit : le principe est certainement vrai

Ok

Deuxième point : admettons le principe CTD: est ce qu'il prouve automatiquement que la conscience est un phénomène lié à un algorithme, c'est à dire en particulier que SI on pouvait réaliser une simulation exacte du cerveau comme un système physique, est ce que cette simulation serait "consciente" comme le cerveau ?

../... Clair Esprit : bah oui bien sur et évidemment !!!

Non, il aurait une simulation de conscience. Mais en tout point identique à la conscience "réelle". Dans le sens où si lorsque la conscience "réelle" s'exprime, elle aurait des conséquences nécessaires sur le fonctionnement de l'intelligence "réelle" (ce que je ne dis pas), il en serait exactement de même pour la conscience simulée. Je mets "réelle" entre guillemets car dans la mesure où la conscience n'a pas besoin de matière pour exister en tant que telle (elle n'a besoin de matière que pour émerger), ça ne devient que de l'information, en tout point identique à celle qui est simulée, donc discuter du statut plus ontologique de l'une par rapport à l'autre devient scabreux.

Ttroisème point : admettons quand meme le 2e point et qu'une simulation calculant le cerveau serait consciente. Est ce que ça assure qu'on peut faire une IA concrètement sur cette idée ?

.../... Clair Esprit : bah oui bien sur et évidemment !!! si on peut simuler exactement le cerveau, alors on peut faire aussi n'importe quel système qui fasse quelque chose de ressemblant, et même si c'est pas du tout une simulation de cerveau humain, ça pensera pareil, c'est évident non ? donc le principe CTD permet d'assurer qu'on peut faire des robots pensant.

Non, je n'ai jamais rien dit de tel, je n'ai jamais associé IA à pensée. Votre troisième point est bancal, en plus, tel qu'énoncé. Et peut importe CTD. On peut faire une IA sans. On se moque de savoir si elle pense (enfin, ça ne coûte rien de vérifier, au cas où il faudrait lui donner des droits...)

[invite51d17075]

effectivement, concernant ce premier point :

tout système physique fini est en principe calculable......

devrait être libéllé :

tout système physique fini et entièrement modélisé est en principe calculable.

Et qui ne serait donc qu'une assertion théorique, sans preuve de validité pratique.
On peut déjà voir ce qui poserait déjà un simple pb de combinatoire dès lors que des process chaotiques entrent en jeu.
Donc même dans un cas classique ( hors Phys Q ).
Alors, si on y ajoute la phys Q ?

Et dans ce prolongement, il est clair que la modélisation "parfaite" supposée atteignable ici dépend bien évidement du support, et même plus généralement de toutes les substances qui interviennent dans les processus, en sus d'une compréhension totale de l'ensemble des phénomènes.
cela ressemble donc à un début de conte :" si ma tante......."

Le seul point sur lequel je suis plus prudent qu'Archi concerne la faisabilité d'une IA forte.
J'avoue que je n'en sais rien, ( à terme indéfini ) mais je ne vois aucune raison pour qu'elle soit "humain like".

[Paradigm]

devrait être libéllé :
[LEFT][COLOR=#333333][I]tout système physique fini et entièrement modélisé est en principe calculable.

Merci pour la réponse.

C'est quoi qui est fini la "phénoménologie physique" (système = phénoménologie ?) ou sa modélisation exprimée dans un formalisme mathématique ou le concept de fini est clairement défini ?

Cordialement,

[mh34]

cette 'information' qu'on parle de créer, elle a un 'poids' énorme, en nombre de bits, octets, MO, etc.......
Or je crois avoir déjà lu que les physiciens affirment une correspondance entre Information et Energie: chaque élément d'information contiendrait une part (infime.....) d'énergie.....
Si cela est admis, alors quelle énergie faudrait-il pour faire les 'simulations parfaites' dont on parle au regard du principe de CTD?

[est-ce raisonnable?]
Exiger une 'simulation parfaite', et même en discuter, est-ce raisonnable au regard de ça?

Pour le HBP, je me souviens avoir lu dans un article de La Recherche que ça nécessite la même quantité d'électricité que pour alimenter une petite ville ( 15000 habitants il me semble) ..pas réussi à trouver le chiffre sur leur site en tout cas.
https://www.humanbrainproject.eu/en/

Pour ceux qui sont un peu submergés par les 14 pages, et qui ne comprennent plus trop où on en est et de quoi on discute, je me permets de tenter un résumé pour savoir si on est au moins tous "d'accord sur nos désaccords" , c'est à dire essayer de résumer les positions de chacun sur des questions (qui sont quand meme très fondamentales et pas du pinaillage de détail , à la base).

Merci pour cette tentative de résumé!
Ici :

les "trous" dans la physique actuelle sont suffisamment importants pour qu'il soit permis d'en douter.

A quoi fais-tu allusion?

[Archi3]

j'avoue que j'avais manqué ce point dans l'argumentation de ClairEsprit

Non, il aurait une simulation de conscience. Mais en tout point identique à la conscience "réelle". Dans le sens où si lorsque la conscience "réelle" s'exprime, elle aurait des conséquences nécessaires sur le fonctionnement de l'intelligence "réelle" (ce que je ne dis pas), il en serait exactement de même pour la conscience simulée. Je mets "réelle" entre guillemets car dans la mesure où la conscience n'a pas besoin de matière pour exister en tant que telle (elle n'a besoin de matière que pour émerger)...

là franchement je n'avais pas compris ça dans votre position. Donc selon vous " une simulation de conscience... en tout point identique à la conscience "réelle"" ne serait pas une conscience, et "la conscience n'a pas besoin de matière pour exister" ? voilà qui semble donner à la "vraie" conscience le statut de substance magique se "rajoutant" à la matière non ?

Non, je n'ai jamais rien dit de tel, je n'ai jamais associé IA à pensée. Votre troisième point est bancal, en plus, tel qu'énoncé. Et peut importe CTD. On peut faire une IA sans. On se moque de savoir si elle pense (enfin, ça ne coûte rien de vérifier, au cas où il faudrait lui donner des droits...)

donc vous pensez qu'une IA pourrait se comporter en tout point comme un être pensant , sans néanmoins penser ?
c'est l'hypothèse du zombie de Chalmers, mais elle est tout à fait discutable ...

[invite6c250b59]

Pour résumer, cela revient à dire que le vrai hasard n'existe pas ?

C'est une façon de le voir [je suppose que tu parles des interprétations sans réduction objectives]. Une autre formulation est que le hasard est, dans ces inerprétations, relatif au statut d'observateur: un observateur O1 qui mesure haut versus bas (ou droite versus gauche) percevra que le résultat est complêtement au hasard, mais sur le plan théorique un autre observateur O2 pourrait mesurer que O1 est dans une superposition de (haut ou gauche) versus (bas ou droite), et ce même après que O1 ai perçu le résultat "irréversible pour lui" de sa mesure. [actuellement c'est une expérience de pensée faute de savoir mettre en superposition un observateur même mécanique].

cette 'information' qu'on parle de créer, elle a un 'poids' énorme, en nombre de bits, octets, MO, etc.......
Or je crois avoir déjà lu que les physiciens affirment une correspondance entre Information et Energie: chaque élément d'information contiendrait une part (infime.....) d'énergie.....
Si cela est admis, alors quelle énergie faudrait-il pour faire les 'simulations parfaites' dont on parle au regard du principe de CTD?

Le coût minimum va te surprendre: zéro. La raison est que tout calcul peut être conduit (en théorie...) de manière réversible, et un calcul réversible c'est un calcul qui ne coûte rien en énergie. Ce qui coûte de l'énergie, c'est la mesure (plus exactement, l'effacement irréversible d'information associé à une mesure). Mais encore là, le coût minimum pour effacer/écrire l'ensemble des informations d'un cerveau toutes les millisecondes est complêtement pouillémique par rapport à ce que la technique actuelle permet.

Deuxio

Il n'y a pas de deuxioème question.

[invite51d17075]

Mais encore là, le coût minimum pour effacer/écrire l'ensemble des informations d'un cerveau toutes les millisecondes est complêtement pouillémique par rapport à ce que la technique actuelle permet.

j'ignorai qu'on avait déjà qualifié et quantifié l'ensemble dont tu parles.
aurais tu des références instructives à ce sujet ?

[mh34]

Le coût minimum va te surprendre: zéro. La raison est que tout calcul peut être conduit (en théorie...) de manière réversible, et un calcul réversible c'est un calcul qui ne coûte rien en énergie. Ce qui coûte de l'énergie, c'est la mesure (plus exactement, l'effacement irréversible d'information associé à une mesure). Mais encore là, le coût minimum pour effacer/écrire l'ensemble des informations d'un cerveau toutes les millisecondes est complêtement pouillémique par rapport à ce que la technique actuelle permet.

Pardon? Pour faire tourner une simulation sur un ordinateur c'est zero dépense d'énergie? C'est ça, sa question à Bounoume...ne me dis pas que tu ne l'as pas comprise. Sinon tu expliques comment que HBP soit si gourmand? On l'a précisément, là, la tentative de simulation.

[pm42]

Pardon? Pour faire tourner une simulation sur un ordinateur c'est zero dépense d'énergie?

Oui. Théoriquement, on peut faire des calculs sans consommer d'énergie : https://en.wikipedia.org/wiki/Reversible_computing

En pratique et avec les technos actuelles, c'est bien sur à nuancer.