Un "ordinateur pensant" serait-il doué de libre arbitre ?

[GillesH38a]

C'est une très bonne formulation de choses qui moi aussi me surprennent, au point que je pensais à un moment que tu (Gilles) étais substancialiste. J'attends ta réponse avec impatience

Mmy et Jiav, si vous pensez que je dis que la conscience ne pouvait etre causée que par le biologique, je me suis vraiment mal fait comprendre!

je dis juste que, amha, les objets mentaux manipulés par la conscience s'appuient sur la nature physique du système qui la produit, et donc que si une machine non biologique etait consciente, nous n'en saurions rien (et apres tout les ordinateurs le sont peut etre, mais nous n'avons aucuun moyen de le savoir!).

La seule façon de s'assurer qu'elle est consciente, c'est de parler avec elle (test de Turing) mais je pense que ce test ne PEUT pas être passé avec succès par une machine ne possédant pas un substrat corporel humain, pas plus que nous ne pourrions communiquer dans le monde des ordinateurs actuels si leur fonctionnement les dotait d'une conscience, par nature différente de la notre (vu que nous n'avons aucun moyen de savoir en quoi consiste cette conscience si elle nous est étrangère).

Je reprends la comparaison avec l'interfécondité des espèces : dire qu'un homme et une mouche ne peuvent pas avoir d'enfant en commun ne privilégie ni l'homme, ni la mouche : il assigne a chacun un domaine spécifique, c'est tout.
-----

[invité576543]

Bonsoir,

je dis juste que, amha, les objets mentaux manipulés par la conscience s'appuient sur la nature physique du système qui la produit, et donc que si une machine non biologique etait consciente, nous n'en saurions rien (et apres tout les ordinateurs le sont peut etre, mais nous n'avons aucuun moyen de le savoir!).

Là-dessus, je suis d'accord, mais pour une autre raison: en fait, nous n'avons pas de définition claire du mot "être conscient". Pour l'instant, le problème de bien le définir ne se pose pas en pratique, car il est facile de prendre une définition excluant tout ce que l'on connaît sauf nous. (Le poser en théorie, c'est plus rigolo, c'est un jeu qui à l'air de passionner plein de gens, en particulier sur ce forum, et ça peut occuper pas mal de temps, faute d'application pratique...) Quand ce sera plus difficile de trouver une belle limite nous réservant l'honneur du mot "conscience", on adoptera la signification qui va bien, et le tour est joué.

La seule façon de s'assurer qu'elle est consciente, c'est de parler avec elle (test de Turing) mais je pense que ce test ne PEUT pas être passé avec succès par une machine ne possédant pas un substrat corporel humain

Le test de Turing consiste à ne pas savoir distinguer humain/testé. J'ai déjà dit que cela me semblait évident qu'il ne sera jamais passé. Mais ce n'est pas un test de "conscience". La question est de savoir si on arrivera un jour à discuter avec une machine (ou autre chose, un dauphin, un ET), et qu'on se sentira obligé de le ou la considérer sur un pied d'égalité intellectuelle via cette discussion. C'est cela le vrai test; par exemple quand les gens viendront demander son avis à la machine, ou tout autre action que l'on fait avec quelqu'un qu'on estime intelligent. Qu'on appelle ça conscient ou pas, on s'en fiche (enfin, moi, je m'en fiche), c'est un conflit de terminologie.

Une telle communication sera évidemment limitée par une expérience différente, lié à à un substrat corporel et des sens différents (comme discuter couleur avec un daltonien), mais je ne vois pas pourquoi ce serait une raison suffisante pour qu'on admette pas l'intelligence (pas plus que dans le cas des daltoniens...).

, pas plus que nous ne pourrions communiquer dans le monde des ordinateurs actuels si leur fonctionnement les dotait d'une conscience, par nature différente de la notre (vu que nous n'avons aucun moyen de savoir en quoi consiste cette conscience si elle nous est étrangère).

Tu prends toujours les ordinateurs actuels. Ils ne sont pas représentatifs du problème. Point.

Un meilleur exemple serait les dauphins. Ils existent, eux. Pour l'instant, effectivement, nous n'arrivons pas à communiquer avec eux suffisamment pour les "placer" du point de vue intellectuel. Soit parce que leur intelligence est insuffisante, soit parce qu'il nous manque, de part et d'autre, les clés du langage de l'autre. La différence sensorielle est importante, le sonar leur donnant une perception du monde distincte. Considères-tu qu'il nous sera à jamais impossible de discuter avec eux même si on accepte par hypothèse qu'ils sont "conscients"?

Ta façon d'aborder les choses semble que ta réponse est oui, c'est impossible. Si ta réponse, est non, alors il faudra raffiner et expliquer quelle est la limite, et pourquoi toute machine serait au-delà de la limite.

Cordialement,

Michel

[GillesH38a]

Un meilleur exemple serait les dauphins. Ils existent, eux. Pour l'instant, effectivement, nous n'arrivons pas à communiquer avec eux suffisamment pour les "placer" du point de vue intellectuel. Soit parce que leur intelligence est insuffisante, soit parce qu'il nous manque, de part et d'autre, les clés du langage de l'autre. La différence sensorielle est importante, le sonar leur donnant une perception du monde distincte. Considères-tu qu'il nous sera à jamais impossible de discuter avec eux même si on accepte par hypothèse qu'ils sont "conscients"?

Bonsoir Mmy

comme ce sont des mammifères, nous avons en fait beaucoup de points communs avec eux; si ils ont une intelligence analogue, nous pourrions trouver des mots communs (ou comprendre ce qu'ils utilisent )pour des notions comme "faim", "enfant", "parent", "chaud","froid' etc... en fait l'essentiel du biologique nous est commun, et on peut comprendre qu'ils aient des mots spéciaux pour leur sonar, comme les esquimaux ont des mots pour la neige que nous n'avons pas.

donc je pense effectivement que leur nature physique est suffisamment proche de la notre pour que nos intelligences permette d'échanger du langage (sous réserve qu'ils aient développé un cerveau assez complexe).

personnellement d'ailleurs j'échange plus de choses avec mon chat qu'avec un ordinateur, bien qu'il fasse des choses beaucoup moins difficile .

Cordialement

Gilles

[invité576543]

Bonsoir Mmy

comme ce sont des mammifères, nous avons en fait beaucoup de points communs avec eux; si ils ont une intelligence analogue, nous pourrions trouver des mots communs (ou comprendre ce qu'ils utilisent )pour des notions comme "faim", "enfant", "parent", "chaud","froid' etc... en fait l'essentiel du biologique nous est commun, et on peut comprendre qu'ils aient des mots spéciaux pour leur sonar, comme les esquimaux ont des mots pour la neige que nous n'avons pas.

Cela renforce l'impression que tu considères qu'on ne peut communiquer qu'avec le biologique. La différence de sensoriel n'est alors pas un obstacle. Imagine un dauphin aveugle, et qui représente le monde uniquement en terme d'ondes sonores (ce qui est suffisant, via le sonar, pour se faire un panorama 3D de l'environnement, dans lequel la notion de couleur n'a pas sa place, où beaucoup de surfaces sont transparentes (dont la peau, les étoffes donc les vêtements) et ont des propriètés qui nous sont étrangères, comme l'indice de réfraction sonore), etc. Et bien, comme il sait ce qu'est la faim, un enfant, chaud et froid, on pourra discuter avec lui des couleurs d'un Picasso, ou de comment on reconnaît un requin affamé ou non selon le "schtroumf" plus ou moins "sblik" de son estomac.

Par contre, une machine équipée d'un thermomètre ne pourra jamais discuter de chaud et de froid, et malgré toutes ses lectures des romans humains, et de ses observations sur ce que font les humains, eh bien, elle n'a jamais compris ce quie veut dire "enfant" ou "parent".

Clair, non?

Cordialement,

[invited494020f]

Bonjour, je tombe comme un cheveu sur la soupe à la 455ème reprise du combat. Apparemment tout bute dans la définition de "conscience". Pour l'illustrer, vous comparez la compréhension homme-machine à celle de homme-dauphin. Vous concluez apparemment en attribuant au dauphin l'attribut de la conscience, sans recourir au test de Turing.
Je propose un autre test: On pourrait décider qu'une machine est consciente de sa propre existence si elle savait vous proposer un jeu de sa propre invention.
Ceci m'est arrivé de la part d'un animal, plusieurs fois par des chiens et une fois par un … dauphin.
Les chiens ont, pour proposer un jeu, une attitude caractéristique: ils jettent les pattes avant en avant, un peu écartées, en tapant sur le sol, en abaissant la tête et les épaules et en agitant la queue. Un chien du nom de Lobo invitait tous les gens sur une plage au jeu suivant: il posait un objet (généralement une savate) sur le sable, env. 2 m devant un baigneur couché ou assis. Il s'éloignait à 2 m de l'autre côté et se mettait dans la position "invite au jeu". Le baigneur devait se mettre en position de bondir et s'emparer de la savate avant Lobo. On avait le droit de ruser, partir latéralement et bondir par surprise. Finalement le jeu était assez technique. Il se poursuivait une bonne partie de la journée, jusqu'à épuisement du dernier "client".
Avec le dauphin (un "messager" qui visitait le port de Collioure), j'ai joué pendant une bonne demi-heure: il passait entre mes jambes et il fallait que j'attrape sa nageoire pour faire quelques mètres avant qu'il plonge. Au début, je croyais que c'était arrivé par hasard, mais devant son insistance de répéter la même chose, j'ai compris que c'était délibéré. Sur le ponton, la "claque" manifestait bruyamment.
J'ai peut-être tort, mais je pense qu'inventer et proposer un jeu de façon insistante est un signe de conscience non seulement de soi-même, mais aussi de ses rapports avec les autres. Qu'en pensez vous?

[invite06fcc10b]

Et bien, comme il sait ce qu'est la faim, un enfant, chaud et froid, on pourra discuter avec lui des couleurs d'un Picasso, ou de comment on reconnaît un requin affamé ou non selon le "schtroumf" plus ou moins "sblik" de son estomac.

Je ne comprends pas le problème. Un être intelligent est capable de comprendre ce que signifie la faim d'un animal ou ce que signifie la beauté (toute subjective) d'un tableau de Picasso ... même s'il n'a jamais faim et s'il n'a pas d'yeux. Evidemment, il ne pourra pas ressentir la faim et ne pourra pas ressentir d'émotions devant un tableau, mais l'important est la compréhension des concepts, pas ce que l'on ressent.
Imaginons qu'il existe des extra-terrestres sur la planète Lambda qui ont un sonar comme les chauves-souris et qui ressentent ce qu'ils appellent le zorglub dans certaines configurations perceptives.
Les êtres humains peuvent-ils ressentir le zorglub ? Non, bien sûr. Peuvent-ils parvenir à comprendre à quoi cela correspond ?
Si on communique avec les E.T., ils doivent pouvoir nous l'expliquer en utilisant des concepts dont la définition n'est pas subjective.
Et si on a du mal à communiquer, on peut observer ce qui se passe dans leur cerveau et leur comportement et comprendre petit à petit les liens physico-chimiques qui soustendent les configurations correspondant au zorglub. Après une analyse mathématique, psycho-physiologique, sociologique et culturelle approfondie, on peut se faire une idée de ce qu'est le zorglub d'un point de vue purement objectif. Notre compréhension de ce phénomène nous permettra finalement de saisir le sens de toutes les "phrases" de ces E.T. faisant allusion au zorglub, alors même que nous sommes incapables de le ressentir.
En vérité, en anthropologie et ethnologie, les études sur la signification de certaines danses ou rituels posent des problèmes similaires. On ne peut se mettre à leur place, mais on peut tout de même comprendre, à force de les étudier, le pourquoi, le comment et l'impact de ces spécificités culturelles.

[invitea20bed5c]

comme je l'ai dit, j'ai ma propre opinion sur le sujet, ce qui m'intéresse c'est celle des autres

Bonjour Gilles,

voici donc mon avis : la "réalité" étant totalement déterminée par des lois physiques, le libre arbitre et la liberté n'existe pas. Ma réponse à ta question est donc "non".
(à mon avis les effets qui paraissent non-déterministes sont dus à l'étude d'un système incomplet car tous les éléments de l'univers sont reliés entre eux)

Peut-être cet avis a t'il été déjà évoqué dans la discussion, je ne peux malheureusement pas tout lire.

Gilles

[invité576543]

Je ne comprends pas le problème.

Bonjour,

Faudra que je mette une balise [ironie] quand nécessaire...

Cordialement,

[invité576543]

Bonjour Gilles,

voici donc mon avis : la "réalité" étant totalement déterminée par des lois physiques, le libre arbitre et la liberté n'existe pas. Ma réponse à ta question est donc "non".
(à mon avis les effets qui paraissent non-déterministes sont dus à l'étude d'un système incomplet car tous les éléments de l'univers sont reliés entre eux)

Peut-être cet avis a t'il été déjà évoqué dans la discussion, je ne peux malheureusement pas tout lire.

J'ai esxprimé un avis similaire, en répondant, "'si on sait définir le libre-arbitre de manière à ce que ce soit attribuable à l'humain, alors la réponse est oui". Parfaitement comptible logiquement avec le tien, mais pas équivalent.

Cà évite le débat (à mon sens stérile) sur déterminisme, liberté et libre-arbitre. Et la question devient, "en admettant que le libre-arbitre existe, ...". Quel est ta réponse alors?

Cordialement,

[invitea20bed5c]

J'ai esxprimé un avis similaire, en répondant, "'si on sait définir le libre-arbitre de manière à ce que ce soit attribuable à l'humain, alors la réponse est oui". Parfaitement comptible logiquement avec le tien, mais pas équivalent.

Cà évite le débat (à mon sens stérile) sur déterminisme, liberté et libre-arbitre. Et la question devient, "en admettant que le libre-arbitre existe, ...". Quel est ta réponse alors?

Cordialement,

En effet ce débat est stérile.

Par contre je pense qu'il serait intéressant de savoir si oui ou non les éléments constitutifs de l'univers sont tous liés entre eux.
La discussion que j'avais ouverte à ce sujet n'a pas déchaîné les foules, pourtant personne n'avait émis un avis contraire.

"en admettant que le libre arbitre existe,..." alors il faut se mettre d'accord sur ce que c'est précisément, ainsi que la pensée (donc la conscience), ce vers quoi la discussion semble s'être dirigée.
Sur ces points je n'ai pas vraiment d'avis tranché.

[GillesH38a]

J'ai esxprimé un avis similaire, en répondant, "'si on sait définir le libre-arbitre de manière à ce que ce soit attribuable à l'humain, alors la réponse est oui". Parfaitement comptible logiquement avec le tien, mais pas équivalent.

Cà évite le débat (à mon sens stérile) sur déterminisme, liberté et libre-arbitre. Et la question devient, "en admettant que le libre-arbitre existe, ...". Quel est ta réponse alors?

Cordialement,

Merci Gilles, on s'est effectivement écarté de la question initiale, qui n'était pas : "peut-on créer une machine consciente?" mais qui posait la question du libre arbitre en liaison avec l'hypothèse computationaliste ("comp" de Marchal") : équivalence du cerveau avec une machine de Turing.

Si "comp" est vraie, on peut évidemment en principe construire une machine pensante déterministe : celle qui exécute l'algorithme correspondant. Ma question initiale était ; selon vous, une machine exécutant un tel algorithme serait-elle douée d'un libre arbitre? (ce qui voudrait dire que la notion de libre arbitre peut s'appliquer des algorithmes parfaitement déterministes).

[GillesH38a]

Je précise parce que du coup ca a refroidi le débat.
Au cours de différents débats ici, j'ai eu l'impression d'etre minoritaire sur deux points essentiels :

I) l'hypothèse comp :la possibilité au moins formelle de trouver un algorithme dont l'éxécution par n'importe quelle machine de Turing fournirait la conscience d'un cerveau humain.

II) l'existence d'un comportement "libre" de l'homme qui le rend différent d'une machine déterministe, qu'on appelle le "libre arbitre".

A priori, on devrait avoir 4 catégories de personnes (si j'enleve celles qui ne se prononcent pas). : celles qui pensent (I-II) vraies, (I nonII), (nonI II), (non I non II).

personnellement je me mets dans la 4e, or j'ai l'impression (intuitive) qu'il y a moins de 50% de gens qui pensent comme moi dans les deux cas, ce qui implique que la catégorie 1 est non vide! ca me surprend un peu parce que j'ai l'impression que , bien que la notion de libre arbitre semble assez confuse et que chacun y met un peu ce qu'il veut (comme celle de Dieu! ), elle est utile pour distinguer le comportement humain d'un comportement "algorithmique". Logiquement, I et II devraient etre considérés comme contradictoire, mais ça n'a pas l'air d'etre le cas. C'est pour ça que j'ai posé la question initiale....

[invité576543]

Bonjour,

Les deux questions restent, pour moi, floues, et cela ne m'étonne pas qu'on puisse y passer qq centaines de messages...

I) l'hypothèse comp :la possibilité au moins formelle de trouver un algorithme dont l'éxécution par n'importe quelle machine de Turing fournirait la conscience d'un cerveau humain.

Ca butte sur

1) la notion de "conscience",

2) comment tester une telle affirmation, par exhibition de la notion de conscience dans le fonctionnement interne? par comportement extérieur comparables (identiques?) à flux d'entrées comparables?

3) dans le cas comportement extérieur, sur le manque de précisions des conditions "environnementales": comment faire en sorte que les flux d'entrées soient comparables. En particulier, cela prend-il en compte la comparison sur toute l'histoire passée, ou uniquement sur une période limitée?

II) l'existence d'un comportement "libre" de l'homme qui le rend différent d'une machine déterministe, qu'on appelle le "libre arbitre".

Ca butte évidemment sur la notion de liberté, et ça contient une affirmation (gratuite à mon avis) que déterminisme et liberté sont incompatibles.

A priori, on devrait avoir 4 catégories de personnes (si j'enleve celles qui ne se prononcent pas). : celles qui pensent (I-II) vraies, (I nonII), (nonI II), (non I non II).

Sur la base du flou, il y a autant de position que de personnes, vraisemblablement.

Logiquement, I et II devraient etre considérés comme contradictoire, mais ça n'a pas l'air d'etre le cas. C'est pour ça que j'ai posé la question initiale....

Ce "logiquement" est certainement un point qu'il faudrait examiner en détail...

Pour toutes ces raisons, je préfère (une position personnelle) m'en remettre au subjectivisme le plus total, et la question est alors:

"Pensez vous qu'il existera un jour des machines, au sens d'objets construits non pas par évolution biologique et dont on peut connaître les plans en détail au moment de la mise en route, et que la plupart des humains accepteront de lui attribuer la notion de libre-arbitre?"

A cette question totalement spéculative, ma réponse, tout aussi spéculative, est plutôt, oui. Je ne sais pas bien dans laquelle de tes catégories cela me met!

Cordialement,

[GillesH38a]

Salut Michel

si par "Machine" on entend juste un système artificiel, pas nécessairement un ordinateur de Turing, il n'y a effectivement plus de contradiction.

Pour préciser la notion de comp , je dirais que pour moi elle postule la chose suivante :
* il est possible de définir des grandeurs mesurables , discrétisées , associées au comportement "intelligent" d'un être humain réel (ie pas simplement sa température corporelle ou le mouvement de son centre de masse ), et aux informations qu'il reçoit, de façon que l'évolution temporelle de ces quantités discrètes soit calculable exactement par un algorithme de Turing.

On pourrait alors, si cet algorithme existait, simuler ce comportement humain et par exemple faire tenir une conversation "intelligente" par cette machine. Dire qu'elle a une conscience ou non serait affaire de sensibilité personnelle, mais en tout cas elle ferait exactement la même chose qu'un humain conscient, et par exemple en pilotant un androide avec cette machine ,on ne verrait pas la difference.


Comme tu le soulignes, fort justement, et je l'ai aussi rappelé, la notion de libre arbitre n'est pas strictement définie, et donc il n'y a pas de contradiction "logique" absolue entre I et II. Je parlais plutot de contradiction "humaine" dans ce que je comprenais que les gens mettaient dans II, par rapport à I.

Si on accepte qu'un algorithme de type I ait aussi un libre arbitre, ce serait intéressant de poser la question :sur quel critère de complexité intrinsèque (independammant du fait que l'algorithme serve à simuler un être humain ) peut on dire qu'il a un "libre arbitre"?

Maintenant si tu abandonnes l'idée "comp" pour ne garder que "machine artificielle" (non nécessairement algorithmique), c'est un autre débat,qu'on a abordé dans les derniers posts, mais qui devrait faire l'objet d'autres fils amha.

Cordialement

Gilles

[invité576543]

Maintenant si tu abandonnes l'idée "comp" pour ne garder que "machine artificielle" (non nécessairement algorithmique), c'est un autre débat,qu'on a abordé dans les derniers posts, mais qui devrait faire l'objet d'autres fils amha.

Ce n'est pas tant que "j'abandonne" l'idée comp, mais tu as très bien expliqué toi-même que les flux entrants d'information d'une machine de Turing sont nécessairement discrèts (au minimum en valeur, et je pense, en temps), et cela détruit (à mon avis, et si je comprends bien au tien) toute possibilité de simulation parfaite.

On se retrouve alors obligatoirement dans une notion de similitude plus ou moins grande, ce qui laisse de la place à désaccord juste sur la question.

Mais si tu remplaces la machine artificielle dans ma version de la question, par une machine de Turing multi-sensorielle (avec plusieurs flux d'information entrantes analogiques et décorrélés en temps, c'est à dire que le discrétisation temporelle - mise en une seule séquence ordonnée de symboles des flux entrants - et la quantification nécessaires à une machine de Turing est une propriété de la machine elle-même - et alors se pose la question - que tu as toi-même posée - si l'ensemble coeur + discrétisation est encore une machine de Turing - un peu Proustien comme phrase...), ma réponse est la même.

Amicalement,

Michel

[invitea34526eb]

[...]
On pourrait alors, si cet algorithme existait, simuler ce comportement humain et par exemple faire tenir une conversation "intelligente" par cette machine. Dire qu'elle a une conscience ou non serait affaire de sensibilité personnelle, mais en tout cas elle ferait exactement la même chose qu'un humain conscient, et par exemple en pilotant un androide avec cette machine ,on ne verrait pas la difference.
[...]

Salut,

Le cortex visuel a déjà été modélisé "neurone par neurone" avec des résultats bluffants, notamment en utilisant comme test comparatif les images induites par l'action du LSD sur le cortex.

Le cortex visuel n'est pas différent du reste du cerveau.

Il n'y a pas besoin d'aller au niveau quantique pour le faire fonctionner. Le niveau fonctionnel suffit. Il est intéressant de le modéliser à plus bas niveau pour gérer les erreurs fonctionnelles, à moins qu'on l'intègre déjà à la fonction.

Ce qui est remarquable chez les êtres vivant c'est la fonctionnalisation de processus physiques complexes à un état stable (taux d'erreur de la fonction faible). L'objet neurone notamment est une forme stable d'organisation de la matière qui réalise sa fonction sous certaines conditions de t°, pression, oxygénation, radiation etc.

Pour dire que si l'on retire le cerveau biologique de quelqu'un (à l'instant t) et on branche à la place notre cerveau virtuel avec un même vecteur d'état (qu'à l'instant t par exemple), alors il n'y a aucune raison que l'ordinateur pensant ne soit pas moins doué de "libre arbitre".

A mon avis ses premières pensées seront de l'ordre: "tiens quelque chose a changé, ma tête est plus légère" (faudrait penser à mettre quelques kilos de plomb dans le crane ), ou peut-être va t-il paniquer car les signaux du système biologique vont lui envoyer des informations inabituelles sur sa respiration, etc, car le cerveau artificiel n'étant pas biologiquement identique il n'interagira pas pareil avec le corps. Notamment en conso d'oxygène, production d'hormones etc. Il faudrait peut-être produire à l'identique tous les signaux chimiques envoyés dans le sang.

Mais tous ces problèmes d'équilibre chimico-physiques résolus, quel que soit donc la définition que l'on met derrière "libre arbitre", je pense que n'importe qui en face de ce cyber-humain aura un avis positif.

Je tiens à préciser que je n'ignore pas la compéxité du cerveau, et que sa modélisation ne se résume bien évidemment pas à la simple modélisation d'un réseau de neurones basique et abstrait tel que beaucoup l'entendent.

La modélisation est plus complexe que cela, et elle prend en compte la réalité physique (répartition spatiale, etc.) et pas uniquement les neurones mais tout: cellules gliales (qui jouent un rôle fondamental), espace interstitiel, etc. Il s'agit plus d'une modélisation fonctionnelle avancée type avion sous Catia, que maison sur plan.

N.B.
"Un "ordinateur pensant" serait-il doué de libre arbitre?"

Le cerveau est une machine biologique "pensante".Donc on peut simplifier ta phrase à:

"Le cerveau serait-il doué de libre arbitre?"

Le débat n'est évidemment pas là, mais la réponse pour moi est non.

Conclusion je pense que c'est la première partie de ta phrase qui a un intérêt .

Appparemment tu associes "pensant" à être humains, donc gros cerveau, donc cerveau.

Donc après avoir compressé sans perte le sujet, je dirais que:

tu demandes si on peut simuler un cerveau de la classe de celui de l'être humain (mêmes composants) avec une machine baleze. (ça permet de retirer de l'équation le débat sur le concept de pensée)

En gros est-ce que un cerveau peut se modéliser et être exécuté dans une simulation?.

Réponse: oui avec une machine de turing, notamment pour résoudre les cas de figure chaotiques. Le cerveau stabilise/régule l'information, entre autre par effet de seuil. Les processus cognitifs sont temporisés. Le traitement de l'information est causal. Il ne s'agit pas d'un chateau de carte probabiliste & magique issu de notre naissance, sinon on ne se réveillerait pas d'un KO.


a+

[GillesH38a]

Salut,

Le cortex visuel a déjà été modélisé "neurone par neurone" avec des résultats bluffants, notamment en utilisant comme test comparatif les images induites par l'action du LSD sur le cortex.

Bonjour

encore une fois la question posée n'était pas de la validité du computationaliste mais de sa compatibilité avec la notion de libre arbitre.Si tu appartiens à la catégorie (I,non II), je n'ai pas d'objection logique à cette position.

Ta réponse est néanmoins caractéristique du débat sur comp, et je vais tenter encore une fois de préciser pourquoi elle ne me satisfait pas.

Au lieu de répondre sur le caractère computationnel du cerveau, tu réponds sur sa modélisation physique. Or les deux problèmes sont essentiellement différents. TOUT système physique est modélisable et je n'ai aucun doute que le système "cerveau" soit modélisable par des lois physiques (ce qui est pour moi la raison principale de penser que la notion de libre arbitre est vide de sens réel, donc non II).

Mais modéliser un système physique par une machine de Turing ne veut PAS dire que c'est une machine de Turing. L'atmosphère, le système solaire ou un réacteur nucléaire sont également modélisables :mais ce ne sont pas des machines de Turing effectuant un algorithme.

Lorsque tu simules l'action du LSD sur un neurone simulé, tu ne verses pas du vrai LSD dans ta machine. Ta simulation vit dans un autre monde que la réalité. Tu ne peux pas utiliser ta simulation du cerveau pour faire quoi que ce soit "d'utile" qu'on cherche à faire avec l'IA : traduction automatique, reconnaissance d'image ou jouer aux échecs, simplement parce que tu ne peux pas interfacer une simulation de neurones avec un monde réel. De fait, les programmes réalisant des taches d'IA (y compris les prétendus "réseaux de neurones") ne font aucunement une simulation biochimique des neurones humains,et vice versa.

On certes peut parfaitement imaginer des dispositifs électroniques remplissant des fonctions analogues à un neurone. Ce que je dis, c'est qu'on n'a aucune manière de savoir comment les faire fonctionner ensemble pour qu'il réalisent une machine ayant un langage humain : les neurones humains ne sont pas très différents de ceux d'un calamar, mais les fonctions assurés sont tres différentes. Il n'y a pas de plan évident dans l'ADN permettant de savoir pourquoi le cerveau humain fait des taches considérablement plus complexes que celui du chimpanzé , alors que les principes physico-chimiques et l'organisation générale est la même. Ainsi en cherchant à modéliser "de la base " un neurone , on n'a aucune chance d'arriver à lui faire faire quoi que ce soit de complexe "par hasard".

Au contraire, les réalisations complexes de l'IA sont fondées sur des fonctionnement très différents du cerveau, mais pilotés de l'extérieur par nous :c'est nous qui mettons au départ l'information sur ce que nous voulons faire faire à la machine. Par principe,nous la limitons alorsà ce que nous voulons lui faire faire.

Ainsi selon moi , l'impossibilité de réaliser une machine "parlant humain " vient de ce qu'il n'y a pas de moyen de concilier deux exigences contradictoires : soit on se contente de donner des principes de bases et on laisse évoluer le système "au hasard et sélection naturelle", mais on n'a aucune chance qu'il retombe sur un fonctionnement "de type humain" vu les énormes différences physicochimiques à la base.

Soit on lui impose ce qu'on veut qu'il fasse finalement (par exemple maitriser le langage ou jouer aux echecs),solution retenue dans les projets "concrets " d'IA, mais alors la structure n'est pas du tout capable d'autoorganisation en dehors des limites qu'on lui fixe au départ, et cela rend impossible la création d'une entité "intelligente" dans le sens ou nous le sommes.

[invite73192618]

Mais modéliser un système physique par une machine de Turing ne veut PAS dire que c'est une machine de Turing. L'atmosphère, le système solaire ou un réacteur nucléaire sont également modélisables :mais ce ne sont pas des machines de Turing effectuant un algorithme.

Je suis en train de lire un bouquin de calcul quantique qui indique que, bien qu'éventuellement plus efficaces, les systèmes de calculs quantiques, de machines analogiques et les machines de Turing dopées à l'aléatoire sont en fait tous simulables par une machine de Turing traditionnelle (ce qui contredit des trucs que j'avais dit ailleurs à mmy). Si c'est vrai et que l'univers est bien décrit par les équations de la méca quantique (qui sont turingables), alors atmosphère, système solaire et autres réacteurs nucléaires sont des machines de Turing. Ca donnerait tout un sens à "Information is physical" isn't it?

Ainsi selon moi , l'impossibilité de réaliser une machine "parlant humain " vient de ce qu'il n'y a pas de moyen de concilier deux exigences contradictoires : soit on se contente de donner des principes de bases et on laisse évoluer le système "au hasard et sélection naturelle", mais on n'a aucune chance qu'il retombe sur un fonctionnement "de type humain" vu les énormes différences physicochimiques à la base.

Je trouve que c'est un des passage les plus éclairants sur tes positions depuis qu'on discute ce genre de sujet.

Toutefois, cet argument ne dit pas que les humains sont nécessairement non turingables, mais qu'ils résultent d'une chaîne de hasard impossible à retrouver en pratique. Je serais curieux de te demander où est-ce que tu places la limite d'intelligibilité: si des systèmes aussi différents que les dauphins et les chats sont en partie co-intelligibles aux humains, alors il serait étonnant que tu récuses à priori la communication avec d'autres espèces développées sur des principes similaires (sélection naturelle) en environnements virtuels. Cependant ma critique principale serait que je ne vois aucun argument empêchant la construction d'un cerveau artificiel dont l'objectif serait d'être de plus en plus humain. Pourquoi croire qu'il échouerait nécessairement? C'est un peu nous faire trop d'honneur que de nous croire incompréhensible non?

PS: I non II (histoire de pas être complêtement HS )

[GillesH38a]

Salut Jiav

Je suis en train de lire un bouquin de calcul quantique qui indique que, bien qu'éventuellement plus efficaces, les systèmes de calculs quantiques, de machines analogiques et les machines de Turing dopées à l'aléatoire sont en fait tous simulables par une machine de Turing traditionnelle (ce qui contredit des trucs que j'avais dit ailleurs à mmy). Si c'est vrai et que l'univers est bien décrit par les équations de la méca quantique (qui sont turingables), alors atmosphère, système solaire et autres réacteurs nucléaires sont des machines de Turing. Ca donnerait tout un sens à "Information is physical" isn't it?

non, parce qu'un ordinateur quantique n'est pas toute la mécanique quantique : il est construit (spécifiquement) pour servir de machine de Turing , et est donc équivalent à une machine de Turing (simplement beaucoup plus puissante -en principe).
De meme les équations de Maxwell classiques traitent d'équations différentielles continues et ne sont pas traitables exactement parune machine de Turing, ce qui n'empeche nullement de construire des ordinateurs avec!

On peut créer du discret avec du continu , mais pas le contraire (d'ailleurs un humain PEUT émuler un ordinateur). Dans le cas spécifique de la Meca Q, c'est l'imprédicabilité de la mesure qui la rend PAR ESSENCE non "turingable". On peut postuler qu'il existe une théorie déterministe à variables cachées discrètes sous jacente, mais ce ne serait plus la Meca Q. Sous sa forme actuelle, elle n'est pas "turingable".

Toutefois, cet argument ne dit pas que les humains sont nécessairement non turingables, mais qu'ils résultent d'une chaîne de hasard impossible à retrouver en pratique.

C'est vrai, mais je pense que comme l'hypothèse de turingabilité est une hypothèse forte (trè srestrictive), c'est à ceux qui la soutiennent d'en apporter la preuve, pas l'inverse! C'est l'absence de preuve convaincante qui me fait penser qu'elle est fausse "statistiquement" (je veux dire, en l'absence de preuve formelle, une hypothèse restrictive a plus de chance d'etre fausse que d'etre vraie).

Je serais curieux de te demander où est-ce que tu places la limite d'intelligibilité: si des systèmes aussi différents que les dauphins et les chats sont en partie co-intelligibles aux humains, alors il serait étonnant que tu récuses à priori la communication avec d'autres espèces développées sur des principes similaires (sélection naturelle) en environnements virtuels. Cependant ma critique principale serait que je ne vois aucun argument empêchant la construction d'un cerveau artificiel dont l'objectif serait d'être de plus en plus humain. Pourquoi croire qu'il échouerait nécessairement? C'est un peu nous faire trop d'honneur que de nous croire incompréhensible non?

PS: I non II (histoire de pas être complêtement HS )

Il n'y a pas de limite stricte d'intelligibilité. Je constate que la communication "intelligente" que nous avons est inversement proportionnelle avec la proximité biologique , et j'en conclus qu'il est fort probable qu'elle soit réduite à néant avec une machine basée sur des principes physiques totalement différents. J'ai exposé les raisons pratiques qui rendraient amha impossible la conception d'un système auto organisateur (et donc nécessairement livré à lui même ) convergeant spontanément vers le même genre de psychisme que nous. Normal que ça devienne plus clair, j'éclaircis mes propres positions à force d'en discuter!

[invité576543]

Je constate que la communication "intelligente" que nous avons est inversement proportionnelle avec la proximité biologique

Bonjour,

Voilà une "constatation" surprenante! Personnellement, la seule mesure de "proximité biologique" que j'accepte est la distance phylogénétique, la date du dernier ancêtre commun.

Selon ta règle, il serait plus probable d'établir une communication intelligente avec une ascidie qu'avec un poulpe. Voilà qui n'est pas la "constatation" usuelle.

Ce que tu veux réellement dire, c'est la proximité entre les expériences, pas la proximité biologique. Mais tu sembles refuser systématiquement la communauté d'expérience la plus simple pour ne citer que des concepts très spécifiques à la vie.

Ces expériences communes sont aussi simple que l'espace 3D, les notions de gaz, liquide, solide, la difficulté de faire traverser deux solides entre eux, le fait qu'un liquide se transvase, la gravité, la température, ... la liste est longue, très très longue.

Pourquoi cette communauté d'expérience, infiniment plus riche que celle liée aux concepts d'enfant et parent, ou les émotions humaines, ne peuvent-elles pas être l'expérience commune permettant une communication intelligente???

Pour moi la réponse est que cela suffit.

Rien dans tes arguments ne me convainc que:

- avec une machine pensante suffisamment complexe pour qu'elle ait par elle-même, ces notions là, par exemple parce qu'elle évolue intelligemment dans l'environnement physique,
- qui a des effecteurs tels qu'il lui arrive de faire des choix visibles par son comportement (et surtout des choix non programmés, des choix basés sur des données en mémoire, générées ou modifiées par l'expérience acquise),
- et enfin capable de dialoguer de manière intelligente sur des questions du genre "pourquoi as-tu fait cela?", donc des sujets ne se référant qu'à son comportement, a

alors le constat de libre-arbitre pourra s'établir (toujours avec une approche subjective, c'est à dire qu'une partie très importante de ceux qui attribue le libre-arbitre à l'homme l'accepteront aussi à la machine, le reste invoquant une définition ad-hoc du libre-arbitre permettant de l'exclure explicitement à une machine).

Cordialement,

[invité576543]

les machines de Turing dopées à l'aléatoire sont en fait tous simulables par une machine de Turing traditionnelle (ce qui contredit des trucs que j'avais dit ailleurs à mmy).

Cela ne semble pas si clair que cela soit une contradiction.

Tout est dans le mot "simulable". "Simulable par une machine de Turing" ne veut pas dire "machine de Turing".

Le problème, évident, est que le comportement d'une machine dopé à un aléatoire inconnaissable ne peut pas être reproduit à l'identique par une machine de Turing (ni même par elle-même, c'est tout dire!). La comparaison entre la machine et la machine simulée portera donc sur une similitude de comportement, similitude statistique qui concluerait, par exemple, à la très forte vraisemblance de non corrélation entre tel type de choix et quoi que ce soit dans l'expérience passé ou présente de la machine.

Cordialement,

[GillesH38a]

Bonjour,

Voilà une "constatation" surprenante! Personnellement, la seule mesure de "proximité biologique" que j'accepte est la distance phylogénétique, la date du dernier ancêtre commun.

Selon ta règle, il serait plus probable d'établir une communication intelligente avec une ascidie qu'avec un poulpe. Voilà qui n'est pas la "constatation" usuelle.

Salut Michel

Oui mais ce n'est pas moi qui ai défini la proximité par la distance phylogénétique, c'est toi .Je parle plutot de proximité de comportement , meme atteint par convergence évolutive par deux chemins différents. Le poulpe nous parait plus proche justement parce que nous avons l'impression d'un comportement plus comparable au notre, de mouvement, de predation, de capacités visuelles etc...

Mais un poulpe n'a ces comportements QUE parce qu'il a besoin de se nourrir, donc qu'il est comme nous d'abord une machine thermodynamique dégradant l'énergie solaire stockée dans d'autres êtres vivants. Cette "condition" (au sens de "condition humaine") n'a rien a voir avec la complexité de Turing ou la thèse de Church.

Si on réalisait une machine se "nourrissant" dans un environnement naturel, ayant une structure évolutive, et soumise à une pression de sélection, elle pourrait peut être évoluer vers une forme d'intelligence, mais elle pourrait aussi très bien en rester au stade de fourmi, animal tellement bien adapté à son environnement qu'il n'a pas évolué pendant des centaines de millions d'année!

Tout ceci n'a d'ailleurs plus grand rapport avec l'hypothèse comp... et d'aileurs il n'est pas du tout certain qu'une machine de Turing soit une bonne solution pour s'adapter à son environnement, ou du moins on n'en a aucun exemple réel!

Cordialement

Gilles

[invite73192618]

non, parce qu'un ordinateur quantique n'est pas toute la mécanique quantique (...) Dans le cas spécifique de la Meca Q, c'est l'imprédicabilité de la mesure qui la rend PAR ESSENCE non "turingable".

"Simulable par une machine de Turing" ne veut pas dire "machine de Turing".

Le problème, évident, est que le comportement d'une machine dopé à un aléatoire inconnaissable ne peut pas être reproduit à l'identique par une machine de Turing

Je n'ai pas le Nielsen&Chang sous la main, mais en gros si j'ai bien compris les arguments sont:
- le continu avec du bruit, c'est du discontinu en pratique donc rien de mieux que du discrêt (ce que je pensais, puis non, puis oui... )
- pour reproduire un processus aléatoire il suffit de calculer toutes les alternatives: c'est inefficace au possible mais rien ne l'empêche et la solution sera quelque part dans la machine.

Je ne suis pas sur que ce soit complêtement exact: du continu avec du bruit a beau être discrêt "en pratique", on ne peut pas dire où les limites vont être placées. Du coup il me semble que pour émuler correctement ça il faut tester toutes les possibilités, qui sont en nombre
infini à chaque mesure (ce qui prends du temps ).
Cela dit en considérant un modèle de bruit à la chaine de Markov on peut peut-être s'en sortir.

je pense que (...) l'hypothèse de turingabilité est une hypothèse forte (trè srestrictive), c'est à ceux qui la soutiennent d'en apporter la preuve, pas l'inverse!

C'est une vrai question: est-ce que l'hypothèse de turingabilité est si forte que ça? Si Le Nielsen&Chang donne l'heure juste à ce sujet, alors il y a peu de choses qui ne sont pas turingables. En fait seuls les oracles portant sur la condition d'arrêt des machines de Turing (MDT) semblent échapper à la turingabilité (en voyez-vous d'autres?*). Ce qui est rigolo, c'est que les MDT avec oracle ne peuvent prédire la conditions d'arrêt que pour des MDT sans oracle (à vérifier, mais il me semble que la démonstration de l'impossibilité de prédire la condition d'arrêt peut être réutilisé pour les MDT avec oracle): on peut donc encore imaginer un oracle secondaire (MDTO2) pour prédire l'arrêt des MDT avec oracle de premier niveau (MDTO1), des MDTO3 pour prédire l'arrêt des MDTO2, etc.
L'existence physique de ces MDTOn est questionnable, mais j'image qu'il devait en être de même des nombres imaginaires lorsqu'ils ont été inventés (ça mériterait un post en math ça...). Du coup il me semble que l'existence physique des supercalculs (MDTOn) est une question identique à la question de la Turingabilité du réel: si le premier n'existe que dans l'imagination des mathématiciens alors le second est vrai par défaut.

Je constate que la communication "intelligente" que nous avons est inversement proportionnelle avec la proximité biologique

Voilà une "constatation" surprenante! (...) Selon ta règle, il serait plus probable d'établir une communication intelligente avec une ascidie qu'avec un poulpe. Voilà qui n'est pas la "constatation" usuelle.

Ce que tu veux réellement dire, c'est la proximité entre les expériences, pas la proximité biologique.

zut doublé

EDIT: ton post suivant le confirme: tu (Gilles) parles d'une proximité d'expérience et non d'une proximité "biologique": autrement dit une machine virtuelle peut être aussi proche de nous en lui donnant un environnement et un développement similaire en... nature.

* peut-être des opérations nécessitant une ou des infinités de calcul et non un calcul "aussi long qu'on veut": toujours le problème du
continu!

[invité576543]

Oui mais ce n'est pas moi qui ai défini la proximité par la distance phylogénétique, c'est toi .Je parle plutot de proximité de comportement , meme atteint par convergence évolutive par deux chemins différents.

Le point est clarifié, donc.

Mais tu ne réponds pas à la suite, portant sur la proximité d'expérience "basique", due au monde extérieur...

Et ça a, pour moi, un rapport avec le sujet, de par mon approche subjective à la question "est-il doué de libre-arbitre?". Faute de mieux, la seule réponse me semble être celle(s) de tout un chacun observant l'entité. Et j'ai des doutes que l'on conclut au libre arbitre sans dialogue. Une partie importante de la "sensation" de libre-arbitre vient de la réflexion (au sens de se renvoyer) que l'on a sur ces propres choix; le libre-arbitre que l'on attribut aux autres vient d'une part d'une assimilation ("son comportement ressemble trop au mien pour exclure le libre-arbitre que je me reconnais") mais aussi du discours de l'autre, de sa capacité à discuter ses propres choix, de la conscience de ses choix qu'il démontre par le discours. L'assimilation avec une machine est difficile (litote), et l'échange par le langage semble être la meilleure approche.

Je ne dis pas qu'une machine incapable de langage intelligent n'a pas de libre-arbitre, mais qu'on le reconnaitra pas! (D'ailleurs, la position que les meilleurs programmes d'échec actuels fassent preuve de libre-arbitre me semble défendable, même si c'est peut-être étendre cette notion floue de libre-arbitre un peu loin... Mais on ne le reconnaitra pas!)

Cordialement,

[invité576543]

- le continu avec du bruit, c'est du discontinu en pratique donc rien de mieux que du discrêt (ce que je pensais, puis non, puis oui... )
- pour reproduire un processus aléatoire il suffit de calculer toutes les alternatives: c'est inefficace au possible mais rien ne l'empêche et la solution sera quelque part dans la machine.

Bonjour,

N'est-ce pas lié à un postulat très fort de discrétisation de l'univers? Dire que du bruit c'est discontinu en pratique sous prétexte qu'on peut l'approcher par du discret ne prouve pas que ce n'est pas une approximation à moins que l'univers ne soit discrétisable, non?

Ensuite, la deuxième partie n'est pas claire. Le calcul de toutes les alternatives permet que la solution soit présente, certes, mais elle ne donne pas LA solution.

C'est comme si un élève de CE1 répondait à la question 2+2 par 0, 1, 2, 3, 4, 5, 6, 7, et expliquant à l'instit qu'il a donné la bonne réponse. Certes! Mais il aura une sale note quand même.

Cordialement,

[GillesH38a]

Le point est clarifié, donc.

Mais tu ne réponds pas à la suite, portant sur la proximité d'expérience "basique", due au monde extérieur...

de fait, je ne pense pas que la reconnaissance de données "physiques"du monde soit suffisante pour servir de base à des notions abstraites assez riches pour fonder un langage qu'on qualifierait "d'intelligent". Les robots reconnaissent deja sans problème la présence d'obstacles, de lumière, de sons. Et pourtant ils nous demeurent "incommunicables". Je pense qu'une analyse "honnête" de ce qu'est le propre de la pensée humaine,et son langage, te conduira à admettre qu'elle n'existe que parce que nous sommes des êtres sociaux en interaction avec d'autres êtres, pas seulement à cause de notre perception physique que nous paratgeons avec les calamars...Je n'imagine pas sur quelles bases une machine pourrait donner un sens à ces notions élaborées.

[invité576543]

dJe n'imagine pas sur quelles bases une machine pourrait donner un sens à ces notions élaborées.

Bonjour,

On tourne toujours autour du même point. Pourquoi donner un sens à ces notions élaborées serait-il un prérequis à une discussion intelligente? Faut-il être un être social pour discuter de méca q ou de la preuve du théorème de Fermat? (Bien que, sur le dernier point, circulent pas mal de blagues sur le côté social des mathématiciens...) Ou est-ce que discuter méca q n'est pas un exemple de discussion intelligente?

Cordialement,

[invitea20bed5c]

Ou est-ce que discuter méca q n'est pas un exemple de discussion intelligente?

Bonjour,
oui c'en est un exemple, mais je ne pense pas qu'on puisse réduire l'humain (qu'il soit doué de libre-arbitre ou pas) à la capacité de tenir des conversations intelligentes.
Je pense que l'inconscient joue un rôle fondamental dans nos comportements. Une machine de Turing peut elle avoir des pulsions ? Suffirait-elle de la programmer pour cela ?

[invitea20bed5c]

Bonjour,
oui c'en est un exemple, mais je ne pense pas qu'on puisse réduire l'humain (qu'il soit doué de libre-arbitre ou pas) à la capacité de tenir des conversations intelligentes.
Je pense que l'inconscient joue un rôle fondamental dans nos comportements. Une machine de Turing peut elle avoir des pulsions ? Suffirait-elle de la programmer pour cela ?

Re,
ma réponse était plus dans le cadre de "une machine peut-elle simuler un humain ?".
Sinon que pensez vous du rôle de l'inconscient ?

[invite06fcc10b]

Je pense que l'inconscient joue un rôle fondamental dans nos comportements. Une machine de Turing peut elle avoir des pulsions ? Suffirait-elle de la programmer pour cela ?

Bonjour,

Une pulsion est une action ou une réaction automatique, c'est ce qu'on sait le mieux programmer !
Si la réaction se fait par rapport à des variables internes, cela parait difficile à expliciter, mais fondamentalement, c'est toujours aussi simple. Dans les jeux pour les gosses, les créatures artificielles obéissent typiquement à des réactions qu'on pourrait appeler "pulsions". Souvent, c'est très simple et stéréotypé, mais fondamentalement, c'est le même principe.

Sinon, pour Gillesh38 et mmy, je rappelle que le continu est également conceptualisable avec des outils discrets, c'est typiquement ce que nous faisons avec le calcul formel. Ce n'est pas parce qu'on ne connait pas toutes les décimales de Pi qu'on ne peut pas l'utiliser dans les formules. Et ces formules sont turingables.
Donc, même en démontrant que l'univers n'est pas discret, cela ne suffirait pas à dire qu'il n'est pas turingable.