Un "ordinateur pensant" serait-il doué de libre arbitre ?

[inviteb271042d]

Bonjour,

Si le "je" est resté invariable temporellement dans le language par rapport à l'action c'est peut être parce "je" essaie conserver, grace au language, une place stable au seind de l'environnement, et particulièrement au sein de la société humaine.

L'action, en simplifiant beaucoup, ne dure que le temps cumulée de sa réalisation et de ses conséquences immédiatement perceptibles.

Pour les sociétés humaines la permanence de l'individu est il me semble une base fondamentale. A t elle point qu'une grande partie du role des religions est de tenter de prolonger l'existence de l'individu via les notions religieuses diverses .

Tout élement intelligent et autonome comme une I.A. ne peut faire l'impasse sur la façon dont le language se manipule. Et l'une des bases de l'usage du language est la distinction entre la place de soi dans le monde et la relation à autrui.

Sans ces notions il me semble qu'on obtiendra au mieux une sorte d'idiot savant capable de constructions logiques très développées mais dénué de tout sens pratique ou d'esprit d'initiative et au pire une forme d'autisme ou toute la capacité de réflexion serait tellement détachée du monde extérieure qu'elle en serait inutilisable.

Cordialement,
-----

[invite8915d466]

pas l'identité stricte, cette dernière étant impossible à réaliser, parce qu'une personne change à chaque instant.

Cordialement,

Bonjour Mmy

Justement, comme on change à chaque instant, ça a parfaitement un sens (non trivial) de regrouper les différentes "personnes" qui sont "toi" au cours du temps , dans une seule classe d'équivalence définie par la relation d'équivalence "sont liés par une continuité spatio-temporelle" (qui est bien réflexive, symétrique et transitive).

"L'individu" sera alors une de ces classes d'équivalence, c'est cette notion qu'on emploie implicitement lorsqu'on '"identifie un suspect" ou qu'on "justifie de son identité", ou lorsque la femme de Martin Guerre ou du colonel Chabert se demande si c'est bien "lui" qui est revenu !

Si on se met à changer de définition, on peut aussi démontrer qu'un être humain peut voler, à condition d'en donner une définition suffisamment large pour inclure les chauve-souris !

Cordialement

Gilles

[inviteb271042d]

Bonjour Mmy

Justement, comme on change à chaque instant, ça a parfaitement un sens (non trivial) de regrouper les différentes "personnes" qui sont "toi" au cours du temps , dans une seule classe d'équivalence définie par la relation d'équivalence "sont liés par une continuité spatio-temporelle" (qui est bien réflexive, symétrique et transitive).

"L'individu" sera alors une de ces classes d'équivalence, c'est cette notion qu'on emploie implicitement lorsqu'on '"identifie un suspect" ou qu'on "justifie de son identité", ou lorsque la femme de Martin Guerre ou du colonel Chabert se demande si c'est bien "lui" qui est revenu !

Si on se met à changer de définition, on peut aussi démontrer qu'un être humain peut voler, à condition d'en donner une définition suffisamment large pour inclure les chauve-souris !

Cordialement

Gilles

Si je suis totalement d'accord avec l'idée exprimée je ne peut pas m'empêcher de souligner à quel point elle s'exprime dans un language proche du formalisme mathématique ( via un sabir tiré de la programmation objet ) .

Pourquoi faire si détourné (classes d'équivalence et la suite ) ?

Pourquoi ces circonvolutions pour éviter d'approcher des sciences humaines ( non gilles tu n'es pas visé la remarque est générale ) ?

Si on veut une véritable intelligence, celle ci devra être à mène d'assimiler d'autres moyen de connaissance que le formalisme mthématique .

Sans aller lui faire lire des livres de psycho, il faudra bien être capable de faire assimiler à une I.A. les relations humaines autrement que par le biais du Lisp ou de patterns de conception .

[invité576543]

Bonjour Gilles,

Justement, comme on change à chaque instant, ça a parfaitement un sens (non trivial) de regrouper les différentes "personnes" qui sont "toi" au cours du temps , dans une seule classe d'équivalence définie par la relation d'équivalence "sont liés par une continuité spatio-temporelle" (qui est bien réflexive, symétrique et transitive).

Ca a un sens, mais avec des clones apparaît un biais particulier: l'existence à un moment donné de deux "personnes" ayant la même identité au sens que tu décris, mais qui sont distinctes au sens commun. Une telle notion d'identité devient très difficile à gérer, puisqu'on aurait alors à la fois identité (à ton sens) et distinction (au sens trivial).

Je dis simplement que si les clones faisaient partie de l'expérience courante, la notion d'identité par classe d'équivalence de continuité temporelle ne serait pas utilisable, ou du moins demanderait d'être conceptualisée de manière à bien la séparer de l'identité stricte.

Si on se met à changer de définition, on peut aussi démontrer qu'un être humain peut voler, à condition d'en donner une définition suffisamment large pour inclure les chauve-souris !

Très mauvais procès que tu fais là! La discussion porte sur les sujets hypothètiques, des clones de personnes sur des machines (du moins c'est ce que je comprend). Il me semble évident que lorsque l'on parle de choses hypothétiques, on peut être amener à revoir les définitions pour permettre au langage de référer à des choses nouvelles. N'est-il pas évident que le langage et les définitions sont issus de l'expérience passée, et peuvent être suspects d'étroitesse nuisible au discours sur des choses hypothétiques?

Cordialement,

Michel

[invite8915d466]

On pourrait dire ça oui. Je ne nierais pas.
En soi-même effectivement pas trop d'intérêt: presque tout (tout en prenant l'interprétation d'Everett?) est turingable.

A mon avis, si tu admets ça, tu es perdu, parce que si tout est "turingable", tu ne peux pas expliquer l'intelligence du cerveau par une caractéristique particulière qui le distinguerait du reste des objets, puisque tu ne le distingues plus fondamentalement d'une soupe de légume

Par contre ses conséquences sont: changement de support autorisé et indécidabilité... Je ne crois pas que ces conséquences soient complètement dépourvu d'intérêt

Mais non: elle dit que tout calcul (discret ou non) est approchable d'aussi près qu'on veut par un calcul utilisant des symboles discrets -pas que tout est discret.

Jiav, tu tournes en rond dans une mer de Sargasse de contradiction, sans t'en rendre compte!

Une machine qui calculerait l'état physique de ton cerveau ne ferait PAS DU TOUT le meme travail que ton cerveau : ton cerveau n'a AUCUN renseignement sur son état physique , et tu ne passes pas ton temps à calculer l'état de tes neurones, pas plus qu'un ordinateur ne passe son temps à calculer l'évolution des électrons qui le constituent !

Dans le sens large: approximation physique d'une machine de Turing. Dans un sens réduit: ordinateur actuel, basé sur des logiciels pas assez intelligents à mon goût.

Bien, alors suivant ta définition et ma remarque du début, une soupe de légume est aussi un ordinateur. Ca aurait fait plaisir à ma grand mère de savoir qu'elle s'en servait bien avant Bill Gates .

Si Gilles, en considérant qu'un individu est une classe générique. Moi enfant et moi adulte, c'est toujours moi, même si physiquement et intellectuellement il y a bien sur eu des changements.

oui, suivant la définition de "moi" que JE donne (classe d'équivalence de la relation de continuité spatio temporelle).

Théoriquement en le faisant grandir dans un environnement virtuel, mais le plus simple est certainement d'aller, d'une manière ou d'une autre (je crois bien avoir déjà proposé deux méthodes différentes), chercher ça directement dans ton cerveau.

"Le plus simple est d'aller chercher , d'une manière ou d'une autre" Tout le problème est de définir de façon opératoire cette "manière" , Jiav !

entre autres, la conscience que j'ai de moi est constamment mise à l'épreuve par l'environnement physique que j'ai autour de moi. Si je me livre par exemple à l'interrogation d'une machine de Turing, il y aura eu un enchainement parfait de la réalité qui m'aura conduit à cela : j'aurais peut etre été contacté par un informaticien qui est passé sur le forum et qui aura décidé de me montrer que sa machine peut passer le test, m'aura téléphoné, on aura pris rendez vous etc...

si il y avait une absence de continuité dans la réalité spatio temporelle , comme dans MAtrix, je suppose que tu commencerais à t'inquieter pour ta santé normale et tu ne réagirais pas NORMALEMENT en continuant à converser comme si de rien n'etait, n'est ce pas ?

alors comment peut tu faire que la machine aie MA mémoire et agisse comme si tout etait NORMAL autour d'elle ?

[invite8915d466]

Très mauvais procès que tu fais là! La discussion porte sur les sujets hypothètiques, des clones de personnes sur des machines (du moins c'est ce que je comprend).

Pour moi, c'est justement ça qui n'a aucun sens , un clone de personne fait sur une machine. Ca PRESUPPOSE une identité "algorithmique" dont je pretends qu'elle n'existe pas. Je rererererépète

a) Il n'y a pas de structure exactement algorithmique indentifiée dans le cerveau, il n'y a aucun programme explicite qu'on pourrait "dumper" sur une machine.

b) tous calcul approximatif de la structure physique du cerveau (bien évidemment possible en théorie selon moi) ne fait PAS DU TOUT la même chose que le cerveau lui-même, qui ignore TOUT de sa propre structure .


donc je ne vois aucune possibilité de cloner un cerveau sur une machine, dans le sens ou on fait tourner le meme algorithme sur deux plate formes différentes.


je changerai d'avis quand Jiav m'aura proposé un mode opératoire CONCRET pour créer ce genre de "clone"

[invité576543]

Pour moi, c'est justement ça qui n'a aucun sens , un clone de personne fait sur une machine. Ca PRESUPPOSE une identité "algorithmique" dont je pretends qu'elle n'existe pas.

Pas d'accord. La notion de clone n'a pas besoin d'être si restrictive pour soulever les problèmes sémantiques sur la notion d'identité. Un clonage parfait sur support biologique (reproduction molécule par molécule) pose les mêmes problèmes sans supposer une identité "algorithmique" (juste du matérialisme pur sucre que tu as dis accepter dans des messages passés).

En d'autres termes on peut discuter la notion d'identité sans référer aux machines et aux algorithmes. Et une fois qu'on a les bons concepts d'identité, généralisés pour pouvoir parler de clones, alors on peut aborder le cas "algorithmique".

Tu peux objecter qu'on ne peut pas faire de clones. Point. Ce qui est factuel au présent! Mais que veut alors dire le "serait" dans la question même de ce fil que tu as lancé? Si on ne peut utiliser que le factuel présent pour discuter d'une question hypothétique, la réponse à la question du fil est évidemment, trivialement, "non", et il n'aurait même pas dû être démarré

Cordialement,

[invité576543]

b) tous calcul approximatif de la structure physique du cerveau (bien évidemment possible en théorie selon moi) ne fait PAS DU TOUT la même chose que le cerveau lui-même, qui ignore TOUT de sa propre structure .

Quel est le rapport entre la partie en rouge et ce qui précède? Cela me semble deux affirmations distinctes et sans relation. Ai-je trop d'imagination? ou pas assez?

La première affirmation reste assez gratuite, milles excuses. "Faire la même chose", voilà bien un concept flou! Va falloir une page d'explication pour "faire", une autre pour "chose" et une troisième pour "même"!

Quand à la deuxième, le TOUT me semble particulièrement large, et, dans sa largesse, faux. Lire les travaux des neurobiologistes n'est-il pas savoir QUELQUE CHOSE sur la structure de son propre cerveau?

Cordialement,

[invite8915d466]

Pas d'accord. La notion de clone n'a pas besoin d'être si restrictive pour soulever les problèmes sémantiques sur la notion d'identité. Un clonage parfait sur support biologique (reproduction molécule par molécule) pose les mêmes problèmes sans supposer une identité "algorithmique" (juste du matérialisme pur sucre que tu as dis accepter dans des messages passés).

D'accord, si on savait faire une copie molécule par molécule, on aurait des problèmes. D'ailleurs , on peut deja se poser la question :lorsqu'une bactérie se divise, est ce que la bactérie parent est le même individu que une, ou deux, ou aucune des filles?

On est 100% d'accord , je l'ai deja dit : la notion d'identité est subjective et transactionnelle, elle n'est pas définie objectivement.

Comme on vit dans un monde réel ou on ne sait pas cloner l'esprit des individus , la définition actuelle de l'identité est simple et ne pose pas de problème : la continuité spatio-temporelle suffit à définir sans ambiguité la notion d'identité. Je ne jamais rien dit d'autre : ce n'est pas une définition de principe, c'est la définition adoptée consensuellement par la communauté humaine.

maintenant, si on admet que d'autres choses deviennent techniquement possible, ce serait tout autant affaire de convention de savoir si on accepte "d'identifier" un corps humain matériel à une autre réalisation matérielle. Je ne plaisantais pas avec la chauve-souris : dans les deux cas, c'est affaire de définition. Vous ne pouvez pas employer comme critère "indiscernable de l'esprit humain", parce que ce sera BIEN EVIDEMMENT toujours discernable par un moyen ou un autre. Par exemple on peut demander à la machine d'arrêter de respirer et de chronométrer l'évolution de son rythme cardiaque ! meme en cas de clonage moléculaire, comme on ne pourrait pas recréer le corps au meme endroit que l'original, encore une fois on pourrait restreindre la notion de même corps à la continuité spatiale - ou non.

Mais comme tout ce qui est affaire de convention, ça n'apporte rien au débat de savoir ce qui est physiquement réalisable ou non.

cordialement

Gilles

[invite8915d466]

Quel est le rapport entre la partie en rouge et ce qui précède? Cela me semble deux affirmations distinctes et sans relation. Ai-je trop d'imagination? ou pas assez?

La première affirmation reste assez gratuite, milles excuses. "Faire la même chose", voilà bien un concept flou! Va falloir une page d'explication pour "faire", une autre pour "chose" et une troisième pour "même"!

Quand à la deuxième, le TOUT me semble particulièrement large, et, dans sa largesse, faux. Lire les travaux des neurobiologistes n'est-il pas savoir QUELQUE CHOSE sur la structure de son propre cerveau?

Cordialement,

ce n'est pas plus flou que de parler de "l'identité" comme "indiscernabilité" entre une machine et un etre humain !

je dis que la solution proposée par Jiav d'une machine qui calcule de manière la plus précise possible l'état matériel du cerveau suppose qu'elle ait l'information sur cet état matériel, la connaissance des lois physiques (meca Q, ou peut etre la connaissance précise de TOUS les mecanismes biochimiques a l'oeuvre dans CHAQUE neurone), et que tout ceci n'a absolument rien a voir avec les opérations effectuées par le cerveau , qui ne traite que les informations sensorielles et n'a absolument aucune donnée sur son propre état.

Le cerveau et la machine qui le calcule ne font donc ABSOLUMENT pas une tâche analogue algorithmiquement.

[invite06fcc10b]

Comme on vit dans un monde réel ou on ne sait pas cloner l'esprit des individus , la définition actuelle de l'identité est simple et ne pose pas de problème : la continuité spatio-temporelle suffit à définir sans ambiguité la notion d'identité. Je ne jamais rien dit d'autre : ce n'est pas une définition de principe, c'est la définition adoptée consensuellement par la communauté humaine.

En informatique, on distingue clairement
1) Le type d'une variable, par exemple TPersonne, caractérisé par 2 propriétés, le nom et l'âge.
2) L'identificateur de la variable, par exemple Louis14 ou Jean23. Cet identificateur est par définition unique.
3) La valeur de la variable, en fait la valeur de chaque attribut si cette variable est structurée.
4) L'adresse de la variable.
Et on distingue aussi l'affectation de l'égalité, alors que les mathématiciens restent confus sur ce point en utilisant le signe = pour les 2 concepts. Et je crois qu'il y a aussi sur ce fil quelques malentendus sur ces points.
Bon, continuons.
Il est bien évident que si on a 1 personne d'un côté et 1 ordinateur (ou 1 autre personne) de l'autre, chacun est identifié par 2 identificateurs différents. La question intéressante concerne cependant le contenu et pas l'identificateur. Le contenu, c'est à dire les attributs de ces 2 instances peuvent-ils être identiques ?
On pourrait objecter qu'ils ne sont même pas de la même classe (ou pas du même type de variable pour faire simple). Mais le problème est mal posé car le cerveau d'un être humain n'a pas été formellement défini algorithmiquement.
Cependant, en langage objet, on utilise souvent des fonctions pour récupérer les valeurs des attributs ou pour les modifier, par exemple GetName et SetName.
La question, mieux posée, devient alors : est-il possible de définir des fonctions d'accès à la valeur des attributs telles que les valeurs retournées soient systématiquement les mêmes dans le cas de cerveaux humains et d'ordinateurs. (cela revient au même de définir des mesures physiques sur les 2 systèmes et de se demander s'il existe un moyen non intrusif de les différencier)
Attention, pour que cette comparaison soit honnête, il faut bien entendu donner les mêmes valeurs en entrée à chaque système. On peut cependant rétorquer que ceci n'est pas possible pour des raisons spatio-temporelles, pourquoi pas, mais dans ce cas, on ne prouve rien : on ne fait que rendre inopérante la procédure de différentiation, car la différence serait externe et non interne.

[invite73192618]

"A oui, elle-(moi-20) est très sympa. Je-20 ai des discussions passionnantes avec elle. Je-27 vois de nouveau, elle-(passé-relatif) s'est mariée. Et toi-(un-jour-dans-le-passé), la revois-tu depuis notre séparation?"

Pas mal un peu dans le même registre il y a "Terre et Fondation" d'Asimov: est-ce que tu/il/nous l'a lu?

Jiav, tu tournes en rond dans une mer de Sargasse de contradiction, sans t'en rendre compte!

Je t'ai déjà invité à expliquer toute contradiction que tu verrais dans mes raisonnements. A la place tu invoques une mer de Sargasse... c'est si difficile?

A mon avis, si tu admets ça, tu es perdu, parce que si tout est "turingable", tu ne peux pas expliquer l'intelligence du cerveau par une caractéristique particulière qui le distinguerait du reste des objets, puisque tu ne le distingues plus fondamentalement d'une soupe de légume

Ai-je dis que l'intelligence s'explique par sa turingabilité??

le computationnalisme n'est pas une théorie abouti qui répondrait à toute question sur l'intelligence. C'est simplement un socle très raisonnable à partir duquel il faut aller plus loin

Si tu te mets à m'inventer des assertions virtuelles, je commence à comprendre pourquoi tu vois des contradictions dans mon discours

je changerai d'avis quand Jiav m'aura proposé un mode opératoire CONCRET pour créer ce genre de "clone"

J'en serais surpris, puisque je t'ai déjà proposé plusieurs méthodes. M'enfin faut jamais désespérer
Méthode 1: greffer une enregistreur/stimulateur à chaque neurone, puis entraîner un réseau de neurone artificiel à produire les mêmes fonctions entrées(les pa à un temps t)/sorties (les pa à un temps t+1). Continuer la procédure jusqu'à prise en compte de la plasticité (de quelques jours à quelques semaines).
Méthode 2: acquérir des réponses comportementales et des signaux neuraux plus indirects (EEG, MEG, IRM), mais en augmentant drastiquement le nombre de modèles évalué. Éliminer les familles de réseaux implausibles en fonction des contraintes données par les réponses comportementales et les signaux indirects.
En pratique on finira probablement avec une combinaison de ces deux méthodes: des enregistrements pas aussi fin que les neurones individuels, et de la modélisation pour combler les détails non enregistrés/détecter les erreurs liées aux bruits.

[invite8915d466]

Il est bien évident que si on a 1 personne d'un côté et 1 ordinateur (ou 1 autre personne) de l'autre, chacun est identifié par 2 identificateurs différents. La question intéressante concerne cependant le contenu et pas l'identificateur. Le contenu, c'est à dire les attributs de ces 2 instances peuvent-ils être identiques ?

des fois, je me demande si on appartient à la même espèce, Argyre et moi....

tu connais le contenu informatique de ton identificateur , Argyre? tu peux me l'écrire en binaire stp?

[invite6b73e3e6]

Ce n’est pas sans timidité et sans mauvaise conscience que j’interviens dans ce débat. Sans timidité parce que beaucoup d’interventions reposent sur des connaissances en théorie de l’information que je n’ai pas du tout. Sans mauvaise conscience parce que ce fil compte plus de sept cents interventions et que je ne n’en ai pas lues soixante-dix.. Il me reste seulement à espérer que les deux remarques que je me risque à formuler ne seront pas superfétatoires.

La première remarque est pour m’étonner du débat lui-même. Il semble bien en effet qu’il soit sérieusement question ici de savoir si une machine cybernétique pourra ou non équivaloir à un être humain, partager avec lui une commune nature dont rien d’essentiel –et notamment pas la possibilité de libre-arbitre- ne la différentierait. Or il suffit d’entrer dans ce débat comme j’y entre moi-même, avec timidité et avec mauvaise conscience, pour le clore aussitôt. Car une machine ne sera jamais capable ni de timidité ni de mauvaise conscience. La timidité et la mauvaise conscience sont d’abord des malaises, des réalités de l’ordre du ressenti ou de la tension psychique qui ne sauraient exister davantage hors de la conscience que le plaisir, la douleur ou l’effort.

Ma deuxième remarque porte sur la question initiale de ce fil : « un ordinateur pensant serait-il doué de libre arbitre ? » Cette question bien sûr comporte le présupposé que l’être humain est doué de libre arbitre. Or précisément ce présupposé ne va pas de soi. Il y a même sur le forum Science de hardware.fr un fil qui comporte plus de 600 messages et qui s’intitule : « le libre arbitre n’existe pas ». Je suis moi-même intervenu brièvement sur ce fil. J’y défendais une conception du libre arbitre avec ce que j’appelais la « liberté dans l’effort » et j’écrivais ceci :

« En matière de liberté "en acte" ou "dans l'effort", les preuves sont très difficiles à établir. D'abord les repères changent. J'ai arrêté de fumer il y a trois ans. L'effort que je fais aujourd'hui pour ne pas prendre une cigarette (surtout pour ne pas bourrer une bonne pipe !) est minime à côté de celui que j'ai fourni le premier jour. Ensuite l'état de liberté est par nature fini. Ce n'est que par métaphore que l'on dit fournir un effort "surhumain". Si l'on était capable de fournir un effort infini, il n'y aurait plus de liberté par l'effort: vouloir et pouvoir seraient tout un. L'effort est toujours près du relâchement. La liberté vit dans sa menace perpétuelle. Mais justement l'existence même de cette menace certifie la réalité de la liberté. Elle est pour moi ni nulle ni infinie. Elle existe dans le mystère même de sa finitude… »

Or, cette forme de liberté-là qui constitue pour moi la liberté humaine et -parce que je n’en connais pas d’autres- la liberté tout court, comment pourrait-elle se retrouver dans une machine ?
Mais si l’on confond liberté de l’action et imprévisibilité de l’action, on pourrait arriver bien sûr à une conclusion toute différente. Certains ont bien montré ici que la complexité que pouvaient atteindre les circuits intégrés de l’ordinateur et par conséquent celle des algorithmes, l’existence même des boucles de rétroaction, l’introduction inévitable du hasard à un moment ou à l’autre faisaient que le comportement d’un robot commandé par une machine cybernétique autonome pouvait très bien être imprévisible. On pourrait en revanche avancer que plus un être humain est libre par sa force morale et plus son comportement est prévisible. On peut compter sur qui a montré force de caractère ou de vertu plus que sur les autres. Telle n’est pas le moindre paradoxe de la vraie liberté humaine et qui la fait par nature si différente du caprice des machines. Chanceuses machines qui échappent définitivement à l’épreuve de la conscience !…

[invité576543]

(...)

Bonsoir,

Le problème de ce débat est que chacun y rentre avec des idées préconçues, et je ne m'exonère pas de ce défaut! Alors je me permet dans des remarques qui suivent d'extraire les phrases qui acchoppent, celles qui demandent d'amples justifications. Je ne cherche pas à dire qu'elles sont correctes ou non, juste qu'on ne peut pas se permettre, à mon avis, de se contenter de les affirmer comme des évidences.

Car une machine ne sera jamais capable ni de timidité ni de mauvaise conscience.

Pourquoi?

La timidité et la mauvaise conscience sont d’abord des malaises, des réalités de l’ordre du ressenti ou de la tension psychique qui ne sauraient exister davantage hors de la conscience que le plaisir, la douleur ou l’effort.

Il me semble qu'il y a problème tant dans l'affirmation elle-même (par exemple douleur/plaisir me semble acceptable comme sentiment chez des animaux que la plupart ne considèrent pas conscients) que dans sa portée comme explication au précédent (ça lie les sentiments à la conscience, mais quel rapport avec les machines? J'imagine que c'est lié au rapport entre machine et conscience, mais ça fait partie des hypothèses discutées!).

Cette question bien sûr comporte le présupposé que l’être humain est doué de libre arbitre. Or précisément ce présupposé ne va pas de soi. Il y a même sur le forum Science de hardware.fr un fil qui comporte plus de 600 messages et qui s’intitule : « le libre arbitre n’existe pas ».

Dès le début du fil, il a été plus ou moins convenu qu'on fera "comme si". On accepte le présupposé, et on voit où ça va...

Or, cette forme de liberté-là qui constitue pour moi la liberté humaine et -parce que je n’en connais pas d’autres- la liberté tout court, comment pourrait-elle se retrouver dans une machine ?

Comment se retrouve-t-elle dans l'humain? Une fois qu'on aura répondu à cela, il faut en extraire une raison qui exclut les machines. Pas simple...

Mais si l’on confond liberté de l’action et imprévisibilité de l’action, on pourrait arriver bien sûr à une conclusion toute différente. (...) Telle n’est pas le moindre paradoxe de la vraie liberté humaine et qui la fait par nature si différente du caprice des machines. Chanceuses machines qui échappent définitivement à l’épreuve de la conscience !…

La question est si elles y échapperont définitivement! Parce qu'il serait intrinsèque qu'elles y échappent? Peut-être, mais il faudrait le montrer... Que ces descriptions s'appliquent aux humains actuels (et encore, à partir d'un certain âge... L'embryon n'a certainement pas tous les attributs décrits) et aux machines actuelles, personne n'en disconvient dans ce fil (enfin je crois). La question est si cela est intrinsèque, ou juste temporaire...

Cordialement,

[invite6b73e3e6]

Il me semble qu'il y a problème tant dans l'affirmation elle-même (par exemple douleur/plaisir me semble acceptable comme sentiment chez des animaux que la plupart ne considèrent pas conscients) que dans sa portée comme explication au précédent (ça lie les sentiments à la conscience, mais quel rapport avec les machines? J'imagine que c'est lié au rapport entre machine et conscience, mais ça fait partie des hypothèses discutées!).

Je suis venu ici avec timidité et mauvaise conscience, j’ai oublié la circonspection. Mal m’en a pris. Mmy, tu me prends de cours. De quoi s’agit-il au fond ? de justifier que le malaise, le mal-être, donc la douleur est le propre de l’animal (bien entendu que ces pauvres animaux souffrent comme nous et probablement depuis le début de leur règne !) et il faudrait pour cela expliquer ce que c’est que la douleur, l’expliquer de façon bien rationnelle comme tout discours qu’on est ici disposé à entendre. Eh bien, tu vois, je l’avoue, je ne sais pas. Je passe la main sur cette flamme de bougie près de moi. Une fine douleur ripe ma peau. Je la maintiens juste le temps de sentir sourdre au creux de ma paume l’atrocité sans nom de la brûlure. Et que pourrais-je faire d’autre que de hurler comme une bète pour prouver l’existence de cette douleur ? Et mon hurlement, l’entendrais-tu, que tu ne serais pas forcé de croire à la réalité de ce qui le provoque. Y croirais-tu que tu ne saurais même pas quelle forme exacte a cette réalité sans refaire exactement mon geste. Mais, mieux inspiré, Mmy, même si je trouvais un discours rationnel pour établir l’existence de ma douleur et la spécificité de son sens, je crois que je répugnerais à l’employer. Car ce discours-là, fait d’enchaînement logique de propositions, me placerait dans un monde abstrait qui est peut-être celui-là même justement où existent les opérations et le langage des machines et où ma douleur, où la douleur est à jamais dépourvue de sens. En somme mon discours se placerait dans le monde même propre à l’anéantir. . .

[invité576543]

Bonjour,

Je suis venu ici avec timidité et mauvaise conscience, j’ai oublié la circonspection. Mal m’en a pris. Mmy, tu me prends de cours. De quoi s’agit-il au fond ? de justifier que le malaise, le mal-être, donc la douleur est le propre de l’animal (bien entendu que ces pauvres animaux souffrent comme nous et probablement depuis le début de leur règne !) et il faudrait pour cela expliquer ce que c’est que la douleur, l’expliquer de façon bien rationnelle comme tout discours qu’on est ici disposé à entendre. Eh bien, tu vois, je l’avoue, je ne sais pas.

Mais moi non plus! Une bonne partie de la discussion porte sur des problèmes de ce genre! D'un côté on a des observations obtenues par introspection (douleur, malaise, etc.), de l'autre de "bêtes algorithmes". Les notions introspectives étant justement introspectives, il y a un camp qui refuse l'attribution de ces notions sur la simple constatation du comportement extérieur. Ce camp exige une similarité plus profonde que ce comportement extérieur. Mais cela oblige d'imaginer (la neuro n'ayant pas encore expliqué tous les détails) comment ça marche. Certains disent c'est algorithmique, et toutes les notions introspectives ne sont que des propriétés émergentes de ces algorithmes, et donc émergeront si on implante l'algorithme sur un support matériel différent, d'autres n'acceptent pas cette idée.

S'il y a manque de circonspection dans ton écrit, il me semble que le même manque est ambiant dans toute la discussion ou presque.

Mais, mieux inspiré, Mmy, même si je trouvais un discours rationnel pour établir l’existence de ma douleur et la spécificité de son sens, je crois que je répugnerais à l’employer. Car ce discours-là, fait d’enchaînement logique de propositions, me placerait dans un monde abstrait qui est peut-être celui-là même justement où existent les opérations et le langage des machines et où ma douleur, où la douleur est à jamais dépourvue de sens. En somme mon discours se placerait dans le monde même propre à l’anéantir. . .

Là tu mets le doigt sur un autre problème, qui est au-dessus du sujet de la discussion lui-même, mais qui interfère nécessairement. C'est le problème de l'image que les humains se font d'eux-mêmes, collectivement et individuellement. Il y a manisfestement une répulsion à une vision mécanique de nous-mêmes. Et, comme tu le présentes, la difficulté est dans le sens de la vie.

Le raisonnement sous-jacent (que je ne partage pas nécessairement) est en gros, caricaturé:

Les humains (leurs actions, leurs sentiments, ...) ont un "sens" par eux-même, alors que les machines n'ont que le sens qu'on leur donne. Les deux sont incompatibles, et ça entraîne la conclusion. Examinons les prémisses. Que les machines aient un sens autre que celui qu'on leur donne, c'est inacceptable, soit directement (nous les construisons, donc nous en donnons le sens), ou par répulsion vis-à-vis des conséquences (mythe de Frankestein, si les machines ont un sens autre que celui qu'on leur donne, alors nous, humains, perdont le contrôle, et elles vont nous dominer, nous détruire). De l'autre côté, le sens de la vie des humains est soit "insufflé" par un concepteur (approche religieuse) et ce ne peut pas être comparable au sens que les humains donnent aux machines, soit il vient d'on se sait où mais il existe et est "spécial" (approche agnostique courante), soit il n'existe pas (pas acceptable).


En résumé, qu'une machine construite par les humains se compare aux humains, et le choix perçu par beaucoup est entre Frankestein et l'absence du sens de la vie. Aucune des conséquences perçues n'étant acceptable, on refuse la prémisse. La rationalisation du raisonnement vient après, souvent...

Autre résumé, une grande partie de la discussion, sous couvert de discuter une question scientifique, cache une discussion philosophique sur le sens de la vie humaine.

Cordialement,

[invite8915d466]

D'accord avec toi Mmy, qu'on se laisse probablement très souvent entraîné par des contraintes psychologiques qui sont plus importantes pour forger les opinions que les faits scientifiques eux-mêmes. J'espère ne pas trop tomber dans ce travers justement, et c'est pour cela que j'insiste pour que les positions "fortes" (i.e. restrictives) soient justifiées par des données concrètes, et non des envies ou des fantasmes.

On m'a souvent répondu :"On ne peut pas prouver que le cerveau est algorithmique , mais tu ne peux pas prouver qu'il ne le soit pas".

dans d'autres fils, j'ai eu des remarques du même genre "On n'a pas vraiment de preuve que les extraterrestres expliquent les OVNIs, mais tu ne peux pas prouver le contraire".

ou " tu ne peux pas prouver que l'evolution n'est pas due au hasard"

etc...

Je voudrais insister sur le fait que toutes ces phrases sont épistémologiquement inacceptables : c'est à celui qui fait une hypothèse forte d'en apporter, sinon une preuve absolue, du moins un argument très convainquant , c'est à dire d'exhiber un fait qui resterait inexplicable en l'absence de cette hypothèse.

Ainsi, je n'ai aucun fait permettant de penser que simuler des neurones en train de penser fasse une machine pensante, j'ai des arguments pour penser le contraire, puisque je soulève le fait que l'algorithme utilisé par la machine (qui devrait traiter l'information microscopique des neurones) n'a rien a voir avec l'activité cérébrale, qui ne fait aucune opération de ce genre. Par exemple, exactement le même algorithme pourrait de manière aveugle calculer le cerveau en état de mort cérébrale, avec juste des paramètres numériques qui auraient changer. Est-il realiste de penser qu'un même programme, faisant les memes opérations, mais avec quelques valeurs numériques de différences, soit "conscient" dans un cas et "inconscient dans l'autre"?

Ce n'est pas un argument de foi, c'est une objection qui me parait scientifique, à laquelle j'attends une réponse de même nature.

Cordialement

Gilles

[invite6b73e3e6]

Bonjour,



. Certains disent c'est algorithmique, et toutes les notions introspectives ne sont que des propriétés émergentes de ces algorithmes, et donc émergeront si on implante l'algorithme sur un support matériel différent, d'autres n'acceptent pas cette idée.

Cordialement,

Bonjour,

Ce que je cite me paraît le juste constat de la divergence essentielle qui nous oppose. Je conviens également que le succès de ce fil est lié au fait qu'il touche à la conception première de la conscience, conception sur laquelle je détaille ailleurs mon point de vue.
Cordialement,

Clément

[inviteb271042d]

Bonjour,

Rapidement pour remarquer que la critique une "vision" algorithmique de l'esprit n'est pas forcément due à une gène vis à vis d'une conception mécaniste du vivant.

Dans moins cas c'est plutot que je trouve que les théories "mécanistes" ou plutot algorithmique sont surtout des théories simplistes dans la présentation, dans l'image qu'elle s proposent du leur sujet d'étude.

Et, ne venez pas me dire qu'un algorithme peut etre aussi complexe que l'on veut : c'est en partie grace à çà que je gagne ma vie . En corrigeant les erreurs j'en perçoit aussi les limites.

Pour prendre un exemple "mecaniste" il me semble que la présentation uniquement algorithmique de l'esprit c'est un peu comme si on s'extasiait devant la complexité des presses et des haut-fourneaux ayant servi à la création des premières machines à vapeurs, sans se rendre compte qu'il manque à ces premières machines un régulateur.

Pour revenr vers des informations plus concrètes regardez le dernier numéro de scientific america mind on y présente l'actualité de l'homme ayant inspiré le film "rain man".
L'imagerie interne de son cerveau, page 54 de l'article, comparée à celle d'un cerveau "normal" explique mieux que 40 pages de discussions à quel point nous savons peut de choses sur le fonctionnement matériel de l'esprit.
Rq :Kim Peek, bien qu'ayant un cerveau abimé depuis la naissance a été capable de mémorisé environ 9000 ouvrages et, contrairement à l'imagerie populaire des idiots savants, est capable d'améliorer sa compréhension abstraite :

http://www.savantsyndrome.com

http://www.sciammind.com/article.cfm...AA83414B7F0000

[inviteb271042d]

Comme personne n'a manifesté d'intérêt sur les possibilités des biotechnologies pour le traitement de l'information voici le lien vers scientific american :

http://www.sciam.com/article.cfm?cha...F983414B7F0000

[invité576543]

Ainsi, je n'ai aucun fait permettant de penser que simuler des neurones en train de penser fasse une machine pensante, j'ai des arguments pour penser le contraire, puisque je soulève le fait que l'algorithme utilisé par la machine (qui devrait traiter l'information microscopique des neurones) n'a rien a voir avec l'activité cérébrale, qui ne fait aucune opération de ce genre. Par exemple, exactement le même algorithme pourrait de manière aveugle calculer le cerveau en état de mort cérébrale, avec juste des paramètres numériques qui auraient changer. Est-il realiste de penser qu'un même programme, faisant les memes opérations, mais avec quelques valeurs numériques de différences, soit "conscient" dans un cas et "inconscient dans l'autre"?

Bonjour,

Question préliminaire: Est-il acceptable scientifiquement de dire qu'un calculateur analogique "fait une addition" quand on appuie sur la succession idoine de touches et qu'une liste de symboles représentant des chiffres s'affiche sur l'écran?

(Note: je mets volontairement calculateur analogique pour que ce ne soit pas "algorithmique", pour virer ce point récurrent mais que je trouve -mon opinion- superfétatoire. On peut changer en "numérique", ou en "numérique ou analogique", pour moi c'est non pertinent.)

La suite est valable si on répond oui à cette question. Si la réponse est non, merci d'élaborer, ça nous approchera peut-être de la compréhension de "faire quelque chose", étape nécessaire avant d'attaquer "faire la même chose".

Question: Est-ce qu'une simulation numérique d'une calculatrice analogique faisant une addition fait une addition?

Si oui:

Le même algorithme simule une calculatrice hors tension. Elle ne fait pas d'addition, alors. Un même programme, faisant les mêmes opérations, soit fait une addition soit ne la fait pas, ça ne pose pas de problème. En quoi le cas du cerveau serait différent?

Si non:

Quelle est la particularité de "faire une addition" qui est réalisée dans le cas de la calculatrice mais pas dans le cas de la simulation de la calculatrice?

Cordialement,

[inviteb271042d]

Bonjour,
...
Quelle est la particularité de "faire une addition" qui est réalisée dans le cas de la calculatrice mais pas dans le cas de la simulation de la calculatrice?

Cordialement,

Comme déjà évoqué dans plusieurs post il me semble que ce dont tu parles c'est "une addition".

Ce qu'exécute matériellement une machine c'est des transferts électriques ( pour simplifier ).

La différence, et le passage de l'acte au sens, est réalisé ( pour l'addition comme pour d'autres aspect de la vie intellectuelle ) par la culture et par l'éducation.

La premiere partie de l'éducation, celle du foetus et de l'enfant en bas age, consiste en la découverte et l'assimilation du monde physique.
Cette "découverte" se fait par l'intermédiaire du corps ( les coups de pied du foetus dans le ventre de la mère par exemple ), l'apprentissage des possibilités et des contraintes de l'équilibre, de la gestuelle etc, etc.
Tout celà va bien avant toute opération un tant soit peu intellectuelle comme une opération sur de petits chiffres ( environ < 4 ), les dernières infos que j'ai lues semblant indiquer que cette étape ( ébauche d'une manipulation des quantités ) commençant vers 6 mois.
Les algos présentés jusqu'à présent me semblent très très loin de toute cette démarche.
Comme je l'ai écrit ces algorithmes me semblent largement se diriger vers un comportement soit d'idiot savant ( plein de déductions mais peu de contacts pratiques ) soit un comportement autistique.
Je ne critique pas l'approche algorithmique, j'en critique les veilléïtés d'universalime dans les démarches pour reproduire des comportements autonomes par des machines.

Cordialement

[inviteb271042d]

Pour prolonger et préciser toutes ces informations :

http://www.eyrolles.com/Sciences/Liv...35bfbb964e5d19

Petit livre très interessants sur tous ces sujets.

Pour les accros le mieux est de le lire en parallèle avec, par exemple :

http://www.eyrolles.com/Sciences/Liv...e-neurones.php
( livre dont je poursuis la lecture, sans toujours reussir a rattraper les sujets, depuis les echanges avec Argyre lors du precedant debat sur l'IA )

Comme rien ne vaut de mettre les mains dans la mecanique pour comprendre car ce livre est fourni avec une application et un modèle objet en Java.:
http://www.eyrolles.com/Sciences/Liv...-neuronaux.php
( ce livre me semble plus accessible sur la notion d'auto organisation .)


Peut etre moins rigoureux mais tout aussi interessant :
http://www.eyrolles.com/Sciences/Liv...sibilities.php

[invite6b73e3e6]

Beaucoup d’incompréhensions ici me semblent venir du fait qu’on confond trois choses : l’activité du cerveau, la pensée et la conscience. Mon idée est que si la pensée se développe à partir de la représentation d’un objet de pensée dans le champ de la conscience, si elle conduit à un résultat qui s’appréhende également dans ce champ, elle s’élabore hors champ dans l’activité cybernétique du cerveau. Ma pensée en tant que processus intellectuel pur, opération au sens mathématique ou logique du terme, n’est pas présente à ma conscience. Je ressens sous forme agréable ou désagréable ( me donnant ainsi peut-être l’intuition de leur justesse ou de leur fausseté) les résultats d’une opération effectuée en fonction d’une énergie que j’insuffle mais dont je n’aperçois pas le travail intermédiaire. Entre ma volonté parfois soulevée d’enthousiasme ou soutenue laborieusement par l’effort et le sentiment plus ou moins mitigé d’adhésion ou de rejet que le résultat de son action me donne, la pensée comme opération intellectuelle pure ou, si l’on préfère, comme opération cybernétique m’échappe totalement. Ca pense en moi, ça pense pour moi mais, au sens strict du terme, je n’ai jamais pensé. Bien sûr j’ai pu contrôler ma pensée (pas toujours cependant) multiplier les phases de conclusions intermédiaires où agit ce qu’on appelle notre jugement et qui n’est jamais que notre sentiment mais même la première phase démarre souvent de façon spontanée. On se surprend à penser. Tout cela pour dire que conscience et pensée sont pour moi deux réalités absolument distinctes. Et que dire qu’une machine puisse penser ne me gène pas du tout. La phrase de Descartes : je pense donc je suis m’a toujours semblé impertinente. Je sens donc je suis, je m’efforce donc je suis, voilà qui me convient beaucoup mieux…

[inviteb271042d]

Enfin pour toucher la différence entre l'approche théorique via les M.T. des algorithmes et la triste réalité, infiniment plus complexe et pénible :

http://www.eyrolles.com/Informatique...ng-in-java.php

http://www.eyrolles.com/Informatique...ithreading.php

http://www.eyrolles.com/Informatique...oncurrency.php

Ce qui est pénible au sujet de l'I.A. mais aussi ce qui la rend interessante c'est que le sujet est au confluent de la pschologie, de la médecine ( pour faire large ) et de l'nformatique :

Et qu'en ce qui concerne tant la biologie que l'informatique il faut prendre garde tant aux détails d'implémentation qu'aux schémas d'ensemble.

Cordialement.

[inviteb271042d]

Ma pensée en tant que processus intellectuel pur, opération au sens mathématique ou logique du terme, n’est pas présente à ma conscience. Je ressens sous forme agréable ou désagréable

Pour tenter de resumer mon opinion, née du problème que tu exprime très bien ( "on se surprend à penser" ) Il me semble que peut être que notre pensée s'exerce grace à des algorithmes.

Mais que si je ressens que je pense et surtout si je resens les résultats de mes pensées, via les émotions et la conscience, c'est parce que mes processus de pensés sont reliés au support biochimique, tant au départ qu'à l'arrivée ainsi que durant le process de pensée.

Tant que le lien entre l'algorithmie et le support d'une éventuelle pensée artificielle ne sera pas très nettement améliorée par rapport à l'existant je ne pense pas qu'une I.A. de quelque niveau que ce soit puisse voir le jour.

Cordialement

[invite8915d466]

Quelle est la particularité de "faire une addition" qui est réalisée dans le cas de la calculatrice mais pas dans le cas de la simulation de la calculatrice?

Cordialement,

Mmy , la réponse est extrêmement simple : c'est parce que "faire une addition" est une opération qui EST algorithmique. Autrement dit, par nature, elle se formalise par des algorithmes qui executent cette tache.

Une machine analogique PEUT executer des algorithmes, parce que le monde des algorithmes est bien plus restreint que le monde des processus physiques.

C'est la deduction inverse qui n'est pas vraie : que tout système gérant de l'information est nécessairement algorithmique. La plupart des notions mentales (celles que Clément Dousset rappelle : douleur, amour, ....) ne sont a mon avis simplement pas de nature algorithmique. En tout cas, il faudrait un argument SOLIDE pour le défendre, et je n'en ai pas encore vu.

[invité576543]

Tant que le lien entre l'algorithmie et le support d'une éventuelle pensée artificielle ne sera pas très nettement améliorée par rapport à l'existant je ne pense pas qu'une I.A. de quelque niveau que ce soit puisse voir le jour.

Bonjour,

Dans ce texte et dans d'autres interventions, tu parles des techniques de programmation actuelles, des machines actuelles. Je me demande si tu n'enfonce pas une porte ouverte. Il me semble que le débat ne porte pas sur l'idée qu'un "ordinateur pensant faisant preuve de libre-arbitre" soit faisable avec les techniques matérielles et logicielles actuelles. Mais s'il y a un obstacle rationnel à ce que ce soit faisable tout court, en extrapolant à partir des techniques actuelles.

Pour moi, ce dont nous discutons est similaire à discuter en 1880 de la possibilité d'un A380 ou d'une mission sur Mars. Que valent a posteriori es arguments en 1880 du genre "regarder ce qu'on arrive à faire dans le domaine des moteurs, ou dans le domaine de la portance, et vous vooyez bien qu'il est impossible de faire un plus lourd que l'air qui transporte 800 personnes sur 10000 km".

Le traitement artificiel de l'information est une technique très très jeune, et, à mon avis, très très loin de sa maturité. Le futur va mettre bon ordre à pas mal d'arguments développés dans cette discussion et d'autres...

La question pertinente qui découle de ton argument est, penses-tu que ce "lien s'améliorera un jour"?

Cordialement,

[inviteb271042d]

mmy,

Pour faire court je ne reprend pas ton dernier texte.

Mais effectivement, avec les réserves que tu formules sur l'état de la technologie je ne peux qu'être d'accord.

Seulement de très nombreux arguments dans cette discussion comme dans les précedentes sur l'I.A. expriment clairement la certitude que l'intelligence et la conscience sont de nature algorithmique ET que la nature du support de ces algorithmes n'importe pas.

Là par contre je suis en désaccord total.

Pour reprendre ton exemple aéronautique, défendre l'opinion que les algorithmes suffiront à obtenir une IA et que la nature du support ne compte pas s'apparente plutot pour moi à défendre l'idée que les vols supersoniques transatlantiques avec des moteurs à explosions faisant tourner une hélice sont faisables sous prétexte que Blériot vient de traverser la Manche.

La robotique et l'électronique font de plus en plus de progrès aboutissant à des automates ( des robots quoi ) de plus en plus perfectionnés.
Ces robots vont, dans les prochaines décennies, sortir des usines pour être employés dans des environnements moins regulés, plus libres .
Cette extension de l'emploi de la robotique va, amha, largement montrer à la fois les possibilités étonnantes des algorithmes de l'IA actuelle mais aussi leurs limites.

Tiens un exemple, si les capacités d'autonomie d'un robot sont basées sur un réseau neuronal multi couches
comment gère t on la reprise d'activité ? Pour une exploitation en temps réel d'un réseau neuronal qu'est ce qui joue le role joué par les fichiers redo d'une base oracle ou par le journal after d'un moniteur transactionnel ?

Cordialement