Reproduction des fonctions cognitives du système nerveux

[karlp]

Il existe un texte de Pierre Cassou Noguès sur la différence entre les critères de Descartes vs ceux de K Dick, sur ce qui permettrait de différencier un homme d'une machine. Je vais essayer de le retrouver.
-----

[NicoC14]

Pourquoi? Vous trouveriez absurde qu'un Européen vivant au XIVème ait pensé qu'il ne serait jamais le cas qu'on parle instantanément ou presque avec quelqu'un à l'autre bout de planète? (Et il doit y avoir de meilleurs exemples, pas dur!)

Ce n'est pas une critique de MH, ou de ceux qui pensent pareil. C'est juste pour dire qu'il n'y a rien d'absurde à être sceptique à propos d'une possibilité technique jamais vue.

C'est une position qui se tient, et qui n'est pas "discutable", par construction.

Effectivement, je trouverais ça absurde.
Etre sceptique c'est une chose, refusé la plus petite probabilité que quelque chose dont on ne sait rien puisse se produire, avec autant de conditionnels que l'on veut, la chance la plus ridicule que ça se produise, dans un temps presque infini, c'est, excusez moi, être obtus.
La notion de jamais appliquée au futur me dérange quelque peu.

Concernant mon message 207, j'aimerais en fait quand même poser une question.
Comment se pourrait-il que si on recrée physiquement une personne à l'identique, sa mémoire ne soit pas la même ?
Que les deux personnes, ensuite, évoluent immédiatement après la copie de façon différente, c'est tout à fait normal.

Mais que deux choses identiques ne le soient pas, je demande votre avis

[mh34]

Non justement. Uniquement d'activité dont on pense a priori (faute justement de contre-exemples) qu'elle requièrent cette sensibilité, etc.

Non ce n'est pas un à-priori, c'est une observation. Suivant l'état d'esprit de l'interprète, l'interprétation pourra être très différente. Sinon, quel intérêt de ré-enregistrer les mêmes œuvres avec le même interprète?

[noir_ecaille]

Le talent, c'est un peu d'idiosyncrasie, non ?

Une machine peut-elle être idiosyncrasique ou est-elle condamnée à faire ce qu'on attend d'elle ? Dans le sens : hormis des bugs.

[Amanuensis]

Le talent, c'est un peu d'idiosyncrasie, non ?

Une machine peut-elle être idiosyncrasique ou est-elle condamnée à faire ce qu'on attend d'elle ?

Nombre de personnes acceptent que les logiciels jouant aux échecs au plus haut niveau font preuve d’idiosyncrasie. Et ont un certain "talent" (ils gagnent ).

Et ils sont condamnés à faire ce qu'on attend d'eux: jouer pour gagner.

[Amanuensis]

Non ce n'est pas un à-priori, c'est une observation.

Le sensibilité n'est pas observée directement. Seul le comportement est observé. L'inférence permettant de passer du comportement observé (l'interprétation, les différences entre interprétation, etc.) à une notion de "sensibilité", ou "d'état d'esprit" met en jeu différents a priori.

C'est une difficulté inhérente à tous les concepts dont l'origine est essentiellement l'introspection. Utiliser ces concepts dans la comparaison entre humain et autre chose (machine, animal, ...) bute toujours sur cette difficulté.

[mh34]

L'inférence permettant de passer du comportement observé (l'interprétation, les différences entre interprétation, etc.) à une notion de "sensibilité" met en jeu différents a priori.

Entre autres celui de savoir qu'on a un autre être humain en face de soi...à qui l'on attribue"à priori" les mêmes capacités émotionnelles que les nôtres ( capacités émotionnelles dont dépendent nos fonctions cognitives, soit dit en passant!).
Et si on ne peut/sait même pas observer directement cette sensibilité, comment peut-on seulement imaginer la reproduire?

[JPL]

Je ne comprends pas.
Vous pensez donc que si artificiellement, on vous reproduisait physiquement à l'identique (jusqu'au plus petit détail), ce sera une personne fondamentalement différente de vous ?

Deux jumeaux monozygotes sont-ils la même personne ? Ont-ils toujours les mêmes aspirations ? Oui ils sont différents.

De toutes façons c'est de la rhétorique faisant appel à un argument du type : si ma tante en avait...

Bref personnellement je me crois scientifique mais pas scientiste et je vois ici beaucoup de scientisme.

[Amanuensis]

Entre autres celui de savoir qu'on a un autre être humain en face de soi...à qui l'on attribue"à priori" les mêmes capacités émotionnelles que les nôtres ( capacités émotionnelles dont dépendent nos fonctions cognitives, soit dit en passant!).

Oui, c'est bien cela dont je parle.

Et si on ne peut/sait même pas observer directement cette sensibilité, comment peut-on seulement imaginer la reproduire?

C'est toute la difficulté du mot "reproduire" dans cette discussion.

Il suffit de considérer ce terme d'une façon si étroite qu'elle ne laisse comme seule possibilité l'identité totale, et on conclut alors (étonnant...) qu'une machine ne peut pas "reproduire".

À l'opposé, si on se contente des effets à partir desquels on infère telle ou telle propriété pour dire qu'elle est "reproduite", eh bien certains concluent que cela peut être possible.

On n'a pas besoin d'observer directement quelque chose pour en reproduire les effets, y compris l'intégralité des effets sur lesquels on se base pour parler du quelque chose jamais observé directement.

[noir_ecaille]

Nombre de personnes acceptent que les logiciels jouant aux échecs au plus haut niveau font preuve d’idiosyncrasie. Et ont un certain "talent" (ils gagnent ).

Et ils sont condamnés à faire ce qu'on attend d'eux: jouer pour gagner.

Intéressant.

Rendre les machines plus "humaines" pourrait-il passer par un panel idiosyncrasique plus varié ?

[Autisme]

Bonjour,

Le cerveau évolue au fil du temps la ou un microprocesseur reste le même.
Il y a aussi les émotions et les éventements extérieurs qui influent sur le fonctionnement du cerveau.

On ne joue pas de la même façon aux échecs lorsque l'on est à la maison que lorsque l'on est aux répétitions du prochain concert d'AC/DC.
Pour un PC, du moment qu'il a de l'électricité : Son mode de fonctionnement reste identique.

Tout ça pour dire que tant que les PC n'aimeront pas le hard rock, ils ne seront pas humains

D'un autre côté...
La pensée humaine est modélisable...
Il serait donc possible de créer une machine donnant l'illusion d'être humaine...
Ou plutôt qui donnerait l'impression d'avoir une pensée de type humaine.

Au plaisir,
Marian

[noir_ecaille]

Tout dépend ce qu'on entend par "modélisable" et "pensée".

On sait mieux modéliser des comportements en science. Ce n'est pas exactement la même chose -- cf échanges supra à propos de la sensibilité.

[mh34]

si on se contente des effets à partir desquels on infère telle ou telle propriété pour dire qu'elle est "reproduite", eh bien certains concluent que cela peut être possible.
On n'a pas besoin d'observer directement quelque chose pour en reproduire les effets, y compris l'intégralité des effets sur lesquels on se base pour parler du quelque chose jamais observé directement.

Ca marche avec un acteur humain qui dispose des mêmes moyens d'expression que les autres humains. Cela peut-il marcher avec un ordinateur?

[Autisme]

Je suis en train d'écouter des polyphonies Corses
Parce que j'aime bien écouter des polyphonies Corses

La question à 1 million est :
Un PC peut il "aimer bien" quelque chose ?

Peut-on modéliser les sensations intrapsychiques ?

[Amanuensis]

Rendre les machines plus "humaines" pourrait-il passer par un panel idiosyncrasique plus varié ?

Mais est-ce un but?

Dans le cas des logiciels d'échec, cela vient de ce que leur jeu n'est pas "programmé". Il est le résultat d'une combinaison entre un programme et une immense "connaissance" (base de données), acquise progressivement par analyse de parties jouées dans le passé, ou de parties jouées "à l'entraînement". On peut faire là un parallèle (qui vaut ce qu'il vaut, c'est juste une illustration) entre l'inné et l'acquis chez les animaux (humains compris).

Sur cette base, on peut se dire (que ce soit acceptable ou pas) que des logiciels futurs suivant le même schéma (programme + base de connaissance acquise "par l'expérience") pourraient présenter une "idiosyncrasie".

En paraîtrait plus "humaines"? J'en doute. Mais aussi je doute que ce soit un critère, ou un but. Une fonction cognitive "avancée" sera reconnue, acceptée par les humains comme telle parce qu'ils (et quand ils) l'observeront comme telle ; l'idée que "paraître humaines" ait une quelconque importance pour une telle reconnaissance n'est qu'un argument rhétorique dans des discussions antérieures à cette reconnaissance.

C'est un peu l'idée qui était derrière la citation que j'ai donnée d'un bouquin de SF. Dans le livre, l'IA fait preuve d'une forme d'humour (et de pas mal d'idiosyncrasies), mais ce n'est pas pour cela que les humains y voient autre chose qu'une machine. Ils l'acceptent pour ce qu'elle est, y compris son indéniable supériorité cognitive (1), et le sens de l'humour (et autre) n'a pas pour but de les tromper, juste de faciliter l'interaction entre l'IA et les humains.

(1) Tant en connaissance, mais ça c'est facile, qu'en résolution de problème, qu'en capacité de proposer des "bon choix" dans un environnement que la machine découvre.

Cette anticipation me paraît bien plus crédible que les "possibilités ou impossibilités futures" avancées dans ce fil à des fins essentiellement d'argument pour une position idéologique ou une autre. Elle met en avant un certain pragmatisme, et présente comme de peu de pertinence la question philosophique de la "reproductibilité".

[invite6754323456711]

Peut-on modéliser les sensations intrapsychiques ?

C'est l'idéologie des fonctionnalistes/Computationnalistes. La contrainte est qu'il faut un aspect extérieur perceptible par nous humain. En fait c'est ce qui est modéliser avec la contrainte supplémentaire que cela puisse s'exprimer dans la syntaxe d'un langage informatique.

Patrick

[mh34]

C'est un peu l'idée qui était derrière la citation que j'ai donnée d'un bouquin de SF. Dans le livre, l'IA fait preuve d'une forme d'humour (et de pas mal d'idiosyncrasies), mais ce n'est pas pour cela que les humains y voient autre chose qu'une machine. Ils l'acceptent pour ce qu'elle est, y compris son indéniable supériorité cognitive (1), et le sens de l'humour (et autre) n'a pas pour but de les tromper, juste de faciliter l'interaction entre l'IA et les humains.

(1) Tant en connaissance, mais ça c'est facile, qu'en résolution de problème, qu'en capacité de proposer des "bon choix" dans un environnement que la machine découvre.

Cette anticipation me paraît bien plus crédible que les "possibilités ou impossibilités futures" avancées dans ce fil à des fins essentiellement d'argument pour une position idéologique ou une autre. Elle met en avant un certain pragmatisme, et présente comme de peu de pertinence la question philosophique de la "reproductibilité".

Je la trouve très bien, ton analyse. En tout cas elle me convient tout à fait.

[myoper]

C'est l'idéologie des fonctionnalistes/Computationnalistes. La contrainte est qu'il faut un aspect extérieur perceptible par nous humain.

C'est peut être plutôt simplement leur idée est c'est l'idéologie de ceux qui ne seraient pas d'accord avec eux que de faire passer cette idée comme une idéologie.

[invite6754323456711]

C'est peut être plutôt simplement leur idée est c'est l'idéologie de ceux qui ne seraient pas d'accord avec eux que de faire passer cette idée comme une idéologie.

Pour l'instant les seules réponses que je lis c'est la modélisation d'aspect apparent extérieur. Une fois l'objectif/but clairement identifié cela ne me pose aucun problème d'adhérer.

J'ai répondu oui on peut modéliser l'aspect apparent. Ensuite affirmer que cela fait plus, serait alors juste une idée en toute neutralité

Tu va alors m'expliquer en quoi cela pourrait modéliser les sensations intrapsychiques pour ce qu'elles sont.


Patrick

[myoper]

Pour l'instant les seules réponses que je lis c'est la modélisation d'aspect apparent extérieur. Une fois l'objectif/but clairement identifié cela ne me pose aucun problème d'adhérer.

J'ai répondu oui on peut modéliser l'aspect apparent. Ensuite affirmer que cela fait plus, serait alors juste une idée en toute neutralité

Tu va alors m'expliquer en quoi cela pourrait modéliser les sensations intrapsychiques pour ce qu'elles sont.

Sans rapport avec le point que je relevais...

[karlp]

Bonjour à tous

Voici un lien vers un petit texte de Cassou-Noguès (mathématicien et philosophe)sur la façon dont Descartes d'un côté et P. K. Dick de l'autre se représentent les différences entre hommes et machines.

Cela peut nous éclairer en partie sur les croyances propres à notre culture, mises en relief par celles que l'on pouvait nourrir au XVIIème siècle.

http://revel.unice.fr/cycnos/index.html?id=533

[Archi3]

Bonjour à tous !

J'ai une question pour vous qui va probablement susciter des débats, d'où l'emplacement de ce sujet.
La voici :
Existe-t-il une fonction cognitive du cerveau humain qui ne soit pas reproductible par un ordinateur ou un réseau d'ordinateurs ?

la capacité d'apprendre avec du langage humain les règles d'un jeu simple (par exemple comment jouer à la belote) (je ne parle pas bien sûr d'écrire un programme qui joue à la belote, mais d'écrire un programme qui puisse apprendre n'importe quel jeu avec des explications données en langage humain).

[Amanuensis]

Cela peut nous éclairer en partie sur les croyances propres à notre culture, mises en relief par celles que l'on pouvait nourrir au XVIIème siècle.

Je ne suis pas très convaincu. Mais c'est aussi parce que je suis rétif à l'idée d'un système de croyances "propres à notre culture" sur le sujet. Au contraire, j'ai l'impression qu'on trouve exprimée toute la gamme des croyances possibles sur le sujet, qu'on ne peut pas isoler une partie "propre à notre culture".

Et ce que je connais de la SF illustre le point: on peut y trouver des exemples pour une gamme très étendue (toute la gamme?).

[Par exemple il me semble possible de défendre l'idée que la vision cartésienne est celle de O.S.Card dans certains de ses livres.]

[karlp]

Je ne suis pas très convaincu. Mais c'est aussi parce que je suis rétif à l'idée d'un système de croyances "propres à notre culture" sur le sujet. Au contraire, j'ai l'impression qu'on trouve exprimée toute la gamme des croyances possibles sur le sujet, qu'on ne peut pas isoler une partie "propre à notre culture".

Et ce que je connais de la SF illustre le point: on peut y trouver des exemples pour une gamme très étendue (toute la gamme?).

[Par exemple il me semble possible de défendre l'idée que la vision cartésienne est celle de O.S.Card dans certains de ses livres.]

A la réflexion je dois vous donner raison et ce que je rencontre dans ce petit texte s'accommode mieux à votre position.
Disons que ce sont les croyances propres à chacun d'entre nous qui peuvent trouver un relief intéressant dans cet exposé.

Il y a un point que par ailleurs j'aimerai ici souligner: qu'il s'agisse des thèses de Descartes, de Watson ou de Dick, le modèle de l'homme est - ou plutôt me paraît être * - toujours dualiste (si on veut bien m'accorder que la distinction "cerveau/reste du corps" est bien une forme de dualisme).
(Je me pose maintenant la question de savoir si la façon dont nous concevons l'intelligence artificielle n'est pas sous tendue par un dualisme; mais je ne suis pas prêt d'y répondre)

* Il se peut aussi après tout que ce soit notre "langage naturel" qui impose celui ci.

[EauPure]

la capacité d'apprendre avec du langage humain les règles d'un jeu simple (par exemple comment jouer à la belote) (je ne parle pas bien sûr d'écrire un programme qui joue à la belote, mais d'écrire un programme qui puisse apprendre n'importe quel jeu avec des explications données en langage humain).

Mais combien d'humain ont la capacité qu'a Mogo le logiciel qui joue très bien au go de traiter des problème complexe grace à leur connaissance des règles d'un jeu ?

Forte combinatoire, pas de fonction d'évaluation
naturelle. Depuis 2006, une méthodologie appelée MCTS s'impose comme le meilleur
outil, et s'applique en outre à de nombreux jeux difficiles et à de nombreux
problèmes de planification dans l'incertain.MoGo(TW) est une implémentation de MCTS pour le jeu de Go.
En 2010, MoGoTW a obtenu la certification Dan par l'association Taiwanaise de Go:
http://mepopedia.com/forum/read.php?160,5537,5537
En 2010, MoGoTW a gagné la médaille d'or à TAAI 2010 à la fois en Go 9x9, en Go 13x13 et en Go 19x19 !

http://teytaud.over-blog.com/article...-77022592.html

Et IBM qui est passé des échecs à Watson et c'est marrant qu'il ne l'ai pas appelé Holmes

Cette remarque de Watson n’est pas isolée. Le médecin décrit Holmes « comme la plus parfaite machine à raisonner et à observer que le monde ait connue. »7 Il note de façon précise les moments où Holmes, commençant à réfléchir à un problème, prend « cette contenance [impassible] qui faisait que beaucoup le considéraient comme une machine plutôt qu’un homme. ».8Et les moments où Holmes redevient humain, lorsqu’il se laisse gagner par un sentiment, le plus souvent la vanité : « C’était en effet à ces moments qu’il cessait d’être une machine à raisonner et trahissait son amour tout humain pour l’admiration et les applaudissements. »9

Lien de KarlP http://revel.unice.fr/cycnos/index.html?id=533

[Amanuensis]

Il y a un point que par ailleurs j'aimerai ici souligner: qu'il s'agisse des thèses de Descartes, de Watson ou de Dick, le modèle de l'homme est - ou plutôt me paraît être * - toujours dualiste (si on veut bien m'accorder que la distinction "cerveau/reste du corps" est bien une forme de dualisme).
(Je me pose maintenant la question de savoir si la façon dont nous concevons l'intelligence artificielle n'est pas sous tendue par un dualisme; mais je ne suis pas prêt d'y répondre)

Je partage l'impression. Si on reste en SF, un point qui m'intrigue depuis longtemps est la réticence des auteurs à "cloner" complètement leur héros. On peut trouver de nombreux exemples de "clonage physique" (du corps), tels que le "corps précédent" meure nécessairement, l'idée sous-jacente (dans quelques cas explicitée) étant que l'agrégat physique qu'est ce corps ne peut "vivre" qu'avec quelque chose en plus et ledit quelque chose est unique, et donc ne peut s'occuper que d'un seul "corps". Expression très "concrète" d'un dualisme.

Deux explications possibles à ce constat: soit cela évite une difficulté dans l'écriture romanesque (i.e., l'auteur a conscience de ce qu'il fait, et choisit délibérément pour raison artistique), soit cela révèle une "croyance" profonde (i.e., le dualisme est tellement naturel à l'auteur qu'il ne choisit pas).

Mais je suis tombé récemment sur une exception: O.S.Card, dans son roman "Ruins" de 2013, deuxième d'une trilogie, finit ce tome sur un clonage complet du héros, duplication "corps et âme". Et (contrairement à d'autres bouquins de lui) il n'y a pas de trace explicite de dualisme dans cette saga.

(Le même auteur, dans "Children of the Mind", plus ancien, joue avec l'idée d'une "âme" s'occupant de plusieurs corps à la fois, ainsi que l'idée d'une "âme" pouvant "vivre" (et faire vivre) indifféremment un corps "biologique" (wetware) ou un "corps" de type machine.)

Je me demande si le dualisme (quelle que soit sa forme) n'est pas un trait de notre culture en train d'évoluer. C'est la "vision normale", celle héritée des siècles précédents, et du coup celle "par défaut". Mais nous vivons une époque de spéculations non limitées à quelques penseurs. La culture de masse (films, livres de SF, blogs et forums et autres sur le web, ...) popularise des spéculations dans tous les sens, et pourrait éroder un peu l'héritage en question, y compris sur le dualisme.

[karlp]

1) Mais je suis tombé récemment sur une exception: O.S.Card, dans son roman "Ruins" de 2013, deuxième d'une trilogie, finit ce tome sur un clonage complet du héros, duplication "corps et âme". Et (contrairement à d'autres bouquins de lui) il n'y a pas de trace explicite de dualisme dans cette saga.

2) Je me demande si le dualisme (quelle que soit sa forme) n'est pas un trait de notre culture en train d'évoluer. C'est la "vision normale", celle héritée des siècles précédents, et du coup celle "par défaut". Mais nous vivons une époque de spéculations non limitées à quelques penseurs. La culture de masse (films, livres de SF, blogs et forums et autres sur le web, ...) popularise des spéculations dans tous les sens, et pourrait éroder un peu l'héritage en question, y compris sur le dualisme.

1) Je garde la référence en mémoire (J'ai entamé un recueil de romans de P.K. Dick du début des années 60 et je crois que j'en ai pour un petit moment)

2) Je crois que l'introduction du monisme a été une tentative allant dans ce sens; mais j'ai l'impression que le monisme n'est finalement qu'un "dualisme amputé".
Le poids du passé doit certainement jouer un rôle considérable.
Pour l'instant j'en suis à me demander si le (ou les) dualisme(s) n'est pas "immanent" au langage courant et si une rupture épistémologique n'est pas nécessaire; quitte à ce qu'ensuite le langage courant intègre les effets de cette rupture (mais je ne sais pas si c'est possible).
Tout cela reste malheureusement fort "spéculatif".

[EauPure]

Et pourquoi pas la trilogie ?
corps mental esprit ?
ce qui mettrait l'humain au dessus du robot qui ne pourrait avoir que corps et mental.
voir Ouspensky, Gurdjieff et les Fragments d'un Enseignement inconnu
4 voie pour arriver à la connaissance mais seule 1 voie y parvient l'ennuie c'est que c'est un secret dans son livre ... mais de polichinel quand on à finis de le lire car on comprend qu'il suffit de prendre les 3 voies en même temps pour être dans la 4emme, la bonne.
Moine, fakir et yogi ou cultiver son corps , son mental et son esprit en vue de les réconcilier tout les 3.
Please modérateur laissez ce message, il répond à la dualité d'Amanuensis et de Karlp (corps/cerveau) et il est sourcé

[karlp]

Je crois, EauPure, que ce que vous proposez est encore une déclinaison du dualisme: de même que le monisme serait un "dualisme amputé", ce serait là une sorte de "dualisme enrichi".

[Amanuensis]

Pour l'instant j'en suis à me demander si le (ou les) dualisme(s) n'est pas "immanent" au langage courant

Y-a-t'il moyen d'exprimer le monisme autrement qu'en utilisant des termes évoquant le dualisme?

(Je mets cela en parallèle avec les difficultés que présente le langage dans le domaine de la "philosophie du temps" et plus particulièrement l'exposition des concepts "temporels" dans les théories physiques qu'on couvre sous le terme de "Relativité Générale".)