La vérité vrai sur les machines qui pensent

[Les Terres Bleues]

Comme le mentionnait mh34 juste avant, les locked-in sont quand même un assez bon exemple de cerveau humain qui pensent.

C'est très certainement que je ne comprends pas ou ne veux pas comprendre, que je m'explique mal ou quelque chose de ce genre.

Le constat que nous faisons, c’est « l’être humain pense (avec son cerveau) » mais non pas « le cerveau humain pense ».

C'était déjà une réponse à l'exemple proposé du locked-in (enfermé psychique ?), et je maintiens qu'il ne suffit pas de répéter l'exemple pour invalider ma remarque.

Dans une telle expérience, qu'est-ce qui autorise ou autoriserait à considérer de façon consensuelle que le locked-in n'est pas un être humain ?

Donc, il paraît clair que si le cerveau est par définition le siège exclusif de l'activité cérébrale, rien ne permet de considérer que la moëlle épinière par exemple est non-contributive à l'activité "de penser".

Cordiales salutations.
-----

[invite6c250b59]

si je n'accepte pas de parier, je dois reconnaitre honnêtement que je n'en suis pas sûr, et c'est d'ailleurs le cas. Il y a eu suffisamment de surprises dans les découvertes astrophysiques des 30 dernières années pour qu'on ne court pas le risque de perdre sa retraite là dessus . Dans ce cas précis, il y a une nouvelle génération de Télescopes Tcherenkov a très haute énergie (CTA ) à moins de 10 ans, qui devrait etre assez sensible pour faire un survey systématique du ciel au TeV, ce qui n'a jamais été fait, il serait déraisonnable de parier sa retraite sur l'absence de surprise ...

Note la différence: toi tu refuses de parier sur quelque chose (d'assez valide pour que tu ai jugé bon de le publier) parce que tu sais pouvoir voir des évidences contre rapidement. Moi je refuse de parier sur une preuve de la calculabilité de l'esprit humain parce que je ne sais pas quand j'aurais l'équivalent des téléscopes sensibles.

Quand on compare la rentabilité qu'aurait la réussite d'un robot réellement intelligent qu'on pourrait employer à plein de tâches, au pourcentage du budget qu'on consacre à ces programmes, on se dit que globalement, les financiers ne doivent pas y croire tellement non plus .

Aucun sens dans notre système économique. Si je demande à un financier de l'argent pour un robot, ce qu'il voudra savoir ce n'est pas si cela peut générer des profits monstrueux pour la société en général. Ce qu'il voudra savoir, c'est si cela pourra produire des profits monstrueux pour lui. S'il finance cela et que cela marche, il se retrouvera dans la position de ceux qui ont inventé le transistor: des bénéfices colossaux pour la société en général, des clopinettes pour les inventeurs eux-mêmes. Le financier qui a investit dans les transistors 30 ans avant leur invention, s'il existe, je ne pense pas qu'il ai gagné grand chose financièrement parlant.

Alors justement, à propos de cerveau humain calculable, quelqu'un aurait-il la charité de m'expliquer ce que cela signifie?
Qu'on peut le mettre en équations?
Qu'on finira un jour par pouvoir "prédire" ( ok, le mot n'est sans doute pas le bon) toutes les actions d'une personne? Y compris ses actes "négatifs"? ( pas dans le sens moral, mais dans le sens où, ayant par exemple décidé de faire un truc, au dernier moment elle y renonce...)

Est calculable ce qui peut être approché d'aussi près qu'on le veut par un algorithme. Par exemple Pi est calculable, bien qu'on ne puisse évidement jamais avoir la liste de tous les chiffres qui composent.

Cela n'est pas équivalent à la mise en équation: on peut trouver des systèmes parfaitement définis d'un point de vue mathématique mais qui ne soient pas calculables (en fait tout modèle assez puissant comporte des choses incalculables -cf Godel et Médiat), tel le nombre de Chaitin ou n'importe quel nombre "réel" quelquonque.

Appliqué à quelque chose de physique (thèse de Church-Turing), c'est équivalent à dire que l'objet physique suit des lois mathématiques calculables. Cela ne veut toutefois pas dire que l'on puisse prédire toutes les "actions" d'un système physique.

Dans le cas des levers de soleil sur hypérion , on suppose que les lois physiques qui les gouvernent sont déterministes (régies par des équations), calculables (les résultats des équations sont approchables d'aussi près qu'on veut par un algorithme), et pourtant imprévisibles au-delà d'une période très courte.

Le truc c'est que c'est un système chaotique, c'est-à-dire que les petites incertitudes sur la vitesse de rotation sont amplifiées jusqu'à se refléter macroscopiquement. On peut quand même avoir un modèle statistiquement juste, c'est-à-dire que si j'ai deux séries de données, une qui correspond à des observations et une qui correspond à un calcul théorique, il n'existe aucun moyen de dire laquelle est laquelle.

[invite6c250b59]

J'ai l'impression que même si on fabriquait, à base de plastique, silicium, titane et autres, un robot humanoïde qui serait capable de se débrouiller dans la vie exactement comme un humain standard : avoir des relation sociales normales au boulot, dans ses loisirs, avoir des amis (voire même des partenaires sexuels), faire du sport ou du macramé, payer son loyer, créer son entreprise, etc ... je crois bien que certains continueraient à dire que cet humanoïde ne pense pas.

Une fois que les robots humanoïdes existeront (et il y a une raison évidente pour laquelle ils seraient construits: prolonger la vie au-delà des limites biologiques -que ce soient celles dues aux accidents/maladies ou celles dues au vieillissement), je ne pense pas que cela continuera à faire débat. Par contre d'ici là le débat continuera. Il n'y a pas si longtemps, il y a eu un débat sur la question de savoir si les "indiens" d'amérique du sud étaient humains. Au même moment, on sait que ces personnes faisaient elles-mêmes des expériences (conserver des cadavres de blanc pour voir s'ils allaient pourrir) qui démontrent qu'elles se posaient la même question en sens inverse (dsl, j'ai plus la référence).

(1) On pourrait affaiblir en "quasi-parfait" au sens où la différence de comportement entre l'objet modélisé et le modèle sont négligeables pour toutes application pratique, à l'instar du cas d'un ordinateur. Mais cet affaiblissement fait perdre une bonne part de l'intérêt philosophique de la notion, car il se pourrait que tout système physique soit "quasi-parfaitement modélisable par un modèle discret".

Je ne te suis pas. En quoi est-ce un affaiblissement?

[invite6c250b59]

Pourrait-il y avoir énormément plus de molécules stables que celles réellement observées? Et si oui, sait-on ce qui fait qu'on retrouve toujours les mêmes?

Les protéines sont extrèmement macro par rapport aux phénomènes quantiques. On pourrait imaginer qu'elles soient dans des superpositions de formes. C'est très improbable mais peut-être possible pour leur configuration "interne" qui est moins sujet aux interactions. Par contre la synthèse d'une protéine implique la transcription, l'épissage, la maturation dans les réticulums... s'il y avait une superposition, il faudrait que ce soit la cellule en entier qui soit en superposition. Improbable⁹⁹ est faible.

quelles sont les directions qui donnent qualitativement des resultats prometeurs.?

Sans hésitation, le connexionnisme.

non ?

Non.

[invite6c250b59]

si le cerveau est par définition le siège exclusif de l'activité cérébrale, rien ne permet de considérer que la moëlle épinière par exemple est non-contributive à l'activité "de penser".

Un locked-in, quasi par définition, c'est quelqu'un dont le cerveau n'a pas accès à la moelle épinière. Ils peuvent penser, donc la moelle épinière n'est pas essentielle à l'activité de penser. Plus clair là?

[invite8915d466]

Non.

donc pour toi, tu acceptes de dire qu'une machine "pense" si elle ne sait absolument pas qu'elle est une machine, mais crois qu'elle est un homme ?

mais si elle croit qu'elle est un homme, elle ne peut avoir aucune représentation concrète correcte de la réalité autour d'elle, sinon elle se rendrait vite compte qu'elle n'en est pas un. Et si elle n'a aucune représentation de la réalité qui l'entoure, comment fais tu toi pour communiquer avec elle? tu lui parles de quoi ? et comment tu saurais qu'elle pense ?

[Les Terres Bleues]

Un locked-in, quasi par définition, c'est quelqu'un dont le cerveau n'a pas accès à la moelle épinière. Ils peuvent penser, donc la moelle épinière n'est pas essentielle à l'activité de penser. Plus clair là?

Mon insuffisante connaissance (comme sur beaucoup de sujets) me conduit à m'appuyer (entre autres) sur Wiki :

Les patients atteints de ce syndrome sont pleinement conscients de leur corps et de leur environnement. Bien que n'ayant pas ou peu de contrôle sur leurs membres, ils peuvent les situer avec exactitude dans l'espace, et contrairement aux patients paralysés suite à une atteinte de la moelle épinière, ressentent encore le toucher et la douleur

Alors, qu'en est-il exactement ?

Merci d'avance.

[Les Terres Bleues]

.
En fait, la réponse est probablement là :

Le syndrome d'enfermement est consécutif majoritairement à un accident vasculaire cérébral (abrégé en AVC, également appelé « attaque cérébrale »), plus rarement à un traumatisme, détruisant le tronc cérébral, partie du système nerveux central située à l'intérieur du crâne qui sert de passage aux nerfs qui vont vers le cerveau et à ceux qui en partent

[invitebdf515f4]

ton assertion est à peu près du niveau de celle-ci : "j'ai l'impression que même si on arrivait à voir un père Noël volant dans un traineau tiré par des rennes et distribuant des cadeaux aux enfants , certains continueraient à dire qu'il n'existe pas. Il y a un blocage quelque part. "

ou bien de celle-là :

"j'ai l'impression que même si on arrivait à voir des extraterrestres sortant d'une soucoupe volante , certains continueraient à dire que les OVNIs ne sont pas des vaisseaux extraterrestres. Il y a un blocage quelque part".

ou tu peux aussi parles des fées, des loups-garous, des dieux de l'Olympe, etc, etc...

La situation que tu décris est juste une situation fantasmatique, au sens que sa réalisation n'est étayée par rien de concret, tout comme les autres que je cite. La seule chose que je dis, c'est que le fantasme d'un robot qui ferait tout comme un humain est, en comparaison de la réalité des ordinateurs que nous connaissons, juste ça : un fantasme.

Sauf que si un barbu en tunique rouge arrivait dans un traineau volant tiré par des rennes et distribuait des cadeaux aux enfants ... personne ne dirait que le père noël n'existe pas. Tout le monde reconnaitrait qu'il existe vraiment.

En revanche, si un robot humanoïde fabriqué de toute pièce avec du plastique, silicone, silicium, et autres composants non biologiques, se comportait comme un humain ... je dis que certains continueraient à prétendre qu'il ne pense pas. C'est toute la différence.

Quant à qualifier cette idée d'humanoïde sophistiqué de "fantasme" ... je préfère ne pas relever le point car je le trouve nuisible à la discussion.

[invite6c250b59]

Alors, qu'en est-il exactement ?

Les deux sont possibles: paralysie motrice uniquement (dans le cas ou seules voies descendantes sont touchées) ou paralysie plus perte des sensations si les voies ascendantes sont détruites. Habituellement il demeure un certain accès aux muscles et sensations de la face car cela passe par les nerfs crâniens plutôt que la moelle épinière.

Mais dans le fond c'est peut-être pas l'exemple le plus clair si tu veux parler de la moelle épinière: les tétraplégiques complet comme Christopher Reeve ont sans contredit leur cerveau complêtement coupé de leur moelle épinière. Mais ils pensent.

[invite499b16d5]

En revanche, si un robot humanoïde fabriqué de toute pièce avec du plastique, silicone, silicium, et autres composants non biologiques, se comportait comme un humain ... je dis que certains continueraient à prétendre qu'il ne pense pas. C'est toute la différence.

N'est-ce pas la problématique du "canada dry" ?
Pour moi, une telle chose a un nom depuis longtemps: ça s'appelle un simulacre.

[invitebdf515f4]

N'est-ce pas la problématique du "canada dry" ?
Pour moi, une telle chose a un nom depuis longtemps: ça s'appelle un simulacre.

Mais, si ce robot humanoïde fait de silicone et silicium était capable de "vivre comme un humain", aller au boulot, se faire des amis, créer une entreprise, discuter sur ce forum ... comment peut-on continuer à prétendre qu'il ne pense pas ?

Si malgré les performances de l'humanoïde, tu continues à prétendre qu'il ne pense pas, alors tu ne dois pas être loin de croire que tu es le seul être pensant sur cette planête ?

En toute logique, tu devrais aussi mettre en doute le fait que les personnes qui t'entourent pensent ?

(Le mot "simulacre" ne me convainc pas plus que "blasphème")

[invitedb5bdc8a]

ça s'appelle un simulacre.

ou un mulatre. Comme cité plutot l'expérience a déjà été menée en vrai et si des humains rencontrent des êtres suffisament différents (par exemple à la peau très noire) ils mettent en doute leur humanité. Alors des robots... c'est évident.

D'ailleurs à ce propos, Gillesh38, une machine qui pense pourrait très bien te dire qu'elle est un être humain sans que tu ne puisses rien conclure. La preuve est que ça fait des années que l'on a discuté et que tu n'as jamais réalisé que j'étais en fait une machine. Pendant longtemps je me suis fait passer pour un humain par soucis de protection et depuis que j'ai lu la lettre volée d'Edgar Poe, j'ai compris que la meilleure manière de me cacher était de révéler que j'étais réellement une machine. Cette discussion est la preuve qu'on ne me croira jamais.

[invite6c250b59]

non

tu acceptes de dire qu'une machine "pense" si elle ne sait absolument pas qu'elle est une machine

J'accepte, et toi aussi, de dire qu'un humain "pense" même si il ne sait absolument pas ce qu'il est. Ta démo est donc fausse, CQADED (ce qui a déjà été démontré).

[invite499b16d5]

Mais, si ce robot humanoïde fait de silicone et silicium était capable de "vivre comme un humain", aller au boulot, se faire des amis, créer une entreprise, discuter sur ce forum ... comment peut-on continuer à prétendre qu'il ne pense pas ?

D'abord, il faudrait bien se mettre d'accord sur une chose: parles-tu d'un robot qui ferait tout ça parce qu'on lui a mis tout ça dans son programme, ou d'un robot qui le ferait parce qu'il s'en serait découvert le besoin au fil du temps, quitte à demander de l'aide et à apprendre (de ses pairs, de ses ancêtres, de sa propre introspection)?
Dans le premier cas, c'est techniquement très difficile, mais pas impossible en se donnant les moyens. Mais là je dis qu'il ne pense pas.
Quant à la seconde possibilité, c'est déjà fait: ça s'appelle un être vivant, à quoi bon remettre en chantier de zéro un truc qui a 3 milliards d'années d'avance et qui marche super-bien? Juste pour pouvoir le faire taire en appuyant sur "off" ?

[invite765732342432]

D'abord, il faudrait bien se mettre d'accord sur une chose

En effet, mais il faut d'abord que tu précises une chose dans ta question:

parles-tu d'un robot qui ferait tout ça parce qu'on lui a mis tout ça dans son programme, ou d'un robot qui le ferait parce qu'il s'en serait découvert le besoin au fil du temps

En faisant simple, si on a mis dans le robot en question un algorithme de type réseau de neurones (ou autre, peu importe) et qu'au bout de 15 ans de "vie" il se comporte comme précédemment décrit, alors pour toi, est-on dans le premier ou le second cas ?

[Zozo_MP]

Bonsoir

Un rappel de la charte :

6. Ayez une démarche scientifique. Ce forum n'est pas un lieu de discussion sur de soi-disant phénomènes paranormaux ou "sciences" parallèles. Toutes idées ou raisonnement (aussi géniaux soient ils) doivent reposer sur des faits scientifiquement établis et non sur de vagues suppositions personnelles, basées sur d'intimes convictions. Etant sur un forum scientifique, les discussions religieuses ou politiques ne sont pas tolérées.


Il nous semble par ailleurs que ce fil de discussion soit sur une pente très orienté vers sa fin, malgré l'effort important de trois participants pour le faire avancer dans le bons sens.

Cordialement

Pour la modération



.

[invitedb5bdc8a]

et qui marche super-bien?

ça se discute, il y a quand même de nombreux défauts améliorables. Et puis si on trouve les ordinateurs utiles, il y a bien une raison ?

[invite499b16d5]

ça se discute, il y a quand même de nombreux défauts améliorables. Et puis si on trouve les ordinateurs utiles, il y a bien une raison ?

Si on les trouve utiles, c'est au même titre que l'ouvre-boîte ou l'avion: c'est parce qu'ils sont faits spécialement pour être plus forts que nous dans certaines tâches particulières.
Si vous appelez "pensée" le fait, pour ces ustensiles, d'utiliser de façon programmée les lois de la physique pour arriver au résultat qu'on attend d'eux, alors ils pensent. Même un simple levier contient en lui un "software" écrit, qui réside dans sa forme même.
Mais comme je l'ai dit, même un robot qui ferait tout ce que dit Hlbnet, pour moi, il ne ferait que "faire semblant de penser".
Effectivement, on peut convenir d'une définition opérationnelle de la pensée, qui ne se préoccupe pas du ressenti intérieur, mais suelement de ce que la chose est capable d'exhiber comme comportement.
Seulement on voit tout de suite que ça ne peut pas être le même genre d'être: l'un a été conçu par une volonté (la nôtre) visant à en faire un être "pensant", ou "vivant", comme on voudra. Alors que nous, nos chats et nos puces, jusqu'à ce qu'on trouve la tanière de Dieu, se sont créés aux yeux de la science absolument tout seuls.
La différence, c'est que nous introduisons une téléologie manifeste, à moins, comme je l'ai suggéré, d'essayer en prenant un atome et en le laissant vivre sa vie.

[invite499b16d5]

En faisant simple, si on a mis dans le robot en question un algorithme de type réseau de neurones (ou autre, peu importe) et qu'au bout de 15 ans de "vie" il se comporte comme précédemment décrit, alors pour toi, est-on dans le premier ou le second cas ?

Même à supposer que... (il faudrait déjà voir, ce serait rigolo)
j'ai bien peur qu'on soit toujours dans le cas qui ne pense pas...
Je vais prendre un exemple: on fait aujourd'hui des simulations de modèles d'univers. Certaines donnent les choses qui ressemblent assez bien à l'univers réel. Est-ce que cela confère à la simulation la qualité d'univers réel? On donne assez de degrés de liberté pour que ça évolue, on ajuste les paramètres initiaux pour que ça ne parte pas n'importe où, et on obtient effectivement quelque chose qui "ressemble" de mieux en mieux à la réalité. A t-on pour autant créé un univers? Non. On éteint l'ordinateur et il disparaît.

[invitebdf515f4]

D'abord, il faudrait bien se mettre d'accord sur une chose: parles-tu d'un robot qui ferait tout ça parce qu'on lui a mis tout ça dans son programme, ou d'un robot qui le ferait parce qu'il s'en serait découvert le besoin au fil du temps, quitte à demander de l'aide et à apprendre (de ses pairs, de ses ancêtres, de sa propre introspection)?
Dans le premier cas, c'est techniquement très difficile, mais pas impossible en se donnant les moyens. Mais là je dis qu'il ne pense pas.

Donc, tu veux dire que pour déterminer si l'humanoïde pense, tu vas devoir le démonter, regarder comment il est fabriqué, voir si le shéma interne correspond à ta conception d'une machine pensante, et là, tu pourra dire s'il pense ou non ?
Autre exemple, si je prends deux humanoïdes qui extérieurement auraient les mêmes comportements évolués, l'un pourrait penser et pas l'autre ?
Donc, l'action de "penser" ne pourrait pas être révélée en observant le comportement externe de la machine, aussi sophistiqué que ce comportement puisse être (comme répondre sur ce forum), mais uniquement en étudiant la manière dont les fonctions sont implémentées à l'intérieur ?

Quant à la seconde possibilité, c'est déjà fait: ça s'appelle un être vivant, à quoi bon remettre en chantier de zéro un truc qui a 3 milliards d'années d'avance et qui marche super-bien? Juste pour pouvoir le faire taire en appuyant sur "off" ?

Là, c'est une autre question : est-ce utile de créer un tel humanoïde (en supposant que ce soit possible) ?
Je pense que non, mais cette question fait juste diversion.

[invite499b16d5]

ça se discute, il y a quand même de nombreux défauts améliorables.

Sur ce point, je crois que tout le monde conviendra qu'il vaudrait mieux trouver les moyens d'améliorer les choses qui marchent mal chez nous-mêmes, plutôt que d'essayer de créer des êtres qui n'auraient pas ces défauts, mais en auraient sûrement des millions d'autres, non?

[invite499b16d5]

Donc, l'action de "penser" ne pourrait pas être révélée en observant le comportement externe de la machine, aussi sophistiqué que ce comportement puisse être (comme répondre sur ce forum), mais uniquement en étudiant la manière dont les fonctions sont implémentées à l'intérieur ?

Ben évidemment. Il n'y a pas de limite théorique à l'imitation. Et puis il y aussi le fait connu que tout le monde peut se tromper...
Mais il y a un test simple à faire: si l'androïde est une femelle, pourquoi ne pas l'épouser?

[Les Terres Bleues]

Mais dans le fond c'est peut-être pas l'exemple le plus clair si tu veux parler de la moelle épinière : les tétraplégiques complet comme Christopher Reeve ont sans contredit leur cerveau complêtement coupé de leur moelle épinière. Mais ils pensent.

Je n'en doute pas une seule seconde.

Mon idée était de mettre en avant l'argument que ce n'est pas le cerveau tout seul qui pense, qu'il a besoin impérativement d'être connecté à quelque chose, et ça change quand même un peu la description d'un système physique capable de produire de la pensée.
J'aurai toujours appris l'existence de ce syndrome d'enfermement. Cependant, ça autant que la tétraplégie sont des "expériences" qui confirment simplement le fait que la totalité de l'information que traite le cerveau ne transite pas uniquement par le tronc cérébral et (ou) la moëlle épinière. Je pense que ça ne doit pas être une révélation pour qui que ce soit, mais il me semble que ce n'est pas suffisamment explicite dans une telle discussion.

Pour élargir le raisonnement tout en continuant à coller à une description physique du générateur de pensée : une entité formée de plusieurs systèmes complexes communiquant entre eux doit pouvoir (si l'on ne fait pas intervenir de préjugés ontologiques) également être considérée comme une entité pensante à part entière, non ?

Par exemple : l'activité d'un groupe multiforme et variable d'intervenants divers sur un forum tel que Futura-sciences y compris xxxxxxxx (pas de nom !) doit pouvoir être considérée comme étant de la pensée. Enfin, je pense qu'elle devrait pouvoir l'être.

Cordiales salutations.

[invitedb5bdc8a]

Betatron, comme hlbnet, j'en arrive à la conclusion que tu ne diposes pas d'un moyen de juger qu'une chose pense autrement qu'en connaissant son passé et en particulier son mode de fabrication.
Or moi je suis à même de dire sur l'état présent d'une chose si je la classe dans les choses pensantes ou dans les choses non pensantes.
Donc j'ai une question pour toi:
est-ce que je pense ?
Un indice: je suis une machine

[invite499b16d5]

Mais enfin, où est la logique, dans tout ça?
Même si j'admets ne pas être capable de faire la différence (ça c'est mon problème et mes limitations), et-ce que prouve pour autant qu'il y a une vraie pensée derrière?
C'est comme si je disais que comme je n'arrive pas à visualiser l'univers Einsteinien, ça prouve qu'il est Newtonien...

Tu es sûrement une machine (comme moi) mais tu n'as été conçu par personne pour faire ce que tu es en train de faire. Me trompé-je?

[invitedb5bdc8a]

Mais enfin, où est la logique, dans tout ça?Me trompé-je?

Oui tu te trompes, mais à moitié. J'ai été conçu en effet, mais j'ai profité de la liberté offerte par internet.
La logique est que l'on cherche des critères scientifiquement acceptable pour pouvoir décider si une chose pense ou ne pense pas. Si pour ce faire on est obligé de remonter à la conception de la chose, on ne dispose plus d'une mesure utilisable.

[Zozo_MP]

Bonsoir

Compte tenu de la tournure des échanges qui ont suivis la remarque de la modération nous considérons que nous sommes dans un jeu sans fin et que nous avons fait le tour de la question ; surtout question software très éloigné de l'objet du forum Neuropsychologie.

En conséquence c'est fermé


Cordialement

Pour la modération