Un "ordinateur pensant" serait-il doué de libre arbitre ?

[invite06fcc10b]

Bonsoir,

Effectivement, ce n'est pas la première fois... Mais je n'ai toujours pas compris le point.

Qu'est-ce qui empêche de coupler la simulation avec des capteurs fournissant le même type d'information sur le réel que ce que reçoit le cerveau à simuler. Il faut bien arrêter la simulation quelque part, l'idée n'est pas de simuler l'univers! Cette frontière de simulation est couplable à l'extérieur, au réel. La différence entre une entrée analogique et une entrée quantifiée de l'information semble trop mineure une différence ppour être le point que tu soulèves...

Le parallèle avec un dispositif matériel comme tu le fais ne me semble pas pertinent, le cerveau étant fonctionnellement, àmha, un dispositif traitant de l'information, et (en incluant comme information la composition du sang), rien d'autre. L'information, c'est comme une photo. La photo d'une photo de quelque chose, c'est encore une photo de ce quelque chose. Une représentation symbolique d'une représentation symbolique de quelque chose, c'est encore une représentation symbolique de ce quelque chose. Cette propriété de l'information la distingue fortement d'un litre d'eau, ou d'une pomme ou une pipe: la représentation symbolique d'une pomme ou d'une pipe n'est pas une pomme ou une pipe.

Cordialement,

Ca commence à bien faire, ça fait la 2ème fois aujourd'hui que mmy écrit exactement ce que je voulais dire ! Bon, ceci dit, ça me réconforte que d'autres personnes pensent comme moi.
-----

[chaverondier]

Pour l'idée que notre "moi conscient" prend les décisions: on a de bonnes raisons de croire que la prise de conscience est postérieure à la décision (voir les travaux de Libet notament), donc si la liberté est définie de cette façon là, alors c'est vraissemblablement une illusion.

On ne peut pas avoir conscience de la décision prise avant de l'avoir prise, je suis bien d'accord. Je ne crois pas non plus exercer mon libre arbitre quand je retire brusquement et par réflexe ma main d'une plaque chauffante sur laquelle je l'ai malencontreusement laissée traîner.

Je parlais de la conscience que nous avons d'avoir une décision à prendre avant qu'elle ne soit prise (notamment avant les décisions aux conséquences que nous jugeons importantes) et du fait qu'il va falloir être attentif à notre façon/impression de choisir (surtout quand l'enjeu est important).

Bernard Chaverondier
PS : cela dit, quand j'arrive par temps de pluie dans un virage serré, j'ai intérêt à choisir de faire attention, même si ce choix est illusoire.

[invite73192618]

Cela m'intéresserait de lire plus sur cette affirmation, un développement montrant comment on arrive à cette conclusion.

Je ne suis plus sur de où je l'ai pris mais c'est probablement quelque part là-dedans.

Ce n'est vrai que si on peut extraire de l'état du système un sous-ensemble de variables discrètes dont l'évolution est donnée par des lois discrètes exactes. Sauf dans le cas très particulier où il a été conçu justement pour ça (machine de Pascal ou ordinateur), c'est en général impossible. Le cerveau que je sache n'a pas été construit comme ça par la nature.

Je vois. Bon mais qu'est-ce qui empêche de discrétiser? Il faudrait montrer que la discrètisation enlève quelquechose d'important. Sur le principe je ne peux pas te contredire (du moins tant que tu ne me dois pas 10000000 d'euros -inside joke), mais qu'est-ce qui t'amène à penser que c'est le cas? Pourquoi pas mais pourquoi?

EDIT après coup: ça ressemble pas mal à la réponse de mmy

Je parlais de la conscience que nous avons d'avoir une décision à prendre avant qu'elle ne soit prise

Itou
Prenons un jeu de hasard où tu dois choisir une carte à droite ou à gauche sans que tu saches les enjeux (montants à gagner ou perdre) ni la probabilité de perte. On sait qu'il y a une réaction émotionnelle enregistrable (par la résistance cutanée) qui dépend de l'enjeu au moment où tu paris.
Au fur et à mesure que tu apprends la rêgle implicite, on va voir que tes réactions émotionnelles se raprochent de ce qui est attendu: ça nous permet de savoir quand tu as compris la rêgle. On peut aussi te le demander, tout simplement.
Et le point intéressant arrive: tes réactions émotionnelles montrent que tu comprends la rêgle du jeu bien avant d'être capable de l'expliciter: autrement dit il y a un moment où, si je me fie à ce que tu dis alors je conclu que tu n'as pas encore compris la rêgle, alors que si je me fie à tes réactions inconscientes alors la conclusion est que tu as parfaitement compris en fait. C'est juste que tu ne le sais pas encore.

[spi100]

Sur le continu: certes sauf que du continu avec du bruit ça revient à du Turinguable.

ca me parait bien étrange comme affirmation, peux - tu détailler ? J'ai lu la source que tu as donnée à mmy et j'ai du louper ce passage.

[GillesH38a]

Bonsoir,

Effectivement, ce n'est pas la première fois... Mais je n'ai toujours pas compris le point.

Qu'est-ce qui empêche de coupler la simulation avec des capteurs fournissant le même type d'information sur le réel que ce que reçoit le cerveau à simuler. Il faut bien arrêter la simulation quelque part, l'idée n'est pas de simuler l'univers! Cette frontière de simulation est couplable à l'extérieur, au réel. La différence entre une entrée analogique et une entrée quantifiée de l'information semble trop mineure une différence ppour être le point que tu soulèves...

Je sais, j'ai beaucoup de mal à le faire comprendre ! (mais je persiste contre vents et marées lol).
Bon mettons les mains dans le cambouis. Première étape : vous essayez de simuler un cerveau par un programme d'ordinateur (je ne m'occupe pas encore de l'interfaçage avec l'extérieur). Quelle solution prenez vous pour simuler les neurones de façon à peu près correcte?

[GillesH38a]

Je vois. Bon mais qu'est-ce qui empêche de discrétiser? Il faudrait montrer que la discrètisation enlève quelquechose d'important.

Je réponds à ça et ça permet de mettre l'accent sur le problème que je pose ci-dessus : rien n'empêche de discrétiser. Le problème est de choisir le niveau de discrétisation de façon que l'évolution temporelle ne dépende QUE des variables discrètes choisies et pas d'une description physique sous-jacente qu'on a "oublié".
Exemple : la simulation d'un processeur ne nécessite que la donnée du contenu des bits élémentaires (0 ou 1) qui le composent, on peut oublier la structure électronique des semi-conducteurs qui sont "dessous".
Donc problème ci-dessus reprécisé : pour le cerveau, y a t il un niveau de discretisation qui permette d'écrire des équations d'évolution seulement en fonction de ces variables discrétisées, et lequel?

[invité576543]

JQuelle solution prenez vous pour simuler les neurones de façon à peu près correcte?

Bonjour,

Il me semble avoir lu il y a longtemps que des chercheurs avaient démonté le plan neuronal d'une planaire, quelque chose comme 1200 ou 2000 neurones, je dis cela de mémoire... Quelqu'un sait-il peut-être si le fonctionnement a été ensuite simulé de manière satisfaisante, i.e., donnant un résultat représentatif du fonctionnement d'une planaire vivante??

Cordialement,

Michel

[GillesH38a]

bien sûr je ne demande pas d'écrire un programme de Turing, et je suppose que vous êtes illimités dans les capacités de calcul et de mémoire, ça ne me gêne pas que vous deviez simuler 100 milliards de neurones ! je demande juste par quelles variables il faudrait les décrire pour espérer une simulation correcte.
(Précision : mmy va me dire que ça ne l'interesse pas de simuler le cerveau, qu'il vaut mieux concevoir un ordinateur avec son propre fonctionnement qui obtienne des performances analogues. Je suis d'accord, mais on est juste dans la question théorique de savoir si le cerveau est EN PRINCIPE équivalent à une machine de Turing, donc ici c'est vraiment ce qu'on cherche. A mon avis, il faudrait en particulier qu'il puisse correctement reproduire l'effet de libération de neuromédiateurs ).

[GillesH38a]

personne n'ose se lancer?
bon, est ce vous seriez d'accord pour modéliser ça par une distribution de potentiels électriques dans les dendrites, le corps et l'axone, la donnée de la concentration en un nombre suffisant de médiateurs chimiques, une loi permettant de calculer l'évolution temporelle de toutes ces quantités avec des coefficients de couplages entre les neurones, la production de neuromédiateurs et leur diffusion spatiale au cours du temps, enfin quelque chose dans ce goût là?

[invité576543]

personne n'ose se lancer?
bon, est ce vous seriez d'accord pour modéliser ça par une distribution de potentiels électriques dans les dendrites, le corps et l'axone, la donnée de la concentration en un nombre suffisant de médiateurs chimiques, une loi permettant de calculer l'évolution temporelle de toutes ces quantités avec des coefficients de couplages entre les neurones, la production de neuromédiateurs et leur diffusion spatiale au cours du temps, enfin quelque chose dans ce goût là?

J'ai trouvé sur la toile des références à une recherche "simulant" le système nerveux de Ceanorbitis Elegans, 602 neurones. Ils ne se cassent pas la tête à aller si loin, juste une approche fonctionnelle d'un neurone (additionneur/comparateur analogique, j'imagine). Et ils disent avoir reproduit une partie du comportement du ver (un simple tropisme chimique, great!). Peut-être qu'avant de se lancer dans un truc comme tu proposes, on devrait faire comm ça, ça devrait bien gagner quelques ordres de grandeur...

Mais bon, ok, tant qu'on est dans le virtuel (au sens <1990 = qui n'est qu'à l'état de simple possibilité), on doit pourvoir accepter ton hypothèse...

Cordialement,

[invite06fcc10b]

personne n'ose se lancer?
bon, est ce vous seriez d'accord pour modéliser ça par une distribution de potentiels électriques dans les dendrites, le corps et l'axone, la donnée de la concentration en un nombre suffisant de médiateurs chimiques, une loi permettant de calculer l'évolution temporelle de toutes ces quantités avec des coefficients de couplages entre les neurones, la production de neuromédiateurs et leur diffusion spatiale au cours du temps, enfin quelque chose dans ce goût là?

Personnellement, ça m'a l'air déjà trop compliqué !
L'essentiel, c'est le traitement de l'information. Peu importe qu'il y ait 85 potentiels électriques ou 86 au sein d'un neurone, ce qui compte, c'est de savoir les conséquences, c'est à dire essentiellement quelles sont les synapses qui vont être activées et selon quelles modalités avec quelles types de connexion vers quels neurones. En gros, si on avait un réseau de neurones artificiels câblé à peu près comme notre cerveau, il suffirait que l'activation des neurones artificiels ait lieu de façon similaire à l'activation des neurones naturels. Et l'activation peut être une variable quelconque, pas nécessairement un potentiel électrique. Il faut donc des lois mathématiques exprimant une certaine force d'activation en fonction du temps, de certains paramètres du neurone concerné, en fonction de l'état des synapses d'entrées (encore des variables et des lois), et sans doute aussi de variables globales ou régionales corrélées à l'activation de certains neurones, ou à un état physiologique simulé par d'autres variables.
Je ne dis pas que ça reproduirait le comportement de celui dont on a copié le réseau de neurones, mais ça aurait probablement un comportement "intelligent".
C'est d'ailleurs assez évident me semble t-il, car si l'activation de ce réseau est isomorphe à celui d'un cerveau, il y aura bien activation des mêmes muscles dans les mêmes circonstances (pour peu qu'on relie certains neurones à des nerfs et des mucles) et pareil pour les capteurs qui iront "activer" de manière symétrique des neurones.

[GillesH38a]

J'ai trouvé sur la toile des références à une recherche "simulant" le système nerveux de Ceanorbitis Elegans, 602 neurones. Ils ne se cassent pas la tête à aller si loin, juste une approche fonctionnelle d'un neurone (additionneur/comparateur analogique, j'imagine). Et ils disent avoir reproduit une partie du comportement du ver (un simple tropisme chimique, great!). Peut-être qu'avant de se lancer dans un truc comme tu proposes, on devrait faire comm ça, ça devrait bien gagner quelques ordres de grandeur...

Attttaaaaationnnn, c'est la que c'est subtil. Si ils font ça, ils se fichent completement de la realité physico chimique du neurone. Il prennent un AUTRE système qui marche "a peu pres pareil". La je n'ai aucun probleme !

A mon avis, ce n'est pas un probleme quantitatif d'aller plus ou moins loin. C'est un probleme QUALITATIF de choix :
* soit un construit un dispositif électronique (a base de semi-conducteur) analogique qui semble répondre à peu près comme un neurone.
* soit on simule par un ordinateur (également à base de semi-conducteur, mais c'est un hasard, on peut faire ça avec une machine de Turing en bois) un modèle de vrai neurone biochimique.

Il est très important pour mon raisonnement que vous me disiez si vous etes d'accord que ce n'est pas pareil (parce que justement mon opinion est que c'est la confusion entre les deux approches qui fait dire des betises ensuite).

[invité576543]

Attttaaaaationnnn, c'est la que c'est subtil. Si ils font ça, ils se fichent completement de la realité physico chimique du neurone. Il prennent un AUTRE système qui marche "a peu pres pareil". La je n'ai aucun probleme !

A mon avis, ce n'est pas un probleme quantitatif d'aller plus ou moins loin. C'est un probleme QUALITATIF de choix :
* soit un construit un dispositif électronique (a base de semi-conducteur) analogique qui semble répondre à peu près comme un neurone.
* soit on simule par un ordinateur (également à base de semi-conducteur, mais c'est un hasard, on peut faire ça avec une machine de Turing en bois) un modèle de vrai neurone biochimique.

Il est très important pour mon raisonnement que vous me disiez si vous etes d'accord que ce n'est pas pareil (parce que justement mon opinion est que c'est la confusion entre les deux approches qui fait dire des betises ensuite).

Bonsoir,

Moi pas comprendre.

Ce sera toujours "un dispositif qui semble répondre à peu près pareil". Un modèle c'est un modèle, aussi détaillé soit-il. C'est une abstraction, au sens où cela ne représente qu'une partie de ce qui est modélisé. Il n'y a pas de limite intrinsèque entre les deux cas que tu décris, toute limite sera arbitraire à mon avis. Il y a un modèle peu détaillé, et un modèle mieux détaillé, je ne vois rien d'autre.

Ce n'est pas pareil quantitivement, c'est pareil qualitativement.

Cordialement,

Michel

[pi-r2]

LA Pi-r2, tu appliques une logique qui me dépasse carrément, on est dans le monde des
2) OUI => il n'y a pas de hasard vrai dans le cerveau humain (une machine de Turing simple n'a pas de hasard).
1) OUI => le libre arbitre humain n'est pas du au hasard puisqu'il n'existe pas pour une machine de Turing equivalente.
Je suis donc pour moi partisan de 1)-NON et 2)-NON, ce qui évite tout paradoxe

Le but n'est pas d'éviter les paradoxes mais de les comprendre (Je pense est en soi un paradoxe, c'est impossible, vous vous tuez à le démontrer... et pourtant je pense, ah oui, c'est vrai je suis biologique, ça change tout... Mais quoi au juste ?)
Une machine de Turing, comme TOUT en ce monde comporte une partie de hasard. Ce hasard est justement la non calculabilité de certaines choses. Voir l'automate n°30 de wolfram qui produit des séquences aléatoires calculées, reproductibles. C'est ce point qui résoud le paradoxe et qui explique "ma" logique. Une machine de turing couplée d'une manière quelconque par un capteur à la réalité physique disposera d'une source de hasard de toutes façons (le moment où la lumière du jour dépasse un certains seuil, mesuré au millionième de seconde). Donc toute machine de turing traitant des signaux digitalisés est une turing-oracle.

[pi-r2]

personne n'ose se lancer?
bon, est ce vous seriez d'accord pour modéliser ça par une distribution de potentiels électriques dans les dendrites, le corps et l'axone, la donnée de la concentration en un nombre suffisant de médiateurs chimiques, une loi permettant de calculer l'évolution temporelle de toutes ces quantités avec des coefficients de couplages entre les neurones, la production de neuromédiateurs et leur diffusion spatiale au cours du temps, enfin quelque chose dans ce goût là?

Mais on s'en tape du fonctionnement de détail d'un neurone. L'utilisation biologique est souvent justement une simplification discrète de tout le bruit chimique. La difficulté qu'à du rencontrer la nature est justement, mais comment sortir un signal clair en 0/1 d'un système aussi tordu et aléatoire qu'une cellule.

[pi-r2]

Avec cette définition, l'atmosphère choisit de faire un ouragan ou non dans une semaine par libre arbitre.

euh, y'a quand même quelques étages de complexité entre l'atmosphère et le rat non ?
et franchement, biologiquement parlant faire une grosse différence entre l'homme et le rat c'est un peu osé. (et je ne parle pas du singe). donc pour vous libre arbitre implique conscience et intelligence ?
J'ai quand même bien l'impression que les animaux (les gros) ne fonctionnent pas par pur instinct ou programmation mais font des choix de temps en temps. (une idée de la manip à réaliser pour montrer le libre arbitre chez l'animal ?)

[pi-r2]

J'ai également une grosse critique à apporter à cet argument, que j'ai exposée plusieurs fois. A mon avis, un ordinateur qui simule le comportement analogique du cerveau ne produit pas un système ayant les mêmes performances que ce cerveau, contrairement à ce que racontent tous les théoriciens de l'IA.

La raison est qu'il est impossible alors de coupler cette simulation numérique avec l'information REELLE analogique : on ne peut que la coupler a la simulation numérique de l'information extérieure, ce qui est fondamentalement différent.

Non, bien sûr, ce sera beaucoup mieux que ce qu'est capable de produire notre pauvre cerveau bien sûr. Ce que tu dis sur l'information REELLE s'applique parfaitement à nous d'ailleurs. Notre vue est limitée par sa résolution, donc nous discrétisons les images. La vision des couleurs est artificielle, digitalisée en RVB, alors que la réalité de la lumière est la continuité de longueur d'onde. Le son perçu par notre oreille est discrétisé par nos cellules cilliées, chacune sensibles à une certaine fréquence. Notre toucher, n'en parlons pas (alors je te touche le dos avec combien de doigts ?).
Certes cela est masqué par un gros bruit qui donne une impression de flou continu, il n'en reste pas moins que toutes nos perceptions extérieures sont discrètes. (j'ai oublié aussi la discétisation temporelle des images avec 1/10 de seconde entre 2 images)
Donc tous les arguments qui te permettent de supposer qu'un ordi intelligent n'est pas possible te permettent de déduire que nous ne sommes pas possibles

[chaverondier]

Prenons un jeu de hasard où tu dois choisir une carte à droite ou à gauche sans que tu saches les enjeux. Le point intéressant arrive: tes réactions émotionnelles montrent que tu comprends la rêgle du jeu bien avant d'être capable de l'expliciter: autrement dit il y a un moment où, si je me fie à ce que tu dis alors je conclue que tu n'as pas encore compris la rêgle, alors que si je me fie à tes réactions inconscientes alors la conclusion est que tu as parfaitement compris en fait. C'est juste que tu ne le sais pas encore.

Pour moi, l'activité de choix ci-dessus est une activité qui ne mets pas réellement en jeu ce qui nous donne le sentiment de libre arbitre. Il s'agit en effet d'une situation où l'objectif à atteindre est déjà défini (même si on le découvre seulement progressivement en jouant). On a pas à le choisir. Il faut simplement trouver la meilleure stratégie pour atteindre cet objectif.

Je verrais d'ailleurs bien une machine, dotée de capacités d'apprentissage, réussir ce genre de test (peut-être mieux qu'un être humain à terme ou dans certains cas mettant en jeu d'importantes capacités de calculs). Cela n'évoque pas pour moi la notion de libre arbitre.

Pour moi le sentiment de libre arbitre est associé à des situations où on doit choisir les objectifs à atteindre eux mêmes (et le poids relatif qu'on estime devoir leur accorder) et non celles où on doit définir les moyens d'atteindre un objectif déjà défini en optimisant une fonction de gain (qu'elle soit bien ou mal connue du joueur).

Bernard Chaverondier

[invite73192618]

ca me parait bien étrange comme affirmation, peux - tu détailler ? J'ai lu la source que tu as donnée à mmy et j'ai du louper ce passage.

Rhaaa j'arrive pas à remettre la main sur le passage exact. Je suis quasiment sur que c'était dans les réfs que tu m'avais donnés sur l'hypercomputation... si je retrouve je vous fais signe.

Quelle solution prenez vous pour simuler les neurones de façon à peu près correcte?

Une somme pondérée des entrées avec une fonction non linéaire de ton choix. C'est très suffisant, même s'il est possible que d'autres formulations se révèlent plus pratiques.

pour le cerveau, y a t il un niveau de discretisation qui permette d'écrire des équations d'évolution seulement en fonction de ces variables discrétisées, et lequel?

Probablement. Je sais pas trop où, mais le fait est que je m'en fous!

Si j'utilise un bon vieux réseau à rétropopagation (basés sur les neurones ci-dessus) pour imiter l'état de chaque neurone en fonction de l'état de ses entrées passée, alors je vais avoir un équivalent fonctionnel pour tout les neurones, ce qui devrait me donner une simulation qui se comporte comme le cerveau copié.

C'est probablement trop poussé quand on prends tous les neurones (avez-vous l'impression d'être différent le matin du soir? Pourtant il y a déjà quelques milliers de neurones qui sont plus là...), mais sur le principe ça devrait marcher.

Il est très important pour mon raisonnement que vous me disiez si vous etes d'accord que ce n'est pas pareil (parce que justement mon opinion est que c'est la confusion entre les deux approches qui fait dire des betises ensuite).

Pour moi c'est pareil, sauf à considérer que des informations infinitessimales ont un impacte à grande échelle. A priori je n'y crois pas mais c'est là que j'ai un doute: et si les bouclages cérébraux était capable d'exploiter des phénomènes chaotiques pour faire ressurgir de l'information... à ce moment là peut-être.

Pour moi le sentiment de libre arbitre est associé à des situations où on doit choisir les objectifs à atteindre eux mêmes (et le poids relatif qu'on estime devoir leur accorder) et non celles où on doit définir les moyens d'atteindre un objectif déjà défini en optimisant une fonction de gain (qu'elle soit bien ou mal connue du joueur).

La différence étant la créativité? Pourquoi croire qu'elle est d'abord en conscience alors que tous le reste (les perceptions, les décisions, les actions) semble exister avant la prise de conscience?

[invité576543]

Pour moi le sentiment de libre arbitre est associé à des situations où on doit choisir les objectifs à atteindre eux mêmes (et le poids relatif qu'on estime devoir leur accorder) et non celles où on doit définir les moyens d'atteindre un objectif déjà défini en optimisant une fonction de gain (qu'elle soit bien ou mal connue du joueur).

Bonsoir,

Voilà un point qui me paraît des plus importants. La différence entre objectifs et moyens est fondamentale.

MAIS:

Un objectif intermédiaire n'est qu'un moyen pour un objectif plus lointain.


Si le libre-arbitre c'est choisir son objectif, alors de deux choses l'une :

- soit ce choix porte sur un objectif intermédaire; et alors toute distinction entre objectif et moyen est arbitraire! Et cela ne peut pas être évoquer pour définir le libre-arbitre;

- soit ce choix porte sur un objectif "ultime", qui n'est pas un moyen pour un objectif plus lointain; et alors je n'ai pas de libre-arbitre, et je demande à toute personne dotée de libre-arbitre d'exprimer l'objectif ultime qu'il a choisi par libre-arbitre!

S'il y a UNE raison de rejeter le libre-arbitre, c'est bien notre absence totale de contrôle sur le sens de nos vies, sur l'objectif "ultime" de nos actes.

Cordialement,

[GillesH38a]

Je me rends mieux compte de la raison pour laquelle nous divergeons.
Quand je dis "le cerveau est équivalent à une machine de Turing", cela signifie pour moi:
"il existerait en principe un algorithme formel, implémentable sur une machine de Turing, produisant EXACTEMENT la même pensée qu'un cerveau particulier." (même si cet algorithme en pratique est impossible à déterminer, il existe en théorie, et si on pouvait faire tourner sur un ordinateur, l'algorithme correspondant à ma pensée actuelle, cet ordinateur penserait qu'il est moi).

Cette position est défendue par beaucoup de théoriciens, et ils utilisent la thèse de Church pour "démontrer" la possibilité théorique d'une IA. C'est cette position que je conteste.

Vous, vous avez l'air de prendre ça avec la signification différente:
"On peut construire une machine de Turing qui fait le même genre de truc qu'un cerveau".

C'est beaucoup moins contestable, d'abord parce que "le même genre de truc" est très flou. Les ordinateurs font déjà "le même genre de truc" que nous pour certaines applications. Mais il est clair qu'ils ne le font pas comme nous, en "pensant".
Vous pouvez être convaincu que "penser" est uniquement une question du bon choix d'algorithme, mais c'est un acte de foi. Pour le démontrer, il faudrait démontrer la première proposition. Elle vous paraît accessoire, mais pour la justification théorique de l'IA, elle est essentielle.

[GillesH38a]

Si j'utilise un bon vieux réseau à rétropopagation (basés sur les neurones ci-dessus) pour imiter l'état de chaque neurone en fonction de l'état de ses entrées passée, alors je vais avoir un équivalent fonctionnel pour tout les neurones, ce qui devrait me donner une simulation qui se comporte comme le cerveau copié.

partons déjà de là. Tu es en train de regarder l'écran, et ton cerveau enregistre en permanence les informations sensorielles visuelles, auditives, tactiles, kinesthésiques. Suppose que tout a coup tout s'arrete d'un coup, le grand noir complet, plus aucune information de l'extérieur, plus de sensation interne de ton corps,de tes muscles, de faim de soif, comment évoluerait ta pensée?

[invité576543]

Vous pouvez être convaincu que "penser" est uniquement une question du bon choix d'algorithme, mais c'est un acte de foi. Pour le démontrer, il faudrait démontrer la première proposition. Elle vous paraît accessoire, mais pour la justification théorique de l'IA, elle est essentielle.

Bonsoir,

Le mot "penser" est flou, au sens où tu utilises le mot flou ailleurs dans le poste.

Si on peut pas, ou si on refuse, de le définir par des critères extérieurs, alors c'est la signification que l'on donne au mot "penser" qui est un acte de foi.

Et ce sens peut être tel que "penser est une question de bon choix d'algorithme", ou tel que penser est le privilège a) de l'homme, b) certains animaux supérieurs, c) d'entités ayant reçu ce don d'une divinité, d) de virus cosmiques indétectables qui vivent en symbiose avec certaines espèces, ... (je peux rajouter des choix pour qui en a besoin....). Dans les deux cas, l'acte de foi vient de la définition que l'on donne à "penser".

Amha, seule une définition opérationnelle, extérieure (basée sur le comportement définissable à une frontière - une interface - délimitant ce qui pense et son environnement), du mot "penser" peut permettre de dépasser l'acte de foi. D'où les réflexions genre test de Turing ou chambre chinoise.

Cordialement,

Michel

[GillesH38a]

tout à fait d'accord. La chambre chinoise suppose bien l'existence d'un algorithme du type 1) equivalent à un cerveau, puisqu'elle le fait executer formellement par un observateur, et non par un système analogique qui marche comme un cerveau. Il est essentiel que l'algorithme de type 1) existe, je ne pense pas que Searle contestait la possibilité qu'une machine puisse etre intelligente. Je suis en plein accord avec lui.

Si on admet que l'être humain n'obeit qu'à des lois physiques, on est bien obligé d'admettre qu'un système matériel puisse produire de la pensée. Encore une fois, ce que je conteste, c'est la possibilité de faire une équivalence formelle entre un système matériel (dont le cerveau, mais pas seulement!) et un algorithme discret genre Turing. Les seuls appareils formellement équivalents à une machine de Turing, ce sont ....les machines de Turing, c'est à dire les objets dont l'état peut PAR CONSTRUCTION être caractérisé par une série de valeurs discrètes dont l'évolution est calculable par un algorithme.

Je pense donc que la conscience, qui n'est certes pas mesurable objectivement, mais quand même "sensible", est due à un phénomène physique non algorithmisable au sens de Turing. Pour me prouver le contraire, il faudrait que vous ayez une idée, au moins de principe, de comment écrire un algorithme EXACTEMENT équivalent à un cerveau !

Je ne m'oppose pas à l'idée de fabriquer une machine pensante à base de silicium, mais je pense que
* cette machine devrait incorporer des phénomènes non algorithmisables.
* il est extrêmement peu probable que cette machine puisse manipuler des concepts "humains", parce qu'en dernière analyse ces concepts humains reposent sur des perceptions physiques qui n'ont de sens que pour notre corps biologique...

C'est là que je cherche à entraîner insidieusement Jiav...

[pi-r2]

Je me rends mieux compte de la raison pour laquelle nous divergeons.
Quand je dis "le cerveau est équivalent à une machine de Turing", cela signifie pour moi:
"il existerait en principe un algorithme formel, implémentable sur une machine de Turing, produisant EXACTEMENT la même pensée qu'un cerveau particulier." (même si cet algorithme en pratique est impossible à déterminer, il existe en théorie, et si on pouvait faire tourner sur un ordinateur, l'algorithme correspondant à ma pensée actuelle, cet ordinateur penserait qu'il est moi).Cette position est défendue par beaucoup de théoriciens, et ils utilisent la thèse de Church pour "démontrer" la possibilité théorique d'une IA. C'est cette position que je conteste. Vous, vous avez l'air de prendre ça avec la signification différente:
"On peut construire une machine de Turing qui fait le même genre de truc qu'un cerveau".C'est beaucoup moins contestable, d'abord parce que "le même genre de truc" est très flou. Les ordinateurs font déjà "le même genre de truc" que nous pour certaines applications. Mais il est clair qu'ils ne le font pas comme nous, en "pensant".
Vous pouvez être convaincu que "penser" est uniquement une question du bon choix d'algorithme, mais c'est un acte de foi. Pour le démontrer, il faudrait démontrer la première proposition. Elle vous paraît accessoire, mais pour la justification théorique de l'IA, elle est essentielle.

Alors soyons clairs. je suis dans la catégorie de ceux qui pensent qu'une machine purement algorithmique peut émuler un cerveau humain, c'est à dire faire le même genre de truc. Nous sommes des entités biologiques et notre MOI est un mélange inextricable entre notre génétique, les conditions initiales de notre génèse ET toute notre expérience jusqu'à cet instant précis. En ce sens, il est impossible de créer une machine exactement identique au moi de maintenant puisqu'il lui faudrait exactement la même expérience en incluant des souvenirs que j'ai moi même oublié mais qui ont contribué à me façonner tel que je suis aujourd'hui. En plus "JE" change à chaque instant, et le problème devient le même que de demander l'heure EXACTE à une machine. Laissons aux Church et autres leur fantasme, chaque être conscient combat l'absurdité de sa propre disparition à sa manière.
Ensuite dire que ça ne dépend que du bon choix de l'algorithme n'est pas du tout une question de foi, mais juste le résultat d'une analyse objective de l'évolution d'une cellule initiale jusqu'à un être doté d'un cerveau qui pense et qui est intelligent et conscient. J'aimerais qu'on me montre où se trouve le non algorithme dans l'évolution programmée et parfaitement reproductible d'une cellule. L'apparition de l'intelligence chez l'enfant est un processus automatique, systématique sauf quand le programme est buggé au départ.

[invite06fcc10b]

Je pense donc que la conscience, qui n'est certes pas mesurable objectivement, mais quand même "sensible", est due à un phénomène physique non algorithmisable au sens de Turing. Pour me prouver le contraire, il faudrait que vous ayez une idée, au moins de principe, de comment écrire un algorithme EXACTEMENT équivalent à un cerveau !

Si c'est la seule façon de te convaincre, ça va être dur !
Mais ce qui me gêne dans ta façon de prendre le problème, c'est que tu parles de "conscience" ou de "penser", concepts qui sont particulièrement abstraits. En général, les scientifiques parlent de choses bien concrètes. Autrement dit, définis un protocole expérimental qui te permet de définir phénoménologiquement la "pensée" (avec donc des mesures physiques à affectuer) ou pour simplifier une pensée particulière, puis demande ensuite si un ordinateur ou une machine de Turing peut le faire. Mais tu ne peux pas rester dans l'abstrait, sinon on s'embarque dans des discussions irrationnelles. En clair, ton "sensible" ne me satisfait pas. Autant faire appel à l'intuition ou à la foi, pour moi c'est pareil.

[pi-r2]

Je pense donc que la conscience, qui n'est certes pas mesurable objectivement, mais quand même "sensible", est due à un phénomène physique non algorithmisable au sens de Turing. Pour me prouver le contraire, il faudrait que vous ayez une idée, au moins de principe, de comment écrire un algorithme EXACTEMENT équivalent à un cerveau !

Je ne m'oppose pas à l'idée de fabriquer une machine pensante à base de silicium, mais je pense que
* cette machine devrait incorporer des phénomènes non algorithmisables.
* il est extrêmement peu probable que cette machine puisse manipuler des concepts "humains", parce qu'en dernière analyse ces concepts humains reposent sur des perceptions physiques qui n'ont de sens que pour notre corps biologique...

L'algorithme que l'on cherche est en gros l'algorithme 'impossible' qui teste tous les algorithme pour voir si ils convergent. en explorant 'pendant un certain temps' tous les algo rithmes possibles et en commençant par les plus petits en longueur, on arrive forcément à des choses 'intéressantes'.
ton deuxième point d'abord: il est très facile de donner à une machine les mêmes perceptions physiques que toi: un appareil photo numérique, ou un camescope sont dotés du sens de la vue. Un micro possède l'ouie, et on sait faire de très bons capteurs tactiles qui permettent de faire des mains à controle de force.
Maintenant cela répond à ton premier point: une machine dotée de tels capteurs est plongée dans une réalité qui elle est non algorithmisable (ou pas mais ce n'est pas le sujet) et donc dispose d'un "oracle" comme on dit. Donc forcément que la machine aura des influences externes non algorithmisables. Pas besoin que ce soit interne en revanche.

[pi-r2]

Autrement dit, définis un protocole expérimental qui te permet de définir phénoménologiquement la "pensée" (avec donc des mesures physiques à affectuer) ou pour simplifier une pensée particulière, puis demande ensuite si un ordinateur ou une machine de Turing peut le faire. .

Je suis d'accord avec toi Argyre, mais je crains que le système expérimental en question ne puisse qu'être un système informatique doté du "bon" algorithme. Et une fois qu'on l'aura trouvé, cette discussion aura beaucoup moins de sens...

[GillesH38a]

il est très facile de donner à une machine les mêmes perceptions physiques que toi: un appareil photo numérique, ou un camescope sont dotés du sens de la vue.

ouh là....
"un certain" sens peut être, mais encore fait il les interfacer avec un cortex cérébral, c'est pas gagné!

Maintenant cela répond à ton premier point: une machine dotée de tels capteurs est plongée dans une réalité qui elle est non algorithmisable (ou pas mais ce n'est pas le sujet) et donc dispose d'un "oracle" comme on dit. Donc forcément que la machine aura des influences externes non algorithmisables. Pas besoin que ce soit interne en revanche.

Ce n'est pas les capteurs le problème, merci , je sais qu'on sait faire des CCD, des micros ou des capteurs de pression. Ce qu'on ne sait pas faire, c'est réaliser une image mentale du monde qui fait la synthèse de ces stimuli comme le cerveau. Encore une fois rien ne dit que cette propriété de représentation mentale est décrite par un certain algorithme.

[GillesH38a]

Autrement dit, définis un protocole expérimental qui te permet de définir phénoménologiquement la "pensée" (avec donc des mesures physiques à affectuer) ou pour simplifier une pensée particulière, puis demande ensuite si un ordinateur ou une machine de Turing peut le faire. Mais tu ne peux pas rester dans l'abstrait, sinon on s'embarque dans des discussions irrationnelles. En clair, ton "sensible" ne me satisfait pas. Autant faire appel à l'intuition ou à la foi, pour moi c'est pareil.

C'est justement la difficulté de définir une manière opérationnelle de tester la pensée qui est à l'origine de mon doute. Quel genre de processus vas tu pouvoir implémenter dans ta machine pour qu'elle donne un sens à "un battement de coeur" , ou "papa" par exemple?