Un "ordinateur pensant" serait-il doué de libre arbitre ?

[pi-r2]

comment concrètement interagir avec un ordinateur comme avec un enfant? qui le fera, sous quelle forme, etc...?Non, mais que personne ne me donne la réponse commence à en être un un peu plus sérieux.
Tu penses que le fait que nous partagions la même structure biologique, la plupart de nos gènes, le même genre de sensations corporelles, les mêmes ancêtres n'a aucune importance?Et quelle raison y aurait-il que la distance qui nous sépare d'une machine "parlante" soit significativement moins grande que celle qui nous sépare d' un chimpanzé ?

Nous te le disons, mais tu n'écoutes pas. Alors concrètement, par l'intermédiaire d'un clavier. On tape des phrases, la machine réponds. On la corrige, on retape d'autres phrases. Et progressivement, elle apprend, sous réserve bien sur d'utiliser un bon algorithme, pas encore découvert à ma connaissance.
Sinon, oui je pense qu'avoir une structure, biologique ou non, proche n'a à peu près aucune importance. Nous pouvons illustrer avec l'histoire humaine que d'infimes différences sont grossies à l'extrème (couleur de peau par exemple). La raison qui ferait que nous serions moins proche du chimpanzé que d'une machine pensante est justement la nature ABSTRAITE de la pensée. Qui s'éloigne de la matière.
L'exemple du chimpanzé illustre bien d'ailleurs que des différences très faibles du génome peuvent conduire à des différences majeures (l'intelligence et la civilisation) dans l'être adulte.
-----

[pi-r2]

Un cerveau ne peut etre considéré comme algorithmique qui si il existe un niveau de description de son état à l'aide de variables discrètes dont l'évolution est une fonction univoque et exacte de ces variables.
(Pour un ordinateur, c'est la description en contenu de ses bits mémoires, éventuellement de ses inputs digitalisés).

Or on ne connait aucune description de cet ordre pour le cerveau.

Donc il n'est pas algorithmique.

Mis à part que 'on ne connait aucune' n'est pas une preuve d'inexistence, selon ta définition, un camescope ne peut être considéré comme algorithmique.

[GillesH38a]

Je sais bien que tu ne le penses pas, mais avoue que ton post le laisserait croire !

Ma position est que la machine "intelligente" devra développer cet intelligence par apprentissage, c'est à dire échange avec l'environnement, et sans doute pour des durées longues. Ce sera donc parfaitement analogue à ce qui se passe entre humains. Que tu ne puisse pas l'imaginer n'est pas un argument suffisant. Tu as l'exemple de repliée2 qui "passe" très bien avec les humains.

[GillesH38a]

Mis à part que 'on ne connait aucune' n'est pas une preuve d'inexistence, selon ta définition, un camescope ne peut être considéré comme algorithmique.

comment ça? un caméscope est algorithmique parce que c'est un processeur parfaitement algorithmique couplé avec une entrée parfaitement digitalisée. Bien sûr l'information qui entre n'est pas connue au départ, et est analogique, mais elle est transcrite par le CCD en données numérisées.
On peut donc l'émuler par une machine de Turing alimentée par une bande de données numériques.

[pi-r2]

comment ça? un caméscope est algorithmique parce que c'est un processeur parfaitement algorithmique couplé avec une entrée parfaitement digitalisée. Bien sûr l'information qui entre n'est pas connue au départ, et est analogique, mais elle est transcrite par le CCD en données numérisées.
On peut donc l'émuler par une machine de Turing alimentée par une bande de données numériques.

Son évolution n'est pas une fonction univoque d'un nombre fini de variables, car il est impossible d'émuler l'ensemble des images qu'il pourrait enregistrer. Je considère que le cerveau humain est une forme de résumé de son expérience passée. C'est le même niveau de difficulté algorithimique. Si on enlève pour l'intelligence toute l'expérience, comme tu enlèves pour le camescope toutes les images non algorithmiques (car non prévisibles), on se retrouve au point de départ, descriptible de manière algorithmique.

[spi100]

Bien sûr l'information qui entre n'est pas connue au départ, et est analogique, mais elle est transcrite par le CCD en données numérisées.
On peut donc l'émuler par une machine de Turing alimentée par une bande de données numériques.

Non, le caméscope n'est pas une machine de Turing mais une O-machine. L'entrée joue le rôle d'oracle, et l'information reçue en entrée n'a aucune raison d'être algorithmique (même si elle peut l'être) : ça peut par exemple être un signal complètement aléatoire.

[GillesH38a]

Nous te le disons, mais tu n'écoutes pas. Alors concrètement, par l'intermédiaire d'un clavier. On tape des phrases, la machine réponds. On la corrige

Qu'appelle tu corriger?
Si tu trifouilles dans le programme de la machine, tu ne fais pas ce que fait un enfant (j'espère que tu n'es jamais allé trifouiller dans les neurones de tes enfants?)
Si tu veux qu'elle soit analogue à un etre humain tu n'as le droit que de lui taper des phrases.
Mais si elle n'interagit qu'avec un clavier, elle n'a aucune connaissance du monde. Comment se faire une idée de la signification de "crier" par exemple?

, on retape d'autres phrases. Et progressivement, elle apprend, sous réserve bien sur d'utiliser un bon algorithme, pas encore découvert à ma connaissance.

Et dont tu n'as aucune démonstation qu'il existe, on tourne en rond...

Sinon, oui je pense qu'avoir une structure, biologique ou non, proche n'a à peu près aucune importance. Nous pouvons illustrer avec l'histoire humaine que d'infimes différences sont grossies à l'extrème (couleur de peau par exemple).

Donc logiquement, des différences énormes de structures conduiraient à une distance infinitésimale de comportement? j'ai du mal à suivre le raisonnement.

La raison qui ferait que nous serions moins proche du chimpanzé que d'une machine pensante est justement la nature ABSTRAITE de la pensée.Qui s'éloigne de la matière.

Ce ne sont que des raisonnements circulaires, tu n'apportes aucune preuve de cette nature abstraite. Tu ne fais que répéter des suppositions qui n'ont aucun fondement expérimental (que la pensée est indépendante de la matière à sa source).

Bien au contraire, l'influence extrêmement grande de variations génétiques infimes, de l'absorption de substances en concentration très faibles, de chocs physiques, de la présence de tumeurs cérébrales etc... prouvent que la pensée est très sensible au milieu matériel qui la produit.

L'exemple du chimpanzé illustre bien d'ailleurs que des différences très faibles du génome peuvent conduire à des différences majeures (l'intelligence et la civilisation) dans l'être adulte.

Ben oui, même remarque que plus haut, en quoi cela renforcerait-t-il l'idée que des différences énormes de fonctionnement à la base pourraient produire des comportements très voisins? Ce me paraît plutôt renforcer ma thèse !!!

[GillesH38a]

Non, le caméscope n'est pas une machine de Turing mais une O-machine. L'entrée joue le rôle d'oracle, et l'information reçue en entrée n'a aucune raison d'être algorithmique (même si elle peut l'être) : ça peut par exemple être un signal complètement aléatoire.

On ne s'est pas compris, je n'ai pas dit que l'entrée etait algorithmique, j'ai dit qu'elle etait digitalisée. Elle peut etre certes aléatoire, mais elle peut quand même etre mise sous forme numérisée de façon que la connaissance de ces données numérisées détermine parfaitement, univoquement, l'évolution du caméscope.

Ce n'est pas le cas du cerveau, dont premièrement l'état n'est pas numérisable de façon exacte, deuxiement dont les inputs (entrées sensorielles) ne sont pas non plus numérisables de façon exacte. Exacte signifie pour moi exacte. C'est à dire qu'elles peuvent etre représentées sous forme de données discrètes dont la connaissance permettrait de déterminer de façon absolument univoque les sorties (mettons dans le cas du cerveau les signaux moteurs).

[GillesH38a]

Son évolution n'est pas une fonction univoque d'un nombre fini de variables, car il est impossible d'émuler l'ensemble des images qu'il pourrait enregistrer.

Excuse moi, mais un CCD fournit après numérisation du signal une image sur un nombre fini de pixels, codés sur un nombre fini de bits. L'ensemble des images possibles après un temps fini est parfaitement fini, et l'état du caméscope après ce temps fini est une fonction parfaitement univoque de ces images. Je ne vois pas ou est le probleme.

[GillesH38a]

bon, je me lève tot demain donc je vais sauvergarder mon disque dur et je me débranche

[spi100]

On ne s'est pas compris, je n'ai pas dit que l'entrée etait algorithmique, j'ai dit qu'elle etait digitalisée. Elle peut etre certes aléatoire, mais elle peut quand même etre mise sous forme numérisée de façon que la connaissance de ces données numérisées détermine parfaitement, univoquement, l'évolution du caméscope.

Ce n'est pas le cas du cerveau, dont premièrement l'état n'est pas numérisable de façon exacte, deuxiement dont les inputs (entrées sensorielles) ne sont pas non plus numérisables de façon exacte. Exacte signifie pour moi exacte. C'est à dire qu'elles peuvent etre représentées sous forme de données discrètes dont la connaissance permettrait de déterminer de façon absolument univoque les sorties (mettons dans le cas du cerveau les signaux moteurs).

Même si tu numérises, ça ne change pas le problème. L'important c'est de pouvoir démarrer un algorithme sur une donnée que ne peut pas être le résultat d'un algorithme. Tu as ainsi un système qui est plus puissant qu'une machine de Turing, et qui ne peut pas se réduire à une machine de Turing.

[invite73192618]

B, ben si c'est une machine qui croit qu'elle est un être humain, elle n'est pas intelligente,

Pas d'accord: ça dépend de sa définition d'un être humain

Car s'il était doué de libre arbitre il pourrait presque être considéré comme un être vivant. Ce serait un "esprit" enfermé dans une machine. Selon moi, on ne devrait pas essayer de telles choses...

Je trouve que c'est une foutue bonne question!

Pour le B), je pense que c'est possible en théorie, mais pas en pratique.

Avec une puissance de calcul suffisante (pas infini -juste énorme), je crois que ce serait possible dès aujourd'hui.

Un cerveau ne peut etre considéré comme algorithmique qui si il existe un niveau de description de son état à l'aide de variables discrètes (..)
Or on ne connait aucune description de cet ordre pour le cerveau.

Non non. Les potentiels d'action sont des trucs discrets. Je suis d'accord pour laisser un doute sur la turingabilité de leur production, mais certainement pas sur leur aspect binaire. Ils n'ont pas le choix: ils sont régénérés de place en place le long des axones.

[invité576543]

Non non. Les potentiels d'action sont des trucs discrets. Je suis d'accord pour laisser un doute sur la turingabilité de leur production, mais certainement pas sur leur aspect binaire. Ils n'ont pas le choix: ils sont régénérés de place en place le long des axones.

Bonjour,

En terme de théorie du signal, l'information est dans le temps entre front de potentiels. Elle n'est donc pas discrète, mais bien continue. La différence n'est pas une nuance. L'aspect bipolaire du signal n'est pas pertinent, c'est la modulation qui doit être regardée, et celle-ci est clairement analogique, et non discrète.

Cordialement,

Michel (actuellement à Sydney!!!)

[invite73192618]

Salut Michel (cool Sydney!!),

Toujours pas d'accord: la physique de la membrane impose une limite à la fréquence maximale, ça n'est donc pas analogique.

[invité576543]

Salut Michel (cool Sydney!!),

Toujours pas d'accord: la physique de la membrane impose une limite à la fréquence maximale, ça n'est donc pas analogique.

Pas d'accord non plus! Ca ne change pas le fait que le temps entre front est analogique, ça donne simplement une borne inférieure!

Cordialement,

Michel

[invite73192618]

Oui c'est vrai. Un autre: le nombre de vésicules synaptiques relâchées.

[invité576543]

Oui c'est vrai. Un autre: le nombre de vésicules synaptiques relâchées.

Ca c'est plus subtil. Je ne connais pas les détails, mais il me semble peu probable que les vésicules soient parfaitement standardisées. Il doit y avoir un nombre, peut-être assez petit, tel que l'effet de n et de n+1 soit statistiquement sans différence significative. Signal genre discret pour les petites valeurs, mais analogique pour les grandes...

Cordialement,


EDIT : , avion à prendre...

[invite73192618]

Tout à fait: aucun doute qu'elles ne sont pas parfaitement standardisée, ne serait-ce qu'au niveau de la taille et du nombre de molécule dedans. De plus le nombre de vésicules relachées varie de pa en pa, et il faut voir qu'en général un axone afférent ne fait pas une synapse sur le neurone mais plutôt un petit tas, ce qui fait que tout ça fait donne pas mal de bruit. Dans le fond c'est pour ça qu'un fonctionnement analogique avec précision infini me semble absurde pour le cerveau: il y a plein d'étapes ou on peut avoir du bruit à priori non signifiant.

Un signal "discret pour les petites valeurs, analogique pour les grandes", n'est-ce pas équivalent à du discret bruité?

Bon vol! Ne parle pas de bombe analogique aux hotesses!

[GillesH38a]

Bonjour Jiav , j'insiste, ce n'est pas qu'une question de discrétisation. Tout est discrétisable. Le problème est ensuite que l'équation d'évolution des quantités discrètes doit être une fonction exacte de ces quantités discrètes, ce qui est réalisé dans un processeur par construction. Le nombre de vésicules libérées entre t et t +dt n'est pas calculable exactement en fonction seule du nombre de vésicules libérées dans le passé.

Cordialement

Gilles

[GillesH38a]

Même si tu numérises, ça ne change pas le problème. L'important c'est de pouvoir démarrer un algorithme sur une donnée que ne peut pas être le résultat d'un algorithme. Tu as ainsi un système qui est plus puissant qu'une machine de Turing, et qui ne peut pas se réduire à une machine de Turing.

De ce point de vue la, je suis d'accord, c'est pour ça que je dis que les solutions 1 sont impossibles, seules les solutions 2 marcheraient en principe.
Ce que je maintiens, c'est que appliquée à une structure non biologique, le type d'information traitée serait tellement différent du notre que le test de Turing serait inapplicable, et que nous serions donc bien incapable de savoir si la machine est consciente ou non, tout comme les ordinateurs actuels (ou les camescopes....).

[spi100]

De ce point de vue la, je suis d'accord, c'est pour ça que je dis que les solutions 1 sont impossibles, seules les solutions 2 marcheraient en principe.
Ce que je maintiens, c'est que appliquée à une structure non biologique, le type d'information traitée serait tellement différent du notre que le test de Turing serait inapplicable, et que nous serions donc bien incapable de savoir si la machine est consciente ou non, tout comme les ordinateurs actuels (ou les camescopes....).

Oui, mais tu es tout aussi incapable de prouver que les autres êtres humains sont conscients. Tu l'affirmes en te basant sur l'idée que puisque tes congènères te sont similaires et qu'ils doivent éprouver les mêmes choses que toi.
Il y a une nouvelle de Kafka dont j'ai oublié le titre, un singe passe devant un jury et doit faire la preuve de son humanité qu'il a acquis par accident. On retrouve aussi ça dans la métamorphose où K perd son aspect humain mais conserve sa conscience, il doit alors lui aussi faire la preuve de sa conscience.
Ces deux nouvelles expliquent bien que l'on accorde plus facilement une conscience à ceux qui nous ressemblent.

[invite06fcc10b]

Bonjour Jiav , j'insiste, ce n'est pas qu'une question de discrétisation. Tout est discrétisable. Le problème est ensuite que l'équation d'évolution des quantités discrètes doit être une fonction exacte de ces quantités discrètes, ce qui est réalisé dans un processeur par construction. Le nombre de vésicules libérées entre t et t +dt n'est pas calculable exactement en fonction seule du nombre de vésicules libérées dans le passé.

Ton raisonnement repose sur une hypothèse forte : tu penses qu'il faut un calcul "exact". Or, nous avons pris à plusieurs reprises des exemples qui suggèrent qu'il n'est nul besoin d'une valeur "exacte" (réelle) de tel taux de je ne sais quelle substance, ou pour le calcul d'une fonction d'évolution dynamique de certaines variables. Bien au contraire, beaucoup de chercheurs en neurosciences pensent que le cerveau est très robuste aux variations infimes de toutes les variables. Attention, ça ne veut pas dire qu'il n'y aurait pas du tout de variations comportementales si on faisait varier de façon infinitésimale certains paramètres, ça veut dire que le comportement restera globalement le même et indiscernable de la "normale" si on élimine ces variations.

[GillesH38a]

Oui, mais tu es tout aussi incapable de prouver que les autres êtres humains sont conscients. Tu l'affirmes en te basant sur l'idée que puisque tes congènères te sont similaires et qu'ils doivent éprouver les mêmes choses que toi.
Il y a une nouvelle de Kafka dont j'ai oublié le titre, un singe passe devant un jury et doit faire la preuve de son humanité qu'il a acquis par accident. On retrouve aussi ça dans la métamorphose où K perd son aspect humain mais conserve sa conscience, il doit alors lui aussi faire la preuve de sa conscience.
Ces deux nouvelles expliquent bien que l'on accorde plus facilement une conscience à ceux qui nous ressemblent.

Je suis absolument d'accord avec toi, on n'a pas de preuve que les autres soient conscients. On l'infére a partir des similitudes de leur comportement extérieur avec le notre.

Ce que je pense (sans avoir de preuve, mais des arguments solides a mon avis) c'est que le comportement d'une machine n'ayant pas de corps biologique serait beaucoup trop différent du notre pour que nous soyons tenté d'en tirer cette inférence : en pratique la question de savoir si elle pense ou non serait indécidable, et nous ne pourrions de toutes façon pas échanger avec elle raisonnablement, parce que les mots que nous employons dans le langage réfèrent tous plus ou moins à une expérience sensorielle et sociale dont elle serait dépourvue.


Cordialement

Gilles

[pi-r2]

Qu'appelle tu corriger?

Comme avec un enfant, en lui disant par le clavier qu'elle se trompe.

Si tu veux qu'elle soit analogue à un etre humain tu n'as le droit que de lui taper des phrases.

C'est en effet la règle du jeu.

Mais si elle n'interagit qu'avec un clavier, elle n'a aucune connaissance du monde. Comment se faire une idée de la signification de "crier" par exemple?

Elle en a la connaissance qu'elle peut en avoir par l'intermédiaire du clavier. Cette méthode sera lente, mais dès que les mots auront un 'sens' elle pourra finir de se cultiver sur le net. Elle aura la même connaissance ce 'crier' (en supposant qu'elle n'a que clavier / écran comme interfaces) qu'un aveugle a de connaissance de 'rouge'.

Et dont tu n'as aucune démonstation qu'il existe, on tourne en rond...

La démonstration la plus simple d'un il existe et de trouver un exemple. La démonstration théorique à laquelle nous nous essayons ici, nous voyons bien combien elle repose sur des bases fragiles.

Donc logiquement, des différences énormes de structures conduiraient à une distance infinitésimale de comportement? j'ai du mal à suivre le raisonnement....

Non, juste pour dire qu'il n'y a pas lien entre la structure et le résultat. Des structures différentes peuvent produire la même chose et des structures très proches des choses radicalement différentes.

Ce ne sont que des raisonnements circulaires,

Ce ne sont pas raisonnements, juste des argumentations.

tu n'apportes aucune preuve de cette nature abstraite. Tu ne fais que répéter des suppositions qui n'ont aucun fondement expérimental (que la pensée est indépendante de la matière à sa source).

Pas indépendante, tendant à s'en éloigner. Je n'ai que ma conviction intime à ce sujet. Mais je constate que des individus différents peuvent comprendre la même idée.

Bien au contraire, l'influence extrêmement grande de variations génétiques infimes, de l'absorption de substances en concentration très faibles, de chocs physiques, de la présence de tumeurs cérébrales etc... prouvent que la pensée est très sensible au milieu matériel qui la produit.

C'est plutot du tout ou rien et des modifications grossières que ça apporte.

[pi-r2]

en pratique la question de savoir si elle pense ou non serait indécidable, et nous ne pourrions de toutes façon pas échanger avec elle raisonnablement, parce que les mots que nous employons dans le langage réfèrent tous plus ou moins à une expérience sensorielle et sociale dont elle serait dépourvue.

Nous pouvons au moins juger les actions qu'elle entreprend et les classer comme actions guidées par une intelligence ou non (parfois en se trompant si elle est plus intelligente que nous)

[pi-r2]

Ce n'est pas le cas du cerveau, dont premièrement l'état n'est pas numérisable de façon exacte, deuxiement dont les inputs (entrées sensorielles) ne sont pas non plus numérisables de façon exacte. Exacte signifie pour moi exacte. C'est à dire qu'elles peuvent etre représentées sous forme de données discrètes dont la connaissance permettrait de déterminer de façon absolument univoque les sorties (mettons dans le cas du cerveau les signaux moteurs).

Et alors ? tu supposes qu'il est Nécessaire de reproduire exactement un neurone (ou pire le cerveau) pour obtenir de l'intelligence. Avec ce raisonnement là, on ne peut faire de physique car il est impossible de modéliser la pression, ou la résistance mécanique. Ce qu'on ne peut pas modéliser précisément entre dans un "flou" aléatoire qui, comme on le voit en biologie, n'a pas d'incidence sur le fonctionnement des cellules.
Bien sûr , une telle simulation imparfaite de "mon cerveau" ne produirait pas les mêmes décisions que moi. si c'est ça ton point, nous sommes d'accord, on ne peut pas reproduire exactement quelqu'un. Cela n'empêche pas de faire quelquechose d'intelligent.

[GillesH38a]

Ton raisonnement repose sur une hypothèse forte : tu penses qu'il faut un calcul "exact". Or, nous avons pris à plusieurs reprises des exemples qui suggèrent qu'il n'est nul besoin d'une valeur "exacte" (réelle) de tel taux de je ne sais quelle substance, ou pour le calcul d'une fonction d'évolution dynamique de certaines variables. Bien au contraire, beaucoup de chercheurs en neurosciences pensent que le cerveau est très robuste aux variations infimes de toutes les variables. Attention, ça ne veut pas dire qu'il n'y aurait pas du tout de variations comportementales si on faisait varier de façon infinitésimale certains paramètres, ça veut dire que le comportement restera globalement le même et indiscernable de la "normale" si on élimine ces variations.

C'est drôle, on emploie exactement l'argument inverse pour justifier le "libre arbitre" : une grande indétermination du comportement, qui ne me paraît possible que si il y a une certaine sensibilité à certains paramètres!

Mais l'essentiel n'est pas là. Ce n'est pas un problème de petitesse de la variation de ces variables, c'est un problème de la prise en compte même de ces variables. Si tu commences à rajouter des concentrations de neuromédiateurs dont la dépendance n'est pas une fonction des potentiels d'action, mais dépend de paramètres extérieurs au cerveau, tu ne peux simplement pas boucler ton système d'équations. Ou alors tu les rentres de façon aléatoire mais tu risques de louper des rétroactions cohérentes.

Comme je l'ai dit, je n'exclus pas une machine qui développe sa propre intelligence, mais voilà pourquoi je pense qu'elle ne partagerait pas notre pensée :
En fait, a quoi est occupé un cerveau la plupart du temps? a mon avis (les spécialistes me détromperont peut être) , pas aux taches évoluées du genre langage, lecture d'un ecran d'ordinateur et ecriture de programmes informatiques ! je pense que les neurones passent leur temps à controler l'environnement sensoriel pour vérifier que tout est "normal", ce qui est naturel puisqu'il a été selectionné sur le critère de survivre dans un monde hostile.

Lorsque tout va bien, nous sommes disponibles pour des tâches évoluées. Mais le moindre évènement imprévu (piqûre d'abeille, contact imprévu (imagine que tu sentes une limace sur ta main), bruit suspect, odeur de fumée, te donnera immédiatement l'alerte et monopolisera ton attention.En permanence, tu contrôles inconsciemment que le poids de ton corps, les objets que tu touches et que tu vois, les odeurs que tu sens forme un environnement cohérent.
Le cerveau est donc principalement et avant tout un centre de contrôle de l'environnement physique, bien avant d'être un centre de raisonnement et de langage. Une machine qui ne serait pas doté du même corps biologique pourrait peut être développer sa propre "pensée", mais les concepts qu'elle développerait n'auraient amha rien a voir avec les notres, qui sont en fait une "superstructure" organisant nos sensations. Je ne pense pas qu'une machine cohérente avec son "être de machine" puisse donner un sens aux sentiments humains. c'est en ce sens que je crois pas aux "ordinateurs intelligents".

[GillesH38a]

Et alors ? tu supposes qu'il est Nécessaire de reproduire exactement un neurone (ou pire le cerveau) pour obtenir de l'intelligence.

Relis ce que je dis, ce n'est pas tout à fait ça. Comme fait remarquer justement Spi100, nous n'avons pas de définition objective de l'intelligence, c'est bien pour cela que Turing a proposé son test "qualitatif" !
on peut tres bien dire que les ordinateurs actuels sont intelligents, et le débat sur l'IA est clos.
N'empêche qu'ils ne sont pas intelligents "comme nous", je ne peux pas demander à mon ordinateur si il se sent intelligent par exemple !
Je dis que : il est Nécessaire de reproduire exactement un neurone (ou pire le cerveau *et pire encore , connecté à un corps !) pour obtenir de l'intelligence assez *analogue à la notre pour que nous puissions l'évaluer.

[invite73192618]

ce n'est pas qu'une question de discrétisation.

Ah? Je croyais que c'étais ce que tu disais dans tes derniers posts. J'ai pas compris alors.

Ton raisonnement repose sur une hypothèse forte : tu penses qu'il faut un calcul "exact" (..) le cerveau est très robuste aux variations infimes de toutes les variables. (...) le comportement restera globalement le même et indiscernable de la "normale" si on élimine ces variations.

Tout à fait d'accord avec ça.
En y réfléchissant le coup des vésicules n'est pas plus subtil que les pa: dans les deux cas on peut toujours imaginer que c'est le temps entre des libération qui compte, et donc que ce soit analogique. Sur le principe ok on peut l'imaginer, mais quand on se penche sur la neurobiologie, quand on connait la multitude de sources de bruit posibles, ainsi que comme le dit Argyre l'extraordinaire résistance au bruit des cerveaux, alors le rôle d'une précision infinie (ou même seulement beaucoup plus grande que les pa individuel) ne peut que laisser dubitatif.

tu risques de louper des rétroactions cohérentes.

Je veux bien t'accorder que ce risque soit présent. Il faut faire la sim et voir: si le comportement n'est pas différenciable alors l'idée qu'on a oublié quelquechose perdra de la force. Encore ce gros malin de Turing!

Une machine qui ne serait pas doté du même corps biologique pourrait peut être développer sa propre "pensée", mais les concepts qu'elle développerait n'auraient amha rien a voir avec les notres, qui sont en fait une "superstructure" organisant nos sensations. Je ne pense pas qu'une machine cohérente avec son "être de machine" puisse donner un sens aux sentiments humains. c'est en ce sens que je crois pas aux "ordinateurs intelligents".

C'est une ligne de pensée complêtement différente qui mériterait un traitement séparé. On se retrouve en psycho?

[GillesH38a]

Ah? Je croyais que c'étais ce que tu disais dans tes derniers posts. J'ai pas compris alors.

Désolé Jiav, il me semblait bien avoir précisé à chaque fois : description par des variables discrètes dont l'évolution est déterminée de manière unique par les données de ces variables (c'est evidemment le deuxième point qui pose problème, pas le premier!)

ainsi que comme le dit Argyre l'extraordinaire résistance au bruit des cerveaux, alors le rôle d'une précision infinie (ou même seulement beaucoup plus grande que les pa individuel) ne peut que laisser dubitatif.

La résistance au bruit n'est extraordinaire que parce que vous pensez le cerveau comme un ordinateur ! Un système analogique est absolument résistant au bruit, il intègre les flucutations et prend une position "moyenne". L'atmosphère est extrêmement résistante à tout ce qu'on met dedans .
En revanche, la pensée humaine peut être détruite par la modification d'un seul gène qui produira une proteine défectueuse. Comment pouvez vous décrire la modification d'un acide aminé dans un algorithme qui serait totalement indépendant de la nature biochimique de ce qui produit la pensée?

C'est une ligne de pensée complêtement différente qui mériterait un traitement séparé. On se retrouve en psycho?

Si tu veux, mais pour moi on ne peut pas dissocier le problème d'un ordinateur pensant et les données de la psychologie !

Je reviens sur le mode d'interaction avec un ordinateur

Nous te le disons, mais tu n'écoutes pas. Alors concrètement, par l'intermédiaire d'un clavier. On tape des phrases, la machine réponds.

Prenons un exemple concret : on donne à un enfant de 1 ans un morceau de gateau en disant "Tiens, tu veux du gateau?", l'enfant le prend, le mange, et on lui dit "il est bon, le gateau , hein?".

Reconnaissez que cette situation est absolument banale. L'enfant aura associé le mot "gateau" à ce qu'il mange, qu'il est biologiquement préparé à manger. Non seulement c'est bon et sucré, mais c'est nourrissant. Il associera correctement "gateau" et "bon", à ses sensations.

Quelques années plus tard, ado, il fait une balade un peu dure en montagne. Après un passage difficile, ils arrivent sur une partie herbeuse facile et son père dit "là c'est du gâteau". Bien sûr, il comprend immédiatement le sens de la métaphore, il associe inconsciemment le plaisir qu'il a eu de manger les gateaux dans sa vie et le soulagement qu'on éprouve apres une epreuve physique.

Adulte, il devient membre d'un syndicat. Au cours d'une grève pour défendre le pouvoir d'achat, il prend la parole et dit "les employés ont aussi droit à leur part de gâteau". La encore tout le monde comprend la métaphore.

Ces exemples montrent que le langage fait continuellement référence par métaphore et métonymie à des expériences sensorielles concrètes. Quand Pi-r2 me dit "Nous te le disons, mais tu n'écoutes pas. ", c'est métaphorique puisque je n'ai jamais entendu le son de sa voix ! en revanche comme j'ai l'habitude d'entendre des gens parler, comme lui, j'ai tres bien compris ce qu'il voulait signifier.

Bon revenons a notre ordinateur. Comment peut il donner un sens à des mots que nous lui passerions juste par un clavier ? imaginez vous dans une chambre obscure et que vous voyez défiler sur un écran les paroles échangées par une tribu papou dans la forêt équatoriale. Vous pensez vraiment avoir une chance d'apprendre le papou (enfin une des milliers de langues papoues ) comme ça????