La vérité vrai sur les machines qui pensent

[invite6c250b59]

Je conçois que cela conduit à avoir beaucoup d'êtres pensants dans la nature

En fait, on pourrait dire qu'adopter cette définition amène à ce qu'il n'y ai que des êtres pensant dans la nature (thèse de Church-Turing appliqué à la physique).

personne ne peut avoir raison ni tort ! Il y a juste des propositions qui paraîtront plus acceptables à certains et moins à d'autres ... il n'y a pas de vérité ici.

Je te suis sur l'idée qu'il faut partir de la perception que les gens ont de ce qu'est la pensée . Mais je ne te suis pas sur l'idée que cela conduise à un relativisme absolu: il y a des positions cohérentes et des positions incohérentes, il y a des positions utiles et il y a des positions inutiles (inutiles dans le sens d'améliorer nos capacités à interpréter, prédire, bref comprendre le monde observable).

Si tu inclus une fonction constante dans la catégorie des pensées, c'est une position qui est cohérente mais qui est "inutile", inutile dans le sens ou tout étant des pensées, le concept même de pensée devient superflu pour expliquer quoi que ce soit (au moins d'un point de vue physique, d'un point de vue mathématique on peut s'amuser plus).
-----

[evrardo]

Marrant j'ai failli faire un commentaire sur le fil esprit vs. matière: l'esprit je vois à peu près de quoi on parle, par contre la matière... plus j'en apprend moins je comprend ce que c'est. une définition de matière SVP?

Bon, moi je dirais que la matière est ce qui est composé d'atomes.
Mais c'est pas le sujet ici.

Puisqu'on n'arrive pas à se mettre d'accords sur ce qu'est la pensée, est ce qu'on pourrait définir ici ce qu'on fait lorsqu'on pense?
A partir de là peut être qu'on pourra déterminer ce qu'est de penser.
* On envisage des futurs ou des passés possibles ou impossibles.
* On fait des opérations mathématiques.
* ...
A vous.

[mh34]

ta définition m'oblige à lui enlever le crane pour vérifier s'il a un cortex ou un télencéphale.

Pas besoin, on le sait déjà. On peut partir des connaissances acquises en anatomie, non?

On peut aussi essayer de définir la pensée par ce qu'elle peut produire ; communication, apprentissage. C'est plus facile à observer qu'un cortex.

On peut définir la pensée de façon négative : en se servant des comas. Et c'est d'ailleurs ce que je fais implicitement en parlant du cortex : je pense à la déafférentation corticale totale, à l'absence de rythme alpha même à la stimulation.

Objet observé ou concept élaboré <--> Étiquetage correspondant.

Ca ne risque pas de multiplier les difficultés au contraire? Si on doit "créer" un concept pour le cortex de chaque espèce, on n'a pas fini...

[evrardo]

On peut définir la pensée de façon négative : en se servant des comas. .

Très juste: comment se comporte un être pensant lorsqu'il ne pense pas? Coma, sommeil profond....

[invité576543]

On peut aussi essayer de définir la pensée par ce qu'elle peut produire ; communication, apprentissage. C'est plus facile à observer qu'un cortex.

Oui, et il y a déjà des machines qui communiquent et apprennent.

[mh34]

il y a déjà des machines qui communiquent et apprennent.

J'y ai bien songé en posant ces critères. Ca ne me pose pas de problème.

[karlp]

Inculte en la matière, je profite de votre discussion pour poser cette question dont j'espère qu'elle n'est pas hors sujet: est-il possible qu'un machine invente un trait d'humour ?

[invitebdf515f4]

Inculte en la matière, je profite de votre discussion pour poser cette question dont j'espère qu'elle n'est pas hors sujet: est-il possible qu'un machine invente un trait d'humour ?

Je suis certainement encore plus inculte que toi.
Je poserai la question un peu différemment, en deux temps :
1- "Est-il possible qu'un objet constitué de matière invente un trait d'humour ?"

Ma réponse : "Oui, car le cerveau, qui est un objet constitué de matière, peut inventer un trait d'humour."

Deuxième temps :
2- "Qu'est-ce qu'on considère comme machine ?"
Si c'est une machine à laver : certainement pas.
Si c'est l'ordinateur sur lequel je saisis ces lignes : clairement non.
Un autre machine, peut-être, mais laquelle, ... là, je sèche lamentablement.

Donc, au final, je réponds : peut-être bien que oui, peut-être bien que non.

[invitebdf515f4]

Inculte en la matière, je profite de votre discussion pour poser cette question dont j'espère qu'elle n'est pas hors sujet: est-il possible qu'un machine invente un trait d'humour ?

J'ai éventuellement une autre réponse.
Si je programme mon ordinateur pour créer des phrase aléatoires en utilisant des mots du Français.
Je lui fait créer de milliards de phrases aléatoires.
Est-ce que l'une d'elle pourra être considérée comme un trait d'humour ?
A priori, je pense c'est possible avec de la chance ... donc vu comme ça, je répond oui.

[Les Terres Bleues]

Ca ne risque pas de multiplier les difficultés au contraire? Si on doit "créer" un concept pour le cortex de chaque espèce, on n'a pas fini...

Bien sûr, si on en reste là.

Mais la suite immédiate de la mise en relation description <--> concept est un classement des concepts en fonction des points communs décrits ou déduits. Cela a d'ailleurs déjà été dit plus haut par Michel dans une de ses rares interventions sur ce fil.

Une des premières conséquences étant de ne pas nécessairement faire un distinguo entre sang chaud et sang froid, est-ce pertinent ? Les serpents pensent-ils ? Tous les dinosaures pensaient-ils ?

Une autre conséquence étant de pouvoir dire "est-ce que les machines pensent ?" est une question équivalente à "est-ce que le corps humain pense ?".

Et alors, on voit tout de suite que les réponses paraissent évidentes car entièrement liées à l'étiquetage. L'interrogation sur l'humour pourrait devenir par exemple : est-ce que quelque chose fait rire ou sourire (ou carrément disjoncter) une machine (ordi, robot ou corps humain) ?

Cordiales salutations.

[karlp]

J'ai éventuellement une autre réponse.
Si je programme mon ordinateur pour créer des phrase aléatoires en utilisant des mots du Français.
Je lui fait créer de milliards de phrases aléatoires.
Est-ce que l'une d'elle pourra être considérée comme un trait d'humour ?
A priori, je pense c'est possible avec de la chance ... donc vu comme ça, je répond oui.

Merci pour l'attention que vous portez à la question que je me pose.
J'avais envisagé ce que vous proposez.
Mais imaginons un individu qui, sans s'en rendre compte, dit une "ânerie" qui provoque l'hilarité de l'auditoire: peut on dire qu'il a fait un trait d'humour ?
Je crois que l'humour suppose de la part du sujet la conscience qu'il a de ce qu'il fait (ce n'est certes qu'une affaire de convention; c'est néanmoins sur cette acception du terme que repose mon interrogation)

[invitebdf515f4]

Merci pour l'attention que vous portez à la question que je me pose.
J'avais envisagé ce que vous proposez.
Mais imaginons un individu qui, sans s'en rendre compte, dit une "ânerie" qui provoque l'hilarité de l'auditoire: peut on dire qu'il a fait un trait d'humour ?

A priori, je répondrais oui ... mais on peut aussi l'exclure, pas de soucis.

Je crois que l'humour suppose de la part du sujet la conscience qu'il a de ce qu'il fait (ce n'est certes qu'une affaire de convention; c'est néanmoins sur cette acception du terme que repose mon interrogation)

D'accord. Finalement, la question se ramènerait à :
Peut-on construire un ordinateur qui "a conscience de ce qu'il fait" ?

Bien que je n'ai aucun espoir réel de répondre à cette question avec rigueur, je prendrais le problème ainsi.

1- D'abord, existe-t-il des objets (assemblage de matière), dont on peut dire qu'ils "ont conscience de ce qu'ils font" ?

A cette première question, je répondrais oui : les cerveaux humains (la plupart en tout cas).

Puis:
2- Peut-on construire un objet, un assemblage de matière, dont on pourrait dire qu'il "a conscience de ce qu'il fait" ?

Naïvement (je sais, c'est mal d'être naïf), je dirais que si la nature a réussi a constuire un tel objet (elle a mis longtemps, grâce à un système de sélection naturelle, mais bon, peu importe), et qu'elle est capable de le reproduire dans chaque nouvel être humain, on devrait pouvoir construire un objet qui aurait la fonction attendue (ici la fonction est "avoir conscience de ce qu'on fait" mais, après tout, ça marche avec "faire de la mayonnaise") par un autre moyen. Quel moyen ? Je l'ignore totalement. Est-ce difficile ? Certainement. Long ? Sans doute.

(Je sais bien que ce que je dis n'a aucune rigueur, mais bon, je fais ce que je peux avec le cerveau que la nature m'a donné)

[invite0e4ceef6]

Inculte en la matière, je profite de votre discussion pour poser cette question dont j'espère qu'elle n'est pas hors sujet: est-il possible qu'un machine invente un trait d'humour ?

involontairement les machines à traduire sont une source irrésistible de poésie et d'humour... ensuite qu'elles le fasse exprès et au bon moment, c'est sans doute un peu plus ardu, mais ce n'est toutefois pas impossible, si l'on connais les principe sur lequel l'humour repose...

les contreprétrie doivent par exemple être facilement accessible à petit programmateur, puisqu'il suffit de bien savoir décaler les sons

[karlp]

Je vais laisser de côté la question de la conscience réflexive qui vient compliquer grandement les choses.

L'hypothèse de la possibilité pour une machine de produire des contrepétries est peut-être plus abordable (?).
Est-ce qu'on peut faire en sorte qu'une machine soit capable de reconnaître des écritures différentes comme produisant le même son, en fonction de leur occurence (par exemple "in; ein; ain; un; im, aim, eim, aim, hin, hun, hein, hain,him, haim, heim, etc." qui, en français peuvent être vocalisés de façon identique, mais peuvent aussi être prononcés différemment)?

[invitedb5bdc8a]

Est-ce qu'on peut faire en sorte qu'une machine soit capable de reconnaître des écritures différentes comme produisant le même son, en fonction de leur occurence (par exemple "in; ein; ain; un; im, aim, eim, aim, hin, hun, hein, hain,him, haim, heim, etc." qui, en français peuvent être vocalisés de façon identique, mais peuvent aussi être prononcés différemment)?

Bien sur, ça ne pose pas de problème.

[Les Terres Bleues]

1- D'abord, existe-t-il des objets (assemblage de matière), dont on peut dire qu'ils "ont conscience de ce qu'ils font" ?

A cette première question, je répondrais oui : les cerveaux humains (la plupart en tout cas).

Les choses sont très certainement plus compliquées que tu ne sembles vouloir le proposer.

Aucun cerveau humain n'a conscience de lui-même ni de ce qu'il fait, de mon point de vue, du moins. Je suis prêt à changer d'avis dès que tu me présenteras une telle chimère conceptuelle.

Par contre, je crois qu'il est possible de dire que le concept d'être humain est un étiquetage qui convient à une entité apte à communiquer à d'autres entités sa conscience de disposer d'un cerveau humain.

Cordiales salutations.

[invite6c250b59]

Bon, moi je dirais que la matière est ce qui est composé d'atomes.

Leptons et quarks ne sont donc pas de la matière. Intéressant comme position.

[invite6c250b59]

Pas besoin, on le sait déjà. On peut partir des connaissances acquises en anatomie, non?

Si on veut on peut. Ce que j'essai de signaler, c'est que la démarche de définition par un trait anatomique consiste en la suivante: on liste l'ensemble de ce qu'on connait qui pense, puis on trouve un point commun qui sépare tous les êtres qui pensent de tous ce qui ne pense pas.

Le défaut de cette approche, c'est de faire passer l'accessoire pour l'essentiel. Bien sur qu'avoir des poils ou des plumes n'est pas essentiel. Mais de la même façon avoir un cortex n'est pas essentiel pour être reconnu comme humain. Tu me reconnais, je crois, comme humain. Mais tu n'as jamais vu mon cortex. Alors peut-être qu'avoir un cortex est effectivement essentiel, mais ce n'est pas sur ça que nous nous basons pour reconnaitre l'humanité chez les autres.

On peut aussi essayer de définir la pensée par ce qu'elle peut produire ; communication, apprentissage. C'est plus facile à observer qu'un cortex.

Yep.

On peut définir la pensée de façon négative : en se servant des comas. Et c'est d'ailleurs ce que je fais implicitement en parlant du cortex : je pense à la déafférentation corticale totale, à l'absence de rythme alpha même à la stimulation.

Plus difficile: il y a des cas récents où, progrès de la neuroimagerie aidant, des personnes diagnostiquées comme comateuse se sont révélée être plutôt des locked-in.

[invite6c250b59]

est-il possible qu'un machine invente un trait d'humour ?

Machine à générer un nombre univers: 1234567891011121314....c'est l'histoire d'un mec... le mec...

Je crois que l'humour suppose de la part du sujet la conscience qu'il a de ce qu'il fait (ce n'est certes qu'une affaire de convention; c'est néanmoins sur cette acception du terme que repose mon interrogation)

S'il faut que la conscience soit présente pour que l'humour soit présent pour que la pensée soit présente pour que la conscience soit présente, est-ce que ça ne se mord pas un petit peu la queue?

[mh34]

des personnes diagnostiquées comme comateuse se sont révélée être plutôt des locked-in.

Aïe...si leur EEG est normal, ( là, comme ça, j'aurais tendance à penser que oui) effectivement, cette proposition n'est pas applicable.

avoir un cortex n'est pas essentiel pour être reconnu comme humain

Certes...mais un humain sans cortex ne peut penser. Là aussi on va se mordre la queue...

Donc ne restent plus que les critères "communication et apprentissage".

Alors on en arrive à ; "est capable de penser tout système complexe pouvant communiquer et apprendre"? Je dis "système complexe" parce qu'il faut bien inclure les machines qui peuvent faire ces deux opérations.
Bon ben voilà une définition. Mais elle va pas plaire à tout le monde!

[invite8915d466]

j'ai manqué quelque chose, ou personne n'a encore pris la peine de réfléchir sérieusement à la définition de ce qu'est une "machine" ... ?

[invité576543]

Alors on en arrive à ; "est capable de penser tout système complexe pouvant communiquer et apprendre"?

On peut passer à la phase suivante, alors ? Qui est de trouver une réponse à :

Communiquer quoi et apprendre quoi ?

[invite6a26c75d]

On peut passer à la phase suivante, alors ? Qui est de trouver une réponse à :

Communiquer quoi et apprendre quoi ?

Je ne pense pas que le "quoi" soit important. Au contraire, cela risque de limiter notre capacité à observer le comportement étudié. Par exemple, pour reprendre l'idée de la conscience réflexive, on pourrait répondre "ses états internes" à la question "communiquer quoi", mais cela nous amènerait à ignorer toute communication ne portant pas sur ce sujet, et à considérer comme non-pensante toute entité ne communiquant pas ses états internes, mais également considérer un rapport de bug (pour un ordinateur) comme une forme de pensée (manifestation de cette conscience réflexive).

Par contre, il est important de définir, toujours de manière opérationnelle, ce qu'on entend par "communiquer" et "apprendre". En d'autres termes, quelles sont les manifestations de cette communication et quelles sont les manifestations de cet apprentissage que nous pouvons observer.

[karlp]

Certes...mais un humain sans cortex ne peut penser. Là aussi on va se mordre la queue (1)...

Donc ne restent plus que les critères "communication et apprentissage". (2)

Alors on en arrive à ; "est capable de penser tout système complexe pouvant communiquer et apprendre"? Je dis "système complexe" parce qu'il faut bien inclure les machines qui peuvent faire ces deux opérations.
Bon ben voilà une définition. Mais elle va pas plaire à tout le monde!

Bonjour mh34
(1) les philosophes nous disaient que c'était inévitable.
(2) Vous retrouvez le critère posé par Descartes.
Bien à vous.

[invité576543]

Je ne pense pas que le "quoi" soit important. Au contraire, cela risque de limiter notre capacité à observer le comportement étudié.

Je pense le contraire. "Communiquer" et "apprendre" sont difficiles à considérer comme des buts en soi (en particulier "apprendre" !). Il est important d'étudier si cela amène quelque chose, et quoi. Et l'un des moyens d'étudier cela est d'analyser ce qui est communiqué, ce qui est appris.

L'idée n'est pas de restreindre, mais juste de mettre un peu de substance sur ces deux verbes.

[invité576543]

j'ai manqué quelque chose, ou personne n'a encore pris la peine de réfléchir sérieusement à la définition de ce qu'est une "machine" ... ?

Crois-tu ? Mais j'imagine que tu ne voulais pas vraiment signifier "réfléchir" mais plutôt "communiquer sur le sujet dans ce fil ci" ?

[invite8915d466]

oui bien sûr, ah souci de la précision, quand tu nous tiens... .

Une exemple : la bactérie synthétique créée par Craig Venter (peut être pas totalement de matières inertes mais rien ne s'y oppose en principe) est-elle une machine ?

[invité576543]

oui bien sûr, ah souci de la précision, quand tu nous tiens... .

Le souci du sarcasme, plutôt ? (Et ça, c'est une précision...)

Une exemple : la bactérie synthétique créée par Craig Venter (peut être pas totalement de matières inertes mais rien ne s'y oppose en principe) est-elle une machine ?

Quelle bactérie synthétique ? La bactérie tout à fait naturelle sauf au moins une molécule qui a été synthétisée extra-cellulairement plutôt que directement à l'intérieur ?

[invite8915d466]

Quelle bactérie synthétique ? La bactérie tout à fait naturelle sauf au moins une molécule qui a été synthétisée extra-cellulairement plutôt que directement à l'intérieur ?

oui, et est-ce gênant ? un moulin est fait à partir de matériaux tout à fait naturels dont les molécules n'ont nullement été synthétisées par l'homme, et personne ne verra d'objection à l'appeler une machine, si ? et il n'y a pas de probleme de principe à imaginer qu'on puisse totalement synthétiser une bactérie un jour (pas plus qu'un ordinateur au silicium pensant, a priori).

cdt

Gilles

[invitebdf515f4]

Les choses sont très certainement plus compliquées que tu ne sembles vouloir le proposer.

Aucun cerveau humain n'a conscience de lui-même ni de ce qu'il fait, de mon point de vue, du moins. Je suis prêt à changer d'avis dès que tu me présenteras une telle chimère conceptuelle.

Par contre, je crois qu'il est possible de dire que le concept d'être humain est un étiquetage qui convient à une entité apte à communiquer à d'autres entités sa conscience de disposer d'un cerveau humain.

Cordiales salutations.

Oui ce que tu dis me semble très censé et doit être intégré à la réflexion.

Mais, néanmoins, le raisonnement que j'ai présenté, et qui n'a pas du tout la prétention de répondre à la question, est un simple raisonnement logique, qui n'a pas besoin de ces précisions.

- La question :
"Est-il possible de créer une machine qui ait la propriété X habituellement attribuée au cerveau humain ?"

Ce qui est important ici, c'est que celui qui pose la question considère, à tort ou à raison (ça n'a pas d'importance) que la propriété X est une propriété du cerveau humain.

Dans l'exemple, X est "avoir conscience de ce qu'on fait", mais on pourrait dire "est capable de penser", "avoir des émotions", "savoir calculer" ou "être riposationable" ... du moment que l'auteur de la question considère qu'un cerveau humain a cette propriété.

Je raisonne ensuite en deux temps:
1- Existe t-il des objets, constitués de matière, qui ont cette propriété ?
Réponse : Oui, les cerveaux humains, car c'est directement dans la question initiale !

Puis:
2- Peut-on construire un objet, un assemblage de matière, dont on pourrait dire qu'il a la propriété X ?

Ensuite j'enchaine sur ma conviction :
Naïvement (je sais, c'est mal d'être naïf), je dirais que si la nature a réussi a constuire un tel objet (elle a mis longtemps, grâce à un système de sélection naturelle, mais bon, peu importe), et qu'elle est capable de le reproduire dans chaque nouvel être humain, on devrait pouvoir construire un objet qui aurait la fonction attendue (ici la fonction est "avoir conscience de ce qu'on fait" mais, après tout, ça marche avec "faire de la mayonnaise") par un autre moyen. Quel moyen ? Je l'ignore totalement. Est-ce difficile ? Certainement. Long ? Sans doute.

Mon raisonnement est vraiment "à ras des paquerette". Je dis juste que si un type objet constitué de matière peut être créé des milliards de fois (environ 350000 fois chaque jour sur terre) par la nature, il doit être possible d'en créer un artificiellement ... même si ça peut être très difficile.