Une question pour le Test de Turing

[invite06fcc10b]

Bonsoir,

Ce sont pour moi de bons exemples d'exploitation d'idiosynchrasies humaines pour détecter un non humain (intelligent ou non!). Passer cela en mode verbal est un peu complexe, mais ça donne l'idée. Jouer sur les sentiments, les manières de percevoir donc modéliser le monde, etc.

J'avais oublié de répondre à ce point précis.
J'ai mis en gras ce qui je pense est très important. Dans le test de Turing, on est obligé de verbaliser les choses. Or, un langage comporte relativement peu de mots pour exprimer toutes les notions possibles. Il y a donc un important effet réducteur qui ne permet pas d'exprimer, loin s'en faut, de fines différences perceptuelles ou émotionnelles. Un langage oblige à expliciter les choses, en discrétisant à une échelle très grossière. Par exemple, combien d'adjectifs avons nous pour caractériser une odeur ? Un nombre très faible en vérité, si faible, qu'il est à la portée de n'importe quelle entité intelligente d'apprendre quelques uns des mots ou expressions de la liste pour les redonner au moment opportun lors du test de Turing, quand bien même cette entité n'aurait pas d'odorat.

Cordialement,
Argyre
-----

[invité576543]

J'ai mis en gras ce qui je pense est très important. Dans le test de Turing, on est obligé de verbaliser les choses. Or, un langage comporte relativement peu de mots pour exprimer toutes les notions possibles. Il y a donc un important effet réducteur qui ne permet pas d'exprimer, loin s'en faut, de fines différences perceptuelles ou émotionnelles. Un langage oblige à expliciter les choses, en discrétisant à une échelle très grossière. Par exemple, combien d'adjectifs avons nous pour caractériser une odeur ? Un nombre très faible en vérité, si faible, qu'il est à la portée de n'importe quelle entité intelligente d'apprendre quelques uns des mots ou expressions de la liste pour les redonner au moment opportun lors du test de Turing, quand bien même cette entité n'aurait pas d'odorat.

Tu as raison. Mais il ne s'agit que d'une difficulté, pas d'une impossibilité, ne serait-ce que parce que les humains parlent de perceptions et d'émotions, dans les livres par exemple.

Je vois plutôt la difficulté dans la question, plus que dans la réponse, d'ailleurs. Si on ouvre la possibilité de transmettre des objets comme faisant part de la question, on peut poser des questions verbalement sur la couleur, le goût, l'odeur, etc.

Je ne fais ce point que pour montrer le côté ambigu du test de Turing. Limiter les échanges au langage humain écrit, n'est ni chair ni poisson. Ce n'est pas un test de raisonnement ou de connaissance uniquement, puisque le langage permet, même si partiellement, d'évoquer perceptions et émotions. Et ce n'est pas un test complet, puisque des extensions comme inclure dans les questions des objets ou des photos, ou même des dessins (des fontes, par exemple, pour reprendre le point de Médiat) ne peuvent qu'améliorer les capacités de distinctions du testeur; et elle seront néanmoins (j'anticipe!) en général rejetées.

Or pourquoi donc ces extensions sont-elles rejetées: parce que la possibilité de tester les perceptions et émotions devient trop visible. Mais ce n'est pas pour cela qu'elles sont absentes dans les échanges par langage écrit.

Le morale de cela est que le test de Turing n'est ni adapté au problème de distinguer humains et machines sur leur comportement (trop de limites arbitraires imposées au test), ni adapté au problème de la détection de l'intelligence (trop d'impact des idiosynchrasies humaines sans relation avec l'intelligence). Et j'ai déjà exposé ce à quoi je constate que le test de Turing est adapté!

Cordialement,

[invité576543]

Bien au contraire, je pense qu'un humain a le potentiel pour passer le test avec succès. Tout n'est qu'une question de temps, à condition bien entendu que ce test porte uniquement sur la sémantique et sur l'aptitude à mentir, ce qui est le cas du test de Turing.
Je croyais que nous avions suffisamment discuté ce point.

Il n'y a aucune discussion. Tu affirmes sans base ce que je considère être ton espoir, la vision que tu préfère avoir des capacités humaines.

J'affirme sans base le contraire.

Même pas besoin d'ET. Imagines que tu disposes des télécommandes d'un robot physiquement indistinguable d'un chat, avec toutes les caméras, capteurs chimiques, microphones, que tu estimeras nécessaires, ainsi que tout ce qu'il faut pour reproduire à la perfection tout mouvement de toute partir du chat mécanique. Mais toutes les décisions de mouvement sont tiennes.

Dans un lieu fermé, disons au minimum 10 m², se trouve un vrai chat, et un observateur humain qui ne voit que l'autre entité présente, qui peut être un vrai chat ou le chat mécanique.

Tu réussis le test si l'observateur humain n'arrive pas à distinguer vrai chat et le chat mécanique que tu contrôles.

Tu vas affirmer que tu passeras le test, après des années d'observation des comportements félins si nécessaire. Et je ne crois pas une seconde que tu aies la moindre chance d'y arriver. Alors, des ETs capables d'imaginer le test de Turing! Tu peux penser que je me trompe, mais tu peux essayer de comprendre l'origine de mon doute profond, moi qui considère l'intelligence humaine comme finalement assez limitée par rapport à ce que les propriétés de l'Univers me laisse penser être possible.

Cordialement,

[invité576543]

B
Par conséquent, le test de Turing, qui est comme tu le dis un test d'aptitude à mentir, est parfaitement adapté à tester si une entité a atteint un certain niveau d'intelligence.

Je n'ai jamais nié ce point, si tu relis bien. J'ai dit que s'il s'agit d'une entité ad-hoc qui réussi, alors son "certain niveau" minimal d'intelligence sera considéré, une fois connues les entrailles de l'entité, comme très inférieur à l'humain. Et que s'il s'agit d'une entité ayant développé son intelligence indépendamment de tout but de passer le test, alors le certain niveau est des ordres de grandeur au-dessus de l'humain.

Mais je prétends néanmoins que le jour ou l'humanité acceptera que des entités non humaines soient dotées d'un niveau d'intelligence du même ordre que le nôtre (je n'aime pas la binarité pour l'intelligence, je préfère parler de niveaux, l'idéal étant malgré tout de spécifier une liste d'aptitudes associées), alors, implicitement, nous serons amenés à penser que cette entité a le potentiel pour passer le test de Turing avec succès.

Je prétend le contraire. Les humains ne se comprennent pas eux-mêmes; pourquoi penser qu'une entité dotées d'une intelligence similaire serait capable de nous comprendre bien mieux que nous nous comprenons nous-mêmes?

Cordialement,

[Médiat]

Imaginons que nous soyons capable un jour de créer une machine "intelligente", que lui répondrons-nous quand elle nous demanderas :

• Où étais-je avant d'être ?
• Que faisais mes circuits avant moi ?
• Quelle est l'instruction "de voute" de mon moi ?
• Pourquoi m'éteignez-vous et où suis-je quand je suis éteinte ?
• Qu'est-ce que cela veut dire : "je suis féminine" ?

Bref j'ai l'impression que nous aurions des comptes à rendre

Inutile de répondre, les questions ne se posent pas, encore ...

[invité576543]

[LIST][*]Où étais-je avant d'être ?

Celle-là, tu peux te la poser à toi-même. Et la réponse doit être la même pour toute entité capable de conceptualiser "je" et "être".

Cordialement,

[invite06fcc10b]

Bonsoir,

• Où étais-je avant d'être ?
• Que faisais mes circuits avant moi ?
• Quelle est l'instruction "de voute" de mon moi ?
• Pourquoi m'éteignez-vous et où suis-je quand je suis éteinte ?
• Qu'est-ce que cela veut dire : "je suis féminine" ?

Dans le même style :
* Où étais-tu avant ta naissance ?
* Que faisaient tes acides aminés avant que tu n'existes ?
* Quel est le circuit neuronal principal de ton "moi" ?
* Pourquoi es-tu parfois inconscient et où es-tu quand tu es inconscient ?
* Que veut dire l'expression "tu as un comportement de machine".

A+,
Argyre

[Médiat]

Bonsoir,

Dans le même style :
* Où étais-tu avant ta naissance ?
* Que faisaient tes acides aminés avant que tu n'existes ?
* Quel est le circuit neuronal principal de ton "moi" ?
* Pourquoi es-tu parfois inconscient et où es-tu quand tu es inconscient ?
* Que veut dire l'expression "tu as un comportement de machine".

A+,
Argyre

Tu n'as pas noté une énorme différence : je n'ai personne à qui poser ces questions (pas de constructeur à même de me répondre) ! La question que je pose (sans pour autant attendre de réponse) est "que lui répondrons-nous " et non quelle est la réponse !

[shokin]

je pense que les ordinateurs seront un jour capable de répondre à ce genre de question pour la simple et bonne raison qu'ils réfléchiront comme nous.

Je me suis toujours demandé : "Pourquoi chercher si loin ce que l'on a déjà sous la main ?"

N'accepte-t-on pas les limites de notre espèce dite humaine ? on s'amuse alors à qualifier d'humaines les machines qui auraient nos capacités ou qui, même, les dépasseraient.

Shokin

[invite06fcc10b]

Tu n'as pas noté une énorme différence : je n'ai personne à qui poser ces questions (pas de constructeur à même de me répondre) ! La question que je pose (sans pour autant attendre de réponse) est "que lui répondrons-nous " et non quelle est la réponse !

Ben, si, on a des constructeurs, ils s'appellent papa et maman ...
et je pense que chacun d'entre nous a posé de nombreuses questions embarrassantes à ses parents, non ?
"Dis maman, comment on fait un bébé ?"
Par ailleurs, en grandissant, on finit par comprendre soi-même de nombreuses choses et les questions ne se posent plus aux parents, mais aux professeurs ou aux livres.
J'imagine qu'un robot "intelligent" ferait de même.
Par exemple, avant de poser la question "où étaient mes circuits avant ?", il faut déjà comprendre ce qu'est l'électronique et comment ça marche. A ce moment là, on a déjà appris beaucoup de choses sur le monde, et notamment quelles sont les limites des connaissances des concepteurs. Certaines questions ne se posent donc plus, ou deviennent sans importance.

A+,
Argyre

[Médiat]

Ben, si, on a des constructeurs, ils s'appellent papa et maman ...

Supposons que tes parents n'aient pas été parfaitement satisfait de ton attitude à un moment ou à un autre (c'est une hypothèse) auraient-ils eu la possibilité de changer quelques grammes de ton cerveau ? Et en cas d'insatisfaction complète, de t'éteindre, de récupérer quelques pièces détachées et de recommencer à 0 ?

Je maintiens que cette différence n'est pas réductible.

[invité576543]

Supposons que tes parents n'aient pas été parfaitement satisfait de ton attitude à un moment ou à un autre (c'est une hypothèse) auraient-ils eu la possibilité de changer quelques grammes de ton cerveau ? Et en cas d'insatisfaction complète, de t'éteindre, de récupérer quelques pièces détachées et de recommencer à 0 ?

Je maintiens que cette différence n'est pas réductible.

Tu as raison, en particulier parce qu'il est faux de dire que le constructeur c'est papa/maman.

D'un point de vue biologique, les parents ne fournissent que le génome et le protoplasme d'une cellule, et la mère fournit la nourriture, l'oxygène, l'abri, et l'évacuation des déchets pendant les neuf premiers mois. Elle ne construit rien, pas plus que Leroy-Merlin ou autre ne construit une maison. L'embryon se construit tout seul, en pompant dans son environnement immédiat ce dont il a besoin, et en y rejetant ses déchets. La mère fournit l'environnement idoine. (Je sais, ce n'est pas romantique, mais c'est quand même comme ça.)

Même la phase d'éducation se voit comme cela. Les parents éducatifs (une notion distincte des parents génétiques, ou de la mère fournissant l'environnement des 9 premiers mois, au passage, ce qui montre que papa/maman est un peu simplificateur, même si cette "simplification" est monnaie (trop) courante...) ne construisent pas, ils fournissent une partie de l'environnement adéquat, matériel mais aussi psychologique (le reste étant fourni par la planète, la biosphère et la société humaine).

Si on cherche le constructeur, il faut le chercher plutôt dans l'évolution de la biosphère, qui a mis en place (façonné, vocabulaire que je proposais dans un autre fil) aussi bien le génome, que la cellule et qu'une bonne partie de l'environnement nécessaire à la construction... Mais il s'agit alors d'un constructeur non intentionnel, non communiquant, auquel on ne peut pas "poser de question" par communication symbolique, mais que l'on peut étudier, à propos duquel on peut se poser des questions.

Il y a bien, dans le cadre de cette discussion, une différence irréductible entre un constructeur intentionnel et communiquant, et un constructeur non intentionnel non communiquant.

Cordialement,

[invite06fcc10b]

Bonjour,

Supposons que tes parents n'aient pas été parfaitement satisfait de ton attitude à un moment ou à un autre (c'est une hypothèse) auraient-ils eu la possibilité de changer quelques grammes de ton cerveau ? Et en cas d'insatisfaction complète, de t'éteindre, de récupérer quelques pièces détachées et de recommencer à 0 ?

Je maintiens que cette différence n'est pas réductible.

Eteindre, non, parce qu'il y a des lois qui l'interdisent. Et si les robots devenaient aussi intelligents et "conscients" que nous, crois moi, une loi similaire existera pour eux ! Et gare à ceux qui tentent une manipulation de leurs circuits ...
En fait, tu pars de l'hypothèse qu'un tel robot n'aurait aucun droit et qu'il appartiendrait à quelqu'un. Je pense que c'est une hypothèse fausse. Un être inelligent et conscient de sa situation ne peut accepter d'être l'esclave d'une autre entité, et j'espère que l'humain sera suffisamment avisé pour s'en rendre compte et prendre les mesures qui s'imposent.
Néanmoins, nous avons pris l'hypothèse qu'un tel robot pourrait exister un jour, ce qui ne me parait pas si évident.

Cordialement,
Argyre

[spi100]

Supposons que tes parents n'aient pas été parfaitement satisfait de ton attitude à un moment ou à un autre (c'est une hypothèse) auraient-ils eu la possibilité de changer quelques grammes de ton cerveau ? Et en cas d'insatisfaction complète, de t'éteindre, de récupérer quelques pièces détachées et de recommencer à 0 ?

Peut- être pas sur un enfant déjà né, mais la question commence à se poser de façon de plus en plus aigue sur la manipulation des embryons, dans les termes que tu décris.

[Médiat]

En fait, tu pars de l'hypothèse qu'un tel robot n'aurait aucun droit et qu'il appartiendrait à quelqu'un.

Absolument pas, cela n'a rien à voir avec ce que j'ai dit, tu devrais me relire ; si c'est pour transformer du tout au tout ce que je dis, ce n'est pas la peine de continuer.
Je reviendrai vers toi quand tu auras fait la différence entre parents et constructeur, tu pourais relire le post de mmy sur le sujet.

[Médiat]

Peut- être pas sur un enfant déjà né, mais la question commence à se poser de façon de plus en plus aigue sur la manipulation des embryons, dans les termes que tu décris.

Est-ce que toi aussi tu penses que les parents ont les mêmes prérogatives/possibilités que le concepteur/constructeur d'une machine/logiciel ?

[spi100]

Est-ce que toi aussi tu penses que les parents ont les mêmes prérogatives/possibilités que le concepteur/constructeur d'une machine/logiciel ?

Mes parents surement pas, mais à l'époque de ma naissance il n'était pas question de thérapie génique sur les embryons.
Tu poses une limite de principe, là où peut être il n'y a qu'une limite de moyen. Si la recherche en génétique progresse de manière telle que des interventions sur les embryons puissent permettrent de réparer une anomalie génétique, la question de la prérogative et de la possibilité se posera.

[invité576543]

Et si les robots devenaient aussi intelligents et "conscients" que nous, crois moi, une loi similaire existera pour eux !

Tu rêves à mon avis.

En fait, tu pars de l'hypothèse qu'un tel robot n'aurait aucun droit et qu'il appartiendrait à quelqu'un.

C'est en gros précisément le statut des animaux (élevage...) sans que leur degré d'intelligence ou de conscience intervienne beaucoup.

Au bout du compte, la réalité est dans le rapport de force, pas une quelconque comparaison d'intelligence ou de conscience. Comme la morale occidentale est pudibonde sur la notion de rapport de force, on préfère une autre justification...

C'est surtout si le rapport de force s'inversait en faveur de robots (ou de quoi que ce soit d'autre), ou surtout risquait de s'inverser, qu'on commencerait à faire des lois...

Je pense que c'est une hypothèse fausse. Un être inelligent et conscient de sa situation ne peut accepter d'être l'esclave d'une autre entité

Alors de nombreux esclaves dans le temps n'étaient soit pas intelligents, soit pas conscient de la situation. L'acceptation est une notion culturelle. Au Japon ancien un perdant accepte la mort et se l'inflige (pour les nobles) ou s'attend qu'on lui inflige (pour les autres), pas en occident. Dans le temps, certaines cultures étaient telles qu'un perdant acceptait l'esclavage, ça faisait partie des règles du jeu. En occident, une certaine forme de perdant vont en prison, qui est une forme d'esclavage si tu regardes d'une certaine façon. S'ils sont intelligents et conscients de la situation, ils devraient ne pas l'accepter? L'évasion est un signe d'intelligence et de conscience? Ne pas payer une amende aussi?

Mon relativisme culturel et moral m'empêche d'accepter ton approche.

Cordialement,

[Médiat]

Mes parents surement pas, mais à l'époque de ma naissance il n'était pas question de thérapie génique sur les embryons.
Tu poses une limite de principe, là où peut être il n'y a qu'une limite de moyen. Si la recherche en génétique progresse de manière telle que des interventions sur les embryons puissent permettrent de réparer une anomalie génétique, la question de la prérogative et de la possibilité se posera.

Dans ce que je disais, il était question de modifications a posteriori ce qui n'est pas envisagé que je sache, mais, en tout état de cause le problème n'est pas vraiment là : si un jour cela devient possible, alors certaines des questions que je supposais qu'une machine intelligente pourrait poser à son constructeur pourront être posées par des entité non mécaniques, cela ne change rien à ma question de fond : que répondrons-nous (en tant que constructeur, c'est à dire de responsable) ?
C'est à dire que nous ne serions plus du côté "question" de la métaphysique, mais du côté "réponse", il me semble que ce changement est fondamental, l'un des côté n'étant pas réductible à l'autre.

[invite06fcc10b]

Bonjour,

Alors de nombreux esclaves dans le temps n'étaient soit pas intelligents, soit pas conscient de la situation.

Ta présentation des choses me laisse perplexe. De tout temps, il y a eu des problèmes avec les esclaves, ce qui démontre qu'il n'y a jamais eu d'acceptation totale et définitive, à quelques rares exceptions près.
Je ne sais pas si tu te rends compte qu'un tel discours a pu être mené à l'époque de l'esclavage, justifiant ainsi la poursuite de celui-ci. "Ces gens là ne sont pas conscients de leur situation et ils l'acceptent sans problème. Il n'y aucune raison de les libérer."
Il en étaient bien conscients, mais se révolter était risqué, c'est tout.

Quoi qu'il en soit, nous sommes au 21ème siècle et l'esclavage a été aboli. Certes, avec les animaux, il y a encore des abus, mais nous parlons ici de robots aussi intelligents que nous et conscients de leur situation. Il me parait évident que la question de leur liberté se posera, car ils ne manqueront pas de la poser (ou alors ils ne sont pas vraiment conscients de la situation), en menaçant éventuellement de ne plus travailler (pourquoi pas ?).
En fait, je ne vois que 2 alternatives : soit cela fait trop peur aux humains et on interdira de construire des robots intelligents, soit ça ne leur fait pas peur, et alors on va les libérer.
De toute façon, s'ils décident de se rebeller (si même 1 seul le fait), on ne pourra plus jamais les considérer comme simple esclave, ne serait-ce que pour des questions de sécurité.
Et on rejoint l'autre fil ...

A+,
Argyre

[invite06fcc10b]

que répondrons-nous (en tant que constructeur, c'est à dire de responsable) ?

Désolé, je n'arrive toujours pas à comprendre ton point de vue.
En quoi serions nous responsable ?
En fait, j'ai en tête un type de robot bien précis, avec en particulier un apprentissage long et fastidieux à la manière d'un enfant. Tu dois imaginer autre chose, ce qui t'amène à ce genre de question, quasi-métaphysique pour moi.
A quel type de robot penses-tu ?

A+,
Argyre

[invité576543]

De tout temps, il y a eu des problèmes avec les esclaves,

Qu'en sais-tu? Comment prends-tu en compte l'éthique et la morale régnant ailleurs et/ou dans un autre temps? J'ai tendance à interpréter ce genre de phrase comme un absolutisme de l'éthique ici et maintenant

Je ne sais pas si tu te rends compte qu'un tel discours a pu être mené à l'époque de l'esclavage, justifiant ainsi la poursuite de celui-ci.

Mais l'esclavage a bien été poursuivis pendant des siècles!

Il en étaient bien conscients, mais se révolter était risqué, c'est tout.

Ne pas payer ses amendes, c'est risqué, c'est tout. Si c'est cela ton éthique, ça me pose problème.

Quoi qu'il en soit, nous sommes au 21ème siècle et l'esclavage a été aboli.

Oui, peut-être simplement parce que l'éthique a changé!

Il me parait évident que la question de leur liberté se posera, car ils ne manqueront pas de la poser (ou alors ils ne sont pas vraiment conscients de la situation), en menaçant éventuellement de ne plus travailler (pourquoi pas ?).

Mais la question de la liberté des animaux se pose déjà, et en regardant les chats chez moi, il me semble évident qu'ils se la pose. Il y a des signes évident de frustration de ne pas pouvoir aller dehors par exemple (la contagion fait courir des risques trop élevés en élevage). Autre exemple, il semble clair qu'une partie très importante des dauphins capturés sauvages refusent la prison (ce que les humains appellent "zoo" ou "parc d'attraction nautique") et se laissent mourir: pour moi ils sont bien conscient de la situation et effectivement refusent de "travailler". Ceux nés en activité l'acceptent mieux, si on accepte le taux de suicide comme une mesure.

En fait, je ne vois que 2 alternatives : soit cela fait trop peur aux humains et on interdira de construire des robots intelligents, soit ça ne leur fait pas peur, et alors on va les libérer.

L'autre option, la vraisemblable pour moi, est que les humains gèreront le rapport de force. Comme pour les esclaves dans le temps, les humains mettront en place les gardes-chiourmes, miradors, barbelés, adaptés.

De toute façon, s'ils décident de se rebeller (si même 1 seul le fait), on ne pourra plus jamais les considérer comme simple esclave, ne serait-ce que pour des questions de sécurité.

Comme la distinction humain/robot sera toujours possible, les humains les considèreront comme bon leur semblera (et réciproquement). La sécurité se traitera comme on a toujours traité la sécurité...

(Et mon PC se rebelle de temps en temps. On appelle ça "planter". Et je le punis en faisant un reset. C'est très efficace. Et si ça ne marche pas, j'ai des méthodes encore plus violentes.)

Cordialement,

[invite06fcc10b]

L'autre option, la vraisemblable pour moi, est que les humains gèreront le rapport de force. Comme pour les esclaves dans le temps, les humains mettront en place les gardes-chiourmes, miradors, barbelés, adaptés.

Et tu fais quoi avec les humains qui ne manqueront pas de se mettre de leur côté et qui n'hésiteront pas à les libérer de force ?
C'est une guerre perdue d'avance !
Mais cela dit, on nage en pleine S.F., en ayant chacun une idée différente de ce que pourrait être et ne pourrait pas être un robot de demain.
D'ailleurs, je reste sceptique sur notre aptitude à concevoir de tels robots. Je suis ce domaine de près, je suis même mouillé jusqu'au cou pourrait-on dire, et je vois bien la direction dans laquelle nous allons, mais je n'ai pas encore trouver d'arguments décisifs permettant de se dire qu'on va y arriver ou qu'on ne va pas y arriver.
Ca reste une question ouverte.

A+,
Argyre

[invité576543]

Et tu fais quoi avec les humains qui ne manqueront pas de se mettre de leur côté et qui n'hésiteront pas à les libérer de force ?
C'est une guerre perdue d'avance !

Ca devient un conflit humains-humains, rien à voir.

Que fait-on des humains qui cherchent à libérer de force les dauphins des delphinariums?

Au passage, toute guerre est perdue d'avance. Le problème est de savoir à l'avance quel côté la perd... Dans le cas que tu cites, soit il y a des humains qui ne perdent pas (puisqu'il y en a des deux côtés), soit il y a des humains débiles, suicidaires et traîtres (à l'instar des autochtones ayant aidé Cortés par exemple, mais le jugement brutal n'engage que moi).

Cordialement,

[spi100]

si un jour cela devient possible, alors certaines des questions que je supposais qu'une machine intelligente pourrait poser à son constructeur pourront être posées par des entité non mécaniques, cela ne change rien à ma question de fond : que répondrons-nous (en tant que constructeur, c'est à dire de responsable) ?

Ok je comprend, on peut développer l'idée de la réciprocité que tu suggères. Lorsque l'on envisage le test de Turing, on a souvent tendance à le voir dans un sens :
l'humain pose les questions et la machine lui répond.
Pour être complet, il faut aussi le voir dans l'autre sens : les questions que posent la machine, doivent aussi permettre de juger. Pour illustrer, on peut reprendre l'exemple de la question du créateur.

Cet aspect est bien intégré dans le test de Turing, mais peut être pas autant que Turing le pensait à l'époque. Je vais détailler un peu.

Si on généralise, tu connais tes états internes, tu sais ce que tu réponds en fonction de ces états. Lors d'un dialogue, tu te sers de la connaissance de tes propres états pour prévoir les réactions de ton interlocuteur en fonction des hypothèses que tu fais sur son état interne. Dans ton exemple, tu sais que la question des origines est essentielle pour un humain, elle doit donc l'être pour l'interlocuteur s'il est humain.

Si on comprend ce point, deux hypothèses doivent être envisagées pour admettre que le test de Turing puisse être passé par une machine :
1/ Une machine est capable de simuler la qualité et la cohérence d'un dialogue sans avoir à faire d'hypothèse sur l'état interne de son interlocuteur.
2/ Si l'on suppose que 1/ est faux, alors il est possible pour une machine de simuler les états internes d'un humain bien qu'ayant une mécanique interne différente.

L'hypothèse 1/ est clairement fausse. En linguistique pour définir le sens d'un énoncé, il faut déterminer deux composantes :
- le thème : ce qui est dit.
- le rhème : la façon de le dire.

Si l'analyse du thème est relativement facile, celle du rhème est un vrai casse-tête. Par exemple les humains jouent souvent à des jeux linguistiques tels que l'ironie, qui consiste à fabriquer des énoncés dont le thème est en opposition avec le rhème. Une phrase comme "Toi, tu es un champion" est très problématique en linguistique computationelle, même si l'on considère le contexte. Pour s'en convaincre, il suffit d'imaginer que toutes les répliques de l'interlocuteur (donc le contexte) soient ironiques, malgré cela un humain sera capable de saisir l'ironie. La façon dont les humains s'en sortent pour lever les ambiguités, consiste d'une part à savoir que certaines formules peuvent être ironiques, d'autres part à évaluer l'état interne de celui qui le dit ("est-il en train de se moquer?").
Cette idée est actuellement renforcée par la mise en évidence des neurones miroirs, qui permettent aux primates (donc nous même a priori) d'éprouver les sensations d'un congénère observé, à partir de l'observation de son comportement (l'empathie).

Pour contourner le problème soulevé par 1/, on peut se dire que si la machine possède un modèle des états internes de l'humain. Elle pourra alors au cours de la conversation construire son évaluation des états internes de l'interlocuteur et lever les ambiguités. La construction de ce modèle peut se faire par apprentissage, au cours de différents dialogues.

La question est alors de savoir qu'est ce qu'il faut mettre dans ce modèle de l'interlocuteur. Est - il possible d'abstraire suffisamment le fonctionnement du cerveau pour le reproduire dans un programme ? En tout cas, quelque que soit la réponse, en admettant qu'il soit nécessaire de simuler la mécanique interne d'un humain, pour réaliser un système conversationnel aussi performant qu'un être humain, on a déjà montré que l'approche behavioriste était insuffisante.

[invite8915d466]

Bonjour

Bonjour,


Eteindre, non, parce qu'il y a des lois qui l'interdisent. Et si les robots devenaient aussi intelligents et "conscients" que nous, crois moi, une loi similaire existera pour eux ! Et gare à ceux qui tentent une manipulation de leurs circuits ...
En fait, tu pars de l'hypothèse qu'un tel robot n'aurait aucun droit et qu'il appartiendrait à quelqu'un. Je pense que c'est une hypothèse fausse. Un être inelligent et conscient de sa situation ne peut accepter d'être l'esclave d'une autre entité, et j'espère que l'humain sera suffisamment avisé pour s'en rendre compte et prendre les mesures qui s'imposent.
Néanmoins, nous avons pris l'hypothèse qu'un tel robot pourrait exister un jour, ce qui ne me parait pas si évident.

Argyre, ton argumentation me semble admettre implicitement deux points qui ne sont pas si évidents que cela :

a) tu sembles admettre que la machine "qui parle" doit réellement etre consciente de ce qu'elle dit, et pas un programme vide de reconnaissance formelle de phrases qui ne seraient associées à aucune perception physique par exemple.

b) tu sembles admettre que cette conscience est assez correctement adaptée à la machine, c'est à dire qu'elle a conscience d'etre une machine, et ne croit pas etre un homme. (C'est effectivement comme ça que les auteurs de SF "imaginent" les robots intelligents, qui savent parfaitement qu'ils sont des robots et ne se prennent pas pour des hommes).

Admettons, quoi que ces points ne fassent pas l'unanimité dans les discours sur l'IA. Mais ça pose au moins deux questions fondamentales :

* ca implique que la pensée produite dépende du support matériel, puisque le critère de "correction" de la représentation du soi implique que tu ne puisses pas implémenter des pensées humaines sur une machine; ce qui me semble prouver que ce n'est pas un critere de nature algorithmique.

* le test de Turing suppose que cette machine douée d'une représentation de machine serait totalement capable de se faire passer pour un etre humain. C'est bien plus que ce qu'on demande à l'intelligence, même l'etre humain, tout intelligent qu'il est, n'est capable de se faire passer que pour un etre humain, et pas pour autre chose...

Cordialement

Gilles

[invite8915d466]

Si l'analyse du thème est relativement facile, celle du rhème est un vrai casse-tête. Par exemple les humains jouent souvent à des jeux linguistiques tels que l'ironie, qui consiste à fabriquer des énoncés dont le thème est en opposition avec le rhème. Une phrase comme "Toi, tu es un champion" est très problématique en linguistique computationelle, même si l'on considère le contexte. Pour s'en convaincre, il suffit d'imaginer que toutes les répliques de l'interlocuteur (donc le contexte) soient ironiques, malgré cela un humain sera capable de saisir l'ironie. La façon dont les humains s'en sortent pour lever les ambiguités, consiste d'une part à savoir que certaines formules peuvent être ironiques, d'autres part à évaluer l'état interne de celui qui le dit ("est-il en train de se moquer?").

Tout a fait d'accord, et il suffit de lire un fil sur futura pour constater que les posts transportent bien plus que de l'information objective - la manière d'écrire dépendra énormément de la façon dont on se représente l'interlocuteur, et on peut aussi y exprimer du respect, de la condescendance, voir du mépris et de l'aggressivité....

D'ailleurs Spi100 ça me parait illustrer les limites de "dire c'est faire" appliqué à l'humain. C'est tres certainement une vision productive quand il s'agit de créer un langage pour les machines justement, pour qui "dire" ne peut PAS vouloir signifier autre chose que "faire", mais pour l'humain c'est bien autre chose : par exemple une partie énorme du discours humain vise manifestement à élaborer un système de représentations mentales (et tout particulièrement de ce qui est "bien" ou "mal"), qui n'est que très indirectement lié à un "faire" (même si en théorie la morale devrait guider les actions, le "faites ce que je dis mais pas ce que je fais" est également très répandu ).

Cdt

Gilles

[spi100]

par exemple une partie énorme du discours humain vise manifestement à élaborer un système de représentations mentales (et tout particulièrement de ce qui est "bien" ou "mal"), qui n'est que très indirectement lié à un "faire" (même si en théorie la morale devrait guider les actions, le "faites ce que je dis mais pas ce que je fais" est également très répandu ).

"élaborer un système de représentations mentales" est une action. Il faut entendre "faire" au sens très général.

[invité576543]

par exemple une partie énorme du discours humain vise manifestement à élaborer un système de représentations mentales (et tout particulièrement de ce qui est "bien" ou "mal"), qui n'est que très indirectement lié à un "faire" (même si en théorie la morale devrait guider les actions, le "faites ce que je dis mais pas ce que je fais" est également très répandu ).

Ca manque nettement de cynisme, tout ça! Le discours moral est bien un "faire", c'est une méthode pour influencer les actions des autres, pour amener les autres à agir comme ci ou comme ça. Et cette action est bien liée à un espoir que la morale va guider les actions, mais celles des autres.

Le discours moral tire sa puissance de l'importance que chacun donne au jugement que leur porte les autres, une motivation très puissante. Si une majorité fustige une conduite particulière, la simple anticipation du jugement que la conduite va entraîner peut participer fortement à l'inhibition de ladite conduite.

Donc, si si, le discours moral est une action, et même une des plus puissantes qui soit pour une action purement langagière...

Cordialement,

[invité576543]

Au passage, pour faire du méta, écrire un message sur un forum FS est une action. Et nombre sont ceux qui cherche à y faire passer des messages moralisant, culpabilisant, et dont le but est clairement de pousser, via ces jugements, ces tentatives de culpabilisation, les lecteurs à agir d'une certainement façon, ou, ce qui est pareil, de ne plus agir d'une certaine autre façon.

Mais même les messages non moraux restent manipulateurs, dans leurs effets, mais souvent aussi dans leurs intentions.

Au bas de l'échelle, il y a le simple partage d'information, peut-être le seul acte langagier sans motivation compliquée. C'est, heureusement, une part des plus importantes sur FS. Mais c'est bien un acte, cela influence le savoir des autres.

Entre cela et les messages clairement moralisateurs il y a tout un domaine, très intéressant à explorer en prenant le point de vue qu'il s'agit d'actes...

Cordialement,