Intelligence artificielle (question aux programmeurs).

[invite6ecbbd61]

Bonjour à tous,

Sur quoi se base cette affirmation ? Connaissez vous les robots qui justement détectent les émotions humaines ? Le cas déjà cité des 1ers passages du test du Turing ?

Hum, ce n'est pas parce qu'un robot peut détecter une émotion humaine, qu'il peut la reproduire dans une situation adéquate *. Pour la bonne est simple raison, que cette "situation adéquate" n'est pas implémentable en algorithme ... car elle n'est pas normée. Pour le dire autrement, la subjectivité inhérente à l’Émotion n'est pas objectivable. En ce sens, je rejoins noir_ecaille: comment implémenter cela?

(*): Il est d'ailleurs extrêmement simple de détecter les émotions les plus simples: le rire, la tristesse (avec les pleurs), etc ...).
-----

[Deedee81]

Salut,

Je ne sais pas si on peut implémenter et encore moins comment on pourrait l'implémenter mais

la subjectivité inhérente à l’Émotion n'est pas objectivable

c'est peut-être vrai, mais amha on n'en sait rien.

[mh34]

Hum, ce n'est pas parce qu'un robot peut détecter une émotion humaine, qu'il peut la reproduire dans une situation adéquate .

Ce n'est pas ce qu'on lui demande, ça doit servir à adapter sa conduite en fonction de ce qu'il a perçu dans ses interactions avec les humains.

[invite6ecbbd61]

Ce n'est pas ce qu'on lui demande, ça doit servir à adapter sa conduite en fonction de ce qu'il a perçu dans ses interactions avec les humains.

Sous-entendu "Il suffit que le robot imite l'expression d'une émotion" je suppose?
Je comprend l’argument, cependant, j'aurais tendance a penser que ce qui fait la force d'une émotion exprimée, c'est qu'elle est justement ressenti. En clair, si je suis en face d'un robot qui imite parfaitement la tristesse, et en face d'un humain triste, l'impact de l'émotion sur moi sera total si je suis en face de l'humain, et non du robot, parce que je saurais que l'humain ressens l'émotion. (et non le robot).
L'expression d'une émotion c'est au final créer un lien empathique entre nous et notre interlocuteur (lui faire se mettre à notre place). Et ce "pouvoir" empathique qu'a l'expression émotionnel vient amha du fait qu'on souscrit tous au fait qu'on est tous des humains, avec les mêmes circuit neuronaux, et donc les mêmes émotions (à quelque réglages près hein).

Si on sait que l'expression d'une émotion n'est que le résultat d'un algorithme, il me semble que "ça ne marchera pas" ...
(du fait évidemment de la nature purement subjective de l’Émotion).

[mh34]

Sous-entendu "Il suffit que le robot imite l'expression d'une émotion" je suppose?.

Non non, simplement qu'il la "comprenne" et agisse en conséquence. Un exemple tout bête ; tendre un mouchoir à quelqu'un qui pleure, ou lui tapoter la main.

[invite6ecbbd61]

Non non, simplement qu'il la "comprenne" et agisse en conséquence. Un exemple tout bête ; tendre un mouchoir à quelqu'un qui pleure, ou lui tapoter la main.

Ok je comprends mieux.
Mais il me semble amha que le même raisonnement s'applique: tendre un mouchoir à quelqu'un de triste ou lui tapoter la main c'est exactement l'expression d'une émotion. On montre à l'autre que l'on ressent (un peu) son émotion, et que c'est pour ça qu'on le réconforte. Ce qui marche dans ce schéma, c'est que la personne qui reçoit le mouchoir, comprend que l'autre peut se mettre à sa place. On retombe sur le lien empathique.
Un robot qui tend un mouchoir, ça ne marcherait pas * (le mouchoir n'est pas important en soit il me semble).

(*), je ne sais pas si il y a des gens ici qui regardent The Big Bang Theory, mais je trouve que Sheldon illustre parfaitement ce que je veux dire quand il essaye d'imiter une réaction "socialement acceptée" dans telle ou telle situation ...même s'il arrive à imiter parfaitement la réaction adéquate, ça ne marche pas, car le lien empathique n'est pas crée.

[pm42]

...
Si on sait que l'expression d'une émotion n'est que le résultat d'un algorithme, il me semble que "ça ne marchera pas" ...

Ok mais on est sur un forum scientifique. Donc, au delà ce qu'il vous semble, avez vous des arguments scientifiques pour étayer vos impressions ?
Et comme déjà demandé, connaissez vous les travaux fait sur le sujet ?

Pouvez vous aussi nous expliquer pourquoi il est impossible de simuler un réseau de neurones comme le cerveau humain et donc de reproduire tout ce qu'il fait ?

[mh34]

Pouvez vous aussi nous expliquer pourquoi il est impossible de simuler un réseau de neurones comme le cerveau humain

Ca c'est sûrement possible.

et donc de reproduire tout ce qu'il fait ?

Pourquoi "donc"?
Un cerveau humain s'exprime au travers d'un corps humain. Efférences et afférences.

[pm42]

Pourquoi "donc"?
Un cerveau humain s'exprime au travers d'un corps humain. Efférences et afférences.

Le "donc" est rapide mais je serais surtout intéressé par les objections. J'ai parfois l'impression en lisant certaines contributions ici qu'il y a une image romantisé du cerveau et de l'humain et qu'un ordinateur ne serait qu'une calculatrice améliorée. Que d'un coté, il y aurait quelque chose qui échappe à la modélisation.
C'est un point de vue qui peut se défendre, il y a bien des gens qui pensent que la conscience est un front d'onde quantique pas forcément reproductible mais j'aimerais justement connaitre ces arguments au delà d'affirmations qui ressemblent à des professions de foi.

[noir_ecaille]

Il n'y a rien de "romantisé" quant à l'empathie et par exemple les neurones miroirs. C'est étudié et testé pour de nombreux domaines -- cognition, pshychiatrie, apprentissage, sociabilisation, marketing... Typiquement, un vendeur va jouer sur ce lien empathique. S'il réussit, il peut caricaturalement fourguer presque n'importe quelle marchandise à son client. Dans le cas contraire, il faudra passer par des moyens plus "classiques" en s'effaçant derrière les produits proposés au client.

J'en viens à un autre point : le renversement de la charge de preuve. Avant de dire qu'une chose n'est pas impossible, il faut apporter la preuve qu'elle est ou serait possible. Il en va de même quant à la découpe algorithmique d'un ressenti subjectivé, quant à l'implémentation du code de la guerre ou des lois d'Asimov, ou quant à l'implémentation dans une machine d'un cerveau humain "dématérialisé". Produisez l'algorithme ou des méthodes pour y parvenir, et on en reparlera plus en détail

[pm42]

Il n'y a rien de "romantisé" quant à l'empathie et par exemple les neurones miroirs

Merci mais ce n'est pas ce que je disais. Je parlais de la vision que certains intervenants en ont.

Avant de dire qu'une chose n'est pas impossible, il faut apporter la preuve qu'elle est ou serait possible

J'ai l'impression que c'est dans l'autre sens et notamment en science et en ingéniérie : on ne décrète pas à priori que quelque chose est impossible sauf preuve du contraire. On suppose au contraire que tout est possible ne serait que pour supposer qu'on peut faire des machines volantes, des ordinateurs qui gagnent à Jeopardy, des coeurs artificiels, manipuler des atomes et j'en passe...

Il en va de même quant à la découpe algorithmique d'un ressenti subjectivé, quant à l'implémentation du code de la guerre ou des lois d'Asimov, ou quant à l'implémentation dans une machine d'un cerveau humain "dématérialisé". Produisez l'algorithme ou des méthodes pour y parvenir, et on en reparlera plus en détail

Ma remarque est que justement, un certains nombres de travaux pour les produire existent, qu'ils donnent déjà des résultats mais qu'apparemment, les gens qui font les mêmes objections que vous les ignorent et que quand on leur cite, ils les balaient d'un revers de la main sans même les consulter.

[invite6ecbbd61]

Ok mais on est sur un forum scientifique. Donc, au delà ce qu'il vous semble, avez vous des arguments scientifiques pour étayer vos impressions ?

Ben si vous aviez lu mes précédents messages, vos l'auriez vu!
Je le répète: La perception d'une émotion n'est pas qu'une histoire de signaux cognitifs. C'est aussi et SURTOUT un lien empathique. Pour le dire autrement: Même si on appris dans un livre parfaitement les signaux de la peur, on ne peut différencier un humain qui a peur d'un robot qui imite l'expression de la peur. Alors qu'un humain qui a déjà expérimenter cette émotion le pourra. Étrange non? Même avec l'apprentissage le plus parfait, il y aura une différence. La raison est simple: l’expression d'une émotion n'a de sens pour celui qui la reçoit, que si elle peut être compris comme pouvant être ressentie par son émetteur. Dans l'exemple ici, l'humain sait que le robot ne peut ressentir d'émotion, donc ça ne marchera pas (même avec le plus performant algorithme du monde).
Tout comme avec l'exemple du mouchoir dans mon message précédent.

On peut même aller plus loin: on peut "formater" (endoctriner) des humains pour leur faire croire que d'autres humains ne ressentent pas d'émotions .... BREF, la réception d'une émotion est très loin de n'être que la somme des signaux qui sont émis par l'individu focal.

[inviteded9355b]

J'en viens à un autre point : le renversement de la charge de preuve. Avant de dire qu'une chose n'est pas impossible, il faut apporter la preuve qu'elle est ou serait possible.

Certainement pas. C'est d'ailleurs exactement ça, le renversement de la charge de la preuve : prétendre qu'une affirmation est justifiée parce que l'affirmation contraire n'est pas prouvée. C'est un raisonnement fautif. La charge de la preuve repose sur celui qui soutient une affirmation. Prétendre que c'est impossible de faire quelque chose parce que personne ne sait le faire pour le moment est bien évidemment une erreur de raisonnement.

[noir_ecaille]

J'ai l'impression que c'est dans l'autre sens et notamment en science et en ingéniérie : on ne décrète pas à priori que quelque chose est impossible sauf preuve du contraire. On suppose au contraire que tout est possible ne serait que pour supposer qu'on peut faire des machines volantes, des ordinateurs qui gagnent à Jeopardy, des coeurs artificiels, manipuler des atomes et j'en passe...

C'est là la différence entre Science et Ingénierie : on ne déclare pas qu'une chose n'est pas impossible, on apporte la preuve qu'elle est ou serait possible. Certains ingénieurs sont peut-être friands de déclarations hâtives voire "anticipent" avant de savoir, pas les scientifiques.

"Je ne sais pas" est une réponse beaucoup plus scientifique que "je déclare que ce n'est pas impossible jusqu'à preuve du contraire".

Ma remarque est que justement, un certains nombres de travaux pour les produire existent, qu'ils donnent déjà des résultats mais qu'apparemment, les gens qui font les mêmes objections que vous les ignorent et que quand on leur cite, ils les balaient d'un revers de la main sans même les consulter.

Lesquels ? Histoire qu'on puisse analyser et discuter les références. Ce serait plus intéressant que spéculer sur la SF parce que plus concret

[Deedee81]

il faut apporter la preuve

J'insiste sur ce que j'ai dit plus haut. Amha, pour les trois quarts des points soulevés, on en sait trop peu pour apporter une preuve (dans un sens ou dans l'autre).
C'est plus un débat d'opinion qu'autre chose (même si chacun peut apporter divers arguments ou exemples).

Et là aussi c'est mon opinion d'ailleurs

[noir_ecaille]

Certainement pas. C'est d'ailleurs exactement ça, le renversement de la charge de la preuve : prétendre qu'une affirmation est justifiée parce que l'affirmation contraire n'est pas prouvée. C'est un raisonnement fautif. La charge de la preuve repose sur celui qui soutient une affirmation. Prétendre que c'est impossible de faire quelque chose parce que personne ne sait le faire pour le moment est bien évidemment une erreur de raisonnement.

Soutenir une affirmation ou une négation, fut-elle double ?

Prétendre qu'un truc n'est pas impossible sans apporter la preuve/démonstration de la possibilité, c'est un renversement de la charge de preuve.

[inviteded9355b]

Pour le dire autrement: Même si on appris dans un livre parfaitement les signaux de la peur, on ne peut différencier un humain qui a peur d'un robot qui imite l'expression de la peur. Alors qu'un humain qui a déjà expérimenter cette émotion le pourra. Étrange non? Même avec l'apprentissage le plus parfait, il y aura une différence.

Cette affirmation par exemple, qui est présentée de façon très péremptoire, j'aimerais beaucoup savoir sur quelles preuves (scientifiques) elle repose. Je ne voit même pas comment on pourrait concrètement la tester.

[noir_ecaille]

J'insiste sur ce que j'ai dit plus haut. Amha, pour les trois quarts des points soulevés, on en sait trop peu pour apporter une preuve (dans un sens ou dans l'autre).
C'est plus un débat d'opinion qu'autre chose (même si chacun peut apporter divers arguments ou exemples).

D'où l'absurdité d'affirmer que ce n'est pas impossible jusqu'à preuve du contraire : on n'en sait rien.

Ce n'est pas en niant une impossibilité qu'on prouve une possibilité.

[inviteded9355b]

Soutenir une affirmation ou une négation, fut-elle double ?

Prétendre qu'un truc n'est pas impossible sans apporter la preuve/démonstration de la possibilité, c'est un renversement de la charge de preuve.

Non. Renverser la charge de la preuve, c'est se baser sur l'incapacité du contradicteur à établir les preuves de sa position pour prétendre qu'on a établi la sienne. C'est ce que toi tu fais. Affirmer quelque chose sans en apporter la preuve, c'est sans doute une erreur, mais ce n'est pas un renversement de la charge de la preuve.

[invite6ecbbd61]

Cette affirmation par exemple, qui est présentée de façon très péremptoire, j'aimerais beaucoup savoir sur quelles preuves (scientifiques) elle repose. Je ne voit même pas comment on pourrait concrètement la tester.

.

Décidément, il faut se répéter ...
Il n'y a pas de preuves scientifiques à ce que j'ai dit, car c'est de l'évidence même: La perception d'une émotion (et sa compréhension) repose en très grande partie sur notre expérience de cette émotion. C'est d'ailleurs l'une des raisons principales amha du fait qu'on a longtemps penser à la Descarte sur la question des animaux.
Quelqu'un (ou un robot) qui apprend parfaitement à déceler l'expression d'une émotion (sans jamais l'expérimenter) ne pourra pas différencier un imitateur (tel un acteur ou un robot) d'un individu qui expérimente réellement l'émotion, pour la bonne et simple raison qu'il ne comprendra pas "pourquoi" le robot ne peut ressentir d'émotion.

En clair: est-il possible d'implémenter l'empathie? Je réponds à cette question un non catégorique. (ce n'est que mon avis ....)

[pm42]

Lesquels ? Histoire qu'on puisse analyser et discuter les références. Ce serait plus intéressant que spéculer sur la SF parce que plus concret

J'ai déjà pointé vers plusieurs travaux dans le fil que toute personne curieuse du sujet devrait connaitre.
J'attends les votres.

l'humain sait que le robot ne peut ressentir d'émotion, donc ça ne marchera pas (même avec le plus performant algorithme du monde).
Tout comme avec l'exemple du mouchoir dans mon message précédent.

Je suis désolé mais c'est une affirmation gratuite totalement contredite par l'expérience notamment les 1ers tests d'Eliza malgré la simplicité de la simulation à l'époque.
On pourrait aussi citer les attachements émotionnels à des artefacts comme les tagamochi ou l'efficacité des bots de dialogue sur les sites spécialisés (genre rencontre).

Encore une fois, j'aimerais lire autre chose que vos affirmations et raisonnements, notamment des exemples réels.

[noir_ecaille]

Non. Renverser la charge de la preuve, c'est se baser sur l'incapacité du contradicteur à établir les preuves de sa position pour prétendre qu'on a établi la sienne. C'est ce que toi tu fais. Affirmer quelque chose sans en apporter la preuve, c'est sans doute une erreur, mais ce n'est pas un renversement de la charge de la preuve.

Moi j'affirme qu'un algorithme n'a pas de subjectivité. On effectue un paramétrage d'entrées et sorties, y compris via algorithmes dit d'apprentissage. Par ailleurs à supposer qu'on laisse l'algorithme d'apprentissage en place, on obtient plutôt un comportement de moins en moins pertinent par effet de surapprentissage. C'est très différent d'un comportement basé sur la subjectivité.

La subjectivitée est très étudié côté neuroscience parce qu'on a du mal à cerner ses mécanismes. Si le cerveau n'est qu'une machine, alors tous les rejetons d'une même portée (surtout des clones) devraient avoir un comportement générique. Pourtant l'individualité pèse, parfois jusqu'à devenir idiosyncrasique. On a quand même les chiens de Pavlov, preuve qu'on peut induire des automatisme. Mais l'automatisme peut aussi ne pas prendre et ça, c'est inexplicable pour le moment. Ce n'est pas forcément une "erreur", juste la part d'idiosyncrasie/individualité qui forme probablement l'un des socles de la subjectivité.

[pm42]

J'ai déjà pointé vers plusieurs travaux dans le fil que toute personne curieuse du sujet devrait connaitre.
J'attends les votres.



Je suis désolé mais c'est une affirmation gratuite totalement contredite par l'expérience notamment les 1ers tests d'Eliza malgré la simplicité de la simulation à l'époque.
On pourrait aussi citer les attachements émotionnels à des artefacts comme les tagamochi ou l'efficacité des bots de dialogue sur les sites spécialisés (genre rencontre).

Encore une fois, j'aimerais lire autre chose que vos affirmations et raisonnements, notamment des exemples réels.

EDIT : je viens de lire ceci

.
Il n'y a pas de preuves scientifiques à ce que j'ai dit, car c'est de l'évidence même:

Merci de le confirmer mais c'est quelque part effrayant. C'est du niveau de "il est évident que la Terre est plate et que le Soleil tourne autour".

[invite9dc7b526]

D'où l'absurdité d'affirmer que ce n'est pas impossible jusqu'à preuve du contraire : on n'en sait rien.

Ce n'est pas en niant une impossibilité qu'on prouve une possibilité.

à mon humble avis, la seule façon de prouver qu'une intelligence artificielle est possible est d'en créer une. En revanche, on peut espérer prouver qu'elle est impossible, en exhibant une obstruction théorique, c'est un peu ce qu'a tenté de faire Penrose je crois. Bref, la situation n'est pas symétrique, et tu ne peux exiger qu'on prouve a priori la possibilité d'une IA.

[noir_ecaille]

Je suis désolé mais c'est une affirmation gratuite totalement contredite par l'expérience notamment les 1ers tests d'Eliza malgré la simplicité de la simulation à l'époque.
On pourrait aussi citer les attachements émotionnels à des artefacts comme les tagamochi ou l'efficacité des bots de dialogue sur les sites spécialisés (genre rencontre).

Bah tout comme un enfant s'attachant à une peluche traditionnel ou même un vélo. Y'en a même qui donne des noms à leur flingue.

Qu'est-ce que ça prouve, sinon que nous sommes attachés à une possession au point de lui attribuer un rôle nominatif dans notre train-tain ?

[invite6ecbbd61]

Je suis désolé mais c'est une affirmation gratuite totalement contredite par l'expérience notamment les 1ers tests d'Eliza malgré la simplicité de la simulation à l'époque.
On pourrait aussi citer les attachements émotionnels à des artefacts comme les tagamochi ou l'efficacité des bots de dialogue sur les sites spécialisés (genre rencontre).

Encore une fois, j'aimerais lire autre chose que vos affirmations et raisonnements, notamment des exemples réels.

Non mais bien évidemment que l'Homme peut parfois être "singé" par une machine (ou même un jeux vidéo, etc ...) mais enfin, ça ne change rien que la très "grande majorité des humains" savent que les robots ne ressentent pas d'émotions, non? Certes, c'est péremptoire et tout ce que vous voulez, mais il me semble que ce n'est pas absurde comme remarque.

Une fois que l'on est d’accord avec cette remarque, il ne reste plus qu'à répondre à la question: "le fait de savoir que l’émetteur d'une émotion la ressent vraiment, et n'imite son expression, est-il important pour le receveur"? Pour moi OUI (car l'expression de l'émotion n'est que le moyen que l'Homme (ou l'animal) a trouvé pour communiquer sa subjectivité)

[noir_ecaille]

à mon humble avis, la seule façon de prouver qu'une intelligence artificielle est possible est d'en créer une. En revanche, on peut espérer prouver qu'elle est impossible, en exhibant une obstruction théorique, c'est un peu ce qu'a tenté de faire Penrose je crois. Bref, la situation n'est pas symétrique, et tu ne peux exiger qu'on prouve a priori la possibilité d'une IA.

Je pense le contraire : on peut démontrer la possibilité a priori justement par le calcul (y compris logique) et l'analyse logique. En analysant les équations de la relativité, on a trouvé a priori (avant observation) les trous noirs. Dans le même genre, il existe en mathématiques des calculs d'indécidabilité ou même pour savoir a priori si une équation possède une solution (cf polynômes du lycée).

Donc il est envisageable de démontrer la possibilité mathématique et logique d'un algorithme IA implémentable ou non avec le code de la guerre -- pour prendre un exemple concret.

[inviteded9355b]

Moi j'affirme qu'un algorithme n'a pas de subjectivité. On effectue un paramétrage d'entrées et sorties, y compris via algorithmes dit d'apprentissage. Par ailleurs à supposer qu'on laisse l'algorithme d'apprentissage en place, on obtient plutôt un comportement de moins en moins pertinent par effet de surapprentissage. C'est très différent d'un comportement basé sur la subjectivité.

C'est un argument qui est valable pour les "intelligences artificielles" que nous savons faire pour le moment, et dont tout le monde est conscient qu'elles sont très limitées par rapport au cerveau humain (tant en nombre de neurones qu'en complexité architecturale). Mais ce n'est pas un argument convaincant dans l'absolu.

La subjectivitée est très étudié côté neuroscience parce qu'on a du mal à cerner ses mécanismes. Si le cerveau n'est qu'une machine, alors tous les rejetons d'une même portée (surtout des clones) devraient avoir un comportement générique.

Certainement pas. Des jumeaux n'ont déjà pas les mêmes empreintes digitales, on ne voit vraiment pas pourquoi ils auraient le même cerveau à la naissance. Et même dans ce cas, on sait que le cerveau évolue en fonction du vécu. On n'a aucune base pour affirmer que deux individus ayant par miracle un cerveau exactement identique se comporteraient de façon différentes. Donc aucune base pour affirmer que la subjectivité ne réside pas dans les différences matérielles entre deux cerveaux.

[inviteded9355b]

c'est un peu ce qu'a tenté de faire Penrose je crois.

En fait, Penrose a juste avancé des arguments visant à montrer que l'intelligence humaine n'est pas réductible à une machine de Turing, pas qu'elle n'est pas réductible à une machine en général. Arguments qui, de plus, sont loin de convaincre tout le monde.

[pm42]

Bah tout comme un enfant s'attachant à une peluche traditionnel ou même un vélo. Y'en a même qui donne des noms à leur flingue.

Qu'est-ce que ça prouve, sinon que nous sommes attachés à une possession au point de lui attribuer un rôle nominatif dans notre train-tain ?

Non mais bien évidemment que l'Homme peut parfois être "singé" par une machine (ou même un jeux vidéo, etc ...) mais enfin, ça ne change rien que la très "grande majorité des humains" savent que les robots ne ressentent pas d'émotions, non? Certes, c'est péremptoire et tout ce que vous voulez, mais il me semble que ce n'est pas absurde comme remarque.

Une fois que l'on est d’accord avec cette remarque, il ne reste plus qu'à répondre à la question: "le fait de savoir que l’émetteur d'une émotion la ressent vraiment, et n'imite son expression, est-il important pour le receveur"? Pour moi OUI (car l'expression de l'émotion n'est que le moyen que l'Homme (ou l'animal) a trouvé pour communiquer sa subjectivité)

Encore une fois messieurs, je constate que vous ne citez aucun travail, que vous vous contentez d'affirmations péremptoires, qu'apparemment vous ne connaissez aucun des travaux cités.
Je vous laisse donc à vos certitudes construites sur de l'ignorance du domaine dont vous parlez.