Lois d'Asimov

[invitef86a6203]

Le ministère Japonais de l'économie, du commerce va pousser les fabriquants à appliquer la première des trois lois de la robotique édictées par Isaac Asimov;
http://www.ledroideenchaine.com/news...oryid+3574.htm

Mais cela découle de notions philosophiques pour le moment non compréhensible par les "computers".
De plus une notion philosophique peut être interprétée...
Il suffit de penser aux guerres de religions...

Dans la première loi le fait d'obliger le robots à agir s'ils considèrent l'être humain en danger, n'est il pas contradictoire avec le fait de préserver sa vie.
Cela demande une notion de jugement sur le niveau de danger, difficilement calculable.
Cela ne conduit il pas à l'emprisonnement pure et simple de l'être protégé.
Nos animaux de ferme ne sont ils pas ainsi sous notre protection ?

Dans la seconde loi, un ordre d'un humain ne va t il pas en renforcement de cette hypothèse , en voulant contrôler d'autres humains ?
(qu'il emprisonnerait d'une façon ou d'une autre)

Enfin si le robot calcul que la vie de l'ensemble de la population dépend de la mort de certains autres , ne doit il pas euthanasier une partie de la population
qu'il protège ?
Si cette minorité veut atteindre à la vie du robot.


Les 3 Lois d'Asimov;
http://fr.wikipedia.org/wiki/Isaac_Asimov

# Première Loi : Un robot ne peut ni porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
# Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ;
# Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième

Quant à nous pauvres sous développés Européens du 3ième millénaire, On se demande bien qui nous mangera et à quelle sauce .

Qu'en pensez vous ?
-----

[Jean-Luc P]

C'est ce qu'Asimov conclut dans ses nouvelles : les trois lois sont très bien en théorie mais en pratique amènent tout un tas de situations où leur pertinence est mise en défaut.

[invite5637435c]

j'ai déplacé cette discussion, que j'estime être ici plus à sa place que dans le forum électronique.

[GrisBleu]

Salut

Vu ce que j'ai vu des robots au japon... c'est pas encore gagne meme si ils implementent cette loi. un bon ex: ici l ex premier ministre enfume par un robot de garde koizumi

Franchement il y a encore beaucoup de travail pour rendre les robots de taille humaine surs

++

[A voir en vidéo sur Futura]

[invitef86a6203]

Vu ce que j'ai vu des robots au japon... c'est pas encore gagne meme si ils implementent cette loi. un bon ex: ici l ex premier ministre enfume par un robot de garde koizumi

Franchement il y a encore beaucoup de travail pour rendre les robots de taille humaine surs

Bien sur !
Ce n'est pas une raison pour ne rien faire !

Encore faut il regarder ce qui fonctionne ; (Asimo par Honda)
http://www.ledroideenchaine.com/news...oryid+3608.htm

Pas ce qui ne fonctionne pas, pour ce déculpabiliser.

Mais les questions sont
Que faisons nous ici?
Fabriquons nous des robots avec des pièces "made in China" ?

J'en conclu;
Tiens, ça fait penser au chevaux de 14 contre les blindés...

[JPL]

Je suis certain qu'il y a déjà eu une discussion sur ce projet de loi japonais mais je n'arrive pas à la retrouver. Si quelqu'un la retrouve on pourrait peut-être fusionner.

[invite91a69b29]

D'autant qu'il y a la notion de blessure physique qui est assez évidente à mettre en place, mais aussi celle de blessure psychologique, qui sera nécessairement beaucoup plus difficile à appréhender pour des cerveaux artificiels !

Exemple d'un problème classique : un robot nourrice qui doit sanctionner un enfant, cela le 'blesse' (au moins psychologiquement) sur le moment, mais c'est pour son bien à venir...

Dans ses romans, Asimov explique que ces lois n'ont pas de sens en terme de mots pour les robots mais sont des équilibres de potentiels électriques (et positronniques).

Quand on lit l'ensemble des nouvelles d'Asimov, on se rend parfaitement compte du problème posé par le jugement et l'interprétation faite par les robots.
Au début, l'interprétation est assez primaire, au pied de la lettre, et au fur et à mesure que les cerveaux positroniques s'affinent et se complexifient, ils arrivent à mieux gérer ces lois et à en respecter le sens original.

Asimov avait parfaitement identifié se problème et la lecture de l'ensemble des nouvelles concernant les lois de la robotique (au passage, ce terme a été inventé par Asimov) donne une vue assez globale des problèmes que les développeurs auront à surmonter dans un avenir proche

Asimov était même allé plus loin, puisqu'un robot plus évolué que les autres va arriver à émettre l'idée d'une loi supplémentaire :
Loi Zéro : Un robot ne peut porter atteinte à l'humanité ni par son inaction laisser l'humanité en danger.

Ce qui décale et subordonne toutes les autres lois : le bien du plus grand nombre prévaut sur celui de l'individu... on entre dans un débat philosophique plus poussé, entre autre : comment déterminer et qualifier le bien de l'humanité ??!!

[invitef86a6203]

Au début, l'interprétation est assez primaire, au pied de la lettre, et au fur et à mesure que les cerveaux positroniques s'affinent et se complexifient, ils arrivent à mieux gérer ces lois et à en respecter le sens original.

Cela soulève un autre problème ?
Dans la mesure ou un robot (logiciel, cerveau électronique,...) devient performant et proche de notre esprit .
Les maladies mentales pures (qui ne sont pas dû à un problème physique) , donc produit par des contradictions de l'éducation , sont elles possibles ?

Un robot névrosé, paranoïaque ou schizophrène serait il possible ?

Intuitivement, je dirais que oui...

[invite91a69b29]

Je me méfierai des réponses intuitives en ce qui concerne la psyché

Mais d'une part on peut envisager des disfonctionnements qui entraineraient un comportement que l'on pourrait rapprocher du point de vue des conséquences d'un comportement sus-cité.
D'autre part, si on met au point une intelligence artificielle et qu'on a le malheur lui permettre d'assimiler les émotions dans leur complexité, alors qui sait si effectivement, cet esprit ne serai pas capable de voir emerger ce genre de comportement

[JPL]

Asimov était même allé plus loin, puisqu'un robot plus évolué que les autres va arriver à émettre l'idée d'une loi supplémentaire :
Loi Zéro : Un robot ne peut porter atteinte à l'humanité ni par son inaction laisser l'humanité en danger.

Et le robot en meurt, si je me souviens bien.

[invite91a69b29]

Disons que se trouvant dans la nécessité d'appliquer cette loi et donc de neutraliser un être humain (en le décérebrant), R. Giskard va effectivement entrer en état de gel mental

Mais lors de discutions que ce robot avait avec un autre robot concernant ces lois, il avoue que le fait même de remettre en question les 3 lois fondamentales le met dans un grand malaise

[invitef86a6203]

D'autre part, si on met au point une intelligence artificielle et qu'on a le malheur lui permettre d'assimiler les émotions dans leur complexité,

Pas forcément les émotions des simples inférences peuvent aboutir à des stupidités ;

exemple:

inférences vrai;
1. les oiseaux sont ovipares ;
2. les chauves-souris ne sont pas ovipares ;
conclusion
donc les chauves-souris ne sont pas des oiseaux.

inférences stupide;
1 les tortues sont ovipares
2 les oiseaux sont ovipares
conclusion
donc les tortues sont des oiseaux.

[invite91a69b29]

freepicbasic, je suis bien d'accord avec toi, mais je ne vois pas le rapport ?

[invitef86a6203]

je voulais comparer notre propre comportement ou raisonnement à une machine pensante.

Si certains humains ont des comportements ou des idées étranges.
Est ce parce qu'ils ont une tare ou est ce dû à une logique qui a des lacunes.
Il est fort probable que si des machines arrivent aux même niveaux de raisonnement que nous elles fassent les mêmes erreurs.

Les erreurs seraient plus une conséquence de la complexité que du "support logique", j'entends par "support logique" un humain raisonnant ou une machine doté de pouvoir de raisonnement identique.

L'exemple des inférences étant un exemple simpliste mais qui fonctionne pour un humain comme pour une machine.

[inviteea6fd0dc]

Pas forcément les émotions des simples inférences peuvent aboutir à des stupidités ;

exemple:

inférences vrai;
1. les oiseaux sont ovipares ;
2. les chauves-souris ne sont pas ovipares ;
conclusion
donc les chauves-souris ne sont pas des oiseaux.

inférences stupide;
1 les tortues sont ovipares
2 les oiseaux sont ovipares
conclusion
donc les tortues sont des oiseaux.

Les deux raisonnements sont faux d'un point de vue logique, il n'y a pas d'inférence.
Ni un humain sensé, et encore moins un robot ( pour peu qu'il soit correctement programmé) ne se tromperaient dans le cas présent.

[invite765732342432]

Les deux raisonnements sont faux d'un point de vue logique, il n'y a pas d'inférence.

Le premier raisonnement est bon d'un point de vue logique: il s'agit de la loi de contraposition (si je ne me trompe pas)
(Oiseau ⇒ Ovipare ) ⇔ (¬Ovipare ⇒ ¬Oiseau)

[invitef86a6203]

La source de l'exemple;
http://www.limsi.fr/Individu/habert/...102/node6.html

Le second est de mon cru, mais aussi valable.
Simplement pour exposer le problème.

Ayant expérimenté des programmes d'inférences il y a déjà longtemps...
Je confirme que le fait d'ajouter des inférences dans la base finissait par des conclusions fausses.
Peut être que l'on aurait pu considérer cette étape comme l'enfance ou l'apprentissage , a la longue les précisions ou le grossissement de la base aurait peut être finis par donné quelque chose de positif...
Je n'ai jamais testé plus loin.

[inviteea6fd0dc]

OK faudrait que je lise un peu moins vite ( ou que je réfléchisse un peu plus)

[invitebd686fd6]

Mais cela découle de notions philosophiques pour le moment non compréhensible par les "computers".

Non compréhensible par le robot ne veut pas dire non programmable...

Les logiciels d'astronomie que l'on programme, l'ordinateur ne les comprend pas.

Et pourtant les programmes existent et fonctionnent très bien.

[invitebd686fd6]

Le ministère Japonais de l'économie, du commerce va pousser les fabriquants à appliquer la première des trois lois de la robotique édictées par Isaac Asimov;
http://www.ledroideenchaine.com/news...oryid+3574.htm

Mais cela découle de notions philosophiques pour le moment non compréhensible par les "computers".
De plus une notion philosophique peut être interprétée...
Les 3 Lois d'Asimov;
http://fr.wikipedia.org/wiki/Isaac_Asimov

Plus tard, il y adjoint la règle zéro : Un robot ne peut nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

J'ai allégé le contenu de la citation qui était inutile.
Merci de ne pas alourdir inutilement les messages en "quotant" sans distinction.

Pour la modération,

yoda1234.

[yoda1234]

Plus tard, il y adjoint la règle zéro : Un robot ne peut nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

Bonjour,

déjà évoqué ici et suivi de la réponse de JPL.

[invite0e4ceef6]

hm, asimov etait sans doute un bon futurologue mais juriste ou philosophe du droit.. ?? quand a connaitre la réalité des robots actuels, hmmmm.

que les japonais pose le principe qu'il y est un droit propre a la robotique, est sans doute un bonne choses. on est jamais trop prudent.

il reste, qu'ici les lois d'asimov ne sont qu'une pétition de principes.

dans nos cas, la première lois devrait-etre:

- tant qu'un robot est incapable de comprendre de lui-même le sens de cette loi, il ne peut-etre considéré comme une personne de droit (nul n'est sencé ignoré la loi)

- de fait l'on ne saurait le tenir pour responsable de ses actes. a charge du programateur ou de la personne morale qui l'emploie, de la responsabilité effective devant la société des desordres, et préjudice que la machine serait a même de causer a toute personnes et aux biens.

- les lois d'asimov (1,2,3), sont une indication formelle a tout programateur dans la création de logiciel pouvant donner a un robot une autonomie de jugement partielle quand a son comportement, ses déplacements, ou toute autre fonction particulière dont le robot serait doté.

- dans tout les cas, lors de la vente, le nouveaux propriétaire du robots dot-etre informé de ses droits et devoirs quand a l'engagement de sa responsabilité juridique quant aux agissement normaux du robot. (celle du constructeur et du progamateur etant toujours invocable en cas de vice manifeste de fonctionement)

- un robot, même si il comprend ces lois ne peut-etre assimilé a une personne de droit a part entier, si celui-ci n'épprouve une peur certaine d'etre désassemblé ou recyclé ou de ne plus recevoir d'energie. Peur se démontrant par une modification effective de son comportement en faveur du respect des normes de droit et des lois.

a vue de pif, un droit du robot ressemblerais un plus a cela que les jolies lois d'Asimov. la question etant de savoir si un robot peut-eter ou non, tenu pour responsable de ces actes. le droit ne pouvant s'appliquer qu'a un être humain et ce jusqu'a preuve du contraire.

[invite5637435c]

Salut,

les lois délimitent un champ restrictif théorique dont les limites sont toujours discutables au sens humain, on le voit tous les jours dans le fonctionnement de nos sociétés, je doute fort que ce type de concept soit appliquable à une machine toute sophistiquée soit-elle, même pourvue d'intelligence artificielle...

Sur les machines outils par exemple on voit déjà les difficultés rencontrées pour rendre leurs comportements non dangereux quelque soit les conditions d'utilisations et les conditions liées à l'environnement direct.

Finalement, comme d'habitude, ce qui fini par être dangereux pour l'homme c'est le comportement de l'homme lui-même.

N'oublions pas tout de même que le génial Asimov était avant tout un écrivain de SF, et que malgré tout son talent il faut relativiser l'étendue du possible.

Pour pouvoir implanter un comportement non dangereux il faudrait déjà le définir dans l'absolu.
Il me semble qu'une telle machine serait alors pourvue d'une fonction permettant de peser le pour et le contre et donc capable de faire des choix logiques pour arriver à une conclusion instantannée qui serait sans consistance de valeur intuitive ou sentimentale, donc vide des considérations liées aux antécédents de l'évènement lui-même.
En droit on appelle ça les circonstances atténuantes.
@+

[invitef86a6203]

- tant qu'un robot est incapable de comprendre de lui-même le sens de cette loi, il ne peut-etre considéré comme une personne de droit (nul n'est sencé ignoré la loi)

Cela est vraiment discutable ...
Le terme "comprendre" sous entend la manipulation de concepts.
Pour le moment cela semble au dessus de la capacité des logiciels existants.
Pourrait on envisager que les robots aient un code civil en mémoire ?
Quand on voit la lenteur de la justice et la façon dont on peut interpréter les lois, le robot seraient totalement inhibés en permanence , se posant la question "ceci est il permis oui ou non" pour tout mouvement, et sans doute ne ferait il que faire des débats sur le code civil. (sans doute plein de contradictions)

(nul n'est sensé ignoré la loi)

Ceci n'est pas une loi , mais la façon pure et simple de détourner la "justice" (dans le sens philosophique du terme) aux profits des plus fortuner ou ceux qui possèdent le pouvoir !
Afin de briser ceux qui voudraient s'interposer à eux.

Ne pas confondre Justice et Magistrature

En contraire contradiction avec les lois d'Asimov qui se voudraient paisible et conviviale.

Le robot devrait avoir que des loi simples du genre; les 10 commandements, ce qu'Asimov essai de créer.

Si le robot peut "Comprendre" les termes comme "justice" il est fort probable qu'il puisse dans certain cas être en conflit avec la "magistrature".

Pour le sujet du juridique,
le robot est normalement aux ordres de son propriétaire, il semble donc très logique que le propriétaire sont responsable pénalement.
Pour le moment cela semble évident.
Tant que des problèmes d'incompréhensions propriétaires robots n'existent pas , cette règle semble valable.
Si un jour le robot devenu intelligent agit de façon illégal "à l'insu du plein gré (LOL)" de son propriétaire , un débat juridique serait nécessaire.

Il aussi fort probable que le propriétaire d'un robot , considère que le robot doivent exécuter ses ordres, et non pas agir selon une étique imposée.
Imaginez les robots de chez Renault se mettant en grève , car leur propriétaire ne respecte pas les lois édicter par le créateur du robot.

Nous pouvions donc en conclure que des robots pourraient agir l'un contre l'autre dans l'intérêt de propriétaires différents.

Ce qui d'ailleurs existe déjà a petite échelle sur le net entre "bots spammers" et "bots de surveillance".

[Jean-Luc P]

Asimov était même allé plus loin, puisqu'un robot plus évolué que les autres va arriver à émettre l'idée d'une loi supplémentaire :
Loi Zéro : Un robot ne peut porter atteinte à l'humanité ni par son inaction laisser l'humanité en danger.

Et le robot en meurt, si je me souviens bien.

Le premier oui. Son "disciple" se rendra mortel des milliers d'années plus tard pour parachever l'application de cette loi zéro en stabilisant l'avenir de l'humanité.

[JPL]

que les japonais pose le principe qu'il y est un droit propre a la robotique, est sans doute un bonne choses. on est jamais trop prudent.

J'ai eu l'occasion de dire dans une autre discussion que les lois d'Asimov étaient un très beau thème pour des romans de SF, mais que le réalisme le plus élémentaire devait les cantonner dans ce domaine.
Quant aux japonais, avant de se préoccuper des droits (contestables) des robots, ils devraient se préoccuper des droits des baleines !

[invite91a69b29]

Le premier oui. Son "disciple" se rendra mortel des milliers d'années plus tard pour parachever l'application de cette loi zéro en stabilisant l'avenir de l'humanité.

Stabilisation qui reste toutefois insatisfaisante puisqu'obligeant l'humanité à integrer le principe de Gaïa pour lutter contre "l'inconnu" mais qui reste mieux que la désorganisation dans le cadre du récit.

[invite91a69b29]

Pour en revenir aux lois d'Asimov, rappelons-nous déjà qu'elles ont été ecrites dans les années 50 par un type qui avait tout juste la 20aine !

Ensuite, à la base il s'agit de ne pas blesser un etre humain et/ou ne pas le laisser en danger !

Il n'y a aucun concept juridique là-dedans

C'est juste que le robot n'a pas le droit de mettre un pain dans la tête de son propriétaire quand celui-ci lui donne des ordres absurdes et qu'il ne doit pas le laisser en danger, même si c'est le dernier des abrutis !

Faudrait pas non plus pousser mémé dans les orties et aller y mettre quelque chose que l'auteur n'a jamais voulu !

En ce sens, ce n'est pas juste un thème de SF , c'est un concept qu'il sera important de prendre en compte, c'est de la sécurité des utilisateurs qu'il s'agit, c'est comme de mettre une grille dans la porte-fenetre d'un micro-onde ou des protection quand on fait du roller-blade !

Maintenant aller y ajouter des concepts de loi au sens juridique, on en reparlera lorsque les robots pourront être dotés d'une intelligence artificielle quantique !

[invitef86a6203]

Maintenant aller y ajouter des concepts de loi au sens juridique, on en reparlera lorsque les robots pourront être dotés d'une intelligence artificielle quantique !

Les PC actuels sont vraiment puissant (environ 2000 fois plus vite 50 000 fois plus de mémoire HD) par rapport , à il y a 25 ans , époque ou les moteurs d'inférences ont été expérimentés.
Mais j'ai plutot l'impression que le robot est passé de mode, dans le sens des années 60 , ou l'on se demandait si l'on pouvait créer une pensée électronique.
Plus aucune motivation , pas de débat pas de théorie , rien ...
Peut être même qu'on s'en méfie.
En attendant les Japonais eux se pose pas de questions et ils avancent.

[invite5637435c]

Les PC actuels sont vraiment puissant (environ 2000 fois plus vite 50 000 fois plus de mémoire HD) par rapport , à il y a 25 ans , époque ou les moteurs d'inférences ont été expérimentés.
Mais j'ai plutot l'impression que le robot est passé de mode, dans le sens des années 60 , ou l'on se demandait si l'on pouvait créer une pensée électronique.
Plus aucune motivation , pas de débat pas de théorie , rien ...
Peut être même qu'on s'en méfie.
En attendant les Japonais eux se pose pas de questions et ils avancent.

Dans le sens des années 50-60 surement, compte tenu qu'à l'époque les moyens techniques n'étaient pas réunis, mais ce manque de moyens comme souvent permet d'imaginer toute les pistes.

A cette époque les théories autour du robot humainoïde ont été riches et soutenues, Asimov lui-même avec ces 20 ans et quelques n'était pas une brêle mais déjà un scientifique très au courant des recherches sur le sujet.
N'oublions pas que Jules Verne a inspiré largement les chercheurs du 20e siècle, pour avoir imaginé des concepts inconcevables à l'époque mais ayant su s'inspirer lui même des idées "saugrenues" qui flottaient dans ce début de siècle.

Le robot, androïde ou non, aura bel et bien une place dans nos société c'est une évidence.
Dans la conquète spatiale, la lutte contre le terrorisme, le déminage, l'exploration des grandes profondeurs, etc... il faudrat de plus en plus d'intelligence embarquée, la machine devrat être capable de faire des choix et d'interpréter des situations critiques, mais le robot humanoïde vraiment je ne vois pas bien l'intérêt.
De ce que je sais, les progrès en robotique sont essentiellement liés aujourd'hui aux matériaux, à l'optimisation de l'énergie, aux capteurs.
Les avancées sur l'IA stagne encore en partie à cause d'une nouvelle avancée technologique qui peine à émerger.
Je doute que les chemins actuels pour y arriver (processeurs multi-cores) aboutissent à un résultat significatif, ce n'est pas tant la puissance de calcul qui fait défaut mais le principe de modélisation de l'IA qui ne parvient pas à modéliser des notions forts complexes du fonctionnement de la pensée.