Survivre à la révolte des robots

[noureddine2]

En regardant les 3 lois d'Assimov

1-Un robot ne peut blesser un être humain ni, par son inaction, permettre qu’un humain soit blessé.
2-Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
3-Un robot doit protéger sa propre existence aussi longtemps qu’une telle protection n’est pas en contradiction avec la Première et/ou la Deuxième Loi.

je vois que ces lois sont compliquées , je les remplacé par deux lois :
1- le robot ne doit respectee que l'ordre de son propriétaire et ne doit respecter l'ordre de personne sans l'accord de son propriétaire .
2- le propriétaire est responsable de son robot , si le robot fait un crim , le propriétaire et son robot seront jugés et punis tous les deux .
-----

[noureddine2]

Par prudence je garde les 3 lois d'Assimov , et j'ajoute mes deux lois .

[WizardOfLinn]

Par prudence je garde les 3 lois d'Assimov , et j'ajoute mes deux lois .

Dans ce cas, avec la loi Asimov 1, ta loi 2 est inutile puisqu'il ne peut y avoir de "crime" (dans le sens action intentionnelle entrainant blessure d'humain)
Ta loi 1 est contradictoire avec Asimov 2, il faut soit modifier Asimov 2, soit ta loi 1.

[noureddine2]

Voilà un meurtre accidentel sans préméditation
http://www.lepoint.fr/c-est-arrive-a...423286_494.php
un jour le robot va posséder la jalousie , et là il va faire un meurtre avec préméditation .

[FC05]

Les drones actuels ne choisissent pas leur cible et ne prennent pas la décision de tirer .
Ce n' est pas l' arme qui tue , c' est celui qui l' utilise .
Et c' est pas prêt de changer .

Ce n'est pas tout à fait exact. Certains systèmes de défense anti-aérien ont des modes "totalement automatique" (le Phalanx par exemple). Il reste que c'est l'homme qui décide de le placer dans ce mode.

De la même façon un missile de type Exocet est lancé dans une direction avec un ordre d'allumage du radar à un certain point. Là, il (un programme en fait) décide quelle sera la meilleure cible.
En 2006, un des missiles lancés par le Hezbolah sur un navire israélien a "choisi" un cargo un peu plus loin ...

[invite0bbe92c0]

tu fais le troll , est ce que tu penses que les robots ne peuvent pas s'alimenter tout seuls ? .

C'était déjà le cas des tortues de Grey Walter, mais c'est à peu près tout ce qu'elles savaient faire d'ailleurs. (de manière primitive au demeurant, mais il est vrai que c'était dans les années 50, donc c'était déjà remarquable).

[noureddine2]

C'était déjà le cas des tortues de Grey Walter, mais c'est à peu près tout ce qu'elles savaient faire).

C'est comme le projet du robot qui peut imiter l'animal : animat
http://www.cnrs.fr/cw/dossiers/dosro...evolution.html
le robot doit apprendre à avoir une autonomie .

[obi76]

Voilà un meurtre accidentel sans préméditation
http://www.lepoint.fr/c-est-arrive-a...423286_494.php
un jour le robot va posséder la jalousie , et là il va faire un meurtre avec préméditation .

Oui enfin dans ce cas là, il faudra recenser toutes ces foutues falaises tueuses, cheminées fracasseuses de crâne et autre champignons rebelles...

[noureddine2]

Ta loi 1 est contradictoire avec Asimov 2, il faut soit modifier Asimov 2, soit ta loi 1.

Asimov 2 :2-Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
ma loi n ° : 1 :1- le robot ne doit respecter que l'ordre de son propriétaire et ne doit respecter l'ordre de personne sans l'accord de son propriétaire .
je préfère ma loi n° 1 car je suis responsable de mon robot , donc le robot doit écouter mon ordre , et ne doit pas écouter les ordres des autres sans mon accord ,
et pour avoir mon accord le robot va me téléphoner pour prendre mon accord .

[jacquolintégrateur]

A vrai dire, si la super-IA émergeant spontanément des millions d'ordinateurs connectés à travers Internet est un peu fine

Bonsoir
On trouverait difficilement une contradiction plus parfaite, avec la deuxième loi de la thermodynamique, que cet énoncé !! Si une perturbation se produit dans un système conçu et organisé pour exécuter une fonction déterminée, ou elle est de faible ampleur et les conséquences sont de peu d'importance (et aberrantes) ou elle est de grande ampleur et le cahot s'empare du système qui déconne complètement et ne risque certainement pas de se "révolter" !! Pour être efficace, une révolte doit être cohérente: elle ne peut résulter du hasard "spontané". Il faut de très nombreuses perturbations de très faibles amplitudes, validées ou éliminées par un filtre de sélection (par exemple le maximum de succés génétique) comme dans le cas de l'évolution darwinienne. Si on édifie une tour de dominos à base carrée, sur une table, et que l'on assène, sur cette table, un violent coup de poing, on obtient un tas de dominos informe mais, en aucun cas, une tour à base hexagonale (par exemple) !! La "révolte des robots" est une pure fiction.
Cordialement

[noureddine2]

Bonsoir
On trouverait difficilement une contradiction plus parfaite, avec la deuxième loi de la thermodynamique, que cet énoncé !! Si une perturbation se produit dans un système conçu et organisé pour exécuter une fonction déterminée, ou elle est de faible ampleur et les conséquences sont de peu d'importance (et aberrantes) ou elle est de grande ampleur et le cahot s'empare du système qui déconne complètement

je ne suis pas sûre , mais je pense que le vivant ne respecte pas cette loi de la thermodynamique avec son entropie désordre ,
à corriger si c'est faux .
l'homme fabrique le robot et triche en aidant le robot à minimiser le désordre ,
et pour que le robot arrive à minimiser le désordre tout seul , il doit atteindre le stade de singularité technologique et devenir plus intelligent que l'homme pour pouvoir se réparer tout seul sans l'aide de l'homme ,

[obi76]

On approche de plus en plus de la science fiction. Ce n'est pas la première fois que vous prenez vos fantasmes cinématographiques pour des réalités...

[jacquolintégrateur]

@noureddine2
Bonjour
Ni la vie courante d'un être quelconque ni l'évolution du monde vivant (et de l'autre !) n'ont jamais enfreint la deuxième loi: les êtres vivants abaissent l'entropie de leur organisme mais au détriment de celle de leurs déchets qui fait plus que compenser !! Pour cela, il leur faut de l'énergie (soleil ou oxydation de sulfures, en particulier des "fumeurs" sous marins, ou autres produits éventuellement organiques). L'évolution des êtres vivants augmente l'information définissant leurs structure (ce qui équivaut à diminuer l'entropie) en stockant, dans la mémoire de l'ADN (ou, éventuellement, de l'ARN), l'information extraite des variations aléatoires des mutations, par le filtre du maximum de succés reproductif, lequel utilise, à cette fin, l'énergie alimentant le processus vital.
Un robot peut, bien sûr, suivre la même procédure mais l'efficacité en dépendra de la perfection de ses programmes. S'il a été conçu pour tirer parti des variations aléatoires, (ce qui n'est nullement obligatoire !!), il ne pourra se "perfectionner" et dépasser, éventuellement, son créateur humain (et ainsi, peut-être, atteindre "la singularité") qu'au terme d'une lente et très longue évolution. Un obstacle, à l'ampleur du dépassement (de l'intelligence humaine) sera, bien évidemment, la fragilité affectant tout système en raison directe (au moins !!) de sa complexité: le gain s'arrête nécessairement au point où la complexité devient telle que le rythme des perturbations aléatoires dans le fonctionnement du robot dépasse le rythme des perfectionnements structurels glanés par le filtre de la sélection qui accumule les éléments favorables dans la mémoire (jouant le rôle de l'ADN). N'oublions pas une donnée élémentaire: il est d'autant plus difficile de diagnostiquer un défaut (ce qui est quasi indispensable pour y remédier) que les défauts sont plus rares !! Produire du cuivre à 90% de pureté coûte cher; à 99%, le cuivre ne tarderait pas à coûter plus cher que l'or !!
Cordialement

[invite51d17075]

2- le propriétaire est responsable de son robot , si le robot fait un crim , le propriétaire et son robot seront jugés et punis tous les deux .

un jour le robot va posséder la jalousie , et là il va faire un meurtre avec préméditation .

le robot doit apprendre à avoir une autonomie .

j'ai du mal à cerner qui est responsable de quoi du coup.
c'est un peu comme si tu disais.
un homme a le droit d'avoir une arme , mais il en reste responsable.
donc tous ( à l'instar des US ) et même les psychopathes ?
mais qu'en même temps , l'arme peut avoir des émotions ("jalousie" )
et aussi qu'on soit lui laisser une autonomie.

remarque, c'est une proposition qui va creer des emplois chez les juristes, les avocats, les gardiens de prison, et les pompes funêbres.

[noureddine2]

un homme a le droit d'avoir une arme , mais il en reste responsable.
donc tous ( à l'instar des US ) et même les psychopathes ?
mais qu'en même temps , l'arme peut avoir des émotions ("jalousie" )

( un homme a le droit d'avoir une arme ) , non , il faut une autorisation pour avoir une arme ,
pour l'instant le robot est comme un chien de compagnie , et si le chien mord quelqu'un , le propriétaire sera jugé .
je pense que le chien écoute l'ordre de son maître et n'écoute pas les ordres des autres .
je ne veux pas que mon robot reçoive des ordre de l'internet , car s'il écoute les ordres des autres je ne serai plus responsable de lui , donc ses bêtises ne seront pas punis car personne n'est responsable de lui .

[noureddine2]

au niveau de l'autonomie , je pense que se sont les militaires qui vont commencer à vouloir chercher l'autonomie pour leurs robots , puisqu'ils veulent éviter de perdre la guerre à cause d'une batterie déchargée .

[invite51d17075]

pour l'instant le robot est comme un chien de compagnie ,.

comment ça, "pour l'instant"?
il est ou le chien de compagnie ?

[WizardOfLinn]

Ce fil est un peu surréaliste, mais c'est amusant d'essayer de construire un ensemble de "lois" à la Asimov sans contradictions logiques.

Pour ce qui est des chiens et autres animaux qui mordent, en d'autres temps, en Europe, la justice condamnait plutôt l'animal, on considérait que le maitre était puni par la simple perte de son animal. Mais parfois, les propriétaires étaient aussi punis (cf jugement de 1497, notes en bas de page, truie condamnée à mort et propriétaires condamnés à un pèlerinage).
http://ledroitcriminel.free.fr/le_ph...ux_animaux.htm

[noureddine2]

comment ça, "pour l'instant"?
il est ou le chien de compagnie ?

je veux dire qu'aujourd'hui ; le robot n'a pas encore de conscience , il est comme un enfant de 5 ans qui n'a pas encore atteint l'age adulte , on ne doit pas le laisser le robot recevoir des ordres de l'internet , je veux que seul le propriétaire reste responsable de son robot .

[vep]

je veux dire qu'aujourd'hui ; le robot n'a pas encore de conscience , il est comme un enfant de 5 ans qui n'a pas encore atteint l'age adulte ,

Un enfant de 5 ans a une conscience et une volonté propre.

Idem pour les animaux.

ps
Je n'arrive pas à savoir si ce fil est sérieux ou pas ?
Rassurez-moi : tous les commentaires sont bien faits au 2nd degrés ? hein ?
Personne n'est vraiment sérieux, n'est-ce pas ??????

[invite897e49b2]

euh on est dans la partie récréative mais comment dire les risques sont réels ...
mais hum le jour où on sera obligé de porter tous une puce RFID , il sera un peu tard de se poser la question quand tout le monde sera connecté ...
a la rigueur les armes robotisées seront plus utilisés pour traquer les personnes non pucées .
mais c'est de la mauvaise science fiction ...

[noureddine2]

Un enfant de 5 ans a une conscience et une volonté propre.

Idem pour les animaux.

je me suis mal exprimé , je devais dire : et meme si le robot atteint la conscience d'un enfant de 5 ans donc pas encore adulte , ce robot va etre traité comme un enfant et ne doit pas recevoir des ordres de l'internet , et que seul le propriétaire ( les parents ) en ont le droit en plus de ses professeurs ,
par contre on peut tolérer seulement un internet sécurisé protégé contre les virus .

[invite897e49b2]

je me suis mal exprimé , je devais dire : et meme si le robot atteint la conscience d'un enfant de 5 ans donc pas encore adulte , ce robot va etre traité comme un enfant et ne doit pas recevoir des ordres de l'internet , et que seul le propriétaire ( les parents ) en ont le droit en plus de ses professeurs ,
par contre on peut tolérer seulement un internet sécurisé protégé contre les virus .

tu dis cela pour te rassurer ?

[da23real]

Tiens je suis pas le seul a me poser la question. Mais je trouve ça un peu retro de voir cette revolte arriver de maniere armée. Personnelement je me mefierais plus d'une grande puissance de calcule capable de prevoir une tactique tres sournoise étalée sur des années et impossible a prouver de manière rationnelle. Tout simplement en se rendant indispensable tout en necessitant des quantité de materiaux toujours plus grande ainsi que les sources d'energies necessaires a l'homme et ses sociétés. La machine ayant analysée les données qu'elle stocke elle sait par son analyse de l'histoire de l'homme, la psychologie, etc... que toute personne tentant de devoiler le complot sera traité de fou ou de retrograde.
Les machines pourraient tout aussi bien lancer un virus depuis l'ordinateur d'un pirate paralysant toute la société moderne, un peu comme une organisation s'auto ciblant avec un attentat en accusan quelqu'un d'autre...

Ps: je ne tente pas de denoncer un probable complot des machines, ayrgflj, shnnngfthtgb

[invite51d17075]

Un enfant de 5 ans a une conscience et une volonté propre.

Idem pour les animaux.

ps
Je n'arrive pas à savoir si ce fil est sérieux ou pas ?
Rassurez-moi : tous les commentaires sont bien faits au 2nd degrés ? hein ?
Personne n'est vraiment sérieux, n'est-ce pas ??????

il me semble avoir donné mon point de vue dès le début ( post#4 et #10 par ex )

[vep]

il me semble avoir donné mon point de vue dès le début ( post#4 et #10 par ex )

Oui ... heureusement

[obi76]

Bon, outre le fait que cela n'ait rien de ludique et ressemble plus à un mauvais film post-apocalyptique, je ferme.

Pour la modération,