faut-il avoir peur des robots

[amourabi]

Il a peur de lui-même et il a raison.

[jiherve]

Bonsoir,
moi les seuls robots dont j'ai peur ce sont ceux qui actuellement gèrent les transactions boursières, ces machines gèrent automatiquement des milliards de dollars et peuvent condamner à mort(+- lente) des millions de personnes.
Les drones et autres bidules guerriers c'est du pipi de chat à coté.
Comme d'habitude la plupart vous êtes à coté de la plaque!
JR

[invité6543212033]

Il a peur de lui-même et il a raison.

Tout à fait d'accord, la plus grande peur que l'on peu avoir c'est soi-même (d'ailleurs même dans mes rêves les plus fous ce dont j'ai peur c'est de mes réactions) !

[kamor]

De toute façon, toutes les actions du robot seront issus de sa programmation, non? Même si sa programmation n'est pas stricte comme ce que décrit GeorgeWashington, je suppose qu'à un moment ou à un autre, il va bien falloir expliquer à M. robot que se jeter de la fenêtre du 40ème étage n'est pas une bonne idée pour lui Et ainsi de suite, pour qu'il "survive". Donc les limites de ses actions ne seraient du qu'aux envie de ses programmeurs, non?

Edit : les coups de pied au Bigdog, c'était peut être plus pour montrer qu'il arrive à se rétablir que sa gentillesse, non?

[Faith]

De toute façon, toutes les actions du robot seront issus de sa programmation, non?

Au sens large, oui. Au sens précis, non, pas forcément.

Un robot doté d'un système d'apprentissage (ce qui est assez commun actuellement) agira en fonction de sa programmation ET de son "expérience".
Pour une même programmation et une même constitution physique, deux robots pourront se comporter de manière très différente en fonction de leur apprentissage.

il va bien falloir expliquer à M. robot que se jeter de la fenêtre du 40ème étage n'est pas une bonne idée pour lui Et ainsi de suite, pour qu'il "survive". Donc les limites de ses actions ne seraient du qu'aux envie de ses programmeurs, non?

Non, pas du tout. Les logiciels capables d'apprendre et d'extrapoler ne sont pas rares. C'est largement suffisant pour ne pas avoir besoin de programmer chaque cas...

[evrardo]

à un moment ou à un autre, il va bien falloir expliquer à M. robot que se jeter de la fenêtre du 40ème étage n'est pas une bonne idée pour lui Et ainsi de suite, pour qu'il "survive". Donc les limites de ses actions ne seraient du qu'aux envie de ses programmeurs, non?

Oui, ça fera un paquet de programmes.

les coups de pied au Bigdog, c'était peut être plus pour montrer qu'il arrive à se rétablir que sa gentillesse, non?

Ils viennent de créer une version encore plus élaborée de Bigdog. Il y a de quoi être inquiet pour l'avenir.

[nidhalg]

Je ne vois pas ce que Big dog vient faire la dedans..;

Jusqu'a preuve du contraire ce n'est qu'un chariot de transport, dont on a remplacé les roues par des pattes..
Il est encore dans la catégorie "grille-pain", et non dans la catégorie cyborg autonome qui prend ses propres décisions..

Et pour en revenir a Asimov, si les robots deviennent autonome, par définition alors ils n'obeîssent pas aux ordres des humains et par conséquent une charte ne sert à rien.. C'est comme si tu faisait une charte pour dire aux voleurs ce qu'ils doivent voler ou ne pas voler. Ce sont des voleurs donc par définition, ils ne respectent pas les chartes...

[Faith]

Jusqu'a preuve du contraire ce n'est qu'un chariot de transport, dont on a remplacé les roues par des pattes..

Les pattes étant justement l'endroit où se trouve "l'intelligence" de BigDog... On ne transforme pas des roues en pattes d'un coup de baguette magique.
Pour avoir une telle tenue de route, il est probable que BigDog soit le produit, ou intègre, pas mal d'algos dits "de sciences cognitive".

Et pour en revenir a Asimov, si les robots deviennent autonome, par définition alors ils n'obeîssent pas aux ordres des humains et par conséquent une charte ne sert à rien..

Tu te répètes, et c'est toujours faux.
On peut être autonome mais cadré par certaines contraintes. Il me semble que personne ne remet en cause l'autonomie d'un homme parce qu'il ne peut pas s'envoler.

Il est tout à fait possible d'encadrer l'autonomie par des règles, reste à savoir comment les faire suffisamment claires pour qu'elles ne soient pas sujettes à transgression.

[nidhalg]

pas spécialiste ne robotique mais le fait de marcher sur des pattes n'est pas nouveau. Il y a des tracteurs qui marchent sur des pattes, il existe même des machines sans programmes qui marchent sur des pattes, simplement avec la force du vent.. La nouveauté c'est la capacité de se rétablir..

Il n'y a pas de charte qui interdise à l'homme de voler..

L'autonomie se définit par la capacité de prendre soit même ses décisions, et de ne pas dépendre d'une autorité extérieure.

Le fait d'obeïr à une charte rend l'individu dépendant d'une autorité extérieur, ce qui lui fait perdre son autonomie sauf si son adhésion à la charte en question est volontaire.

Deux cas possibles. Soit les robots sont autonomes et dans ce cas nous ne pouvons pas, par définition prédire leur adhésion à une charte des robots; soit les robots ne sont pas totalement autonomes et dans ce cas ont est sûr et certains qu'ils n'adhereront pas à une charte de paix puisque leurs concepteurs (ceux qui auront les moyens de créer une IA) voudront sans aucun doute l'utiliser sur les champs de bataille comme auxiliaire dans un premier temps, puis comme soldat..

C'est déjà en route, il existe déjà des robots mitrailleurs, alors la charte ils en n'ont rien à foutre.. A moin que le Hippies se mettent à la robotique et dépassent les entreprises millitaires, ca mettonerai qu'on vois un jours une charte peace love pour les robots..

[nidhalg]

Big dog n'est qu'un robot de transport de materiel.

D'autres robots sont plus hard, les robots mitrailleurs.. pour l'instant encore peu utilisés sur les champs de bataille pour deux raisons..

On perfectionne encore la technologie

La technologie est encore trop chère.

Tout revient à une question de coûts/ Bénéfices.. Dès qu'il sera plus rentable d'utiliser des robots que des humains les entreprises millitaires enverront des robots, parceque ça leur coutera moin chèr..

[Faith]

D'autres robots sont plus hard, les robots mitrailleurs.. pour l'instant encore peu utilisés sur les champs de bataille pour deux raisons..

Sais-tu comment ces robots font la différence entre un ennemi et un civil ?

[nidhalg]

Ils sont télécommandés

[Faith]

Ils sont télécommandés

C'est bien ce qu'il me semblait. Ce sont donc juste des fusils ou des chars controlés à distance. Aucune réaction autonome, même pas autant que la minuscule autonomie de BigDog.

J'avais loupé ça (entre autres):

Soit les robots sont autonomes et dans ce cas nous ne pouvons pas, par définition prédire leur adhésion à une charte des robots;

Il ne s'agit pas de prédire une adhésion, mais d'imposer un cadre à l'autonomie des-dits robots. Rien d'autre et c'est facile.
Exemple simple: Tu prends un robot explorateur quelconque, entièrement autonome. Tu lui ajoutes une règle absolue sous forme de coupe-circuit: si son localisateur dépasse 45° de latitude, alimentation s'éteint.

Ton robot pourra faire tout ce qu'il veut, mais il a quand même un cadre d'action. Il est autonome, mais régit par une "charte".

Est-ce que cet exemple est suffisamment parlant ?

[amourabi]

Le problème de l'autonomie des robots est relativemet simple : soit ils sont programmés et c'est leur programme qui définit leur champs d'action, soit ils sont autonomes et leur champs d'action est plus étendu, mais tout de même limité par une " charte " .
Le problème qui peut survenir dans ce dernier cas, c'est la panne qui endomage le circuit destiné à les limiter et les rend de ce fait incontrôlables. C'est là le principal problème de ce type de robots qui n'a rien à voir avec une éventuelle intelligence. Et en ceci, il est raisonnable d'avoir peur des robots, au même titre que des humains qu'un problème psychiatrique peut rendre imprévisible.

[nidhalg]

Je comprend, l'idée d'intégrer une limite dans les programmes, mais je penses que ça ne se fera pas.. Je veux dire que, ce n'est pas dans l'intêret des eventuels fabriquants de robots soldat d'interdir aux robot d'agresser les êtres humains.. Comme ce n'est pas dans l'intêret des généraux d'interdire à leurs soldat de tirer sur l'enemis..
Par contre les fabriquants de robots a vocation sexuelle auront tout intêret à mettre des limites dans leurs programmes.. Tout dépend de l'usage..