faut-il avoir peur des robots

[invite82b867bc]

Il a peur de lui-même et il a raison.
-----

[jiherve]

Bonsoir,
moi les seuls robots dont j'ai peur ce sont ceux qui actuellement gèrent les transactions boursières, ces machines gèrent automatiquement des milliards de dollars et peuvent condamner à mort(+- lente) des millions de personnes.
Les drones et autres bidules guerriers c'est du pipi de chat à coté.
Comme d'habitude la plupart vous êtes à coté de la plaque!
JR

[invitebd2b1648]

Il a peur de lui-même et il a raison.

Tout à fait d'accord, la plus grande peur que l'on peu avoir c'est soi-même (d'ailleurs même dans mes rêves les plus fous ce dont j'ai peur c'est de mes réactions) !

[kamor]

De toute façon, toutes les actions du robot seront issus de sa programmation, non? Même si sa programmation n'est pas stricte comme ce que décrit GeorgeWashington, je suppose qu'à un moment ou à un autre, il va bien falloir expliquer à M. robot que se jeter de la fenêtre du 40ème étage n'est pas une bonne idée pour lui Et ainsi de suite, pour qu'il "survive". Donc les limites de ses actions ne seraient du qu'aux envie de ses programmeurs, non?

Edit : les coups de pied au Bigdog, c'était peut être plus pour montrer qu'il arrive à se rétablir que sa gentillesse, non?

[invite765732342432]

De toute façon, toutes les actions du robot seront issus de sa programmation, non?

Au sens large, oui. Au sens précis, non, pas forcément.

Un robot doté d'un système d'apprentissage (ce qui est assez commun actuellement) agira en fonction de sa programmation ET de son "expérience".
Pour une même programmation et une même constitution physique, deux robots pourront se comporter de manière très différente en fonction de leur apprentissage.

il va bien falloir expliquer à M. robot que se jeter de la fenêtre du 40ème étage n'est pas une bonne idée pour lui Et ainsi de suite, pour qu'il "survive". Donc les limites de ses actions ne seraient du qu'aux envie de ses programmeurs, non?

Non, pas du tout. Les logiciels capables d'apprendre et d'extrapoler ne sont pas rares. C'est largement suffisant pour ne pas avoir besoin de programmer chaque cas...

[evrardo]

à un moment ou à un autre, il va bien falloir expliquer à M. robot que se jeter de la fenêtre du 40ème étage n'est pas une bonne idée pour lui Et ainsi de suite, pour qu'il "survive". Donc les limites de ses actions ne seraient du qu'aux envie de ses programmeurs, non?

Oui, ça fera un paquet de programmes.

les coups de pied au Bigdog, c'était peut être plus pour montrer qu'il arrive à se rétablir que sa gentillesse, non?

Ils viennent de créer une version encore plus élaborée de Bigdog. Il y a de quoi être inquiet pour l'avenir.

[invitecc1b7100]

Je ne vois pas ce que Big dog vient faire la dedans..;

Jusqu'a preuve du contraire ce n'est qu'un chariot de transport, dont on a remplacé les roues par des pattes..
Il est encore dans la catégorie "grille-pain", et non dans la catégorie cyborg autonome qui prend ses propres décisions..

Et pour en revenir a Asimov, si les robots deviennent autonome, par définition alors ils n'obeîssent pas aux ordres des humains et par conséquent une charte ne sert à rien.. C'est comme si tu faisait une charte pour dire aux voleurs ce qu'ils doivent voler ou ne pas voler. Ce sont des voleurs donc par définition, ils ne respectent pas les chartes...

[invite765732342432]

Jusqu'a preuve du contraire ce n'est qu'un chariot de transport, dont on a remplacé les roues par des pattes..

Les pattes étant justement l'endroit où se trouve "l'intelligence" de BigDog... On ne transforme pas des roues en pattes d'un coup de baguette magique.
Pour avoir une telle tenue de route, il est probable que BigDog soit le produit, ou intègre, pas mal d'algos dits "de sciences cognitive".

Et pour en revenir a Asimov, si les robots deviennent autonome, par définition alors ils n'obeîssent pas aux ordres des humains et par conséquent une charte ne sert à rien..

Tu te répètes, et c'est toujours faux.
On peut être autonome mais cadré par certaines contraintes. Il me semble que personne ne remet en cause l'autonomie d'un homme parce qu'il ne peut pas s'envoler.

Il est tout à fait possible d'encadrer l'autonomie par des règles, reste à savoir comment les faire suffisamment claires pour qu'elles ne soient pas sujettes à transgression.

[invitecc1b7100]

pas spécialiste ne robotique mais le fait de marcher sur des pattes n'est pas nouveau. Il y a des tracteurs qui marchent sur des pattes, il existe même des machines sans programmes qui marchent sur des pattes, simplement avec la force du vent.. La nouveauté c'est la capacité de se rétablir..

Il n'y a pas de charte qui interdise à l'homme de voler..

L'autonomie se définit par la capacité de prendre soit même ses décisions, et de ne pas dépendre d'une autorité extérieure.

Le fait d'obeïr à une charte rend l'individu dépendant d'une autorité extérieur, ce qui lui fait perdre son autonomie sauf si son adhésion à la charte en question est volontaire.

Deux cas possibles. Soit les robots sont autonomes et dans ce cas nous ne pouvons pas, par définition prédire leur adhésion à une charte des robots; soit les robots ne sont pas totalement autonomes et dans ce cas ont est sûr et certains qu'ils n'adhereront pas à une charte de paix puisque leurs concepteurs (ceux qui auront les moyens de créer une IA) voudront sans aucun doute l'utiliser sur les champs de bataille comme auxiliaire dans un premier temps, puis comme soldat..

C'est déjà en route, il existe déjà des robots mitrailleurs, alors la charte ils en n'ont rien à foutre.. A moin que le Hippies se mettent à la robotique et dépassent les entreprises millitaires, ca mettonerai qu'on vois un jours une charte peace love pour les robots..

[invitecc1b7100]

Big dog n'est qu'un robot de transport de materiel.

D'autres robots sont plus hard, les robots mitrailleurs.. pour l'instant encore peu utilisés sur les champs de bataille pour deux raisons..

On perfectionne encore la technologie

La technologie est encore trop chère.

Tout revient à une question de coûts/ Bénéfices.. Dès qu'il sera plus rentable d'utiliser des robots que des humains les entreprises millitaires enverront des robots, parceque ça leur coutera moin chèr..

[invite765732342432]

D'autres robots sont plus hard, les robots mitrailleurs.. pour l'instant encore peu utilisés sur les champs de bataille pour deux raisons..

Sais-tu comment ces robots font la différence entre un ennemi et un civil ?

[invitecc1b7100]

Ils sont télécommandés

[invite765732342432]

Ils sont télécommandés

C'est bien ce qu'il me semblait. Ce sont donc juste des fusils ou des chars controlés à distance. Aucune réaction autonome, même pas autant que la minuscule autonomie de BigDog.

J'avais loupé ça (entre autres):

Soit les robots sont autonomes et dans ce cas nous ne pouvons pas, par définition prédire leur adhésion à une charte des robots;

Il ne s'agit pas de prédire une adhésion, mais d'imposer un cadre à l'autonomie des-dits robots. Rien d'autre et c'est facile.
Exemple simple: Tu prends un robot explorateur quelconque, entièrement autonome. Tu lui ajoutes une règle absolue sous forme de coupe-circuit: si son localisateur dépasse 45° de latitude, alimentation s'éteint.

Ton robot pourra faire tout ce qu'il veut, mais il a quand même un cadre d'action. Il est autonome, mais régit par une "charte".

Est-ce que cet exemple est suffisamment parlant ?

[invite82b867bc]

Le problème de l'autonomie des robots est relativemet simple : soit ils sont programmés et c'est leur programme qui définit leur champs d'action, soit ils sont autonomes et leur champs d'action est plus étendu, mais tout de même limité par une " charte " .
Le problème qui peut survenir dans ce dernier cas, c'est la panne qui endomage le circuit destiné à les limiter et les rend de ce fait incontrôlables. C'est là le principal problème de ce type de robots qui n'a rien à voir avec une éventuelle intelligence. Et en ceci, il est raisonnable d'avoir peur des robots, au même titre que des humains qu'un problème psychiatrique peut rendre imprévisible.

[invitecc1b7100]

Je comprend, l'idée d'intégrer une limite dans les programmes, mais je penses que ça ne se fera pas.. Je veux dire que, ce n'est pas dans l'intêret des eventuels fabriquants de robots soldat d'interdir aux robot d'agresser les êtres humains.. Comme ce n'est pas dans l'intêret des généraux d'interdire à leurs soldat de tirer sur l'enemis..
Par contre les fabriquants de robots a vocation sexuelle auront tout intêret à mettre des limites dans leurs programmes.. Tout dépend de l'usage..

[invite765732342432]

ce n'est pas dans l'intêret des eventuels fabriquants de robots soldat d'interdir aux robot d'agresser les êtres humains..

Sauf que la guerre actuelle n'est plus la guerre de tranchée ni la guerre rangée. Un soldat, robot ou humain, ne tire pas bêtement dans le tas et doit être capable de faire la différence entre un civil, un ennemi non-hostile et un ennemi hostile.
Cette différence est tellement difficile à établir que je ne vois absolument aucun moyen (sauf peut-être à très, très long terme) de concevoir un robot capable de faire cette différence.

Bref, un robot-soldat autonome est, pour très longtemps, une aberration complète.

Comme ce n'est pas dans l'intêret des généraux d'interdire à leurs soldat de tirer sur l'enemis..

C'est pourtant ce qui se fait couramment. Le temps des flingueurs à tout va n'est plus.

Par contre les fabriquants de robots a vocation sexuelle auront tout intêret à mettre des limites dans leurs programmes.. Tout dépend de l'usage..

Tout à fait. Et l'usage de robot totalement autonomes sera, d'abord et avant tout, dans la société civil. En combat, le risque de bavures est beaucoup trop élevé (et ce qu'on "pardonne" tant bien que mal à un humain ne sera jamais pardonné à un robot).

[evrardo]

En fait les robots sont beaucoup plus efficaces que les humains, précision, rapidité d'exécution, mais uniquement dans un environnement qu'ils connaissent parfaitement. Ce qui est impossible dans la vie courante vu le nombre de paramètres imprévisibles qui peuvent intervenir et bloquant totalement les processus de décision du robot face à une situation inconnue.

Il ne faut pas oublier aussi que ces engins sont extrêmement compliqués et donc extrêmement chers et resteront pour longtemps encore réservés à une minorité, plus un gadget qu'une réelle menace pour les humains.

[myoper]

En fait les robots sont beaucoup plus efficaces que les humains, précision, rapidité d'exécution, mais uniquement dans un environnement qu'ils connaissent parfaitement.
...

Euh ...
On en est pas encore tout a fait la.

[evrardo]

Euh ...
On en est pas encore tout a fait la.

Pourquoi? Je parle pas des robots humanoïdes, mais des robots machines, comme ceux qui fabriquent les microprocesseurs, ou les robots qui soudent les pièces des voitures. Aucun humain ne peut travailler avec cette précision et à ce rythme. Mais ils travaillent que dans des conditions extrêmement contrôlées d'où aucun évènement improbable ne peut arriver.

[myoper]

Pourquoi? Je parle pas des robots humanoïdes, mais des robots machines, comme ceux qui fabriquent les microprocesseurs, ou les robots qui soudent les pièces des voitures. Aucun humain ne peut travailler avec cette précision et à ce rythme. Mais ils travaillent que dans des conditions extrêmement contrôlées d'où aucun évènement improbable ne peut arriver.

Ok, en effet mais ce sont des robots quasiments monotaches et les conditions sont tellements controlées qu'ils ne peuvent fonctionner que dans un endroit précis avec des objets précisément disposées.
On a pas plus a craindre ces robots qu'un moteur de voiture.
(Ce sont plus des machines que des robots (...) : plus un gadget, comme tu le dis.

[evrardo]

Ok, en effet mais ce sont des robots quasiments monotaches et les conditions sont tellements controlées qu'ils ne peuvent fonctionner que dans un endroit précis avec des objets précisément disposées.

Ils ne sont pas monotaches puisque certains peuvent effectuer plusieurs opérations différentes. Mais c'est vrai que ça reste dans le même domaine d'activité, très limité, dans un endroit bien précis, contrôlé, avec des objets disposés précisément comme tu le dis. Hors de leur contexte, les robots ne sont que des outils un peu plus complexe qu'une pioche, mais beaucoup plus fragiles.

Lu dans un journal (je ne sais plus lequel): une entreprise américaine invite tout le gratin de la presse pour présenter son nouveau né: un robot aspirateur révolutionnaire. L'engin démarre, commence son travail, puis tout à coup se fige et n'avance plus. Raison: tout les essais avaient étaient effectués en laboratoire avec la lumière diffuse des néons, alors que la présentation du super robot a été faite dans une pièce où un rayon de soleil arrivait sur le sol et perturbant complètement les fonctions de l'engin.

[invitecc1b7100]

Si on laissait de côté les robots d'usines qui je suppose ne sont pas le sujet d'inquiétude principal de la plus part des gens. Revenons en aux robots soldat et à leur efficacité.

C'est là une question très intêressante, et c'est peutêtre là que ce joue la vraie différence entre l'homme et la machine.
Les capacités maximales de la machine sont finie. Elles sont calculable et la force musculaire d'un bras mécanique est limitée. Alors que ce n'est pas le cas de l'homme. Il n'existe aucune limite certaine dans les capacités que peuvent dévelloper les êtres humain, en puissance, en intelligence, et en vitesse.
On bas toujours des nouveaux records. l'homme Cours de plus en plus vite, réagit aux évènements de plus en plus vite, dévellope une puissance musculaire de plus en plus impressionante. Il n'y a pas de limites physiques et mentales à ce qu'un homme peut accomplir.. Ou si ces limites existes, elle sont encore inconnues. Un record du monde n'est jamais rien de plus qu'un record en datte, un record qui ne demande qu'a être battu. Si les capacités de la machines sont prédéfinies par des programmes, les capacités de l'homme dépendent de son entraînement.. plus il s'entraîne, plus il peut être efficace au combat. pour l'instant, si aucune machine n'arrive à égaler l'efficacité d'un vrai soldat. L'intêret de la machine c'est la possibilité de la programmer pour des missions suicides dont on sait qu'il n'y aura pas d'issue.

Donc biensûr que les soldat robots existent et existeront mais ils garderont toujours ce côté limité, alors que l'être humain lui repoussera toujours ses limites.

Bien que le blindage en métal soit plus solide que la peau et les os, il semble que l'électronique soit plus fragile que le vivant. C'est à dire que le vivant possède une incroyable faculté de survie, un instinc et une force qui dépasse de loin la machine (pour l'instant).

Ok une machine peut transporter plus de matériel qu'un être humain, mais aucune machine n'a jamais réussie à dépasser la capacité de franchissement d'obstacle que peut dévelloper un être humain.. (Appareils volant mis à part).. Même Big dod, reste un handicà apé cul de jatte, face à un vrai soldat, capable de courrir dans les pires conditions de météo et de terrain avec tout de même des charges de plusieurs dizaines de kilo sur le dos...

Il y a aussi quelques chose qui pour l'instant est encore réservé aux êtres humains, c'est la créativité, c'est la capacité d'inventer des choses, de se servir d'un outil naturel pour accomplir une tâche. Ok Big dog se rétabli sur ses pattes quand on lui donne un coup de pied, mais sait-il exploiter la nature du terrain? Sait-il utiliser un tronc d'arbre ou une pierre pour franchir un ruisseau?

L'efficacité d'un être humain tient dans sa capacité extraordinaire d'adaptation qui pour l'instant est bien supérieur à celle des machines les plus perfectionnées

[Gilgamesh]

Les capacités maximales de la machine sont finie. Elles sont calculable et la force musculaire d'un bras mécanique est limitée. Alors que ce n'est pas le cas de l'homme. Il n'existe aucune limite certaine dans les capacités que peuvent dévelloper les êtres humain, en puissance, en intelligence, et en vitesse.
On bas toujours des nouveaux records. l'homme Cours de plus en plus vite, réagit aux évènements de plus en plus vite, dévellope une puissance musculaire de plus en plus impressionante.

Quelles que soient la performance physico-sportive considérée, elle rejoint invariablement une asymptote et la marge de progression fini par ne concerner que le dernier centième ou millième de la performance usuelle (un dixième de seconde sur une course de 10 secondes par exemple).

Et on sait alors qu'il sera impossible à l'avenir de doubler ou de tripler cette performance proche du maximum physiologique. Et à moins d'arriver au stade cyborg, aucun trafficotage chimique ou génétique ne le permettra.

Alors qu'une simple mobylette peut passer de 45 km/h à 100 km/h par simple remplacement des cylindres , en changeant de carburant, etc. La souplesse de la machine et la capacité à en modifier radicalement les performance par de petits ajouts est bien plus grande.

a+

[kamor]

Je suis d'accord avec Gilgamesh, on ne court pas de plus en plus vite, on améliore de plus en plus le matériel ce qui permet aux athlètes d'améliorer leur temps. Certes je ne remets pas en cause leur talents, mais sans chaussures et sur une route, les coureurs iraient quand même moins vite.

Après faut il avoir peur des robots? Je dirais faut il avoir peur d'un pistolet ou de la personne qui le manipule?
Un robot sera soit télécommandé par une homme soit "autonome" en suivant la programmation faite par un homme. Donc ce qui m'inquiète, c'est plus savoir ce que l'homme peut faire d'une telle technologie, plutôt que de savoir ce que peut faire la technologie.

[invite82b867bc]

Jusqu'à présent on se rassurait en se disant que les robots étaient programmés ce qui limitait leur fonctionnement selon les limites de leur programmation. Mais actuellement on développe des robots auto-programmables qui développent leur propre programmation en fonction de l'interaction avec leur environnement et ce n'est pas de la science fiction ! le vrai risque réside dans ce type de machines dont l'autoprogrammation peut dépasser ce que l'on a pu envisager au départ et aboutir à une autonomie basée sur des bases différentes de ce que l'on lui aura programmé.

[evrardo]

Jusqu'à présent on se rassurait en se disant que les robots étaient programmés ce qui limitait leur fonctionnement selon les limites de leur programmation. Mais actuellement on développe des robots auto-programmables qui développent leur propre programmation en fonction de l'interaction avec leur environnement et ce n'est pas de la science fiction ! le vrai risque réside dans ce type de machines dont l'autoprogrammation peut dépasser ce que l'on a pu envisager au départ et aboutir à une autonomie basée sur des bases différentes de ce que l'on lui aura programmé.

Le vrai danger c'est que certains humains deviennent esclaves des robots, et que ces robots acquièrent suffisamment d'autonomie pour diriger ces humains.
Mais on en prend déjà la route non?

[myoper]

Le vrai danger c'est que certains humains deviennent esclaves des robots, et que ces robots acquièrent suffisamment d'autonomie pour diriger ces humains.
Mais on en prend déjà la route non?

Oui/non.
Il va falloir séparer la notion d'esclave de certaines technologies pour maintenir une façon de vivre chez le plus grand nombre de celle qui peut être présentée pour désigner une partie des gens qui construisent les parties non automatisables de ces technologies dans les pays (...) du tiers monde.

[kamor]

Ah mais à mon sens on est déjà otage des technologies. Priver un ado ou même quelqu'un de 20 ans de télé, téléphone et ordi, il va vite s'ennuyer et pester. On continue en enlevant la voiture, drame national. Et je peux continuer la liste. Un truc idiot, vraiment mais pensez y seulement 2 secondes : interdisez aux gens l'utilisation des toilettes. Technologie certes mineure, qu'on remarque à peine, mais oh combien indispensable à l'Homme d'aujourd'hui. Et encore plus aux dames

Mais pour ce qui est de l'auto programmation, certes j'en ai entendu parler mais je dois avouer que c'est un secteur qui m'est pas très connu. Le robot peut vraiment prendre n'importe quelle décision pour résoudre un problème donné.
Clairement, "un humain me bloque le passage" -> "je le tue" ou "je le jette par la fenêtre" est une décision qui peut être décidé? Ou ce genre de dérive peut être évité par la programmation? Bon je suis d'accord, on en revient aux 3 fameuses lois mais bon.

[invite765732342432]

Clairement, "un humain me bloque le passage" -> "je le tue" ou "je le jette par la fenêtre" est une décision qui peut être décidé? Ou ce genre de dérive peut être évité par la programmation?

C'est clairement très difficile car ça nécessite une parfaite compréhension:
- de ce qu'est un humain
- des conséquences pour l'être humain

Cela pris en compte, il serait tout à fait possible d'avoir un robot disposant d'un cerveau autonome, choisissant ses réactions comme bon lui semble, mais dont chaque décision passe par un programme-filtre qui autorise-interdit la mise en oeuvre de ces décisions en fonction des conséquences attendues.
Mais ceci, outre les deux problème de compréhension ci-dessus, pose également le problème du temps de traitement: Pouvoir analyser les conséquences d'une action à plus ou moins long terme n'est pas chose aisée (est-ce qu'en poussant ce domino, je ne vais pas tuer l'homme qui est en face de moi ?)

[invite82b867bc]

Ou alors : je n'arrive pas à me décider, soit je me bloque, soit j'appelle le programme de résolutilon des problèmes et je fonce. Actuellement on teste des robots militaires dont la fonction est d'interdire une zone et de tirer sur tout ce qui est suspect sans sommation ; situation intéressante dans l'avenir.