Répondre à la discussion
Affichage des résultats 1 à 21 sur 21

La déclaration universelle du droit des robots



  1. #1
    RSSBot

    La déclaration universelle du droit des robots

    Elle est en cours de rédaction en Corée du Sud, au sein même du gouvernement. Cette Charte éthique des robots devrait être adaptée cette année. Il s'agit d'éviter que les robots soit maltraités et, l'inverse,...

    Lire la suite : La déclaration universelle du droit des robots

  2. Publicité
  3. #2
    PopolAuQuébec

    Re : La déclaration universelle du droit des robots

    Ont-ils prévu des mesures de support psychologique pour les robots maltraités ou ayant des comportements déviants ?

  4. #3
    hellsing

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par PopolAuQuébec Voir le message
    Ont-ils prévu des mesures de support psychologique pour les robots maltraités ou ayant des comportements déviants ?
    un formatage pur et simple ?

    je me suis toujours demandé comment un programmeur pouvait intégrer de telles lois dans un programme
    il faut qu'il pense a tous les cas possible et ecrive le code en conséquence ou il y a beaucoup pus simple?

  5. #4
    PopolAuQuébec

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par hellsing Voir le message
    un formatage pur et simple ?
    Lobotomiser un robot ?

    Ce n'est pas "politically correct"

  6. #5
    prgasp77

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par hellsing Voir le message
    un formatage pur et simple ?

    je me suis toujours demandé comment un programmeur pouvait intégrer de telles lois dans un programme
    il faut qu'il pense a tous les cas possible et ecrive le code en conséquence ou il y a beaucoup pus simple?
    Ca ne peut pas être simple. Soit le programmeur implémente une interprétation de loi énoncées simplement (et on sait ce que cela peut engendrer), ou bien il code en dur ces lois dans le noyau même du robot, c'est à dire définir le bien et le mal, et cela pour toute action ... bonne chance

    Avec les intelligences artificielles qui se développent, se développent aussi les erreurs des programmes (une IA d'échecs peu perdre, une IA de traitement des données ne fait que donner l'interprétation la plus probable etc.).
    Il ne faut pas espérer que tous les robots se comportent comme dans les bouquins du fameux Isaac Asimov, tout bien ou tout mal. Ainsi si dans le passé les IA progressent, il faudra créer (hélas) de nouveaux tribunaux.

    J'en vois certains rire doucement, mais j'aimerais vous signaler que presque tous les modèles de réseaux neuromimétiques sont basés sur une approximation du fonctionnement du système cérébral humain. La différence actuelle est qu'un humain moyen pense 105 fois plus vite qu'un bon pc actuel, il me semble. Vous voyez certainement où je vous mène.

    À vous.

  7. A voir en vidéo sur Futura
  8. #6
    salee

    Re : La déclaration universelle du droit des robots

    En tant que fan d'Isaac Assimov, je trouve cette nouvelle intéressante.

    J'aimerais cependant faire remarquer que la première loi est inexacte dans l'article. La première loi d'Assimov est la suivante: un robot ne peut pas faire de mal à un être humain ni laisser un être humain d'être en danger par son innaction. Ce qui n'a pas tout à fait le même sens que celle cité dans l'article.

  9. Publicité
  10. #7
    sliders_alpha

    Re : La déclaration universelle du droit des robots

    moi je trouve que c'est du n'importe quoi un robot ça ne pense pas, ce n'est juste un truc qui execute une action si il en detecte une autre

  11. #8
    GillesH38a

    Re : La déclaration universelle du droit des robots

    ça apparaîtra probablement aussi comique dans le futur que les procès d'animaux au Moyen Age ou les sacrifices aux Dieux de l'Antiquité....

  12. #9
    Bloud

    Re : La déclaration universelle du droit des robots

    Je ne sais plus quel informaticien a sorti un jour : "se demander si un ordinateur peut penser est aussi intéressant que se demander si un sous-marin peut nager"...
    I was born intelligent...education ruined me!

  13. #10
    GillesH38a

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par prgasp77 Voir le message
    J'en vois certains rire doucement, mais j'aimerais vous signaler que presque tous les modèles de réseaux neuromimétiques sont basés sur une approximation du fonctionnement du système cérébral humain.
    Imagine que je te donne un réseau de neurones artificiels aussi grand que tu veux, et un super microscope permettant de sonder avec la precision que tu veux les neurones de ton cerveau. As-tu une idée de la procédure (expérience de pensée bien sur) permettant de "sonder" les neurones de ton cerveau et de les "implémenter" sur un réseau de neurones de façons qu'il fasse la même chose?

  14. #11
    fouga

    Re : La déclaration universelle du droit des robots

    C'est vrai que cette loi est interessante...
    Je suis peut être (oui, pour l'instant en 1ère année^^) un futur ingénieur en mécatronique ou en automatique et c'est ce sujet qui m'interesse...
    Cependant, un robot ne se comportera jamais comme un humain, on a quelque chose en plus, quelque chose d'inconscient, plus que notre cerveau l'est encore... Pour connaitre une psy, elle l'a définit comme immatérielle, et donc on pourra faire toutes les approximations qu'on veut et approche, on ne pourra reproduire le cerveau et le mécanisme de réflexion humain à l'identique... Cf les stratégies expertes et tout ce qui est lié...
    Ensuite, un robot aussi imparable qu'il soit restera soumis à certaines contraintes technologique, et même si il est hyper agressif (en imaginant le pire...) si on trouve une faille non traité, il deviendra vulnérable et faillible... Car contrairement à nous, il ne peut pas s'adapter aussi vite et aussi bien que nous...
    ENfin, je pense que ce traité est interessant, non pas pour les robots eux mêmes, mais surtout pour l'utilisation qu'on en fait... Avec les drones et les robots utilisés en guerre on a déjà de quoi tuer, alors pas la peine de commecer à développer en séries des armes de guerre robotiques...

  15. #12
    keul

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par gillesh38 Voir le message
    Imagine que je te donne un réseau de neurones artificiels aussi grand que tu veux, et un super microscope permettant de sonder avec la precision que tu veux les neurones de ton cerveau. As-tu une idée de la procédure (expérience de pensée bien sur) permettant de "sonder" les neurones de ton cerveau et de les "implémenter" sur un réseau de neurones de façons qu'il fasse la même chose?

    http://fr.wikipedia.org/wiki/Neurone

    Au boulot

  16. Publicité
  17. #13
    Slagt

    Re : La déclaration universelle du droit des robots

    Si, à l'avenir, on arrive à faire de véritable robots doué de conscience, je ne comprend pas pourquoi on ferait une loi spécifique à eux. S'ils sont conscient, et aussi (ou plus) intelligent que nous, alors il n'y a aucune raison de leur imposer des règles différentes des notres.
    Maintenant s'ils sont juste intelligent, et pas réellement conscient, alors ça se discute, mais s'ils ont conscience d'eux même comme nous avons conscience de nous même...

    Dans le cas où ils seraient comparable à l'humain (comparable, pas identique), doué de sentiments et autre, je ne crois pas que ça puisse être psychologiquement supportable de savoir quand on est un robot, que son voisin s'est fait formaté parce qu'il a cassé un pot de confiture...

    Si réellement c'est possible de les amené au même niveau que l'humain, alors je pense qu'au moins au début, il faudra des lois pour les protégés.

    Mais tout ceci ne relève, pour le moment, que de la science-fiction
    ••=• ••= = ••= •=• •= =••••= ••• =•=• •• • =• =•=• • •••

  18. #14
    The Nameless

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par fouga Voir le message
    Car contrairement à nous, il ne peut pas s'adapter aussi vite et aussi bien que nous...
    Qu'est ce qui te fait penser ça ? C'est peut-être vrai aujourd'hui mais dans un futur proche, rien ne permet de penser ça.
    Enfin je pense que cette déclaration est ridicule puisqu'elle suppose certaines choses sur le futur de la robotique et de l'intelligence artificielle que rien ne nous permet de presager.
    Voyons d'abord comment ça évolue, on aura bien le temps de penser une déclaration des droits du robot dans le futur si ça se confirme.

  19. #15
    b@z66

    Re : La déclaration universelle du droit des robots

    Moi, je serais près à parier que dans 1000 ans, le fait de s'être demander si l'homme pouvait fabriquer des robots à son image, alors que la nature à elle mis des millions d'années pour l'homme, ne se posera même plus. La question n'est donc pas à mon avis de savoir si c'est réalisable concrètement (la preuve, c'est que nous existons) mais quand. D'un autre coté, il faut pas rêver non plus, c'est certainement pas pour demain. et cette "charte" sera certainement déjà oubliée quand cela se passera. Ahlala, la belle science-fiction, à quand des machines ressemblant à des hommes ou des hommes ressemblant à des machines?
    La curiosité est un très beau défaut.

  20. #16
    bobcachelot-

    Re : La déclaration universelle du droit des robots

    bonjours

    Suis-je le seul dont cette nouvelle inquiète,

    je m'explique, on parle bien de charte des ROBOTS pour protéger des ROBOTS(machine non-vivante).

    suis-je le seul a trouver qu'avoir un compagnon robot est absurde...

    un robot pour faire ce que l'etre humain ne peu pas faire: c'est okay

    un robot pour faire ce que l'etre humain est trop paresseux pour faire: NON

    De plus, dans cet article il parle bien de robot qui aurait la capacité de raisonner...cette nouvelle m'inquiette plus que ce qu'elle m'apporte en enthousiasme...

    merci au modérateur qui font un bon travail.


    Louis
    + de savoir -$ +de travail+$

  21. #17
    GBH

    Re : La déclaration universelle du droit des robots

    le débat ne porte pas sur le fait d'utiliser des robots et dans quels cas mais sur un genre de projet de loi qui vise à préserver l'humanité d'éventuelles dérives "terminatoresques"
    perso je trouve pas ça totalement idiot, car si on veut faire rentrer ces lois dans la cervelle d'un robot je pense qu'il faut le faire dès sa conception. je vois ça comme un élément du cahier des charges que devront prendre en compte les ingénieurs.
    dans les bouquins d'Asimov les personnages insitent souvent sur le fait que les fameuses 3 lois de la robotique telles qu'elles sont énoncées littéralement sont en fait des approximations des équations qui rentrent dans la programmation des robots. ça parait cohérent non ?

  22. #18
    prgasp77

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par gillesh38 Voir le message
    Imagine que je te donne un réseau de neurones artificiels aussi grand que tu veux, et un super microscope permettant de sonder avec la precision que tu veux les neurones de ton cerveau. As-tu une idée de la procédure (expérience de pensée bien sur) permettant de "sonder" les neurones de ton cerveau et de les "implémenter" sur un réseau de neurones de façons qu'il fasse la même chose?
    Bonsoir.
    Un étudiant en cinquième année de médecine est déjà capable, à l'aide d'un codeur expérimenté, de faire un réseau neuromimétique simple basé sur le fonctionnement du réseau cérébral.
    Je ne comprends pas très bien ta remarque. Sauf si tu m'interprète mal. Je n'ai pas dit qu'il serait un jour possible de créer un cerveau artificiel identique en tout point à nos cerveau, je parle d'un fonctionnement similaire, impliquant des erreurs dans les réponses (au sens basique).

    Citation Envoyé par fouga Voir le message
    Cependant, un robot ne se comportera jamais comme un humain, on a quelque chose en plus, quelque chose d'inconscient, plus que notre cerveau l'est encore... Pour connaitre une psy, elle l'a définit comme immatérielle, et donc on pourra faire toutes les approximations qu'on veut et approche, on ne pourra reproduire le cerveau et le mécanisme de réflexion humain à l'identique... Cf les stratégies expertes et tout ce qui est lié...
    Oui, c'est vrai, un robot ne se comportera jamais comme un humain. Nous avons notre histoire, notre histoire du développement (tiens, développer ...) qui nous a laissé des traces, le subconscient notamment.
    Ensuite, pour la nature immatériel de notre inconscient On sent bien la le raisonnement d'un psy, qui ne comprends pas très bien le subconscient humain (pas par incompétence, cela est dû au fait que la psychanalyse est une science récente) et qui l'attribut à de l'immatériel, comme la population qui attribuait autrefois (aujourd'hui encore ?) au paranormal tout évènement incompréhensible

    Citation Envoyé par fouga Voir le message
    Ensuite, un robot aussi imparable qu'il soit restera soumis à certaines contraintes technologique, et même si il est hyper agressif (en imaginant le pire...) si on trouve une faille non traité, il deviendra vulnérable et faillible... Car contrairement à nous, il ne peut pas s'adapter aussi vite et aussi bien que nous...
    Oui, c'est vrai, un robot sera toujours soumis à des contraintes technologiques, comme nous sommes soumis à des contraintes biologiques.
    Et oui, si nous trouvons une faille dans le système d'un robot, on peut en faire ce que l'on veut. Pour un être humain, il est encore plus facile de trouver un faille (au pire on en crée une, un couteau et hop !), mais contrairement au robot, on ne peut pas forcément en faire ce que bon nous plait (certain ont résisté à la torture, peu, mais cela existe).
    Quant à la question de l'adaptation ... alors là, gros gros doute. Qu'est-ce qui te permet d'affirmer une telle chose ? Je ne dis pas que cela est faux, ou même vrai ; je dis juste que cela est indécidable.

    Citation Envoyé par bobcachelot- Voir le message
    suis-je le seul a trouver qu'avoir un compagnon robot est absurde...

    un robot pour faire ce que l'etre humain ne peu pas faire: c'est okay

    un robot pour faire ce que l'etre humain est trop paresseux pour faire: NON
    Tu as parfaitement raison. Et d'ailleurs j'ai toujours trouvé anormal que les boulangers utilisent des robots pour pétrir leur pâte, ils en sont très bien capable seul, comme il y a deux cents ans.


    Pour résumer ce post, je ne contredis pas vos idées, je me permets juste, en général, de vous faire remarquer que vous vous avancez bien trop vite.

  23. Publicité
  24. #19
    kabak_85

    Re : La déclaration universelle du droit des robots

    Ca me rapelle I-robot qui montre que ces lois pourtant simple ne sont pas exempte de paradoxe. Sans compter les interpretations possibles.

    Par exemple, si on mets "s'en prendre", ca veux souvent dire "attaquer" or la 3eme loi dis à un robot qu'il doit se proteger. Et une défense n'est pas une attaque donc ...

    On pourrait objecter que l'on peux toujours empecher la défense en lui donnant l'ordre d'arreter car la 2nde loi est prioritaire, mais il y a la premiere qui vient mettre le bazar puis qu'il a droit de ne pas obeir 'si un humain veux faire du mal' mais on peux 'faire mal' (deteriorer) à un robot.

    Au final un mec qui veux attaquer le robot risque tout simplement de se faire 'mettre en piece' dans le pire des cas car le robot aura voulu obeir à ces lois.

    Au lieu de mettre s'en prendre, on pourrait mettre 'blesser' mais la encore on n'empeche pas les dérives où un robot pourrait attacher ou encore sequestrer une personne qui est dangereuse pour le robot ou pour un autre humain que ce soit un voyou, un malade mentale ou encore un président qui à envoyé une armée dans une guerre.

    Et on peux allez plus loin, imaginer que les robots considere que "l'homme est un loups pour l'homme", ils pourraient prendre le pouvoir et enfermer tout le monde sans pour autant enfreindre les lois qui lui ont été donné.

    Comme quoi une loi peux en apparence etre bonne et au final comporter des paradoxes parfois désagréable si elle est mal ecrite et si les termes utilisés sont ambigue (plusieurs sens).

    Je ne suis pas contre le progrès, mais dans certains cas, je juge qu'il vaut mieux ne rien faire que de jouer aux apprentis sorcier.

  25. #20
    halman

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par bobcachelot- Voir le message
    bonjours

    Suis-je le seul dont cette nouvelle inquiète,

    je m'explique, on parle bien de charte des ROBOTS pour protéger des ROBOTS(machine non-vivante).

    suis-je le seul a trouver qu'avoir un compagnon robot est absurde...

    un robot pour faire ce que l'etre humain ne peu pas faire: c'est okay

    un robot pour faire ce que l'etre humain est trop paresseux pour faire: NON

    De plus, dans cet article il parle bien de robot qui aurait la capacité de raisonner...cette nouvelle m'inquiette plus que ce qu'elle m'apporte en enthousiasme...

    merci au modérateur qui font un bon travail.


    Louis
    Les 4 lois (et non pas 3) d'Asimov :

    Première Loi
    Un robot ne peut blesser un être humain ni, par son inaction, permettre qu'un humain soit blessé.

    Deuxième Loi
    Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.

    Troisième Loi
    Un robot doit protéger sa propre existence aussi longtemps qu'une telle protection n'est pas en contradiction avec la Première et/ou la Deuxième Loi.


    Plus tard, il y adjoint la règle zéro : Un robot ne peut nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

    Un lien sur un des plus célèbres chercheurs en IA.

    "Absurde", vraiment ?

    http://www.automatesintelligents.com...ai/brooks.html

    "Pour lui, il n'y a pas de différences, sinon de degré, entre l'homme, l'animal et le robot tel qu'il le conçoit, soit un Cog amélioré. Ces trois catégories de représentants du monde vivant (ou du monde des machines, ce qui est pareil) sont bâtis sur les mêmes principes architecturaux (l'architecture de subsomption), fonctionnent et s'enrichissent en contenus cognitifs de la même façon, par interaction corporelle située avec le monde, et finalement génèrent des représentations de celui-ci de même nature, tant au plan rationnel qu'au plan des affects. Les hommes contemporains refusent encore de l'admettre, mais il s'agit d'une survivance tribale. On ne devrait donc pas faire de distinctions tranchées entre hommes et machines, ni surtout tirer de frontières définitives. Ils convergeront, en s'enrichissant réciproquement. L'homme en tous cas, doit dès maintenant apprendre à aimer les robots qu'il crée. Ainsi, il contribuera à les hisser plus rapidement dans l'échelle évolutive. On voit là que Rodney Brooks, de façon très sympathique, refuse de voir dans le robot un monstre froid et inhumain, sur le modèle du Hal de l'Odyssée de l'espace, qui n'était en fait qu'une projection des peurs d'un cinéaste ne connaissant rien à la robotique."

  26. #21
    halman

    Re : La déclaration universelle du droit des robots

    Citation Envoyé par bobcachelot- Voir le message
    bonjours

    Suis-je le seul dont cette nouvelle inquiète,

    je m'explique, on parle bien de charte des ROBOTS pour protéger des ROBOTS(machine non-vivante).

    suis-je le seul a trouver qu'avoir un compagnon robot est absurde...

    un robot pour faire ce que l'etre humain ne peu pas faire: c'est okay

    un robot pour faire ce que l'etre humain est trop paresseux pour faire: NON

    De plus, dans cet article il parle bien de robot qui aurait la capacité de raisonner...cette nouvelle m'inquiette plus que ce qu'elle m'apporte en enthousiasme...

    merci au modérateur qui font un bon travail.


    Louis
    Et ceci, est ce vraiment absurde ?

    http://www.sixi.be/Les-robots-infirm...oir!_a511.html
    http://www.ifsi.info/infirmiers-012/...ci-a-2009.html
    http://www.automatesintelligents.com/actu/index.html
    http://www.futura-sciences.com/news-...tifs_10475.php
    http://www.futura-sciences.com/news-...uros_10084.php
    http://www.futura-sciences.com/news-...iens_10140.php
    http://www.futura-sciences.com/news-...apees_2442.php

Discussions similaires

  1. Des robots avec des génomes évolutifs
    Par RSSBot dans le forum Commentez les actus, dossiers et définitions
    Réponses: 1
    Dernier message: 13/03/2007, 14h01
  2. Des robots au service des chirurgiens !
    Par RSSBot dans le forum Commentez les actus, dossiers et définitions
    Réponses: 1
    Dernier message: 28/12/2006, 18h36
  3. Des solitons pour tendre les muscles artificiels des robots ?
    Par RSSBot dans le forum Commentez les actus, dossiers et définitions
    Réponses: 2
    Dernier message: 17/07/2006, 03h48
  4. communication des robots
    Par mougli dans le forum Technologies
    Réponses: 1
    Dernier message: 12/11/2005, 17h55
  5. Le sexe des robots
    Par duduc dans le forum [Vie Artificielle] Et si les robots devenaient vivants ?
    Réponses: 1
    Dernier message: 04/10/2004, 09h31