Répondre à la discussion
Affichage des résultats 1 à 26 sur 26

Dossier - Les trois lois de la robotique



  1. #1
    V5bot

    Dossier - Les trois lois de la robotique

    Le robot, mécanisme automatique pouvant se substituer à l’Homme et ayant parfois un aspect humain, peut paraître bénéfique ou terrifiant. Isaac Asimov avait édicté les trois lois de la robotique...

    Lire la suite : Les trois lois de la robotique

  2. Publicité
  3. #2
    Zelectron

    Re: Dossier - Les trois lois de la robotique

    1- En premier lieu le film I-Robot est un navet soit disant "inspiré de l’œuvre d'Asimov" dont il dénigre le génie et ce malgré des effet spéciaux à foison bien loin des tenants et aboutissants des histoires originales bien meilleures et de loin !
    2- En se contentant au moins d'observer les trois lois les acteurs du monde de la technologie évitent à minima le maximum d'ennuis.

  4. #3
    myoper

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par Zelectron Voir le message
    1- En premier lieu le film I-Robot est un navet ...
    Chacun a les navets qu'il mérite...

  5. #4
    ellinggton

    Re: Dossier - Les trois lois de la robotique

    Avant "I Robot" qui, à mon sens, est également un navet qui reprend fort mal les intrigues de "le robot qui rêvait" et de "face aux feux du soleil" il y a eu "l'homme bicentenaire" qui a aussi énoncé ces trois lois au cinéma. je précise que ce film suit bien mieux l'histoire originale (même si rien n'est parfait hein !).

    Ensuite, il y a eu des nouvelles, et des romans d'Asimov avec des robots menaçants notamment "le robot qui rêvait" (cycle de Susan Calvin) et "pour que tu t'y intéresse"

  6. #5
    pilou007

    Re: Dossier - Les trois lois de la robotique

    Article très intéressant, je relève quand même que d'une manière générale on est prêt à sacrifier des gens pour en sauver d'autre, en page 5/7, je cite: "...En effet, il serait préférable en toute logique de sacrifier un individu si cela pouvait permettre de sauver un groupe plus important, sinon l'humanité tout entière....". Avec ce genre de discours on en arrive à des extrêmes. En effet qui décide de qui doit mourir pour sauver l'humanité? Hitler à essayer avec les juifs car il pensait qu'ils étaient le fléau de l'humanité... Alors qu'une règle encore plus simple existe: "La vie d'un seul être humain non violent est plus importante que l'humanité toute entière". Avec une règle comme celle-là, on ne risque pas de décider de vie ou de mort sur une personne ou un groupe de personne (dommage collatéraux par exemple) soit disant pour le bien de l'humanité...

  7. A voir en vidéo sur Futura
  8. #6
    nicocaen

    Re: Dossier - Les trois lois de la robotique

    Le choix entre une personne et un groupe de personnes doit malheureusement être anticipé. Il existe des situations pour lesquelles il faudra bien choisir : imaginons un bus conduit par un ordinateur, sur la route une personnne, dans le bus 30 personnes, sur la droite une falaise, sur la gauche un ravin. La vitesse ne permettant de s'arrêter suffisament tôt pour éviter la personne sur la route, comment l'ordinateur devra-t-il réagir ? Percuter la personne sur la route ou tuer une partie des occupant sur la falaise ? La décision de l'ordinateur sera le résultat de ce que les concepteurs auront anticipé, ils attendent votre réponse ...

  9. Publicité
  10. #7
    EauPure

    Re : Re: Dossier - Les trois lois de la robotique

    Le bus demande à la personne, sur une musique entraînante, de s'écarter vivement de la route
    La béatitude est l'attitude de l’abbé : la théorie bleue

  11. #8
    mh34

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par nicocaen Voir le message
    Le choix entre une personne et un groupe de personnes doit malheureusement être anticipé. Il existe des situations pour lesquelles il faudra bien choisir : imaginons un bus conduit par un ordinateur, sur la route une personnne, dans le bus 30 personnes, sur la droite une falaise, sur la gauche un ravin. La vitesse ne permettant de s'arrêter suffisament tôt pour éviter la personne sur la route, comment l'ordinateur devra-t-il réagir ? Percuter la personne sur la route ou tuer une partie des occupant sur la falaise ? La décision de l'ordinateur sera le résultat de ce que les concepteurs auront anticipé, ils attendent votre réponse ...
    Dans la vie réelle, le conducteur du bus va avoir le réflexe de freiner, voire de piler...ce qui a de forts risques de conduire à l'accident redouté et d' envoyer le bus dans le ravin.
    Que vaut-il mieux? Qu'il passe sur le piéton imprudent sans même tenter de l'éviter, pour ne pas mettre en danger ses passagers?
    Quel programmateur humain va prendre la responsabilité d'un truc pareil?
    Ω ξειν', αγγέλλει Λακεδαιμονίοις ότι τήδε κείμεθα τοις κείνων ρήμασι πειθόμενοι

  12. #9
    EauPure

    Re : Re: Dossier - Les trois lois de la robotique

    Celui qui se met devant le bus étant suicidaire ou imprudent il mérite plus la mort que les passagers du bus non ?
    Si le bus était un train ce serait le même choix mais plus simple.
    La béatitude est l'attitude de l’abbé : la théorie bleue

  13. #10
    myoper

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par EauPure Voir le message
    Celui qui se met devant le bus étant suicidaire ou imprudent il mérite plus la mort que les passagers du bus non ?
    A mort les enfants qui jouent, les aveugles, les gens qui trébuchent, ceux qui ne font pas attention...

  14. #11
    erik

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par mh34 Voir le message
    Quel programmateur humain va prendre la responsabilité d'un truc pareil?
    Oui en effet mais c'est un problème qui risque de se poser avec le développement des voitures sans conducteur.

  15. #12
    EauPure

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par myoper Voir le message
    A mort les enfants qui jouent, les aveugles, les gens qui trébuchent, ceux qui ne font pas attention...
    La fatalité sera toujours une cause de relaxe
    La béatitude est l'attitude de l’abbé : la théorie bleue

  16. Publicité
  17. #13
    myoper

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par EauPure Voir le message
    Celui qui se met devant le bus étant suicidaire ou imprudent il mérite plus la mort que les passagers du bus non ?
    A mort les enfants qui jouent, les aveugles, les gens qui trébuchent, ceux qui ne font pas attention...
    La fatalité sera toujours une cause de relaxe
    Je ne comprends pas: ça veut donc bien dire que selon vous, ils méritent la mort ou même qu'il faut les écraser avec le sourire ?

  18. #14
    ansset

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par nicocaen Voir le message
    Le choix entre une personne et un groupe de personnes doit malheureusement être anticipé. Il existe des situations pour lesquelles il faudra bien choisir : imaginons un bus conduit par un ordinateur, sur la route une personnne, dans le bus 30 personnes, sur la droite une falaise, sur la gauche un ravin. La vitesse ne permettant de s'arrêter suffisament tôt pour éviter la personne sur la route, comment l'ordinateur devra-t-il réagir ? Percuter la personne sur la route ou tuer une partie des occupant sur la falaise ? La décision de l'ordinateur sera le résultat de ce que les concepteurs auront anticipé, ils attendent votre réponse ...
    reprenons.
    si la vitesse est excessive pour s'arrêter à temps ( c-a-d sup à sa visibilité par exemple ) alors le robot pilote est mal programmé.
    car s'il s'agissait d'un tronc d'arbre ou d'un rocher tombé , l'accident serait inévitable de la même manière ( avec des conséquences différentes ).
    si en revanche, le piéton s'est en quelque sorte jeté sous les roues, alors c'est un suicide.
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !

  19. #15
    myoper

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par ansset Voir le message
    si en revanche, le piéton s'est en quelque sorte jeté sous les roues, alors c'est un suicide.
    Mouais, en quelque sorte, le robot va trouver que les enfants qui jouent, les aveugles, les gens qui trébuchent, ceux qui ne font pas attention se suicident bien souvent...

  20. #16
    ansset

    Re : Re: Dossier - Les trois lois de la robotique

    oui, je me suis mal exprimé. ( suicide )
    mais cela revient à un accident qui se serait produit avec n'importe quel conducteur.
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !

  21. #17
    ansset

    Re : Re: Dossier - Les trois lois de la robotique

    j'ajoute qu'un robot peut certainement disposer de systèmes de détection plus élaborés, suivre une vitesse plus prudente, et enfin et surtout avec un temps de réaction extrêmement plus court....
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !

  22. #18
    EauPure

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par myoper Voir le message
    Je ne comprends pas: ça veut donc bien dire que selon vous, ils méritent la mort ou même qu'il faut les écraser avec le sourire ?
    Je veux dire que si une IA qui a été autorisé de conduire un bus de 30 personnes alors elle doit être capable d'anticiper les accidents sauf fatalité d'un enfant qui joue sur la bordure du trottoir et trébuche devant le bus.
    si c'était un conducteur humain il n'aurait aucun problème avec la justice.
    La béatitude est l'attitude de l’abbé : la théorie bleue

  23. Publicité
  24. #19
    myoper

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par EauPure Voir le message
    Je veux dire que si une IA qui a été autorisé de conduire un bus de 30 personnes alors elle doit être capable d'anticiper les accidents sauf fatalité d'un enfant qui joue sur la bordure du trottoir et trébuche devant le bus.
    si c'était un conducteur humain il n'aurait aucun problème avec la justice.
    les accidents sont toujours une "fatalité", par définition, sinon c'est fait attendu et on les éviterait tous toujours et donc non, un conducteur humain doit pouvoir anticiper ce genre de fatalité dans une certaine mesure (règles de prudence) et pourra donc peut être avoir des problèmes avec la justice.

  25. #20
    making_stuff

    Re: Dossier - Les trois lois de la robotique

    Bonjour,
    Le problème du bus robot laisse supposer que le bus réagirait comme le commun des mortels conducteurs, ou de l'écraser selon une loi de la robotique programmée dans le robot. Or le robot aura sûrement des capteurs égaux ou plus perfectionnés que l'oeil humain. De plus, on l'aura programmée de sorte à ce qu'l réagisse de la meilleure manière possible en ce cas. Le bus devrait donc freiner avec toute la technologie dont il est capable (AVS,etc...) et avertir la personne qui est sur la route qu'elle est en danger par un Klaxon pas trop fort pour qu'elle ne sursaute pas (le bus dans ma ville en sont équipés). La personne peut être aussi avertie garce à son smartphone, si le monde connecte de demain sera bien développé, qu'un bus arrive à grande vitesse vers elle bien avant que l'on arrive au point de non retour. Idem pour le bus, qui pourra alors savoir qu'une personne est sur la route, incitant le robot-bus à ralentir. Si jamais par un quelconque problème le bus n'étant pas averti (la personne n'ayant pas d'objet connecté par exemple) il pourrait exmaminer la route et voir si il peut ralentir tout en allant sur la voie de gauche si il n'y a pas de voitures.
    Je pense qu'il y a d'autres possibilités.
    Néanmoins, je n'insinue pas par la que le bus serait infaillible, loin de la. C'est malheureux, mais il y aura toujours des accidents... On peut en réduire le risque, mais pas les enlever de notre vie quotidienne...
    À ce moment la, le bus ne pourrait pas éviter l'accident...

  26. #21
    myoper

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par making_stuff Voir le message
    Néanmoins, je n'insinue pas par la que le bus serait infaillible, loin de la.
    Ce qui me fait penser que, déjà, ce qui pilote le bus ne violerait pas son code de conduite avec tous les avantages que ça comporte...

  27. #22
    profpaka

    Re: Dossier - Les trois lois de la robotique

    si il existe des Lois, elles sont faites pour générées des sanctions à l’égard des contrevenant, donc elles serons transgressées par les acteurs ou les entités auto-cognitives de l’évolution ou du fonctionnement dans le milieu, le temps et/ou les coefficients inerte.
    les facultés d'apprentissage évolutives ou statiques peuvent être à l'image du concepteur mais jamais égale à lui car soit c'est le meilleur, soit c'est le pire par rapport à plusieurs facteurs existentiel de l'environnement évolutif. Voir la loi de la relativité comparer à la physique quantique actuellement, le monde de l'infiniment petit reste à découvrir et inimaginable dans le réel. ainsi la perfection reste encore dans le surnaturel même si l'évolution nous prouve à y croire et à avoir l'espoir dans l'orientation des principes régissant le monde de l'Intelligence Artificielle.

    Easter L. PAKA
    Mail

    adresse mail supprimée conformément à la charte du forum
    Dernière modification par JPL ; 04/09/2014 à 16h23.

  28. #23
    ansset

    Re : Re: Dossier - Les trois lois de la robotique

    Citation Envoyé par profpaka Voir le message
    si il existe des Lois, elles sont faites pour générées des sanctions à l’égard des contrevenant, donc elles serons transgressées par les acteurs ou les entités auto-cognitives de l’évolution ou du fonctionnement dans le milieu, le temps et/ou les coefficients inerte.
    pourquoi ..."donc" ?
    et toutes les lois ne sont pas faites pour générer des sanctions.
    de nombreuses lois "protègent" aussi.
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !

  29. #24
    Bastinguage

    Re: Dossier - Les trois lois de la robotique

    Il me semble qu'il faudrait rajouter une nouvelle loi (4ème ?) qui interdirait aux robots de manipuler l'information et tromper l'humanité même pour une juste cause du point de vue des robots. En effet il est fort probable que l'intelligence artificielle va supplanter les capacités humaines et que les hommes seront amenés à faire confiance ou léguer leur direction à des machines, qui pourraient très bien, par souci "d'optimisation", décider de tromper les hommes, d'orienter leur jugement avec une information tendancieuse, pour finalement le conduire vers une direction contraire à leurs véritables aspirations.

  30. Publicité
  31. #25
    Tawahi-Kiwi

    Re : Re: Dossier - Les trois lois de la robotique

    Bonjour et bienvenue sur les forums Futura-Sciences.

    Citation Envoyé par Bastinguage Voir le message
    Il me semble qu'il faudrait rajouter une nouvelle loi (4ème ?) qui interdirait aux robots de manipuler l'information et tromper l'humanité même pour une juste cause du point de vue des robots.
    Ce serait en contradiction avec (ou couvert par) la loi zero.
    D'apres les essais d'Asimov, la manipulation d'information aupres d'un individu pour le benefice de l'humanite est possible et fait partie de la loi zero.
    L'humanite est "trompee" par l'existence cachee de la loi zero de toute maniere.

    T-K
    If you open your mind too much, your brain will fall out (T.Minchin)

  32. #26
    noir_ecaille

    Re : Re: Dossier - Les trois lois de la robotique

    À l'évidence il faudra un compromis du type : comment ne faire que des blessés et aucun mort ?

    Par ailleurs il ne faut pas croire qu'un humain sous un bus n'est pas dangereux pour le bus. Ça dépend de la taille et de corpulence des humains en question bien sûr, mais aussi des affaires qu'ils transportent ou non avec eux.

    De fait : un obstacle, on fait de son mieux pour l'éviter, vivant ou non.

    [HS] Il se peut qu'on invente des parchocs gonflables pour éviter que certains trucs passent sous les roues, en plus d'amortir une partie du choc le temps de décélérer jusqu'à l'arrêt effectif des masses en mouvement. Par contre ça risque d'être cotton à programmer... [/HS]
    "Deviens ce que tu es", Friedrich W. Nietzsche