La Guerre automatisée ?

[Invite28765432]

Ce sujet aurait plutôt sa place dans Ethique, mais cette rubrique n'existe plus... Le thème a été recentré.

Depuis quelques années, le concept de "Guerre automatisée", associé à celui de "guerre propre", a commencé à prendre une forme concrète avec l'apparition des premiers programmes de drones offensifs opérationnels (en particulier en ce qui concerne l'arme aérienne).

Sans aller jusqu'à évoquer l'idée d'une guerre prenant la forme d'un grand "WarGame" peuplé de drones et de machines de Turing/Von Neumann, je me permets de soulever un problème éthique (qui ne se pose pas encore, sachant que ces machines ne sont pas dotée de la capacité de "décision") :

Peut-on laisser à un système offensif automatisé
le choix d'ouvrir ou non le feu dans le cadre d'un conflit ?

Ou alors doit-on laisser dans la chaîne de décision la présence d'un opérateur physiquement présent, validant ou non le choix de la machine ?


Quel est votre avis, voire mieux, votre position face à ce problème ?


Comme tu le vois, la section Ethique a été rouverte
Sujet déplacé

vince

[quetzal]

tu prend le prolème par le mauvais bout car tu accepte d'emblé qu'il puisse y avoir une guerre propre... ceci est un oxymore, c'est poétique mais radicalement impossible en-soi... la guerre est en-soi une barbarie innomable et signe chez ceux qui en font l'usage, un manque réel de capacité au dialogue. que louis XIV est ecrit sur ses canons "voici le dernier arguement du roi" vas avec son epoque... aujourd'hui cela rélève qu'une forme de pensée bassement brutale, est pris en compte comme mode de résolution de conflit... ethiquement, et humainement parlant ceci est une pure abération.. la civilisation, l'outils, et les technique sont neutre, et ne pose pas d'ethique en elle-même, celle-ci peuvent tout a la fois humaniste, et utilisé de manière radicalement barbare... tout depent de l'utilisation que l'on en fait... et là se trouve l'ethique, qui départage barbarie et humanisme. au coeur d'une même civilisation...

la guerre en soi est inhumaine, et de fait barbare par essence, tout ce qui tent a promouvoir celle-ci, a lui rendre un coté presque humain, ne fait se donner les moyens de la barbarie, contre l'idée d'humanité. ceci ne fait que rendre nos civilisations tout aussi barbare qu'elle l'on toujours été...

c'est un peu comme la peine de mort, qui est un fait barbare, ce n'est pas en multipliant et en ameliorant la technologie pour rendre ce meutre plus humain, moins douloureux, que cela efface le fait que cela soit un meutre, signe en-soi (entre autre) de toute forme de barbarie...

ta question est savoir si un système automatisé peut tuer de son propre chef?? oui une machine pourras tuer sans aucun problème, et sans doute bien plus efficacement que ne lepourrais un homme soumis a une ethique ou une morale.. mais cela ne dédouane pas de la souffrance causé, celui ou ceux qui en ont décidé l'emploie... et si ce n'est pas eux qui appuie sur la détentes, c'est quand même eux qui tienne l'arme..
le meutre est toujours présent.. et traine la barbarie comme un cadavre...

mais notre monde est un monde barbare en-soi. l'humanité est encore a venir...
si quelque'un a une lampe?? peut-etre y trouveras t-on des Hommes...

[shokin]

mais notre monde est un monde barbare en-soi. l'humanité est encore a venir...
si quelque'un a une lampe?? peut-etre y trouveras t-on des Hommes...

Notre monde, est-il un monde d'hommes ?

ou de machines ?

est-ce vraiment le but de tout automatiser ? pourquoi automatise-t-on ? juste pour le confort personnel, la loi du non-effort.

Il doit bien y avoir un lien avec les trois lois de la robotique...

Shokin

[Baygon_Jaune]

C'est curieux cette opposition entre barbarie et humanité, ce qui est barbare étant ce qui est étranger (au monde grec, puis à la chrétienté).

C'est aussi étrange de recaser la peine de mort (et d'une façon si ouverte que ça fait froid le dos) dans la conversation, non ?

[quetzal]

oui, cette opposition ne se base sur ce que les grec ou romain pouvait penser.. mais sur l'acception actuelle de barbarie, qui s'oppose a la morale, ou a l'ethique... la civilisation en soit n'est qu'une forme d'agengement politique possible de la cité... platon fit a son epoque dans la république le panégérique des solutions trouvé pour que le vivre ensemble soit possible... montesquieux de même ainsi que d'autre penseur politique.. la civilisation peut-etre en soi barbare, et avoir un rapport a l'Homme qui fait froid dans le dos.. ainsi, romain et grec, bien qu'ayant une riche civilisation, n'en etais pas moins des esclavagistes, sans parler des jeux du cirque romain.. que les barbares de l'epoque eux-même jugeait inhumain... la barbarie, n'est cette façon de parler le bar-bar, comme l'on nomme la blah-blah de certain.. les aztèques avait une civilisation que les chrétiens jugère barbare, alors que celle-ci en de nombreux point etais en avance sur les chrétiens... la différence evnat sans doute que les aztèques faisait des prisonier pour les sacrifié a leur dieu, tendis que les chrétiens brulait les hérétiques pour les purifier, ou bien mire en esclavage des peuples entiers, ou les massacrèrent sans autre forme de procès... sans parler du commerce triangilaire qui fit le bonheur de l'europe et le malheur d'autre peuple jusqu'il ya encore peu... l'amerique, ou l'afrique du sud n'ont cessé leur politique d'appartheid qu'il y a peu de temps..
la civilisation ne s'oppose pas a la barbarie, du moins a sa propre barbarie, qu'elle ne conçoit pa comme de la barbarie, mais comme une chose utile et usuel... la guerre en-soi reste l'art barbare qui n'a pas encore été cloué au pilori.. sans doute parceuqe l'adage "qui vis pacem, parra belum" est encore l'adage qui tiens nos nations a sa stupide et barbare logique... romaine a vrai dire...

[Baygon_Jaune]

la civilisation ne s'oppose pas a la barbarie, du moins a sa propre barbarie, qu'elle ne conçoit pa comme de la barbarie, mais comme une chose utile et usuel...

Voilà, tu viens justement de résumer mon propos : ce qu'on considère comme barbare, c'est par définition ce qui est insupportablement étranger. On qualifiera de « barbare » un acte qu'on réprouve au plus haut point, ou une personne ayant commis un tel acte.
Ce qui m'intrigue, voire me fait un peu peur, c'est ta volonté (qui du reste s'inscrit dans une mode) à opposer « barbarie » et « humanité » : refuser à celui que tu réprouves le statut d'être humain (*), c'est quand même grave, et ça rappelle justement quelques doctrines nauséabondes que je qualifierais volontier de barbares.

(*) : ou du moins les qualités nécessaires d'un être humain.

[Argyre]

... Ce qui m'intrigue, voire me fait un peu peur, c'est ta volonté (qui du reste s'inscrit dans une mode) à opposer « barbarie » et « humanité » ...

Moi, je suis surpris de son opposition humanisme et guerre, voire intelligence et guerre.
Je suis profondément pacifiste et je considère les va-t'en-guerre comme des gens souvent peu humanistes et pas très intelligents, qui sousestiment largement les effets néfastes des guerres.
Néanmoins, il existe un certain nombre de situations où la guerre est un acte délibéré qui témoigne d'une grande intelligence.
En effet, la guerre est justifiée aux yeux d'une personne lorsqu'elle considère que son effet néfaste est préférable à l'état courant des choses. Tout est une question d'échelles des valeurs. Certains placent certaines valeurs au-dessus de la valeur de leur propre vie. Seul un être d'une grande intelligence peut parvenir à préférer la mort à la perte d'une valeur importante (liberté de parole, liberté de choix de religion etc.) au sein de sa communauté.
La guerre n'est pas qu'un témoignage de notre barbarie, elle est aussi un témoignage de notre intelligence.

[Baygon_Jaune]

En effet, la guerre est justifiée aux yeux d'une personne lorsqu'elle considère que son effet néfaste est préférable à l'état courant des choses. Tout est une question d'échelles des valeurs.

En même temps, dès qu'une personne entre en guerre, c'est bien que justement elle considère que le résultat en sera globalement positif (ou du moins moins négatif que de ne pas le faire). Déclarer un tel acte barbare revient juste à affirmer une différence d'opinion sur « l'intérêt » de la guerre, une différence de valeurs comme tu le dis.

[Invite28765432]

Excusez-moi, mais je pense que vous avez tous mal compris le fond de cette discution... Je n'affirme pas le concept de "Guerre propre" qui est en effet un oxymore. Je reconnais juste son existence en tant que concept abstrait (enfanté par le Pentagone) et le rapproche de celui de guerre automatisé. Je n'affirme même pas le concept de guerre, qui va à l'encontre de la paix civile que j'affirme comme condition nécessaire à la constitution d'une société de droit respectueuse de l'individu. Ma question n'est pas nom plus, Quetzcl, de savoir si oui ou non une machine sera un jour ou non capable de tuer... car c'est déjà le cas : le missile de croisière est d'une certaine manière une arme "intelligente" et automatique capable de le faire (mais sans la capacité de décision d'ouvrir le feu : juste celle de choisir le meilleur chemin).

Ma question est la suivante :

D'un point de vue éthique, peut-on accepter de laisser à un système automatisé la décision d'ouvrir le feu ?

Je pense à "Docteur Follamour" de Kubrick, où l'URSS met en service la "machine du jugement dernier" capable d'enclencher l'engagement du feu nucléaire en cas d'attaque, sans intervention humaine. Ou des drones d'attaque en cours d'ellaboration porteur d'un "simple" missile de croisière : doit-on leur donner la capacité de choisir leur cible et d'ouvrir le feu sans intervention d'un opérateur assurant la fonction de choix ?

Voilà

[Pierre de Québec]

Quelques pistes de réflexion sans que j'apporte nécessairement une réponse claire à ta question :

Par analogie, je dirais qu'il existe de telle arme depuis la nuit des temps ! C'est il me semble le principe du piège qui lui ne choisi pas sa victime. L'arme à laquelle tu fais référence aurait comme caractéristique supérieure au piège de pouvoir choisir sa cible mais pas encore nécessairement ses victimes. Je suppose ici que l'arme en question est en état de recherche active d'une cible en tout temps et d'identifier la cible en fonction d'un certain nombre de critères.

Le piège pour la chasse relève d'une éthique propre aux chasseurs. Le système d'armement automatisé quant à lui pose une question d'éthique propre aux militaires et aux politiciens. Je pense notamment au bouclier spatial des américains.

Il y aussi l'angle offensif / défensif à considérer. Un système automatisé qui serait de nature offensive donc passerait à l'attaque par lui-même est une abérration. Il n'y a aucune éthique qui puisse justifier un tel système.

Par contre, le cas d'un système automatisé de nature défensive est à nuancer.

D'un point de vue utilitariste où le bien être général est la somme du bien être des individues dans la société, le système automatisé défensif n'est pas obligatoirement à rejeter. J'y vois dans cette approche utilitariste l'explication de l'endossement par les militaires et les politiciens américains du projet d'un bouclier spatial.

Les questions de fiabilités sur tout les aspects propres à un système automatisé défensif sont aussi à ne pas négliger. Serait t'il éthiquement correcte de mettre en opération un système défensif automatisé avec une fiabilité douteuse ?

[Invite28765432]

L'automate contemporain donne une dimension autre au problème que le piège à moummouth, je pense... bien qu'un homme peut tomber par mégarde dans ce dernier.

Le système considéré est, en effet, capable de sélectionner sa cible à l'aide de critères prédéfinis (ex. Détection d'un radar de tir actif *-> Risque de tir d'interception->Ouverture du feu). Mais la prédéfinition de ces mêmes critères selon le type de mission, et un contrôle partiel des opérations par un opérateur en temps réel, réduit le nombre de "degré de liberté" de l'engin dans son choix... Mais peut-on confier même à une machine très partiellement "libre" de décider ou non de tirer ce choix ?

De plus, la fiabilité intervient en effet. Il y a risque de débordement (le radar actif peut être un leurre, les critères de sélection peuvent être erroné et déclencher l'attaque d'un émetteur civil ou ami, etc) grave (l'engin tir sur une cible non prévue en temps de paix ou de tension, et déclenche les hostilités, ou provoque des destructions non souhaitées ou "collatérales" comme on dit pudiquement).

[gillesh38]

Tout cela arrive aussi couramment avec des tirs à déclenchement humain...

Si c'est une question d'éthique, elle est un peu abstraite, car l'éthique en cas de guerre est en général décrétée par le plus fort (cf Guantanamo vs Conventions de Genève). A mon avis si les états majors disposent de systèmes automatisés fiables, il n'hésiteront pas à s'en servir, et en plus en le justifiant par des considération humanitaires (ils peuvent toujours dire que les risques d'erreurs sont MOINDRES qu'avec des humains, ce que personne ne pourra de toute façon vérifier...)

[bardamu]

D'un point de vue éthique, peut-on accepter de laisser à un système automatisé la décision d'ouvrir le feu ?

Salut,
en matière militaire, il s'agit souvent d'enlever au soldat une bonne partie de son autonomie éthique.
Soit on est objecteur de conscience et on refuse de s'engager, soit on doit obéir aux ordres sans trop avoir de cas de conscience.
La robotisation semble alors logique dès lors qu'on considère déjà qu'il faut automatiser les comportements des soldats.

Il y a des vidéos qui circulent sur le web où des bombardiers et mitrailleurs éliminent des "cibles", de nuit, c'est-à-dire tirent sur des silhouettes infrarouges comme dans un jeu vidéo. On voit ces silhouettes qui courrent en zigzaguant, certaines qui tentent de se cacher et boum !, une explosion de 200 m² sur la tête, et le tireur qui se félicite de son joli coup. Au moins, avec un robot, il n'y aurait pas de jubilation...

Mais à l'heure actuelle, l'éthique des commandements pose aussi problème : usage des mines, acceptation de morts civiles appelées pudiquement "dommages collatéraux", stratégie "zéro mort" etc.

Si la robotisation a pour objectif de revenir d'une guerre industrielle et aveugle à une guerre plus légère, "d'homme à homme" où seul le combattant ennemi est visé, cela me semble plutôt un "progrès" ou plutôt un bon retour en arrière en attendant de progresser humainement.
Si il ne s'agit que de pouvoir continuer la guerre indéfiniment sans avoir à se soucier de l'opinion publique parce qu'il n'y a pas de mort chez soi, c'est assez malsain. Ou alors, il faudrait des robots des deux côtés et dans ce cas on pourrait se contenter de duels de robots en champ clos... Amenez votre champion, monsieur mon ennemi !

Et puisqu'il s'agit d'un forum d'éthique des sciences, on pourrait s'interroger sur l'état d'esprit des scientifiques qui travaillent dans l'armement.
S'autorisent-ils des problèmes de conscience ? Celui qui a inventé le shrapnel ou l'art de lancer du napalm avait quelle notion éthique en tête, quelle idéologie ?
Qui travaille à une guerre robotisée ? Pourquoi ?

[swiffer]

Salut à tous
Je pense que si il y a un jour des drones ayant un pouvoir de décision (meme limité) il doit toujours pouvoir y avoir un controle sur eux, c'est à dire un moyen de les détruire en cas "de force majeur"
Je crois aussi que si ces robots peuvent réduire les bavures dues au stress des soldats, c'est peut-etre une bonne chose ; mais je pense qu'on aura tendance à parler, au lieu de bavures, de mauvaise fiabilité des programmes. Cependant il me parait evident qu'il faut que les programmes soit un minimum fiable.
Mais personnellement je ne sais pas trop quoi penser de la guerre entre machines à la Star Wars...

[quetzal]

je me demande surtout adns quel type de philosophie l'on peu juger l'acte commis..

pour ma part je me place dans une optique humaniste. une ethique ayant comme but l'Homme, et non une ethique utilitatiste ayant comme moyen l'Homme...

ici, le fait de justifier comme bon, ou moral, le fait de laisser une armes une technologie agir d'elle-meme, vaux que dans une optique humaniste, la protection d'individu soit automatisé, pour éviter le facteur humain dans la decision.. l'on suppose de fait que le système est en-lui-même fiable et capable de prendre une decision had-oc... que celui-ci est capcable de faire la part des choses entre différent stimulus qui serais a même de generé le type de réponse pour lequel il a été programé..
ici ce trouve l'idée de la défense militaire... humaniste presque, puisqu'ayant comme but la protection de l'homme... tout dépend en fin de compte du type de réponse qui seras apporté... si le but est de détruire d'autre humain, la finalité est toujours aussi immorale et inhumaine, que l'on appuie soi-même sur le bouton, ou que l'on fasse un prgrame informatique capable de le faire... la machine, même intélligente, reste une machine, une création, et l'auteur, doit toujours répondre des fait de sa machine, aussi indépendante quel soit. et surtout si sa finalité originelle est de tuer..

le problème ici ne vient pas de l'usage de la machine, ou d'une main humaine... l'acte commis reviens toujours a celui qui commet l'acte, ou qui transmet son autorité a un subalterne.. que ce subalterne ne soit qu'un mecanisme... mecanisme qui n'a de plus pas de moyen de révolte que peux avoir un etre humain... l'auteur de la machine est de fait, par l'autonomisation de la decision transféré dans la machine, le meutrier réel..
la decision, comme tu le dis si bien, ne se trouve plus dans le fait de la machine, mais bien dans le fait d'utilisé se type d'automatisme... l'autoriser, c'est deja avoir tourné le bouton...
ainsi prenons le système joshua dans wargames, automatisé l'extrème, il n'a aucune consience réelle et joueras la partie jusqu'au bout.. le problème ici, se trouve dans la présence de la machine, qui signe par sa simple mise en route un conte-a-rebourt réel... qui aboutiras inéluctablement à la destruction... si les système d'armes sont ouvert, c'est que les codes de tir ont déja et donné et que les clefs, et autre securité sont deja prette a l'emploie... la machine n'etant e fait qu'un système a retardement... un piège, une arme d'autodefence, une mine anti-personel..

la question que tu poses, est celle térrible du militaire qui ayant reçut l'ordre de tourné sa clef, doit la tourné... c'est le pointeur du bombardier ayant reçut l'ordre de larguer sa bombe, et qui a le puce sur le declacheur... dois-je le faire??
enfait c'est parceque le choix est complement ouvert, le canonier peux ici choisir la mort, plutôt que de tuer des millions d'autre vie, plutôt que d'avoir a porter ce crime..
les système automatisé, permette la mise a distance, du lien direct entre l'acte, et la conséquence de l'acte.. mais ce n'est qu'une illusion... car ceux qui mettent en marche le dispositif, sont deja coupable des morts qui seront victime de ce dispositif...

je te rapelle la très belle morale que joshua finalement obtiens après avoir jouer au morpion et qui est la seule alternative réelle, et ethique a ce type d'acte...
il y a des jeux auquels, pour gagner, il ne faut pas jouer... auquel j'ajouterais, la seule certitude de ne pas mourrir par le fait d'une guerre, est qu'il n'y est plus d'armé...

car c'est la possiblité elle-même qui est non-ethique... inhumaine en-soi...