La Guerre automatisée ?

[Gulf Stream]

Un peu hors sujet (mais...). On notera le retard que prend le lancement du (premier) programme de drone de combat offensif européen Neuron.

[transhuman]

Citation:

Posté par Gulf Stream

Peut-on laisser à un système offensif automatisé
le choix d'ouvrir ou non le feu dans le cadre d'un conflit ?

Ou alors doit-on laisser dans la chaîne de décision la présence d'un opérateur physiquement présent, validant ou non le choix de la machine ?

En fait il y a catégories de reponses à cette question ?

1 ) La réponse militaire : L'automatisation dans le but d'être plus rapide et plus précis que l'adversaire.
Ok, ok je sais que beaucoup sont contre la guerre, moi aussi. Comme disait Einstein on ne connait pas les armes de la 3eme guerre mondiale, mais on est sur qu'après on retournera au stade hache de pierre et massue.
Bref etre contre la guerre c'est defendre l'humanisme.
Seulement un decideur militaire ne juge pas les problemes comme çà : l'intérêt d'une arme, d'une technique reside dans son apport pour défendre ou s'approprier un territoire.
Je vais pas developper mais avant de crier très fort il faut reflechir :
On sera beaucoup à être contre une guerre pour le pétrole ...Seulement s'il s'agit de disposer d'armes automatiques pour couler rapidement, par exemple, trois hors bord fonçant vers les raffineries de Fos/Mer ou des installations chimiques de la region Havraise vous en penser quoi ? ( pas simple hein? defendre la morale ou defendre la vie des gosses menacés par le cyanure ? )

La seconde raison est que nos sociétés occidentales favorisent le developpement d'automatismes en tous genres ( un jour Outlook decidera à notre place quand on doit telephoner...)

Pourquoi ? par appat du gain, pour accroitre les profits, pour eviter les problemes des negociations salariales, budgétaires...?
Surement
Mais il me semble que celà va plus loin : Cette course effrenée à l'automatisation universelle ressemble à un effort pour perenniser des processus ( la consommation, la prise de decision fut elle militaire )
dont on craint qu'ils ne puissent pas continuer bien longtemps si l'être humain en fait partie.
Pourquoi ? Est ce que celà n'est pas révelateur d'un total manque de confiance dans la structure socio economique de nos sociétés ?

[actae]

Je trouve le sujet de Gulf stream tres interessant.
Mon opinion est qu'il porte finalement peu sur la guerre elle-même, mais plutot sur le politique, la guerre n'étant, comme chacun sait, que la continuation de la politique/diplomatie par d'autres moyens, et surtout, le sujet de Gulf Stream portant avant tout sur le moment de la decision : Peut-on laisser des machines "décider seules" d'envoyer des êtres humains se faire tuer ?

Aussi, je pense que la question prend place dans une autre thematique que celle de la légitimité de la guerre, une thematique strictement ethique : Allons-nous vers une autonomisation des technosciences telle qu'elle serait, à un moment donné, susceptible de rompre le dernier lien, decisionnel, avec la sphère humaine ? Et ce, jusques et y compris en ce qui concerne le gouvernement des hommes ?
Si oui, est-ce que cela est souhaitable, éthiquement concevable, et quelles en seraient les conséquences du point de vue du monde tel que nous le vivons au quotidien ?

A mon avis, c'est un sujet passionnant !

[Gulf Stream]

Je te remercie Actae : tu as parfaitement compris le sens de la problématique de la discussion lancée.

Je remercie au passage tous ceux qui ont donné leur avis.

[Gulf Stream]

Donner une part de décision dans le choix d'une cible et l'ouverture du feu, c'est engager la première automatisation complète d'un choix concernant la Chose publique (res publica).

Plus qu'une question d'ordre "stratégique", est ici visée l'automatisation des dernières séquences de décision "sur le terrain". Le drone étant pré-dirigé pour une mission particulière.

Exemple : surveillance aérienne. Un avion repéré comme "hostile" apparaît. La machine "décide" d'ouvrir ou non le feu.

Autre exemple : mission d'appui d'opérations aéroportées. Le drone repère un radar de tir et décide seul de sa destruction.

Voilà quelques précisions.

[actae]

Alors je n'y connais pas grand-chose en ce qui concerne les applications militaires.

Tout le probleme me semble etre la fiabilite qu'on accorde aux systemes de decision automatises, et je rejoins Swiffer.
Par exemple, quand Bardamu ecrit : "en matière militaire, il s'agit souvent d'enlever au soldat une bonne partie de son autonomie éthique (...) on doit obéir aux ordres sans trop avoir de cas de conscience. La robotisation semble alors logique dès lors qu'on considère déjà qu'il faut automatiser les comportements des soldats" il assimile un peu les militaires a des sortes de proto-robots. Des lors, effectivement, la question n'est plus que de savoir si des militaires seront mieux commandés par des hommes ou par d'autres robots, c'est-a-dire que le seul critere est celui de l'efficacité.

C'est un point de vue envisageable dans le cas ou les guerres ne concerneraient que les militaires, point de vue qu'adopte Bardamu. La robotisation de la guerre serait alors une avancée de plus dans la "guerre propre". Malheureusement, on peut considerer que la guerre propre ne le reste jamais bien longtemps, non ? W. Bush parlait bien de "zero morts" lors du franchissement de la frontiere irakienne, on en est un peu revenu depuis.

De plus, les guerres font toujours des victimes chez les civils. Elles font meme plus de victimes chez les civils que chez les militaires, en regle generale. Donc la question est vraiment de savoir si la mort humaine peut etre decidee par une machine.

Par exemple, pour transposer : Peut-on considerer qu'une machine resoudrait mieux un cas judiciaire qu'une assembleée de jurés ? Pourquoi pas, après tout ? Elle serait plus impartiale, elle ne se laisserait pas embobiner par les plaidoiries, elle aurait accès a une base de données bien plus importante qui lui permettrait de rapprocher le cas traité de cas comparables, elle serait en mesure de prendre en compte un nombre bien plus important de variables dans son jugement, en leur accordant une pondération mieux équilibrée, etc. Qui serait plus "juste", efficace, rationnel, exact, précis, rapide dans la prise de décision, qu'une machine ?

[Gilgamesh]

Citation:

Posté par Gulf Stream

Donner une part de décision dans le choix d'une cible et l'ouverture du feu, c'est engager la première automatisation complète d'un choix concernant la Chose publique (res publica).

C'est un petit peu n'importe quoi, non ? Dans le contexte actuel, les bavures ont un prix politique très lourd. L'automatisation sert d'auxiliaire à la décision, afin de rendre l'identification plus sûre.

Et puis, passer de l'ambiance champs de bataille a la chose publique en général (rien que ça) c'est pour le moins sophistique, à mon sens.

Citation:

Plus qu'une question d'ordre "stratégique", est ici visée l'automatisation des dernières séquences de décision "sur le terrain". Le drone étant pré-dirigé pour une mission particulière.

Exemple : surveillance aérienne. Un avion repéré comme "hostile" apparaît. La machine "décide" d'ouvrir ou non le feu.

Si c'est automatisable, c'est que les avions de chasse possèdent des codes d'identification. On sait à l'avance quel critère de décision choisir : un opérateur humain de DCA ouvrirait le feu de la même manière.

Citation:

Autre exemple : mission d'appui d'opérations aéroportées. Le drone repère un radar de tir et décide seul de sa destruction.

Même chose. Il décide "tout seul" parce que l'on sait *a l'avance* que ça ne peut être qu'un radar hostile là où il est implanté. Ce serait exactement la même chose (le même risque d'erreur) si on envoyait un commando humain.

salut

[Gulf Stream]

Je pense que tu as mal compris les propos que tu cites : quand je parle d'automatiser un segment de la Res publica, je reste dans le cadre de la guerre automatisée. La conduite d'un conflit est bien inclue dans la Chose publique (à moins que tu sois pour la technocratie) ?
Donc donner le pouvoir d'ouvrir le feu seule à une machine, c'est lui conférer certains pouvoirs relevant de cette même Chose publique.


Pour ce qui est de ton deuxième point, ce n'est pas si simple que tu l'affirmes : durant la première guerre du Golfe, des avions de la coalition ONU se sont bien pris en chasse, malgré l'existence d'un système de signalisation Ami ou Ennemi !

De même pour le dernier point : je ne suispas d'accord... Si c'est un avion piloté qui agit, il réclamera un ultime ordre de tir auprès des opérateurs du dispatching (AWACS et autres). De plus, un commando ou un pilote, et un drone, n'utilisent pas la même logique sélective (ou alors tu es bien optimiste quant aux futures capacités de ces engins).

Cordialement
Gulf Stream

[Lostin]

L'avantage de l'automatisation des armées est le controle plus ou moins global des initiatives prises sur le terrain. Le pb est le sens moral des combattants, ont a svt constaté qu'en fait peu de soldat s'autorisait a prendre la vie de l'autre. La morale intervenait en grande partie. Contrairement a ce que l'opinion publique pense le soldat a des remords a tuer.

Passer par le "tampon" d'un robot dissout ces considérations, du moins, en grande partie. L'automatisation du soldat est l'avenir de la guerre sans ni pb de conscience ni conlflit de conscience a partir du moment ou la prise de décision de la "mise sous controle" de l'autre soit totalement automatisée.

[hyper runner]

Tout d'abord, bonjour à tous.

Je ne suis pas d'accord avec LOSTIN, lorsqu'il parle du fait que le sens moral du soldat soit un probléme.

Une zone de guerre est toujours considéré, même si on a inventé depuis la seconde guerre mondiale la notion de "crime de guerre", comme un espace ou les droits civiles, pénales n'ont plus d'influences, (malgrés l'intervention de troupes de l'ONU, KFOR, ... (lorsqu'on leurs demande d'intervenir, ou que des ressortissants ou des biens étrangers sont mélés au conflit ...)), les pillages, violes, trafics, tortures ou homicides sont toujours exercés, dans ces zones, et par les militaires (o.k., pas toujours par eux.). On en prend des photos, on garde des trophés de doigts tranchés, de testicules conservés dans du papier alu, on en filme des extraits, on les envoie parfois sur internet ... On se venge sur les populations civiles, on fait parfois de la "purification ethnique". L'Algérie Française et sa recherche de renseignements par la torture, ou encore les pillages, les commerces de femmes par des soldats Russes en Tchétchénie, ... Des GI's pendant le conflit Vietnamien ont developpé un genre de syndrôme sociopathe déclenché par semble t-il la peur, et un stress intense.

Les exemples ne manquent pas, et la hiérarchie ferme parfois les yeux, ou encourage ces comportements profitable à une politique de terreur.

Je considére que le terme de "guerre propre" avec l'utilisation de drones, d'automates pourrait éviter ces crimes, ou empécher un sentiment de colére d'avoir une population d'occupants se croyant tout permis, avec en réponse des attentats, des accidents ...

Sinon, pour revenir au sujet : Je pense qu'on pourrait donner à un super ordinateur de combat le pouvoir de prendre la décision seul d'engager des tirs sur une puissance énemie en cas de conflit (un "général d'armée électronique", avec une capacité de calcul énorme qui connaitrait les positions des troupes alliées en temps réelle, 24h/24, ...). Mais je pense qu'une machine à qui on donnerait l'autonomie suffisante, ou plutôt la capacité décisionnelle de déclencher par elle même une guerre est un doux délire ...

[Gulf Stream]

Je tiens à remercier les récents participants de ce topic pour leur réponse, je pensais que ma discussion s'était tarie...

Pour ce qui est de ton envoi, Hyper Runner, tu as raison : une guerre de drones permet de s'affranchir pour une bonne part du caractère "subjectif" d'un conflit, en forçant un nouveau type de combat "asceptisé".

Mais plusieurs limites sont à énoncer :
1 - Une guerre purement automatique, entre engins des protagonistes, est (tu le sous-entends d'ailleur en fin de réponse) une plus pure utopie;
2 - Le profil géostratégique d'un conflit contemporain va plutôt dans l'optique d'un affrontement entre forces hyper-équipées contre un adversaires sous-équipé violant les "règles" du combat "conventionnel" (on l'a vu en Irak ou en Afghanistan, mais aussi... dans les balkans avec une armée régulière que sont les troupes serbes. CQFD). La guerre n'est alors propre que pour le protagoniste intervenant, derrière son écran de contrôle, le protagoniste "de terrain" étant confronté à une situation équivalente à un conflit "non automatisé";
3 - Idem pour la population des zones de combat... Qu'une bombe à sous-munition larguée par erreur sur un zone urbaine l'ait été par un F-15E ou un UCAV, le (piètre et fort peu glorieux) résultat est le même, la haine contre l'attaquant aussi (d'ailleur, une frappe d'un appareil piloté n'est-elle pas déjà "anonyme", asceptisé et hyper-techicisée (sans visage) pour les victimes ?

Ces contre-arguments, s'ils relativisent le caractère "idyllique" de l'automatisation, ne la remette pas en cause ! Je vais d'aileur dans le même sens que toi, et pense que la "technicisation" des conflits peut permettre de limiter son "emprunte".

[Gulf Stream]

Je tiens à remercier les récents participants de ce topic pour leur réponse, je pensais que ma discussion s'était tarie...
Pour ce qui est de ton envoi, Hyper Runner, tu as raison : une guerre de drones permet de s'affranchir pour une bonne part du caractère "subjectif" d'un conflit, en forçant un nouveau type de combat "asceptisé".
Mais plusieurs limites sont à énoncer :
1 - Une guerre purement automatique, entre engins des protagonistes, est (tu le sous-entends d'ailleur en fin de réponse) une plus pure utopie;
2 - Le profil géostratégique d'un conflit contemporain va plutôt dans l'optique d'un affrontement entre forces hyper-équipées contre un adversaires sous-équipé violant les "règles" du combat "conventionnel" (on l'a vu en Irak ou en Afghanistan, mais aussi... dans les balkans avec une armée régulière que sont les troupes serbes. CQFD). La guerre n'est alors propre que pour le protagoniste intervenant, derrière son écran de contrôle, le protagoniste "de terrain" étant confronté à une situation équivalente à un conflit "non automatisé";
3 - Idem pour la population des zones de combat... Qu'une bombe à sous-munition larguée par erreur sur un zone urbaine l'ait été par un F-15E ou un UCAV, le (piètre et fort peu glorieux) résultat est le même, la haine contre l'attaquant aussi (d'ailleur, une frappe d'un appareil piloté n'est-elle pas déjà "anonyme", asceptisé et hyper-techicisée (sans visage) pour les victimes ?
Ces contre-arguments, s'ils relativisent le caractère "idyllique" de l'automatisation, ne la remette pas en cause ! Je vais d'aileur dans le même sens que toi, et pense que la "technicisation" des conflits peut permettre de limiter son "emprunte".

[domlefebvre]

Bonsoir,
Je viens de découvrir ce topic, fort instructif!
La question initiale concerne la capacité (au sens anglais) d'un système offensif automatique à ouvrir le feu.
le terme "offensif" me semble important. Car depuis de nombreuses années, il existe des systèmes défensifs qui prennent automatiquement la décision d'ouvrir le feu. Par exemple, le système Phalanx de défense des navires contre les missiles supersoniques AM ou MM. Ou encore le systèmes de défenses anitaériens des navires ou des unités blindées terrestres. les performances des systèmes offensifs font que la riposte automatisée est indispensable.

Considérons l'aspect offensif automatisé. Il est plus problèmatique. On considère généralement chez les militaires que l'ordre d'attaque doit être donné par un homme (pour des tas de raisons d'ordre stratégique et même éthique, parce que les militaires font aussi de l'éthique).
Mais considérez le cas suivant : sur un avion, le radar de veille détecte une cible. Le calculateur d'attaque l'identifie comme ennemi et définit son potentiel hostile et contre-mesure. Il propose au pilote de tirer et lui donne toutes les raisons de le faire: est-ce un tir offensif automatique ou pas. Est-ce que le fait que le pilote appuit sur le bouton est suffisant pour en faire un acte décidé par l'homme?

Enfin, j'ai lu sur un post une interrogation à propos de l'éthique des scientifiques qui travaillent pour l'armement. J'en suis, comme physicien spécialiste des systèmes complexes. Et j'affirme que l'éthique de la guerre fait partie de mes préoccupations. Mais je suis citoyen français et un jour j'ai décidé de servir mon pays pour la patrie, pour les sciences et pour la gloire.

[exobiolo]

Pour revenir à la question initiale et pour donner mon point de vue:

Je crois sincerement que de nos jours il y a un certain frein à la guerre qui est du au fait que la population civile ne supporte pas de voir trop de ses soldats mourrir au combat, on supporte beaucoup moin la vue du sang des siens qu'avant a cause des médias notament(du moin c'est mon impression).Ce qui en soi est une très bonne chose.Mais le jour ou l'on aura des machines capables de fair feu toutes seules,autrement di capable de remplacer totalment des soldats,ce frein n'existera plus.....D'ou mon inquiétude n refléchiera probablement moin avant d'envoyer une armée au combats et dans des actions beaucoup plus musclées pouvant de ce fait ocasionner plus de pertes dans les population civiles ou dans les rangs adverses(si ils sagits d'etre humains)...

Je penses donc que le fait d'automatiser la guerre n'est pas une bonne solution:la seule limite a la guerre ne serai alors plus que son cout.......

[actae]

Je trouve qu'il y a vraiment des réactions très naïves, dasn ce débat. Croit-on que la guerre pourrait devenir un jour une sorte de combat matériel contre matériel ? Tu détruis mes tanks automatisés, je détruis tes drones lances-missiles, et aucune perte humaine ? C'est complètement mécomprendre le principe même du conflit armé, qui n'a de sens que parce qu'il engage la vie humaine (on peut ajouter : "malheureusement").

En revanche, domlefebvre, personnellement, je suis très intéressé par ta phrase : "On considère généralement chez les militaires que l'ordre d'attaque doit être donné par un homme (pour des tas de raisons d'ordre stratégique et même éthique, parce que les militaires font aussi de l'éthique)."
Quelles sont ces raisons, en quelques mots, stp ?

[exobiolo]

Je suis d'accord avec toi....La guerre sert a "éliminer" les peuples ou dirigeant génants...Mais le fait d'utiliser des machines automatisées permetera de justifier plus facilement l'envoi d'une armée==> plus facil de faire la guerre => plus de guerres.....Et l'ordre d'attaque viendra toujours de celui qui a interet a éliminer l'autre(autrement dit le gouvernement ou les militaires de l'armée)
Je pense aussi qu'il sera beaucoup plus facil de prendre le pouvoir dans un pays avec des machines(il suffira au "dictateur" de se mettre de son coté les quelque soldats qui commandes ces machines au lieu de devoir s'accorder la fidélité d'une armée humaine pleine d'esprit et pouvant se poser des questions sur ses réelles motivations)

[domlefebvre]

Citation:

Posté par actae

En revanche, domlefebvre, personnellement, je suis très intéressé par ta phrase : "On considère généralement chez les militaires que l'ordre d'attaque doit être donné par un homme (pour des tas de raisons d'ordre stratégique et même éthique, parce que les militaires font aussi de l'éthique)."
Quelles sont ces raisons, en quelques mots, stp ?

Bonjour,

Je vais essayer de te répondre.

Tout d'abord, il faut se souvenir que dans nos systèmes politiques, le pouvoir militaire est subordonné au pouvoir politique. Les dictatures militaires sont devenues rares, bien que parfois la limite soit assez ténue...

Une des principales raisons qui conduit à choisir le déclenchement humain du feu est le risque d'erreur. Cela peut faire sourire, mais c'est un fait. Développons:
- les systèmes ne sont pas parfaits, loin de là. Ils sont susceptibles d'être brouillés, leurrés ou victimes de dysfonctionnement. Engendrer un tir ou une guerre à partir d'une mauvaise interprétation d'un signal est le cauchemard de tout responsable militaire (à cause des conséquences, voir la suite).
- une erreur, même "minime" peut avoir des conséquences politiques catastrophiques. Et ça, les politiciens n'aiment pas. Ils veulent faire la guerre avec un maximum de gains (économiques, financiers) et minimum de coûts (politiques, humains, financiers). On s'est aperçu depuis la guerre du Vietnam que le coût humain pouvait devenir trop important pour être supporté par un peuple même s'il est relativement peu élevé, d'où le concept saugrenu de guerre 0 mort (dans notre camp, évidement).
- aucun ingénieur, en son âme et conscience, n'osera affirmer que son système est fiable à 100% et donc qu'on peut faire reposer la sécurité d'une unité ou d'un pays sur ce système.
- un concepteur de systèmes d'armes sait à quoi servira son travail. Il se dit qu'il sert à défendre son pays et ses habitants. C'est pour le meilleur. Pour le pire, il servira à défendre des intérêts économiques ou politiques plus ou moins avouables au mieux, ou les intérêts de quelques uns au pire. Il aura donc à coeur de toujours introduire un facteur humain, dont il supposera que l'on peut attendre de lui une certaine humanité et aussi la peur viscérale des conséquences. Je crois personnellement que le système de doubles clés sur les armes nucléaires tient en grande partie de ce principe. Avec un certain succès.

Pour mieux appréhender ce problème, on peut se souvenir de cet Airbus iranien abattu par la Marine US pendant la 1ere guerre du Golfe.
Le système d'armes en question était un croiseur AEGIS. C'est un système pratiquement entièrement automatisé de surveillance du champ de bataille, d'évaluation de la menace et de déclenchement de la riposte. Plusieurs radars, des dizaines d'ordinateurs et un système de canons et de missiles. Tout ça interconnecté.
En principe, il y a des opérateurs pour surveiller ce petit monde et un officier de quart qui prend la décision finale de riposter ou non, selon les infomations fournies par les senseurs. C'est lui qui est supposé donner l'autorisation au système de riposter ou d'attaquer.
C'est le principe, conforme à ce que j'ai exposé plus haut. Maintenant examinons la réalité du champ de bataille :
le croiseur est en alerte combat, il s'est fait "allumé" plusieurs fois. L'équipage est sur les nerfs. Au PC OPS, l'officier de quart est informé par ses systèmes d'une intrusion aérienne dans son espace de sécurité. Ses senseurs lui transmettent en temps réel des infos sur la progression de l'intrus. L'officier sait qu'il doit réagir et décider dans les quelques secondes qui suivent. Il est responsable de la vie de son équipage. Alors, il réagit comme une machine. Il a confiance dans son système, il accepte la proposition de son système de tire. Il tire. Environ 300 morts civils innocents.
Il y avait bien un humain dans la chaîne de décision. Mais était-il vraiment humain à ce moment là. C'est très difficile à dire, et encore plus à vivre.
Il s'agissait d'un système de défense. Imparfait comme tous les systèmes humains. Le problème est identique en cas de système offensif. On attaque sur ordre ou pour se défendre (la meilleure défense étant l'attaque...). Dans ce cas, le militaire réfléchira aux conséquences d'une attaque, s'il en a le temps et si les conditions le lui permettent.
Un système automatique ne réfléchira jamais. Il acceptera l'ordre. Du moins tant qu'il sera dépourvu d'une conscience (pourvu que cela n'arrive jamais!).
C'est parce que les ingénieurs de l'armement auront toujours peur des conséquences humaines que peut engendrer une erreur que ces systèmes ont peu de chances de voir le jour. Sauf bien sur, à tomber sur un docteur Follamour (je vous rappelle que le personnage est inspiré d'un scientifique américain célèbre... je le cite?).