L'IA coté obscur

[Bitrode]

Nulle part mais bon.
Pour en revenir à tes chiffres plus haut je comparais d'abord les chasseurs cueilleurs avec "nos sociétés" donc celles de la France et des pays comparables et actuellement.
La remarque sur le XXeme siècle était après.

Comparaison n'est pas raison.
Comme d'habitude vous prenez les chiffres par le bout qui vous arrange....
Allez basta, on ne peut pas discuter avec vous, monsieur je sais tout mieux que tout le monde.
-----

[Bitrode]

Même si je trouve l'intérêt de la comparaison plutôt douteux, factuellement ces 230 millions de morts ne représentent que quelques % des humains qui ont vécu durant ces 100 ans, un ordre de grandeur en-dessous du taux de mortalité violente des chasseurs-cueilleurs si les 30 à 50% dont parlait pm42 sont avérés (je n'ai pas la référence).

Ce qui est factuel dans ta remarque c'est que pour toi 230 millions représente juste un nombre, comprends-tu déjà que ce nombre concerne des humains? Pas des fraises.
Et que 230 millions de morts, même en 1 siècle, c'est 3 fois la population de la France et il faut aussi comprendre que collatéralement cela représente bien plus de victimes.
La violence est sans doute la même qu'à l'époque des chasseurs-cueilleurs SAUF QUE les moyens de destruction sont considérablement plus grand et c'est bien là toute la différence.
Inutile de noyer le poisson, 230 millions c'est déjà bien plus que la totalité des chasseurs-cueilleurs de l'époque.

[Flyingbike]

Comparaison n'est pas raison.
Comme d'habitude vous prenez les chiffres par le bout qui vous arrange....
Allez basta, on ne peut pas discuter avec vous, monsieur je sais tout mieux que tout le monde.

Et vos chiffres à vous ils sont où ?
La contre-argumentation de type caca nerveux n'est pas constructive.

Et en se renseignant un peu, on peut facilement constater que la proposition de pm42 est partagée par les spécialistes en la question.

Exemple : https://books.google.fr/books?hl=fr&...zation&f=false

[mh34]

....voir « Периметр »

.

Oбьяснить больше можете? спасибо.

[pm42]

Et en se renseignant un peu, on peut facilement constater que la proposition de pm42 est partagée par les spécialistes en la question.

Note que ce n'est pas ma position : je n'ai pas d'avis sur le sujet vu que ce n'est pas mon domaine. Globalement, "avoir un avis" sur un sujet ou "faire des propositions" sans être un expert avec un très bon niveau est assez casse-gueule pour dire le moins.

J'ai juste voulu indiquer que la science dit le contraire de pas mal d'affirmations gratuites faites dans ce fil et ma seule valeur ajoutée a été d'avoir lu sur le sujet et de recopier.

[Avatar10]

Et vos chiffres à vous ils sont où ?
La contre-argumentation de type caca nerveux n'est pas constructive.

Et en se renseignant un peu, on peut facilement constater que la proposition de pm42 est partagée par les spécialistes en la question.

Exemple : https://books.google.fr/books?hl=fr&...zation&f=false

Je peux répondre comme c'est écrit en noir....

Il n'est pas spécialiste du sujet, et même si son livre a le mérite de "casser" l'image du gentil sauvage, il a été aussi critiqué, après vous dites que cela fait consensus, je veux bien vous croire, mais avez vous autre chose qu'un livre pour appuyer vos dires? Je n'ai aucun avis sur le sujet, mais ça m'intéresse. Ensuite on pourra éventuellement se demander le taux de 30 à 50% évoqué...

On est de plus en plus HS...même si la question a de l'intérêt

[Bitrode]

Et vos chiffres à vous ils sont où ?
La contre-argumentation de type caca nerveux n'est pas constructive.

Et en se renseignant un peu, on peut facilement constater que la proposition de pm42 est partagée par les spécialistes en la question.

Exemple : https://books.google.fr/books?hl=fr&...zation&f=false

Mes chiffres sont très facilement vérifiables aussi, encore faut-il s'en donner la peine... et un exemple de bouquin n'est pas une preuve irréfutable "des spécialistes" comme tu dis.
Et le problème n'est pas tant dans les chiffres, je persiste à dire que comparaison n'est pas raison dans cette discussion.

La contre-argumentation de type caca nerveux n'est pas constructive.

C'est toi qui fait un caca nerveux, juste parce que tu es en bleu clair alors tu te crois tout permis

[Bitrode]

Note que ce n'est pas ma position : je n'ai pas d'avis sur le sujet vu que ce n'est pas mon domaine. Globalement, "avoir un avis" sur un sujet ou "faire des propositions" sans être un expert avec un très bon niveau est assez casse-gueule pour dire le moins.

Quel hypocrite celui-là aussi

[jiherve]

bonjour
comparer les ratios de mortalité dans les sociétés de type paléolithique et celle d'aujourd'hui n'a pas de sens.
Rahan ne disposait pas des moyens techniques capable d’éradiquer plusieurs dizaines ,centaines , milliers de milliers de personnes en une seconde , or nous en disposons et là est le problème !
JR

[Bitrode]

Voici une lecture très intéressante sur le sujet.
Biomasse et démographie préhistorique on JSTOR

Et oui il faut être inscrit, je n'y peux rien, l'information de qualité a un prix aussi, tout n'est pas du niveau de wiki (et encore heureux).

[Bitrode]

On est de plus en plus HS...même si la question a de l'intérêt

Oui tu as raison, pour en revenir au sujet de base la seule certitude c'est que l'homme est un prédateur hors pair et malgré des millénaires d'évolution qui normalement auraient dû le rendre meilleur, force est de constater qu'une toute petite partie de nuisibles s'acharne à détruire une majorité de gens qui ne souhaite que vivre en paix.
Bizarrement ceux qui créent ces armes et développent ces IA sont justement une infime minorité des 8 milliards que nous sommes, juste pour l'argent et la domination, car finalement personne n'en exprime le besoin, sauf les va t'en guerre et autres illuminés technologiques.

Les chasseurs-cueilleurs vivaient dans une époque effroyablement dangereuse où la durée de vie ne se comptait pas au-delà de 20~30 ans, la survie dans un tel environnement hostile à de quoi rendre nerveux à juste titre pour défendre sa famille ou ses provisions.
Rien à voir avec le sujet de cette discussion, mais alors vraiment rien à voir du tout.

[yves95210]

Et vos chiffres à vous ils sont où ?
La contre-argumentation de type caca nerveux n'est pas constructive.

et de toute façon hors-sujet.

A toute époque, les humains ont utilisé la technologie dont ils disposaient pour se faire la guerre (ou pour des entreprises criminelles), en particulier depuis que le développement de l'agriculture (puis le développement de l'industrie) a fait de la possession des terres (puis des ressources minières, etc.) une source de richesse ou de pouvoir. Et même si les sociétés modernes tentent de mettre des garde-fous (SDN puis ONU), force est de constater qu'ils ne gardent pas grand-chose, même en ce début de 21e siècle. Ce n'est pas la peine d'ouvrir un débat sur le sujet, d'autant plus que c'est hors charte.

Les progrès technologiques quels qu'ils soient sont ou seront forcément utilisés à cette fin par plein de gens plus ou moins bien intentionnés. La question (sujet de ce fil) est plutôt de savoir si le fait de pouvoir concevoir des armes autonomes grâce à l'IA introduit un changement de paradigme, même s'il me semble illusoire de prétendre les interdire (par quels moyens ? On n'a pas su le faire pour le nucléaire - voire pour les armes chimiques ou biologiques -, et on ne sait toujours pas vraiment le faire malgré les accords internationaux).

Pour en revenir au sujet :

Des armes létales autonomes pourront prendre la décision de frapper sans supervision humaine, mais seulement à partir du moment où des humains auront pris la décision de les lancer. Elles pourront éventuellement se tromper de cible, mais pas forcément plus que des opérateurs humains. Et on peut au moins penser qu'elles ne seront pas "motivées" par exemple par un esprit de vengeance ou une perversion quelconque conduisant à tuer sans discernement (à moins évidemment qu'elles aient été programmées pour cela, mais dans ce cas les humains qui les lanceront pourraient tout aussi bien lancer une autre arme de destruction massive).
Je ne vois pas vraiment où est le changement de paradigme, si ce n'est que certains États seront en avance sur d'autres, ce qui leur donnera temporairement un avantage, mais c'est le cas avec n'importe-quelle technologie nouvelle.

Certes, on peut jouer à se faire peur en inventant des scénarios de SF où ce serait aussi une IA, dotée de super-pouvoirs (de décision), qui prendrait la décision de lancer ces armes autonomes, et où cette IA "échapperait à ses créateurs" en adoptant des critères de décision autres que ceux qu'ils ont prévus - et en trouvant un moyen pour contourner les ordres que lui donneraient ses superviseurs humains (ne serait-ce qu'en appuyant sur un bouton "off" ou en lui coupant le courant). Mais pour cela il faudrait lui supposer une forme de conscience ("malveillante" ? ou "bienveillante" mais interprétant de manière biaisée les règles qu'on lui a inculquées ?), et il me semble qu'on n'en est pas là...

De manière plus réaliste, on peut craindre que des armes autonomes (létales ou incapacitantes) soient utilisées par des États policiers pour traquer et éliminer leurs opposants. Mais c'est ni plus ni moins que ce qu'ils font déjà, même si ça leur demande des moyens humains plus importants (ils ne s'auto-limitent qu'en fonction de la crainte qu'ils ont éventuellement d'aller trop loin et de susciter une révolte à grande échelle de leur population). Et de tels États sont certainement les moins enclins à se laisser interdire (par quel moyen ?) de concevoir de nouveaux moyens de répression. "On" (la communauté internationale) peut juste essayer d'interdire de leur vendre la technologie nécessaire, en espérant que leur retard technologique soit suffisant pour les empêcher - provisoirement - d'en produire eux-mêmes, et en espérant naïvement qu'aucun État plus "respectable" ne contournera cette interdiction ou laissera une entreprise privée le faire.
Mais en l'occurrence il ne s'agit pas d'interdire l'exportation d'un produit matériel. Aujourd'hui, quasiment n'importe-quel pays a les moyens de fabriquer un drone (ou d'adapter un drone "civil") capable par exemple de larguer une grenade. Il s'agit d'interdire de le rendre autonome grâce à l'utilisation d'un logiciel utilisant l'IA au lieu de se contenter d'accepter les ordres reçus par télécommande. Cette interdiction devrait donc concerner quelque-chose d'immatériel (une connaissance) qui, à moins de pouvoir contraindre au secret toutes les sociétés travaillant dans ce domaine (pas forcément à des fins militaires), voire d'éteindre par la contrainte la recherche dans le domaine, va forcément se répandre sans se soucier des frontières.

[Avatar10]

De manière plus réaliste, on peut craindre que des armes autonomes (létales ou incapacitantes) soient utilisées par des États policiers pour traquer et éliminer leurs opposants. Mais c'est ni plus ni moins que ce qu'ils font déjà, même si ça leur demande des moyens humains plus importants (ils ne s'auto-limitent qu'en fonction de la crainte qu'ils ont éventuellement d'aller trop loin et de susciter une révolte à grande échelle de leur population). Et de tels États sont certainement les moins enclins à se laisser interdire (par quel moyen ?) de concevoir de nouveaux moyens de répression. "On" (la communauté internationale) peut juste essayer d'interdire de leur vendre la technologie nécessaire, en espérant que leur retard technologique soit suffisant pour les empêcher - provisoirement - d'en produire eux-mêmes, et en espérant naïvement qu'aucun État plus "respectable" ne contournera cette interdiction ou laissera une entreprise privée le faire.

Il n'y a pas que les Etats policiers, à moins qu'en France on le soit...

L'IA pour reconnaissance faciale pourrait être de mise pour les JO, il y a eu des précédents, débouter par le Conseil d'Etat, mais après...les drones qui survolent les manifestations...il y a un débat éthique qui est ouvert, sur ce point précis (mais sur d'autres aussi) car cela peut mener à une restriction du droit constitutionnel à manifester donc privation de liberté (déjà qu'il faut demander l'autorisation pour dire qu'on est pas d'accord, c'est une boutade...).

Sinon je suis bien d'accord, les instances internationales vont dire ce qui est acceptable, pis voilà....

[Flyingbike]

Il n'y a pas que les Etats policiers, à moins qu'en France on le soit...

L'IA pour reconnaissance faciale pourrait être de mise pour les JO, il y a eu des précédents, débouter par le Conseil d'Etat, mais après...les drones qui survolent les manifestations...il y a un débat éthique qui est ouvert, sur ce point précis (mais sur d'autres aussi) car cela peut mener à une restriction du droit constitutionnel à manifester donc privation de liberté (déjà qu'il faut demander l'autorisation pour dire qu'on est pas d'accord, c'est une boutade...).

Sinon je suis bien d'accord, les instances internationales vont dire ce qui est acceptable, pis voilà....

vos provocations sont insupportables. Vous n'avez jamais pu comprendre que le débat utile est celui qui se base sur des faits, et non sur des avis ? Vous n'intervenez que pour mettre la zizanie dans les discussions et c'est gonflant. le "c'est une boutade" ne vous donne pas plus de marge de manoeuvre à ce sujet là compte tenu de votre dossier.

[yves95210]

Il n'y a pas que les Etats policiers, à moins qu'en France on le soit...

L'IA pour reconnaissance faciale pourrait être de mise pour les JO, il y a eu des précédents, débouter par le Conseil d'Etat, mais après...les drones qui survolent les manifestations...il y a un débat éthique qui est ouvert, sur ce point précis (mais sur d'autres aussi) car cela peut mener à une restriction du droit constitutionnel à manifester donc privation de liberté.

Certes, et je suis bien d'accord que ça mérite un débat (qui n'a pas sa place sur le forum Futura selon la charte...). Mais il me semble que ce n'était pas le sujet du fil. L'article en lien dans le premier message était sous-titré :

La résurgence des conflits pousse les états vers le déploiement d’armes autonomes autorisées à tuer sans supervision humaine. Les chercheurs et la communauté internationale doivent unir leurs forces pour faire interdire ces « robots tueurs ».

J'ai essayé de me limiter à ce sujet, en (me) posant des questions auxquelles il est au moins en partie possible de répondre de manière "scientifique" :
- est-ce que le développement de telles armes constituerait vraiment un changement de paradigme (ne se limitant pas au le champ de bataille), par exemple comme celui qu'a entraîné le développement de l'arsenal nucléaire ?
- peut-on craindre qu'elles "nous échappent" (scénario de SF...) ?
- par quel moyen (technique puisque les moyens politiques ont leurs limites) serait-il possible de les interdire ?

N'étant pas expert du domaine, mes réponses à ces questions ne sont que des opinions personnelles probablement naïves (ni approfondies, ni définitives). C'était juste une manière de recentrer la discussion.

[pm42]

- est-ce que le développement de telles armes constituerait vraiment un changement de paradigme (ne se limitant pas au le champ de bataille), par exemple comme celui qu'a entraîné le développement de l'arsenal nucléaire ?

Bonne question mais je me demande si la réponse relève de la science telle que discutée sur FS. Et il y a forcément une part de prospective qui laisse la porte ouverte à beaucoup de "je crois que".

- peut-on craindre qu'elles "nous échappent" (scénario de SF...) ?

Dans l'état actuel de l'IA non puisqu'on est très loin des scénarios de SF. On n'a aucune idée de la possibilité de faire des IA fortes et à quel horizon et il faudrait qu'elles soient conçues sans mécanismes de sécurité ou capables de les outrepasser ce qui supposerait une "motivation" très humaine.
On serait vraiment dans la SF compte tenu de l'état actuel des connaissances en IA.

- par quel moyen (technique puisque les moyens politiques ont leurs limites) serait-il possible de les interdire ?

Y a t'il un précédent historique ? On arrête d'utiliser une arme parce qu'on a mieux ou parce qu'on a une défense imparable contre.
Là aussi, je doute qu'on relève de la science (mais comme déjà dit, je doute que ce soit le cas de ce fil).

[ArchoZaure]

Pour en revenir au sujet.
Quelques réalisation d'armes impliquant de l'IA d'aide à la visée avec supervision humaine (Il n'y a que dans Star Wars que les robots tirent à côté ) :

Une arme de dispersion assistée par une intelligence artificielle. Ce nouvel équipement israélien fait polémique ou plutôt son système de visée piloté par une IA. Développé par la société Smart Shooter, le viseur Smash équipera les systèmes de dispersion de foules des points de contrôle d'Hébron, ville palestinienne de Cisjordanie.

Ce projet dévoilé par le quotidien israélien Haaretz est en phase de test. Il vise à détecter les mouvement de foule et tirer très précisément sur les individus considérés comme les plus à risque. Par contre, les projectiles utilisés pendant la phase de tests ne seront pas létaux. Il ne s'agira même pas de balles de caoutchouc mais de balles de mousse comme l'a signalé un porte-parole de l'armée israélienne à Haaretz. Il pourrait, par la suite, projeter des grenades assourdissantes ou des fumigènes.

...

La technologie de Smart Shooter n'est pas nouvelle, même si ce sera la première fois qu'elle sera utilisée dans des opérations de maintien de l'ordre. Le viseur Smash équipe des armes utilisées par des militaires. Ces viseurs permettraient à n'importe quel tireur de devenir un sniper aguerri. Même dans des situations de fatigue extrême ou de stress intense. Comme les systèmes de tir des avions de chasse, le projectile atteint la cible verrouillée à distance. Ils sont utilisés par l'armée israélienne, mais aussi par les Marines américains.

...

Ce système équipe aussi des drones terrestres ou aériens équipés de fusil d'assaut ou de précision ou de lance-missile anti char. Sur le salon Eurosatory, Roboteam, un fabricant américain de robots tactiques, a dévoilé un mini blindé équipé de ce dispositif de tir à distance. D'autres versions ont été mises au point pour les hélicoptères sans pilote de Steadicopter ou des drones quadricoptères chargés de faire de la lutte anti-drones.

...

La France travaille également sur ces nouvelles armes. La DGA a dévoilé le programme Avatar lancé par l'Agence innovation défense (AID). Il s'agit d'un drone quadricoptère équipé d'un fusil d'assaut HK-416 pour des tirs à distance contrôlés par un humain sur des cibles situées à plus d'une centaine de mètres.

https://www.bfmtv.com/economie/entre...209260348.html

[SK69202]

- par quel moyen (technique puisque les moyens politiques ont leurs limites) serait-il possible de les interdire ?

Le même que pour le nucléaire, tout le monde en a, le premier qui s'en sert meurt aussi. C'est efficace depuis 1950.

[ArchoZaure]

La vidéo promotionnelle de la société Smart Shooter pour savoir de quoi on parle :
https://www.youtube.com/watch?v=C41CAAMgnoo

[ArchoZaure]

Un autre modèle de la société TrackingPoint (Pas d'IA par contre j'ai l'impression ou pas faut voir)
https://www.youtube.com/watch?v=Pmteh_NChOQ

[yves95210]

Bonne question mais je me demande si la réponse relève de la science telle que discutée sur FS. Et il y a forcément une part de prospective qui laisse la porte ouverte à beaucoup de "je crois que".

Je suis d'accord (et je doutais de l'intérêt d'une telle discussion sur le forum).

Dans l'état actuel de l'IA non puisqu'on est très loin des scénarios de SF. On n'a aucune idée de la possibilité de faire des IA fortes et à quel horizon et il faudrait qu'elles soient conçues sans mécanismes de sécurité ou capables de les outrepasser ce qui supposerait une "motivation" très humaine.

C'est aussi ce que je disais dans mon petit laïus, et c'est bien pour ça que j'évoquais ça comme un scénario de SF...

Y a t'il un précédent historique ? On arrête d'utiliser une arme parce qu'on a mieux ou parce qu'on a une défense imparable contre.
Là aussi, je doute qu'on relève de la science (mais comme déjà dit, je doute que ce soit le cas de ce fil).

Il y a les précédents des traités interdisant certains types d'armes (et de tous les contournements auxquels ils ont donné lieu...), avec éventuellement des moyens techniques d'inspection (au moins dans les pays signataires de ces traités) ou de limitation des exportations des composants permettant leur production.
Mais par quel moyen (autre que du renseignement humain) pourrait-on savoir qu'un pays n'est pas en train de développer secrètement une technologie d'arme autonome reposant sur l'IA (c'est moins "visible" qu'une usine d'enrichissement de l'uranium, par exemple), ou quels sont les "composants" nécessaires au développement d'un logiciel (IA ou pas) dont il serait possible d'interdire l'exportation...?

[yves95210]

Pour en revenir au sujet.
Quelques réalisation d'armes impliquant de l'IA d'aide à la visée avec supervision humaine (Il n'y a que dans Star Wars que les robots tirent à côté ) :
https://www.bfmtv.com/economie/entre...209260348.html

La vidéo promotionnelle de la société Smart Shooter pour savoir de quoi on parle :
https://www.youtube.com/watch?v=C41CAAMgnoo

Un autre modèle de la société TrackingPoint (Pas d'IA par contre j'ai l'impression)
https://www.youtube.com/watch?v=Pmteh_NChOQ

Pas la peine de nous sortir un catalogue. Le sujet n'est pas l'existence de ces armes ou la possibilité d'en développer (ça ne fait aucun doute).

[Bitrode]

C'est aussi ce que je disais dans mon petit laïus, et c'est bien pour ça que j'évoquais ça comme un scénario de SF...

Attention quand même de ne pas sous évaluer le fait que certains soit disant petits "génies" s'alimentent avec la SF.
Voir Musk par exemple avec ses élucubrations martiennes, mais pas que lui:

De la science-fiction aux nouvelles technologies, et vice et versa (theconversation.com)

Rappellons aussi aux novices technologiques que les robots sont une pure création de romans.

Pour les adeptes de wiki qui n'aiment pas trop lire ou pas longtemps:
Robot dans la littérature — Wikipédia (wikipedia.org)

[pm42]

Il y a les précédents des traités interdisant certains types d'armes (et de tous les contournements auxquels ils ont donné lieu...), avec éventuellement des moyens techniques d'inspection (au moins dans les pays signataires de ces traités) ou de limitation des exportations des composants permettant leur production.

En effet mais je pensais aux moyens purement techniques.

Mais par quel moyen (autre que du renseignement humain) pourrait-on savoir qu'un pays n'est pas en train de développer secrètement une technologie d'arme autonome reposant sur l'IA (c'est moins "visible" qu'une usine d'enrichissement de l'uranium, par exemple)

Oui et surtout l'IA est relativement peu coûteuse à développer. Les outils de pointes, les "1ères fois" comme ChatGPT et ses équivalents coûtent cher en effet mais ceux qui arrivent ensuite peuvent faire l'équivalent pour moins cher et quelques années plus tard, c'est à la portée de n'importe qui.
C'est très différent de ce qui est nécessaire pour obtenir du plutonium.

quels sont les "composants" nécessaires au développement d'un logiciel (IA ou pas) dont il serait possible d'interdire l'exportation...?

Une grande partie est open-source, toute la théorie est publique donc c'est absolument impossible.

Et surtout faire une IA autonome léthale sur la base de ce qui est disponible actuellement en terme de reconnaissance de formes, de pilotage de drones, etc, est relativement facile, sans doute plus que de faire un très bon chatbot.
Une vraie prise de décision par contre est encore hors de portée mais on peut déjà faire pas mal de choses.

[yves95210]

Le même que pour le nucléaire, tout le monde en a, le premier qui s'en sert meurt aussi. C'est efficace depuis 1950.

Justement, en quoi est-ce comparable avec le nucléaire ? (au passage, celui-ci, "tout le monde" n'en a pas. Alors que potentiellement l'IA tout le monde en aura...)
S'il s'agit de balancer des salves de missiles (hypersoniques si on veut) munis de têtes nucléaires et n'ayant qu'un besoin tout relatif de précision vue l'étendue des dégâts qu'ils sont capable de causer, on n'a pas besoin d'IA.
Et à moins de menacer de balancer des bombes nucléaires sur les pays (non dotés du nucléaire, sinon ça les fera rigoler) qui oseraient utiliser des armes autonomes (utilisant l'IA) sur le champ de bataille, je ne vois pas ce qui les en empêcherait. A part les contre-mesures spécifiques dont disposerait éventuellement l'adversaire. Mais je ne vois pas en quoi cela change fondamentalement la nature des guerres.

[Bitrode]

Pas la peine de nous sortir un catalogue. Le sujet n'est pas l'existence de ces armes ou la possibilité d'en développer (ça ne fait aucun doute).

C'est tout le sujet justement, tu n'es pas le seul à avoir compris qu'il n'y a aucun doute à les produire
Le tout est de connaitre ceux qui décident de développer ce coté obscur.
On en revient toujours au même avec l'IA: ça sert les intérêts de qui?
Et question subsidiaire: qui finance ces crétins?

[yves95210]

Une grande partie est open-source, toute la théorie est publique donc c'est absolument impossible.

Et surtout faire une IA autonome léthale sur la base de ce qui est disponible actuellement en terme de reconnaissance de formes, de pilotage de drones, etc, est relativement facile, sans doute plus que de faire un très bon chatbot.
Une vraie prise de décision par contre est encore hors de portée mais on peut déjà faire pas mal de choses.

Si la seule prise de décision requise est de tirer dès qu'une cible est identifiée avec une probabilité de 99% (par exemple), je ne vois pas pourquoi elle serait hors de portée...

[Bitrode]

Une grande partie est open-source, toute la théorie est publique donc c'est absolument impossible.

Et surtout faire une IA autonome léthale sur la base de ce qui est disponible actuellement en terme de reconnaissance de formes, de pilotage de drones, etc, est relativement facile, sans doute plus que de faire un très bon chatbot.

Fort heureusement tout ce qui est en open source est plutôt assez mauvais.
Il y a une sacré différence entre faire un truc qui vole à peu près et l'équiper de moyens léthaux sans que ça se sache.
Les cotés obscurs de l'armement ne peuvent être développés que par un état, croire qu'un bricolo va faire ça dans sa cave c'est de la pure intoxication cérébrale.
Par exemple on a jamais vu des terroristes produire ce type d'armes, si c'était si facile on le saurait déjà.

[ArchoZaure]

Si la seule prise de décision requise est de tirer dès qu'une cible est identifiée avec une probabilité de 99% (par exemple), je ne vois pas pourquoi elle serait hors de portée...

C'est vrai, si on se contente de 99% de tirer sur l’ennemi et de 1% sur l'ami, ça dépend finalement juste du niveau d'erreur de ciblage qu'on tolère.

[pm42]

Si la seule prise de décision requise est de tirer dès qu'une cible est identifiée avec une probabilité de 99% (par exemple), je ne vois pas pourquoi elle serait hors de portée...

Tout dépend de ce qu'on appelle "autonome" ou plus exactement du degré d'autonomie.
Mais justement, identifier la cible, déterminer son degré de priorité, la meilleure approche pour la "traiter", etc, c'est quelque chose que les humains font relativement facilement et qui est encore compliqué à faire en IA;
Faire une IA qui tire sur tout ce qui bouge est déjà possible mais peu efficace et sans doute vulnérable à une grande variété de contre-mesures.

En gros, on pourrait déjà prendre des avions de chasse remisés, mettre des IA dedans et les envoyer à l'assaut d'une cible prédéterminée : l'IA va les piloter, savoir éviter voire combattre les avions ennemis, etc. C'est même un projet.

Mais en avoir une qui patrouille au dessus d'un territoire et trouve des cibles, les traite sans épuiser son armement rapidement, ne fait de pas "friendly fire", etc, c'est une autre histoire.
Et là, je ne parle que d'aéroporté : si on est au niveau du sol, tout devient largement plus compliqué.