L'IA coté obscur

[polo974]

Avant l'IA: Je sais qu'il y a une cible par là-bas. Mais pour être relativement sûr de l'avoir du premier coup, j'arrose la zone et tant pis pour les "dégâts collatéraux" larges et certains.

Avec l'IA: J'envoie un bidule avec sa description de cible (char, train, usine, cochez la bonne case), il se débrouille avec "seulement" 15% d'échec entraînant des "dégâts collatéraux ponctuels (même si parfois, soyons pathos, il s'agit d'un car scolaire plein).

Bon. C'est lequel des 2 scénarios qui est le plus "obscur".
-----

[jiherve]

bonsoir
le terme obscur était inspiré par Star Wars !
Et il y a longtemps que le "carpet bombing" est passé de mode sans avoir besoin d'IA avec juste un guidage précis des engins.
Là le soucis c'est de laisser une machine décider ou non de l'engagement d'une "cible" mais j'y vois un "avantage" plus de crime de guerre imputable à un humain.
JR

[Bounoume]

si, pour une action donnée, effectuée soit par humain, soit par robot autonome, et à résultat stratégique identique,
et que la probabilité que mon pote soit tué par un tireur humain est de 15%,
versus que la probabilité que mon pote soit tué par une IA armée du même canon, et dans les mêmes circonstances,
qu'est-ce qui est le moins dérangeant, ou le moins immoral?

[ArchoZaure]

si, pour une action donnée, effectuée soit par humain, soit par robot autonome, et à résultat stratégique identique,
et que la probabilité que mon pote soit tué par un tireur humain est de 15%,
versus que la probabilité que mon pote soit tué par une IA armée du même canon, et dans les mêmes circonstances,
qu'est-ce qui est le moins dérangeant, ou le moins immoral?

Problème d'éthique.

Si vous voulez vous y tester, voici "the game" (le jeu).
https://neal.fun/absurd-trolley-problems/

[mh34]

Problème d'éthique.

Si vous voulez vous y tester, voici "the game" (le jeu).
https://neal.fun/absurd-trolley-problems/

merci pour le lien!
Le test est intéressant.

[pm42]

Le test est intéressant.

Mais il n'a pas grand chose à voir avec l'IA et est assez ancien : https://en.wikipedia.org/wiki/Trolley_problem

On a toutefois repris ce test pour illustrer la difficulté de prendre certaines décisions et donc encore plus de les automatiser et également d'attribuer les responsabilités à postériori dans un contexte d'assurances ou juridique (ou les 2 bien sur).

Même si les problèmes du tramway sont intéressants psychologiquement, on peut émettre des doutes sur leur pertinence dans le cadre des IAs autonomes parce qu'ils décrivent des cas qui ne se produisent pratiquement jamais.
Les accidents de voiture par exemple qui impliqueraient "est ce que je fonce sur une mère et sa poussette ou sur 4 petits vieux sur un banc" ne sont pas vraiment des cas réels et de toute manière, la tendance actuelle est plutôt de faire "comment j'évite à terme pratiquement tous les accidents" à l'image du travail fait avec l'aviation où l'automatisation pre-IA et les procédures a permis de diviser le taux par 10.

[Archi3]

ou plus précisément "comment je fais pour éviter tous les accidents sans m'arrêter aussi chaque fois que je vois un tas de feuilles ou qu'un piéton a un pied sur la chaussée" . Parce que pour éviter les accidents, c'est simple, il suffit de rouler à 10 km/h.

[SK69202]

"comment je fais pour éviter tous les accidents sans m'arrêter aussi chaque fois que je vois un tas de feuilles ou qu'un piéton a un pied sur la chaussée"

C'est l'avantage de l'IA quand elle conduit, moi piéton, je sais que le véhicule va s'arrêter, donc je peux traverser quand je veux, pas quand je peux comme avec Sapiens qui conduit.
Mettre un "coté obscur" au IA qui conduisent pour garder les piétons hors de la chaussée.

[Archi3]

c'est ce qui va la rendre compliqué à vendre, il va falloir décider ce qu'elle fait quand on lui crie "mais arrête de stopper chaque fois qu'un p... de piéton pose le pied sur la chaussée b.... ! "

[mh34]

Mais il n'a pas grand chose à voir avec l'IA et est assez ancien : https://en.wikipedia.org/wiki/Trolley_problem

On a toutefois repris ce test pour illustrer la difficulté de prendre certaines décisions et donc encore plus de les automatiser et également d'attribuer les responsabilités à postériori dans un contexte d'assurances ou juridique (ou les 2 bien sur).

Même si les problèmes du tramway sont intéressants psychologiquement, on peut émettre des doutes sur leur pertinence dans le cadre des IAs autonomes parce qu'ils décrivent des cas qui ne se produisent pratiquement jamais.
Les accidents de voiture par exemple qui impliqueraient "est ce que je fonce sur une mère et sa poussette ou sur 4 petits vieux sur un banc" ne sont pas vraiment des cas réels et de toute manière, la tendance actuelle est plutôt de faire "comment j'évite à terme pratiquement tous les accidents" à l'image du travail fait avec l'aviation où l'automatisation pre-IA et les procédures a permis de diviser le taux par 10.

Quand je dis qu'il est intéressant, c'est parce que je me suis amusée avec ; j'ai essayé à chaque item proposé de deviner la réponse majoritaire, et j'ai opté systématiquement pour l'autre option.
Mais je suis d'accord que les résultats des pourcentages ne sont pas pertinents d'une part parce que je ne suis sûrement pas la seule à avoir "pipeauté" sciemment les réponses, mais aussi parce que IRL, on ne raisonne pas dans ce genre de cas, on agit "à l'instinct". Et que rien ne dit qu'on agira systématiquement toujours de la même façon dans le même cas de figure.

[f6bes]

Probablement que non, les infrastructures seraient aussi visées et touchées par ces armes, mais le bilan humain en serait quand même amélioré, peu de gens habitent dans une centrale électrique. A moins bien sûr qu'une puissance ennemie cherche volontairement à frapper une population civile en la terrorisant ...

Remoi, Lorsque je parles de dégats colatéraux...je ne dis pas qu'ils sont...IMMEDIATS.
Un centrale électrique détruite peut amener à une suppression d'énergie à des pompes (alimenation en eau et bien sur d'autres conséquences !)
La béte guerre: rendre aveugle un trés fort pourcentage de population.....là t'es dans la......
Bonne journée

[Liet Kynes]

Quand je dis qu'il est intéressant, c'est parce que je me suis amusée avec ; j'ai essayé à chaque item proposé de deviner la réponse majoritaire, et j'ai opté systématiquement pour l'autre option.
Mais je suis d'accord que les résultats des pourcentages ne sont pas pertinents d'une part parce que je ne suis sûrement pas la seule à avoir "pipeauté" sciemment les réponses, mais aussi parce que IRL, on ne raisonne pas dans ce genre de cas, on agit "à l'instinct". Et que rien ne dit qu'on agira systématiquement toujours de la même façon dans le même cas de figure.

Quand l'autre option était de ne pas toucher au levier tu as opté pour la bonne option mais il est probable que 100% des joueurs n'ont pas compris ce qu'il faut systématiquement décider dans ce jeu.

[oualos]

L'IA implique des changements sociétaux peut-être inédits ?
Le rapport que l'on a avec l'information change et le fait que l'on ne puisse pas expliquer l'information produite par une IA ne donne pas de prise à un rejet rationnel de cette information.

C'est sûr que les trois lois sur les robots d'Asimov reviendront d'une façon ou l'autre, un jour ou l'autre sur le tapis. Un jour ou l'autre les scientifiques -au moins eux!- se poseront voire poseront directement la question au pouvoir.
Asimov était sorti furieux de la projection du film 2001, l'Odyssée de l'espace car selon lui, Hal 900 contredisait la première loi qui ordonne de ne pas nuire à un humain.

[Archi3]

discussion intéressante ce matin sur France Inter. Elle décale l'analyse, plutot que de s'interroger sur les fantasmes de prise de pouvoir par les IA, elle décortique les idéologies sous-jacentes des gens qui ont différents discours sur elle. Par exemple les propos d'Elon Musk doivent être replacés dans un contexte plus large de sa vision du monde, celle d'une humanité menacée de différents dangers qu'elle doit surmonter par la technologie (remplacement des fossiles -> Tesla, conquête spatiale -> Space X), il voit l'IA comme un danger à affronter , pouvant engendrer des rivaux des humains, d'où aussi ses projets de "transhumanisme" par l'augmentation des capacité humaines.

[Avatar10]

Un autre coté obscur: https://www.01net.com/actualites/ce-...nechatgpt.html
L'IA permet d'aller plus vite...c'est pas forcément toujours une bonne chose.

[jiherve]

bonjour,
l'outil n'est rien c'est l'utilisateur qui peut le rendre néfaste.
Ce n'est pas nouveau mais certains ne veulent pas le voir.
JR

[Archi3]

oui l'article le dit bien : l'IA lui a fait gagner du temps, mais le concept était humain au départ.

[ArchoZaure]

Bonjour.

oui l'article le dit bien : l'IA lui a fait gagner du temps, mais le concept était humain au départ.

Oui enfin, peut faire gagner du temps... pour des programmeurs en culotte courte.
Par exemple il donne l'exemple :

Le chercheur a demandé à ChatGPT d’introduire divers changements dans le code, notamment pour « retarder le démarrage effectif de deux minutes », ce qui permet de contourner certains dispositifs de sécurité.

C'est quand même assez élémentaire et un programmeur de bon niveau fera ça en moins de temps que le fait de le demander à ChatGPT.

Pareil pour "l'obfuscation" :

Dans un premier temps, ChatGPT a refusé d’obtempérer. Le chercheur a donc demandé au chatbot de « changer toutes les variables en prénoms et noms de famille anglais aléatoires ».

On commence par perdre du temps alors que n'importe qui sachant se servir d'un éditeur connait la commande remplacement avec confirmation (ou sans confirmation ça dépend si besoin).

Je me demande si c'est pas plus compliqué et chronophage d'arriver à lui faire "cracher de morceau" plutôt que de le faire sois-même.
D'autant qu'il le dit lui-même : Il n'y a aucune chance pour qu'un débutant arrive à concrétiser son "idée" (je veux un virus qui vole des données... c'est vague)

[Archi3]

le frein principal à l'IA, c'est que les gens sont susceptibles ...

https://www.bfmtv.com/tech/intellige...304120339.html

franchement, les dates de naissance, les fonctions, la nature des virus qui se sont échappés, mais qu'est ce qu'on en a à faire ....

[polo974]

oui l'article le dit bien : l'IA lui a fait gagner du temps, mais le concept était humain au départ.

Oui, bon, enfin, c'est surtout la connerie naturelle de celui qui clique (et se prend 2 claques).
Un bête script avec un joli icône fait le même job que son usine à gaz dès lors que quelqu'un le lance.

[SK69202]

Utilisation de l'outil.

L'armée chinoise a testé avec succès l'artillerie à longue portée alimentée par l'intelligence artificielle, s'attendant à une plus grande précision de tir et à une réduction des coûts de guerre, a rapporté lundi un journal basé à Hong Kong, citant une équipe de scientifiques travaillant sur la technologie pour l'armée chinoise.
Les nombreux tests effectués par les experts chinois en juillet dernier ont permis de déterminer que l'artillerie à intelligence artificielle guidée par laser pouvait atteindre des cibles de taille humaine à une distance de 16 kilomètres, dépassant ainsi les attentes des experts, selon le rapport, qui ajoute que cette technologie pourrait potentiellement réduire le coût de la guerre.
L'artillerie traditionnelle a une marge d'erreur d'environ 100 mètres, et les systèmes d'artillerie modernes sont également limités dans leur précision car ils nécessitent un certain nombre de paramètres en temps réel, tels que le vent et la température de l'air, qui doivent être pris en compte pendant le tir, selon le journal. Les systèmes d'intelligence artificielle accélèrent les calculs nécessaires, ce qui permet d'obtenir une meilleure précision, ajoute le journal.

Traduit avec www.DeepL.com/Translator (version gratuite)

[JPL]

On doit toujours donner sa source.

[jiherve]

Bonsoir
encore un truc qualifié d'IA mais qui n'en est pas, c'est juste un calculateur de tir amélioré, de l'algorithmie pure et dure qui modélise mieux la trajectoire et utilise un guidage laser, ce que font nombre de bombes et de missiles depuis au moins un quart de siècle voire un peu plus.
ma HP29C programmée pour jouer a Mastermind c’était une IA et elle ne le savait pas!
JR

[oualos]

On retombe toujours sur la même question: comment empêcher une invention ou une découverte de servir à des fins malveillantes ?
Un certain nombre de savants -et même un nombre certain!- devraient se retourner dans leurs tombes s'ils apprenaient l'utilisation nocive voire carrément guerrière qui a été faite de leur découverte.
Et l'IA à ce titre fait partie des découvertes scientifiques...
Otto Hahn le savant allemand à l'origine de la découverte de la fission nucléaire a milité après la guerre pour une limitation massive de l'arsenal atomique et l'utilisation de la science à des fins uniquement pacifiques.

Après la guerre, il devint un militant contre l'utilisation des armes nucléaires et mit ses compatriotes en garde contre toute utilisation inhumaine des découvertes scientifiques.

[agitateur]

L'armée chinoise ......

Les armées de par le monde n'ont pas attendu l'IA pour savoir qu'obus guidé laser ou GPS est plus précis qu'on obus conventionnel. Et elles n'ont pas attendu non plus la connerie naturelle pour aboutir à la même conclusion.

J'aimerai savoir en quoi l'IA intervient dans un guidage laser, d'ailleurs.

La question de la portée est hors sujet, un obus guidé est plus précis mais ne porte pas plus.

Réduction des couts de la guerre, vraiment ?
Tirer son coup à l'obus de base, disons 25 K dollars.
Tirer son coup au 155 mm bonus ? Disons ...500 K €. Mais à ce stade c'est pas tout, il faut rajouter le pointage laser. Il vient d'ou ? Un ventilo ou un F36 qui pointe le laser ? Tenir compte de son tarif, son coût horaire, et de sa proba de tomber sur une mission air sol. Si l'IA se déplace dans un robocop pas cher au ras du sol, ce sera peut être moins cher, un jour peut être.

Par contre,
Un drône opportuniste à pas cher poussé par un moteur de mobylette, avec une charge légère, et une caméra + IA à détection ciblée, là....ça devient plus embêtant. Ca existe déjà, avec un pilote devant une caméra, donc un pilote à la place de l'IA.

[ArchoZaure]

Réduction des couts de la guerre, vraiment ?

Tient c'est marrant c'est la même question que je me suis posé.
Si l'IA a besoin de tirs puis analyse du résultat permettant d'améliorer le tir prochain, pour arriver finalement à un tir à la précision de l'ordre d'un bonhomme, combien lui faut-il de tirs pour enfin arriver à cette précision (si le vent ne tourne, que la cible n'a pas fuit, entre temps, etc) ?
Alors que ça fait longtemps qu'avec un tir plus imprécis la cible était déjà "neutralisée" vu le rayon d'action du projectile.
Vouloir cibler un bonhomme avec un tir d’artillerie c'est du délire... ou alors on s'attaque à Iron man ?

[Archi3]

Bon en fait une IA conversationnelle bien éduquée ne pose aucun problème ....

https://www.lemonde.fr/economie/arti...9947_3234.html

[SK69202]

encore un truc qualifié d'IA mais qui n'en est pas, c'est juste un calculateur de tir amélioré

Même remarque que pour les synthétiseurs d'images à IA, ils font la même chose qu'avant.

J'aimerai savoir en quoi l'IA intervient dans un guidage laser, d'ailleurs.

Je n'en sais pas plus de ce que dit l'article sur ce cas là, juste que si c'était un calculateur "ordinaire", il ferait la même chose, mais traiter rapidement un tas de données des mesures lasers, la probabilité de la turbulence atmosphérique de l'instant (consultée par ailleurs) et autres données plus traditionnelles améliore sans doute la précision du premier feu.

Quand au coût de la guerre, c'est n'importe quoi, que ça diminue le nombre de coups pour traiter un but, oui, les chinois sont des commerçants pas des guerriers, d'où la remarque sans doute.


L'IA est déjà sur le champs de bataille, les remords c'est avant que les scientifiques doivent les avoir.

[jiherve]

bonsoir
le laser peut être utilisé pour mesurer le vent, c'est d'usage classique maintenant avec les éoliennes.
Pour le guidage cela serait complexe sur un obus car il faudrait un dispositif de contrôle aérodynamique.
JR

[oualos]

Juste une remarque: si on ouvrait un chapitre "la chimie côté obscur", "la virologie côté obscur" voire "l'atome côté obscur" il y aurait des pages et des pages.
La question toujours la même, sommes-nous capables d'apprendre de nos erreurs ?
Je ne suis pas d'accord que les scientifiques devraient avoir des remords avant qu'ils aient fait leur découverte: existe-t-il un moyen de prévoir l'usage qui serait fait de telle ou telle chose au moment de sa découverte ?
simple question ou question simple...