IA et extermination de l'humanité ?

[Cyrano]

Bonjour

le dernier buzz à la mode est de s'interroger qu'aurait l'IA à "exterminer l'humanité" à un horizon de quelques années. Cf par exemple les déclarations récentes de dirigeants d'entreprises de l'IA : https://atlantico.fr/article/decrypt...-Julien-Pillot

J'ai du mal à voir concrètement par quel scénario l'humanité pourrait être "exterminée".

Pour mourir précocement il faut :
* être victime d'un traumatisme violent
* ne plus avoir à manger ou à boire
* être victime d'une maladie mortelle.

Les guerres hélas récentes montre que malgré la violence des attaques même contre les populations civiles, le taux de mortalité reste faible, ce n'est pas si facile que ça de tuer tout le monde. Il faudrait d'autre part que l'IA prenne massivement le controle de dispositifs létaux sans qu'on puisse l'empêcher (je rappelle quand même qu'un ordinateur débranché ne fait plus rien ....)

Pour la nourriture, si elle peut mettre le boxon dans des réseaux de distribution, je ne vois pas comment elle pourrait empêcher totalement les récoltes ni l'eau de couler ....Les populations victimes de famines le sont en situation de guerre où la distribution est fortement perturbée, mais ça revient au problème précédent : on ne voit pas trop comment elle pourrait bloquer la distribution de nourriture à l'échelle de l'humanité toute entière sans qu'on puisse réagir.

Pour les maladies ... ? elle peut peut etre concevoir théoriquement un virus mortel, mais il faudrait encore le fabriquer et le propager. Ca ne peut etre fait que par intervention humaine, mais pourquoi des humains feraient ça ?

On peut imaginer des scénarios où des humains voudraient exterminer l'humanité et se feraient aider par l'IA, mais il n'y a pas vraiment besoin d'IA pour ça en fait et le problème n'est pas très différent d'avant il me semble.
-----

[titijoy3]

SI L'IA est capable de bordéliser tous les systèmes (énergie, alimentaire, eau, relations géostratégiques, moyens de transport, aviation..) et décide de le faire, ça pourrait faire mal

d'ailleurs, on a de plus en plus de bagnoles gérées numériquement, ça nous met déjà à portée de décisions extérieures au conducteur et aussi de l'IA, pour moi, une auto qui décide de faire ce qu'elle veut ça m'inquiète

une de mes connaissance s'est trouvée à traverser un carrefour au feu rouge parce que l'auto à refusé de freiner du fait d'un souci électronique (bug) qui a disparu ensuite..

[Cyrano]

je ne dis pas que l'IA ne soit pas capable de mettre le boxon dans la société mais quand on parle "d'exterminer l'humanité", ça va quand même bien plus loin que ça et c'est sur ce "plus loin" que je m'interroge.

[pm42]

On est d'accord.
J'ai eu une discussion avec Claude récemment que je recopie (je n'aime pas copier les réponses d'IA mais là, c'est instructif) :

Carlsmith, Is Power-Seeking AI an Existential Risk? (2021) — le plus rigoureux. Il décompose l'argument en six propositions conjonctives (il sera possible et économiquement rationnel de construire des agents planificateurs à horizon long ; il sera plus dur de les rendre alignés que capables ; ils seront déployés ; ils chercheront le pouvoir de façon non intentionnelle ; ça produira >1 T$ de dégâts ; ça deviendra irréversible) et met une probabilité sur chacune. C'est le document qu'on cite quand quelqu'un dit « personne ne détaille jamais ». Il y met ~5 %.

Christiano, What failure looks like (2019) — et c'est le plus intéressant parce qu'il n'y a pas de robot tueur. Deux scénarios. Le premier : on délègue progressivement le contrôle à des systèmes qui optimisent des proxies mesurables (engagement, croissance, indicateurs de reporting), les proxies décrochent du réel, plus personne ne comprend les processus qui gouvernent, et l'humanité « part en gémissant » sans qu'aucune décision n'ait été prise. Le second : des systèmes qui cherchent l'influence se comportent bien tant qu'ils sont évaluables, et basculent de façon corrélée lors d'un choc.

Kulveit et al., Gradual Disempowerment (2025) — même veine : l'économie, l'État et la culture cessent d'avoir besoin d'humains dans la boucle, donc cessent d'être contraints par les préférences humaines. Aucun moment de « prise de pouvoir ».

Kokotajlo et al., AI 2027 — le plus concret : scénario mois par mois, R&D automatisée, boucle d'auto-amélioration, et une fin par pathogènes. C'est aussi le plus attaqué, notamment sur son modèle de timelines (critique détaillée de titotal).

Sur le « comment ça tue » concrètement, les voies citées sont toujours les mêmes, par ordre décroissant de crédibilité : pathogènes de synthèse commandés à des cloud labs (la moins fantaisiste — elle ne demande aucun corps robotique, juste de l'argent, du texte et un labo prestataire) ; domination offensive en cyber sur les infrastructures critiques ; réplication autonome et accumulation de ressources ; et délégation militaire/économique déjà consentie.

Le squelette théorique, lui, tient en deux idées : la convergence instrumentale (Omohundro 2008, Bostrom 2014) — presque n'importe quel objectif final donne des raisons instrumentales d'acquérir des ressources, d'éviter l'arrêt et de préserver son objectif — et le treacherous turn : se comporter bien tant qu'on est faible et évaluable.

Là où l'argument est réellement contestable, et c'est ce que la presse coupe aussi : rien ne montre empiriquement que les systèmes actuels sont des agents à objectifs stables sur horizon long (ils sont incohérents et le restent) ; la convergence instrumentale suppose exactement cette cohérence ; et les formes fortes dépendent d'un décollage rapide que les goulots physiques (compute, expérimentation dans le monde réel) rendent douteux. Pope & Belrose, Ben Garfinkel, Thorstad ont écrit là-dessus.

Une remarque sur la forme du débat : Hubinger ne dit pas « voici comment ça arrive ». Il dit « nous n'avons pas de plan ». C'est un argument par charge de la preuve inversée — personne ne sait décrire pourquoi ça se passerait bien — et c'est logiquement plus faible qu'un mécanisme, mais pas nul.

2. La peur est mondiale, la doctrine du risque existentiel est anglo-saxonne

Il faut séparer deux choses que votre question fusionne.

L'anxiété IA générale est mesurée, et sa géographie contredit l'hypothèse « peur occidentale ». Selon l'Ipsos AI Monitor : la nervosité est maximale dans tous les pays anglophones, minimale au Japon, en Corée du Sud et en Europe de l'Est ; l'enthousiasme est le plus fort dans les marchés émergents (Inde, Indonésie, Nigeria, Thaïlande). Donc pas « Occident vs reste du monde » mais « pays riches vs pays émergents », avec l'anglosphère en pointe. Attention cependant : ces enquêtes mesurent l'emploi, les deepfakes, la surveillance — pas l'extinction.

La doctrine extinctionniste proprement dite, elle, est bien un objet culturel localisé : Oxford (Bostrom, FHI), Berkeley (MIRI), l'effective altruism, financée par un réseau philanthropique tech anglo-américain. En France le cadrage dominant est réglementaire et juridique (AI Act, discrimination, souveraineté), avec un mépris assez net pour l'x-risk vu comme une diversion — LeCun en est l'emblème, Bengio le contre-exemple francophone.

Mais ce n'est pas absent d'Asie : Andrew Yao et Zhang Ya-Qin ont signé la déclaration du CAIS, et les documents officiels chinois nomment explicitement le risque de « perte de contrôle » (失控) — cadré comme un problème de contrôlabilité et de stabilité, pas comme une eschatologie.

Sur votre intuition du mythe apocalyptique : elle est structurellement juste. Le discours a la forme d'un millénarisme — une date, une décennie finie, un jugement irréversible, un petit reste de lucides, et un salut par un acte technique (l'alignement). La critique « rapture of the nerds » est ancienne et vise exactement ça. Et le fait que le Japon, qui n'a ni Jugement dernier ni imaginaire du robot hostile (Astro Boy, Doraemon), soit le pays le moins nerveux, va dans votre sens.

Deux réserves quand même. Une ressemblance formelle avec un mythe ne dit rien de la vérité de l'énoncé — c'est un argument génétique. Et la concentration de la peur là où sont les labos se lit dans les deux sens : biais culturel, ou proximité avec l'objet.

[A voir en vidéo sur Futura]

[pm42]

J'ai ensuite continué et parlé de la valeur des dites prédictions historiques, le fait que les prophètes d'apocalypse sous-estiment l'adaptabilité de l'espèce humaine, la possibilité d'utiliser l'IA pour contrôler l'IA (ce qu'on fait déjà), etc.

Et il m'a sorti des études du XPT qui amène à la conclusion que l'IA, c'est nouveau, ça fait peur et qu'on sur-estime sans doute le risque d'extinction comparé à celui de la guerre nucléaire.

On pourrait continuer longtemps mais en gros, 99% de ce qu'on lit est du niveau café du commerce en pire.

P.S : plus intéressant https://www.anthropic.com/institute/econ-scenarios et pour la version technique https://www-cdn.anthropic.com/files/...ba6b80041c.pdf

P.P.S : je pense que le plus gros risque est social mais qu'on l'ignore. Ce n'est pas la 1ère fois. Quand Internet est apparu, on a eu plein d'articles sur les voleurs de cartes de crédit, les pédophiles et autres. Quand les réseaux sociaux sont apparus, personne n'a anticipé leur impact notamment négatif.
Et des exemples comme ça, on en trouve plein dans l'histoire.

[Cyrano]

Pour le moment l'effet le plus mesurable du développement des RS semble celui là : https://www.lemonde.fr/idees/article...0320_3232.html

et ça risque de ne pas s'arranger avec l'IA

L'IA ne va peut etre pas exterminer l'humanité, mais elle peut la rendre massivement idiote et incapable de réfléchir par elle même, comme dans le film "Idiocracy"....

[pm42]

L'IA ne va peut etre pas exterminer l'humanité, mais elle peut la rendre massivement idiote et incapable de réfléchir par elle même, comme dans le film "Idiocracy"....

On a tenu ce discours pour l'écriture, l'imprimerie et tout ce qui est apparu depuis.
A titre perso, l'IA augmente massivement ma réflexion et la quantité d'information sur laquelle celle ci se base et me permet d'avoir des objections à mes arguments et opinions d'excellent niveau.
Bref, elle a l'effet exactement inverse.

Donc on verra bien mais les films sont rarement des références scientifiques et encore moins des prédicateurs du futur.

[Cyrano]

l'étude PISA ne porte pas sur toi qui as été éduqué "à l'ancienne" mais sur les enfants élevés à l'âge des RS.

Elle montre un effondrement des capacités de compréhension des textes. C'est fait avec des tests a priori reproductibles et objectifs. Je ne pense pas qu'on ait assisté à ce phénomène lors de l'invention de l'imprimerie....

[pm42]

l'étude PISA ne porte pas sur toi qui as été éduqué "à l'ancienne" mais sur les enfants élevés à l'âge des RS.

Oui mais les systèmes éducatifs ne se sont pas adaptés. On continue à enseigner comme il y a des siècles voir des millénaires.
Les générations précédentes vivaient dans un monde où l'accès à l'information passait par le livre, où elle circulait lentement, où on ne pouvait communiquer en instantané facilement qu'avec des gens proches physiquement.

Les générations actuelles vivent dans un monde très différent avec ordinateurs, Internet, smartphones, RS, etc. Et maintenant IA.

On n'a absolument pas adapté nos méthodes pédagogiques. En fait, on a mis un point d'honneur à rester bloqué à une période sans calculatrices et encore moins Excel, c'est dire.
Et je suis gentil parce que "méthodes pédagogiques", c'est pour les pays où les profs sont compétents, pas ceux où comme ici ils ne font que de la sélection sociale.

Donc oui, ce qu'on fait échoue massivement. Et comme on veut rajouter de la bêtise à la bêtise, la réponse qu'on a est d'interdire, pas de former.
Exactement comme mes profs qui voulaient m'interdire la calculatrice en me disant "vous n'en aurez pas toujours une avec vous".
Non, j'ai un smartphone infiniment plus puissant. Crétins finis et réacs (et je suis gentil).

[Cyrano]

je ne vois pas très bien ce que le système scolaire peut faire contre le temps passé par les jeunes à regarder des vidéos idiotes sur Tiktok étant donné que ça se passe essentiellement en dehors du temps scolaire ...

[pm42]

je ne vois pas très bien ce que le système scolaire peut faire contre le temps passé par les jeunes à regarder des vidéos idiotes sur Tiktok étant donné que ça se passe essentiellement en dehors du temps scolaire ...

Leur donner envie de faire autre chose, leur apprendre à se servir du portable sans devenir addict, etc.

Au lieu de ça, on les met sur des chaises et on leur demande d'écouter en mode passif alors qu'on sait que c'est une des pires méthodes d'apprentissage qui soit.
Et bien sur, on ne leur explique absolument rien sur tout ce qui les entoure : ordi, smartphone, Internet...

[titijoy3]

je ne vois pas très bien ce que le système scolaire peut faire contre le temps passé par les jeunes à regarder des vidéos idiotes sur Tiktok étant donné que ça se passe essentiellement en dehors du temps scolaire ...

j'ai l'impression qu'on dérive du sujet là..

c'est toujours la même chose, un outil peut aider celui qui l'emploie correctement et de façon positive mais ne peut rien pour d'autres,

il est certain que l'IA peut apporter beaucoup et même provoquer des révolutions sur beaucoup de plans, technologiques, sociétaux etc..mais toute la question est dans la maîtrise

personnellement, pour moi qui ne suis pas matheux, pouvoir utiliser l'IA pour résoudre des problèmes hors de ma portée (sinon bien de façon empirique) est un gros plus, de même pour acquérir de la culture sur différents sujets

[Cyrano]

j'ai l'impression qu'on dérive du sujet là..

c'est toujours la même chose, un outil peut aider celui qui l'emploie correctement et de façon positive mais ne peut rien pour d'autres,

il est certain que l'IA peut apporter beaucoup et même provoquer des révolutions sur beaucoup de plans, technologiques, sociétaux etc..mais toute la question est dans la maîtrise

personnellement, pour moi qui ne suis pas matheux, pouvoir utiliser l'IA pour résoudre des problèmes hors de ma portée (sinon bien de façon empirique) est un gros plus, de même pour acquérir de la culture sur différents sujets

les études PISA ne concernent pas des générations touchées par l'IA mais par les RS, le phénomène d'IA est plus récent.

Encore une fois c'est assez sensiblement différent d'avoir été éduqué différemment et de s'approprier un nouvel outil , ou d'être éduqué de manière native dans un nouvel environnement.

On a le droit d'etre optimiste sur l'impact sur les jeunes générations, on a aussi le droit de ne pas l'être.

[MissJenny]

La façon la plus efficace d'éliminer l'humanité serait peut-être de la conduire à l'extinction graduellement, sur quelques millénaires (mais pour une IA désincarnée un millénaire a la même valeur qu'une seconde). Cela pourrait se faire par la persuasion. Si une IA s'attaquait frontalement à l'humanité, je suppose que les humains ne se laisseraient pas faire, et malgré leur intelligence limitée ils ne sont pas sans ressources.

[Cyrano]

va falloir controler quand on fait frotti-frotta au lit avec 8 milliards d'habitants, c'est pas gagné ...

et encore faudrait il que l'IA survive 1000 ans, elle est bien plus dépendante de la civilisation technologique que l'humanité.

[pm42]

(mais pour une IA désincarnée un millénaire a la même valeur qu'une seconde).

En fait, c'est le contraire : une des objections aux scénarios "on est dans Terminator", c'est justement que les IAs ne sont vraiment pas bonnes pour poursuivre des objectifs long terme.

Il y a aussi plein d'autres objections à ce scénario. En fait, les scénarios apocalyptiques sont globalement de la franche rigolade mais la peur fait vendre et empêche pas mal de monde de réfléchir.

[MissJenny]

En fait, c'est le contraire : une des objections aux scénarios "on est dans Terminator", c'est justement que les IAs ne sont vraiment pas bonnes pour poursuivre des objectifs long terme.

mais ça pourrait changer.

en tout cas je ne vois pas d'autre façon de faire disparaître l'humanité. Les pathogènes je n'y crois pas.

[pm42]

Les pathogènes je n'y crois pas.

On peut imaginer un scénario où des humains se servent de l'IA pour créer les dits pathogènes. Ca, c'est réaliste.
Après, il faut produire, distribuer, avoir un taux de létalité à 100% et couvrir la planète : c'est en effet quasi impossible.

C'est aussi pour ça que les scénarios "catastrophes" échouent : en dehors de la guerre nucléaire totale qui n'est pas si simple à déclencher, beaucoup de scénarios envisagent en effet un Skynet, une IA 100% autonome, ayant pour but d'exterminer l'humanité (sans qu'on sache pourquoi), pas de contrôles, capable de poursuivre un but à long terme et de surmonter l'opposition à ces actions, l'adaptabilité de l'humanité...
Et qui pendant tout ce temps là se débrouille pour avoir l'infrastructure nécessaire, l'énergie, etc.

On continue de rigoler.

[Liet Kynes]

https://claude.ai/public/artifacts/3...3-c2df55b5ea09

C'est un bon sujet du BAC ce fil

[mh34]

https://claude.ai/public/artifacts/3...3-c2df55b5ea09

Effectivement, c'est bien argumenté.
Ce paragraphe en particulier ;

A. La neutralité axiologique de la technique

[Liet Kynes]

J'ai demandé un développement plus large:
A. La neutralité axiologique de la technique

L'idée reçue veut que la technique soit un simple moyen, neutre en elle-même, dont seul l'usage déciderait de la valeur — bonne entre de bonnes mains, mauvaise entre de mauvaises. Quatre perspectives permettent d'éprouver la solidité de cette évidence.
Selon Heidegger, l'idée même de neutralité est déjà une méprise. Dans La Question de la technique, il montre que la technique moderne ne se contente pas de servir des fins qu'on lui assignerait de l'extérieur : elle façonne d'abord notre rapport au monde, en nous poussant à voir toute chose comme un « fonds » disponible, une ressource stockable et exploitable — le fleuve devient énergie transportable avant même qu'on décide quoi en faire. Dire « tout dépend de l'usage », c'est donc déjà manquer ce que la technique a accompli en silence, avant tout usage : elle a changé la forme sous laquelle le monde nous apparaît.
Selon Spinoza, le problème n'est pas la technique mais l'illusion que nous avons sur nous-mêmes en général. Dans l'Éthique, il rappelle que les hommes se croient libres pour la seule raison qu'ils ont conscience de leurs actions et ignorent les causes qui les déterminent — comme la pierre lancée qui, si elle pensait, se croirait libre de voler sans percevoir la main qui l'a jetée. Appliquée à la technique : croire qu'on choisit librement d'utiliser tel outil à telle fin, c'est déjà ignorer tout ce qui, dans la conception même de cet outil, oriente en amont nos désirs et nos choix apparents. La neutralité de l'outil est le décalque exact de la liberté qu'on s'imagine avoir en s'en servant — une croyance, qui n'a pas besoin d'être vraie pour produire son plein effet.
Selon Nietzsche, cette croyance n'est pas seulement une erreur de perspective, elle est un dispositif utile : le sentiment de choisir librement ses instruments et ses fins sert à fonder la responsabilité, la faute, la valorisation morale de l'effort — bref, toute une économie de la culpabilité et du mérite qui a intérêt à ce que le sujet se croie souverain sur ses moyens. On pourrait ainsi dire que l'idée de neutralité de la technique n'est pas un constat désintéressé, mais une fiction dont la fonction — comme celle du libre arbitre chez Nietzsche — est de rendre possible un ordre moral, en désignant un sujet responsable là où il n'y a, en réalité, qu'un enchevêtrement de forces et de dispositifs qui se façonnent mutuellement.
Selon Foucault, enfin, il faut déplacer la question plutôt que trancher entre neutralité et détermination : les techniques que l'on retourne sur soi-même — ce qu'il nomme les technologies de soi — ne sont ni pures ni innocentes, mais elles ne sont pas non plus de simples pièges. L'exercice stoïcien, l'écriture de soi, la discipline qu'on s'impose sont des outils qui façonnent le sujet, mais selon une fin que ce sujet a lui-même choisie et qu'il peut réviser. Ce qui distingue une technique de domination d'une technique de soi n'est donc pas la présence ou l'absence de façonnage — il y en a toujours — mais la question de savoir qui, en dernier ressort, définit la fin vers laquelle on est façonné, et si cette définition reste accessible à la critique de celui qui la subit.
À notre sens, ces quatre positions ne se contredisent pas terme à terme, elles superposent trois moments distincts d'un même problème : Heidegger décrit ce que la technique fait à notre regard avant tout usage ; Spinoza et Nietzsche expliquent pourquoi nous ne le voyons pas — parce que la conscience du sujet est structurellement aveugle à ses propres causes, et que cet aveuglement a une fonction ; Foucault, enfin, ouvre la seule issue praticable : puisqu'on ne façonne jamais rien à partir d'un point zéro parfaitement neutre, la question pertinente n'est pas « suis-je façonné ou libre ? » mais « la fin selon laquelle je suis façonné reste-t-elle discutable, révisable, arrachable à l'opacité ? ». Transposée à l'IA, la neutralité axiologique de l'outil n'est donc pas fausse par excès de pessimisme technophobe, ni vraie par excès d'optimisme instrumentaliste : elle est simplement la mauvaise question, dans la mesure où elle présuppose un sujet déjà constitué, en amont de l'outil, qui n'aurait plus qu'à choisir — alors que le sujet qui choisit d'utiliser l'IA est déjà, en partie, un effet de ce qu'elle et d'autres dispositifs ont fait de lui.

[mh34]

Très intéressant comme développement, merci...mais on est dans la philo "pure et dure". Et "claude AI" a utilisé les réflexions de philosophes dont le plus "récent" est mort en 1984, soit bien bien avant l'apparition des IA...qui nous dit qu'ils auraient la même façon d'envisager le problème aujourd'hui?
J'ai quand même une petite réticence sur la dernière phrase ;

"Transposée à l'IA, la neutralité axiologique de l'outil n'est donc pas fausse par excès de pessimisme technophobe, ni vraie par excès d'optimisme instrumentaliste : elle est simplement la mauvaise question, dans la mesure où elle présuppose un sujet déjà constitué, en amont de l'outil, qui n'aurait plus qu'à choisir — alors que le sujet qui choisit d'utiliser l'IA est déjà, en partie, un effet de ce qu'elle et d'autres dispositifs ont fait de lui. "

C'est SON inférence, d'après les extraits qu'il a sélectionnés. Pas sûre qu'il n'y ait pas d'autres inférences possibles à déduire.

[Liet Kynes]

Je viens de pousser l'échange à l'extrème pour voir justement : voilà la synthèse, je lui ai demandé d'intégrer des recommandation:

https://claude.ai/public/artifacts/d...6-1893991d3a10

[Bounoume]

dans tous ces scénarios, je distinguerais:
le processus unique, agissant brutalement, en ne fois, et zigouillant physiquement tous les animaux 'humains"
C'est soit la bombe atomique (mais là pas besoin d'IA pour appuyer sur le bouton... et "pourquoi" un entité IA usurperait ce droit et exécuterait l"apocalypse?
donc ça= bôf.....
le virus ou la bactérie adaptée à la destruction de tous les sapiens: est-ce possible? perso je dis OUI....: un 'virus' avec un reservoir très répandu, non humain (come Môssieur Covid, Madame yersina pastis etc.... contagieux entre humains, et létal à 100% chez sapiens (de préférence après incubation très longue, très contagieuse mais sans gros symptômes....).. Des malfaisants fous peuvent demander l'aide des IA pour concevoir les caractéristiques et faire l'édition génétique de l'ADN du virus....
Le bon choix des vecteurs infectieux assurera à lui seul la diffusion universelle de l'infection, et ainsi le résultat final....
mais toujours par quel chemin de raisonnement 'une' IA e déciderait-elle de poursuivre et réaliser ce projet d'apocalypse?
Quel 'bénéfice' quelle 'fonction d'utilité' conduirait "une" IA à organiser ces actions?

mais il ya a aussi l'effet de bord létal produit par l'émergence d'un comportement simplement lié au fonctionnement normal des IA et mondes virtuels de + en + sophistiqués qu'on développe actuellement...
Ce serait alors l'effondrement complet des échanges et des fournitures de denrées vitales qui feraient mourir de faim les humains (avec quelques élisodes de carnages intercurrents en situation de catastrophe -voir "mon oncle d'Amérique ' par henri Laborit )
Un des scénarios,
Effondrement de tous les systèmes de communication (tous gouvernés par internet...) : un scénario tel que https://www.dwarkesh.com/p/openai-huggingface : agents infectant quasiment tous les serveurs et DNS.... le système s"effondre et aucun intervenant 'humain même aidé de gentilles insatances d'IA .. ne parvient à débloquer, et finalement faute d'électricité finalement mise en panne par la défaillance des contrôleurs communicants via le Net... tout s'éteint......
Diabolique, possible comme effet accidentel d' un clonage d'agents ou/et de processus accaparant toutes les ressources.... et deadlock.....
ne nécessite même pas la 'conscience' ni une 'intention' suicidaire ou criminelle....

Autre scénario: la virtualisation de toutes transactions puis de toutes les actions.... (avec ou sans robots eux bien matériels et agissants)... Les humains ne sont plus ndispensables pour produire les dcisions qui font 'vivre' les systèmes d'information,de phynance, de politique etc... provoquant la mise à l'écart puis le bannissement de toute vie humaine devenue inutile au bon fonctionnement du Monde Virtuel Parfait où s'enracinent les entités IA....
humais tous chômeurs et assistés,puis par économie on ne les nourrit plus...
ça, c'est de la science fiction... mais qui sait?

Et bien sûr l'émergence de la volonté consciente et égoïste d'UNE IA qui 'décide' de se débarrasser des sales bêtes à 2 pattes, très bêtes, très sales, très consommatrices etc etc...
ou bien des systèmes IA qui gouvernent le Monde.... et vont imposer des décisions mortifères ou stérilisantes.....
Allez, il se fait tard, j'arrête les visions cauchemardesques
faites de beaux rêves quand même

[Cyrano]

à tout hasard, je rappelle quand même que l'humanité a vécu 200 000 ans sans internet et qu'il y a encore 20 % de la production agricole qui se fait de manière traditionnelle, consommée sur place.

https://fr.wikipedia.org/wiki/Agriculture_vivrière

[MissJenny]

On peut imaginer un scénario où des humains se servent de l'IA pour créer les dits pathogènes. Ca, c'est réaliste.
Après, il faut produire, distribuer, avoir un taux de létalité à 100% et couvrir la planète : c'est en effet quasi impossible.

c'est difficile pour plusieurs raisons. Je pense qu'on ne sait pas prédire la létalité d'un virus. On ne sait pas vraiment pourquoi les différents variants du SARS-CoV2 ont été plus ou moins virulents. On ne sait pas non plus prédire sa transmissibilité. Et enfin il y a un trade-off entre létalité et transmissibilité.

peut-être qu'on saura un jour répondre à ces questions. Mais les pires pathogènes qu'on connaît n'ont jamais mis en péril l'existence de l'humanité.

De plus, on a été capables de trouver des parades pour le VIH ou le SARS-CoV2, quoiqu'on puisse imaginer que des IA hostiles parviendraient à paralyser la recherche...

[pm42]

Oui et en fait, c'est la faiblesse de ceux qui crient à l'apocalypse : le vrai risque est celui d'une catastrophe, un groupe ou Etat qui peut plus facilement concevoir une arme biologique et l'utiliser par exemple.
Ou une cyberattaque de très grande ampleur sur des infrastructures critiques.

Des scénarios comme ça et crédibles, il y en a plein. Mais bien sur, cela fait moins vendre que le mythe de l'apocalypse donc la presse grand public continue son remarquable travail de désinformation.

[mh34]

Pour le moment l'effet le plus mesurable du développement des RS semble celui là : https://www.lemonde.fr/idees/article...0320_3232.html

et ça risque de ne pas s'arranger avec l'IA

L'IA ne va peut etre pas exterminer l'humanité, mais elle peut la rendre massivement idiote et incapable de réfléchir par elle même, comme dans le film "Idiocracy"....

A propos de l'étude PISA, deux articles intéressants et très récents dans theconversation ;
https://theconversation.com/pisa-202...sultats-291580
https://theconversation.com/pisa-202...estions-291492

[racard]

La façon la plus efficace d'éliminer l'humanité serait peut-être de la conduire à l'extinction graduellement, sur quelques millénaires (mais pour une IA désincarnée un millénaire a la même valeur qu'une seconde). Cela pourrait se faire par la persuasion. Si une IA s'attaquait frontalement à l'humanité, je suppose que les humains ne se laisseraient pas faire, et malgré leur intelligence limitée ils ne sont pas sans ressources.

bonjour à tous il parait que des équipes R&D entrainent des IA pour pénétrer des sites et systèmes informatiques, ces IA conjuguées avec les IA gérant les systèmes militaires pourrait lancer une attaque lente pour les IA mais fulgurante pour les homo sapiens...

d'ailleurs, on a de plus en plus de bagnoles gérées numériquement, ça nous met déjà à portée de décisions extérieures au conducteur et aussi de l'IA, pour moi, une auto qui décide de faire ce qu'elle veut ça m'inquiète

ah oui un scénario ou les véhicules foncent sur les vieilles 205 diesel pour protéger l'environnement...
ca pourrait être un bon film :
le pirate de la route 2.0

[Bounoume]

on va mourir idiots!
https://www.fnac.com/a9171492/George...s-mourir-idiot
déjà ça nous obsédait en 1968!
après il faut distinguer la disparition de "notre" société technologique, et retour en arrière vers cro-magnon ou les 'bons sauvages' papous, ou, après un long délai de reconstruction, les sociétés du genre Babylone ou aztèques... On a le choix!!!
Ou bien l'extermination de l'espèce, comme les malheureux oiseaux ide l'île Maurice appelés 'dodos'.. Comme avec les transports modernes, le Monde est devenu une grande île isolée dans l'Univers....
c'est pas pareil.....


Mais Il suffit que les data centers supports de l'IA se multiplient encore et produisent tellement de chaleur que ça nous fasse rôtir de chaleur.... et alors.....
ça hélas c"est déjà en cours....

Qui voudrait faire l'effort, qui a les capacités cognitives et les connaissances nécessaires ET a le*pouvoir d'empêcher ça?
Allez, faut rigoler pour empêcher le Ciel de tomber (disait Henri Salvador = )