La science pourrait-elle à terme conduire à la destruction de notre civilisation ou presque ?

[pm42]

ça me semble reprendre la problématique que je soulevais dans les grandes lignes et on est loin du catastrophisme d'ignorants, mais je suis curieux de lire l'opinion de pm42 sur leur opinion.

Des occidentaux qui disent "l'apocalypse est proche" sans jamais donner un scénario crédible et détaillé dans lequel l'IA provoquerait la catastrophe annoncée.
C'est vieux comme le monde et coté scientifique annonçant qu'un truc nouveau va être terrible, il y a déjà eu Arago et les trains :
https://www.agri71.fr/articles/25/06...u-temps-12711/

On remarquera aussi que l'humanité a survécue pour le moment à la bombe atomique alors que depuis 1947, des scientifiques nous disent qu'on est toujours très proche de la fin : https://fr.wikipedia.org/wiki/Horlog...a_fin_du_monde

Globalement, le discours est très, très naïf et suppose qu'on va laisser des IAs toutes seules devenir indépendantes et tout contrôler.
Sauf qu'on ne fera pas ça justement et que dès maintenant, on met par exemple des IAs spécialisées pour contrôler le comportement d'autres IAs.
Et c'est juste une des techniques pour limiter les risques.

Bref, on reste dans les scénarios de SF lu par un gosse de 15 ans. Ils ont quand même réussit à écrire :

Des acteurs malveillants pourraient délibérément intégrer des objectifs néfastes.

Comme si ce n'était pas un problème depuis toujours : les acteurs malveillants utilisent la technologie tout comme les autres et c'est vrai depuis le silex taillé au moins.
Pourtant, on vit mieux et dans un monde moins violent que nos ancêtres.
-----

[Archi3]

Je n'ai pas vu le mot industriel associé au mot civilisation dans l'article.

ça me semble clair que quand on dit "notre" civilisation, on parle de la civilisation industrielle, il y a un mode de vie que tu aimerais qualifier de "notre" et qui ne relève pas de la civilisation industrielle?

[oualos]

Quand on écrit en gras comme ça, c'est comme si on criait!

[Juzo]

Quand on écrit en gras comme ça, c'est comme si on criait!

Désolé, j'y ferai attention.

[ThM55]

En 1950 Leo Szilard avait évoqué la possibilité de créer une bombe thermonucléaire de 50 mégatonnes qui serait "salée" avec une grosse couche de cobalt rendu radioactif par les neutrons. Il pensait qu'il serait possible par ce moyen d'annihiler toute vie sur terre. Szilard était devenu un opposant aux armes nucléaires, son but était à l'époque de sensibiliser l'opinion publique au danger de la "super bombe" (la bombe H) qui était en développement et réclamait du financement. Il a donc peut-être exagéré. Mais de toute façon, sans aller jusque là, les 12000 têtes nucléaires disponibles actuellement dans les arsenaux sont à mon avis déjà une "boule noire".

[oualos]

Il y a de quoi anéantir la planète une bonne dizaine de fois, sinon plus.
Otto Hahn, le savant allemand qui a découvert en 1939 la fission nucléaire et donc père de la bombe -après il y a eu la découverte de la réaction en chaine- a milité tout le reste de sa vie en Allemagne et ailleurs pour une limitation des armes nucléaires.
Hitler était à deux doigts de posséder l'arme atomique a-t-on découvert par la suite.
À ce propos du temps de la guerre froide, l'URSS avait installé une énorme quantité de têtes nucléaires en Ukraine.
Avec la fin du communisme, la Russie a décidé de rapatrier tous ces missiles ukrainiens en Russie pour bien montrer que l'Europe et les USA n'était plus des ennemis.

[pm42]

Hitler était à deux doigts de posséder l'arme atomique a-t-on découvert par la suite.

C'est totalement faux notamment parce que Heisenberg et son équipe s'étaient trompé sur le calcul de la masse critique qu'ils avaient surévalué.

Ils étaient par ailleurs prisonniers et sous écoute quand ils ont appris pour Hiroshima et ils ont eu du mal à y croire.

Tout cela est documenté et facile à trouver mais voici déjà un lien : https://www.pourlascience.fr/sd/hist...tonne%E2%80%A6

[Liet Kynes]

ça me semble clair que quand on dit "notre" civilisation, on parle de la civilisation industrielle, il y a un mode de vie que tu aimerais qualifier de "notre" et qui ne relève pas de la civilisation industrielle?

Oui, celui de l'être humain doté de ses capacités de cognition.

[mh34]

Oui, celui de l'être humain doté de ses capacités de cognition.

ca ne correspond pas à la définition du mot "civilisation" donc ça ne correspond pas à la question posée.

[Liet Kynes]

ca ne correspond pas à la définition du mot "civilisation" donc ça ne correspond pas à la question posée.

Larousse : Ensemble des caractères propres à la vie intellectuelle, artistique, morale, sociale et matérielle d'un pays ou d'une société.

-> Si on enlève à l'être humain ses capacités de cognition que reste t-il de la vie intellectuelle, artistique, morale, sociale et matérielle d'un pays ou d'une société pour peu que le mot pays ou société puisse encore être utilisé.

[mh34]

En quoi" l'être humain doué de cognition" caractérise-t-il notre civilisation?

[Archi3]

Oui, celui de l'être humain doté de ses capacités de cognition.

comme dit MH34 ce n'est certainement pas caractéristique de "notre" civilisation...Toutes les autres civilisations reposent sur nos capacités de cognition.

[oualos]

C'est totalement faux notamment parce que Heisenberg et son équipe s'étaient trompé sur le calcul de la masse critique qu'ils avaient surévalué.

effectivement c'est ce qu'ils disent

Pendant les jours qui suivirent, ces physiciens essayèrent fébrilement de comprendre le fonctionnement de la bombe, mais la faiblesse du contenu de leurs échanges frappe. Interrogé par Hahn, Heisenberg reconnaît ne jamais avoir calculé la masse critique, ce qu'il a effectué à Farm Hall. Lors de sa première tentative, il commet d'énormes erreurs de calcul et obtient une masse critique d'une tonne…

Mais vu que la science allemande à cette époque était la plus avancée du monde, ils auraient très bien pu comprendre ce qui leur faisait défaut et corriger leur erreur. Et fabriquer la bombe en ayant une masse critique adéquate.

Qu'est-ce que c'est qu'une ou des erreurs de calcul même grossières pour quelques-uns parmi les plus grands savants de l'époque dont Heisenberg ?
En tout cas les USA en ont bien profité par la suite car ils ont offert la nationalité américaine à plein de ces savants allemands à condition qu'ils viennent aux USA. Dont Von Braun qui a fait la carrière qu'on sait et qui avait inventé les V1 lancés sur Londres je crois...
Soyons justes: les Russes ont fait exactement la même chose de leur côté.

[Liet Kynes]

En quoi" l'être humain doué de cognition" caractérise-t-il notre civilisation?

Notre est une question d'appartenance, perso je suis citoyen du monde.

[Archi3]

que tu sois citoyen du monde ou pas ne change rien, tout le monde ici partage la même civilisation. La question était de savoir ce qui distinguait "notre" (= "ta" si tu préfères, c'est pareil) civilisation des autres.

[Liet Kynes]

que tu sois citoyen du monde ou pas ne change rien, tout le monde ici partage la même civilisation. La question était de savoir ce qui distinguait "notre" (= "ta" si tu préfères, c'est pareil) civilisation des autres.

Ma civilisation est celle des autres donc il n'y a qu'une civilisation possible, tu ne vois pas la contradiction dans ce que tu avances, c'est à dire comment ma civilisation qui est celle de tout autre pourrait ne pas être celle de tout autre ?

[Archi3]

Ma civilisation est celle des autres donc il n'y a qu'une civilisation possible, tu ne vois pas la contradiction dans ce que tu avances, c'est à dire comment ma civilisation qui est celle de tout autre pourrait ne pas être celle de tout autre ?

tu n'habitais pas en Chine il y a 500 ans je suppose ?

[titijoy3]

si l'humanité (le terme ne correspond pas au produit je trouve) disparaissait où serait le problème ? il n'y aurait personne pour la regretter, et puis ça ferait des vacances à la planète..

en plus je vois pas pourquoi flipper, la durée de vie d'un bipède c'est environ 85 piges, et je ne parle pas de la vie en bonne santé !

[non bwana]

il n'y aurait personne pour la regretter,

Ben si, si on disparait, il va se mettre quoi sous la dent, le prochain cousin du sars?