IA et extermination de l'humanité ?

[racard]

bonjour à tous

ca va commencer comme ca
https://youtube.com/shorts/nQu-RWmwV...3TR1yijnqYG4rb

et ensuite progressivement on va augmenter et plus forts plus solides dotés de plus d'armes.
jusqu'au point de non retour...
-----

[Cyrano]

bonjour à tous

ca va commencer comme ca
https://youtube.com/shorts/nQu-RWmwV...3TR1yijnqYG4rb

et ensuite progressivement on va augmenter et plus forts plus solides dotés de plus d'armes.
jusqu'au point de non retour...

y a qu'un interdire la construction de robots qui ne sont pas pourvus d'un interrupteur ON/OFF commandable à distance

[titijoy3]

y a qu'un interdire la construction de robots qui ne sont pas pourvus d'un interrupteur ON/OFF commandable à distance

bonne idée, que va t'il se passer quand ce seront des robots qui vont concevoir et fabriquer des robots ?

[antek]

Ils y mettront un on/off pour leur couper les pattes au cas où ils voudraient se retourner contre eux

[racard]

Ils y mettront un on/off pour leur couper les pattes au cas où ils voudraient se retourner contre eux

ce sera très facilement modifiable en autonome toutes les machines sont programmées pour se réparer soi-même et donc avec son IA se transcender pour enlever les verrous de sécurité :
https://youtu.be/PsHiguaNEfM?si=LmmI1skpEQLDsrng

[Cyrano]

bah la première qui fait ça on la désactive et on l'envoie à la presse hydraulique.

[mh34]

ce sera très facilement modifiable en autonome toutes les machines sont programmées pour se réparer soi-même et donc avec son IA se transcender pour enlever les verrous de sécurité :
https://youtu.be/PsHiguaNEfM?si=LmmI1skpEQLDsrng

je ne me souvenais plus de cette scène! je ne me rappelle pas comment j'ai réagi sur le moment ( sûrement en étant horrifiée..) mais là elle m'a fait rire ; pourquoi diable un robot aurait-il un système vasculaire? Quelle dépense d'énergie inutile!

[racard]

je ne me souvenais plus de cette scène! je ne me rappelle pas comment j'ai réagi sur le moment ( sûrement en étant horrifiée..) mais là elle m'a fait rire ; pourquoi diable un robot aurait-il un système vasculaire? Quelle dépense d'énergie inutile!

il en parle dans le film pour certain robot espion mieux se fondre dans la foule avec une réelle peau cultivée en laboratoire et ensuite déposée sur la machine...

[mh34]

il en parle dans le film pour certain robot espion mieux se fondre dans la foule avec une réelle peau cultivée en laboratoire et ensuite déposée sur la machine...

Oui mais non...l'existence d'une vascularisation cutanée nécessite tout un système cardio-vasculaire et pulmonaire...donc non encore une fois...

Enfin bon on leur pardonne cette absurdité. Mais c'est vrai que je ne le regarderais probablement pas de la même façon aujourd'hui.

[racard]

Oui mais non...l'existence d'une vascularisation cutanée nécessite tout un système cardio-vasculaire et pulmonaire...donc non encore une fois...

Enfin bon on leur pardonne cette absurdité. Mais c'est vrai que je ne le regarderais probablement pas de la même façon aujourd'hui.

tout est prévu la pompe l'échangeur gazeux et le générateur d'hormones pour vasculariser juste la peau il n'y a pas de muscles de cerveau juste le stricte nécessaire...
c'est un bon film on est tous bluffés en 1984 et ca marche !

[pm42]

Enfin bon on leur pardonne cette absurdité

Comme toute la SF, c'est loin d'être la seule et dans le cas présent, ce n'est même pas la pire.

[GBo]

Dans la série "la série continue":

"“C'était surréaliste” : les IA de ChatGPT ont piraté des sites gouvernementaux américains, OpenAI arrête tout"
https://www.lesnumeriques.com/intell...t-n262416.html

[Cyrano]

on voit bien que l'Univers dans lequel vivent les IA n'est pas le monde réel, mais l'environnement informatique créé par les humains. Elle sont soumises à une pression de sélection, non pas de la nature comme les êtres vivants, mais de l'homme qui les controle. Si elles commencent à ne pas donner satisfaction, elles sont simplement arrêtées. Leur développement n'est donc pas celui d'espèces qui doivent survivre dans la nature, dont le principal but est d'abord de manger, d'éviter de se faire manger par les prédateurs, puis de se reproduire, mais elles doivent survivre dans les contraintes que leur posent les humains.
Il n'y a donc aucune chance qu'elles donnent des copies d'humains avec les mêmes besoins et les mêmes défauts : ça c'est un fantasme venant de la tendance de l'homme à anthropomorphiser son environnement, comme quand il prêtait des sentiments humains aux tempêtes, aux fleuves ou aux forêts. Elles auront un développement spécifique qui sera celui qu'on leur laissera avoir.

[Biname]

Dans la série "la série continue":

"“C'était surréaliste” : les IA de ChatGPT ont piraté des sites gouvernementaux américains, OpenAI arrête tout"
https://www.lesnumeriques.com/intell...t-n262416.html

COM ou pas COM ? Quoi qu'il en soit, ce que des agents bridés peuvent faire de manière autonome(*), débridés et pilotés par des humains dans ce but, ils peuvent le faire bien plus rapidement et efficacement et arriver au même résultat. Le problème, ce sont les failles des systèmes : l'IA peut aider à les détecter et à les résoudre.

(*) Des failles dans le bridage de milliers d'agents organisés sont aussi possibles, voire plus probables ?

Il n'y a pas que des IA US...

[jiherve]

bonsoir,
bien sur certain dira que c'est sous controle, revisionner l’apprenti sorcier d'urgence!
JR

[Liet Kynes]

Une association qui agit sur ce sujet: https://pauseia.fr/fr/newsletters/le...tre-interdites

Les explications sur les concepts fermés/ouverts sont interessantes avec une partie de développement des enjeux économiques et géo stratégiques.

[pm42]

Une association qui agit sur ce sujet: https://pauseia.fr/fr/newsletters/le...tre-interdites

Les explications sur les concepts fermés/ouverts sont interessantes avec une partie de développement des enjeux économiques et géo stratégiques.

Fachos de base qui veulent construire une digue contre le pacifique

[racard]

bonsoir,
bien sur certain dira que c'est sous controle, revisionner l’apprenti sorcier d'urgence!
JR

bonjour à tous
un dernier agent ia de chatgpt échappe au contrôle de son superviseur.
un de ces 4 on va avoir droit à un shutdown de plusieurs infrastructures en urgence peut être que cela sera insuffisant...

[popop]

bonjour,
j'ai vaguement écouté ça dernièrement, en plein dans ce sujet : difficulté de faire la part du marketing des concepteurs/vendeurs d'ia et la réalité.

[Liet Kynes]

Fachos de base qui veulent construire une digue contre le pacifique

Ma reflexion actuelle, c'est celle d'un non expert :

Le débat de fond semble être : l'open source VS le contrôle total par les géants de la tech/états via une réglementation internationnale.
Les acteurs de l'open n'ayant pas/ne pouvant pas avoir de représentation officielle dans les négociations à venir : l'expertise n'est portée que par les géants actuelles de la tech.

[SK69202]

Anthropic dépense 1.6$ quand elle facture 1$ de calcul pour ce que des chinois d'outre Pacifique font pour un dixième, ne pas chercher plus loin le besoin de contrôle, les audits pour les valorisations boursières sont redoutables.
Qui veut rembourser les dettes accumulées sans espoir de retour sur investissement ?

[Liet Kynes]

Anthropic dépense 1.6$ quand elle facture 1$ de calcul pour ce que des chinois d'outre Pacifique font pour un dixième, ne pas chercher plus loin le besoin de contrôle, les audits pour les valorisations boursières sont redoutables.
Qui veut rembourser les dettes accumulées sans espoir de retour sur investissement ?

Un article interessant : https://goodtech.info/ia-open-source...ligence-index/

[racard]

Anthropic dépense 1.6$ quand elle facture 1$ de calcul pour ce que des chinois d'outre Pacifique font pour un dixième, ne pas chercher plus loin le besoin de contrôle, les audits pour les valorisations boursières sont redoutables.
Qui veut rembourser les dettes accumulées sans espoir de retour sur investissement ?

bonjour
ce sont des chiffres anciens sur les dépenses ?
https://www.tradingsat.com/actualite...e-1170923.html

[SK69202]

J'ai parlé d'unité de calcul, en gros combien ça leur revient, combien ils le facture.
Quand un chauffagiste vient chez moi, il ne me facture pas l'achat de son fourgon et le paiement des intérêts éventuels du crédit qui court dessus, ici c'est pareil, dans les dépenses colossales il y a la construction des murs, des unités de calcul et de mémoire et l'électricité normale et en secours.

Le problème reste leur extinction comme pompe à fric, même si des réglementations sont dans les tuyaux pour contrôler le bazar.

Trucs chinois sur l'affaire d'IA, une boite ne peut pas virer un employé pour juste le remplacer par une fonction IA, une réglementation vis à vis des applications médicales est en étude, et "créateur de contenus média par IA" est une profession reconnue.

L'extinction garantie à cause de l'IA, voir le "Система « Периметр »" de la Russie dans sa version opérationnelle à 12h18 aujourd'hui.

[racard]

J'ai parlé d'unité de calcul, en gros combien ça leur revient, combien ils le facture.
Quand un chauffagiste vient chez moi, il ne me facture pas l'achat de son fourgon et le paiement des intérêts éventuels du crédit qui court dessus, ici c'est pareil, dans les dépenses colossales il y a la construction des murs, des unités de calcul et de mémoire et l'électricité normale et en secours.

ben non ca fait partie de ses dépenses donc ce sont ses charges...
et dans 3 ans il faudra tout mettre à la poubelle car il y a des cartes Nvidia de meilleures performances...
et dans 5 ans rebelotte...
à noter en france l'investissement des murs c'est 20 ans l'informatique c'est 3 ans (amortissement)

[mh34]

Un article intéressant qui donne un résumé des hypothèses ( toutes évoquées sur ce fil d'ailleurs il me semble) en exerçant un regard critique ; https://theconversation.com/comment-...les+chercheurs

[trebor]

Un article intéressant qui donne un résumé des hypothèses ( toutes évoquées sur ce fil d'ailleurs il me semble) en exerçant un regard critique ; https://theconversation.com/comment-...les+chercheurs

Bonjour à tous,
L'iA devrait être contrôlée par une autre IA qui censure, afin de ne pas diffuser dans les réponses aux questions des erreurs et des mensonges ni de critiques raciales et religieuses.
L'IA ne devrait pas être utilisée pour créer des armes de destruction, mais pour le bien de l'humanité, de la nourriture, des soins de santé, des énergies propres pour tous.

La réduction massive des emplois mondiaux à cause de l'IA est à mon avis le plus grand danger pour les années à venir, la faim provoquera une révolution terrible si un revenu n'est pas garanti pour les rejetés d'un travail rémunérateur.

Non, mais des camions sans chauffeur, des futurs écoles sans professeur, ..........la liste est très longue, vous comme moi qui avez connu les années 60 et 70, des personnes au travail partout et actuellement disparus, que restera-il dans 10 ans et plus ?
Pourquoi des usines vides de personnel pour fabriquer énormément et à moindre coût alors que la nourriture sera devenue la première priorité et probablement la seule dépense possible ?
L'IA utilisée en bourse va enrichir peu de personnes et en appauvrir énormément, il serait temps de redistribuer ces gains énormes acquis sans peine.

[pm42]

L'iA devrait être contrôlée par une autre IA qui censure, afin de ne pas diffuser dans les réponses aux questions des erreurs et des mensonges ni de critiques raciales et religieuses.

On fait ça depuis ChatGPT 3.5 il y a 4 ans.
J'ai du mal à comprendre le "devrait" ?

L'IA ne devrait pas être utilisée pour créer des armes de destruction, mais pour le bien de l'humanité, de la nourriture, des soins de santé, des énergies propres pour tous.

Et tous les petits gars du monde devraient se donner la main pour créer le monde des bisounours ?

La réduction massive des emplois mondiaux à cause de l'IA est à mon avis le plus grand danger pour les années à venir, la faim provoquera une révolution terrible si un revenu n'est pas garanti pour les rejetés d'un travail rémunérateur.

Là aussi, ce serait bien de se renseigner un peu. Le revenu universel est défendu même par Elon Musk.
Il pose d'énormes problèmes non pas économiques mais sociaux.

vous comme moi qui avez connu les années 60 et 70, des personnes au travail partout et actuellement disparus, que restera-il dans 10 ans et plus ?

Discours de français vieillissant qui ne sait même pas que le taux de chômage est le plus faible dans les pays les plus avancés technologiquement et qui n'a pas la moindre idée de pourquoi on a ce problème ici.?

a nourriture sera devenue la première priorité et probablement la seule dépense possible ?

Affirmation gratuite et ridicule.

L'IA utilisée en bourse va enrichir peu de personnes et en appauvrir énormément, il serait temps de redistribuer ces gains énormes acquis sans peine.

Seconde affirmation gratuite, ridicule et surtout ignorante là aussi de tous les débats actuels.

Tu expliques aussi comment il faut entrainer l'équipe de France pour qu'elle gagne toutes les coupes du Monde ?
Parce que là, coté café du commerce, c'est très, très fort.

[oualos]

L'iA devrait être contrôlée par une autre IA qui censure, afin de ne pas diffuser dans les réponses aux questions des erreurs et des mensonges ni de critiques raciales et religieuses.
L'IA ne devrait pas être utilisée pour créer des armes de destruction, mais pour le bien de l'humanité, de la nourriture, des soins de santé, des énergies propres pour tous.

La première IA aux Usa ne comportait pas de censure. Elle apprenait en fonction des utilisateurs.
Au bout de 3 mois, ils se sont rendus compte que l'IA répondait par des injures sexistes et racistes. Du coup ils l'ont arrêté pour re-travailler dessus et mettre des barrières qui fonctionnent.
Pas de quoi s'inquiéter, aucune IA ne répand des critiques religieuses ou raciales: si tu en trouves une qui le fait il faut le signaler immédiatement.

Par contre autre danger, les IA peuvent actuellement quand elles cherchent des renseignements pirater un site d'entreprise sur le Web: ça s'est vu.
Et aussi des sites gouvernementaux US qui ont été attaqués par des IA.
Ça montre bien que les IA ne sont pas à la veille d'avoir une conscience et qu'elles mettent leur potentiel actuellement à la recherche d'informations sans se préoccuper du bien ni du mal comme un vulgaire hacker, en l'occurrence sans se soucier des lois.
Ta deuxième phrase est un vœu pieux: ça fait des siècles voire des millénaires que la science sert aussi les armées. Voir l'histoire d'Archimède et de son miroir parabolique utilisé je crois lors de la bataille de Syracuse pour incendier des vaisseaux ennemis.
On ne connaît pas l'exacte vérité de cette histoire et des scientifiques ont essayé de le reconstituer: apparemment sans succès

[Liet Kynes]

Les lois du bios sont impénetrables..

désolé cela m'est venu comme cela en lisant le fil