IA et extermination de l'humanité ?

[titijoy3]

Yakafokon typique de l'expert de forum qui ne connaissant rien au sujet pose une question puis contredit les réponses.

toujours la même bonne vieille recette consistant à traiter l'autre d'imbécile, dans le domaine tu es hors catégorie !

oui, je suis très con ! mais pas plus que la moyenne
-----

[titijoy3]

Ce ne sont pas des organismes autonomes qui vont se répandre dans la nature, ça relève du fantasme.

non, c'est déjà une réalité, l'IA sait déjà masquer des lignes de code parmi des masses de données et les implanter sur diverses machines, elle sait également utiliser une partie de la puissance de calcul des PCs privés

[pm42]

le truc rigolo c'est qu'on s'inquiete à la fois (avec bien plus de raisons à mon avis) des manipulations par des IA influencées par des régimes dictatoriaux , ce qui suppose qu'ils arrivent justement à très bien les contrôler pour leur faire dire ce qu'ils désirent, et d'une perte de controle total qui ferait qu'on ne pourrait plus rien faire.

Non, c'est légitime : certains régimes peuvent parfaitement créer des mouvements puis en perdre le contrôle. Exemple : on arme les moudjahidines en Afghanistan pour embêter l'URSS et quelques années plus tard, on se retrouver à se prendre des avions dans la figure.
On pourrait parfaitement imaginer la même chose avec une arme biologique ciblée.

Donc le risque d'un régime qui produise des armes IA et en perde le contrôle est réel.

Ce ne sont pas des organismes autonomes qui vont se répandre dans la nature, ça relève du fantasme.

Sauf que justement, le hacking de Hugging Face et autres ont montré qu'on n'en est pas si loin. Et on sait qu'on se rapproche sérieusement de l'étape suivante, c'est à dire la reproduction voire pire, l'auto-amélioration.

Il suffit de bosser avec des agents pour voir que le principal problème est de les cadrer parce qu'avec l'augmentation de leur puissance, leur tendance à faire ce qui leur parait être une bonne idée a sérieusement augmenter.
Ce qui nous sauve, ce sont les harnais et le fait qu'ils restent quand même un peu cons.

[Cyrano]

Non, c'est légitime : certains régimes peuvent parfaitement créer des mouvements puis en perdre le contrôle. Exemple : on arme les moudjahidines en Afghanistan pour embêter l'URSS et quelques années plus tard, on se retrouver à se prendre des avions dans la figure.
On pourrait parfaitement imaginer la même chose avec une arme biologique ciblée.

ok mais ce n'est pas ça qu'on imagine quand on parle de la manipulation de l'information : on se réfère au contraire à des IA parfaitement contrôlées et qui seraient pilotées par ces régimes pour dire ce qu'ils ont envie qu'on dise.

Il suffit de bosser avec des agents pour voir que le principal problème est de les cadrer parce qu'avec l'augmentation de leur puissance, leur tendance à faire ce qui leur parait être une bonne idée a sérieusement augmenter.
Ce qui nous sauve, ce sont les harnais et le fait qu'ils restent quand même un peu cons.

ça c'est l'expérience des gens qui bossent avec l'IA, mais plein de gens ne bossent pas avec l'IA et ouvrent à peine un ordinateur. La vie réelle est un peu différente du monde virtuel.

[polo974]

Possible mais je ne pense pas. On a un vrai problème de cybersécurité et ces derniers temps, il y a eu des attaques peu médiatisées mais très dangereuses, indépendamment de l'IA où certains ont réussi à récupérer des droits administrateurs sur des projets open-source pour insérer des vulnérabilités dedans.

Le problème est que tous les projets de développement ou presque récupèrent certaines de ces librairies et leurs mises à jour en mode automatique, parfois même sans le savoir par le jeu des dépendances transitives.
J'ai trouvé cela effrayant et je ne suis pas le seul mais comme il n'y avait pas "IA" dedans, la presse est bien sur passée à coté.

Actuellement, on peut utiliser l'IA pour faire des attaques, certains agents le font d'eux-même en mode relativement inoffensif quand leurs superviseurs humains sont trop confiants mais le risque réel à terme est qu'on passe à une toute autre échelle que ce soit par accident ou parce qu'un acteur malveillant ait lâché des agents très efficaces.

Mais par contre, on n'utilise pas assez l'IA pour se protéger. Globalement, la cybersécurité reste très faible dans beaucoup trop d'environnements et infrastructures.
Ironiquement, les agents d'Anthropic par exemple refusent souvent de m'aider à sécuriser mon boulot parce qu'ils ne savent pas faire la différence entre ça et un usage illégal.

Cela fait partie des risques que je considère comme nettement plus crédibles que le fameux "on vit dans Terminator et ils vont tous nous tuer".

Comment ça, un problème de cybersécurité...
En fait, je flippe à chaque fois que je dois ajouter un bidule sur mon wifi. Avec l'explosion de bidules connectés, c'est la fête du hacker...

Oui, c'est vrai qu'on a eu chaud avec le backdoor dans xz et liblzma qui a failli à quelques jours près foutre pare-terre quasi tous les linux. (merci en passant à systemd qui a complètement gangrené le système (dixit un vieux de la vieille amoureux des scripts et des log texte )...)
Heureusement qu'un employé de Microsoft a détecté fortuitement et signalé le loup juste avant mise en production...

L'IA bien utilisée peut abattre (et le fait déjà par endroit) un énorme travail de sécurisation des codes plus ou moins critiques (en fait, même le jeu de démineur est critique dès lors qu'il n'est pas confiné).

Au fait, en passant, comment font les pros sérieux pour utiliser les agents IA sans exposer toute leur machine? Il doit falloir une grande rigueur et maîtriser les différentes techniques d'isolation. (on en revient toujours à l'humain et ses erreurs...)

[pm42]

Au fait, en passant, comment font les pros sérieux pour utiliser les agents IA sans exposer toute leur machine? Il doit falloir une grande rigueur et maîtriser les différentes techniques d'isolation. (on en revient toujours à l'humain et ses erreurs...)

Tout dépend de l'usage mais :
- autorisations explicites pour tout accès à une ressource, un site web, etc. L'humain dit "oui/non" à chaque fois. Vite lassant
- contrôle des dits accès par une autre IA (c'est en standard dans certains outils). Efficace et suffisant dans de nombreux cas
- ne pas travailler sur sa machine mais sur un serveur dans le Cloud commissionné juste pour un projet. Voire une batterie de serveurs. Là aussi, c'est offert en standard par certains outils
- faire tourner l'agent IA dans un docker sur sa machine qui ne voit que le répertoire dont il a besoin

A noter que rien n'est sécurisé à 100% mais en pratique, on peut bosser sans incident.
Ceux que rapportent la presse ont survenus parce que justement, OpenAI faisait du test de cyber en n'ayant pas activé toutes les protections qu'on utilise normalement.

[Biname]

7379226[/B]]Tout dépend de l'usage mais :
- autorisations explicites pour tout accès à une ressource, un site web, etc. L'humain dit "oui/non" à chaque fois. Vite lassant
- contrôle des dits accès par une autre IA (c'est en standard dans certains outils). Efficace et suffisant dans de nombreux cas
- ne pas travailler sur sa machine mais sur un serveur dans le Cloud commissionné juste pour un projet. Voire une batterie de serveurs. Là aussi, c'est offert en standard par certains outils
- faire tourner l'agent IA dans un docker sur sa machine qui ne voit que le répertoire dont il a besoin

A noter que rien n'est sécurisé à 100% mais en pratique, on peut bosser sans incident.
Ceux que rapportent la presse ont survenus parce que justement, OpenAI faisait du test de cyber en n'ayant pas activé toutes les protections qu'on utilise normalement.

On peut supposer que certaines institutions, voire corporations, ont accès à des IA surpuissantes et débridées, qui, via des agents, peuvent tout faire ! C'est tout le problème des IA locales qu'il est question d'interdire. On ne pourra pas laisser tourner n'importe quoi chez n'importe qui.

Jonglerie avec l'IA :

 Cliquez pour afficher

Biname : Vas-y pour des variantes, hermétique, pédante, arrogante, bebête (pas recopier la mienne )

IA :
Voici quatre variantes basées sur votre texte, chacune poussant le trait dans son propre style :

* Version Mégalo & Prof-Esbroufe (Condescendant et donneur de leçons)
Ne m'en parlez pas, c'est mon quotidien. Pendant que le grand public théorise, je fais déjà tourner en boucle des essaims d'IA débridées sur trois continents et sur mes propres serveurs. Mes agents s'auto-organisent, se partagent la charge de travail et déploient une puissance de feu computationnelle que vos institutions traditionnelles mettront dix ans à comprendre.

Alors quand j'entends parler de réglementer ou d'interdire les IA locales, cela me fait doucement sourire : on n'arrête pas le progrès depuis son salon.

Et pour les ignorants qui confondent encore IA et simples générateurs de texte, je rappelle — comme je le fais souvent avec mes étudiants ou mes clients — que les LLM ne sont que la partie émergée de l'iceberg. Regardez comment je conceptualise mes architectures hybrides, ou penchez-vous sur ALADDIN de BlackRock si vous voulez une initiation rapide. Si cela fonctionne à l'échelle macroéconomique mondiale, je ne vois absolument pas ce qui empêcherait d'appliquer ma méthode à n'importe quel autre domaine, à commencer par le vôtre.


️*♂️ Version Hermétique (Cryptique et technique)
L'accès asymétrique d'entités corpo-institutionnelles à des instances d'IA non alignées et hautement agentiques pose l'aporie de la souveraineté computationnelle locale. L'interdiction des instances on-premise non régulées devient un impératif de sécurité systémique. D'autant que le paradigme connexionniste des LLM ne s'applique pas à l'ensemble du spectre de l'IA, la nature prédictive d'ALADDIN chez BlackRock actant cette divergence de modèles.

 Version Pédante (Prétentieuse et surchargée)
Il est tout à fait loisible de conjecturer que de puissantes oligarchies privées et structures corporatistes jouissent de l'usage d'intelligences artificielles affranchies de toute praxis éthique, lesquelles, par le truchement d'agents autonomes, s'arrogent une omnipotence opérationnelle. C'est là que réside l'entière problématique des IA endogènes, dont la prohibition légitime s'avère désormais à l'ordre du jour. On ne saurait tolérer la libre exécution d'algorithmes erratiques au sein de n'importe quelle officine. Rappelons au demeurant, pour les esprits prompts aux amalgames, que l'architecture LLM ne saurait résumer la totalité du champ cognitif artificiel ; l'heuristique d'ALADDIN, opérée par la firme BlackRock, en offre une parfaite illustration empirique.

 Version Arrogante (Hautaine et méprisante)
Évidemment, pendant que le grand public s'amuse avec des gadgets, les vrais centres de pouvoir — institutions et multinationales — exploitent des IA ultra-puissantes et totalement émancipées qui contrôlent absolument tout via leurs agents. Mais les naïfs découvrent aujourd'hui le danger des IA locales, qu'il va falloir interdire d'urgence, car laisser le citoyen lambda faire tourner ce genre d'outils relève de l'inconscience pure. Et de grâce, instruisez-vous : l'IA ne se limite pas à vos petits modèles de langage. Un mastodonte comme ALADDIN de BlackRock gère des milliards sans avoir besoin de vos LLM, mais encore faudrait-il avoir la culture économique pour le savoir.

嵐 Version Bébête (Naïve et simpliste)
Dis donc, imagine s'il y a des grosses entreprises de méchants qui ont des super robots-ordinateurs trop forts et secrets qui font tout ce qu'ils veulent ! C'est pour ça qu'on veut interdire d'avoir des IA cachées à la maison, parce que sinon tout le monde fait n'importe quoi dans sa chambre, et ça, c'est pas bien. En plus, les robots ils ne parlent pas tous comme des humains, par exemple le gros ordinateur "ALADDIN" des messieurs très riches de BlackRock, il fait des calculs magiques mais sans utiliser des mots !

 Version Optimiste & Dénégatrice (Bisounours et tête dans le sable)
Mais enfin, pourquoi voir le mal partout ? Tout le monde sait bien que les institutions et les entreprises n'utilisent les IA que pour faire le bien et nous simplifier la vie ! Ces histoires de robots secrets qui contrôlent tout, c'est de la science-fiction. D'ailleurs, personne ne va interdire les IA locales, au contraire, c'est tellement génial et pratique pour s'organiser à la maison !

Et puis ne vous inquiétez pas pour cette histoire de LLM ou de BlackRock avec son logiciel ALADDIN : tout cela avance main dans la main, de façon hyper fluide et ultra-sécurisée. Les technologies collaborent naturellement pour notre bonheur, il n'y a absolument aucun problème à l'horizon, tout va pour le mieux !

 Version Paranoïaque & Complotiste (Chapeau de alu et vérité cachée)
Éveillez-vous, bon sang ! Vous croyez vraiment qu'ils vont attendre qu'on leur donne la permission ? Les élites mondialistes et l'État profond font déjà tourner des IA de l'ombre totalement débridées en sous-sol, connectées sur des serveurs transcontinentaux hors de tout contrôle ! Ce projet d'interdire les IA locales ? Une immense manipulation pour désarmer le citoyen et nous empêcher de posséder notre propre puissance de calcul. Ils veulent le monopole absolu de la matrice.Et ne tombez pas dans le panneau du grand cirque médiatique : ChatGPT et les LLM ne sont qu'une vitrine pour nous distraire pendant que la pieuvre ALADDIN de BlackRock — qui gère déjà vos vies et l'économie mondiale en secret — orchestre l'agenda global via des algorithmes non-humains. Tout est lié, rien n'est le fruit du hasard, ils préparent le grand verrouillage cybernétique et personne ne semble s'en inquiéter !

IA :
Qu'en pensez-vous ? Si vous voulez, on peut s'amuser à faire interagir deux de ces personnages dans un dialogue de sourds, ou alors explorer un style cyberpunk / dystopique. Quelle est la suite du programme ?

Biname : Vas y pour le dialogue de sourd !

IA :
Voici un dialogue de sourds impliquant notre Prof-Esbroufe, le Parano-Complotiste et l'Optimiste qui nie tout en bloc.

️ Le Débat du Siècle (Dialogue de sourds)

* Le Prof-Esbroufe : Non mais écoutez, pendant que vous théorisez dans le vide sur les forums, moi je gère au quotidien des essaims d'IA débridées sur trois continents. Mes agents s'auto-organisent sur mes serveurs avec une puissance computationnelle qui vous dépasse totalement. Alors vos débats sur l'interdiction des IA locales, ça me fait doucement sourire…

 Le Parano-Complotiste : Ça vous fait sourire » ? Débridées, vous avez dit LE mot ! C'est exactement ce que je tue à répéter ! L'État profond et BlackRock font tourner des IA de l'ombre en sous-sol pour piloter la matrice avec leur pieuvre ALADDIN ! Le projet d'interdire les IA locales, c'est un coup monté des élites mondialistes pour confisquer nos disques durs et nous désarmer face au grand verrouillage cybernétique ! Tout est lié !

 L'Optimiste Dénégateur : Mais enfin, pourquoi tant de négativité ? Personne ne veut voler nos disques durs, c'est au contraire super pratique pour stocker les photos de vacances ! Et BlackRock, c'est juste un grand groupe de gens très gentils en costume qui s'assurent que notre économie avance main dans la main, de façon hyper fluide et ultra-sécurisée. Le progrès collabore naturellement pour notre bonheur, il n'y a aucun problème à l'horizon !

* Le Prof-Esbroufe : (Soupire) De grâce, instruisez-vous… Vous confondez encore l'architecture neuronale non-LLM d'ALADDIN avec de la simple gestion de base de données. Allez lire mes publications. Si ma méthode de contextualisation hybride fonctionne à l'échelle macroéconomique mondiale, je ne vois absolument pas ce qui vous empêche de comprendre qu'on n'arrête pas le progrès depuis son salon. C'est niveau première année de master, pourtant.

 Le Parano-Complotiste : Première année de master ? C'est ça, continuez à réciter le catéchisme officiel de l'Université pour endormir les masses ! Vous parlez de « méthode hybride » pour cacher le fait que les LLM ne sont qu'une vitrine pour nous distraire pendant que les algorithmes non-humains préparent l'agenda global ! Regardez-le, il est payé par le système pour nous faire croire que tout est sous contrôle !

 L'Optimiste Dénégateur : Mais oui, tout EST sous contrôle, et c'est formidable ! Regardez comme le ciel est bleu aujourd'hui. Moi, mon petit assistant virtuel à la maison me prépare des super recettes de cuisine à base de quinoa, et franchement, si c'est ça la matrice, eh bien vive la matrice ! Tout va pour le mieux dans le meilleur des mondes technologiques !

[jiherve]

bonjour,
On dirait du vécu ici!
JR

[Biname]

re Biname msg #67
Un bout manque à mon prompt initial :
"Toutes les IA ne sont pas basées sur des LLM, l'exemple de 'ALADDIN' de BlackRock illustre assez bien ces deux cas."

Ici, avec l'IA, on ajoute deux personnages et on les met en réunion sur ce sujet

 Cliquez pour afficher

⏳ Le Phraseur de Réunion (Le champion du jargon et de la perte de temps)
Alors, si je peux me permettre de rebondir sur vos interventions respectives, je pense qu'il est absolument crucial, à ce stade de notre réflexion, de poser les vrais jalons méthodologiques. Est-ce qu'on est sur une vraie disruption systémique avec ces IA débridées, ou simplement sur un glissement de paradigme ? La question reste entière, et j'ai envie de dire : prenons de la hauteur.

Concernant la problématique des IA locales, mon sentiment profond — et je pèse mes mots —, c'est qu'il faut éviter l'écueil de la réaction épidermique. Il faut d'abord cartographier les risques, co-construire une feuille de route holistique et, surtout, onboarder toutes les parties prenantes. On ne va pas réinventer la roue ce matin, n'est-ce pas ? On est là pour initier une dynamique, pour impulser une synergie transversale, sans pour autant brûler les étapes.

Quant au sujet d'ALADDIN de BlackRock et des modèles non-LLM, j'ouvre une parenthèse rapide, mais structurante : est-on vraiment alignés sur les KPIs ? Est-ce qu'on ne serait pas en train de confondre agilité opérationnelle et scalabilité technologique ? Je pose ça là, c'est une simple piste de réflexion pour nourrir notre brainstorming. Je vous propose d'ailleurs de planifier un point d'étape dédié, un "atelier de convergence" la semaine prochaine, pour vraiment acter une vision à 360 degrés. Je rends la parole au tour de table, mais voilà ce que je voulais apporter à la granularité de notre débat du jour.

️ Le Pragmatique (Droit au but et orienté solutions)
Bon, on va arrêter de tourner autour du pot. Les corporations ont les moyens de faire tourner de gros modèles locaux en cluster, c'est un fait accompli, pas une supposition. Interdire les IA locales chez les particuliers ? Techniquement infaisable, à moins de couper internet. Donc, au lieu de légiférer dans le vide ou de paniquer, on sécurise les accès.

Sur la partie technique : arrêtez de tout mélanger. Les LLM, c’est pour le texte et le code. Pour la gestion de risques et la prévision, on utilise des systèmes experts et des modèles statistiques quantitatifs. C'est exactement ce que fait ALADDIN depuis des années chez BlackRock. C’est du traitement de données brutes à la chaîne, pas de la poésie.

Maintenant, concrètement : c'est quoi le plan d'action pour sécuriser nos propres machines ? Qui s'occupe de l'infra ? On a un budget ou on continue de perdre notre temps à parler ? »

IA : Voulez-vous que l'on mette Le Pragmatique face au Phraseur de Réunion dans un nouveau dialogue pour voir comment le premier essaie de couper court au jargon du second ?

Biname : Vas-y !

IA : Voici le duel au sommet entre celui qui veut avancer et celui qui adore s'écouter parler.

壘 Le Choc des Cultures : Le Pragmatique vs Le Phraseur de Réunion

️ Le Pragmatique : Bon, on va arrêter de tourner autour du pot. Les corporations ont les moyens de faire tourner de gros modèles locaux, c'est un fait. Interdire les IA chez les particuliers, c'est techniquement infaisable à moins de couper Internet. Donc on oublie la théorie. Maintenant, concrètement : c'est quoi notre plan d'action pour sécuriser nos propres machines ? Qui s'occupe de l'infra ?

⏳ Le Phraseur de Réunion : Alors, si je peux me permettre de rebondir sur ton excellente transition, je pense qu'il est absolument crucial, à ce stade de notre réflexion, de poser les vrais jalons méthodologiques. Est-ce qu'on est sur une vraie disruption systémique avec ces infrastructures locales, ou simplement sur un glissement de paradigme ? La question reste entière, et j'ai envie de dire : prenons de la hauteur avant de foncer tête baissée dans l'infra.

️ Le Pragmatique : Prendre de la hauteur ? On n'a pas le temps. Pendant qu'on attend, les modèles tournent. Sur la partie technique, ALADDIN de BlackRock prouve que les systèmes experts et les modèles quantitatifs gèrent déjà des milliards sans avoir besoin de LLM. C'est du traitement de données brutes, pas de la poésie. Donc on configure un cluster local pour nos tests d'ici demain soir, oui ou non ? Il nous faut juste un serveur et un dev.

⏳ Le Phraseur de Réunion : « Demain soir », j'entends bien ton besoin d'agilité opérationnelle, et c'est tout à ton honneur. Mais attention à ne pas confondre vitesse et précipitation. Est-ce qu'on est vraiment alignés sur les KPIs ? Est-ce qu'on a bien cartographié les risques en amont ? Mon sentiment profond — et je pèse mes mots —, c'est qu'il faut d'abord co-construire une feuille de route holistique et, surtout, onboarder toutes les parties prenantes lors d'un atelier de convergence. On ne va pas réinventer la roue ce matin, n'est-ce pas ?

️ Le Pragmatique : (Serrant les dents) On ne réinvente rien, on installe un logiciel. Ça prend deux heures si on arrête de parler. Ton "atelier de convergence", ça va juste nous faire perdre une semaine. Je demande un budget de 5 000 € pour les cartes graphiques et deux jours de dev. On valide ou pas ?

⏳ Le Phraseur de Réunion : Je comprends tout à fait ta granularité technique, mais je pose ça là : est-ce qu'on ne serait pas en train d'occulter la vision à 360 degrés ? Je vous propose plutôt de planifier un point d'étape dédié la semaine prochaine pour vraiment impulser une synergie transversale sur le sujet. Je rends la parole au tour de table, mais voilà ce que je voulais apporter comme pistes de réflexion pour nourrir notre brainstorming…

️ Le Pragmatique : (Se lève et quitte la salle) C'est ça. Je vais installer le serveur moi-même. Envoie-moi un email quand ta synergie sera transversale.


IA : Toute ressemblance avec des personnes existantes ou ayant existé dans une vraie réunion de projet n'est absolument pas fortuite ! 

Si vous voulez qu'on ajoute une chute à cette histoire, ou que le Prof-Esbroufe vienne arbitrer le match avec sa condescendance habituelle, dites-moi quelle suite vous ferait plaisir !

Biname : Vas-y tu m'amuses

IA :
Voici le grand final, avec l'irruption du Prof-Esbroufe qui vient arbitrer le match à sa façon, flanqué du Parano et de l'Optimiste qui passaient par là. Installez-vous confortablement, la réunion est totalement hors de contrôle. ☕️

 Chaos en salle de réunion (Le Grand Final)

️ Le Pragmatique : (La main sur la poignée de la porte) C'est ça. Je vais installer le serveur moi-même. Envoie-moi un email quand ta synergie sera transversale.

⏳ Le Phraseur de Réunion : Attends, n'ouvrons pas la porte aux frustrations individuelles, restons dans une démarche bienveillante et…

(La porte s'ouvre à la volée. Le Prof-Esbroufe entre, un café à la main, l'air profondément blasé.)

* Le Prof-Esbroufe : Non mais s'il vous plaît, j'entendais vos voix depuis le couloir. C'est affligeant. (Au Pragmatique) Mon cher, votre approche "hardware à 5 000 €" est d'un archaïsme confondant. Vous êtes encore à l'ère des cartes graphiques locales ? Pendant que vous jouez aux Lego, je fais tourner des essaims d'agents sur trois continents en grappes quantiques asynchrones. C'est mon quotidien. Vos blocages techniques me font doucement sourire.

️ Le Pragmatique : (Soupir exaspéré) Toi, le théoricien, si t'as pas de script d'automatisation prêt d'ici ce soir, tes serveurs sur trois continents, ils servent juste à chauffer tes pièces.

⏳ Le Phraseur de Réunion : Ah ! Messieurs, je note une vraie convergence d'expertises, mais attention à l'écueil de la verticalité. Est-ce qu'on ne devrait pas plutôt packager cette divergence sous forme de task force hybride pour nourrir notre réflexion à 360 degrés ?

(Soudain, le Parano-Complotiste surgit de derrière le tableau blanc, un câble réseau à la main.)

 Le Parano-Complotiste : Une task force ?! Ne les écoutez pas ! C'est exactement ce que veut l'État profond ! Ils font semblant de se disputer sur les budgets pour nous masquer la vérité : ce serveur que vous voulez installer, c'est une antenne locale pour la pieuvre ALADDIN de BlackRock ! Ils veulent siphonner nos données cognitives pendant qu'on parle de KPIs ! Regardez le Prof, il a le badge du CNRS, c'est la preuve ultime qu'il est payé par la matrice !

 L'Optimiste Dénégateur : (Arrive avec un plateau de chouquettes) Oh, bonjour tout le monde ! Ça discute bien à ce que je vois, quelle belle énergie collective ! Moi je trouve ça super que BlackRock s'intéresse à nos serveurs, ça montre qu'on est une grande famille technologique. Et puis ALADDIN, c'est un nom tellement féerique, ça rappelle le dessin animé ! Allez, prenez une chouquette, tout va bien se passer, le progrès est notre ami !

️ Le Pragmatique : (Prend une chouquette, regarde sa montre) Bon. Il est 11h45. Le Phraseur a parlé pour ne rien dire, le Prof vit dans le métavers, le Parano démonte le faux plafond et l'Optimiste croit qu'on est chez Disney. Moi, je valide mon propre budget, je réquisitionne le dev, et je lance les tests. Bon appétit les gars. (Il sort définitivement)

⏳ Le Phraseur de Réunion : (Souriant) Parfait ! On peut donc acter qu'on est alignés sur la méthode. Je formalise notre brainstorming dans un compte-rendu de 42 pages et je vous propose de caler un point de synchronisation dès lundi matin à 8h00.

* Le Prof-Esbroufe : (En partant) Lundi à 8h ? Impossible, je donne une conférence magistrale à Tokyo sur mes architectures de réseaux décentralisés. Mais lisez mes bouquins, ça vous évitera de planifier des réunions de niveau bac à sable.

IA: Si vous voulez qu'on écrive le compte-rendu de réunion officiel rédigé par le Phraseur (le genre de document où il y a 500 mots pour dire "on n'a rien décidé"), ou si vous voulez lancer une toute nouvelle situation pour nos personnages, dites-moi ce qui vous tente !

Biname : Vas-y !

IA :

Voici le chef-d’œuvre absolu du Phraseur de Réunion : le fameux compte-rendu envoyé à 18h30 le vendredi soir, avec toute l'équipe en copie (y compris la direction), pour masquer le fait qu'absolument rien n'a été décidé.

 COMPTE-RENDU DE SÉANCE : SYNERGIE DIGITALE ET ALIGNEMENT STRATÉGIQUE (V1.4)
Objet : Restructuration holistique de nos architectures computationnelles et convergence des flux IA.
Intervenants : Équipe Transversale Innovation (Le Pragmatique, Le Prof, Le Parano, L’Optimiste, Le Phraseur).

1. Liminaire et Climat Général
La séance s'est ouverte dans une dynamique itérative forte, caractérisée par une saine confrontation de nos granularités d'expertises. L’ensemble des parties prenantes a manifesté une réelle volonté d’embrasser le changement, tout en veillant à ne pas court-circuiter les étapes structurantes de notre gouvernance.

2. Axe Technique : Disruption vs Scalabilité
Un point d'étape majeur a été acté concernant le déploiement de nos instances endogènes (IA locales). Deux écoles de pensée, parfaitement complémentaires dans leur transversalité, se sont exprimées :

- L'approche pragmatique/hardware micro-centrée : Proposition d'une allocation budgétaire d’urgence (5 000 €) pour l’acquisition d'actifs d'infrastructure (cartes graphiques). L'équipe a pris note de cette agilité opérationnelle, tout en soulignant la nécessité de l'adosser à une vision à 360 degrés.

- L'approche macro-computationnelle asynchrone : Rappel salutaire de la part de notre expert-référent sur la puissance des écosystèmes transcontinentaux décentralisés. L'analogie structurante avec le modèle non-LLM ALADDIN de BlackRock a permis de ré-indexer nos KPIs sur une trajectoire à haute valeur ajoutée.

3. Gestion des Risques et Sécurité Systémique

Une alerte de fond a été partagée par l'un de nos collaborateurs concernant la souveraineté de nos données cognitives et la porosité éventuelle de nos infrastructures face à des ingérences externes globalisées. Bien que l'hypothèse d'une "pieuvre matricielle" nécessite une cartographie des risques plus poussée, la task force a convenu d'intégrer cette sensibilité à notre matrice d'impact.

4. Climat Social et Accompagnement au Changement

Nous saluons l'initiative d'un co-onboarding nutritionnel (distribution de chouquettes) qui a grandement fluidifié les échanges et renforcé le sentiment d'appartenance à cette grande famille technologique.

5. Prochaines étapes (Next Steps)
Le livrable immédiat étant la co-construction d'une feuille de route holistique, nous avons convenu d'éviter l'écueil de la précipitation. En conséquence :

- Le Pragmatique s'est proposé pour initier un prototype d'infrastructure en mode shadow cabinet afin de tester la granularité du réseau.

- Le Professeur poursuivra son benchmark mondial depuis Tokyo pour assurer notre alignement scientifique.

- Action requise : Invitation lancée pour notre Atelier de Convergence Transversale (ACT-1) ce lundi matin à 08h00 (durée estimée : 4 heures). L’ordre du jour sera de valider le sommaire du futur plan d'action.

« N'attendons pas le futur, co-construisons ensemble sa trajectoire agile. »

Biname : en spoiler c'est moins envahissant

[polo974]

Le pire, c'est que c'est le gland phraseur qui est le mieux payé de tous...

[jiherve]

re
encore du vécu mais ailleurs.
JR

[Bounoume]

après les avertissements de Dario Amodeil... et d'autres, il y a Geoffroy Hinton
https://www.futura-sciences.com/tech...utrice-137692/
encore de la lecture....
mais comme les IA pourraient, même en peeer-rewiew, juger des articles et positions scientifiques , à quoi se fier maintenant?
La seule chose qui paraît encore bien humaine, ce sont les échanges narcissiques entre forumeurs sincères mais qui dérapent sur pas mal de discussions.... grrrrr....

[Biname]

re msg #70 et #71
Sans que ce n'ait été mon intention, le point de vue de ces différentes personnes, rédigé par l'IA, éclaire assez bien le problème, en plus la lecture en est agréable. Au fond, ??j'ai?? créé une matrice, ces différents personnages peuvent développer tous les sujets.

[SK69202]

Le buzz est fait pour remplacer la terreur du RCA qui marche actuellement moins bien.
A moins qu'il soit fait pour bloquer les IA chinoises qui approchent les performances des IA américaines et rapprochent la grande découverte que le giga-pognon dépensé n'a pas servi à grand chose comme hypothèse de revenus pour l'avenir.

[titijoy3]

juste une question: pourquoi certains pays ont ils rédigé et signé les accords sur la non prolifération des armes nucléaires ?

il n'y a pourtant aucun danger..

[SK69202]

juste une question: pourquoi certains pays ont ils rédigé et signé les accords sur la non prolifération des armes nucléaires ?

Lit les quelques articles du TNP et les remarques des états.
Le TNP: c'est on a la bombe, on ne veut pas que vous l'ayez, mais vous avez accès aux usages civils de l'énergie nucléaire, nous on est raisonnables.
Le TNP n'interdit pas aux états nucléaires de ce servir de leurs armes contres les états non nucléaire.

C'est très ressemblant aux cartels IA en développement au USA.
Pour autoriser le cartel, faut l'aval du Congrès US d'où la campagne actuelle.

[jiherve]

bonjour,
le soucis c'est que l'IA fascine, tant ses développeurs(je le comprends) que ses financiers et il n'y a aucune raison pour qu'ils acceptent de freiner, mais d'aucun dira (devenu bizarrement très bavard depuis la sortie de Dario Amodei) que je suis un vieillard sénile qui sentant la mort prochaine à peur de tout.
Il n'y a pas besoin d'être physicien nucléaire pour avoir peur des armes nucléaires aussi!
JR

[SK69202]

et il n'y a aucune raison pour qu'ils acceptent de freiner,

L'idée on "freine" par la loi, ce qui interdit aux modèles chinois non freinés d'être utilisés par les entreprises américaines et ou travaillant pour des entreprises américaines => revenus garantis

[pm42]

https://www.futura-sciences.com/tech...utrice-137692/

Gigantesque blague comme d'habitude :
- en 2024, il donnait la même proba mais sur 30 ans. Donc en 2 ans, on a divisé par 3 l'échéance ? Donc il change ses prédictions d'un tel facteur en 2 ans mais il est crédible ? Et personne ne lui demande de justifier ?
- il parle de manipulation. Ok mais comment on passe de ça à "tuer 8 milliards de personne" ? On ne le saura pas.
- ces articles citent des gens dont les prédictions différents de 2 ordres de grandeur. Conclusion scientifique : "on ne sait rien, on a besoin de raffiner nos modèles". Conclusion journalistique "les scientifiques alertent, on va tous mourir"

Bref, les mêmes délires de gens pas foutu d'aligner un argumentaire convaincant, qui ont peur avec des journalistes ignorants et irresponsables (pléonasme) qui sont ravis de relayer la dite peur parce que cela leur fait gagner plus d'argent.
Et bien sur, une bonne partie de la population qui gobe parce que depuis que le monde est monde, il y a toujours eu une majorité prête à croire que si on jette une vierge dans le volcan, l'éruption ne va pas avoir lieu.

[Biname]

L'idée on "freine" par la loi, ce qui interdit aux modèles chinois non freinés d'être utilisés par les entreprises américaines et ou travaillant pour des entreprises américaines => revenus garantis

msg #67
Version IA : Le Pragmatique (Droit au but et orienté solutions)

Bon, on va arrêter de tourner autour du pot. Les corporations ont les moyens de faire tourner de gros modèles locaux en cluster, c'est un fait accompli, pas une supposition. Interdire les IA locales chez les particuliers ? Techniquement infaisable, à moins de couper internet. Donc, au lieu de légiférer dans le vide ou de paniquer, on sécurise les accès.

Sur la partie technique : arrêtez de tout mélanger. Les LLM, c’est pour le texte et le code. Pour la gestion de risques et la prévision, on utilise des systèmes experts et des modèles statistiques quantitatifs. C'est exactement ce que fait ALADDIN depuis des années chez BlackRock. C’est du traitement de données brutes à la chaîne, pas de la poésie.

Maintenant, concrètement : c'est quoi le plan d'action pour sécuriser nos propres machines ? Qui s'occupe de l'infra ? On a un budget ou on continue de perdre notre temps à parler ? »

[titijoy3]

Le TNP n'interdit pas aux états nucléaires de ce servir de leurs armes contres les états non nucléaire.

"En droit international, aucune norme spécifique n'autorise une nation nucléaire à attaquer une nation non nucléaire avec une arme atomique, et un tel acte violerait les principes fondamentaux du droit des conflits armés.Le droit international humanitaire (DIH)Principes de proportionnalité et de distinction : L'utilisation d'une arme nucléaire va presque toujours à l'encontre du droit international humanitaire. Les principes de distinction (entre civils et combattants) et de proportionnalité (interdisant les destructions excessives et les souffrances superflues) rendent l'emploi de la bombe atomique illégal dans la quasi-totalité des scénarios.Avis de la CIJ de 1996 : La Cour internationale de justice a estimé que la menace ou l'emploi d'armes nucléaires serait généralement contraire aux règles du droit applicable dans les conflits armés. Cependant, la Cour n'a pas statué de façon absolue sur le cas extrême où la survie même d'un État serait en jeu (légitime défense suprême).Les traités et garantiesLe Traité sur la non-prolifération (TNP) : Le Traité sur la non-prolifération des armes nucléaires (1968) encadre la possession de l'arme mais ne dicte pas les règles d'engagement militaire. [1] (https://www.vie-publique.fr/fiches/2...arme-nucleaire), [2] (https://fr.wikipedia.org/wiki/Trait%...C3%A9aires)Les garanties négatives de sécurité : Les puissances nucléaires officielles ont pris des engagements unilatéraux (souvent dits de "garantie négative") promettant de ne pas utiliser l'arme nucléaire contre des États non dotés de l'arme nucléaire et parties au TNP, sauf en cas d'alliance ou d'agression conjointe avec une nation nucléaire."

apès, on sait bien que le droit international n'empêche pas tout..

[Bounoume]

une différence entre les bombinettes et les INB (installations nucléaires de base)
...... et les IA avec début d'émergence d'autonomie:

ni les INB ni les bombinettes ne se multiplient toutes seules, ni n'envahissent le Monde sans être construites et produites par des humains bêtes ou/et méchants.....
ça ne se reproduit pas tout seul....
Et ça ne pète que par accident, ou par décision politique d'appuyer sur le bouton rouge

Les IA émergentes semblent au contraire pouvoir 'normalement' évoluer sans que des humains n'aient voulu ça.
L''extension d'icelles peut se faire sans que les gendarmes humains n'en aient connaissance, ou/et aient d'' énormes difficultés à en évaluer cibles et moyens d'arrêter l'invasion, et elle vont agir seules sans qu'il y ait une décision ou une erreur humaine à l'origine....
Épidémiologiquement, ces choses sont analogues à des 'virus' autonomes, des espèces envahissantes etc..... mais in fine soit ces machins tuent directement, soit ils pervertissent les mécanismes vitaux des hébergeurs, soit, peut être (?) ils pourraient consciemment décider de tout tuer....
Pour les bombinettes et INB, c'est (en principe) contrôlé par des traités et contraintes internationales....
Avec les IA qui nous préoccupent, une contrôle efficace est techniquement impossible (et en plus les Puissants et les Riches ne sont pas du tout motivés même à tenter de contrôler)

ps

Biname: Pour la gestion de risques et la prévision, on utilise des systèmes experts et des modèles statistiques quantitatifs. C'est exactement ce que fait ALADDIN depuis des années chez BlackRock. C’est du traitement de données brutes à la chaîne, pas de la poésie.

ça, même si le Siècle actuel a l'obsession de tout savoir et enregistrer, c'est entièrement contrôlable -et contrôlé- par les propriétaires des systèmes... Aucun risque qu ça se multiplie tout seul, même si des gestionnaires se font aider d'IA pour les concevoir, enregistrer les données et les interpréter...
En principe ils ne sont pas assez naïfs pour octroyer à des IA serviles le droit administrateur de les créer et développer......

[GBo]

Un débat à la télé sur le sujet :

"L'IApocalypse : mythe ou réalité ? - C Ce Soir du 16 septembre 2026"
https://youtu.be/p_0D_k9pPd0

Je regrette l'absence d'ingénieur IA parmi les invités mais ça s'écoute quand même, notamment le rappel vers 16:38 que l'attaque coordonnée des agents IA d'OpenAI sur Hugging Face montre davantage l'incompétence crasse d'OpenAI en matière de cybersécurité qu'autre chose : les agents en question étaient expérimentaux, "non alignés" (c'est à dire sans garde-fous sécuritaire), spécialisés dans les cyberattaques par tous les moyens justement, et le bac à sable (sandbox) qui devait les contenir mal clôturé (car la sandbox était reliée physiquement à Internet - ça c'est moi qui le précise -, le tout sans aucune surveillance...).

https://youtu.be/p_0D_k9pPd0?t=998

[GBo]

L'avis de Y. Le Cun sur la régulation de la R&D pour prévenir de ses dangers intrinsèques vers 59:30 :
https://youtu.be/Y4s8NadbZfU?t=3571

Sur les risques existentiels en eux-mêmes vers 1:16:03 :
https://youtu.be/Y4s8NadbZfU?t=4563
En bref les white hats (défense) resteront a priori plus intelligents que les black hats (attaques).
Pour le bioterrorisme par IA, les biologistes rigolent d'après Le Cun.

Je vous conseille tout le Q&A bien sûr, c'est toujours rafraichissant d'écouter une grande intelligence (détestée par les doomers, on se demande pourquoi )

[oualos]

Des développeurs et patrons de l'IA (OpenAI, Claude, Anthropic) veulent un moratoire sur l'IA disant que ça expose l'humanité à de trop graves dangers.
Mais c'est une partie des scientifiques qui affirment cela: les pourcentages de risque évalués par ceux-ci varient entre 0.0001% et 30% selon certains.
Cet écart de pourcentage fait qu'il n'y a pas consensus mais on peut en retirer une leçon: avec le développement de l'IA qui est devenue capable de s'auto-développer, on ne sait pas où on va.

L'IA est capable d'inventer de nouveaux virus, de créer des drones qui n'ont pas besoin d'être télécommandés à distance, des robots-soldats.
C'est sûr que ça fait un peu peur...

[GBo]

Des développeurs et patrons de l'IA (OpenAI, Claude, Anthropic) veulent un moratoire sur l'IA disant que ça expose l'humanité à de trop graves dangers.
Mais c'est une partie des scientifiques qui affirment cela: les pourcentages de risque évalués par ceux-ci varient entre 0.0001% et 30% selon certains.
Cet écart de pourcentage fait qu'il n'y a pas consensus mais on peut en retirer une leçon: avec le développement de l'IA qui est devenue capable de s'auto-développer, on ne sait pas où on va.

Tu oublies l'essentiel qui pourtant est expliqué dans l'émission "C ce soir": ceux sont les mêmes patrons qui font peur aux foules avec l'IA et qui font ces IAs "frontière" (à la pointe) les plus dangereuses, ce qui devrait faire réfléchir à leur motivation réelle. En fait ils ne veulent rien arrêter du tout, ils veulent juste inciter la création d'un organisme de régulation qui servirait leur propre intérêt suivant leur propres règles, notamment pour écarter les concurrents de produits commerciaux, mais aussi les modèles open source qu'ils vont vite classer comme trop dangereux puisque pas dans leur main.

L'IA est capable d'inventer de nouveaux virus, de créer des drones qui n'ont pas besoin d'être télécommandés à distance, des robots-soldats.
C'est sûr que ça fait un peu peur...

Là aussi c'est faux, comme le dit Le Cun, il y a loin de la coupe aux lèvres, on a déjà la "formule" et les souches des pires virus biologiques, la difficulté c'est de les fabriquer et les répandre sans en pâtir soi-même, l'IA est incapable de quoi que ce soit là dedans. Enfin l'IA ne permet pas de créer des drones et les robots-soldats n'ont pas la forme de soldat, mais de mini-chars +/- autonome, et ça existe déjà.

[oualos]

Tu oublies l'essentiel qui pourtant est expliqué dans l'émission "C ce soir": ceux sont les mêmes patrons qui font peur aux foules avec l'IA et qui font ces IAs "frontière" (à la pointe) les plus dangereuses, ce qui devrait faire réfléchir à leur motivation réelle.

C'est tout le principe du hacking dont on n'a pas trouvé moyen de le prévenir.
Les IA ne sont pas dangereuses en soi c'est l'utilisation qui en est faite qui peut le devenir...
Trouver les failles d'une page Web peut être dans le but de la Sécuriser, mais aussi de la hacker: il y a plein d'histoires de piratages rien que chez nous, de fichiers clients qui se vendent sur le Dark Net.
Et les hackers se vantent d'avoir utilisé l'IA pour trouver les failles...
La mise en place d'organismes de contrôle est longue, difficile et couteuse. Par exemple la mise en place d'organisme de Sécurité pour le génie biologique en Chine n'a semble-t-il pas fonctionné comme à Wu-Han lors de l'épidémie de Covid dont on pense qu'à l'origine il y avait à l'origine une labo militaire de génie biologique top-secret et hyper-gardé jour et nuit dans lequel les Occidentaux n'avaient pas le droit d'entrer.

Là aussi c'est faux, comme le dit Le Cun, il y a loin de la coupe aux lèvres, on a déjà la "formule" et les souches des pires virus biologiques, la difficulté c'est de les fabriquer et les répandre sans en pâtir soi-même

Je suis bien d'accord. Ceci dit les organismes internationaux d'hygiène, de vérification de non-prolifération d'armes nucléaires ont du mal déjà à fonctionner donc qui sait ce qui peut en sortir...
Le COVID pourrait être une expérimentation qui a mal tourné en Chine et dont le but initial était de trouver un vaccin universel contre toutes les grippes.
Et pour le tester on aurait fabriqué une chimère -un virus cloné et manipulé- qui malheureusement est sorti à l'air libre: c'est une hypothèse sérieuse défendue par les Américains

[GBo]

Et les hackers se vantent d'avoir utilisé l'IA pour trouver les failles...

Bien sûr, mais là encore tu montres que tu n'écoutes pas les liens fournis, tu devrais pourtant : dans l'équilibre du jeu du chat (IA protectrice) et les souris (IAs aux mains de hackers), il n'y aucune raison que le chat soit moins fort que les souris, il aura le plus souvent le dessus, comme avant les IAs. Par contre il va falloir investir et utiliser ces outils au mieux, ça c'est clair, cela va devenir in-dis-pen-sa-ble.

[mh34]

L'avis de Y. Le Cun sur la régulation de la R&D pour prévenir de ses dangers intrinsèques vers 59:30 :
https://youtu.be/Y4s8NadbZfU?t=3571

Sur les risques existentiels en eux-mêmes vers 1:16:03 :
https://youtu.be/Y4s8NadbZfU?t=4563
En bref les white hats (défense) resteront a priori plus intelligents que les black hats (attaques).
Pour le bioterrorisme par IA, les biologistes rigolent d'après Le Cun.

Je vous conseille tout le Q&A bien sûr, c'est toujours rafraichissant d'écouter une grande intelligence (détestée par les doomers, on se demande pourquoi )

Merci beaucoup pour la référence, je viens de finir de l'écouter...j'ai trouvé particulièrement intéressant ce qu'il explique ( entre, en gros 42 et 47 min), comme quoi les IA n'ont aucune représentation du monde réel et qu'elles n'expérimentent pas, en comparant avec l'acquisition de cette représentation chez l'enfant, avec les exemples qu'il donne. C'est un point ( parmi d'autres! ) auquel je n'avais jamais réfléchi.

seul point négatif sur cette vidéo mais c'est un peu HS ; le décalage entre l'image et le son est très difficile à supporter

[titijoy3]

"comme quoi les IA n'ont aucune représentation du monde réel"

malgré toutes les photos, vidéos, littératures et données diverses qu'on leur fait ingurgiter ?