Pour ou contre un moratoire sur l'intelligence artificielle ?

[ArchoZaure]

On est presque en 2025 et je ne crois pas que ce soit le cas, ces métiers existent toujours, alors que la trad automatique fait partie des plus beau succès de l'IA depuis quelques années, mais elle plafonne, pour les mêmes raisons que ChatGPT va plafonner.

Après, moi les chiffres et les prospectives je laisse ça aux sociétés de conseil.
Et on est d'accord que c'est pas une science exacte.
Mais bon, je suis bien obligé de me fier à quelque-chose plutôt que d’extrapoler sans données dans mon coin.

Par exemple, on peut perdre certains emplois peu qualifiés et permettre également la démultiplication de ce travail grâce à l'automatisme (c'est le cas ici avec l'IA) là où de toutes façons on n'aurait jamais fait appel à un traducteur.
C'est le cas avec la traduction automatique et le sous-titrage automatique par interprétation de la voix dans les vidéos (youtube etc).
On est d'accord que c'est souvent de très mauvaise qualité mais on se suffit à cette baisse de niveau de service.
Quand c'est sérieux et les enjeux en rapport avec le cout on fait appel à un humain.

La démocratisation de l'IA c'est comme quand on est passé du tailleur sur mesure au prêt à porter ou du bottier à la production de chaussures qui ne se différencient que par la taille.
Difficile de savoir comment ça va évoluer.
-----

[mh34]

Pour info ( je l'ai découverte aujourd'hui et je n'ai pas d'opinion sur le sujet traité ) une publication de l'INSERM au sujet de chatGPT et la recherche/la médecine ( logique vu ce qu'est l'INSERM ) ;
https://presse.inserm.fr/canal-detox...cins-vraiment/

[ArchoZaure]

Pour info ( je l'ai découverte aujourd'hui et je n'ai pas d'opinion sur le sujet traité ) une publication de l'INSERM au sujet de chatGPT et la recherche/la médecine ( logique vu ce qu'est l'INSERM ) ;
https://presse.inserm.fr/canal-detox...cins-vraiment/

Je cite un extrait et aussi la conclusion.

Ni les médecins ni les chercheurs ne seront remplacés par l’IA de sitôt. En effet, les limites méthodologiques de ces systèmes sont importantes, et leurs performances doivent encore être améliorées.

C'est peut-être pas aussi simple.
Il y a aussi la possibilité de faire appel à des "medecins de seconde zone" (des IA actuelles donc) là où on n'aurait de toutes façons pas fait appel à un médecin (comme pour la traduction évoquée plus haut) du fait du coût ou de la disponibilité d'un médecin.
On néglige peut-être aussi l'impact que peut avoir cette technologie dans les pays à faible revenu.

[pm42]

Pour info ( je l'ai découverte aujourd'hui et je n'ai pas d'opinion sur le sujet traité ) une publication de l'INSERM au sujet de chatGPT et la recherche/la médecine ( logique vu ce qu'est l'INSERM ) ;
https://presse.inserm.fr/canal-detox...cins-vraiment/

Il faut faire la différence entre ce que disent les vrais experts du sujet et les annonces sensationnalistes, le marketing, la presse grand-public.
Personne de sérieux n'envisageait que l'IA puisse remplacer les médecins.

Par exemple, l'IA IBM Watson Health est un exemple de technologie sur-vendue par une boite qui ne va pas bien et est partie dans une direction qui n'a pas abouti. Même en interne, cette approche marketing était considérée comme excessive (je suis un ancien de la maison et j'y ai encore des contacts).

Le problème des données est effectivement énorme en médecine et très compliqué à résoudre pour des raisons à la fois techniques, légales et aussi à cause de la variabilité des populations.
Si on va chercher des grosses bases de données de radios en Inde pour entrainer une IA, elle sera moins performante quand on l'utilisera en Occident : profils de maladies différents, pas les mêmes morphologies moyennes, etc.

Même IBM parlait à la fin d'Intelligence Augmentée c'est à dire d'outils d'aide à la décision. Et là, il y a des aspects intéressants.
Remplacer entièrement les radiologues par exemple n'est pas la bonne solution surtout que ceux qui font bien leur métier parlent effectivement avec le patient pour "affiner" l'examen demandé.
Mais par contre, on sait que leur performance varie en cours de journée en fonction de leur fatigue et d'autres cycles (c'est vrai pour beaucoup de métiers).
Avoir une IA qui fait le même travail d'analyse et pointe ce qu'on peut rater sur une image permet de lisser cette variabilité et d'éviter qu'un chope un cancer à 10h du matin et le rate pour un autre patient à 17h30.

P.S : je dis ça parce que j'ai échangé sur le sujet avec des radiologues quand j'ai fait un tout petit peu d'info dans ce domaine. Ce n'est pas mon "point de vue" mais ce que m'ont dit des gens qui faisaient de la radio, scanner et IRM tous les jours et s'intéressaient au futur de leur domaine.

[GBo]

Il faut faire la différence entre ce que disent les vrais experts du sujet et les annonces sensationnalistes, le marketing, la presse grand-public.
Personne de sérieux n'envisageait que l'IA puisse remplacer les médecins.

Prononcée en 2016 par l’informaticien Geoffrey Hinton, co-récipiendaire du prestigieux Prix Turing 2018 pour ses travaux sur les réseaux de neurones:

"On devrait arrêter de former des radiologues maintenant. Il est tout à fait évident que dans cinq ans, le “deep learning” fera mieux que les radiologues."

Source : https://theconversation.com/radiolog...medecin-185319

[pm42]

Remplacer entièrement les radiologues par exemple n'est pas la bonne solution surtout que ceux qui font bien leur métier parlent effectivement avec le patient pour "affiner" l'examen demandé.

J'ai oublié un autre aspect : on sait entrainer ponctuellement des IAs qui peuvent avoir des perfs aussi bonnes ou meilleures que les radiologues sur certaines "détections". Mais elles sont très spécialisées.
Alors qu'un humain peut lui aussi avoir un domaine d'expertise plus pointu, il va être capable malgré tout de traiter un périmètre beaucoup plus vaste, de voir que quelque chose lui parait anormal et que même s'il n'est pas capable de le diagnostiquer, de demander à un collègue, etc.

Cela ne veut pas dire qu'un jour, on n'aura pas des IAs capables d'être à ce niveau mais pour le moment, on n'est pas là.

[JPL]

Donc pour ou contre un moratoire ?

[oualos]

comme vous dites dans votre signature: Rien ne sert de penser, il faut réfléchir avant
Stéphane Hawking dans un de ses derniers articles mettait en garde contre l'IA, selon lui un des plus grands dangers que l'espèce humaine ait connu: mais il était déjà vieux et il devait se sentir dans des dispositions testamentaires.
Donc dans l'esprit de transmettre un dernier message à l'humanité...
Ce n'est pas péjoratif de ma part cette remarque
https://forums.futura-sciences.com/d...icielle-7.html

[jiherve]

bonjour,

Donc pour ou contre un moratoire ?

tu peux être pour, tu peux être contre cela ne changera rien car c'est ni contrôlable ni applicable partout.
comment écrit on moratoire en chinois ?
JR

[Bounoume]

IA et médecine......
en iconographie, un peu de vécu.....
les radiographies 'standard' et par extension les scans, irm, eeg, ecg, et +- échographies.....
pour la routine (prendre une décision, suite à la lecture de l'examen) avoir 'la' conclusion + vite et pas plus mauvaise que si on avait regardé soi-même..... ça peut économise du temps médical.... et ça ne dispense pas d'évaluer la conduite à suivre en fonction du contexte non iconographique (réalité que de toutes façons j'accuse l'IA d'être incapable d'extraire du réél perçu...)
On peut même espérer que l'engine signalera les processus morbides rares, peu démonstratifs, peu ou pas connus du praticien ordinaire.... et qu'il ne détecterait pas tout seul....

Interpréter l'image, le signal... dans le cadre de la nosographie en vigueur (l'état actuel et consensuel du modèle organisant les connaissances).... ça ME paraît sans problème.... puisqu'on va disposer des dossiers archivés: les exemples (les clichés) et leurs étiquettes (les interprétations par le praticien en charge de l'examen....)
Bien sûr il y a derrière le travail de sélection des échantillons, de validation de la conformité image-interprétation aux 'bonnes pratiques' , à l'état actuel de la médecine....

[oualos]

tu peux être pour, tu peux être contre cela ne changera rien car c'est ni contrôlable ni applicable partout.
comment écrit on moratoire en chinois ?

facile ça s'écrit 暫停

[Bounoume]

IA et médecine...... suite...
bien sûr, l'IA ne fera pas mieux que les experts qui ont donné les compte-rendus.... et 'elle' n'inventera pas de nouvelles connaissances.... comme de nouveaux regroupements de signes ('syndromes')....

d'où un effet stérilisant de la chose.....
à la fois perte d'intérêt du praticien sur l'analyse du document (avec récompense de l'ego quand il croit avoir déniché quelque chose de rare et valorisant)
et stagnation de la recherche/découverte de nouveautés utiles aux diagnostics/traitements.....

et puis, si il ne revient plus au document initial, le praticien va perdre la capacité de reconstruire la combinaison image/action à faire.... comme une simple ponction sur épanchement: il faut se guider sur l'image pour trouver... où piquer !!! Et c'est bien plus complexe en chirurgie....

Cependant je ne pense pas que ces défauts soient rédhibitoires, imposant d'arrêter ce 'progrès' !


Mais très bientôt, l'IA va nous proposer d'intégrer diagnostic automatique, décision, avec conduite automatique du robot opérateur.....
.......des robots qu'on fabrique déjà, avec imagerie qui superpose une iconographie (radiologique, en temps réel) et positions des 'outils' du chirurgien.... et ça marche, par exemple pour bien poser des prothèses dans des os.....
A suivre.....

pour ça:

l’optimisation de la prise en charge du patient, l’amélioration du diagnostic des maladies, la prédiction de l’état de santé futur du patient et la personnalisation de son suivi

il y a déjà des 'guidelines' de référence, des travaux statistiques conventionnels, que sont censés prendre en compte les praticiens....
Si on veut automatiser, ou assister, ou contrôler, ces éléments de référence peuvent être parfaitement transcrits et exécutés dans des programmes conventionnels....
Ils sont parfaitement applicables dès que les données d'entrée précises peuvent être obtenues....
Réinventer une boîte noire pour faire pas mieux ce que des algos classiques font bien, c'est discutable....

Quand les variables d'entrée sont tellement bruitées, de disponibilité inconstante, dépendantes de l'observateur.... de son empathie avec la cible.... l'humain fait... ce qu'il peut, en son âme et conscience, il suit comme il peut les consignes, il essaie en permanence d'améliorer les procédures........ et il réussit quelque peu....
Alors invoquons Deus ex Machina.... l'IA donc.....

Hélas, malgré tous les efforts possibles sur la qualité de la base d'apprentissage, il me semble douteux que le résultat "IA" apporte quelque chose ...... ou même que ça puisse s'approcher un peu
de l' 'état de l'art" actuel.....

[GBo]

Ne pas oublier quand même l'apport de l'IA pour la recherche (médicale au sens large - pharmaceutique): par ex. Alphafold (conçu par Deepmind) prédit la structure 3D de protéines (avec quelques bémols, mais bel exploit):
https://www.usinenouvelle.com/editor...rfait.N2078941
https://fr.wikipedia.org/wiki/AlphaFold

[fred3000gt]

Donc pour ou contre un moratoire ?

Contre car inutile, et techniquement impraticable, si on rentre dans les détails:
En effet, même les pro-moratoires ne demandent sans doute pas un moratoire sur la reconnaissance des cancers de peau dont la performance semble maintenant bien établie:
https://www.nature.com/articles/nature21056

….donc un moratoire spécifiquement sur les modèle de language?

Ca veut dire que lorsque les entrées d’un réseau représentent des valeurs de pixel alors l’utilisation serait légale, mais si elles représentent un mot, alors ce serait illégal?

…mais pour représenter un mot on utilise un réseau de type auto-encodeur, qui se trouvent être similaires à ceux utilisés pour faire des “features vector” à partir d’image…. Donc on on interdit aussi les auto-encodeurs?


Cela semble techniquement impraticable….

[GBo]

….donc un moratoire spécifiquement sur les modèle de language?

Oui il faut lire les termes exact de la pétition : c'est GPT-5 qui est visé, d'où le terme de tartufferie que j'emploie pour cette initiative, car pour une partie au moins des signataires, dont le plus illustre, il s'agit sans doute de mettre les bâtons dans les roues d'OpenAI pour pouvoir la rattraper en 2023 (car Musk VEUT son ChatGPT, qu'il l'a déjà appelé TruthGPT), ce qui me rend cette boite (OpenAI) tout de suite plus sympathique.
Extrait:

Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable. This confidence must be well justified and increase with the magnitude of a system's potential effects. OpenAI's recent statement regarding artificial general intelligence, states that "At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models." We agree. That point is now.

Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.

https://futureoflife.org/open-letter...i-experiments/

Perso je suis contre un moratoire de quoi que ce soit, il y a trop de problèmes fondamentaux à régler en AI pour arriver à l'AGI, que j'espère connaitre de mon vivant.
ChatGPT est impressionnant de culture Wikipédiesque et GitHubienne mais reste du gadget (trop couteux) tant qu'il ne comprend pas vraiment ce qu'il dit ou ce qu'il code, qu'il ne source pas, qu'il "hallucine" sans prévenir. Ces problèmes ne sont pas qu'une affaire de "fine tuning" hélas, ils peuvent nécessiter l'invention de nouvelles architectures. Donc pas de temps à perdre.

[oualos]

Lorsque Trump a commandé plein de Hydroxychloroquine pour les USA, médicament miracle censé guérir du Covid-19, était-il sous le coup d'une hallucination lui aussi ?
Professait-il une post-vérité ? maintenant on sait que oui...
La question du discernement relativement aux informations dont nous sommes bombardés en permanence se pose et se posera toujours, que ce soit avec ou sans GPT.
Et le fait qu'il ne puisse citer ses sources sera une raison supplémentaire de se méfier de ses énoncés: de toute façon, les concepteurs savent cela depuis le début et ils ont prévenu.
Ce biais est admis et reconnu, ce qui n'est pas le cas pour certains hommes, politiques ou non.

[LogOut]

Sinon c'est quoi les risques concrètement ?

Un risque se caractérise par son impact et sa probabilité d'occurrence.

J'ai l'impression qu'on confond risque et fantasme ici.

[ArchoZaure]

Sinon c'est quoi les risques concrètement ?

De se faire virer si on croit à l'IA consciente.

Je ne sais pas si vous avez déja entendu parler de ce cas :

Un ingénieur prétendait que l’algorithme qu’il avait codé était aussi conscient que son fils de 14 ans. Après une suspension par Google, il a finalement été renvoyé pour avoir partagé au grand public le fruit de recherches qui appartiennent à l’entreprise.

Blake Lemoine ne fait plus partie de Google. L’ingénieur vient d’être renvoyé par la multinationale pour « manquement à ses obligations contractuelles », a appris le média Big Technology le 23 juillet 2022 de la bouche du concerné. La multinationale a confirmé, soulignant qu’elle souhaitait à son ancien employé « bonne chance dans l’avenir ».
Tout a commencé avec un algorithme, ou plutôt LaMDA, pour « Language Model for Dialogue Applications ». En juin dernier, Blake Lemoine a partagé publiquement un billet de blog dans lequel il affirmait que l’intelligence artificielle qu’il avait créée pour Google était « consciente », partageant des bouts de leur « conversation » ensemble. « LaMDA a toujours fait preuve d’une grande compassion et d’une grande attention pour l’humanité en général et pour moi en particulier », assurait-il.

https://www.numerama.com/tech/104992...ar-google.html

Voir aussi ici :
https://www.futura-sciences.com/tech...-google-99013/

La suite du feuilleton lorsque L'IA veut assigner Google en justice.
https://www.journaldugeek.com/2022/0...le-en-justice/

[GBo]

Sinon c'est quoi les risques concrètement ?
Un risque se caractérise par son impact et sa probabilité d'occurrence.

Aucune idée, concrètement.

Pour les rédacteurs de la pétition (la mise en gras est de moi):

Contemporary AI systems are now becoming human-competitive at general tasks, and we must ask ourselves:
Should we let machines flood our information channels with propaganda and untruth?
Should we automate away all the jobs, including the fulfilling ones?
Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us?
Should we risk loss of control of our civilization?

Ils sont complètement alt-azimutés.

[Archi3]

Ou plutôt très malins, ils ont compris qu'agiter les fantasmes de la population pour lui faire peur était un moyen très efficace d'arriver à ses fins.

[fred3000gt]

Oui il faut lire les termes exact de la pétition : c'est GPT-5 qui est visé, d'où le terme de tartufferie que j'emploie pour cette initiative, car pour une partie au moins des signataires, dont le plus illustre, il s'agit sans doute de mettre les bâtons dans les roues d'OpenAI pour pouvoir la rattraper en 2023 (car Musk VEUT son ChatGPT, qu'il l'a déjà appelé TruthGPT), ce qui me rend cette boite (OpenAI) tout de suite plus sympathique.
Extrait:


https://futureoflife.org/open-letter...i-experiments/

Perso je suis contre un moratoire de quoi que ce soit, il y a trop de problèmes fondamentaux à régler en AI pour arriver à l'AGI, que j'espère connaitre de mon vivant.
ChatGPT est impressionnant de culture Wikipédiesque et GitHubienne mais reste du gadget (trop couteux) tant qu'il ne comprend pas vraiment ce qu'il dit ou ce qu'il code, qu'il ne source pas, qu'il "hallucine" sans prévenir. Ces problèmes ne sont pas qu'une affaire de "fine tuning" hélas, ils peuvent nécessiter l'invention de nouvelles architectures. Donc pas de temps à perdre.

Merci pour l’info.
Bon, Musk a quand même donné 100M à Openai (avant de quitter en 2018).

Sinon c'est quoi les risques concrètement ?

Un risque se caractérise par son impact et sa probabilité d'occurrence.

J'ai l'impression qu'on confond risque et fantasme ici.

C’est peut-être précisément le problème de ce risque: l’incertitude considérable de l’impact (de rien à Armageddon) et de la probabilité d’occurence. Et bien sûr chacun se sent en mesure d’estimer ces 2 paramètres au doigt mouillé.

Cette incertitude même est susceptible d’encourager des partisans du moratoire.

[pm42]

C’est peut-être précisément le problème de ce risque: l’incertitude considérable de l’impact (de rien à Armageddon) et de la probabilité d’occurence. Et bien sûr chacun se sent en mesure d’estimer ces 2 paramètres au doigt mouillé.

Cette incertitude même est susceptible d’encourager des partisans du moratoire.

L'incertitude est scientifique. Les partisans ne donnent aucune évaluation : ils pensent que leur perception est la vérité.

C'est pour cela que je rappelle (voir plus haut) tous les cas historiques où ce genre d'évaluation a été faite : chaque fois qu'on a annoncé un énorme risque, il s'est avéré non-existant.
La seule fois où le risque a été réel (les armes atomiques), il n'a même pas été envisagé dans le débat public avant que les 1ères n'explosent.

Donc bien sur, cela n'a pas fiable à 100% mais cela permet de se donner une idée de la valeur du "prédicteur" qu'est "un groupe d'humain annonce la fin du monde" : il se trompe toujours.

P.S : on peut remarquer qu'il se passe la même chose avec le changement climatique. Le problème est réel, les conséquences là chiffrées et étudiées scientifiquement et cela se transforme en "on va tous mourir" (faux) et "il faut sauver la planète". Alors que la planète continuera à tourner et à abriter la vie (elle a été beaucoup plus chaude dans le passé) et ce qu'il faut sauver, c'est nos civilisations.
Mais la peur crée automatiquement cette pensée apocalyptique surtout dans les pays qui en ont la tradition (venue des religions du Livre). Le discours est très différent en Asie par exemple.

[fred3000gt]

L'incertitude est scientifique. Les partisans ne donnent aucune évaluation : ils pensent que leur perception est la vérité.

C'est pour cela que je rappelle (voir plus haut) tous les cas historiques où ce genre d'évaluation a été faite : chaque fois qu'on a annoncé un énorme risque, il s'est avéré non-existant.
La seule fois où le risque a été réel (les armes atomiques), il n'a même pas été envisagé dans le débat public avant que les 1ères n'explosent.

Donc bien sur, cela n'a pas fiable à 100% mais cela permet de se donner une idée de la valeur du "prédicteur" qu'est "un groupe d'humain annonce la fin du monde" : il se trompe toujours.

P.S : on peut remarquer qu'il se passe la même chose avec le changement climatique. Le problème est réel, les conséquences là chiffrées et étudiées scientifiquement et cela se transforme en "on va tous mourir" (faux) et "il faut sauver la planète". Alors que la planète continuera à tourner et à abriter la vie (elle a été beaucoup plus chaude dans le passé) et ce qu'il faut sauver, c'est nos civilisations.
Mais la peur crée automatiquement cette pensée apocalyptique surtout dans les pays qui en ont la tradition (venue des religions du Livre). Le discours est très différent en Asie par exemple.

En effet, la pensée apocalyptique est peut-être bien moins prégnante en Asie.
A propos d’Asie, les travaux sur les gains de fonction des virus semblent être un contre-exemple à ton (intéressante) régle: ils ont bien été identifiés comme un danger, et peut-être (pour autant que ce soit confirmé) responsables du Covid.

[ArchoZaure]

Donc bien sur, cela n'a pas fiable à 100% mais cela permet de se donner une idée de la valeur du "prédicteur" qu'est "un groupe d'humain annonce la fin du monde" : il se trompe toujours.

Ce serait étonnant qu'une victime de la fin du monde soit encore là pour réaliser qu'elle s'est trompée (ou qu'elle ne s'est pas trompée, c'est pareil).

C’est peut-être précisément le problème de ce risque: l’incertitude considérable de l’impact (de rien à Armageddon) et de la probabilité d’occurence. Et bien sûr chacun se sent en mesure d’estimer ces 2 paramètres au doigt mouillé.

Donc sans parler de la fin du monde, on est d'accord que les signataires du moratoire ne proposent en fait qu'un certains nombre de scénarios.
Dont la graduation que je remets ici :

Contemporary AI systems are now becoming human-competitive at general tasks, and we must ask ourselves:
Should we let machines flood our information channels with propaganda and untruth?
Should we automate away all the jobs, including the fulfilling ones?
Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us?
Should we risk loss of control of our civilization?

Les deux plus insignifiants n'étant qu'une exacerbation de ce que notre civilisation propose déjà.
Et le pire n'étant pas la fin du monde, mais la perte de contrôle de notre civilisation (enfin "nos" civilisations peut-être, et ça se discute).

[pm42]

En effet, la pensée apocalyptique est peut-être bien moins prégnante en Asie.

Normal, c'est juste un truc culturel. Les gens qui nous sortent ça ne s'en rendent pas compte mais ils sont le prophète dans la rue de l'Etoile Mystérieuse.

A propos d’Asie, les travaux sur les gains de fonction des virus semblent être un contre-exemple à ton (intéressante) régle: ils ont bien été identifiés comme un danger, et peut-être (pour autant que ce soit confirmé) responsables du Covid.

Sauf que je ne dis pas que les risques n'existent pas, loin de là.
Je dis juste que le discours qu'on entend régulièrement sur les risques et sur de nombreux sujet n'est pas du tout scientifique et n'est pas une évaluation objective de son degré.

Tu remarqueras d'ailleurs que dans le cas des risques biologiques comme ça, on n'avait pas du tout cet emballement médiatique ou ce discours sur le forum.
En fait, cela a même été le contraire : médiatiquement, on a eu Raoult qui venait expliquer que c'était une grippette et que plus l'échantillon était petit, meilleures étaient les statistiques.

P.S : petite citation qui montre à quel point on est dans le grand classique.

[noureddine2]

Et le fait qu'il ne puisse citer ses sources sera une raison supplémentaire de se méfier de ses énoncés: de toute façon, les concepteurs savent cela depuis le début et ils ont prévenu.
Ce biais est admis et reconnu, ce qui n'est pas le cas pour certains hommes, politiques ou non.

les nations unis doivent réguler ces IA , comme pour les COP contre le réchauffement climatique .
donner une liste de tous les danger de l'IA , faire un sommet pour voir comment éviter ces danger , puis tous les pays doivent signer .
c'est injuste qu'un pays régule l'IA , et un autre pays travaille librement et gagne beaucoup d'argent dans des IA non régulés .

[jiherve]

Bonjour

Tu remarqueras d'ailleurs que dans le cas des risques biologiques comme ça, on n'avait pas du tout cet emballement médiatique ou ce discours sur le forum.

Je n'ai pas le souvenir de discussions sur un moratoire concernant les recherches bio durant le covid mais je me souviens très bien m’être fait traiter de crétin, avec la même rhétorique, lorsque j'avais envisagé qu'une évolution du virus lui permettrait de contourner le vaccin , ce qui advint!
JR

[oualos]

Petite blague: s'il y avait eu un moratoire au moment où l'homme préhistorique a découvert la roue, le cours de l'Histoire eut été différent

[GBo]

Ou plutôt très malins, ils ont compris qu'agiter les fantasmes de la population pour lui faire peur était un moyen très efficace d'arriver à ses fins.

Fort possible. Ce serait le comble du cynisme en fait. Je remarque aussi qu'ils utilisent d'emblée le terme de "digital minds" pour l'état de l'art de l'IA, un terme digne de la science fiction, au mépris de toute objectivité. Non les modèles actuels les plus puissants ne sont toujours pas des "esprits numériques" !

[ArchoZaure]

Petite blague: s'il y avait eu un moratoire au moment où l'homme préhistorique a découvert la roue, le cours de l'Histoire eut été différent

Pourquoi ?
Vous pensez que c'étaient des sauvages qui se permettaient tout et n'importe quoi ?
Non, le fait de vouloir réguler des usages fait au contraire partie du comportement humain.
C'est la frénésie mercantile avec une volonté de tout déréguler qui est au contraire nouveau (et qui devient une habitude ces dernières années) dans l'histoire des civilisations.

Ici, l'avec l'IA, personne ne dit qu'il faut l'interdire, il est dit qu'il faut réfléchir aux conséquences avant qu'elles n'adviennent, pour limiter ou supprimer certains de ses effets néfastes (après, c'est pas parce-que c'est dit que c'est ce que veulent les initiateurs de la demande de moratoire mais c'est une autre question).