Négocier, persuader et coopérer : Une intelligence artificielle est capable de battre les humains

[extrazlove]

Bonjour à toutes à tous,


Négocier, persuader et coopérer : Une intelligence artificielle est capable de battre les humains au jeu Diplomatie:

Un agent d’intelligence artificielle créé par Meta, la société mère de Facebook, est devenu le premier à atteindre des « performances de niveau humain » dans un jeu de stratégie en ligne qui met l’accent sur la négociation en langage naturel et la coordination tactique entre les joueurs, des résultats publiés dans une étude et qui constituent une nouvelle référence pour le domaine de l’Intelligence Artificielle.

Image d’entête : capture d’écran d’une partie de Diplomacy jouée par l’IA Cicero. (Meta Ai)

L’IA, nommée Cicero (référence anglaise au romain Cicéron), est capable d’imiter le langage humain naturel dans ses négociations avec les 6 autres joueurs d’une partie et peut même analyser les objectifs, les intentions et les opinions de ses partenaires humains pour déterminer les plans à suivre pour réussir dans le jeu de stratégie en ligne Diplomacy (une version en ligne ici : webDiplomacy).

Meta a inscrit Cicero de manière anonyme dans un tournoi de Diplomacy en ligne au début de l’année, et lors de 40 parties rapides contre des concurrents humains, selon l’étude (lien plus bas), l’IA a obtenu plus du double du score moyen et s’est classé dans les 10 % des meilleurs joueurs ayant pris part à plusieurs parties.

#####*Supprimé : hors charte.
-----

[JPL]

Il est obligatoire de donner la source de la citation.

[extrazlove]

Voila les sources:

https://www.gurumed.org/2022/11/28/n...eu-diplomatie/

https://www.science.org/doi/10.1126/science.ade9097

[Liet Kynes]

Bonjour,

Une autre source plus sérieuse: https://www.lemondeinformatique.fr/a...ica-88660.html l'auteur choisi avec pertinence de commencer son article par "Selon Meta"

[A voir en vidéo sur Futura]

[pm42]

Une autre source plus sérieuse: https://www.lemondeinformatique.fr/a...ica-88660.html l'auteur choisi avec pertinence de commencer son article par "Selon Meta"

"Plus sérieuse" ? C'est les dérives journalistiques habituelles : sensationnalisme négatif, ignorance du domaine, une pointe des références idéologiques à la mode (cf. la diversité) et bourré d'erreurs ou d'approximations qui viennent visiblement d'une traduction hâtive.
Petit exemple :

D’autres utilisateurs ont rapidement découvert que n'importe qui pouvait taper des invites racistes

Ben oui, les IA ne contrôlent pas ce que les utilisateurs tapent au clavier.

générer tout aussi facilement un contenu faisant autorité sur ces sujets

Ah bon ? Une IA expérimentale génère du contenu "faisant autorité" ? Comment ? Elle publie dans Nature après peer-reviewing ?

le modèle pouvait attaquer des faits scientifiques établis, et sortir des inexactitudes telles que des dates incorrectes ou de faux noms d'animaux

Ben oui, les humains aussi.

Cette mise en garde – même si elle se trouve en bas de page et n’est sûrement pas lue par tout le monde – est une façon de se dédouaner quant aux mauvais résultats que pourrait produire Galactica

Procès d'intention typique d'un journaliste. On met des précautions d'usage sur tous les produits et dire "attention, vérifiez" est parfaitement légitime.

Ce n’est pas la première fois que les dérives de l’IA se retrouvent sous le feu des projecteurs

Autre dérive journalistique : ils créent des polémiques artificielles puis s'en servent ensuite pour justifier la polémique suivante sur le même sujet.

Utilisée dans de nombreux secteurs, l’intelligence artificielle reste cantonnée à des usages précis et contrôlés en raison de ses dérives

Affirmation très floue et très fausse. Il n'y a pratiquement aucun usage réel, en production qu'on a limité à cause des dérives.
Il y a effectivement des domaines où on avance lentement parce que l'outil est nouveau et qu'on ne veut pas le laisser prendre de décisions seul compte tenu des certaines limites (explicabilité) ou de performances par encore suffisamment meilleurs que les humains. Mais là aussi, on a fait ça pour tout les automatisation.

Il est très difficile de s'assurer qu'un logiciel d'IA n'est pas intrinsèquement biaisé ou n'a pas d'effets biaisés

En effet mais là aussi, c'est vrai pour les humains. C'est l'intérêt de faire de la recherche pour progresser plutôt que faire fermer tout ce qui ne pas de façon politiquement correcte quand on lui dit des trucs.

il a été démontré que de nombreux systèmes ont des effets biaisés basés sur la race et le handicap

Pareil que les humains et vu qu'ils sont entrainés sur les données qu'on leur donne...

De même, si les personnes noires étaient systématiquement exclues, ou qu’aucune femme ne travaillait dans l’entreprise, et qu’un algorithme basé sur cela est créé, alors il n'y a aucune chance que le futur prédise une diversité dans les profils

Ben oui, c'est une technologie : elle n'est pas là pour implémenter le projet social d'une partie de la classe politico-journalistique et c'est pour ça que LeCun n'est pas content à raison.
On utilise cette idéologie dominante dans certains milieux pour juger un outil qui lui est intrinsèquement neutre et se contente éventuellement de révéler les biais des humains.
C'est du "cachez ce sein que je ne saurais voir".

L’histoire se répète ici avec Meta et son modèle Galactica, trop orgueilleux pour admettre que cette technologie possède encore aujourd’hui de (trop) nombreux défauts

Là aussi, attaque facile du journaleux qui oublie que c'était un outil de recherche sans risque et que c'est l'idéologie que lui/elle et son groupe propagent qui définit les "défauts".
Bref, de l'auto-validation typique de ce milieu.

Bref, on l'aura compris mon mépris intellectuel et moral pour cet article est sans limite.

[Liet Kynes]

Bref, on l'aura compris mon mépris intellectuel et moral pour cet article est sans limite.

Mais tu n'auras pas relevé la subtilité de mon post dans le fait que la seule citation que je cite de cet article et que je qualifie de pertinente est juste "Selon Meta". (perso j'ai stoppé la lecture à ce stade)

L'idée est de voir ce qu'à publier Meta; une com ou un article scientifique: si c'est une com il n'y a pas d'info scientifique dans ce fil.

[pm42]

Toute l'info est là : https://ai.facebook.com/research/cicero/

Yann Le Cun est tout sauf un rigolo, c'est même le moins qu'on puisse dire et les équipes qui font de l'IA chez les GAFA sont en général d'un niveau très, très élevé avec des moyens énormes.

[Liet Kynes]

Toute l'info est là : https://ai.facebook.com/research/cicero/

Yann Le Cun est tout sauf un rigolo, c'est même le moins qu'on puisse dire et les équipes qui font de l'IA chez les GAFA sont en général d'un niveau très, très élevé avec des moyens énormes.

C'est de la com pas une publi.. on ne peux pas se référer à la seule réputation de Yann Le Cun ou du niveau de ses équipes pour valider quoi que ce soit malheureusement.

[pm42]

C'est de la com pas une publi.. on ne peux pas se référer à la seule réputation de Yann Le Cun ou du niveau de ses équipes pour valider quoi que ce soit malheureusement.

Tu as lu et compris le site ? Suivi les liens vers les papiers ici : https://ai.facebook.com/research/#notable-papers ?
Cela éviterait de sortir des énormités comme ça et de me faire dire autre chose que ce que j'ai dit en te contentant de répéter tes à-priori à 2 balles ?

[Liet Kynes]

Tu as lu et compris le site ?

Ne te mets pas toujours en colère, oui j'ai lu et quand je parle de com ce n'est pas avec une connotation péjorative donc pas un à priori à 2 balles.
Comme tu as des connaissances plus avancées que les autres, tu peux simplement dire qu'il y a erreur et donner des éléments de réflexions.
Je suis au moins capable de comprendre que ce que je perçois de ces technologies est naïf.
Ma compréhension des choses actuelles est la suivante :
Dés lors que l'on aborde le sujet du test de Turing, je reste prudent même si les progrès sont énormes car on compare la machine à quelque chose* qui pour le moment n'est pas formalisé.

"quelque chose" = pour le test de turing il s'agirait de définir le fonctionnement de la perception de la réalité humaine par un humain ?

[pm42]

Ne te mets pas toujours en colère

Je te garantit que ce n'est pas de la colère.

oui j'ai lu et quand je parle de com

Donc tu as lu :

In probably approximately correct (PAC) reinforcement learning (RL), an agent is required to identify an epsilon-optimal policy with probability 1-delta. While minimax optimal algorithms exist for this problem, its instance-dependent complexity remains elusive in episodic Markov decision processes (MDPs)

Et cela a généré ta réaction :

C'est de la com pas une publi.. on ne peux pas se référer à la seule réputation de Yann Le Cun ou du niveau de ses équipes pour valider quoi que ce soit malheureusement.

Je répondrais bien sur la suite et ce que tu n'as pas compris sur le test de Turing entre autres mais j'ai peur que tu m'expliques que j'ai tort avant d'essayer de te rattraper aux branches.

[ArchoZaure]

Bonjour.

Est-ce que le problème des inepties générées par une IA ne pourrait-elle pas venir en partie de nos attentes ?

Lorsqu'on demande quelque-chose à un expert (humain), des fois il vous dit qu'il sait et il répond et d'autres fois il vous dit qu'il ne sait pas et il ne répond pas.
Ici au contraire on attend impérativement de l'IA une réponse et c'est ce qu'elle fait quel que soit le thème.

Est-ce qu'on ne pourrait pas limiter l'IA à des thèmes dans lesquels elle ne se fourvoie pas ?
Par exemple on sait faire des IA spécialisées qui détectent des propos racistes, injurieux etc.
Pourquoi ne pas lui faire passer le test (par une autre IA qui marche bien sur le sujet) et si sa réponse n'est pas validée, soit on lui fait dire : "Je ne sais pas", ou "je ne peux pas vous répondre pour des raisons x ou y" ?
Question naïve peut-être.

[pm42]

Est-ce que le problème des inepties générées par une IA ne pourrait-elle pas venir en partie de nos attentes ?

Il faudrait définir "nos attentes". Il y a au moins 3 catégories :
- le grand public et les journalistes qui ont comme grille d'évaluation "ce que j'ai vu dans la SF au cinéma"
- les "donneurs de leçons", c'est à dire "spécialistes en éthique" et aussi quelques journalistes dont les attentes sont "conformes à mon jeu de valeur d'occidental qui se dit progressiste"
- les chercheurs sérieux : progresser par rapport à l'état de l'art, atteindre les objectifs fixés au départ et qu'on y arrive ou pas, apprendre quelque chose au passage.

Lorsqu'on demande quelque-chose à un expert (humain), des fois il vous dit qu'il sait et il répond et d'autres fois il vous dit qu'il ne sait pas et il ne répond pas.

Et des fois, il croit qu'il sait et ne sait pas, sait qu'il ne sait pas mais pipote pour le cacher...

Ici au contraire on attend impérativement de l'IA une réponse et c'est ce qu'elle fait quel que soit le thème.

Personne connaissant le domaine n'attend ça et les IAs qu'on utilise quotidiennement (genre Siri/Alexa) savent très bien dire qu'elles ne savent pas.

Est-ce qu'on ne pourrait pas limiter l'IA à des thèmes dans lesquels elle ne se fourvoie pas ?

C'est ce qu'on fait mais là, on parle de recherche sur du traitement général du langage pour s'approcher, même si on en est très, très loin des IA fortes.

Par exemple on sait faire des IA spécialisées qui détectent des propos racistes, injurieux etc.

Pas vraiment. Elles détectent certains patterns mais il est possible de les contourner.
Ce qui n'est pas étonnant parce que la définition de raciste et injurieux varie d'une personne et d'un groupe à l'autre et dans le temps et donne lieu à des débats dans la presse et devant les tribunaux.

Pourquoi ne pas lui faire passer le test (par une autre IA qui marche bien sur le sujet) et si sa réponse n'est pas validée, soit on lui fait dire : "Je ne sais pas", ou "je ne peux pas vous répondre pour des raisons x ou y" ?
Question naïve peut-être.

La vraie question est surtout : pourquoi est ce que les IAs devraient dès la phase de recherche/conception implémenter un jeu de valeur sociales/morales qui n'est que celui d'un sous-groupe minoritaire de certains pays, eux-mêmes largement minoritaires à l'échelon planétaire ?
Et cela uniquement sous l'influence de groupes de pression médiatiques alors que rien d'illégal n'est fait ?

[Bounoume]

La vraie question est surtout : pourquoi est ce que les IAs devraient dès la phase de recherche/conception implémenter un jeu de valeur sociales/morales qui n'est que celui d'un sous-groupe minoritaire de certains pays, eux-mêmes largement minoritaires à l'échelon planétaire ?
Et cela uniquement sous l'influence de groupes de pression médiatiques alors que rien d'illégal n'est fait ?

Effectivement, c'est l'arbre qui cache la forêt......
Les réactions épidermiques de certains ont seulement pour intérêt de confirmer que ces 'IA' ne sont pas des humains, individus héritant d'une éducation sociale, morale, affective..... et que pour le moment les IA ne sont pas éducables comme le sont les humains......

Très superficiellement, je crois qu'elles sont incapables de construire des 'idées' organisées selon un modèle de réseau/grapĥe de connaissances liées par des relations logiques....
Elles ne peuvent pas non plus importer de telles représentations.
Leurs mécanismes vont directement trouver le moyen de reproduire des régularités contenues dans les 'exemples'...... sans organiser les représentations de ces régularités....Loin de reproduire les mécanismes proposés par le cognitivisme......

Alors qu'elles savent traiter superficiellement le langage ordinaire, de façon super-pifométrique et bluffante, sont-elles capables (GPT3, les derniers perfectionnements des transformers, etc) même simplement, de construire la démonstration d'un théorème mathématique, même exprimé, depuis les axiomes, dans un langage spécifique non ambigu?

[pm42]

Alors qu'elles savent traiter superficiellement le langage ordinaire, de façon super-pifométrique et bluffante, sont-elles capables (GPT3, les derniers perfectionnements des transformers, etc) même simplement, de construire la démonstration d'un théorème mathématique, même exprimé, depuis les axiomes, dans un langage spécifique non ambigu?

On sait faire ça depuis très longtemps mais dans des cas particuliers. Et GPT-3 peut y arriver aussi : https://pub.towardsai.net/openais-gp...s-d46611972420

Mais là aussi, pourquoi demander cela aux IA actuelles alors que l'immense majorité des humains en est parfaitement incapable ?

[JPL]

Je te garantit que ce n'est pas de la colère.

Alors pour Noël je vais t’offrir une burette d’huile et tes messages passeront mieux

[Bounoume]

On sait faire ça depuis très longtemps mais dans des cas particuliers. Et GPT-3 peut y arriver aussi :

dans https://pub.towardsai.net/openais-gp...s-d46611972420
résoudre problem3, ça me rappelle de vieilles notions de maths.... fonctions, identités remarquables.....
tout de même, pour un élève de terminale scientifique, ça ne devrait pas être insoluble....

Après, l'architecture des traitements par AI, là c'est autre chose.... apprentissage par sets de démonstrations correctes? par essais de traitements (d'abord aléatoires, puis
renforcements selon le verdict d'un système évaluant le résultat? )
En tout cas, la consommation de ressources informatiques pour arriver au moindre résultat me semble énorme....

[pm42]

tout de même, pour un élève de terminale scientifique, ça ne devrait pas être insoluble....

Si les IA étaient capable de faire la même chose qu'un élève de terminale scientifique, ce serait une révolution complète et on mettrait au chômage 99% de l'humanité.
C'est ce que je disais plus haut : pourquoi leur demander de faire plus que ce qu'elles font déjà et passer son temps à dire "oui mais ce ne sont pas des IAs fortes". On le sait.

Après, l'architecture des traitements par AI, là c'est autre chose.... apprentissage par sets de démonstrations correctes? par essais de traitements (d'abord aléatoires, puis
renforcements selon le verdict d'un système évaluant le résultat? )

Il faut creuser mais GPT-3 est un moteur généraliste.

En tout cas, la consommation de ressources informatiques pour arriver au moindre résultat me semble énorme....

Non, la consommation de ressources pour les entrainer est importantes mais ça prend des décennies aussi pour les humains et la plupart n'arrivent pas à la fin à faire un raisonnement correct.
Pour faire tourner, c'est largement moins coûteux.

Mais là aussi, comparer avec le cerveau humain qui est le résultat de centaines de millions d'années d'évolution et donc très efficace, conçu pour fonctionner dans un univers où la nourriture donc l'énergie coûtait cher n'a pas de sens.
Surtout que les IAs elles sont duplicables, évoluent vite, etc.

[polo974]

juste pour ceux qui ne le sauraient pas, il y a aussi des joueurs AI dans webDiplomacy.
https://webdiplomacy.net/faq.php chapitre "Our AI"

le jeu est open source, sur https://github.com/diplomacy/ et doc sur https://diplomacy.readthedocs.io/en/stable/

Bref, un drôle de terrain de jeu...

[ArchoZaure]

Si les IA étaient capable de faire la même chose qu'un élève de terminale scientifique, ce serait une révolution complète et on mettrait au chômage 99% de l'humanité.

Il parait d'après certains que l'IA va créer de nouveau métiers plutôt que d'en supprimer mais c'est un autre sujet et je pense quand même avoir compris ce que vous vouliez dire.

Mais alors que penser de GPT-3 et de Minerva ?
Quand je vois les résultats c'est quand même il me semble largement au dessus de la majorité des élèves de Terminale.
Parfois même l'IA fait preuve de "créativité", produisant des démonstrations originales.
Voir cette courte vidéo ici : https://www.youtube.com/watch?v=kQAXHG6Ie50
Ou un peu plus longue là : https://www.youtube.com/watch?v=ICQIx_C8mHo

Ou alors pire avec Open AI et son Chat GPT (bon je me perds peut-être un peu avec les noms mais voilà en tous cas le résultat),
une IA qui conseille à la création de code internet lorsqu'on le lui demande en langage naturel : https://www.youtube.com/watch?v=I9B8pPaQRfY

Je précise n'avoir que très peu de connaissance en IA "évoluées" celles qui raisonnent mais du coup je m'interroge.

Comment interpréter ces résultats d'après vous ?

(je ne dis pas qu'ils sont sans faille, mais quand même).

[pm42]

Ces résultats sont impressionnant mais sur un périmètre limité. Il faudrait que je vérifie parce que je ne suis pas de près ce sous-domaine mais je ne pense pas que par exemple, celles qui programment soient capables d'un dialogue qui permette de leur dire d'améliorer ceci ou cela...

Cela ne retire rien à leur coté impressionnant et à la vitesse des progrès mais ce qu'on ne sait pas actuellement c'est jusqu'où on ira en continuant dans cette voie : est ce qu'on finira par avoir des IAs utilisables concrètement pour des tâches nécessitant une réflexion ou bien est ce qu'on sera bloqué sur une variante de d'animal savant.
C'est un peu le même problème que la voiture autonome : on fait d'énormes progrès même si plus lents qu'anticipés mais certains experts pensent qu'on va arriver à une limite parce qu'il faudrait une IA forte pour traiter tous les cas.

Je n'ai pas d'opinion.

[ArchoZaure]

Ces résultats sont impressionnant mais sur un périmètre limité. Il faudrait que je vérifie parce que je ne suis pas de près ce sous-domaine mais je ne pense pas que par exemple, celles qui programment soient capables d'un dialogue qui permette de leur dire d'améliorer ceci ou cela...

Moi aussi j'ai été bluffé sur ce coup.
Regardez la 3eme vidéo.
Le testeur il devient fou et dit qu'il va changer de métier, pour dire.

Pour la voiture on est d'accord qu'on n'est pas arrivé au bout du chemin.
Peut-être que pour conduire "des locomotives" ("lorsque sur des rails", au sens propre ou au figuré) les IA seront plus efficaces.
Elles seront en tous cas et c'est déjà le cas, très certainement une aide intéressante, qu'on ne doit pas laisser autonome sans supervision du résultat par un humain qualifié surement.

[pm42]

Peut-être que pour conduire "des locomotives" ("lorsque sur des rails", au sens propre ou au figuré) les IA seront plus efficaces.

Oui et c'est prévu ainsi que pour des bateaux, avions notamment militaires, etc.
Il reste du chemin mais c'est plus facile que pour les voitures qui doivent gérer une plus grande variété de situations et d'imprévus.

[Archi3]

Bonjour à toutes à tous,


Négocier, persuader et coopérer : Une intelligence artificielle est capable de battre les humains au jeu Diplomatie

on lui a demandé si elle avait envie de jouer ?

[pm42]

Pour un état de l'art avec ce qui est possible et les limites, notamment que le raisonnement et la mémoire des conversations ne sont pas encore, il y a un bon article ici :

https://towardsdatascience.com/opena...t-a25fa9f54442

P.S: en général, le niveau de ce qui est publié sur towardsdatascience.com est très bon.

[Bounoume]

bien sûr, je n'ai pas tout compris mais c'est inquiétant....
un oracle qui répond, interprète, imagine, étale 'la' Science, invente une Vérité.... à partir de prémisses inconnus, qui se sont construits principalement sous forme de poids de connexion, au fur et à mesure de sa digestion des textes fournis en 'exemple'........

Cette base une fois créée et enregistrée va gouverner tous les comportements de l'engin.... dont des interactions bluffantes de l'entité avec l'interlocuteur humain....
ça ressemble quand même énormément à de la SF, ou aux vieux mythes Frankenstein ou Golem *[ *dans la légende, golem était muet, donc faudrait le transposer dans un être agissant par la parole ]

plus sérieusement, chaque fois qu'on construit un LM à partir du même ensemble ensemble défini de paramétrages, et de la même suite ordonnée d'exemples fournis, est-il exact qu'on va produire des instances identiques de générateur de 'chat'?
Mais si, à partir du même set de textes d'entraînement, on en présente le contenu dans un ordre différent est-ce que le comportement de l'entité 'entraînée' sera (très) différent?*




* surtout si les contenus permutés correspondent à des notions interdépendantes, dont la connaissance des unes modifie radicalement la valeur des autres..... exemple: les superstitions avec esprits, ondes et miracles, et la technologie avec l'électromagnétisme, et les systèmes de communication

[pm42]

bien sûr, je n'ai pas tout compris mais c'est inquiétant....

Tout est dit. Depuis le début, tu te contentes de nous expliquer que tu as peur de ce que tu ne comprends pas.
Sur un forum scientifique, c'est dommage.

Ensuite, on a des tartines pour justifier la dite peur : "le métaverse va nous rendre fou". "Les IAs sont des trucs qui <ajouter la peur du jour ici>".

Les IAs en question apprennent avec exactement les mêmes mécanismes que les humains : on leur donne du contenu et elles s'en servent pour construire des réponses.

[Archi3]

on a juste quelques petites centaines de millions d'années d'évolution et de sélection impitoyable dans un environnement naturel complexe, plus un mécanisme naturel astucieux et robuste de conservation et de reproduction de l'information accumulée, ce qui nous donne un tout petit avantage quand il faut survivre de manière autonome dans cet environnement par rapport à des machines qui partent de rien et n'ont absolument pas été construites au départ pour y survivre , mais seulement pour nous faire plaisir à nous. .

[pm42]

on a juste quelques petites centaines de millions d'années d'évolution et de sélection impitoyable dans un environnement naturel complexe, plus un mécanisme naturel astucieux et robuste de conservation et de reproduction de l'information accumulée, ce qui nous donne un tout petit avantage quand il faut survivre de manière autonome dans cet environnement par rapport à des machines qui partent de rien et n'ont absolument pas été construites au départ pour y survivre , mais seulement pour nous faire plaisir à nous. .

Tout à fait. Et en plus, on consacre des années et même des décennies à entrainer les réseaux de neurones de chaque humain parce qu'au départ, ils ne sont pas capables de grand chose à part téter.
Et le résultat final reste très aléatoire.

Les IAs que j'ai entrainé et utilisé tous les jours ne font qu'une seule chose (qui n'a rien à voir avec le langage naturel) mais elles le font remarquablement bien et largement mieux que 99,9999% des humains.
Et sans réseaux de neurones (pour le moment).
Entrainer un humain pour faire la même chose aurait été largement plus long, coûteux et aléatoire et beaucoup moins reproductible.

Mais sincèrement, ce serait bien si on dépassait le stade du fantasme sur la base de quelques vidéos ou des comparaisons permanentes avec nos capacités en surévaluant ou sous-évaluant ce que peuvent faire les IAs suivant ce qu'on veut démontrer.

[Deedee81]

Salut,

A noter qu'en matière de négociation, etc.... Les traders utilisent depuis déjà pas mal de temps maintenant des IA ou de simples algorithmes fort efficaces. Maintenant on combine avec le langage naturel. C'est tout.
Tout ça n'a rien de si spectaculaire (en tout cas ça ne constitue pas un rupture particulièrement forte, juste l'évolution normale du domaine).

Et il y a des sujets réels de préoccupations :
- Eviter les biais dû aux choix des bases de données d'apprentissage
- Veiller à protection des données et de la vie privé (sujet d'actualité qui ne concerne pas que les IA, les appareils connectés par exemple sont TRES mal protégés et la porte d'entrée à du piratage, pensons aussi aux bases de données utilisées à des fins commerciales)
- Et quelques aspects propres à certains métiers (par exemple dans le médical et le juridique, il faut que les IA justifient leurs choix et qu'ils ne soient que des conseils pour les spécialistes)
- et aussi des questions de responsabilité juridique (par exemple en cas de problème, du concepteur au consommateur, en passant par les développeurs, les vendeurs, ..... c'est pas nécessairement facile de dire qui a fait une co....rie. Ce n'est pas non plus propre à l'IA, j'ai rencontré des cas difficiles de cet ordre il y a 25 ans, mais l'IA et toute sa complexité exacerbe la difficulté).

Tout ça n'a rien de si extraordinaire. Pour le reste, les inquiétudes, je suis entièrement d'accord avec ce qui a été dit dans les derniers messages : c'est surtout du fantasme, du délire, des phobies. Au niveau actualité ça fait vendre et au niveau personnel.... ça se soigne (et pas en coupant les IA ) EDIT et cela a toujours été le cas, il y a deux mille ans, Bounoume aurait eut peur de l'invention du marteau