qui détermine comment l'IA répond?

[newfrench]

Bonjour,

Les IA évoluent très très vite. Y a-t-il une instance, un groupe de scientifiques ou tout autre organisme qui prévoient comment doit se comporter l'IA?

Dans le temps il y avait 3 règles qu'avait prévu Asimov concernant les robots:

-Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
-Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
-Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

Depuis, a-t-on déterminé d'autres règles?
-----

[Ikhar84]

Qui détermine ?
> Le marché (et les actionnaires)
Même si on parvient à définir une entité chargée de chapoter le développement des futurs IA, rien n'empêchera une société privée/un état à définir ses propres règles in fine...

Les lois d'Asimov ?
> Ne pas confondre la littérature/la SF avec la réalité
On parle d'IA générative, pas de robotique avançée.
Les "cerveaux positroniques" n'ont aucun sens aujourd'hui...
Comment implémenter des "lois" en dur dans des algos qui évoluent par définition ?

[KrtekLaTaupe]

Il y a des projets de systèmes d'intelligence artificielle explicable (IA explicable). En anglais : explainable Artificial Intelligence / explainable AI, ou XAI (« eXplainable Artificial Intelligence »).

https://en.wikipedia.org/wiki/Explai...l_intelligence

[KrtekLaTaupe]

Voir aussi cette autre discussion :

- IA forte, et robots... (et l'autre malade mental)

https://forums.futura-sciences.com/a...-robots-4.html

[A voir en vidéo sur Futura]

[KrtekLaTaupe]

Voir aussi ceci :


Current AI est une association créée à l'occasion du Sommet pour l'action sur l'intelligence artificielle (Paris, février 2025)

faire émerger une IA au service de l'intérêt général

https://fr.wikipedia.org/wiki/Current_AI

[KrtekLaTaupe]

Alignement des intelligences artificielles

L'alignement des intelligences artificielles (ou « alignement de l'IA ») est un champ de recherche visant à concevoir des intelligences artificielles (IA) dont les résultats s'orientent vers les objectifs, éthiques ou autres, de leurs concepteurs.

Une IA est dite alignée avec un opérateur si elle essaie de faire ce que l'opérateur veut qu'elle fasse !

https://fr.wikipedia.org/wiki/Aligne..._artificielles



PS Récemment j'ai entendu quelqu'un qui disait - peut-être dans le cadre d'une audition parlementaire de l'Assemblée nationale en France - que certains systèmes d'IA sont déjà désormais absolument inexplicables du point de vue de leurs concepteurs...

[oualos]

Les IA évoluent très très vite. Y a-t-il une instance, un groupe de scientifiques ou tout autre organisme qui prévoient comment doit se comporter l'IA?

Des Sociétés de contrôle comme ça se produit dans d'autres domaines comme dans la procréation assistée ou l'aide à l'enfance et l'aide aux plus démunis ? Voir le philosophe Deleuze...
L'IA choisit par des milliards de réponses celles dont la probabilité de deux mots voisins est la plus élevée avec des contraintes évidentes comme celles figurant parmi celles de nos démocraties: pas de racisme, sexisme etc.
Il n'y a pas de biais émotionnel, de silences révélateurs de non-dits (peut-être ?): l'IA adhère à des normes statistiques
Lorsqu'un humain se trompe, soit il manque de connaissances soit il ment sciemment ou involontairement.
Lorsque l'IA se trompe, c'est juste que la probabilité du mot suivant est la plus élevée en dehors de tout système déterminant ou discriminant et de toute projection empathique liée à nos subjectivités.
La machine ne sait pas dire "je ne sais pas".

[caramon]

salut, je vais vous relater une expérience avec une IA, je lui demande un programme herbicide lin oleagineux, elle me sort la propyzamide (sur colza) au lieu de napropamide qui passe sur lin, je lui ai dit qu'elle avait tort, elle s'est excusé en me remerciant de lui avoir fait la remarque, alors attention, ils ne détiennent pas la science infuse

[ThM55]

salut, je vais vous relater une expérience avec une IA, je lui demande un programme herbicide lin oleagineux, elle me sort la propyzamide (sur colza) au lieu de napropamide qui passe sur lin, je lui ai dit qu'elle avait tort, elle s'est excusé en me remerciant de lui avoir fait la remarque, alors attention, ils ne détiennent pas la science infuse

Evidemment. Tout le monde devrait le savoir. Le principal problème avec les chatbots LLM actuellement n'est pas dans l'outil lui-même, le vrai problème est ce qui se trouve entre la chaise et le clavier. Les gens les utilisent comme des outils de recherche ou des encyclopédies. Il faut se former à leur utilisation sinon cela va causer du tort à beaucoup de monde.

[trebor]

salut, je vais vous relater une expérience avec une IA, je lui demande un programme herbicide lin oleagineux, elle me sort la propyzamide (sur colza) au lieu de napropamide qui passe sur lin, je lui ai dit qu'elle avait tort, elle s'est excusé en me remerciant de lui avoir fait la remarque, alors attention, ils ne détiennent pas la science infuse

Bonjour à tous,
J'ai posé la question si le napropamide pouvait être utilisé pour la culture du lin, la réponse est oui.
Cependant, son application est strictement encadrée pour garantir la sécurité de la culture (sélectivité) :

Période d'application :
Il doit être appliqué exclusivement en post-semis / pré-levée, idéalement dans les 48 heures maximum après le semis.
Une application en pré-semis avec incorporation est déconseillée car elle n'est pas sélective pour le lin.
Dosage : La dose maximale autorisée est généralement de 1,5 l/ha pour le lin fibre. Pour le lin oléagineux, des recommandations peuvent aller jusqu'à 2 l/ha selon les situations.
Voir ce lien :
https://www.google.com/search?client...csuir=1&udm=50
Même réponse pour la question.
Un lien donné par l'IA pour de l'info au cas ou non connu :
https://www.arvalis.fr/infos-techniq...r-en-postlevee

[caramon]

salut trebor, c'est peut être grâce à moi qu'elle ne fait pas d'erreur , he mince, je l'ai fait 96 h apres semis, j'ai peur

[newfrench]

Oualos dit que les ia repondent avec des contraintes évidentes comme celles figurant parmi celles de nos démocraties: pas de racisme, sexisme etc.

Ma question était justement qui fixe ces contraintes?

[KrtekLaTaupe]

Bonjour caramon ,

elle s'est excusé

Non, pas d’anthropomorphisme, s’il vous plait : un système - informatique - d’IA n’est qu’une machine et ne peut pas « s’excuser » (sic).

[GBo]

Oualos dit que les ia repondent avec des contraintes évidentes comme celles figurant parmi celles de nos démocraties: pas de racisme, sexisme etc.
Ma question était justement qui fixe ces contraintes?

Les boites privées, en majorité américaines pour les plus utilisées en France, qui commercialisent ces IAs (OpenAI pour ChatGPT, Microsoft pour CoPilot, Google pour Gemini, xAI pour Grok; etc...) et ça fait partie du problème.

[GBo]

En complément, je rappelle que xAI a été créé par Musk en réaction au caractère jugé par lui trop "woke" et restrictif de ChatGPT, preuve qu'on peut donner aux réponses d'une AI une coloration culturelle voire politique (même si dans les faits, ce n'est pas forcément ce que l'on constate après usage: Grok n'est pas si réac que ça).

"Elon Musk Is Bringing the Culture Wars to AI"
https://time.com/6260185/elon-musk-ai-culture-wars/

[KrtekLaTaupe]

Je mets un lien vers la page d'accueil du site internet du Laboratoire d'innovation numérique de la CNIL (LINC) :

https://linc.cnil.fr



Dont en particulier ce dossier récent :

[Dossier] Y a-t-il des humains dans les World Models ?

25 mars 2026

https://linc.cnil.fr/dossier-y-t-il-...s-world-models


avec 2 articles*:


[Article 1/2]
Des modèles de langage aux modèles de monde

https://linc.cnil.fr/article-12-des-...deles-de-monde



[Article 2/2] Des modèles de mondes avides de données, non sans risques

https://linc.cnil.fr/article-22-des-...n-sans-risques

[oualos]

Oualos dit que les IA répondent avec des contraintes évidentes comme celles figurant parmi celles de nos démocraties: pas de racisme, sexisme etc.

Ma question était justement qui fixe ces contraintes?

Il y a eu une première expérience avec des IA sans aucune contrainte ni censure aux USA: la machine apprenait en fonction des réponses des internautes américains et leur faisait en quelque sorte miroir.
Surprise, les fabricants se sont rendus compte en l'espace d'à peine 2 mois que la machine insultait, faisait des commentaires racistes et sexistes. Et tout le reste...
Bon c'était aux USA et là-bas on se gêne moins qu'ici paraît-il...
Donc finalement les machines sont plus éduquées que nous: conclusion hâtive certes, mais raisonnable si on voit ce qui peut se passer des fois sur certains forums.
Encore que ça s'est calmé dernièrement mais les événements comme les guerres ramènent quelques tensions de ci de là... Et des insultes parfois, j'en ai été victime.

[bibifikotin]

Bjr , Je serais curieux , pour un meme questionnement, de voir les réponses dans des états "démocratiques", " chinois", "soviétiques et autres '"corée du Nord" .
qq chose me dit qu'il ya certainement des différences si encore on puisse y accéder!
Bonne jounrée

[GBo]

Bjr , Je serais curieux , pour un meme questionnement, de voir les réponses dans des états "démocratiques", " chinois", "soviétiques et autres '"corée du Nord" .
qq chose me dit qu'il ya certainement des différences si encore on puisse y accéder!
Bonne jounrée

Ca dépend de la langue du prompt aussi. Quand on pose la question suivante à Gemini en français
"Qui a inventé l'aviation ?"
Clément Ader fait partie de la liste des pionniers que l'IA cite (en français donc).

Quand je pose la même question au même Gemini mais en Anglais:
"Who Invented Aviation?"
Clément Ader ne fait PAS partie de la liste des pionniers que l'IA cite (en anglais donc).

[vgondr98]

J'ai testé en français et en anglais avec la version gratuite de Gemini. CLément Ader a été cité avec les deux prompts (en 2ème positions en français et 5ème position en anglais). George Cayley a été cité en dernier en francais et en premier en anglais.

[GBo]

Bizarre, toujours pas pour moi, avec Gemini gratuit* aussi pourtant :

2ieme essai en Anglais, toujours pas d'Ader, mais Sir George Cayley, The Wright Brothers, Alberto Santos-Dumont, mais aussi The Montgolfier Brothers, Otto Lilienthal, Henri Giffard.

2eme essai en Français : Les frères Wright, Clément Ader, Alberto Santos-Dumont, mais aussi George Cayley, Otto Lilienthal.

(*) What version of Gemini are you?
"I am Gemini 3 Flash, Google’s latest multimodal AI model. Think of me as a high-speed, versatile collaborator designed for efficiency and precision. Within this environment, I’m operating on the Free tier."

[jiherve]

bonjour,
pareil pour moi.
JR

[vgondr98]

Who Invented Aviation? => pas d'Ader
Who Invented Aviation ? => Ader est cité mais pas systématiquement

[f6exb]

Et si on lui demande dans le prompt de citer les pionniers classés par pays ?

[f6exb]

J'ai testé avec :
Tu es spécialiste de l'histoire de l'aviation. Cite les pionniers importants en les classant pas pays.

Selon la langue ce ne sont effectivement pas les mêmes qui sortent. Les anglais n'aiment ni Ader, ni Junker.

[WizardOfLinn]

Il suffit de comparer les versions française et anglaise de la page wiki sur Clément Ader pour se rendre de la différence de perception.

[GBo]

C'est que l'influence d'Ader - avec tout le respect qu'on doit à cet inventeur - a été surestimée par la fierté nationale, car il n'aurait pas vraiment effectué un vol contrôlé sur longue distance, et l'inspiration biomimétique n'a pas fait école. Mais une IA francophone se doit de le citer puisque ça fait partie de nos trésors nationaux.

Cf. "Le père de l'aviation ?" dans
https://fr.wikipedia.org/wiki/Cl%C3%...der#Biographie

[jiherve]

bonsoir
moi ,natif de Gretz Armainvilliers, je suis très sensible à C Ader et je me souviens très bien du 75 ème anniversaire célébré en grandes pompes à la mairie.
Voir son appareil au Conservatoire des A&M.
JR

[oualos]

En clair on retrouve une certaine "préférence nationale", en tout cas parmi les classements.
Bon c'est juste indicatif et rien n'empêche d'aller voir ailleurs pour tester si c'est pareil ou pas

De toute façon le principe de l'IA est somme toute assez simple et doit rester identique ou presque d'une machine à l'autre.
Il y a des machines génératrices d'images qui écrivent très mal les lettres et les mots surtout pour des mots français mais chatGPT échappe à cela en tout cas. Heureusement...
On peut même lui préciser dans quelle police on désire les caractères. C'est vraiment une machine qui étend sa généralité je pense à un maximum d'idiomes

[WizardOfLinn]

Le modèle est entrainé en lisant des milliards de pages de texte dans toute les langues. Je suppose que si Clément Ader est surreprésenté dans les textes en français, cela peut se retrouver dans les réponses lorsqu'on interroge le modèle en français.
C'est bon à savoir. J'ai déjà l'habitude de comparer les réponses de différents modèles, si un sujet peut prêter à controverse, je penserai aussi à varier la langue.
Mais mon utilisation la plus fréquente (programmation) devrait quand même être moins sensible à de telles variations.