qui détermine comment l'IA répond?

[newfrench]

Bonjour,

Les IA évoluent très très vite. Y a-t-il une instance, un groupe de scientifiques ou tout autre organisme qui prévoient comment doit se comporter l'IA?

Dans le temps il y avait 3 règles qu'avait prévu Asimov concernant les robots:

-Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
-Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
-Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

Depuis, a-t-on déterminé d'autres règles?
-----

[Ikhar84]

Qui détermine ?
> Le marché (et les actionnaires)
Même si on parvient à définir une entité chargée de chapoter le développement des futurs IA, rien n'empêchera une société privée/un état à définir ses propres règles in fine...

Les lois d'Asimov ?
> Ne pas confondre la littérature/la SF avec la réalité
On parle d'IA générative, pas de robotique avançée.
Les "cerveaux positroniques" n'ont aucun sens aujourd'hui...
Comment implémenter des "lois" en dur dans des algos qui évoluent par définition ?

[KrtekLaTaupe]

Il y a des projets de systèmes d'intelligence artificielle explicable (IA explicable). En anglais : explainable Artificial Intelligence / explainable AI, ou XAI (« eXplainable Artificial Intelligence »).

https://en.wikipedia.org/wiki/Explai...l_intelligence

[KrtekLaTaupe]

Voir aussi cette autre discussion :

- IA forte, et robots... (et l'autre malade mental)

https://forums.futura-sciences.com/a...-robots-4.html

[A voir en vidéo sur Futura]

[KrtekLaTaupe]

Voir aussi ceci :


Current AI est une association créée à l'occasion du Sommet pour l'action sur l'intelligence artificielle (Paris, février 2025)

faire émerger une IA au service de l'intérêt général

https://fr.wikipedia.org/wiki/Current_AI

[KrtekLaTaupe]

Alignement des intelligences artificielles

L'alignement des intelligences artificielles (ou « alignement de l'IA ») est un champ de recherche visant à concevoir des intelligences artificielles (IA) dont les résultats s'orientent vers les objectifs, éthiques ou autres, de leurs concepteurs.

Une IA est dite alignée avec un opérateur si elle essaie de faire ce que l'opérateur veut qu'elle fasse !

https://fr.wikipedia.org/wiki/Aligne..._artificielles



PS Récemment j'ai entendu quelqu'un qui disait - peut-être dans le cadre d'une audition parlementaire de l'Assemblée nationale en France - que certains systèmes d'IA sont déjà désormais absolument inexplicables du point de vue de leurs concepteurs...

[oualos]

Les IA évoluent très très vite. Y a-t-il une instance, un groupe de scientifiques ou tout autre organisme qui prévoient comment doit se comporter l'IA?

Des Sociétés de contrôle comme ça se produit dans d'autres domaines comme dans la procréation assistée ou l'aide à l'enfance et l'aide aux plus démunis ? Voir le philosophe Deleuze...
L'IA choisit par des milliards de réponses celles dont la probabilité de deux mots voisins est la plus élevée avec des contraintes évidentes comme celles figurant parmi celles de nos démocraties: pas de racisme, sexisme etc.
Il n'y a pas de biais émotionnel, de silences révélateurs de non-dits (peut-être ?): l'IA adhère à des normes statistiques
Lorsqu'un humain se trompe, soit il manque de connaissances soit il ment sciemment ou involontairement.
Lorsque l'IA se trompe, c'est juste que la probabilité du mot suivant est la plus élevée en dehors de tout système déterminant ou discriminant et de toute projection empathique liée à nos subjectivités.
La machine ne sait pas dire "je ne sais pas".

[caramon]

salut, je vais vous relater une expérience avec une IA, je lui demande un programme herbicide lin oleagineux, elle me sort la propyzamide (sur colza) au lieu de napropamide qui passe sur lin, je lui ai dit qu'elle avait tort, elle s'est excusé en me remerciant de lui avoir fait la remarque, alors attention, ils ne détiennent pas la science infuse