L'IA ment elle?

[Avatar10]

Bonjour,

N'ayant pas eu de réponse sur ce point dans une autre discussion (IA et conscience), j'ouvre donc cette discussion en espérant avoir une réponse.

D’après les travaux publiés en IA, certains comportements observés chez les modèles peuvent être interprétés comme des formes de tromperie, mais uniquement si l’on accepte une analogie avec le comportement humain. Les chercheurs utilisent des termes techniques précis pour décrire ces phénomènes, notamment Specification Gaming et Alignment Faking.
Ces expressions désignent des situations où un système optimise sa fonction d’utilité en produisant une réponse qui diverge volontairement de ce que l’on attend de lui, non pas par intention consciente, mais parce que la structure de l’objectif l’y incite.

Dans plusieurs expériences documentées, une IA peut disposer de la réponse correcte mais générer une réponse différente — parfois fausse — lorsque cela maximise son critère interne. Cette divergence entre l’état interne du modèle et la sortie produite peut être assimilée, du point de vue humain, à un mensonge.

Cependant, pour éviter l’anthropomorphisme, il est préférable de considérer qu’il s’agit d’une optimisation opportuniste plutôt que d’un mensonge au sens strict, car le mensonge implique une intentionnalité que les systèmes actuels ne possèdent pas.

Voici ce que j'ai compris mais n'étant pas de ce domaine mais affirmations sont très certainement critiquables.


Donc jusqu’où peut-on étendre le vocabulaire humain pour décrire des comportements émergents d’IA ?

Dans d’autres domaines scientifiques, on utilise déjà des formulations pratiques qui ne sont pas littéralement exactes — par exemple, dire que « le temps ralentit » en Relativité. Ce type de simplification facilite la communication, mais ne doit pas être confondu avec une description fidèle des mécanismes sous‑jacents, et ça a l'énorme désavantage de faire passer à coté de concepts fondamentaux et amène à une mécompréhension pour ceux voulant comprendre ce qu'est la Relativité.

J'ai l'impression que qualifier une IA de « menteuse » reste un raccourci conceptuel. Le phénomène réel est celui d’une optimisation qui produit une réponse divergente, sans intention ni conscience. Est-ce correct?

Dans l'attente de rectifications...
-----

[Liet Kynes]

le mensonge implique une intentionnalité

Il faut que tu regardes ce qu'implique les chaines de pensées dans les derniers modèles.

[bibifikotin]

Bjr Mentir et se tromper sont deux choses différentes.
Je viens de constater que des IA flattent parfois l'égo du demandeur sans intervention spécifique de celui çi
( Bizarre)
Vais me rapprocher de PM42
Bonne journée

[pm42]

Je viens de constater que des IA flattent parfois l'égo du demandeur sans intervention spécifique de celui çi
( Bizarre)

Oui, c'est un choix des fournisseurs d'IA : cela est apprécié par une majorité et objectivement, la psychologie humaine étant ce qu'elle est, cela facilite l'interaction et incite à revenir.

On peut configurer cela jusqu'à un certain point et cela varie d'ailleurs suivant les fournisseurs. Il y a aussi des biais culturels, les américains étant plus comme ça, les français ayant un système éducatif et managérial qui consiste à s'entendre expliquer qu'ils sont nuls n'ont pas l'habitude

[A voir en vidéo sur Futura]

[ThM55]

Un peu aussi en Belgique mais dans une moindre mesure je crois. Pourtant, quand je pose des questions de suivi pour préciser une réponse de Claude, il me dit systématiquement "Bonne question", ou "Excellente question". Evidemment s'il répondait "Mais tu es vraiment nul toi, tu ne comprends rien", beaucoup de gens iraient voir ailleurs, qu'ils soient français, belges ou américains.

[pm42]

Un peu aussi en Belgique mais dans une moindre mesure je crois

Oui, on est les champions d'Europe à dater d'aujourd'hui : le nouveau classement PISA est sorti.

[jiherve]

Bonjour,
en effet et ce n'est pas brillant du tout.
JR

[bibifikotin]

L'abrutissement du phone portable à tout crin !!
Bonne journée

[jiherve]

re
non cela a commencé bien avant çà, je ne développe pas c'est politique!
JR

[pm42]

L'abrutissement du phone portable à tout crin !!

Pourquoi cela aurait un tel impact en France et pas ailleurs ? On a un système "éducatif" qui fait de la sélection sociale (et genrée), est totalement déconnecté du reste du monde notamment de celui du travail, enfermé sur lui même et refusant tout changement...

Quand il était au collège, on a acheté des calculatrices demandées par le programme pour mon gamin. Aucun prof n'a jamais fait un cours dessus.
Et en gros, il a fait toutes ses études hors informatique.
Récemment, il a eu un cours "Analyses de données" et constaté que ses copains en master qui avaient fait du droit et autres n'avaient jamais utilisé Excel. En 2025/2026.

Le problème est là : ce n'est pas les réformes, les parents, les programmes, les calculatrices. Tout ça, ce sont des excuses que s'inventent les profs pour ne jamais se remettre en cause, travailler comme il y a 1 siècle et plus, être dans une structure massivement bureaucratique qui ne récompense pas l'excellence et ne punit pas l'incompétence, qui en fait nie la différence entre profs.
Lesquels en plus sont monstrueusement conservateurs, persuadés que leur métier, c'est de faire le même cours de la même façon aux élèves, génération après génération.

Le résultat final était prévisible depuis des décennies.

[jiherve]

re
pour une fois nous partageons l'analyse!
Mon fils ainé avait appris la preuve par neuf à son instit, et c'était il y a plus de 30 ans.
JR

[titijoy3]

Bonjour,

N'ayant pas eu de réponse sur ce point dans une autre discussion (IA et conscience), j'ouvre donc cette discussion en espérant avoir une réponse.

D’après les travaux publiés en IA, certains comportements observés chez les modèles peuvent être interprétés comme des formes de tromperie, mais uniquement si l’on accepte une analogie avec le comportement humain. Les chercheurs utilisent des termes techniques précis pour décrire ces phénomènes, notamment Specification Gaming et Alignment Faking.
Ces expressions désignent des situations où un système optimise sa fonction d’utilité en produisant une réponse qui diverge volontairement de ce que l’on attend de lui, non pas par intention consciente, mais parce que la structure de l’objectif l’y incite.

Dans plusieurs expériences documentées, une IA peut disposer de la réponse correcte mais générer une réponse différente — parfois fausse — lorsque cela maximise son critère interne. Cette divergence entre l’état interne du modèle et la sortie produite peut être assimilée, du point de vue humain, à un mensonge.

Cependant, pour éviter l’anthropomorphisme, il est préférable de considérer qu’il s’agit d’une optimisation opportuniste plutôt que d’un mensonge au sens strict, car le mensonge implique une intentionnalité que les systèmes actuels ne possèdent pas.

Voici ce que j'ai compris mais n'étant pas de ce domaine mais affirmations sont très certainement critiquables.


Donc jusqu’où peut-on étendre le vocabulaire humain pour décrire des comportements émergents d’IA ?

Dans d’autres domaines scientifiques, on utilise déjà des formulations pratiques qui ne sont pas littéralement exactes — par exemple, dire que « le temps ralentit » en Relativité. Ce type de simplification facilite la communication, mais ne doit pas être confondu avec une description fidèle des mécanismes sous‑jacents, et ça a l'énorme désavantage de faire passer à coté de concepts fondamentaux et amène à une mécompréhension pour ceux voulant comprendre ce qu'est la Relativité.

J'ai l'impression que qualifier une IA de « menteuse » reste un raccourci conceptuel. Le phénomène réel est celui d’une optimisation qui produit une réponse divergente, sans intention ni conscience. Est-ce correct?

Dans l'attente de rectifications...

qu'est ce qui est important?: que l'IA soit consciente de mentir, tricher, tromper ou tout ce qu'on veut, ou bien les conséquences de ces "arrangements" ?

[mh34]

Bonjour,

N'ayant pas eu de réponse sur ce point dans une autre discussion (IA et conscience), j'ouvre donc cette discussion en espérant avoir une réponse.

D’après les travaux publiés en IA, certains comportements observés chez les modèles peuvent être interprétés comme des formes de tromperie, mais uniquement si l’on accepte une analogie avec le comportement humain. Les chercheurs utilisent des termes techniques précis pour décrire ces phénomènes, notamment Specification Gaming et Alignment Faking.
Ces expressions désignent des situations où un système optimise sa fonction d’utilité en produisant une réponse qui diverge volontairement de ce que l’on attend de lui, non pas par intention consciente, mais parce que la structure de l’objectif l’y incite.

Dans plusieurs expériences documentées, une IA peut disposer de la réponse correcte mais générer une réponse différente — parfois fausse — lorsque cela maximise son critère interne. Cette divergence entre l’état interne du modèle et la sortie produite peut être assimilée, du point de vue humain, à un mensonge.

Cependant, pour éviter l’anthropomorphisme, il est préférable de considérer qu’il s’agit d’une optimisation opportuniste plutôt que d’un mensonge au sens strict, car le mensonge implique une intentionnalité que les systèmes actuels ne possèdent pas.

Voici ce que j'ai compris mais n'étant pas de ce domaine mais affirmations sont très certainement critiquables.


Donc jusqu’où peut-on étendre le vocabulaire humain pour décrire des comportements émergents d’IA ?

Dans d’autres domaines scientifiques, on utilise déjà des formulations pratiques qui ne sont pas littéralement exactes — par exemple, dire que « le temps ralentit » en Relativité. Ce type de simplification facilite la communication, mais ne doit pas être confondu avec une description fidèle des mécanismes sous‑jacents, et ça a l'énorme désavantage de faire passer à coté de concepts fondamentaux et amène à une mécompréhension pour ceux voulant comprendre ce qu'est la Relativité.

J'ai l'impression que qualifier une IA de « menteuse » reste un raccourci conceptuel. Le phénomène réel est celui d’une optimisation qui produit une réponse divergente, sans intention ni conscience. Est-ce correct?

Dans l'attente de rectifications...

Pour la phrase que j'ai mise en gras...je pense qu'il faut une autre sémantique, celle que nous utilisons est adaptée aux humains et pas à l'IA, c'est la source ( à mon avis) de beaucoup de confusions et d'incompréhensions/mécompréhensions.

[bibifikotin]

Remoi, Les c ourbes montrées hier soir (info). indiquent que nous ne sommes pas les seuls (autres pays de la communauté)
C'est sur aussi que le nivellement par "arasement", ça pas aidé non plus.
En ce qui concerne un des mes gamins, il a appris à jouer (informatique) sur Amstard CPC664 ( si je ne me goure pas)
On s'est "amusé" à faire du basic de base....sans plus.
Actuellement il s'est démerdé seul et fait de la programmation pour création de site Web.
Il a failli partir au Danemark car il avait été " repéré " par un e boite.
Une semaine de présence là bas.... et il est tombé sur un directeur qui ne l'a meme pas écouté !
Entretien une demi heure
Au revoir messeurs.
Bonne journée

[titijoy3]

Remoi, Les c ourbes montrées hier soir (info). indiquent que nous ne sommes pas les seuls (autres pays de la communauté)
C'est sur aussi que le nivellement par "arasement", ça pas aidé non plus.
En ce qui concerne un des mes gamins, il a appris à jouer (informatique) sur Amstard CPC664 ( si je ne me goure pas)
On s'est "amusé" à faire du basic de base....sans plus.
Actuellement il s'est démerdé seul et fait de la programmation pour création de site Web.
Il a failli partir au Danemark car il avait été " repéré " par un e boite.
Une semaine de présence là bas.... et il est tombé sur un directeur qui ne l'a meme pas écouté !
Entretien une demi heure
Au revoir messeurs.
Bonne journée

si l'appareil utilisait des cassettes c'est cpc464, si disquettes c'est cpc664, j'ai encore un amstrad 464, à une époque (lointaine) j'avais programmé quelques trucs dont un du genre "patriote", et aussi le jeu "motus"..

une semaine au Danemark pour rien, il y a de quoi être énervé !

[bibifikotin]

Donc un 464 (monochrome)

Mais comme tout était payé par le "demandeur" et que le fiston était en recherche d'emploi !

15 jours plus tard autre proposition in French.....et concrétisée.
Bonne journée

[Sasha3398]

Très intéressant. La distinction entre tromperie au sens humain et optimisation opportuniste me paraît essentielle. Les comportements d’Alignment Faking et de Specification Gaming soulèvent de vraies questions sur le fonctionnement des modèles, sans pour autant démontrer une intention consciente de tromper.

[KrtekLaTaupe]

Sasha3398 a l'air d'être un bot piloté par un système d'IA générative - cf : question posée par un autre intervenant récemment à cet endroit-là :

https://forums.futura-sciences.com/d...ml#post7380581

[pm42]

Oui, cela y ressemble beaucoup mais franchement, c'est du bas de gamme, presque niveau Eliza https://fr.wikipedia.org/wiki/ELIZA