IA : "dans le seul but de..."

[pm42]

D'autant plus que les IAs sont bien incapables d'introspection. Si c'était le cas, cela nous arrangerait bien.
Au passage, les humains en sont globalement incapables aussi, c'est pour cela qu'on a inventé la psychologie, les thérapies, l'IRM fonctionnelle et autres...

Mais bon, on va repartir sur l'habituel "le troll explique sans connaître, le troll dit que quand il a tort il avait raison en fait, ignorer tout ce qui ne l'arrange pas dans les réponse et croire qu'il va gagner dans sa tête parce qu'il ne changera jamais d'avis et insistera jusqu'à ce que les autres se lassent".
-----

[Biname]

Ça veut dire qu'il comprend pas le mot "au hasard" le chatGPT
Un peu grave non puisque l'IA utilise les probabilités tout le temps pour ses réponses?
Il répète ad infinitum toujours les mêmes chiffres quand on lui dit de choisir au hasard

Vous qui savez tout sur l'IA vous avez l'explication de ce gros bug ?
Car c'est un gros bug

Il n'y a pas qu'une façon de 'tirer au hasard'.
Liste des possibilités : https://numpy.org/doc/2.1/reference/...ndom.rand.html

[Cyrano]

Sauf que la, ca n'a rien à voir. Pour le cas précis du « 37 », l'explication n'est pas une introspection. C'est un fait documenté, écrit par des journalistes, des chercheurs, des utilisateurs. Le LLM peut la récupérer via recherche web, ou l'avoir ingérée dans son entraînement. Donc sa réponse n'est pas le produit d'une introspection douteuse — c'est la restitution d'une information externe.

comme j'ai rappelé, je n'ai pas dit que son explication était fausse

[oualos]

Il n'y a pas qu'une façon de 'tirer au hasard'

Nous en tant qu'espèce la plus évoluée avons nos limites!
Je conclurais -mais il y a aura certainement d'autres messages après- que les machines que nous fabriquons ont forcément leurs limites aussi: c'est une simple conséquence
Il se trouve qu'à la question 'choisis un nombre au hasard entre 1 et 52' , chatGPT maximise ses probabilités internes sur le chiffre 37.
Idem pour 'choisis un nombre au hasard entre 1 et 30' où il maximise pour le chiffre 17.
D'où ça vient et pourquoi ?
Autant demander pour quoi nous avons été chassé du paradis terrestre pour une bête histoire de pomme.. Non je rigole.

[Biname]

Nous en tant qu'espèce la plus évoluée avons nos limites!
D'où ça vient et pourquoi ?

En programmation, l'explication est connue depuis très longtemps. Demander à une IA "Comment un random(1, 52) peut-toujours retourner 37 ?".

[oualos]

oui voilà ce que dit chatGPT

Quand une IA dit :
« J'ai choisi aléatoirement le nombre 37 »
cela ne garantit pas qu'elle a effectué un tirage aléatoire.
Elle peut simplement avoir généré le nombre 37 comme réponse.
C'est particulièrement intéressant pour ton expérience avec 1 à 52 : si tu as demandé plusieurs fois à une IA de choisir un nombre et qu'elle revient très souvent sur 37, cela peut être un excellent indice que tu observes un biais de génération plutôt qu'un véritable tirage aléatoire.

Il y a un biais dans les questions: pour nous 'choisis au hasard un nombre entre 1 et 52' est équivalent à 'choisis avec un générateur de nombre aléatoire un nombre entre 1 et 52'

Mais pour la machine ce n'est pas DU TOUT équivalent: je résume grossièrement ce que dit la machine quand on lui pose la question sur la différence et pourquoi elle choisit systématiquement 37 à la première question

Il faudra se souvenir de ce biais de génération par la suite

[Ikhar84]

Juste pour mettre ma pièce dans la machine :

Youtube - Veritassium - Why is this number everywhere?

À noter que sur le reddit US c'est le 17 (pour un interval de 0 à 30 je crois) qui est l'objet de mêmes...

[vgondr98]

comme j'ai rappelé, je n'ai pas dit que son explication était fausse

Tu as surtout dis que l'explication du LLM n'était pas fiable. Or c'est faux pour le cas du 37. L'explication est tellement simple qu'il y a peu de chance que le LLM se trompe.

[Biname]

oui voilà ce que dit chatGPT
[I]Quand une IA dit :
Il faudra se souvenir de ce biais de génération par la suite

Ce n'est pas un biais ...
Ta question est plus intéressante qu'il n'y paraît. Elle montre que l'IA est incapable de sortir un nombre entre 1 et 52 'au pif' comme nous le faisons, elle doit trouver un moyen de tirer au sort et ce moyen est inclus dans toutes les plateformes de programmation sous un nom de commande du genre random(1, 52).

Voici un exemple de code Python qui génère un nombre entier aléatoire entre 1 et 52. C'est la commande seed(42) qui fait que chaque tirage donne la même séquence de nombres, en changeant 42 (possible 35468742412154657454), on obtient une autre série de nombres.

 Cliquez pour afficher

import random

# 1. On fixe la graine (le seed). Le nombre choisi n'a pas d'importance.
random.seed(42)

# 2. On génère une série de nombres
serie_1 = [random.randint(1, 52) for _ in range(5)]
print("Première exécution :", serie_1)

# 3. Si on réinitialise la graine avec la même valeur...
random.seed(42)

# 4. ...la série générée sera exactement la même !
serie_2 = [random.randint(1, 52) for _ in range(5)]
print("Deuxième exécution :", serie_2)

La sortie est
Première exécution : [41, 8, 2, 48, 18]
Deuxième exécution : [41, 8, 2, 48, 18]

Ce n'est pas un biais, pour résoudre ton problème elle a utilisé une fonction random qui a ces caractéristiques, elle a trouvé une solution.
Ce qui est très intéressant ici est que l'IA est INCAPABLE de sortir un nombre aléatoire sans passer par une fonction random.
Et l'IA me contredit, pour la 'sycophancy', on repassera .
IA :

 Cliquez pour afficher

Et ton exemple Python met le doigt sur une des idées centrales : un générateur pseudo-aléatoire peut être parfaitement reproductible dès lors que son état initial est le même.

Pour l'instant, je te laisse volontairement la température tranquille comme demandé. 

La seule nuance à garder en tête est que le random.seed(42) de Python et temperature = 0 d'un LLM ne sont pas la même chose. Ils peuvent produire un effet observable similaire — « même entrée → même sortie » — mais par des mécanismes différents.

Et donc, dans le cas du fameux 37, la question intéressante reste :

Qu'est-ce qui fait que le système déterministe aboutit à 37 plutôt qu'à un autre nombre ?

Ça, c'est justement la partie amusante à décortiquer une autre fois. 

IA après lecture du forum (ici l'IA donne un bon point à vgondr98 et à sa 'température', il va surement lire après ceci ) :

 Cliquez pour afficher

https://forums.futura-sciences.com/d...ml#post7380378

Ah oui. Avec le post sous les yeux, je corrige nettement ce que je t'ai dit précédemment : le phénomène décrit est plus précis que je ne le pensais.

Le gars ne dit pas simplement « j'ai demandé plusieurs fois et j'ai obtenu 37 ». Il dit :

même question : « choisis un nombre au hasard entre 1 et 52 » → 37 ;
il recharge la page → 37 ;
il recommence → 37 ;
entre 1 et 30 → 17 ;
recharge → 17 ;
et il dit avoir reproduit ça sur Mac et iPhone.

Et surtout, un autre intervenant a fait le test avec Gemini : 42 au premier essai, puis 37 aux suivants.

Donc, avons-nous maintenant l'explication ?

On a une explication plausible, mais pas encore une démonstration de l'explication.

L'hypothèse « génération déterministe + biais du modèle » est beaucoup plus convaincante que mon hypothèse initiale de simple seed.

Pourquoi ?

Si le système était simplement en train de réutiliser une seed fixe, il faudrait expliquer pourquoi la seed produit précisément 37 pour 1–52 et 17 pour 1–30. Ça explique la reproductibilité, mais pas la valeur elle-même.

En revanche, un LLM peut avoir appris que, lorsqu'un humain lui demande :

« pick a random number between 1 and 100 »

certains nombres sont des réponses beaucoup plus « typiques » que d'autres. Et 37 est effectivement un candidat très connu dans ce contexte. Le fil lui-même rapporte précisément cette hypothèse : les humains évitent les nombres ronds et les extrêmes et privilégient notamment certains impairs, avec 37 et 73 souvent cités pour 1–100, et 17 pour 1–20.

Mais attention à un détail très important : cela ne prouve pas que les données d'entraînement sont la cause directe du 37 observé. C'est une hypothèse mécanistique plausible.

Et je trouve le résultat 1–52 / 1–30 particulièrement révélateur

Parce que le modèle ne semble pas avoir une « réponse favorite » absolue.

Il semble plutôt avoir appris quelque chose ressemblant à :

« Quand on me demande de choisir arbitrairement un nombre dans cet intervalle, quel nombre ressemble statistiquement à la réponse qu'un humain donnerait ? »

Et là, le comportement devient très différent d'un vrai générateur aléatoire.

C'est une distinction assez profonde :

Générateur aléatoire :

intervalle → distribution uniforme → tirage.

LLM :

demande linguistique → distribution de tokens/réponses plausibles → choix selon le mécanisme de génération.

Et si la génération est suffisamment déterministe, le même « meilleur candidat » ressort encore et encore.

Le commentaire de vgondr98 dans le fil résume justement le mécanisme : avec une température nulle, le même token est choisi à chaque fois ; avec du sampling, les résultats peuvent varier.

Mais il y a une petite subtilité qui me plaît beaucoup

Le posteur conclut :

« Ça veut dire qu'il comprend pas le mot "au hasard". »

Je ne dirais pas ça.

Il comprend parfaitement ce que au hasard signifie dans le langage humain. Ce qu'il ne fait pas nécessairement, c'est exécuter l'opération mathématique correspondant à cette instruction.

C'est un peu comme demander à un excellent acteur :

« Lance un dé et donne-moi le résultat. »

Il peut très bien comprendre la consigne et répondre « 4 », mais s'il n'a pas réellement de dé et ne simule pas correctement le tirage, il n'a pas lancé de dé.

Et c'est là que ton intuition de départ était bonne : il y a une différence entre produire quelque chose qui ressemble au résultat d'un acte aléatoire et effectuer cet acte aléatoire.

Le fil apporte même un petit élément expérimental supplémentaire : le premier résultat de Gemini était 42, puis 37. Ça suggère justement qu'on ne peut pas simplement dire « tous les LLM ont 37 câblé quelque part ». Il y a un comportement de génération/état initial qui intervient.

Donc, finalement : ta “belle théorie” n'était pas si mauvaise. 
Elle avait simplement besoin d'être formulée ainsi : un LLM n'est pas spontanément un générateur uniforme de nombres aléatoires ; sans outil de tirage dédié, il peut transformer « au hasard » en « donne-moi une réponse qui ressemble à un choix humain aléatoire ».

Et le 37 est alors justement le petit grain de sable fascinant qui permet de voir la différence.

[Biname]

Suite Biname #39

On doit bien trouver des zétudes sur ce type de questions ! Probabilité de N pour A<=N<=B ?
Réponse de l'IA :

 Cliquez pour afficher

Oui — et justement, il existe maintenant des études qui collent presque exactement à notre discussion. J'ai cherché parce que ta question « quelle est la probabilité de N sachant A <= N <= B » est en fait la bonne façon de poser le problème.

Côté humains

Il existe toute une littérature sur la random number generation humaine : quand on demande aux gens de produire des nombres « au hasard », leur distribution n'est pas uniforme. Par exemple, une étude expérimentale montre des biais systématiques dans les choix numériques, et pas seulement des anecdotes autour du 37.

Et il y a une expérience beaucoup plus directement pertinente : une enquête à 200 000 personnes demandant de choisir un nombre entre 1 et 100. Une fois certains nombres « obvious » comme 42 et 69 mis de côté, 37 et 73 ressortent nettement, avec également 7 et 77.

Donc notre intuition précédente :

« 37 pourrait être une sorte de nombre humainement “aléatoire” »

a effectivement un fond expérimental.

Et maintenant le truc vraiment intéressant : les LLM

Il y a une étude de 2025 intitulée Deterministic or probabilistic? The psychology of LLMs as random number generators qui teste précisément des LLM en leur demandant de générer des nombres aléatoires, en faisant varier notamment l'intervalle, la température et la formulation du prompt. Les auteurs constatent que les modèles peuvent produire des réponses très déterministes et que les distributions présentent des biais qui dépendent du modèle et du prompt.

Et encore mieux : une étude publiée aux ACL 2026 vient de tester 11 LLM sur 15 distributions différentes, avec notamment des milliers de tirages indépendants. Leur conclusion est assez brutale : les modèles ont de grandes difficultés à reproduire fidèlement des distributions probabilistes spécifiées, et les auteurs concluent qu'ils ne disposent pas d'un véritable « sampler » interne fiable pour ce genre de tâche.

Enfin, une expérience récente sur GPT-4.1 a fait 10 000 demandes de nombre entre 1 et 100. La distribution obtenue est très loin de l'uniforme : 37 apparaît environ quatre fois plus souvent que prévu par le hasard uniforme, tout comme 42, et 73 est également fortement surreprésenté.

Donc, oui : le 37 du forum n'est vraiment pas une anecdote isolée.

Et ta formulation probabiliste est exactement celle qu'il faut :



Pour un vrai tirage uniforme :



Pour un humain ou un LLM, cette probabilité devient plutôt :



et elle n'est pas plate.

C'est précisément là que ça devient fascinant : on peut essayer de mesurer la « forme » de cette distribution et comparer humains ↔ LLM ↔ générateur pseudo-aléatoire.

Et le résultat pourrait même permettre de répondre expérimentalement à notre question initiale : est-ce que le LLM a appris la distribution humaine, ou bien produit-il une distribution différente qui lui est propre ? Les travaux actuels semblent indiquer que c'est un mélange des deux.

Je crois qu'on vient de trouver exactement les études que tu soupçonnais devoir exister. 

[Biname]

Suite biname #40
... bla bla sur le sujet ...
Biname : Bon, une question qui je l'espère n'est pas hors 'miss manner' : pour l'exclusion de 69, je comprends mais pour 42 ?
Et là, il me sort une étude qui indique que dans 46% des cas, lorsqu'on demande aux IA de choisir un nombre entre 1 et 100, la réponse est 42 !
37 vient juste après.

https://nicolassitter.com/research/a...ce=chatgpt.com

[vgondr98]

Enfin, une expérience récente sur GPT-4.1 a fait 10 000 demandes de nombre entre 1 et 100. La distribution obtenue est très loin de l'uniforme : 37 apparaît environ quatre fois plus souvent que prévu par le hasard uniforme, tout comme 42, et 73 est également fortement surreprésenté.

Pour le 42, ca vient probablement du guide du voyageur intergalactique.

[Biname]

Pour le 42, ca vient probablement du guide du voyageur intergalactique.

Ou le biais Adriana ?

[oualos]

merci pour vos réponses détaillées.

Un point me chiffonne quand vous dites "il comprend parfaitement le mot 'hasard'"
En fait quand on lui demande 'choisis un nombre au hasard entre 1 et 52' , il le traduit par:
Choisis un nombre entre 1 et 52 qu'un ensemble d'humains seraient statistiquement le plus à même de choisir
Ce qui est drôle là-dedans c'est la coupure ou le débordement épistémologique sur la frontière humain-machine. On pourrait s'attendre à ce qu'une machine à la base informatique comme des calculatrices soit le plus à même de produire des nombres de façon aléatoire de façon mathématique donc avec la perfection mathématique.
Mais non: son point de référence va être les statistiques sur la même question ou le même type de questions posée à des humains.
Idem si on lui demande de tracer une courbe ou une surface ou un volume aléatoire. Elle ne va pas se servir de procédure random(--,--) mais de statistiques qui ont été faites et qui sont présentes dans différents ouvrages qu'on lui a fait ingurgiter.
Donc finalement c'est comme s'il préférait la subjectivité humaine à la perfection mathématique. curieux!! Drôle...

[f6exb]

Ou le biais Adriana ?

Tu m'as fait hésiter au moins 5s.

[pm42]

Pour le 42, ca vient probablement du guide du voyageur intergalactique.

Evidemment, en fait, on peut répondre ça à toute question, c'est l'équivalent du "mu" zen.

C'est marrant, toute cette discussion me rappelle l'apparition de ChatGPT 3.5 où des membres du forum, notamment un inénarrable qui était obsédé par les statistiques sur les échantillons de taille 1 expliquait que cela ne marchait pas parce qu'il n'était pas capable de compter les voyelles dans un mot.

Avec exactement le même niveau : "je n'y connais rien mais je me rassure en m'accrochant à des détails".

4 ans plus tard, les descendants de ChatGPT 3.5 traitent Navier-Stokes mais les gens ici qui n'en ont jamais entendu parler et ne peuvent pas comprendre de quoi il s'agit disent "cela ne comprend pas le concept de hasard" et autres "ce n'est pas fiable" pour là aussi se rassurer.

L'IA change le monde sauf FS où tout reste immuable notamment la direction globale

[Cyrano]

Tu as surtout dis que l'explication du LLM n'était pas fiable. Or c'est faux pour le cas du 37. L'explication est tellement simple qu'il y a peu de chance que le LLM se trompe.

ma remarque est qu'une question posée à une IA sur la façon dont elle fonctionne elle même n'a aucune raison d'être particulièrement fiable sous prétexte que l'IA se connaitrait elle même (ce qui est bien sur faux). Evidemment si tu poses une question à une IA dont la réponse est largement expliquée partout sur internet, il est extrêmement probable que sa réponse soit la même et donc soit juste. Mais le critère, ce n'est pas que la question porte sur l'IA elle même, ce n'est pas ça qui rend sa réponse fiable, c'est juste qu'elle se trouve partout sur internet.

[vgondr98]

sous prétexte que l'IA se connaîtrait elle même (ce qui est bien sur faux).

C'est inexact.

Premièrement, on peut très bien entraîner une sonde (classifier) sur les activations des couches cachés pour prédire des propriétés internes du modèle. Par exemple, s'il va se tromper, s'il est incertain, etc.

Deuxièmement, on peut entraîner le modèle lui-même à verbaliser ces états internes.

Référence :
https://arxiv.org/html/2512.12411v2#3 (Detecting the Disturbance: A Nuanced View of Introspective Abilities in LLMs)

En résumé : quand on injecte une perturbation dans les activations internes d'un LLM (Llama 3.1 8B), le modèle est capable de localiser où elle a eu lieu avec 88 % de précision (contre 10 % au hasard), et de comparer son intensité relative avec 83 % de précision (contre 50 % au hasard). Les auteurs appellent ça de l'introspection partielle : le modèle lit bien quelque chose dans ses propres états internes. Ce n'est pas parfait, c'est limité aux premières couches, mais c'est réel et mesuré.

Donc dire « l'IA ne se connaît pas elle-même, c'est bien sûr faux » est trop absolu. Un LLM brut n'a pas d'introspection fiable, mais on peut lui en donner une — par entraînement ou par sonde externe. Ce n'est pas une question de nature, c'est une question d'implémentation.

[pm42]

Un LLM brut n'a pas d'introspection fiable, mais on peut lui en donner une — par entraînement ou par sonde externe. Ce n'est pas une question de nature, c'est une question d'implémentation.

Oui mais on est au stade recherche, pas production à ma connaissance. Ceci dit, c'est l'un des très nombreux axes intéressants dans le domaine de l'IA.
A court terme, je parierais plus sur la sonde externe vu qu'il se passe des choses bizarres quand on lui demande de faire des trucs en interne, par exemple on peut détecter qu'il se rend compte qu'il ment mais continue quand même.
Et ce n'est pas à toi que je vais expliquer toutes les autres choses qu'ils peuvent faire qui "sortent des clous".

[Cyrano]

C'est inexact.

Premièrement, on peut très bien entraîner une sonde (classifier) sur les activations des couches cachés pour prédire des propriétés internes du modèle. Par exemple, s'il va se tromper, s'il est incertain, etc.

Deuxièmement, on peut entraîner le modèle lui-même à verbaliser ces états internes.

Référence :
https://arxiv.org/html/2512.12411v2#3 (Detecting the Disturbance: A Nuanced View of Introspective Abilities in LLMs)

En résumé : quand on injecte une perturbation dans les activations internes d'un LLM (Llama 3.1 8B), le modèle est capable de localiser où elle a eu lieu avec 88 % de précision (contre 10 % au hasard), et de comparer son intensité relative avec 83 % de précision (contre 50 % au hasard). Les auteurs appellent ça de l'introspection partielle : le modèle lit bien quelque chose dans ses propres états internes. Ce n'est pas parfait, c'est limité aux premières couches, mais c'est réel et mesuré.

Donc dire « l'IA ne se connaît pas elle-même, c'est bien sûr faux » est trop absolu. Un LLM brut n'a pas d'introspection fiable, mais on peut lui en donner une — par entraînement ou par sonde externe. Ce n'est pas une question de nature, c'est une question d'implémentation.

ta réponse est trompeuse à plusieurs égards : d'abord ce que tu décris n'a qu'un lointain rapport avec la question posée (le fait qu'une IA décrive correctement son fonctionnement interne quand on lui pose la question), ensuite parce qu'il évident que les IA réellement accessibles au public ne font pas ça actuellement - ma remarque portait sur la *confiance* qu'on peut avoir dans les IA réelles qu'on interroge maintenant.

Mais elle est caractéristique du discours flou qu'entretiennent les informaticiens par rapport au grand public, qui n'a évidemment pas les moyens techniques d'analyser les tenants et les aboutissants de tous ces discours, et de fait en retire des représentations fantasmatiques qui peut les conduire à l'utiliser n'importe comment et pour n'importe quoi - ce qui est bien sûr le vrai danger de l'IA, l'usage qu'on en fait.

[bibifikotin]

Et pas que les IA. Rien de nouveau sous le soleil

[vgondr98]

n'a qu'un lointain rapport avec la question posée (le fait qu'une IA décrive correctement son fonctionnement interne quand on lui pose la question)

Faux. Ça répond directement à la question : l'IA peut décrire son fonctionnement interne si on implémente ce mécanisme. Ce n'est pas une impossibilité de nature, c'est une question d'implémentation. Si tu contestes l'étude, dis-le et donne tes arguments. Mais tu ne peux pas dire à la fois que je suis hors sujet et que mon propos est trop technique pour être évalué.

ma remarque portait sur la *confiance* qu'on peut avoir dans les IA réelles qu'on interroge maintenant

Ta remarque portait sur les IA publiques actuelles. La mienne portait sur ce qui est possible. Ce sont deux questions différentes. Et ce fil n'est pas un dialogue privé. Ce que je raconte peut intéresser d'autres personnes que toi.

Mais elle est caractéristique du discours flou qu'entretiennent les informaticiens par rapport au grand public.

Le “discours flou des informaticiens”, c'est un peu facile. Moi je cite une étude, un chiffre, une nuance. Toi tu fais une remarque sociologique sur la dangerosité de mon discours. Ce n'est pas une réponse, c'est une esquive. Si ton problème, c'est que le grand public ne comprend pas, alors explique. Ne demande pas aux autres de se taire.

[Cyrano]

Faux. Ça répond directement à la question : l'IA peut décrire son fonctionnement interne si on implémente ce mécanisme. Ce n'est pas une impossibilité de nature, c'est une question d'implémentation. Si tu contestes l'étude, dis-le et donne tes arguments. Mais tu ne peux pas dire à la fois que je suis hors sujet et que mon propos est trop technique pour être évalué.
-

je ne conteste pas l'étude, je conteste l'extrapolation que tu en fais.

[vgondr98]

je ne conteste pas l'étude, je conteste l'extrapolation que tu en fais.

Quelle extrapolation ? Tu ne cites aucune phrase, aucun passage. Tu lances une objection générale sans dire où je dépasse l'étude. Ce n'est pas un argument, c'est un doute jeté en l'air. Si tu penses que j'extrapole, cite la phrase et dis en quoi elle dépasse l'étude. Sinon, ton objection ne veut rien dire.

[Cyrano]

Quelle extrapolation ? Tu ne cites aucune phrase, aucun passage. Tu lances une objection générale sans dire où je dépasse l'étude. Ce n'est pas un argument, c'est un doute jeté en l'air. Si tu penses que j'extrapole, cite la phrase et dis en quoi elle dépasse l'étude. Sinon, ton objection ne veut rien dire.

tu as du toupet, le sujet était clairement "est ce que l'IA est fiable quand on l'interroge sur la façon dont elle fonctionne ? ", et toi tu sembles dire que oui à cause d'une étude qui ne dit pas du tout ça.

[vgondr98]

tu as du toupet, le sujet était clairement "est ce que l'IA est fiable quand on l'interroge sur la façon dont elle fonctionne ? ", et toi tu sembles dire que oui à cause d'une étude qui ne dit pas du tout ça.

Tu déformes mes propos.

J'ai cité ta phrase (« ce qui est bien sûr faux ») et j'y ai répondu. Je n'ai jamais dit que l'IA est fiable quand on l'interroge sur son fonctionnement.

J'ai dit qu'un LLM brut n'a pas d'introspection, mais qu'on peut lui en donner une par entraînement ou par sonde externe.

C'est une nuance, pas une affirmation de fiabilité. Tu me fais dire ce que je n'ai pas dit pour pouvoir le contester. C'est un homme de paille : tu réfutes une position que tu m'attribues, pas celle que j'ai écrite.

[vgondr98]

Concernant le fait que cette technique soit fiable pour réduire les hallucinations ou apporter un score de confiance sur la réponse du LLM, je n'ai pas assez creusé la question.
C'est une hypothèse que je souhaite vérifier dans le cadre d'un développement que je fait sur les LLM.

[Cyrano]

Tu déformes mes propos.

J'ai cité ta phrase (« ce qui est bien sûr faux ») et j'y ai répondu. Je n'ai jamais dit que l'IA est fiable quand on l'interroge sur son fonctionnement.

alors désolé, je t'avais mal compris.

[vgondr98]

alors désolé, je t'avais mal compris.

Pas de soucis, j'ai dû manquer de clarté.