Détecteurs de textes générés par IA : quels signaux sont vraiment fiables ?

[ethanjamescolez]

Bonjour,

Je cherche a mieux comprendre les limites techniques des detecteurs de textes generes par IA. Ces outils ne prouvent pas l origine d un texte, mais semblent utiliser des signaux statistiques ou stylistiques.

Quels signaux sont les moins fragiles, et dans quels cas deviennent ils peu fiables ? Je pense par exemple aux textes courts, aux textes relus par un humain, aux textes tres formates, aux textes de non natifs, aux traductions, ou aux passages melanges.

Existe t il de bons criteres pour utiliser un score comme simple indice de relecture, sans le transformer en preuve d auteur ou en decision disciplinaire ?
-----

[pm42]

On peut creuser les différentes techniques mais les fournisseurs d'outils annoncent du 99%, les tests indépendants donnent du 60% à 80% max "sortie d'IA".
Si la personne qui a demandé à l'IA fait l'effort de paraphraser, on tombe à moins de 5%. Et pour paraphraser, on peut même utiliser un petit LLM simple, cela suffit.

Actuellement, on est dans une course à l'armement entre les détecteurs et les générateurs et ces derniers ont quelques longueurs d'avances.