les moteurs de recherche et l'intelligence artificielle

[pm42]

Ce genre de remarque me fait un peu bondir :
Il s'agit ici du mot employé "préjugé".
sous prétexte qu'il est soit disant d'usage par les spécialistes , il ferait sens.!!!!
avec ce type d'argument , une montre connectée EST "intelligente" ( car elle est nommée ainsi )
le boson de Higgs EST la particule de Dieu...
et j'en passe...

Je me permets de te faire remarquer que :
- "montre intelligente" ne relève pas du domaine de la science et est une création marketing de vendeurs
- "particule de dieu" est le terme employé par une grande partie de la presse mais que les scientifiques et les experts sur Futura emploient tous "Boson de Higgs"

De plus, là, il s'agit clairement d'images ou d'hyperboles alors que dans les cas que je citais, le mot est employé dans son sens usuel.

Je faisais juste remarquer que dans ce cas, cet emploi ce est probablement fait pour une bonne raison notamment quand on regarde les exemples donnés.
Et que (et je me répète), je ne suis vraiment pas sur que les affirmations jamais étayées mais présentée comme des évidences sur FS aient plus de valeur.

Un autre exemple : https://www.scientificamerican.com/a...rns-prejudice/
Mais si FS veut déterminer sa propre terminologie par débat interne sur l'IA, pourquoi pas ?
-----

[Deedee81]

Ca reste de la vulgarisation.
J'ai quand même du mal à croire que "préjugé" soit utilisé dans un véritable discours scientifique sur les IA. Quelqu'un a un exemple d'article publié sous comité de lecture où ce terme serait utilisé de manière cruciale ?

Difficile d'apporter une référence de l'inverse, mais jusqu'ici on a surtout des affirmations. Ce serait utile d'avoir une base plus solide.

[invite51d17075]

Ca reste de la vulgarisation.

Oui, dans certains articles ou blogs français , souvent l'introduction parle de "biais" ( structurels ) , alors qu'ensuite dans le texte ce terme est remplacé par "préjugé" ( au sens commun) quand l'incidence pourrait s'interpréter, selon le domaine, (CV, détection des Gays ,...) à l'instar d'un préjugé humain.

Les articles ( arxiv ) évoquent eux simplement le terme de "bias"(*) , ceux ci n'étant pas uniquement dus aux datas initiaux ou en apprentissage , mais souvent structurellement induit par des mauvaises corrélations.
( à l'instar de certains biais cognitifs humains )
Les domaines concernés peuvent donc s'étendre sur toute sorte de thématiques.

Enfin, il me semble normal que l'emploi d'un mot, quand il est employé dans un cadre scientifique , s'appui sur sa définition scientifique.
Et donc ici "préjugé" est à prendre à mon sens dans sa définition psychologique :
https://fr.wikipedia.org/wiki/Préjugé_(psychologie)
Une simple utilisation liée à son usage commun relève effectivement de la vulgarisation.

Et même, répétons le , les différents biais connus des IA actuelles ont pour beaucoup peu à voir avec ce qu'on pourrait qualifier de "préjugé" , même au sens commun.

je n'en ai vu aucun qui utilise le terme "prejudice".

[Deedee81]

je n'en ai vu aucun qui utilise le terme "prejudice".

Et attention, il y a un double sens en anglais (préjudice et préjugé n'ont pas la même signification en français). Mais bon, ça c'est juste pour info, dans le lien de pm42 c'est bien dans le sens "préjugé" qu'il est utilisé.

[invite51d17075]

préjudice est bien la traduction anglaise de préjugé. Il fait parti des "faux amis".
donc quand j'en parle, c'est uniquement dans le cadre de textes en anglais, ou il n'est pas employé dans les sujets évoqués ici, contrairement à "bias"

[invite51d17075]

pour compléter : même "prejudger" ou" "prejudgment" n'apparaissent pas non plus dans les articles anglais.

[Deedee81]

préjudice est bien la traduction anglaise de préjugé. Il fait parti des "faux amis".

Ah bon ? J'ai pourtant lu que prejudice (selon le contexte) pouvait se traduire par préjudice ou préjugé.

Bon, je ne suis pas spécialiste de l'anglais et on va éviter la linguistique

Une question : comment tu as fait pour déterminer l'occurrence de ces termes (y compris les deux derniers que tu cites). Tu as utilisé google scholar ?

[invite51d17075]

Une question : comment tu as fait pour déterminer l'occurrence de ces termes (y compris les deux derniers que tu cites). Tu as utilisé google scholar ?

je n'ai pas fait de stats quand même ( tout ça pour de la sémantique ); juste lu trois ou quatres articles évoquant ce type de "disfonctionnement".

effectivement il y a bien deux traduction.
mais j'ai aussi précisé que les autres termes anglais qui se rapprocherait aussi du "préjugé" français n'était pas utilisés dans les articles anglais.

j'en profite pour rappeler ce qui a été dit plus haut et qui résume très bien , de mon point de vue, ce que j'exprime probablement moins bien.

....... - comme la comparaison trompeuse de Jiav entre "l'accouchement" et la "mise bas" le suggère, c'est à dire que ce serait une différence de vocabulaire pour des choses en fait très similaires, alors qu'en réalité c'est exactement l'inverse : une similitude de vocabulaire ("préjugés", "buts", etc ..) pour des choses en fait très différentes.

[Deedee81]

je n'ai pas fait de stats quand même

C'est pour ça que j'avais demandé google scholar, je sais qu'on sait faire des stats facilement avec (mais je ne sais pas comment, je ne l'ai jamais fait)

[invite51d17075]

disons que je me demande quand même si la question posée mérite autant d'effort....

[invite6c250b59]

disons que je me demande quand même si la question posée mérite autant d'effort....

Je ne sais pas, mais ta série de post mérite quand deux phrases pour ceux qui seraient intéressés à apprendre sur le sujet.

Le terme standard est "bias". La traduction adéquate est "préjugé".

[invite6c250b59]

PS: une erreur de bonne foi qui peut-être faite est de croire que "bias" doit se traduire par "erreur systématique". Oui, dans 99% des contextes en IA. Non, dans le contexte discuté ici, i.e. si les préjugés des IA étaient des erreurs systématiques ce serait extêmement facile à corriger.

[Archi3]

Quel est l'inconvénient d'employer plutôt la traduction habituelle de "biais" ?

Autre question : une IA crée-t-elle des biais à partir de données non biaisées, et si oui, dans quel cas ?

[invite51d17075]

Autre question : une IA crée-t-elle des biais à partir de données non biaisées, et si oui, dans quel cas ?

Oui, un des exemples que j'ai lu concerne l'estimation du nb de nids de poules ( je ne l'invente pas ), dans une zone géographique donnée, en prévision de travaux de voirie.
Plutôt que de les compter objectivement, on s'est confié aux nb de nids déclarés par les usagers.
A priori non biaisé dans les données elles même. Il vient d'ailleurs.
On s'est rendu compte par la suite que cette zone était majoritairement habités par des classes moyennes utilisant d'avantage leur portable ( que le reste de la population de la zone concernée )
De fait, il n'y avait pas d'avantage de travaux à prévoir à cet endroit, mais une corrélation indirecte non détectée.

[N738139]

une IA crée-t-elle des biais à partir de données non biaisées, et si oui, dans quel cas ?

Je reformulerais la question en posant : l'AI peut-elle se détourner de sa première programmation ? La réponse est oui je pense. Quand elle acquiert un comportement autonome après avoir appris certaines données, les résultats peuvent parfois diverger des attentes aux nouvelles données qu'on lui donne (exemple faire communiquer 2 machines entre elles, elles développent leur propre langage).

[invite51d17075]

Je reformulerais la question en posant : l'AI peut-elle se détourner de sa première programmation ? .....

l'expression est trop imprécise, il me semble.
et sur ce point je pense que pm42 serait d'accord.

[invite6c250b59]

Quel est l'inconvénient d'employer plutôt la traduction habituelle de "biais" ?

Rien de très important: techniquement c'est un anglicisime plutôt qu'une traduction adéquate, et comme je le disais plus haut il est possible de confondre avec le biais au sens statistique. En fait nos posts se sont croisés entre ma mise en garde et ton exemple d'usage impropre.

une IA crée-t-elle des biais à partir de données non biaisées, et si oui, dans quel cas ?

Des données avec préjugés? Une IA faisant une erreur systématique?

[N738139]

l'expression est trop imprécise, il me semble.
et sur ce point je pense que pm42 serait d'accord.

C'est relativement correct. J'aurai dû employer le mot "diverger".

[invite51d17075]

Rien de très important: techniquement c'est un anglicisime plutôt qu'une traduction adéquate, et comme je le disais plus haut il est possible de confondre avec le biais au sens statistique. En fait nos posts se sont croisés entre ma mise en garde et ton exemple d'usage impropre.

non, dans préjugé, il y a le préfixe "pré" , c_a_d avant même toute analyse plus ou moins objective ( selon le sens qu'on y accorde aussi )
les biais cités ne sont pas justement intrinsèquement établis "à l'avance" et ne sont les fruits que de disfonctionnements dans le cadre du fonctionnement des IA actuellement connues.
elles découlent de biais ; qu'ils soient issus de données insuffisantes , ou à l'instar de l'exemple que j'ai pris, d'une mauvaise interprétation de corrélation, entre autre type de risque

[invite6c250b59]

(...)

Dernière fois: cf 71.

[invite51d17075]

Ben non,

Le terme standard est "bias". La traduction adéquate est "préjugé".

la traduction adéquate de "bias" est biais ....
le "préjugé" n'est qu'UNE forme de biais et est "scientifiquement" défini en matière de psychologie.

[Archi3]

Oui, un des exemples que j'ai lu concerne l'estimation du nb de nids de poules ( je ne l'invente pas ), dans une zone géographique donnée, en prévision de travaux de voirie.
Plutôt que de les compter objectivement, on s'est confié aux nb de nids déclarés par les usagers.
A priori non biaisé dans les données elles même. Il vient d'ailleurs.
On s'est rendu compte par la suite que cette zone était majoritairement habités par des classes moyennes utilisant d'avantage leur portable ( que le reste de la population de la zone concernée )
De fait, il n'y avait pas d'avantage de travaux à prévoir à cet endroit, mais une corrélation indirecte non détectée.

bon mais dans cette exemple, moi j'estime que la base sur laquelle elle a travaillé est biaisée (par exemple, le barycentre des appels n'est pas égal au barycentre réel des nids de poules : c'est la définition d'un biais.)
Si la base avait été non biaisée (par exemple à partir d' images satellites), l'IA aurait (probablement) fonctionné correctement. Donc le biais ne vient pas d'elle.

[Archi3]

Rien de très important: techniquement c'est un anglicisime plutôt qu'une traduction adéquate, et comme je le disais plus haut il est possible de confondre avec le biais au sens statistique.

je ne pense pas que le mot biais soit incorrect en français, mais quel "préjugé" d'une IA ne vient pas au départ justement d'un biais statistique dans l'information qui lui est offerte ?

[Archi3]

https://fr.wiktionary.org/wiki/biais
je pense que c'est plutot l'anglais qui l'a emprunté au français

Étymologie[modifier]
(XIIIe siècle) De l’ancien occitan biais (« direction oblique, détour »), peut-être du latin *biaxius[1] (« qui a deux axes ») ou du latin bifax[2] selon Littré qui explique : « Diez le tire de bifax, qui est dans Isidore avec cette signification : duos habens obtutus, c'est-à-dire « ayant un double regard, louche », comme l’espagnol bis-ojo (es), « qui a deux yeux, louche ». De là au sens d’oblique on voit sans peine le passage. La suppression de l’f ne fait pas obstacle : car on en a des exemples dans le provençal refusar et reusar, le français refuser et reüser, et encore dans le provençal preon de profundus. Bifax n'est pas isolé dans la basse latinité ; on y trouve befax, bifacius, bifacies. Ce mot est un adjectif ; et biais l’est aussi. ».

Qui est de biais, oblique.
De biais ou de droict fil. — (Michel de Montaigne, Essais, II, 353)
L’entrée est biaise, de façon à masquer la porte de l’ouvrage principal. — (Eugène Viollet-le-Duc, La Cité de Carcassonne, 1888)
Porte biaise, porte oblique par rapport au mur où elle est percée.

[invite6c250b59]

je pense que c'est plutot l'anglais qui l'a emprunté au français

Très franchement j'ai bien peu de réticences à utiliser des anglicismes, qu'ils viennent ou non du français. Mon critère serait plutôt de vérifier si ils font du sens. Simplement il faut être conscient du caractère polysémique...

quel "préjugé" d'une IA ne vient pas au départ justement d'un biais statistique dans l'information qui lui est offerte ?

...ainsi dans l'exemple cité par ansset le problème n'est pas un biais statistique au sens d'erreur systématique, c'est un biais au sens méthodologique de biais d'échantillonnage (i.e. les "barycentres" pourraient très bien être égaux). Cela répond-t-il à ta question?

[Archi3]

Très franchement j'ai bien peu de réticences à utiliser des anglicismes, qu'ils viennent ou non du français. Mon critère serait plutôt de vérifier si ils font du sens. Simplement il faut être conscient du caractère polysémique...


...ainsi dans l'exemple cité par ansset le problème n'est pas un biais statistique au sens d'erreur systématique, c'est un biais au sens méthodologique de biais d'échantillonnage (i.e. les "barycentres" pourraient très bien être égaux). Cela répond-t-il à ta question?

non... il y a un biais d'échantillonnage, donc c'est un biais statistique . Je ne voulais pas dire que les barycentres étaient forcément différents mais qu'il y avait surement des caractéristiques statistiques différentes entre la vraie distribution des nids de poules et la base qui avait alimenté l'IA - donc l'information était bien biaisée au sens statistique. Je ne vois toujours pas dans quel autre sens une IA pourrait exhiber un "bias" étant donné justement qu'elle n'a pas de psychologie propre.

[invite6c250b59]

non... il y a un biais d'échantillonnage, donc c'est un biais statistique .

Well... si par biais statistique tu inclus les biais d'échantillonnage, alors la réponse est triviale: tous les exemples incluaient des biais statistiques dans les données, tout simplement parce qu'il y a toujours un biais d'échantillonnage quels que soient la base de donnée.

Maintenant si tu veux vraiment comprendre pourquoi les machines développent des préjugés et pourquoi ce n'est pas du tout un phénomène trivial, il faut mettre les mains dans le camboui.

[Archi3]

je ne pense pas que tu puisses dire que les préjugés humains viennent tous de biais d'échantillonnage, tout simplement parce que les humains ne forment pas leurs jugements comme une IA à partir d'une base statistique de faits (et le biais d'échantillonnage n'est pas dans la liste des biais cognitifs !) C'est en ça que je dis que ce n'est pas parce qu'on emploie le même mot que ça désigne le même fonctionnement, meme si les résultats finaux peuvent se ressembler.

[Archi3]

Well... si par biais statistique tu inclus les biais d'échantillonnage, alors la réponse est triviale: tous les exemples incluaient des biais statistiques dans les données, tout simplement parce qu'il y a toujours un biais d'échantillonnage quels que soient la base de donnée.

ma question n'était pas tant sur le fait qu'il existe des bases sans biais, mais de savoir si l'IA créait ses propres biais, autrement dit si pouvait apparaitre des biais qui n'étaient dus qu'à l'IA, et qui n'étaient pas présents dans la base initiale ?

[invite51d17075]

je ne pense pas que tu puisses dire que les préjugés humains viennent tous de biais d'échantillonnage.....

exact, il suffit de lire le lien que j'ai mis sur le(s) préjugé(s) ( psychologique) mis plus haut.
quand à cette histoire de nid de poule, je ne suis pas tout à fait d'accord, rien n'indiquait "à priori" qu'une erreur pouvaient se produire à cause de cette mauvaise corrélation.
Et, plus généralement, quand on utilise des IA pour faire des recoupements sur des big-data, ce type d'interprétation erronée ne peut que se produire souvent, car le nb potentiel de corrélations "biaisées" ( si on l'interprète ainsi ) est grand.
Eviter toute erreur méthodologique devient donc LE travail en amont le plus complexe, et l'IA ne sait le faire.