les moteurs de recherche et l'intelligence artificielle

[pm42]

Une façon "neutre" de trancher serait de demander son avis à une IA - les humains peuvent répondre à la question de savoir si ils pensent avoir des préjugés , qu'ils aient raison ou tort sur leur réponse, as tu essayé de poser la même question à une IA ?

La question n'a pas de sens puisqu'on n'a pas d'IA forte pour le moment. Ce qui n'empèche pas les IA faibles d'exhiber les préjugés implicites des données d'apprentissage et/ou des concepteurs.
Cf. les liens plus haut.

D'une façon générale, les discours sur l'IA par des gens qui n'ont aucune référence, qui ne connaissent pas le sujet et qui se contentent de réflexion générale sur une "conscience" qu'ils sont incapables de définir ne me semblent absolument pas convaincants.
-----

[ansset]

La question n'a pas de sens puisqu'on n'a pas d'IA forte pour le moment. Ce qui n'empèche pas les IA faibles d'exhiber les préjugés implicites des données d'apprentissage et/ou des concepteurs.
.

je suis bien d'accord avec le premier point. Tant que cette IA forte ( à préciser ) n'existe pas, chacun peut imaginer ce qu'elle représenterait et y projeter ses espoirs ou ses angoisses, mais cela reste un non sujet actuellement.
Pour le second, le hiatus des derniers échanges provient peut être du sens que l'on met au terme "préjugé", qui implicitement fait d'avantage penser à un ressort d'intention, ou de points de vue rigides purement humain.
Si on l'évoque dans les sens de : "programmé-pour", alors on se rapproche de l' absence d'objectivité évoquée plus haut.
Cdt

[invite73192618]

cela reste un non sujet actuellement.

Imagine que tu souhaites programmer une IA pour automatiser la surveillance des lieux publiques. La méthode évidente serait de donner un flux vidéo 'historique' annoté des interventions policières, pour que l'IA apprenne à détecter quels individus ont été ou non contrôlé par la police en fonction de leur comportement. Le résultat sera une IA qui peut automatiquement indiquer qui aurait été contrôlé si la police avait surveillé attentivement le flux vidéo, ce qu'elle n'a alors plus besoin de faire.

Le problème est que les IA construites ainsi auront très probablemetn des préjugés, ce que l'on peut voir de la même façon qu'on peut tester le niveau de préjugé des entreprises (en envoyant des cv identiques sauf pour le nom de Wallid vs Walter/en retouchant les images pour changer l'appartenance à telle ou telle minorité). Contrairement aux fantasmes à la skynet, c'est un problème très réel qui se retrouve dans plein de situations et pour lequel on n'a pas encore de très bonnes solutions.

elles n'ont pas de préjugés car elles n'ont aucune idée du sens de ce qu'elles disent, elles ne font que reproduire ce qu'on leur dit. Ce n'est donc pas un préjugé.

Je trouve cela intéressant que ton insistance à repousser l'utilisation d'un terme humain te mène à penser que les IA ne peuvent avoir de préjugés. C'est un peu comme si tu disais que l'accouchement n'existe pas chez les animaux puisque c'est un terme spécifique aux humains. Si cela t'empêche de comprendre que les animaux mettent bas, c'est un problème.

[ansset]

je n'insiste pas, car tout dépend du sens que l'on met au terme "préjugé"....dans lequel il y a l'abréviation de "jugement".
et je n'ai pas l'âme d'un coiffeur ( si tu saisis l'allusion )

[Archi3]

Je trouve cela intéressant que ton insistance à repousser l'utilisation d'un terme humain te mène à penser que les IA ne peuvent avoir de préjugés. C'est un peu comme si tu disais que l'accouchement n'existe pas chez les animaux puisque c'est un terme spécifique aux humains. Si cela t'empêche de comprendre que les animaux mettent bas, c'est un problème.

ah bon ? selon toi les humains ne sont pas des animaux ?
le fait que tu prennes cette comparaison prouve bien la confusion du débat, puisque tu donnes un exemple absolument inverse : l'emploi de termes différents pour deux faits très similaires, alors qu'on parlait de l'emploi du même terme pour des choses très différentes. On emploie justement "préjugés" dans un sens métaphorique , celui de "donner des résultats similaires à celui d'un humain qui aurait des préjugés". Je ne suis pas contre l'emploi de métaphores. Je ne râle pas si on parle d'accouchement pour un écrivain qui termine son bouquin, par exemple. Je mets en garde contre la croyance que le vocabulaire fixe la réalité.

[ansset]

@Archi3:
je donne la même connotation que toi au terme "préjugé".

Imagine que tu souhaites programmer une IA pour automatiser la surveillance des lieux publiques. La méthode évidente serait de donner un flux vidéo 'historique' annoté des interventions policières, pour que l'IA apprenne à détecter quels individus ont été ou non contrôlé par la police en fonction de leur comportement. Le résultat sera une IA qui peut automatiquement indiquer qui aurait été contrôlé si la police avait surveillé attentivement le flux vidéo, ce qu'elle n'a alors plus besoin de faire.

Et alors, c'est de l'ordre de l'automate sophistiqué.

D'une façon générale, les discours sur l'IA par des gens qui n'ont aucune référence, qui ne connaissent pas le sujet et qui se contentent de réflexion générale sur une "conscience" qu'ils sont incapables de définir ne me semblent absolument pas convaincants.

parce que toi, tu sais préciser ce que sera ( ou pas ) cette IA forte.?
et ce n'est pas très cordial de sous entendre que tes interlocuteurs sont des abrutis et totalement ignare sur le sujet.

[ansset]

le sujet portait initialement sur les moteurs de recherche, et on en vient à un débat sémantique sur l'IA, et même sur une IA "forte".
cette digression me semblait un peu futile, mais je rajoute néanmoins une remarque annexe.
si on exclut cette dernière ( IA "forte" à définir ), on peut évoquer ce que serait une IA puissante, en prolongement des développement actuels.
ceux ci n'induisent que des process optimisant ( pour faire large ) et donc sont totalement objectifs dans leur démarche.
En ce sens , il n'y aurait donc QUE des "préjugés" , selon la manière dont ils sont construits, et SI on prend l'interprétation du mot au sens "mécanique".
Ce qui pour moi, ne correspond pas à la définition usuelle.

[Archi3]

Imagine que tu souhaites programmer une IA pour automatiser la surveillance des lieux publiques. La méthode évidente serait de donner un flux vidéo 'historique' annoté des interventions policières, pour que l'IA apprenne à détecter quels individus ont été ou non contrôlé par la police en fonction de leur comportement. Le résultat sera une IA qui peut automatiquement indiquer qui aurait été contrôlé si la police avait surveillé attentivement le flux vidéo, ce qu'elle n'a alors plus besoin de faire.

Le problème est que les IA construites ainsi auront très probablemetn des préjugés, ce que l'on peut voir de la même façon qu'on peut tester le niveau de préjugé des entreprises (en envoyant des cv identiques sauf pour le nom de Wallid vs Walter/en retouchant les images pour changer l'appartenance à telle ou telle minorité).

Je n'ai d'ailleurs pas compris cet exemple, de quels préjugés parles tu dans ce cas là ? l'IA sera certainement incapable de répondre à un CV, donc quel test proposes tu exactement ?

[Deedee81]

Salut,

Imagine que tu souhaites programmer une IA pour automatiser la surveillance des lieux publiques. La méthode évidente serait de donner un flux vidéo 'historique' annoté des interventions policières, pour que l'IA apprenne à détecter quels individus ont été ou non contrôlé par la police en fonction de leur comportement. Le résultat sera une IA qui peut automatiquement indiquer qui aurait été contrôlé si la police avait surveillé attentivement le flux vidéo, ce qu'elle n'a alors plus besoin de faire.
Le problème est que les IA construites ainsi auront très probablemetn des préjugés, ce que l'on peut voir de la même façon qu'on peut tester le niveau de préjugé des entreprises (en envoyant des cv identiques sauf pour le nom de Wallid vs Walter/en retouchant les images pour changer l'appartenance à telle ou telle minorité). Contrairement aux fantasmes à la skynet, c'est un problème très réel qui se retrouve dans plein de situations et pour lequel on n'a pas encore de très bonnes solutions.

Coincidence ? A lire, dans La Recherche de janvier. Un article parle de l'utilisation d'une IA (aux USA) utilisée par les juges pour décider d'une libération conditionnelle (l'IA évalue les risques de récidive). L'auteur fait remarquer deux choses :
- le Juge reste.... seul juge. Mais problème. Si l'IA décide que le risque est élevé, que je juge décide de quand même libérer le gars et qu'à peine sorti il récidive, il s'expose à des critiques (et dans une telle situation, même s'il a fait le bon choix dix fois avant contre la machine, ça ne changera rien. Les critiques seront quand même là et violentes. Problème sociologique bien connu). Quel juge osera donc prendre le risque de contredire une machine "plus maline que lui" ? La liberté du juge est toute relative.
- On a constaté un fort biais de l'IA en défaveur de la communauté noire. Et pour cause, l'IA (utilisant le deep learning) a été "éduquée" sur base de milliers de jugements qui précédaient et.... qui avaient le même biais !!!!!

Comme Archi, je ne parlerais pas de préjugé de la machine. Elle fait juste ce qu'on lui dit de faire. Les préjugés sont ici ceux qui avaient pris les jugements qui précédaient. Et la machine ne fait que répéter transmettant le préjugé aux juges qui l'utilisent.

Qu'en conclure ? Préjugé de l'IA ou pas ? Franchement, on s'en fout royalement. Ce n'est qu'un mot et on n'est pas sur un forum littéraire. Ce qui compte ici : c'est la manière dont l'IA est conçue et les conséquences (le biais par rapport à son objectif premier, celui de donner une probabilité de récidive objective en fonction du dossier du criminel). Et cela montre qu'il faut être prudent dans la conception des IA, très prudent. Et bien réfléchir à tous les tenants et aboutissant. Il faut éviter l'angélisme stupide ("les machines n'ont pas de préjugé, ce sont des machines, donc aucun risque") et pour ça il est inutile de tomber dans l'anthropomorphisme ("les machines ont des préjugés"). Il faut aborder le problème d'un point de vue scientifique (conception et programmation, définition objective des buts, méthodes de sélection des exemples pour l'apprentissage, etc...) et regarder juste ce qui en résulte (biais entre les résultats et les objectifs, faux positifs, faux négatifs, ...). Les méthodes existent d'ailleurs (pour la conception des systèmes experts, "vieux" système , pour l'analyse médicale ou pour la conception de systèmes, machines, usines, etc.... présentant des risques pour la santé ou des dangers divers et variés).

[pm42]

Comme Archi, je ne parlerais pas de préjugé de la machine. Elle fait juste ce qu'on lui dit de faire.

Sauf que justement une IA ne fait pas "juste ce qu'on lui dit de faire". Elle apprend.

Les préjugés sont ici ceux qui avaient pris les jugements qui précédaient. Et la machine ne fait que répéter transmettant le préjugé aux juges qui l'utilisent.

C'est aussi le cas des humains. Ils n'inventent pas des préjugés mais ne font que répéter ceux qu'on leur a transmis.
Cela n'empèche pas qu'on dise qu'ils ont des préjugés justement.

et pour ça il est inutile de tomber dans l'anthropomorphisme ("les machines ont des préjugés").

Dans le cas présent, ce n'est pas de l'antropomorphisme : on a une architecture des machines qui est plus proche de celle du cerveau humain, on leur fait apprendre depuis des masses de données au lieu de demander à un humain de programmer le cas général...

Et on constate que dès lors, les machines font comme les humains : elles reproduisent les comportements de leur environnement. Ce qui est un énorme changement par rapport à un programme classique qui est massivement figé pour le meilleur parfois comme pour le pire quand c'est inadapté.

L'exemple du chatbot de Microsoft est intéressant : au départ, il n'est pas raciste, nazi... Les équipes de Microsoft ne lui ont pas transmis ça.
Mais il acquière ses préjugés quand il interagit avec une nouvelle communauté.

Là aussi, le parallèle avec les humains est intéressant et l'emploi des mêmes termes pour décrire les mêmes phénomènes est une pratique largement pratiquée en science.
L'argument d'Archi3 qui consiste à dire qu'un IA "n'a pas de conscience" ne s'applique pas pour cette raison (sans parler du fait que c'est un attrape-tout des discussions de l'IA).
Dire "qu'elle ne peut pas répondre à un CV" est tout simplement factuellement faux.

[ansset]

Sauf que justement une IA ne fait pas "juste ce qu'on lui dit de faire". Elle apprend.

dans le cas cité plus haut, (ou dans le cadre des CV ) , l'incidence du temps et de la qualité d'apprentissage n'a pas le même impact que dans le cas d'un jeu de sté.

C'est aussi le cas des humains. Ils n'inventent pas des préjugés mais ne font que répéter ceux qu'on leur a transmis.
Cela n'empèche pas qu'on dise qu'ils ont des préjugés justement.
.

Tu sous entendrais que les points de vue ( et décisions ) humain(e)s ne sont fait QUE de préjugés ?

[mh34]

Tu sous entendrais que les points de vue ( et décisions ) humain(e)s ne sont fait QUE de préjugés ?

Ce n'est pas ce que je comprends. Ce que je comprends, est qu'il ( Jiav non plus) ne voit pas la différence entre appliquer le terme de préjugé à une IA et l'appliquer à un humain.
Autrement dit, il ne met pas de connotation spécifiquement "humaine" dans ce terme.

[pm42]

dans le cas cité plus haut, (ou dans le cadre des CV ) , l'incidence du temps et de la qualité d'apprentissage n'a pas le même impact que dans le cas d'un jeu de sté.

Je ne vois pas ce que tu veux dire.

Tu sous entendrais que les points de vue ( et décisions ) humain(e)s ne sont fait QUE de préjugés ?

Non. Je parlais uniquement des préjugés qui sont massivement transmis, très rarement créés et parfois surmontés (par les humains).

Je dis juste que le mécanisme de propagation d'un préjugé est le même d'humain à humain que d'humain à IA et qu'une fois transmis, l'IA "applique" le préjugé comme un humain.
Donc dire "l'IA n'a pas de préjugé" serait comme dire "l'ordinateur ne calcule pas"...
Ou comme le dise les anglo-saxons, si ça marche comme un canard et que ça fait "coin" comme un canard, c'est un ?

[Deedee81]

Sauf que justement une IA ne fait pas "juste ce qu'on lui dit de faire". Elle apprend.

L'apprentissage (les exemples servant à...) est donné par des humains, dont, si, elle fait "juste ce qu'on lui dit de faire". Je ne dit pas que les résultats sont faciles à prédire (ce serait trop facile Et on n'aurait même pas besoin d'une IA sinon. Ce que je dit c'est que la conception et l'apprentissage de l'IA est réalisée par des humains. Ca ne tombe pas du ciel).

C'est aussi le cas des humains. Ils n'inventent pas des préjugés mais ne font que répéter ceux qu'on leur a transmis.
Cela n'empèche pas qu'on dise qu'ils ont des préjugés justement.

Mais les humains, on s'en fout (ici, pas dans tout les cas hein). C'est des IA dont on parle. Et s'il y a doute sur l'usage du mot "préjugé" dans le cas des IA, on évite de l'utiliser et puis c'est tout. Savoir si on peut l'employer ou pas, ce n'est pas de la science "Futura" (les thèmes autorisés), c'est de la linguistique. La plupart des messages de ce fil sont de la masturbation des mouches.
Idem concernant les autres termes que tu as employé. Une IA est-elle "raciste" ? Mais on s'en fout comme de l'an quarante de l'usage de ce mot. Ce qui compte c'est les conséquences et les raisons pour lesquelles on a eut ces conséquences.

[pm42]

Autrement dit, il ne met pas de connotation spécifiquement "humaine" dans ce terme.

En effet pour les raisons décrites. Ensuite, on peut avoir pour la 1000ème fois le débat sur la spécificité de la conscience humaine avec certains qui vont défendre le fait que cela restera accessible aux ordinateurs.
Dans le cas présent, je dis juste que l'affirmation initiale "les ordinateurs n'ont pas de préjugés" était rapide, non étayée et non partagée par les chercheurs dans le domaine (cf. les liens)

C'est comme "il est évident qu'une IA ne pourra pas répondre aux CV" alors qu'elles sont déjà utilisé pour cela actuellement.
Les fils sur l'IA gagneraient à s'appuyer plus sur la recherche et les réalisations concrètes que sur les opinions souvent peu informées des participants qui parfois n'en ont jamais vu une.

[pm42]

Ce que je dit c'est que la conception et l'apprentissage de l'IA est réalisée par des humains. Ca ne tombe pas du ciel).

La conception et l'apprentissage d'un humain est réalisée par des humains. Pas de différence non plus.

Et s'il y a doute sur l'usage du mot "préjugé" dans le cas des IA, on évite de l'utiliser et puis c'est tout

Pas d'accord. Comme déjà dit et comme illustrer par de nombreux liens, c'est la norme dans le domaine.

Sur Futura dans les autres domaines, on respecte les pratiques des scientifiques et experts.
Sauf en IA ou apparemment, on définit ce qui marche, ne marche pas, le vocabulaire qu'on peut utiliser entre nous sans jamais donner un lien ou une référence et en ignorant celles qui ont eu le malheur d'apparaitre

[Deedee81]

La conception et l'apprentissage d'un humain est réalisée par des humains. Pas de différence non plus.

Je le dit d'abord en noir : on parle des IA, pas des humains. merci d'arrêter le HS (qui ici s'apparente à noyer le poisson). Merci.

[Archi3]

Je ne vois pas ce que tu veux dire.


Non. Je parlais uniquement des préjugés qui sont massivement transmis, très rarement créés et parfois surmontés (par les humains).

que les préjugés soient transmis, c'est tout à fait compréhensible et normal : un système apprenant "objectivement" (sans a priori) à partir d'une base biaisée donnera forcément des résultats biaisés. Mais si je fais une étude sur la discrimination à partir des CV et que je conclus que tel CV sera "probablement" refusé à cause d'un nom maghrébin, qui a des préjugés ? moi, ou la base dont je suis parti ? je ne comprends pas autrement l'exemple de Jiav qui dit que le biais d'une caméra de reconnaissance sera introduit parce que l'attitude des humains est biaisée. Quand je dis que la machine n'a pas de préjugé, je veux dire qu'elle n'introduit de biais propre , elle ne fait que reproduire les biais qu'on lui donne. Ce n'est donc pas la machine qui est biaisée, mais sa source. Les chatbots n'ont pas "inventé" de messages racistes, ils ont simplement reproduit ceux qu'ils ont entendu. Et il est faux de dire que les humains font pareil, les humains créent des théories à partir de faits et des données psychologiques, non factuelles, ce que ne fait pas une machine. Par exemple tu peux avoir subi UNE expérience malheureuse (une agression par un noir par exemple) et généraliser, ce que ne fera pas une machine. La machine n'a pas de biais psychologique propre.

[Archi3]

Un article ou, pour une fois, on entend des points de vue raisonnables de la part d'experts- ce qui prouve que cette opinion ne vient pas d'une ignorance du domaine, c'est plutot l'inverse :

http://www.lemonde.fr/pixels/article...0_4408996.html

La singularité, ça m’énerve. » En avril, Jean Ponce, chercheur en vision artificielle à l’Ecole normale supérieure (ENS), critiquait les tenants de ce concept qui désigne le moment hypothétique où l’intelligence artificielle dépassera l’intelligence de l’homme. « Je ne vois personnellement aucun indice que la machine intelligente soit plus proche de nous aujourd’hui qu’avant », expliquait-il lors d’une conférence organisée par Google à Paris.
Dans l’imaginaire collectif, l’intelligence artificielle évoque inlassablement les images des films Terminator, dans lesquelles les machines intelligentes ont déclaré la guerre à l’homme. Or, dans la réalité, la grande majorité des chercheurs en IA affirme ne pas avoir la moindre idée de la façon dont pourrait être créée une machine aussi intelligente que l’homme, capable de dialoguer naturellement, de disposer de sens commun, d’humour, capable de comprendre son environnement… Et encore moins sous la forme d’un robot humanoïde.
L’idée d’une IA qui échappe au contrôle de son créateur provoque aussi des sourires en coin dans la communauté, qui peine à comprendre pourquoi certains craignent qu’un programme conçu pour jouer au jeu de go puisse soudainement vouloir s’attaquer à la race humaine.
« C’est incroyable de constater l’intérêt que cela suscite chez les gens, s’étonnait Eric Horvitz, directeur de Microsoft Research Labs, lors du festival SXSW. Les journalistes ont tendance à diffuser un point de vue extrême, alors que la réalité est beaucoup plus nuancée que cela. »

[pm42]

Il dit simplement qu'on est loin d'une IA forte, de Skynet et de Terminator.
Rien de nouveau ni de contradictoire avec ce qui a été dit ici.

[mh34]

L’idée d’une IA qui échappe au contrôle de son créateur provoque aussi des sourires en coin dans la communauté, qui peine à comprendre pourquoi certains craignent qu’un programme conçu pour jouer au jeu de go puisse soudainement vouloir s’attaquer à la race humaine.

Comment ça, "qui peine à comprendre"?

[pm42]

Comment ça, "qui peine à comprendre"?

Le ton est très émotionnel et irrité. Je pense qu'il veut dire qu'actuellement, on sait faire des IA très spécialisées. Cela suffit déjà pour poser des problèmes éthiques.
Mais à coté de cela, il y a un discours catastrophiste relayé par des noms prestigieux (Hawking notamment) qui dit que l'IA est une menace globale.

Il se positionne du coté de ceux qui pensent que ce n'est pas le cas et que cela reste un outil avec un périmètre précis et que les alarmistes pêchent par manque de compréhension de l'IA et de ses limites.
Est ce qu'il a raison sur le fond même si la forme est critiquable ? Je n'en ai aucune idée.

[Archi3]

Il dit simplement qu'on est loin d'une IA forte, de Skynet et de Terminator.
Rien de nouveau ni de contradictoire avec ce qui a été dit ici.

bien sur ce n'est pas contradictoire avec le post initial ... ???

Question secondaire (les conséquences) :

Quelle finalité d'objectifs peut-on donner à cette intelligence artificielle ? Des intelligences artificielles dispersées qui n'ont pas de logique commune, une superintelligence artificielle qui a un but propre à sa conception ou une superintelligence artificielle qui a un véritable but pour l'humanité ?

J'ouvre ce débat, car il me semble que nous avons déjà à faire à un réseau superintelligent (comme expliqué) dont les buts sont loin d'une amélioration de l'humanité à la vue des événements géopolitiques.

un réseau "superintelligent" dont "les buts" sont loin de l'amélioration de l'humanité ? quels "buts" il a alors ?


évidemment que dans le grand public, il y a une image "émotionnelle" comme tu dis de l'IA, qui est très loin de la réalité, et qui est entretenue par des discours délirants de certains chercheurs . Et je maintiens qu'elle est également entretenue par un certain type de vocabulaire employé qui laisse penser que l'intelligence de l'IA est au fond de la même nature que celle des humains - comme la comparaison trompeuse de Jiav entre "l'accouchement" et la "mise bas" le suggère, c'est à dire que ce serait une différence de vocabulaire pour des choses en fait très similaires, alors qu'en réalité c'est exactement l'inverse : une similitude de vocabulaire ("préjugés", "buts", etc ..) pour des choses en fait très différentes.

[N738139]

Re,

Je ne veux pas réouvrir la plaie et me faire houspiller. Le débat a pris une tournure assez intéressante sur les "préjugés".

Pour ma part, je ferais la différence entre "préjugés" et "biais cognitifs inconscient/(sans conscience)". Je dirais que les AI d'aujourd'hui ont des "biais cognitifs", au lieu de "préjugés" pouvant faire croire à une intentionnalité ou à un comportement acquis. Mais "être objectif" nécessite une réflexion sur soi-même et donc une certaine conscience. Ne me critiquez pas trop si j'ai tord, je veux bien accepter mes erreurs.

Ma question de départ portait sur une superintelligence dont j'ai oublié de qualifier de "faible". Ce n'était pas ma volonté de dire qu'on assiste à une "conscience". Le mot superintelligence est peut-être mal adhéquat.

J'ai juste l'impression qu'avec les réseaux sociaux et la capacité des (chat)bots puis de la centralisation des données par les opérateurs que l'AI s'étendait au delà des compartiments que sont nos ordinateurs, voire même à utiliser les capacités des êtres humains connectés à la réalisation de leurs objectifs. Des objectifs/buts qui sont propres aux résultats de la conception d'une AI non conçue pour réfléchir. Une sorte de logique internationale propre aux machines, si je puis me permettre. Désolé de recommencer le débat, je voulais juste préciser par rapport au dernier message.

Cordialement.

[Deedee81]

Salut,

Là je suis d'accord, il y a clairement des biais cognitifs aussi chez les IA et ceux-ci (les biais) sont suffisamment bien définis pour être appliqués (et constatés) aux IA.
Un cas bien connu pour les IA reconnaissant des images est l'existence du phénomène de paréidolie découvert par Google (ils ont même publié un article scientifique là-dessus).
https://fr.wikipedia.org/wiki/Par%C3%A9idolie
http://www.pourlascience.fr/ewb_page...lles-35644.php

[Archi3]

Néanmoins l'article de wikipedia sur les biais cognitifs signale que les erreurs de perceptions sensorielles comme les paréidolie sont plutot appelées des "illusions"
Il n'est pas évident pour moi que les biais cognitifs décrits par l'articles concernent l'IA. Encore une fois pour moi une IA qui importe "objectivement" des données biaisées ne peut pas être considérée comme biaisée en elle-meme, même si bien évidemment le résultat le sera.

[Deedee81]

Néanmoins l'article de wikipedia sur les biais cognitifs signale que les erreurs de perceptions sensorielles comme les paréidolie sont plutot appelées des "illusions"

Je ne savais pas. Je suppose qu'il n'y a pas consensus là-dessus.

Il n'est pas évident pour moi que les biais cognitifs décrits par l'articles concernent l'IA. Encore une fois pour moi une IA qui importe "objectivement" des données biaisées ne peut pas être considérée comme biaisée en elle-meme, même si bien évidemment le résultat le sera.

Ca dépend amha de ce qu'on entend par biais. Dans les exemples que j'avais donné plus haut, comme avec les IA utilisées en justice, le biais est la différence entre le comportement attendu et celui obtenu..... mais c'est évidemment le résultat qui est biaisé, par l'IA en tant que telle

[ansset]

Ce genre de remarque me fait un peu bondir :

Pas d'accord. Comme déjà dit et comme illustrer par de nombreux liens, c'est la norme dans le domaine.

Il s'agit ici du mot employé "préjugé".
sous prétexte qu'il est soit disant d'usage par les spécialistes , il ferait sens.!!!!
avec ce type d'argument , une montre connectée EST "intelligente" ( car elle est nommée ainsi )
le boson de Higgs EST la particule de Dieu...
et j'en passe...

[ansset]

Néanmoins l'article de wikipedia sur les biais cognitifs signale que les erreurs de perceptions sensorielles comme les paréidolie sont plutot appelées des "illusions"
Il n'est pas évident pour moi que les biais cognitifs décrits par l'articles concernent l'IA. Encore une fois pour moi une IA qui importe "objectivement" des données biaisées ne peut pas être considérée comme biaisée en elle-meme, même si bien évidemment le résultat le sera.

voilà un propos qui fait sens pour moi.
si j'ai saisi , par les arguments d'autorité, comme les spécialistes emploient ce terme "préjugé" (*) c'est donc valide.
par ailleurs, en l'état actuel, on ne peux que constater que l'IA ( encore le terme d'intelligence utilisé par les "spécialistes ) forte, n'est qu'une vue de l'esprit.
les IA actuelles ne manquent pas de biais comme il a été rappelé, et du en partie ( mais seulement en partie ) à la manière dont l'architecture est construite.

Les adjectifs ou connotations humaines reflètent d'avantage à mon sens du marketing ou de la fascination parfois démesurée de certains pour ce type de développement informatique.

(*) @pm42, j'ignorai que tu étais un spécialiste, au sens chercheur , dans ce domaine. Un éclairage me serait utile, car dans le cas contraire, tout argument vaut bien celui des autres.

[Deedee81]

SAlut,

avec ce type d'argument , une montre connectée EST "intelligente" ( car elle est nommée ainsi )

Tout d'accord avec ta remarque et il y a une coïncidence amusante. En venant ce matin j'ai entendu qu'ils allaient remplacer une bonne partie (80% ! (*)) des compteurs électriques pour les remplacer (chez nous, pas en France ) par des compteurs intelligents. Ca m'a fait rire (heureusement je venais de me garer) et j'ai pensé "v'là qu'on va m'installer un compteur malin"

(*) ce chiffre peut paraitre énorme mais on a eut ça récemment pour les compteurs d'eau (beaucoup étaient de vieux sourds avec une technologie plus proche de la noria que de la nasa). Ils les ont presque tous remplacés en profitant du changement des conduites (ils ont progressivement éliminés toutes les conduites en plomb qui restaient et il y en avait encore un paquet, y compris dans mon ancienne maison. Mais je vous rassure, mes amis ne m'appellent pas encore Saturnin, coin coin )