intelligence artificielle (présentation par l' epita...) aller + loin?

[Bounoume]

bonjour,
suite à la très bonne vidéo de vulgarisation:
https://www.futura-sciences.com/tech...e-epita-85704/
même si perso je n' ai que des connaissances superficielles ( ni ce vaste domaine, ni les maths ne sont mon métier.....)
je propose une discussion sur la dite "IA" et son interaction avec notre vie de relations dites 'intelligentes'.... y compris notre faculté d' analyser le réel, de communiquer entre nous des informations structurées sur le dit réel, de les intégrer à nos connaissances, et enfin de conduire/évaluer nos actions en interaction avec nos connaissances...... en particulier par le système 2 (lent) de Kaheneman.....

je commence par un tout petit reproche à l' auteur: sur la fin, il a montré et expliqué le processus d' apprentissage supervisé, mais il aurait quand même pu le nommer explicitement



peut-être la discussion, une fois amorcée pourrait-elle se continuer en discussion scientifique (ou être fractionnée en plusieurs thèmes?)
-----

[Liet Kynes]

Bonjour,

c'est un peu simpliste comme vulgarisation, la conclusion est intéressante ;

"L'important est de donner un cadre éthique et juridique à l'utilisation de l'intelligence artificielle. Il faut voir cette technologie comme une opportunité car elle peut surtout être utilisée pour améliorer le quotidien de nombreuses personnes, que ce soit dans un travail pénible ou dans une innovation médicale."

Une fois "l'important" bien traité et c'est fastoche quand on constate l'état d'harmonie et de bienveillance dans le quel baigne les être humains, cet outil nous rendra plein de services sympathiques..

[Deedee81]

Bonjour,

J'ai dû effectuer un nettoyage car :
- ça tournait au vinaigre, donc message qui a tout déclenché et réponses
- BrainMan, cette fois je ne laisse plus passer. Il faut tout le temps que tu fasses des affirmations sur des sujets que tu ne maîtrises quasiment pas. C'est comme ça dans de nombreuses discussions et ça entraine franchement trop de frictions et de réactions négatives. Que tu poses des questions je veux bien, mais des affirmations fautives, là non. Même suivie de nombreux émoticons qui rigolent ! Ici c'est Futura Science, pas "le bar du coin accoudé au comptoir à raconter tout ce qui passe par la tête". Et fait attention, j'ai l'impression que souvent tu CROIS bien connaitre ces sujets (IA ou mécanique quantique ici et... ailleurs). Je peux me tromper, je ne veux pas faire de procès d'intention, mais c'est vraiment l'impression que cela donne. Donc, vérifie tes affirmations, et quand tu lâches un truc comme "on ne sait même pas ce qu'une une IA " s'il te plaît : c'est à TOI de vérifier, et de mettre une référence (car là pour le coup c'est quand même osé comme affirmation pour une science/technique humaine, l'IA c'est pas une observation de la nature). Et dire " allez-y définissez-moi de manière effective " c'est franchement incorrect.

Merci de faire attention.

[Deedee81]

Et pour l'IA c'est très bien ici : https://fr.wikipedia.org/wiki/Intelligence_artificielle
Le début.
Inutile de chercher midi à quatorze heure quand même.

[A voir en vidéo sur Futura]

[pm42]

Le message supprimé parlait de Wikipedia qui dit que la CNIL considère l'IA comme un des plus gros mythes de notre temps.

La citation est amusante à plusieurs niveaux :

- la CNIL n'a pas spécialement d'expertise en IA
- Il s'agit de la préface de sa présidente qui là aussi n'est pas experte du domaine (HEC, ENA, OCDE, etc, beau parcours certes mais pas d'IA)

Mais surtout le texte exact :

L’intelligence artificielle est le grand mythe de notre temps. L’un annonce la destruction en masse de nos emplois, un autre l’émergence apocalyptique d’une conscience robotique hostile, un troisième la ruine d’une Europe écrasée par la concurrence.
D’autres encore nourrissent plutôt le rêve d’un monde sur mesure, d’un nouvel Âge d’or d’où toute tâche ingrate ou répétitive serait bannie et déléguée à des machines ; un Eden où des outils infaillibles auraient éradiqué la maladie et le crime, voire le conflit politique, en un mot aboli le mal.

Le texte parle donc de la perception grand public de l'IA et de la mythologie qui s'est définie autour, pas du tout de la définition du domaine.

Donc lire Wikipedia, c'est une chose, vérifier ce qui y est écrit, aller à la source, c'en est une autre.

Enfin, pour ce qui est de définir clairement un domaine, une discussion récente ici a montré que c'était en général tout sauf facile même pour les mathématiques (et notamment leur frontière avec l'informatique).
Alors pour un domaine très actif et mouvant comme l'IA, c'est effectivement assez compliqué mais ce n'est pas pour cela qu'on "ne sait pas".

On peut d'ailleurs noter qu'en général, le grand public (et les intervenants ici) utilisent IA à la place de "Machine Learning", une sous-discipline et même de "deep-learning", une sous-sous-discipline.

Le "deep-learning" est intéressant et à la mode dans les médias parce qu'il permet de faire efficacement ce qui était quasi-impossible il y a à peine 10 ans : reconnaitre et traiter des données non structurées (images, son, traduction...).
Mais dans le même temps, une grosse partie de la recherche et des usages en machine learning travaillent sur les données structurées (en gros des tables de base de données) avec des algorithmes qui eux sont parfaitement expliquables et très efficaces.

Il y a également une recherche non négligeable pour rendre explicables les réseaux de neurones mais pour si pour certains usages, ce serait indispensable pour d'autre, ce n'est pas la priorité, comme par exemple le routage initial des lettres sur la base de l'adresse manuscripte et non plus seulement du code postal (exemple réel)

Enfin, il ne faut pas oublier que pour certaines fonctions du deep-learning, les humains ne sont pas non plus capables d'expliquer. Par exemple, quand on compose de la musique, le "pourquoi" n'aura pas forcément une réponse pertinente.
Et d'autant moins que les IRM fonctionnelles ont montré que certaines décisions sont prises avant que la conscience ne construise leur justification à postériori. Et je ne parle des biais inconsciente.
Là aussi, le concept d'explicabilité devient un peu plus flou.
Deedee81 parlait de la justice. Si on demande à un juge pourquoi il a mis une peine plus forte à X plutôt qu'à Y, il va répondre avec de très bons arguments. Alors qu'il est possible que ce soit simplement parce qu'on s'approchait de l'heure du déjeuner pour X qui a donc payé pour la faim comme une étude l'a montré (elle est contestée ceci dit mais c'est juste pour dire que les explications que donnent les humains ne prennent jamais en compte leurs biais).
Un autre exemple est l'étude de radios pour détecter des cancers : un radiologue est capable d'expliquer mais une IA est capable sur certains sujets de faire mieux et surtout d'avoir elle une performance constante sur la journée (là aussi, le taux de réussite d'un humain varie dans la journée avec sa fatigue visuelle, physique et psychologique).

Il faut donc se méfier du concept d'explicabilité appliqué aux IA tel quel dans la mesure où lui même n'est pas si convaincant et relève en partie du besoin de confiance à accorder à la machine alors que dans le même temps, la confiance accordée à nos congénères est en partie basée sur une illusion.

Tout cela pour dire que ces sujets sont largement plus complexes et vastes que ce que l'impression qu'on peut s'en faire en lisant de la vulgarisation de vulgarisation et que ce qu'on lit en général ici aussi.

[Deedee81]

Je n'avais pas vu la réponse (au message supprimé) mais je le laisse car pm42 répond à la partie sur le CNIL et donne beaucoup d'explications utile

[Deedee81]

Tout cela pour dire que ces sujets sont largement plus complexes et vastes que ce que l'impression qu'on peut s'en faire en lisant de la vulgarisation de vulgarisation et que ce qu'on lit en général ici aussi.

Un complément sur les aspect éthiques évoqués plusieurs fois. Les règles éthiques (ou les lois tous court) existent et sont indépendantes de l'IA. Donc pas besoin d'une définition spécialement rigoureuse de la discipline pour appliquer les règles éthiques. Mais le sujet reste très complexe cas :
- les usages particuliers à l'informatique (tant dans son accès qu'aux volumes et sources de données) peuvent nécessiter de préciser l'usage (c'est d'ailleurs le cas des lois françaises)
- L'informatique en général, c'est pas simple !!!!!

Un exemple très simple : la protection de la vie prive.
A un moment donné je reçois une demande pour une publication de données concernant des primes. Avec nom, adresse, montant, etc...
Discussions avec les flamands pour les protocoles d'échange etc....
Et là je vais voir les juristes et je leur demande "est-ce qu'on a le droit ? Publier, noms, adresses, argent reçu" ???
Les juristes me répondent : l'Europe le demande, on le fait.
Bon, ça n'a pas trainé : décision du tribunal : STOP !

Nos juristes ne connaissent rien à l'informatique. Mais le problème ici n'est pas du tout lié à ça, évidemment. Par contre il est clair que l'aspect légal / éthique ici est indépendant de la complexité informatique qui est derrière. C'est le résultat (la publication) qui est jugée. L'IA peut ajouter une couche énorme de complexité (et bien des difficultés) mais le caractère légal/éthique reste le même.

Seule difficulté propre à la discipline, la notion de responsabilité (évoquée avec les voitures autonomes par exemple). Bien compliqué

[Bounoume]

Là aussi, le concept d'explicabilité devient un peu plus flou.
Deedee81 parlait de la justice. Si on demande à un juge pourquoi il a mis une peine plus forte à X plutôt qu'à Y, il va répondre avec de très bons arguments. Alors qu'il est possible que ce soit simplement parce qu'on s'approchait de l'heure du déjeuner pour X qui a donc payé pour la faim comme une étude l'a montré (elle est contestée ceci dit mais c'est juste pour dire que les explications que donnent les humains ne prennent jamais en compte leurs biais).
Un autre exemple est l'étude de radios pour détecter des cancers : un radiologue est capable d'expliquer mais une IA est capable sur certains sujets de faire mieux et surtout d'avoir elle une performance constante sur la journée (là aussi, le taux de réussite d'un humain varie dans la journée avec sa fatigue visuelle, physique et psychologique).

Il faut donc se méfier du concept d'explicabilité appliqué aux IA tel quel dans la mesure où lui même n'est pas si convaincant et relève en partie du besoin de confiance à accorder à la machine alors que dans le même temps, la confiance accordée à nos congénères est en partie basée sur une illusion.

Tout cela pour dire que ces sujets sont largement plus complexes et vastes que ce que l'impression qu'on peut s'en faire en lisant de la vulgarisation de vulgarisation et que ce qu'on lit en général ici aussi.

A propos de l' "explicabilité" des décisions humaines:
https://fr.wikipedia.org/wiki/Syst%C...la_pens%C3%A9e
nous prétendons que nos décisions SONT logiques ...... bôf.......
Néanmoins l' explication logique ..... que nous INVENTONS à posteriori est (presque) le seul élément qui nous permet de les discuter ou justifier auprès de nos semblables...


Si tu permets, pm42, je prétendais aussi que le logiciel d' IA devrait fabriquer (à posteriori, éventuellement*) une construction logique syntaxiquement compatible avec notre parler ordinaire, construction justifiant sa décision de clasiffication de l' échantillon présenté pour analyse.
Que ce soit un fil de la route à suivre, une radiographie, ou un ensemble d" enregistrements issus d' un SGBD.....



* et, perso, je rêve de systèmes capables de traiter des informations représentant du texte (chr ) en procédant directement avec des mots ordinaires.....des 'si... et... alors... donc.... simulant ce que nous prétendons faire quand nous réfléchissons et 'pensons' officiellement....

[Deedee81]

Salut,

nous prétendons que nos décisions SONT logiques ...... bôf.......

Attention, avec les IA, la justification attendue a plus un caractère légal que logique. Prenons un exemple, lorsqu'un juge remet un jugement (suite à une décision du jury) il doit (chez nous !!! Je ne sais pas en France) motiver ce qu'il donne comme verdict. C'est-à-dire justifier les raisons (selon les éléments du jugement et du jury, selon les articles de loi,...) pour lesquelles il aboutit à ce verdict. Cet aspect est purement légal et a abouti après de nombreuses controverses (mais pourquoi a't'il décidé ça, il a voulu faire un exemple, il a été trop laxiste, etc....). Ce n'est qu'après que la défense va éventuellement analyser ça (là, la logique peut intervenir) pour voir si c'est suffisant et éventuellement faire appel ou aller en cassation.

Le même problème se pose donc pour une IA. Il ne suffit pas qu'elle dise "pendez-le haut et court", elle doit dire pourquoi. Après l'humain prend la main et analyse ce résultat.

Des raisons différentes mais assez proches existent pour les IA médicales (ou dans les questions de responsabilité pour les voitures autonomes etc...).

Dans le cas de l'enseignement et de la pédagogie c'est plutôt pour compléter celle-ci, si la machine dit "la bonne réponse était la réponse D", et que l'élève dit "pourquoi ?" la machine doit pouvoir l'expliquer (et c'est un aspect bien compliqué avec le deep learning, mais une étude que j'ai vu dans PLS sur les contrôles par IA deep learning des réseaux électriques par EDF montre que beaucoup de progrès a été fait).

Ce problème pédagogique d'expliquer est général. Si j'analyse des protéines par IA et que celle-ci me dit "l'échantillon 23 est celui qui convient", j'aimerais bien savoir pourquoi. Comme dans l'anecdote que j'avais vue concernant l'analyse du comportement d'un système électronique mésoscopique (trop grand être calculé à la main, trop petit pour négliger la MQ). Les physiciens avaient fait une simulation numérique et donné le résultat, tout sourire. Et l'ingénieur : "bon, ok, la machine a compris, maintenant j'aimerais bien comprendre moi aussi". Et ce n'était même pas de l'IA. Mais c'est tout à fait caractéristique des besoins.

On vit une époque assez particulière (de ces années-ci). Car on vient de vivre la naissance et le boum du deep learning (me rappelle quand j'étais jeune, j'avais étudié les réseaux de neurones.... limités à trois couches !!!! Pour des raisons théoriques. La méthode de "propagation des erreurs" a été une vraie révolution). Et comme toujours quand il y a un "boum" :
- c'est nouveau et pleins d'aspects n'ont pas encore été abordé ni résolu
- on est pressé et on développe vite des applications..... en bien comme en mal
Mais le fait est que maintenant ça progresse beaucoup, y compris dans le bon sens, et beaucoup de choses se règlent actuellement. Mais du fait de sa nouveauté (y compris de ces progrès) on a un troisième point :
- c'est difficile à suivre (ça va vite, il y a beaucoup de références fraiches, pas toujours faciles d'accès car payantes)
et c'est ce dernier point qui est casse c... bonbon sur Futura

[pm42]

Le même problème se pose donc pour une IA. Il ne suffit pas qu'elle dise "pendez-le haut et court", elle doit dire pourquoi. Après l'humain prend la main et analyse ce résultat.

Ceci dit, on est très loin d'utiliser les IA de façon autonome pour ce genre de décision.

Beaucoup de ces discussions souffrent d'être très générales et finalement basées sur une image de l'IA plus proche de la SF sans jamais s'appuyer sur des cas concrets (pas forcément ton exemple).

Si on repart de ton exemple de protéines et qu'on utilise une IA en recherche pharmacologique, elle va dégrossir le travail et considérer plus de molécules que ce que les chercheurs auraient pu analyser avant de dire "il y a une bonne probabilité que ces 10 là soient pas mal".
C'est une forme d'intuition augmentée et personne actuellement ne va y aller aveuglément ne serait que parce qu'on connait bien les forces et faiblesses des IA.

[Deedee81]

Ceci dit, on est très loin d'utiliser les IA de façon autonome pour ce genre de décision.

Ah oui, clairement, j'ai dit que ça progressait beaucoup mais il y a encore énormément de boulot. J'aurais dû le dire.

Beaucoup de ces discussions souffrent d'être très générales et finalement basées sur une image de l'IA plus proche de la SF sans jamais s'appuyer sur des cas concrets (pas forcément ton exemple).

Ca c'est un soucis de Futura pas des IA

C'est une forme d'intuition augmentée et personne actuellement ne va y aller aveuglément ne serait que parce qu'on connait bien les forces et faiblesses des IA.

Je ne connais personnellement pas de scientifique utilisant des IA. Mais je suppose que tu as raison, ça me semble aller de soi (imagine-t-on un scientifique utiliser un spectromètre de masse pour mesurer le poids d'une pomme, il est censé connaitre les limites de sa machine et agir en conséquence). Les risques autour de ça c'est surtout pour les usages grand public (évidemment pas l'analyse de protéine), comme les voitures autonomes où beaucoup de questions légales se posent car justement on ne demande pas à un utilisateur lambda de connaitre les entrailles et les limites de l'IA qu'il a en main. Un exemple à la c... : le GPS est utilisé par presque tout le monde maintenant, mais combien connaissent-ils la précision ? Et combien savent-ils qu'en cas de guerre les USA coupent le GPS ???

[pm42]

Les risques autour de ça c'est surtout pour les usages grand public (évidemment pas l'analyse de protéine), comme les voitures autonomes où beaucoup de questions légales se posent car justement on ne demande pas à un utilisateur lambda de connaitre les entrailles et les limites de l'IA qu'il a en main.

Oui mais la réflexion à tous les niveaux existe et elle est assez riche. Elle ne transparait pas dans la presse grand public et peu dans la vulgarisation ceci dit.
Et ils sont parfois très différents de ce qu'on pense. Par exemple, si on construit des taxis autonomes, ils doivent disposer de capteurs pour surveiller leurs passagers : pas question de continuer la course s'il fait un arrêt cardiaque. Que faire s'il vomit dans la voiture ?
Et il faut que les voitures aient des redondances pour pallier à des défaillances là où c'était le conducteur qui assurait ces fonctions (comme ci-dessus).

Il y a un petit article sur le sujet : https://debugger.medium.com/an-autom...s-d5ccc6c4c43d

Et on pourrait continuer longtemps : que se passe t-il si on demande à des véhicules autonomes de rouler sous la neige dans un contexte où on ne voit plus de marquage au sol ?
Pour le moment, on ne sait pas faire et on passe la main au conducteur.

Mais que se passera t-il quand on aura généralisé assez pour que les humains ne conduisent presque plus ? On leur passera la main justement quand les conditions sont les plus difficiles alors qu'ils ne sont plus entrainés ?

L'IA est juste un outil comme un autre et le sujet, c'est son utilisation et son intégration dans nos activités. Et ce n'est pas nouveau : il y a eu les mêmes débats et les mêmes peurs dans les années 70 sur l'informatique puis dans les années 90 avec Internet (et on peut remonter plus loin avec le train, l'imprimerie et l'écriture).

[pm42]

En y repensant, les sujets comme "qui est responsable" ou "que doit faire une IA si elle a le choix entre jeter la voiture du pont tuant ses passagers ou foncer sur les enfants sur le trottoir" sont intéressants mais anecdotiques.
On parle de cas très, très rares et qui relèvent d'une réponse sociale quand le gros de la recherche et des problèmes sont plus terre à terre.

C'est un peu la même chose que dans le forum physique : on parle beaucoup de trous noirs, d'intrication pour fantasmer sur la téléportation et les communications supra-luminiques et très peu de 99% des sujets de recherche.

[Liet Kynes]

Perso ce qui m’intéresse en ce moment c'est de savoir comment cela marche pour le jeu d’échec avec Alphazéro et MuZero: les performances sont incroyables et il semble (mais je ne sais pas si j'ai compris) que les données de départ n'aient pas besoin d'être si nombreuses..

Quand je repense à KASPAROV et les analyses de la partie ou on étaient tous à dire qu'il avait laissé gagné l'ordi .. nostalgie

[Bounoume]

Attention, avec les IA, la justification attendue a plus un caractère légal que logique. Prenons un exemple, lorsqu'un juge remet un jugement (suite à une décision du jury) il doit (chez nous !!! Je ne sais pas en France) motiver ce qu'il donne comme verdict. C'est-à-dire justifier les raisons (selon les éléments du jugement et du jury, selon les articles de loi,...) pour lesquelles il aboutit à ce verdict. Cet aspect est purement légal et a abouti après de nombreuses controverses (mais pourquoi a't'il décidé ça, il a voulu faire un exemple, il a été trop laxiste, etc....). Ce n'est qu'après que la défense va éventuellement analyser ça (là, la logique peut intervenir) pour voir si c'est suffisant et éventuellement faire appel ou aller en cassation.

Le même problème se pose donc pour une IA. Il ne suffit pas qu'elle dise "pendez-le haut et court", elle doit dire pourquoi. Après l'humain prend la main et analyse ce résultat.

Il s' agit de construire le chemin des inférences logiques (sur les bases légales), déductions logiques qui va mener à une conclusion ou sentence.

Cela ressemble quand même à la démonstration automatique des théorèmes......
Wiki ne me semble pas très affirmatif quand à la faisabilité de la recherche automatique du chemin à parcourir pour arriver au résultat
On en est où actuellement dans ce domaine?

[pm42]

Il s' agit de construire le chemin des inférences logiques (sur les bases légales), déductions logiques qui va mener à une conclusion ou sentence.

C'est une vision "système expert" de l'IA. On a pas mal essayé jusque dans les années 90 et ça ne marche que très partiellement.
Au passage, ce n'est pas ce pourquoi on utilise les IA actuellement.

[GBo]

En pratique, les photographes et vidéastes bénéficient désormais d'un auto-focus qui se règle instantanément sur l'oeil de l'animal, ça c'est nouveau et c'est de l'AI:
Sony Animal Eye Autofocus
https://youtu.be/Z9NiLdQGoXA?t=53

[Bounoume]

C'est une vision "système expert" de l'IA. On a pas mal essayé jusque dans les années 90 et ça ne marche que très partiellement.
.

A ce que j' ai compris, les SE clasiques, c' est incapable d' apprendre tout seul.... (enfin, disons à partir d' exemples supervisés..... )
Me semble que ces SE sont tout aussi incapables de découvrir et décrire des régularités qu' ils constateraient (?)
Les Ann, Rnn et autres, au moins, eux, ils savent mémoriser dans leur réseau, puis appliquer les régularités contenues dans les exemples fournis, même si ils ne savent pas (ou presque pas?) les transcrire en règles explicites........ ?

Au passage, ce n'est pas ce pourquoi on utilise les IA actuellement.

Justement, l' aspect 'raisonnement structuré' me semble délaissée actuellement....

On arrive à émuler au mieux les performances des systèmes intuitifs (du type vision et traitement d' images). Systèmes possédés par tous les mammifères......

Par contre, l' autre aspect de l' intelligence, celle qui construit une représentation explicite des faits, les modélise par des systèmes de règles ..... exprimés dans un langage, ce n' est pas développé.
Pourtant, l' accumulation et la transmission des connaissances, la résolution de problèmes complexes, la base de tout progrès scientifique en dépendent....

[FinalSpark]

bonjour,
suite à la très bonne vidéo de vulgarisation:
https://www.futura-sciences.com/tech...e-epita-85704/
même si perso je n' ai que des connaissances superficielles ( ni ce vaste domaine, ni les maths ne sont mon métier.....)
je propose une discussion sur la dite "IA" et son interaction avec notre vie de relations dites 'intelligentes'.... y compris notre faculté d' analyser le réel, de communiquer entre nous des informations structurées sur le dit réel, de les intégrer à nos connaissances, et enfin de conduire/évaluer nos actions en interaction avec nos connaissances......

Cette IA là n'existe pas encore.... (donc ce fil est intrinséquement en danger )

Pire encore je ne vois pas de progrés substantiels, ces derniers 30 ans (!), vers une IA avec laquelle on pourrait avoir des relations "intelligentes". Je précise, à toute fin utile, que je connais un peu le domaine..

Justement, l' aspect 'raisonnement structuré' me semble délaissée actuellement....

On arrive à émuler au mieux les performances des systèmes intuitifs (du type vision et traitement d' images). Systèmes possédés par tous les mammifères......

Par contre, l' autre aspect de l' intelligence, celle qui construit une représentation explicite des faits, les modélise par des systèmes de règles ..... exprimés dans un langage, ce n' est pas développé.
Pourtant, l' accumulation et la transmission des connaissances, la résolution de problèmes complexes, la base de tout progrès scientifique en dépendent....

Mais comme il a déjà été mentionné, la "représentation explicite des faits" que tu évoque correspond bien aux systèmes experts, et en particulier aux réseaux Bayésiens, qui peuvent exceller dans l'aide à la décision mais certainement pas faire une IA.

Il y a même des logiciels pour construire soi même de tels réseaux, comme celui-ci qui est gratuit et que j'ai personnellement pas mal testé.

(Idéalement, ce serait bien que tous les participants à un fil IA, fassent des travaux pratiques pour mieux sentir le sujet (ce n'est pas une critique!))

[Bounoume]

bonjour FinalSpark,
perso, ce que j' avais appris sur le théorème de Bayes: la probabilité que le symptôme S soit dû à la maladie M est
P(M si S)= p(M) . p(S si M) / p(S)..... ça se limitait à ça.....
Difficile maintenant de faire des travaux pratiques..... même si j' ai un peu les bases de C++ , avec gcc/linux, +/- QT5 pour avoir une interface jolie....! je ne peux pas postuler à la licence academic: ça fait une éternité que je suis sorti de la Faculté....

Parcourant en diagonale la doc de Smile, j' ai cru comprendre que chaque objet node représentait une des (un type de) variables du modèle choisi, l' objet ayant pour propriétés les probabilités conditionnelles de ses valeurs possibles, sous l' hypothèse que la variable du type lié à this par un arc entrant..... se réalise avec une valeur donnée. Dans mon cas tout bête, 2 nœuds, M et S ? reliés par 1 arc , de M vers S par exemple????? EST-ce ça?
Au delà, difficile d' imaginer le service rendu....
Production des probabilités conditionnelles de réalisation d' une valeur d' une variable (ou d' un ensemble de valeurs d' un ensemble de variables.....) en fonction de probabilités connues affectant d' autres variables auxquelles les variables questionnées sont liées?

Par exemple la probabilité d' avoir la maladie 'cirrhose' si je picole 3 litres de beaujolais/j, si j' ai 40 ans et si j' ai le blanc des yeux devenu jaune...
Un tel système est explicable (matrices de probabilités interprétables).... il 'apprend' (avale les nouveaux nœuds, avec leurs tables de probabilités déjà construites). Est-ce bien ça?

Par contre, (cf les posts de Dedee81) il ne saura pas du tout sélectionner, et organiser les arguments dans les attendus d' un jugement du Tribunal...... et encore moins proposer une nouvelle théorie de la Physique actuelle.....
De même, dans son principe, l' analyse en composantes principales ne me donnera que des corrélations intéressantes, pas d' hypothèses sur les mécanismes impliqués dans le constat..... pas de synthèse avec d' éventuels mécanismes antérieurement décrits et +/- validés....

Reste insatisfaite ma recherche d' un système qui réalise (avec des moyens différents) ce que nous PRETENDONS penser et conclure, logiquement, raisonnablement, et avec le langage des mots.... même si les mots, le discours, ne sont que la justification, ou la vérification formelle, de traitements autres (les 2 systèmes selon Kaheneman...)
A moi le mythe cartésien !

[FinalSpark]

bonjour FinalSpark,
perso, ce que j' avais appris sur le théorème de Bayes: la probabilité que le symptôme S soit dû à la maladie M est
P(M si S)= p(M) . p(S si M) / p(S)..... ça se limitait à ça.....
Difficile maintenant de faire des travaux pratiques..... même si j' ai un peu les bases de C++ , avec gcc/linux, +/- QT5 pour avoir une interface jolie....! je ne peux pas postuler à la licence academic: ça fait une éternité que je suis sorti de la Faculté....

Parcourant en diagonale la doc de Smile, j' ai cru comprendre que chaque objet node représentait une des (un type de) variables du modèle choisi, l' objet ayant pour propriétés les probabilités conditionnelles de ses valeurs possibles, sous l' hypothèse que la variable du type lié à this par un arc entrant..... se réalise avec une valeur donnée. Dans mon cas tout bête, 2 nœuds, M et S ? reliés par 1 arc , de M vers S par exemple????? EST-ce ça?
Au delà, difficile d' imaginer le service rendu....
Production des probabilités conditionnelles de réalisation d' une valeur d' une variable (ou d' un ensemble de valeurs d' un ensemble de variables.....) en fonction de probabilités connues affectant d' autres variables auxquelles les variables questionnées sont liées?

Par exemple la probabilité d' avoir la maladie 'cirrhose' si je picole 3 litres de beaujolais/j, si j' ai 40 ans et si j' ai le blanc des yeux devenu jaune...
Un tel système est explicable (matrices de probabilités interprétables).... il 'apprend' (avale les nouveaux nœuds, avec leurs tables de probabilités déjà construites). Est-ce bien ça?

Tu as tout bon, sauf bien sûr qu’à ma connaissance il n’y aucun apprentissage. Note que tu peu aussi modéliser des graphes cycliques (avec beaucoup de limites cependant!), pour rendre compte de cercles vicieux type chomage par exemple.

Aussi, pardon de mon manque de clarté (mais respect total pour tes devoirs!), j’avais donné dans mon email un lien sur le logiciel gratuit Genie Bayes. Prends un cas concret que tu connais mieux et tu pourras le modéliser puis ensuite savoir automatiquement quels sont les paramètres importants de ton processus, ou voir les conséquences en prenant des hypothèses ou faire des diagnostiques.

Exemple pour les maladie hépathiques:

bonjour FinalSpark,
Par contre, (cf les posts de Dedee81) il ne saura pas du tout sélectionner, et organiser les arguments dans les attendus d' un jugement du Tribunal...... et encore moins proposer une nouvelle théorie de la Physique actuelle.....
De même, dans son principe, l' analyse en composantes principales ne me donnera que des corrélations intéressantes, pas d' hypothèses sur les mécanismes impliqués dans le constat..... pas de synthèse avec d' éventuels mécanismes antérieurement décrits et +/- validés....

Reste insatisfaite ma recherche d' un système qui réalise (avec des moyens différents) ce que nous PRETENDONS penser et conclure, logiquement, raisonnablement, et avec le langage des mots.... même si les mots, le discours, ne sont que la justification, ou la vérification formelle, de traitements autres (les 2 systèmes selon Kaheneman...)
A moi le mythe cartésien !

100% d’accord, les réseaux Bayésiens sont inutiles pour cela....mais à peu près tout est inutile pour cela dans l’IA!

Ma recherche personnelle dans la quête de cet objectif précis est également insafisfaite (pour l’instant!), et c’est le but de ma vie...

Concernant Kaheneman, je ne connaissais pas, mais il me semble (lecture rapide) que ses travaux sont peu utiles pour la conception d’un système qui passe le test de Turing (en gros équivalent à ce que Deeddee et toi (et moi) recherchent...)

[RiketRok]

Ma recherche personnelle dans la quête de cet objectif précis est également insafisfaite (pour l’instant!), et c’est le but de ma vie...

Concernant Kaheneman, je ne connaissais pas, mais il me semble (lecture rapide) que ses travaux sont peu utiles pour la conception d’un système qui passe le test de Turing (en gros équivalent à ce que Deeddee et toi (et moi) recherchent...)

Pourquoi une telle passion pour cette quête ? Et quels sont les obstacles qui te bloquent dans l'élaboration d'une telle IA ?

Le test de turing est pour moi soit un mauvais test, ou bien un test qui vise trop haut : il est possible de le résoudre sans aucune réflexion de la part de l'IA (on le voit avec GPT3), ou bien ça demande des compétences qui ne sont pas forcément nécessaires (émuler le discours humain) à l'élaboration d'une IA qui réfléchit et est utile à la société. Il est clairement nécessaire de penser à un nouveau test qui mesurerait l'intelligence d'une IA.

[pm42]

Pourquoi une telle passion pour cette quête ? Et quels sont les obstacles qui te bloquent dans l'élaboration d'une telle IA ?

Tu cites une phrase avec mon pseudo mais ce n'est pas moi qui ait prononcé cette phrase mais FinalSpark.

Le test de turing est pour moi soit un mauvais test, ou bien un test qui vise trop haut : il est possible de le résoudre sans aucune réflexion de la part de l'IA (on le voit avec GPT3)

Je veux bien la référence qui indique que GPT-3 soit proche de passer le test de Turing. De ce que j'ai lu, on en est loin.

ou bien ça demande des compétences qui ne sont pas forcément nécessaires (émuler le discours humain) à l'élaboration d'une IA qui réfléchit et est utile à la société.

Là aussi, il serait intéressant de définir ce qu'est une "IA qui réfléchit", une "IA qui est utile à la société" (notamment, c'est quoi une IA inutile ?).
Et ce que serait la réflexion sans un langage pour la communiquer.

Il est clairement nécessaire de penser à un nouveau test qui mesurerait l'intelligence d'une IA.

La couverture de Pour la Science n° 476 était "Les nouveaux tests de Turing". Ce n'est pas comme si les chercheurs sur le sujet étaient restés les bras croisés depuis 1950 et n'avait pas réfléchi aux limites du test de Turing.

[Deedee81]

Salut,

Le test de Turing n'est plus suffisant. A lire :
https://www.pourlascience.fr/sd/info...uring-9664.php

EDIT croisement, je répondais à RikeRotk, on a clairement les mêmes lectures et je viens de modifier le nom indiqué dans le quote

[RiketRok]

Tu cites une phrase avec mon pseudo mais ce n'est pas moi qui ait prononcé cette phrase mais FinalSpark.

Au temps pour moi, j'ai du faire une bêtise en supprimant une citation en trop.

Je veux bien la référence qui indique que GPT-3 soit proche de passer le test de Turing. De ce que j'ai lu, on en est loin.

On en est pas si loin, il me semble qu'il y a des années déjà un programme s'était fait passer pour un enfant de 13 ans et avait réussi à berner + de 50% de fois les correspondants qu'il était humain en utilisant des artifices . Il y a aussi un bot GPT3 qui avait sévi sur Reddit pendant une semaine avant d'être détecté parce qu'il répondait 1 minute après l'apparition des questions, et il y a un subreddit où des bots GPT3 discutent entre eux et leurs conversations sont plutôt élaborés et leur style d'écriture ressemble bien évidemment à celui de redditeurs.

Un problème fondamental du test de Turing est que Turing n'en a jamais élaboré les modalités. Entre tromper 5 quidam non-initiés pendant 3 minutes et 5 experts qui l'attaquent de tous les côtés, le fossé est abyssal.

Sachant que GPT3 est récent et que son fonctionnement est extrêmement primitif, il est pas farfelu de se dire qu'avec quelques surcouches et un entraînement adapté il pourrait devenir un sérieux compétiteur pour le test de Turing.

Là aussi, il serait intéressant de définir ce qu'est une "IA qui réfléchit", une "IA qui est utile à la société" (notamment, c'est quoi une IA inutile ?).
Et ce que serait la réflexion sans un langage pour la communiquer.

Une IA inutile est celle partagée dans le lien précédent : elle ne fait que passer le test de Turing et n'a aucune autre application. Je parlais d'une IA qui maîtrise le langage comme nous autres, seulement le test de Turing demande de maîtriser le langage ET de faire preuve de biais sociaux, nécessite des "données" aka expériences qui ne sont pas nécessaires pour l'élaboration d'une IA à intelligence au moins humaine. L'IA s'exprimerait comme un Vulcan et elle perdrait le test de Turing à tous les coups. Par contre, toutes ses réponses seraient parfaitement raisonnables et elle aurait pléthore d'adaptations commerciales i.e. (probablement) utiles.

La couverture de Pour la Science n° 476 était "Les nouveaux tests de Turing". Ce n'est pas comme si les chercheurs sur le sujet étaient restés les bras croisés depuis 1950 et n'avait pas réfléchi aux limites du test de Turing.

Salut,

Le test de Turing n'est plus suffisant. A lire :
https://www.pourlascience.fr/sd/info...uring-9664.php

EDIT croisement, je répondais à RikeRotk, on a clairement les mêmes lectures et je viens de modifier le nom indiqué dans le quote

Tout à fait, François Chollet est même parti sur un test sans composante verbale. Reste que Turing est sur toutes les lèvres et sert encore un peu trop de standard du à sa notoriété historique.

[Deedee81]

Une machine qui avait trompé pas mal aussi était celle qui engueulait les participants
Evidemment, là c'est facile, il ne répondait pas aux questions Mais beaucoup se sont fait avoir.

Et étudiant j'avais fait l'inverse : peu ou pas de réseaux à l'époque. Donc j'avais bricolé mon propre réseau entre des TRS80. Et en complicité avec un pote, on leur (les pigeons ) faisait croire qu'on avait une machine intelligente.
En fait, c'est moi qui répondait à l'autre bout Et j'avais avec moi des syllabus, des dictionnaires, des encyclopédies... car je savais qu'ils allaient essayé de me piéger.
Par contre mon pote avait dû inventer des explications fumeuses pour expliquer.... les fautes d'orthographes
Mais beaucoup aussi c'étaient fait avoir.

Désolé pour ce petit tchat d'anecdotes

Reste que Turing est sur toutes les lèvres et sert encore un peu trop de standard du à sa notoriété historique.

C'est on ne peut plus juste.

[Liet Kynes]

Et une machine qui aurait pour rôle de détecter les machines parmi les humains ? Avec des feed back humain pour l'amorcer et progressivement une injection des connaissances qu'elle acquiert par un rôle participateur d'"elle même" (en tache de fond le but est qu'elle ne parvienne plus à s’auto-détecter ).

[FinalSpark]

Pourquoi une telle passion pour cette quête ?

Je ne sais pas, et les état d'âme de ma petite personne me semblent anecdotiques par rapport à l'objectif.

Par contre, j'ai l'immense chance d'avoir eu accès très tôt à des moyens de calculs extraordinaires (en 1995, quand Chirac avait dit qu'il arrêtait les essais atomiques car le CEA avait investi dans un supercalculateur... bah en réalité c'était moi le principal utilisateur, avec des réseaux récurrents...), puis progressivement à des gens extraordinaires, puis des moyens financiers qui n'ont fait que croitre...

Et quels sont les obstacles qui te bloquent dans l'élaboration d'une telle IA ?

D'abord un constat: à ma connaissance, rien ne marche, personne n'a de piste sérieuse (si je me trompe, je suis tout ouie!). Et c'est déjà un obstacle de base, on ne sait par quel bout prendre le problème.

Ensuite, on n'arrive pas à simuler digitalement le cerveau car c'est calculatoirement (problème d'énergie en fait...) trop complexe (par exemple, rien que les canaux ioniques), on est même plus sûr si on ne devrait pas aussi simuler les cellules gliales...

On a pas de formalisme mathématique puissant pour décrire N entités qui interagissent non-linéairement.

Encore plus grave, je ne connais que la loi de Hebb (je schématise) pour expliquer l'apprentissage délocalisé... c'est totalement insuffisant.

Comment les connections savent si elles doivent se renforcer pour que l'ensemble des neurones apprennent une fonction? (par opposition avec les réseaux artificiels, les connections biologiques ne sont pas au courant de la fonction d'erreur! quoique certains mécanismes chimiques comme la dopamine sont des pistes intéressantes).

Comme j'ai dit avant, en matière de compréhension du cerveau, on est des nains, il suffit de constater la faiblesse des progrès en maladies neuro-dégénératives malgré 30 ans de recherche (je précise cependant que je n'ai aucune expertise sérieuse dans ce domaine particulier).

le test de turing est pour moi soit un mauvais test, ou bien un test qui vise trop haut : il est possible de le résoudre sans aucune réflexion de la part de l'IA (on le voit avec GPT3), ou bien ça demande des compétences qui ne sont pas forcément nécessaires (émuler le discours humain) à l'élaboration d'une IA qui réfléchit et est utile à la société. Il est clairement nécessaire de penser à un nouveau test qui mesurerait l'intelligence d'une IA.

Perso, pour le moment et vu comme l'horizon semble loin, au jour le jour, il me suffit ce test, avec tout ses défauts.

[Bounoume]

à propos de GPT3....
survol: https://siecledigital.fr/2020/07/21/...turel-dopenai/
l' essentiel: https://fr.yeeply.com/blog/gpt-3-rev...nnaire-de-lia/
et: https://www.quantmetry.com/blog/analyse-gt3/ +++++

non seulement Elon Musk veut coloniser Mars, mais il cherche à posséder l' IA humanoïde .....
Son engin= 175. 10^6 paramètres.... en mémoire vive! traduit, résume, recherche des réponses construites à des questions .... après avoir digéré Wikipedia et autres sources de connaissances...
ça suscite quelques inquiétudes, déjà.....
https://www.lebigdata.fr/eleuther-alternative-gpt-3

[RiketRok]

Désolé pour ce petit tchat d'anecdotes

L'anecdote est bonne, on pardonnera. Manquait plus que la réaction des participants en vidéo

Je ne sais pas, et les état d'âme de ma petite personne me semblent anecdotiques par rapport à l'objectif.

En effet, participer à l'entrée dans d'une nouvelle ère technologique ça semble pas mal comme ambition.

D'abord un constat: à ma connaissance, rien ne marche, personne n'a de piste sérieuse (si je me trompe, je suis tout ouie!). Et c'est déjà un obstacle de base, on ne sait par quel bout prendre le problème.

Je trouve ça encourageant que l'on ne sache pas par quel bout prendre le problème, m'est d'avis que c'est un signe que le problème est potentiellement petit, qu'il suffit de quelques algorithmes bien rôdées pour qu'une IA "apparaisse". Le problème est potentiellement d'ordre créatif et à la portée de tous, même avec de faibles moyens.

Si l'émulation du cerveau semble encore si loin, pourquoi ne pas s'atteler aux alternatives ? Peut-être aux modèles neurosymboliques qui essaient de coupler réseaux neuronaux avec une architecture symbolique ? Il me semble que certains chercheurs influents s'orientent sur cette piste à l'heure actuelle.

Je vois bien réussir un système purement symbolique avec simulation 3D, la complexité du monde étant finie, je ne vois pas pourquoi l'on ne pourrait pas créer un système rigide qui serait au moins capable de naviguer notre monde ? Il aurait du mal à pondre une interprétation de la physique quantique certes, mais devrait au moins pouvoir assister sur/automatiser bon nombre de tâches. L'avantage du symbolique c'est que l'on peut estimer que le hardware actuel est largement suffisant.