IA et détection/traitement des abstractions: accession aux concepts en cause

[Bounoume]

1) pas question de CTD.... hors sujet.....
2) derrière le titre pompeux, les faits:
-certains (réseaux de neurones....) systèmes 'intelligents' savent détecter des régularités, les discriminer et identifier, et même les ré-injecter dans un objet:
d'après cette vidéo par exemple:
https://www.youtube.com/watch?v=r4Et...iqdrC&index=21
(sur youtube: monsieur phi, IA 22)

Dans des cas analogues(détection/traitement d'une caractéristique d'un ensemble de données) c'est par 'tout ou rien',
sans explication ni classification du concept actif,
et à fortiori sans une justification par référence structurée [par la logique] à des concepts et à des résultats intermédiaires d'analyse des données.

Disons que l'IA' ne sait pas expliquer....

Quelle est la voie pour que :
ou le système sache 'nous expliquer' à posteriori ?? sans escroquerie comme le chatbot Eliza, qui se conrtentait de truismes.....
ou le système suive une procédure par étapes successives bien documentées (comme un raisonnement humain formalisé ) ?? *

* quoique, avent de 'pondre' un super-raisonnement académique, je doive concevoir discrètement et sub-consciemment [et +/- pas à pas] une ébauche intuitive qui guide le recours successif aux théorèmes et aux déductions qui devraient mener à la démonstration !!!
-----

[ansset]

Disons que l'IA' ne sait pas expliquer....

Ce n'est pas tout à fait ainsi que je résumerai cette très intéressante vidéo.
Concernant le premier sujet évoqué, il est très bien expliqué comment les "associations de concepts ( de mots) " fonctionnent dans le cas cité.

Par ailleurs, cette vidéo est à voir jusqu'au bout, ou il est assez bien expliqué le long chemin restant à parcourir pour une compréhension juste des phrases ( via la grammaire ) ainsi que celle , encore plus complexe d'un récit complet tel qu'un roman.

[invite73192618]

Quelle est la voie pour que :
ou le système sache 'nous expliquer' à posteriori ??

A vrai dire il y a déjà quelque chose qui fait de quoi qui ressemble à peu près cela: identifier en texte le contenu d'une image ("ex: un chien avec des immeubles") en montrant en rouge quelle partie de l'image est associée à quelle partie de la description. Ce sera peut-être la vidéo #26.

[pm42]

A vrai dire il y a déjà quelque chose qui fait de quoi qui ressemble à peu près cela: identifier en texte le contenu d'une image ("ex: un chien avec des immeubles") en montrant en rouge quelle partie de l'image est associée à quelle partie de la description. Ce sera peut-être la vidéo #26.

Oui ou être capable d'analyser une image en étant guidé par du texte : par ex, "décrit ce qui est au 1er plan" et l'IA montre les parties de l'image prise en compte (le 1er plan d'après elle) et celles qu'elle ignore.

Il existe aussi de la recherche pour augmenter le pouvoir explicatif : il y avait un article intéressant dans un Pour la Science de mémoire. En gros, on a une image de grenouille et l'IA la reconnait. Puis on cache des morceaux et on regarde quand on a la reconnaissance et quand on la perd. A la fin, on arrive assez bien à expliquer ce qui dans l'image à provoquer la reconnaissance d'une grenouille.

Par contre, "le système suive une procédure par étapes successives bien documentées (comme un raisonnement humain formalisé ) ?? *", cela existe déjà : cela s'appelle de la programmation classique. Ou si c'est des règles, un moteur d'inférence.

Enfin, il faut également noter que les humains ne savent pas forcément expliquer certaines de leur performances cognitives non plus. C'est le cas de l'intuition déjà citée bien sur, de pas mal de fonctions "bas niveau" comme la reconnaissance de sons, d'images. Mais même pour les connaissances professionnelles structurées, seule une minorité y arrive : cela a été notamment un des freins au développement des systèmes experts.

[A voir en vidéo sur Futura]

[Bounoume]

Par contre, "le système suive une procédure par étapes successives bien documentées (comme un raisonnement humain formalisé ) ?? *", cela existe déjà : cela s'appelle de la programmation classique. Ou si c'est des règles, un moteur d'inférence.

Seulement là ce me semble inintéressant:
il est quand même normal que le concepteur de l'algorithme ait su comprendre et expliquer sa démarche.... sinon le SE répondrait sûrement de grosses âneries....., il ne pourrait être adapté à de nouvelles configurations des données par ceux chargés de la maintenance: l'auto-documentation sur la signification des opérations vis à vis des contenus et objectifs est comprise dans le package!
Ce n'est pas la 'machine' qui choisit les étapes: c'est intégralement prévu d'avance, avec des conditions et règles explicites et intelligibles (en principe....); le contenu des bases données est intelligible par tout individu un peu compétent dans le domaine....

Je m'intéresse à 1 système pour lequel le chemin de la question à la réponse peut parcourir un nombre presque infini de configurations possibles (selon le doublet question/problème à résoudre --- état du 'monde' ou des 'faits' (ou des données) sur lesquels la machine a ordre de travailler pour rendre son résultat.
C'est 'autre chose' que la simple succession des instructions exécutées, et des calculs produits, qui constitue le 'sens' et l'explication du POURQUOI .

En outre dans ce cas, il serait intéressant que l'humain, au vu des explications explicites fournies par la machine, puisse lui demander des changements ('améliorations') de procédure.
Ce serait mieux que d'essayer de changer brutalement les paramètres (intuitivement, ou sur des hypothèses pas forcément solides) , paramètres qu'on suppose critiques..... afin d'améliorer le résultat final. Risqué, et l'apanage du seul expert en R&D....

Enfin, il faut également noter que les humains ne savent pas forcément expliquer certaines de leur performances cognitives non plus. C'est le cas de l'intuition déjà citée bien sur, de pas mal de fonctions "bas niveau" comme la reconnaissance de sons, d'images. Mais même pour les connaissances professionnelles structurées, seule une minorité y arrive : cela a été notamment un des freins au développement des systèmes experts.

c'est vrai, les bêtes à 2 pattes ont bien des défauts, et les systèmes experts en héritent....

[ansset]

Ce n'est pas la 'machine' qui choisit les étapes: c'est intégralement prévu d'avance, avec des conditions et règles explicites et intelligibles (en principe....); le contenu des bases données est intelligible par tout individu un peu compétent dans le domaine....

il me semble que tu répond à pm42 qui de son coté a "traduit" ce qu'il pensait que tu voulais dire.
c'est à lui de répondre, mais cela ressemble à de l'incompréhension.

Je m'intéresse à 1 système pour lequel le chemin de la question à la réponse peut parcourir un nombre presque infini de configurations possibles (selon le doublet question/problème à résoudre --- état du 'monde' ou des 'faits' (ou des données) sur lesquels la machine a ordre de travailler pour rendre son résultat.
C'est 'autre chose' que la simple succession des instructions exécutées, et des calculs produits, qui constitue le 'sens' et l'explication du POURQUOI .

Mais c'est déjà un peu cet "autre chose", ce n'est plus un modèle du type "système expert" justement. et le but justement de pouvoir réduire le nb de "dimension possibles".
A quoi servirai un "outil IA" qui examinerai une quasi-infinités de paramètres et/ou de corrélations.
Je ne te comprend pas.

[pm42]

il me semble que tu répond à pm42 qui de son coté a "traduit" ce qu'il pensait que tu voulais dire.

Non, j'ai essayé de donner des infos en complément de Jiav sur ce que fait l'IA, des pistes pour aller chercher plus de détails.

La réponse est malheureusement du nawak complet, un peu du même niveau qu'un participant récent qui nous as expliqué qu'il voulait utiliser l'intrication pour communiquer plus vite que la lumière. On a eu beau lui expliquer pourquoi ce n'était pas possible, il restait accroché à son rêve du niveau "yakafokon".
Par ex : "les bêtes à 2 pattes ont bien des défauts, et les systèmes experts en héritent". Ce n'est pas ce que j'ai dit et ce n'est pas le problème.


Là, c'est la même chose que le fil précédent sur le thème de "faisons une IA forte uniquement verbale" : de la SF, pas de forum FS.

[Bounoume]

Mais c'est déjà un peu cet "autre chose", ce n'est plus un modèle du type "système expert" justement. et le but justement de pouvoir réduire le nb de "dimension possibles".
A quoi servirai un "outil IA" qui examinerai une quasi-infinités de paramètres et/ou de corrélations.
Je ne te comprend pas.

l' ''autre chose" , je pense aux nombreuses configurations des réseaux de neurones formels.

Mais je ne dis pas du tout qu'à chaque mise en œuvre, ça examine une quasi-infinité de paramètres.
Le nombre de variables en entrée n'est pas très grand, par exemple si il s"agit d'une image.... même si il faut en examiner beaucoup pour "apprendre".....
Le nombre d'opérations internes est grand, mais quand même limité et fini.

Ce que je dis, c'est que le nombre de combinaisons possibles dans toutes les valeurs des résultats des calculs intermédiaires, en fonction de toutes les valeurs possibles des valeurs possibles en entrée, ça, ça fait des nombres monstrueux de combinaisons: pas possible de prévoir de prévoir/commenter/expliquer cette quasi-infinité de possibilités.

Tel quelle cette quasi-infinité est hermétique à toute compréhension humaine, alors que les cheminements possibles dans un Système expert, c'est cartographiable et accessible
pas à pas.....

A contrario, selon ta lecture de mon texte:
A quoi servirai un "outil IA" qui examinerai une quasi-infinités de paramètres et/ou de corrélations
..... oui, ça, ça cet outil ne servirait à rien!!! comme le Biglotron de Pierre Dac.....

Il existe aussi de la recherche pour augmenter le pouvoir explicatif : il y avait un article intéressant dans un Pour la Science de mémoire. En gros, on a une image de grenouille et l'IA la reconnait. Puis on cache des morceaux et on regarde quand on a la reconnaissance et quand on la perd. A la fin, on arrive assez bien à expliquer ce qui dans l'image à provoquer la reconnaissance d'une grenouille..

ça, c'est un embryon de ce que je souhaiterais.... mais seulement un petit début:
si de cette grenouille l'IA pouvait montrer séparément ou/et décrire ses attributs du sens commun (couleur, taille, forme des pattes, des taches, position générale, des membres, p't'être reconnaitre l'espèce, en indiquant avec quelle fiabilité...) comme le ferait le zoologiste,, dire pourquoi...... accepter même de la dessiner avec la bouche ouverte...... ou autre modification (+/- réaliste) , ou refuser en motivant le refus..... ça simulerait (ou constituerait, n'entrons pas dans ce débat explosif.....) un début d'IA forte....

[ansset]

La réponse est malheureusement du nawak complet.

je n'ai pas osé le dire, mais évoquer un système qui devrait "travailler" par défaut sur toutes les pistes possibles mériterait un autre qualificatif que celui qui est utilisé.
On attribue parfois à celui ci des connotations inutiles ( voire métaphysique ), mais dans ce cas, c'est le "Bourrin Artificiel" qu'imagine Bounoume.

[pm42]

ça simulerait (ou constituerait, n'entrons pas dans ce débat explosif.....) un début d'IA forte....

Absolument pas. Essaie de lire un peu des choses sérieuses sur le sujet parce que là au lieu de balancer tes théories persos parce que là, le nawak continue.

[Bounoume]

je n'ai pas osé le dire, mais évoquer un système qui devrait "travailler" par défaut sur toutes les pistes possibles mériterait un autre qualificatif que celui qui est utilisé.
On attribue parfois à celui ci des connotations inutiles ( voire métaphysique ), mais dans ce cas, c'est le "Bourrin Artificiel" qu'imagine Bounoume.

nos réponses viennent de se croiser, je viens d'y répondre.....

quand au "Bourrin artificiel", ce me semble ce qu'un chef de projet souhaiterait obtenir d'un assistant à qui il a confié une tâche intellectuelle délimitée mais un peu incertaine.....Il cherche à surveiller le travail de son sous-fifre.....

[Bounoume]

Absolument pas. Essaie de lire un peu des choses sérieuses sur le sujet parce que là au lieu de balancer tes théories persos parce que là, le nawak continue.

hi! tu n'as pas saisi l'ironie: elle est dans le débat 'réalite' contre 'simulation'

En disant seulement 'ça serait un début', ça te va mieux?

[pm42]

hi! tu n'as pas saisi l'ironie: elle est dans le débat 'réalite' contre 'simulation'
En disant seulement 'ça serait un début', ça te va mieux?

Ce n'est pas de l'ironie. Cela fait un bout de temps que tu nous expliques comment selon toi on pourrait faire une IA forte alors que tu ne comprends même pas vraiment le concept et que je ne t'ai jamais vu ne serait ce que citer quelque chose de sérieux en IA. A part une vidéo YouTube.

Tu continues tes théories perso tant que tu veux : la modération est très tolérante sur l'IA. Mais à la fin, tu auras réussi à inventer l'eau froide dans une casserole percée.

[ansset]

nos réponses viennent de se croiser, je viens d'y répondre.....

Certes, j'ai lu après coup, et je suis disons "perplexe", car il me semble que tu mets en avant ( et principalement ) la quantité de connaissance à introduire , sans regarder le plus important , à savoir comment apprendre à cette fichue machine ( terme non péjoratif ) comment en tirer des raisonnements, des concepts, apprendre par lui-même, etc.....
Comme si, sans l'expliciter, il suffisait de lui bourrer la mémoire , de laisser tourner tout ça, et hop, le miracle apparaît !
d'où mon expression un peu ironique.

Pour le reste, tu m'apprends ici être chef de projet dans ce domaine et je te salue bien bas.
Mais je suis désolé de ne pas être disponible en tant que "sous fifre".
Un peu ad hominem quand même !

[Bounoume]

Certes, j'ai lu après coup, et je suis disons "perplexe", car il me semble que tu mets en avant ( et principalement ) la quantité de connaissance à introduire , sans regarder le plus important , à savoir comment apprendre à cette fichue machine ( terme non péjoratif ) comment en tirer des raisonnements, des concepts, apprendre par lui-même, etc.....
Comme si, sans l'expliciter, il suffisait de lui bourrer la mémoire , de laisser tourner tout ça, et hop, le miracle apparaît !
d'où mon expression un peu ironique.

Ben non, ça fait un certain temps que je ne crois plus au Père Noël.......
Déjà extraire les contenus signifiants à partir de documents, et les mettre sous une forme fonctionnelle, je n'ai aucune méthode miracle.....

Après, je sais encore moins, alors que c'est l'essentiel et l'inconnu......

C'est bien le 'comment produire la mise en relation des connaissances' , comment l'organiser, comment construire quelque chose qui réponde à une demande explicite.....
C'est pour cela que je recherche l'état de l'art actuel!
Même si comme il me semble, il y aurait actuellement peu de choses, même si ce serait justement considéré comme très difficile ?....



je te citerai une maxime de Guillaume d'Orange, dit Guillaume Le Taciturne
il n' est pas nécessaire d'espérer pour entreprendre, ni de réussir pour persévérer.....
voili voilà......
A demain.....

[invite73192618]

je suis disons "perplexe"

Idem. Au départ je pensais que c'était du système expert pur et dur, mais je n'en suis plus certain. A partir de là je crains qu'on ne puisse comprendre, ni critiquer de façon pleinement informée, la proposition de Bounoume sans qu'il ne mette un peu de code sur l'os.

[LeMulet]

Quelle est la voie pour que : ou le système sache 'nous expliquer' à posteriori ?? sans escroquerie comme le chatbot Eliza, qui se conrtentait de truismes..... ou le système suive une procédure par étapes successives bien documentées (comme un raisonnement humain formalisé ) ?? * * quoique, avent de 'pondre' un super-raisonnement académique, je doive concevoir discrètement et sub-consciemment [et +/- pas à pas] une ébauche intuitive qui guide le recours successif aux théorèmes et aux déductions qui devraient mener à la démonstration !!!

Je pense qu'il y a deux grandes formes d'IA possibles, celles qui miment les réseaux de neurone, et celles qui cherchent à organiser les concepts préalablement connus de nous. La première forme, c'est une boite noire, très efficace, qui a tendance à s'auto organiser, ce qui rend d'ailleurs la question de l'identification des "aires" dédiées à des fonctions particulières et surtout nommables, très aléatoire... De celle-ci inutile de s'attendre à ce que nous soyons en mesure de comprendre "le raisonnement".. Celle ci est majoritairement employée par les espèces qui ne font pas usage du verbe. La deuxième forme se rapproche plus du système expert. Il s'agit là non pas de mimer le fonctionnement cérébral mais d'organiser un système de pensée à partir des concepts primaires connus. Il s'agit ici de produire un algorithme. La première forme est assez simple à obtenir, d'autant que nous avons des modèles sous les yeux. Mais la deuxième nécessite un travail préalable méticuleux qui consiste à lister l'ensemble des concepts et comprendre comment ils sont reliés entre eux... sans se tromper évidement. Il s'agit donc de comprendre le fonctionnement de la pensée, sur la base du modèle qu'on a ici sous les yeux, également. Mixer les deux formes permet bien sûr de produire plus qu'un simple détecteur de coïncidence. Et ce jour là on dira : "Oh mon bon ordinateur, raconte-moi une histoire !"

[pm42]

Je pense qu'il y a deux grandes formes d'IA possibles

Ce serait encore mieux en donnant des références en plus de penser.
Parce que justement, les réseaux de neurones sont très utilisés quand on fait "usage du verbe" au contraire, qu'on ne fait plus de systèmes experts et qu'il y a encore d'autres catégories qui ne rentrent pas dans celles que tu décris mais qui donne de l'explicabilité (voir par ex https://fr.wikipedia.org/wiki/Apprentissage_automatique)

Quand à l'opposition historique entre méthode symbolique et connexionniste que tu sembles évoquer, les articles actuels mettent en avant son dépassement par leur fusion et ce afin pour profiter de leurs forces respectives.

[ansset]

Lien très intéressant.....

[LeMulet]

Ce serait encore mieux en donnant des références en plus de penser. Parce que justement, les réseaux de neurones sont très utilisés quand on fait "usage du verbe" au contraire, qu'on ne fait plus de systèmes experts et qu'il y a encore d'autres catégories qui ne rentrent pas dans celles que tu décris mais qui donne de l'explicabilité (voir par ex https://fr.wikipedia.org/wiki/Apprentissage_automatique)

L’AA ne distingue actuellement pas cause et corrélation de par sa construction mathématique, et est incapable d’aller au-delà du cadre imposé par ses données, il n’a donc pas de capacité d’extrapolation. Un exemple : si on apprend à un algorithme de retourner le chiffre qu’on lui donne (application identité) en l’entraînant uniquement avec les nombres 1 à 5, il sera incapable de correctement répondre à 6. Il est donc incapable d’extrapoler. L’utilisation d’algorithmes d’apprentissage automatique demande donc d’avoir conscience du cadre de données que l’on a utilisé pour l’apprentissage lors de leur utilisation. Il est donc prétentieux d’attribuer des vertus trop grandes aux algorithmes d’apprentissage automatique

Simples machines à fournir des coïncidences donc.

Quand à l'opposition historique entre méthode symbolique et connexionniste que tu sembles évoquer, les articles actuels mettent en avant son dépassement par leur fusion et ce afin pour profiter de leurs forces respectives.

Je n'oppose pas, je classe, et j'ai bien indiqué qu'un mix des deux formes d'IA permet de sortir du simple cadre de la coïncidence.

[pm42]

Simples machines à fournir des coïncidences donc.

La pertinence et le niveau de l'argumentation de ta critique de tout un domaine par extraction d'une phrase de Wikipedia est remarquable

[LeMulet]

La pertinence et le niveau de l'argumentation de ta critique de tout un domaine par extraction d'une phrase de Wikipedia est remarquable

Tout d'abord il ne s'agit pas d'une critique mais d'une indication. Ensuite, je constate simplement que le niveau d'argumentation vous a simplement échappé. Ce que j'écris contient aussi de l'information dans la forme... Lorsque je choisi par exemple le mot "coïncidence", après réflexion, il s'agit aussi d'un exemple, dont le but est de montrer éventuellement et si je veux détailler la chose, la pertinence du raisonnement.. co, incidence, co, relation. Après analyse des deux termes, il apparait que l'incidence est plus proche du concept de résultat alors que la relation est plus proche du moyen. Coincidence est un terme plus général qui ne se soucie moins de la manière dont est effectué "le calcul". Je pense, et c'est d'ailleurs un avis que vous pouvez corroborer en prenant des exemples d''analyseurs syntaxiques et ou traducteurs automatiques que cette opération d'analyse peut être effectuée par une machine avec une certaine efficacité. D'où l’intérêt selon moi de de mixer les deux grandes formes d'IA et la possibilité de le dire dans un sous-forum dédié au débat dans la mesure où il est fait appel à un raisonnement pouvant être contredit. Dire : "Les deux grandes formes de l'IA" indique, puisque ça vous a également échappé, que mon propos est une présentation générale, une indication dans les grandes lignes. Il est donc erroné de critiquer l'absence de détail d'un raisonnement pour l'infirmer de manière logique lorsque celui-ci affirme clairement être d'ordre général.

[mh34]

Merci de bien vouloir enregistrer ce qui suit ; le prochain message qui se contente de critiquer sans apporter d'arguments sur le fond du sujet sera supprimé.