les réseaux de neurones formels.... et Les Misérables (de Victor Hugo) !

[Bounoume]

Un réseau de neurones formels configuré de façon adéquate (entre autres, récurrent?) est capable de trouver seul des régularités dans une image (matrice xy de nombres ou de n-uplets de nombres (couleur RGB) ) à condition de lui avoir préalablement fourni suffisamment d'exemples pertinents qui suivent les mêmes régulatités.....
Avec ou sans supervision........

Si jusqu'à présent je n'ai pas tout faux, je voudrais deviner plus tard... si... un jour.... vraisemblablement... et avec la configuration adéquate, un apprentissage préalable adéquat, et les ressources suffisantes....

ces réseaux pourraient ingurgiter la totalité de l’œuvre de feu Victor Hugo, et répondre intelligemment à des questions la concernant. Telle que: 'pourquoi Monsieur Madeleine haïssait-il Javert?', ou bien en faire une bon résumé à la manière des explicaitons de texte....

note les réponses bidon ou pré-programmées style 'pipotron' ou 'Liza' ne seront pas acceptées!

Avant de nous lancer dans le roman d'anticipation, je formule ici, une interrogation plus réaliste, comme condition nécessaire, et pas du tout suffisante..... à une rêv erie ultérieure:

j'aimerais savoir si (et comment) des réseaux savent calculer lorsque les échantillons sont des suites (ou matrices) de simples items non numérisables, items tirés d'un ensemble d'origine, non ordonné . [le démon qui les extrait et les place sur l'échiquier suit néanmoins une règle cachée constante!]

je m'avance 1 peu savamment là-dessus... : pour dire + simplement, ces items représentent chacun UNE boule numérotée tirée d'un sac (comme quand on explique les probabilités aux petits jeunots!) .

Par analogie, j'étends la question à des MOTS appartenant à un dictionnaire: les mots du roman de Victor Hugo, simplement fournis au système sous forme d'un identifiant du genre hash-code.... donc sans aucune mention de leur signification linguistique.

J'ai cru comprendre que Word2Vec utilisait une technologie distincte des réseaux de neurones: est-ce exact?
https://en.wikipedia.org/wiki/Word2vec
idem avec Skip-Thought Vectors
https://arxiv.org/abs/1506.06726
J'ai très peu de connaissances dans ce domaine: ce serait prématuré d'en discuter tout de suite... excluons-les si vous voulez bien....

cordialement
hp
-----

[extrazlove]

En oublie que quand l'IA prendra le contrôle des humains les meilleurs choses et de le progragramer que l'humanité suivent âge d'empire civilisations dépassent l'IA.
Si on suit autre chemin l'humanité vas être détruit par l'IA et pas évoluer plus fort qu une IA forte.

[Bounoume]

En oublie que quand l'IA prendra le contrôle des humains les meilleurs choses et de le progragramer que l'humanité suivent âge d'empire civilisations dépassent l'IA.
Si on suit autre chemin l'humanité vas être détruit par l'IA et pas évoluer plus fort qu une IA forte.

Eh bien, si ça c'est la seule réponse, on va pas aller bien loin.... quoiqu' avec un peu de shit ou d'acide ça pourrait prolonger la discussion dans le même registre..... hallucinant.....

[invite7070fa42]

Bonjour.

Par rapport à Victor Hugo:

Une intelligence qu'elle soit artificielle ou pas ne reste qu'une machine à interpréter. Dans ce sens on peut dire que l'erreur n'est pas seulement humaine, elle est neuronale.

La qualité de l'interprétation dépend de la qualité des sources recueillies... hors la vie de l'auteur comporte nécessairement des parts d'ombres.

Même si cette machine connaissait l'intégralité de l'oeuvre de Hugo, même si elle connaissait l'intégralité de sa biographie officielle, même si elle était experte en psychologie.. alors elle ne ferait que proposer des interprétations, sûrement judicieuses mais qui ne pourrait pas être confirmées.

Cette intelligence pourrait devenir une experte de l'écrivain, elle pourrait même l'imiter mais elle ne sera jamais Victor Hugo dans son humanité la plus profonde et mystérieuse, il manque des pièces du puzzle.

[A voir en vidéo sur Futura]

[Bounoume]

bien sûr..... mais je ne demande pas à la machine d'être Victor Hugo....
je cherche à savoir si 1 machine, correctement conçue et 'instruite' par acquisition de diverses sources.....
...... pourrait répondre de façon pertinente à des 'questions' sur un ouvrage de Victor Hugo, comme pourrait le faire un lecteur humain



Disons que j'attends une réponse qui ait un sens en rapport à la question, construite à l'issue d'une démarche intellectuelle acceptable, et qui serait grossièrement exacte, sans contresens ni absurdité ... A la manière du prof qui a posé la question à un élève en cous de littérature (niveau classe du 1er cycle, ça serait déjà un bon début...). Ce qui implique déjà de pour la machine nombreuses inférences, déductions, opérations logiques, vérifications.... qu'il est impossible de programmer à l'avance dans le cadre d'un système expert, et que les réseaux ne savent pas faire de façon discrète et explicite....

[invite5637435c]

je cherche à savoir si 1 machine, correctement conçue et 'instruite' par acquisition de diverses sources.....
...... pourrait répondre de façon pertinente à des 'questions' sur un ouvrage de Victor Hugo, comme pourrait le faire un lecteur humain

Et bien pourquoi ne pas le demander à un humain tout simplement?
Ca va vous apporter quoi de plus? Mon sentiment à vous lire est que vous "espérez" je ne sais quel révélation...
Ne seriez-vous pas davantage disposé à croire une machine de par sa faculté à vous émerveiller?
Si, si....
Lisez Hugo tout simplement et laisser votre esprit interpréter comme il le peut, la nature vous a doté d'un cerveau alors utilisez le et échangez avec des humains vous verrez ça a du bon.
Parfois...

[Bounoume]

Lire soi même est toujours instructif, c'est vrai.
Justement, je suis très méfiant envers ce que la 'machine' peut nous présenter comme beau, sûr et utile.... voire humain.....

Je ne suis pas non plus à la recherche d' une nouvelle intrigue de roman de science fiction.....

Il s'agit seulement de définir un test de Turing destiné à qualifier une forme d'IA non encore implémentée .
Une forme qui serait capable d'hériter des savoirs et des préoccupations de l'humanité, tels qu'ils ont été exprimés dans les écrits anciens et modernes....
IA peut-être moins non-humaine que ce qui existe....

[invite6c250b59]

Une forme qui serait capable d'hériter des savoirs et des préoccupations de l'humanité, tels qu'ils ont été exprimés dans les écrits anciens et modernes....

Si tu la voyais, est-ce que tu la reconnaitrais?

[Bounoume]

Si je la voyais, cette forme..... ce serait grave! C' est que j'aurais abusé du shit, de l'acide, du peyotl ou autres joyeusetés.....

Non, ni je ne 'verrais' la chose, ni même n'aurais la certitude que 'la chose' se comporte un peu comme héritière des savoirs et convictions des bipèdes qui se prétendent intelligents -et raisonnables - ........

Simplement je pose comme affirmation qu' un système qui n'hérite pas ses caractéristiques, ou/et son comportement d'un autre (ou dont ceux-ci n'ont pas été copiés peu ou prou sur le modèle de l'autre)....... peut très difficilement (avec une probabilité très faible) ....... avoir un comportement voisin de cet autre.

A contrario, celui qui a intégré les connaissances de l' autre aura nativement un lien fort avec le premier.....


De toutes façons j'exclus que l' émulation SOIT le système émulé. Ceci est impossible..... sauf à recréer un système identique en traitement de l'information, interagissant strictement avec les mêmes données depuis son origine..... condition manifestement irréalisable hors en Science Fiction.... et pour les transhumanistes qui veulent transférer leur esprit dans une machine.....

[invite6c250b59]

Simplement je pose comme affirmation qu' un système qui n'hérite pas ses caractéristiques, ou/et son comportement d'un autre (ou dont ceux-ci n'ont pas été copiés peu ou prou sur le modèle de l'autre)....... peut très difficilement (avec une probabilité très faible) ....... avoir un comportement voisin de cet autre.

https://fr.wikipedia.org/wiki/Lave-l...ingmachine.jpg

[Bounoume]

??????

[ThM55]

J'ai un peu suivi, de très loin, par l'intermédiaire de collègues, ce domaine appelé "IA" depuis 30 ou 40 ans et je suis perplexe. Quand j'étais étudiant, ils faisaient des "systèmes experts", de la programmation logique avec Prolog et des clauses de Horn, de la démonstration automatique de théorèmes. En tout cas c'est ce dont je me souviens: c'était bien marqué "intelligence artificielle" sur le panneau à l'entrée, et à l'intérieur c'est ce que les gens faisaient. Je trouvais cela en effet pertinent pour étudier ce que pensait Victor Hugo par exemple.

Et puis un jour, des années après, en retournant dans ce département, le panneau était toujours là mais les gens ne faisaient plus ça du tout. Et on m'explique en effet que tout cela,ce n'était pas de l'intelligence artificielle en réalité. Non, les gens faisaient alors des réseaux bayésiens, des chaînes de Markov cachées, des SVM.

En y retournant une troisième fois, tout était de nouveau changé, maintenant c'était des réseaux convolutionnels profonds, du deep learning. En fait de learning, il s'agissait essentiellement de classification statistique, mais bon, le panneau à l'entrée mentionnait toujours "intelligence artificielle".

Résultat, j'en suis toujours à me demander ce qu'on entend vraiment par "intelligence artificielle" si le sujet de la discipline change comme ça tous les 10 ans.

Pour l'anecdote, il est intéressant de se rappeler que Hugo était un personnage excentrique, fantasque et imaginatif. En exil à Jersey, il s'était mis au spiritisme et en tant que Grand Homme, il s'est rapidement mis en rapport avec l'esprit de William Shakespeare et autres Grand Hommes tels Jésus, Caïn et Dante. Ce William lui aurait même dicté une pièce de théâtre! A la lecture, tous les spécialistes reconnaissaient le style de Victor plutôt que celui de Shakespeare. Un réseau de neurones arriverait-il à la même conclusion?

[pm42]

Résultat, j'en suis toujours à me demander ce qu'on entend vraiment par "intelligence artificielle" si le sujet de la discipline change comme ça tous les 10 ans.

Tu confonds le sujet de la discipline avec les outils utilisés.
Bien sur, à l'intérieur de ce vaste domaine qu'est l'IA aux frontières pas clairement déterminées, la recherche "visible" se concentre sur les sous-domaines où les outils utilisés à un moment sont les plus efficaces.

Mais on fait des réseau de neurones depuis les années 50 et à l'époque où tout le monde faisait des SVM et autres Random Forest, la recherche dessus ne n'est pas arrêté. Elle était simplement minoritaire.
Jusqu'en 2012, on n'arrivait pas à faire de la classification d'images avec moins de 25% d'erreur au concours ImageNet.
Mais là arrive une équipe qui à réussit à utiliser différents progrès pour passer cette barrière et est la seule en dessous : elle fait du deep-learning.
Maintenant, on est à moins de 5% et cela permet de nombreuses applications réelles.

Cela explique que dans ce domaine, on ait basculé massivement. Dans d'autres on continue à utiliser des méthodes statistiques (SVM, RF...). Simplement la presse grand public n'en parle pas.

En fait de learning, il s'agissait essentiellement de classification statistique,

Non. Quand un réseau apprend à jouer au go ou à produire des textes, ce n'est pas du tout de la classification statistique.

J'ai un peu suivi, de très loin,

C'est peut-être le sujet ?

[invite6c250b59]

à l'époque où tout le monde faisait des SVM et autres Random Forest, la recherche [sur les réseaux de neurone] ne n'est pas arrêté. Elle était simplement minoritaire.

Tout-à-fait. Cela dit on peut défendre l'idée que la renaissance a commencé avec les SVM et RF, qui sont tellement pratiques et efficaces qu'ils ont permis une progression assez remarquable dans les performances. Par contre c'est passé relativement inaperçu jusqu'au moment ou on a organisé des concours publiques ou pleins de laboratoires pouvait participer et montrer leurs progrès. On avait alors d'un coté les SVM et les RF, simples mais inefficaces pour la classification d'images complexes (ou du moins inefficace en comparaison des modèles les plus complexes, qui toutefois gardaient la main sur la performance maximale). Comme tu mentionnes le niveau a subitement monté autour de [2012 ou on arrivait jusqu'à 75% de bonnes réponses au concours ImageNet (25% d'erreur, c'est 75% de réussite!)] en utilisant des réseaux de neurones. L'écart est tel qu'en quelques années il y a très peu de chercheurs qui ne sont pas mis au deep learning d'une manière ou d'une autre (même si certains préfèrent se décrire autrement, par exemple comme statisticiens).

Non. Quand un réseau apprend à jouer au go ou à produire des textes, ce n'est pas du tout de la classification statistique.

Tu as raison bien sur. Par contre il reste que "essayer de comprendre les RDN en tant qu'outils statistiques", c'est une des nombreuses voies fertiles pour mieux les comprendre. Je crois que ton point est qu'il y en a bien d'autres (biologique, physiologique, informatique théorique, traitement de signal, etc.), ce qui est tout-à-fait exact.

[invite9dc7b526]

j'ai un peu le même sentiment que thM55, à savoir ce que ce qu'on appelle Intelligence Artificielle est plus ou moins un ensemble disparate de méthodes dont certaines - mais pas toutes - sont en effet des méthodes statistiques "rebadgées". D'ailleurs j'ai assisté en juin à un colloque de statisticiens sur le thème de la "data science" et il y avait une session consacrée à l'IA, et à ce que pouvaient en dire les statistiques. Le consensus qui s'en est dégagé est que nombres d'algorithmes efficaces étaient dû à l'intuition des informaticiens, lesquels préféraient ensuite bricoler pour les améliorer mais se désintéressaient de la théorie sous-jacente. En gros, si j'ai bien compris, il n'y a pas - ou peu - de théorie qui explique par exemple le succès des "generative adversial networks".

[pm42]

j'ai un peu le même sentiment que thM55, à savoir ce que ce qu'on appelle Intelligence Artificielle est plus ou moins un ensemble disparate de méthodes dont certaines - mais pas toutes - sont en effet des méthodes statistiques "rebadgées".

Comme déjà dit, c'est plus compliqué que cela même si les maths en général et les statistiques/proba jouent un rôle important. Ce qui n'es
Et ce qu'on appelle Intelligence Artificielle est un vaste domaine dont le deep-learning en particulier et les différentes méthodes de machine-learning ne sont qu'un sous-ensemble.
C'est d'ailleurs la 1ère ligne de Wikipedia sur le sujet.

D'ailleurs j'ai assisté en juin à un colloque de statisticiens sur le thème de la "data science" et il y avait une session consacrée à l'IA, et à ce que pouvaient en dire les statistiques. Le consensus qui s'en est dégagé est que nombres d'algorithmes efficaces étaient dû à l'intuition des informaticiens, lesquels préféraient ensuite bricoler pour les améliorer mais se désintéressaient de la théorie sous-jacente. En gros, si j'ai bien compris, il n'y a pas - ou peu - de théorie qui explique par exemple le succès des "generative adversial networks".

Actuellement, le deep-learning fonctionne en partie comme ça mais il y a aussi de la recherche théorique. Ce n'est pas la 1ère fois que la pratique est en avance sur la théorie : on a fabriqué des ponts avant de faire de la résistance des matériaux et des machines à vapeur avant la thermodynamique.

[invite9dc7b526]

D'accord. Peut-être que c'est normal qu'il n'y ait pas de principe unificateur dans l'IA, vu qu'il n'y en a sans-doute pas non plus dans l'intelligence naturelle.

Mais je ne peux m'empêcher de rapprocher cette discipline de ce qu'on appelait "recherche opérationnelle" et qui a disparu quand on a pris conscience que c'était un amalgame de méthodologies relevant de la combinatoire, des statistiques et d'autres branches des maths appliquées.

[Ikhar84]

Salut,

La recherche opérationnelle n'a pas vraiment disparu, mais c'est vrai que c'était essentiellement des stats, des graphes et du calcul matriciel.

Par contre je trouve que c'est assez loin de l'IA. Sauf peut être dans la représentation (réseaux).

Je suis assez d'accord avec ThM55 que le terme IA est assez fourre tout et évolutif en fonction des "avancées".

Il n'en reste pas moins que l'IA est à la fois décevante (pas d'IA de SF en vue) et enthousiasmante (pas trouvé de mot adéquat: certaines réalisations sont bluffantes).

Les pistes les plus interressantes (à mon sens) sont celles à base de deep-learning, avec un énorme risque de biais: la "selection" des "données d'apprentissage" parfois volontaire (attaque data poisoning ou biais volontaire), un vrai problème à regler avant l'essor de cette techno dans "la vie de tous les jours" (je pense notamment à Tay de Microsoft).

[invite6486d7bd]

D'accord. Peut-être que c'est normal qu'il n'y ait pas de principe unificateur dans l'IA, vu qu'il n'y en a sans-doute pas non plus dans l'intelligence naturelle.

Tout à fait, car comme vous le faites remarquer il n'y a pas de réelle compréhension de "la production de l'intelligence" dans un système biologique.

Même si on réduit l'intelligence aux réseaux de neurone (sans prendre en compte le corps dans son ensemble et les autres modes de fonctionnement des neurones), je n'ai jamais entendu aucun spécialiste de l'IA énoncer le principe de son fonctionnement.

Il a fallu beaucoup de temps pour trouver les bonnes méthodes permettant de "calibrer" les réseaux.
Initialement, ce sont les mathématiciens qui se sont penchés sur le problème et qui ont tenté de comprendre le principe des bonnes formes connectiques, mais ça n'a rien donné de probant.
Ce sont ensuite les essais et tâtonnements qui ont finalement permis d'aboutir aux bonnes méthodes.

Quelqu'un saurait énoncer le principe du réseau de neurones biologique et la manière dont il est appliqué à sa version artificielle ? (Bien sûr on peut toujours esquiver la réponse en prétendant qu'il n'y aurait pas de principe...)

[Bounoume]

on peut déterminer les architectures de connexion (récemment: groupement en colonnes cf FS.....), les processus biologiques -et temporels- de transmission de signal; on connaît depuis un certain temps quelques rapports anatomie/fonction....
Ces connaissances peuvent inspirer des imitations (simulations) efficaces dans des domaines particuliers. Serait obtus celui qui veut ignorer le perceptron et les RNN......

pour 'le' principe..... en Evolution des espèces, peu de chances de 'le' trouver..... Si on découvre encore de nouvelles organisations permettant l'émergence de fonctions dites 'intelligentes' c'est déjà bien...

aparté: on parle de l'IA en analyse de l'information -et restitution d'autres informations abstraites en sortie-, mais on parle peu de ce qu'on connaît déjà un peu: le comportement moteur des animaux, toute la neuro-physiologie des mouvements [connaissances neuro-anatomiques et physiologiques déjà bien établies].

J'ai la conviction (à vérifier, bien sûr) que le joli travail de Boston Robotics (et aussi de chercheurs universitaires français) s'est beaucoup inspirée.... de la régulation et des rétro-actions connues du tonus et de la force musculaire chez les animaux -à 4 et 2 pattes- bouclant sur un modèle physique calculé par des ingénieurs bons, très bons, spécialistes du domaine...
Perso, je classe ça comme un des domaines de l'IA.....


après il y a encore la distinction
Intelligence contre Pensée.
c'est différent, même si la pensée sans intelligence..ça existe et .... c'est du discours et du bruit [mais ça, c'est hors Charte!]
Alors à la réflexion la question sur Hugo relèverait du domaine particulier de la Pensée (communicable par le langage des mots), domaine particulier de l'IA....