Répondre à la discussion
Affichage des résultats 1 à 16 sur 16

Deep learning pour comprendre une "Black Box"




  1. #1
    cherub77

    Deep learning pour comprendre une "Black Box"

    Bonjour,

    M'intéressant à l'intelligence artificielle depuis quelques temps une question m'est venue en pleine lecture du livre "La guerre des intelligences" de Laurent Alexandre ; Pourquoi ne pas essayer d'interpréter les poids/coefficients des réseaux de neurones (qui sont d'une nature abstraite pour un cerveau humain, après l'apprentissage ) à l'aide d'une IA (sûrement avec du deep learning) ?

    Bien Cordialement.

    -----


  2. Publicité
  3. #2
    Bounoume

    Re : Deep learning pour comprendre une "Black Box"

    tu veux quoi?
    savoir quelles sont les entrées (catégories, images, objets) susceptibles d'êtres identifiés distinctement
    -un peu comme si tu cherches à savoir ce que sait faire/reconnaitre/nommer un individu donné?....... ou quel alphabet et quelles lettres précisément peut reconnaître le système de reconnaissance des adresses des lettres de La Poste, par exemple ?

    ou bien décrire COMMENT les entrées vont aboutir aux sorties du réseau?
    Pourquoi faire simple quand on peut faire compliqué ? (les Shadoks)

  4. #3
    cherub77

    Re : Deep learning pour comprendre une "Black Box"

    Je serais plutôt orienté sur le "COMMENT" ; Quels sont les "critères" ou autres qui sont retenus dans le réseau de neurones ? Pourquoi tel poids est-il donné à tel neurone et pas à un autre, etc...


  5. #4
    Dattier

    Re : Deep learning pour comprendre une "Black Box"

    Bonjour,

    Citation Envoyé par cherub77 Voir le message
    Je serais plutôt orienté sur le "COMMENT" ; Quels sont les "critères" ou autres qui sont retenus dans le réseau de neurones ? Pourquoi tel poids est-il donné à tel neurone et pas à un autre, etc...
    Tu sais, quand on élabore une nouvelle percée technique ou scientifique il y a 3 phases :

    1/la phase magique, cela marche mais on ne comprend pas trop pourquoi.
    2/la phase cuisine, cela marche et l'on sait même améliorer la recette originale.
    3/la phase maîtrise, cela marche et l'on sait exactement pourquoi.

    A ce jour jamais on a jamais atteint la phase 3, la phase la plus avancée étant la 2/.

    Bonne journée.
    Raisonnement Exact : A est exacte si avec 10 exemples et pas de contre-exemples connus des concernés

  6. #5
    pm42

    Re : Deep learning pour comprendre une "Black Box"

    Et tu vas entraîner ton réseau comment ? En non supervisé sur un échantillon relativement petit et non homogène ?
    As tu déjà programmé un réseau pour voir comment ça marche, ce que ça sait faire et surtout ce que ça ne sait pas faire ?

    Tu devrais essayer. Parce que pour le moment, FS est plein de gens qui ont des avis et des idées sur une technologie sans l’avoir jamais touchée.

    Cela revient à vouloir construire une fusée intersidérale parce qu’on a lu «*Tintin sur la Lune*».

  7. A voir en vidéo sur Futura
  8. #6
    obi76

    Re : Deep learning pour comprendre une "Black Box"

    Bonjour,

    Citation Envoyé par Dattier Voir le message
    Tu sais, quand on élabore une nouvelle percée technique ou scientifique il y a 3 phases :

    1/la phase magique, cela marche mais on ne comprend pas trop pourquoi.
    2/la phase cuisine, cela marche et l'on sait même améliorer la recette originale.
    3/la phase maîtrise, cela marche et l'on sait exactement pourquoi.

    A ce jour jamais on a jamais atteint la phase 3, la phase la plus avancée étant la 2/.
    Lorsque vous aurez contribué à une nouvelle percée scientifique, vous vous apercevrez que non, ça n'est pas systématiquement comme ça (à vrai dire c'est même plutôt rare). Cessez de parlez de ce que vous ne connaissez pas, SVP.
    Des gens qui savent le faire, il y en a plein, des gens qui savent ce qu'ils font, nettement moins.

  9. #7
    cherub77

    Re : Deep learning pour comprendre une "Black Box"

    Citation Envoyé par pm42 Voir le message
    Et tu vas entraîner ton réseau comment ? En non supervisé sur un échantillon relativement petit et non homogène ?
    As tu déjà programmé un réseau pour voir comment ça marche, ce que ça sait faire et surtout ce que ça ne sait pas faire ?

    Tu devrais essayer. Parce que pour le moment, FS est plein de gens qui ont des avis et des idées sur une technologie sans l’avoir jamais touchée.

    Cela revient à vouloir construire une fusée intersidérale parce qu’on a lu «*Tintin sur la Lune*».
    Bonjour,
    J'apprends actuellement à en programmer, mais je n'ai pas encore toutes les connaissances nécessaires.
    Néanmoins si on étudiait des réseaux de neurones très simple et qu'on pouvait en tirer les entrées et les résultats. Cela ferait des jeux de données pour un éventuel réseau neuronal capable de comprendre la logique sous-jacente que désignait ma question initiale. Qu'en pensez vous ?
    "On va aller à la Lune, on ira aux planètes, on ira aux étoiles" - J. Verne

  10. Publicité
  11. #8
    Dattier

    Re : Deep learning pour comprendre une "Black Box"

    Citation Envoyé par obi76 Voir le message
    Cessez de parlez de ce que vous ne connaissez pas, SVP.
    Pourrais-tu me donner alors un seul exemple d'une percée scientifique ayant atteint la phase 3, "on sait exactement pourquoi, cela marche" ?
    Merci.
    Raisonnement Exact : A est exacte si avec 10 exemples et pas de contre-exemples connus des concernés

  12. #9
    pm42

    Re : Deep learning pour comprendre une "Black Box"

    Citation Envoyé par cherub77 Voir le message
    J'apprends actuellement à en programmer, mais je n'ai pas encore toutes les connaissances nécessaires.
    Néanmoins si on étudiait des réseaux de neurones très simple et qu'on pouvait en tirer les entrées et les résultats. Cela ferait des jeux de données pour un éventuel réseau neuronal capable de comprendre la logique sous-jacente que désignait ma question initiale. Qu'en pensez vous ?
    J’en pense que ça ne marche pas pour les raisons données plus haut. Les réseaux de neurones sont très efficaces pour certaines tâches mais absolument pas pour ce genre de choses. De plus, ils ont besoin d’énormément d’exemples pour apprendre.

  13. #10
    obi76

    Re : Deep learning pour comprendre une "Black Box"

    Citation Envoyé par Dattier Voir le message
    Pourrais-tu me donner alors un seul exemple d'une percée scientifique ayant atteint la phase 3, "on sait exactement pourquoi, cela marche" ?
    Merci.
    Pfff, vous prenez 99% des publis sur directscience.
    Des gens qui savent le faire, il y en a plein, des gens qui savent ce qu'ils font, nettement moins.

  14. #11
    cherub77

    Re : Deep learning pour comprendre une "Black Box"

    Justement en généralisant avec des petits réseaux de neurones ne pourrait on pas appliquer cette généralisation à ceux ayant une taille plus conséquente, en utilisant une méthode d'apprentissage par transfert ?
    "On va aller à la Lune, on ira aux planètes, on ira aux étoiles" - J. Verne

  15. #12
    pm42

    Re : Deep learning pour comprendre une "Black Box"

    Citation Envoyé par cherub77 Voir le message
    Justement en généralisant avec des petits réseaux de neurones ne pourrait on pas appliquer cette généralisation à ceux ayant une taille plus conséquente, en utilisant une méthode d'apprentissage par transfert ?
    J’ai du mal à voir le rapport avec ce dont on parlait avant. Quand à utiliser le transfert, j’ai du mal à voir ce qu’on arriverait à expliquer vu que les couches un peu profondes représentent vite des abstractions non compréhensibles par les humains.

  16. #13
    cherub77

    Re : Deep learning pour comprendre une "Black Box"

    Vu comme ça, ça à l'air plus touchy que prévu dans ma tête de débutant ... Mais pourquoi ne pourrait on pas traiter le cas de réseaux de neurones vraiment très petits (admettons 3 couches), puis essayer d'en tirer des conclusions et des généralités pour ensuite reporter ces dernières sur des réseaux de 4 couches, puis 5, puis ... ? On aurait donc un transfert à chaque fois de réseau de neurones avec n+1 couches. (NB : Mon idée est sûrement absurde ..., mais bon, qui ne tente rien n'a rien )
    "On va aller à la Lune, on ira aux planètes, on ira aux étoiles" - J. Verne

  17. #14
    Jiav

    Re : Deep learning pour comprendre une "Black Box"

    Citation Envoyé par cherub77 Voir le message
    Je serais plutôt orienté sur le "COMMENT" ; Quels sont les "critères" ou autres qui sont retenus dans le réseau de neurones ? Pourquoi tel poids est-il donné à tel neurone et pas à un autre, etc...
    https://distill.pub/2017/feature-visualization/
    https://research.googleblog.com/2015...to-neural.html
    Dernière modification par Jiav ; 23/04/2018 à 20h25.
    The opposite of a deep truth may well be another deep truth. Information is physical.

  18. #15
    cherub77

    Re : Deep learning pour comprendre une "Black Box"

    Bonsoir,
    Merci bien pour cette documentation, je vais aller regarder tout ça de plus près ...
    "On va aller à la Lune, on ira aux planètes, on ira aux étoiles" - J. Verne

  19. #16
    Jiav

    Re : Deep learning pour comprendre une "Black Box"

    The opposite of a deep truth may well be another deep truth. Information is physical.

Discussions similaires

  1. Conférence-Débat "La souffrance psychique : comprendre pour soigner"
    Par dealersdesciences dans le forum Débats scientifiques
    Réponses: 0
    Dernier message: 05/03/2013, 19h39
  2. Réponses: 0
    Dernier message: 15/08/2010, 13h05
  3. Réponses: 5
    Dernier message: 05/01/2008, 19h18