Bonjour, cliquez-ici pour vous inscrire et participer au forum.
  • Login:



+ Répondre à la discussion
Affichage des résultats 1 à 14 sur 14

IA, TFlops et neurones

  1. HenriParisien1

    Date d'inscription
    mars 2016
    Messages
    181

    IA, TFlops et neurones

    Bonjour,

    De ce que je comprends des performances actuelles des IA en matière de reconnaissance visuelles, elles sont à peu près capables de simuler ce que fait notre lobe optique avec 1 à 2 TFlops.
    Celui est composé de 130 millions de neurones. En considérant qu'un neurone a un temps de réaction de l'ordre de la dixième de secondes, on retrouve à peu près le niveau de "puissance de calcul".
    Alors, en extrapolant un peu, atteindre le niveau du cortex humain (80 milliards de cellules), c'est disposer d'une machine à 800 TFlops. On en est un peu loin, mais pas si loin : Google a annoncé un TPU (Enfin 4) avec une puissance combinée de 160 TFlops. (C'est à priori lui qui a été utilisé pour AlphaZéro).
    https://arstechnica.com/information-...compute-cloud/

    Si la loi de Moore fonctionne toujours, si les algos de deeplearning peuvent réellement couvrir l'ensemble des fonctions cognitives, c'est une histoire de 4 – 5 ans.

    --

    Vous avez lu des trucs sérieux (c’est-à-dire pas en provenance des transhumanistes) sur ce sujet ?

    -----

     


    • Publicité



  2. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 356

    Re : IA, TFlops et neurones

    Cela suppose que l’équivalence soit complète entre neurones artificiels et humains, qu’on sache faire des réseaux aussi gros qu’un cerveau humain et qu’on oublie le nombre de synapses.
    Cela fait beaucoup de «*si*».
     

  3. obi76

    Date d'inscription
    mai 2007
    Localisation
    Paris
    Âge
    33
    Messages
    15 411

    Re : IA, TFlops et neurones

    Sauf que la loi de Moore est "satisfaite", mais différemment qu'avant. On est confrontés actuellement à une augmentation du nombre de cœur qui n'est pas loin de Moore (quoi qu’inférieure), mais pas de leur vitesse (qui est au max depuis plusieurs années), et concernant la mémoire, ça ne suit pas non plus (je dirai même : ça régresse).
    Des gens qui savent le faire, il y en a plein, des gens qui savent ce qu'ils font, nettement moins.
     

  4. minushabens

    Date d'inscription
    juillet 2014
    Messages
    5 850

    Re : IA, TFlops et neurones

    Et puis on vise un cerveau artificiel plus performant qu'un cerveau humain: si pour qu'il soit capable de résoudre des problèmes difficiles d'ingénierie il faut l'éduquer pendant 10 ans ce n'est pas très intéressant.
     

  5. ansset

    Date d'inscription
    novembre 2009
    Localisation
    Fresnes
    Âge
    57
    Messages
    24 499

    Re : IA, TFlops et neurones

    On peut quand même noter le nb de bugs avérés qui existent tj. ( une recherche internet suffit )
    j'ai même lu assez récemment un article qui expliquait certains pb structurels.( donc à la base indépendants de la "puissance" de calcul ) je ne sais s'ils sont actuellement résolus, et il faut que je retrouve cet article technique.
    Dernière modification par ansset ; 09/02/2018 à 11h31.
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !
     


    • Publicité



  6. Archi3

    Date d'inscription
    novembre 2011
    Messages
    2 566

    Re : IA, TFlops et neurones

    Citation Envoyé par HenriParisien1 Voir le message
    Bonjour,

    De ce que je comprends des performances actuelles des IA en matière de reconnaissance visuelles, elles sont à peu près capables de simuler ce que fait notre lobe optique avec 1 à 2 TFlops.
    Celui est composé de 130 millions de neurones. En considérant qu'un neurone a un temps de réaction de l'ordre de la dixième de secondes, on retrouve à peu près le niveau de "puissance de calcul".
    je ne savais pas qu'un neurone était capable de faire 10 floating operations par seconde ... si pour toi capacité de calcul = nombre de flops, comment expliques tu que le cerveau soit totalement incapable d'inverser ne serait ce qu'une matrice 3x 3 de tete ?
    Le plus dur n'est pas de piger les raisonnements compliqués, mais d'accepter les simples.
     

  7. polo974

    Date d'inscription
    février 2007
    Messages
    8 439

    Re : IA, TFlops et neurones

    Citation Envoyé par Archi3 Voir le message
    je ne savais pas qu'un neurone était capable de faire 10 floating operations par seconde ... si pour toi capacité de calcul = nombre de flops, comment expliques tu que le cerveau soit totalement incapable d'inverser ne serait ce qu'une matrice 3x 3 de tete ?
    Tu prends le problème à l'envers, c'est la simulation d'un neurone qui est pitoyable...
    Le mieux est l'ennemi du bien, et c'est bien mieux comme ça...
     

  8. minushabens

    Date d'inscription
    juillet 2014
    Messages
    5 850

    Re : IA, TFlops et neurones

    Citation Envoyé par Archi3 Voir le message
    (...)comment expliques tu que le cerveau soit totalement incapable d'inverser ne serait ce qu'une matrice 3x 3 de tete ?
    on peut aguer qu'un ordinateur ne travaille pas "de tête": il écrit puis lit les calculs intermédiaires dans sa RAM, qui peut être vue comme un carnet de notes. Cela dit, j'admets que même avec une ramette de papier à sa disposition un humain ne peut pas inverser une matrice 20x20.
     

  9. Archi3

    Date d'inscription
    novembre 2011
    Messages
    2 566

    Re : IA, TFlops et neurones

    Citation Envoyé par minushabens Voir le message
    on peut aguer qu'un ordinateur ne travaille pas "de tête": il écrit puis lit les calculs intermédiaires dans sa RAM, qui peut être vue comme un carnet de notes. Cela dit, j'admets que même avec une ramette de papier à sa disposition un humain ne peut pas inverser une matrice 20x20.
    si tu veux mais alors pour la reconnaissance visuelle il ne travaille pas non plus "de tete" donc la comparaison avec le nombre de neurones ne veut pas dire grand chose ...
    Le plus dur n'est pas de piger les raisonnements compliqués, mais d'accepter les simples.
     

  10. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 356

    Re : IA, TFlops et neurones

    Citation Envoyé par Archi3 Voir le message
    si tu veux mais alors pour la reconnaissance visuelle il ne travaille pas non plus "de tete" donc la comparaison avec le nombre de neurones ne veut pas dire grand chose ...
    Elle ne veut d'autant plus pas dire grand chose qu'on obtient de très bons résultats en reconnaissance visuelle avec beaucoup moins de neurones virtuels qu'un humain.
    Mais bien sur, le réseau obtenu a moins de flexibilité que les humains.
     

  11. HenriParisien1

    Date d'inscription
    mars 2016
    Messages
    181

    Re : IA, TFlops et neurones

    Citation Envoyé par minushabens Voir le message
    Et puis on vise un cerveau artificiel plus performant qu'un cerveau humain: si pour qu'il soit capable de résoudre des problèmes difficiles d'ingénierie il faut l'éduquer pendant 10 ans ce n'est pas très intéressant.
    Ça c'est le rêve des transhumanistes.
    Mais, même un réseau neuronal qu'on mettrait 10 ans à entraîner pour devenir docteur ou ingénieur serait un progrès incroyable : Il faut actuellement 30 ans de formation pour former UN ingénieur.
    Une fois qu'on aurait entraîné un réseau neuronal, on aurait à notre disposition autant d'ingénieurs que l'on voudrait

    Citation Envoyé par Archi3 Voir le message
    je ne savais pas qu'un neurone était capable de faire 10 floating operations par seconde ... si pour toi capacité de calcul = nombre de flops, comment expliques tu que le cerveau soit totalement incapable d'inverser ne serait ce qu'une matrice 3x 3 de tete ?
    J'avais en tête l'analogie inverse " il faut 10 Flops pour simuler un neurone" mais en y réfléchissant, on peut retenir celle-ci qui est encore plus faible :"on peut simuler un réseau neuronal biologique de N neurones avec 10 fois N Flops".

    Citation Envoyé par pm42 Voir le message
    Elle ne veut d'autant plus pas dire grand chose qu'on obtient de très bons résultats en reconnaissance visuelle avec beaucoup moins de neurones virtuels qu'un humain.
    Mais bien sur, le réseau obtenu a moins de flexibilité que les humains.
    Voilà, il n'est pas tout à fait impossible qu'il y ait un "gros gaspillage" dans le cerveau concernant les connexions neuronales et le nombre de neurone. Comme le cerveau n'est pas construit à partir d'un plan fin qui définit précisément son architecture, chaque neurone pousse "au hasard" et se connecte "au hasard". Du coup, on mets beaucoup de neurones, et beaucoup de synapses.

    Cela permet d'assurer une forte redondance. Et c'est quand pratique pour un organisme vivant dont la principale "responsabilité" et d'assurer sa survie. Mais tout à fait inutile pour un système électronique que l'on peut remplacer.
     

  12. obi76

    Date d'inscription
    mai 2007
    Localisation
    Paris
    Âge
    33
    Messages
    15 411

    Re : IA, TFlops et neurones

    Citation Envoyé par HenriParisien1 Voir le message
    J'avais en tête l'analogie inverse " il faut 10 Flops pour simuler un neurone" mais en y réfléchissant, on peut retenir celle-ci qui est encore plus faible :"on peut simuler un réseau neuronal biologique de N neurones avec 10 fois N Flops".
    Oui, mais ne perdons pas de vue aussi la communication entre chaque processeur. C'est là que ça devient excessivement compliqué pour la simulation : un neurone peut être connecté à des milliers d'autres, en temps réel.
    Des gens qui savent le faire, il y en a plein, des gens qui savent ce qu'ils font, nettement moins.
     

  13. ansset

    Date d'inscription
    novembre 2009
    Localisation
    Fresnes
    Âge
    57
    Messages
    24 499

    Re : IA, TFlops et neurones

    dans cet esprit, on ne simule qu'une fonction du neurone biologique, car celui ci ( et ses camarades ) renvoient aussi entre autre à d'autres images mentales ainsi qu'à des considérations indirectes et même non visuelles.
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !
     

  14. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 356

    Re : IA, TFlops et neurones

    Citation Envoyé par HenriParisien1 Voir le message
    Il faut actuellement 30 ans de formation pour former UN ingénieur.
    Non, il faut un certain temps pour former un humain qui sait parler, éventuellement plusieurs langues, maitriser un corps, comprendre de nombreux concepts, en apprendre de nouveaux...

    Citation Envoyé par HenriParisien1 Voir le message
    Une fois qu'on aurait entraîné un réseau neuronal, on aurait à notre disposition autant d'ingénieurs que l'on voudrait
    C'est l'équivalent d'une IA forte dont on n'a aucune idée de sa faisabilité actuellement.

    Citation Envoyé par HenriParisien1 Voir le message
    Voilà, il n'est pas tout à fait impossible qu'il y ait un "gros gaspillage" dans le cerveau concernant les connexions neuronales et le nombre de neurone. Comme le cerveau n'est pas construit à partir d'un plan fin qui définit précisément son architecture, chaque neurone pousse "au hasard" et se connecte "au hasard".
    Parce que les réseaux de neurones artificiels sont conçus comment d'après toi ?
     


    • Publicité







Sur le même thème :





 

Discussions similaires

  1. Réponses: 16
    Dernier message: 20/06/2015, 10h57
  2. Réponses: 17
    Dernier message: 19/09/2014, 22h41
  3. [Divers] Les neurones
    Par Doctor Z dans le forum Biologie
    Réponses: 31
    Dernier message: 09/09/2009, 14h42
  4. Neurones
    Par Chezare dans le forum Santé et médecine générale
    Réponses: 4
    Dernier message: 16/11/2008, 09h20
  5. les neurones
    Par doralexploratrice dans le forum Biologie
    Réponses: 5
    Dernier message: 16/03/2007, 22h35