Bonjour, cliquez-ici pour vous inscrire et participer au forum.
  • Login:



+ Répondre à la discussion
Page 10 sur 10 PremièrePremière 10
Affichage des résultats 136 à 150 sur 150

AlphaGO Zéro

  1. JPL

    Date d'inscription
    septembre 2003
    Messages
    68 438

    Re : AlphaGO Zéro

    Sauf que s’agissant de la vie des personnes, si ce que recommande l’IA est en contradiction avec ce que recommandent un ou plusieurs spécialiste il y a une obligation d’éthique forte pour justifier, donc expliquer, son choix.

    -----

    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
     


    • Publicité



  2. HenriParisien1

    Date d'inscription
    mars 2016
    Messages
    174

    Re : AlphaGO Zéro

    Bien sûr. Tout comme si un spécialiste d'un domaine préconise un choix contraire au consensus de ses paires, il doit préparer une solide argumentation pour le défendre. Mais je crois que ce forum n'est pas le meilleur endroit pour discuter de l'acceptation sociale des avis des IA. Puisque c'est un peu de ça dont nous parlons depuis quelques échanges.

    --

    Mais je voulais juste revenir sur cette histoire de preuve d'IA. Ici, il y a une nouvelle "prouesse" des IA : http://www.lefigaro.fr/sciences/2017...eme-etoile.php

    En pratique, on se moque un peu (*) de la façon dont l'IA a trouvé qu'il y avait une nouvelle planète. Il nous suffit qu'elle nous ait dit :"Hé, regardez-la, j'ai trouvé une nouvelle planète". Et du coup, on regarde et on vérifie qu'il y a bien une nouvelle planète.

    Si une IA médicale dit "Hé, mais il y a une tumeur sur ce scanner", et bien on la passe à des spécialistes, et ils vont dire : "Ah ben oui, il y a une tumeur, ou non faux signal". L'avantage c'est qu'on a une détection automatique et systématique et qu'on limite ainsi la simple fatigue qui fait qu'un spécialiste - aussi consciencieux qu'ils soit - puisse louper un diagnostic. Après, avec le temps, si à chaque fois que l'IA dit "Hé, mais il y a une tumeur sur ce scanner", il y a bien une tumeur, et bien les spécialistes perdront leur job.

    --
    (*) sauf bien sûr si on est un spécialiste de l'IA.
    Dernière modification par HenriParisien1 ; 15/12/2017 à 17h36.
     

  3. JPL

    Date d'inscription
    septembre 2003
    Messages
    68 438

    Re : AlphaGO Zéro

    Citation Envoyé par HenriParisien1 Voir le message
    Bien sûr. Tout comme si un spécialiste d'un domaine préconise un choix contraire au consensus de ses paires
    Je ne demande jamais l’avis de ma paire... de mes pairs à la rigueur
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
     

  4. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 192

    Re : AlphaGO Zéro

    Citation Envoyé par JPL Voir le message
    mais pas ces monstres informatiques dont leurs créateurs ne savent même pas ce qui s’y passe.
    C'est justement un axe de recherche actif : soit d'utiliser des techniques différentes que le deeplearning, soit de trouver une façon de comprendre comment les réseaux de neurones arrivent à leur conclusion.
    Et c'est justement pour qu'on puisse s'en servir dans des cas où il faut être capable d'expliquer la conclusion.
    Il faudrait que je retrouve des références mais là, je manque un peu de temps.
     

  5. minushabens

    Date d'inscription
    juillet 2014
    Messages
    5 723

    Re : AlphaGO Zéro

    Citation Envoyé par JPL Voir le message
    Exactement la question qu’on se pose pour certains diagnostics ou prescriptions médicales par "intelligence" artificielle. Un médecin est toujours capable d’expliquer son choix, même imparfait, mais pas ces monstres informatiques dont leurs créateurs ne savent même pas ce qui s’y passe.
    effectivement si on arrive à appliquer la méthodologie de deep learning à la démonstration de conjectures mathématiques, une possibilité est que la machine réponde au bout d'un certain temps: j'ai montré que la conjecture de Riemann était correcte, je peux l'imprimer mais il me faudrait 10000 ramettes de papier, puis-je passer la commande?
     


    • Publicité



  6. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 192

    Re : AlphaGO Zéro

    Pas besoin de deeplearning. C’est déjà le cas avec certaines démonstrations assistées par ordinateur. C’est loin dans ma mémoire mais je crois que le théorème des 4 couleurs et la classification des groupes finis ne sont pas accessibles à un humain.
     

  7. JPL

    Date d'inscription
    septembre 2003
    Messages
    68 438

    Re : AlphaGO Zéro

    Dans le théorème des 4 couleurs on a demander à l’ordinateur d’éliminer tout un tas de solutions qu’il a trouvées fausses dans un temps raisonnable et quand le problème s’est restreint à un nombre abordable de configurations à étudier par un humain la démonstration a pu être faite par un raisonnement logique et non par la force brute de l’ordinateur. En gros c’est ce que j’ai retenu.
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
     

  8. ansset

    Date d'inscription
    novembre 2009
    Localisation
    Fresnes
    Âge
    57
    Messages
    24 055

    Re : AlphaGO Zéro

    bonsoir,
    Citation Envoyé par HenriParisien1 Voir le message
    Bien sûr. Tout comme si un spécialiste d'un domaine préconise un choix contraire au consensus de ses paires,....
    j'ai pris ce début de phrase de manière indirecte , pour illustrer la remarque suivante.
    dans ces derniers échanges, on évoque bien des capacités de diagnostics voire de décisions de spécialistes.
    ( évocation d jeux, de domaines spécifiques segmentés, ..)
    On parle peu de capacités "multi dimensionnelles" ou des champs différents d'expertises complémentaires sont nécessaires (*), et ou il ne suffirait certainement pas d'attribuer des coeffs arbitraires en fonction de l'angle de vue considéré.
    mais il se peut que je m'éloigne du sujet de ce fil que je n'ai fait que parcourir.

    (*) c'est en partie l'exemple de la médecine citée plus haut qui m'amène à cette considération plus générale.
    y'a quelque chose qui cloche là dedans, j'y retourne immédiatement !
     

  9. minushabens

    Date d'inscription
    juillet 2014
    Messages
    5 723

    Re : AlphaGO Zéro

    Citation Envoyé par JPL Voir le message
    Dans le théorème des 4 couleurs on a demander à l’ordinateur d’éliminer tout un tas de solutions qu’il a trouvées fausses dans un temps raisonnable et quand le problème s’est restreint à un nombre abordable de configurations à étudier par un humain la démonstration a pu être faite par un raisonnement logique et non par la force brute de l’ordinateur. En gros c’est ce que j’ai retenu.
    c'est un peu plus compliqué mais effectivement un humain aurait pu s'il en avait eu le temps (s'il avait vécu quelques milliers de vies) faire les calculs qui ont été faits par l'ordinateur. Ce n'est pas à mon point de vue de l'intelligence artificielle. D'ailleurs la méthode a été décrite dans un article que j'ai lu et compris à l'époque (d'accord, un article de plus de 100 pages).

    Je pensais à une démonstration formelle réellement impossible à comprendre par un humain. Une démonstration mathématique formelle est une suite de formules (une suite de chaînes de symboles, ou même une unique longue suite de symboles si l'on veut). L'enchaînement des formules suit certaines règles et on peut (facilement en principe) vérifier que les règles ne sont pas violées, mais ce n'est pas comme ça qu'un humain comprend une démonstration, il a besoin d'y mettre du "sens". J'ai peur qu'une démonstration produite par une IA ne produise pas de sens. Je crois que c'est plus ou moins ce que disait pm42.
    Dernière modification par minushabens ; 16/12/2017 à 09h47.
     

  10. Jiav

    Date d'inscription
    juillet 2004
    Messages
    8 351

    Re : AlphaGO Zéro

    Citation Envoyé par pm42 Voir le message
    En fait, on ne sait pas. Un chercheur en IA me disait récemment que le deeplearning fonctionne bien pour les domaines où le contenu sémantique est faible.
    C'est le cas de la reconnaissance d'image, des jeux, du traitement "global" des textes (résumé, détection d'émotions).

    Par contre, une démonstration mathématique contient et même crée un fort contenu sémantique.
    Pour les vérificateurs formels comme Coq, ce qui fait leur valeur est le coté 100% rigoureux. Est ce que le deeplearning apporte vraiment quelque chose ?
    On pourrait penser qu'il serait plus utile pour détecter des erreurs probables dans du code classique, écrit sans les contraintes de Coq.
    Un peu hs, mais un truc qui serait sympa serait un traducteur Coq-language usuel et inversement.
    The opposite of a deep truth may well be another deep truth. Information is physical.
     

  11. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 192

    Re : AlphaGO Zéro

    Citation Envoyé par Jiav Voir le message
    Un peu hs, mais un truc qui serait sympa serait un traducteur Coq-language usuel et inversement.
    Tu peux préciser ? Ma connaissance de Coq est très limitée.
     

  12. Jiav

    Date d'inscription
    juillet 2004
    Messages
    8 351

    Re : AlphaGO Zéro

    Je n'y connais pas grand chose non plus. Tout ce que je sais c'est qu'actuellement on a des démonstrateurs automatiques comme Coq, mais que coder une preuve 'humaine' en preuve pouvant être vérifié mécaniquement semble un travail très spécialisé et apparement rébarbatif*. Pourtant ce pourrait être très utile, ne serait-ce que pour vérifier la myriade de démonstrations qui n'ont été validées que par une demi-douzaine de personnes. A l'inverse, un assistant logiciel qui peut expliquer une démonstration mécanique en français de tous les jours, c'est pas loin d'être un bon prof de math.

    *Par exemple, à un moment donné j'ai cherché en vain une preuve Coq de la diagonale de Cantor**, qui est quand même très courte et très connue. Tout ce que j'ai trouvé c'est deux travaux étudiants de l'ENS: dans un l'étudiant disait qu'il n'avait pas fait cette démonstration mais que ce serait bien sur très facile à faire. Dans l'autre l'étudiant disait qu'il n'avait pas fait la démonstration parce que ce serait bien trop difficile.

    **il en existe (au moins) une version naïve, très proche de celle qui est généralement acceptée, qui est fausse à cause de la non-unicité de l'écriture décimale. C'est réparable en s'arrangeant pour que le nombre diagonal ne puisse pas être écrit de deux façons, mais je n'ai jamais compris comment cette modification était reliée aux axiomes, d'où l'idée de regarder comment c'était implémenté dans une démonstration mécanique.
    The opposite of a deep truth may well be another deep truth. Information is physical.
     

  13. Jiav

    Date d'inscription
    juillet 2004
    Messages
    8 351

    Re : AlphaGO Zéro

    Citation Envoyé par Jiav Voir le message
    **il en existe (au moins) une version naïve, très proche de celle qui est généralement acceptée, qui est fausse à cause de la non-unicité de l'écriture décimale. C'est réparable en s'arrangeant pour que le nombre diagonal ne puisse pas être écrit de deux façons, mais je n'ai jamais compris comment cette modification était reliée aux axiomes, d'où l'idée de regarder comment c'était implémenté dans une démonstration mécanique.
    Dans la même veine: la démonstration wikipedia passe partiellement à coté du problème. En effet elle stipule que le nombre diagonal 'x (...) ne peut pas être dans la suite ( r1, r2, r3, … ), car il n'est égal à aucun des nombres de la suite : il ne peut pas être égal à r1 car la première décimale de x est différente de celle de r1, de même pour r2 en considérant la deuxième décimale, etc.'.

    Voici deux nombres qui diffèrent sur leur cinquième décimale mais qui sont bien égaux.
    x=0.1111100000...
    y=0.1111099999...

    Bref ce n'est pour cela que x diffère de tous les r. Il diffère parce qu'au moins une décimale diffère ET que x n'admet pas deux écritures en décimal.

    définitivement hs...
    The opposite of a deep truth may well be another deep truth. Information is physical.
     

  14. pm42

    Date d'inscription
    juillet 2015
    Messages
    4 192

    Re : AlphaGO Zéro

    Ok. De mémoire (et ça ne vaut pas grand chose parce que ça remonte à loin et que je souffre de décalage horaire), on s'en sortait en construisant un nombre diagonal qui soit différent pour chaque décimale et qui ne contient ni 0 ni 9. Ce qui garantit l'unicité de son écriture et il n'est pas dans la liste par construction.

    Mais on diverge. Pour un outil d'aide Coq -> Humain et Humain -> Coq, tu penses que ce serait faisable en deeplearning ?
    Je me demande quelle serait la fiabilité.

    D'ailleurs, une question que je me pose est de savoir si on peut entrainer un réseau à être rigoureux à 100% dans des domaines qui le nécessitent.
     

  15. Jiav

    Date d'inscription
    juillet 2004
    Messages
    8 351

    Re : AlphaGO Zéro

    Citation Envoyé par pm42 Voir le message
    Pour un outil d'aide Coq -> Humain et Humain -> Coq, tu penses que ce serait faisable en deeplearning ?
    Avec les techniques de deep learning 'standard' actuelles, ça m'étonnerait. Il y a une actu fs sur une nouvelle d'Harry Potter faite par IA qui montre bien l'état de l'art en écriture automatique: les phrases sont bonnes, le style est intéressant, mais la nouvelle est sans queue ni tête. Autrement dit on pourrait très probablement avoir une IA qui crache du code valide, mais pour des démonstrations qui ne vont nulle part, i.e. la compréhension de la démonstration serait absente.

    Cela dit, cela dépend peut-être de ce que tu considères comme technique standard. Si on inclu une technique à la alphazero, on peut peut-être faire mieux. Un truc intéressant c'est que les assistants de démonstration pourrait servir d'évaluateur signalant les erreurs dans une game en self-play. ...mmm cela mérite réflexion
    The opposite of a deep truth may well be another deep truth. Information is physical.
     


    • Publicité







Sur le même thème :


    301 Moved Permanently

    301 Moved Permanently


    nginx/1.2.1



 

Discussions similaires

  1. alphago
    Par Jiav dans le forum Actualités
    Réponses: 26
    Dernier message: 01/11/2017, 06h15
  2. Actu - Jeu de go : AlphaGo remporte son premier duel contre le n° 1 Ke Jie
    Par RSSBot dans le forum Commentez les actus, dossiers et définitions
    Réponses: 0
    Dernier message: 24/05/2017, 13h20
  3. Actu - Jeu de go : une nouvelle version d'AlphaGo a battu le N°1 mondial
    Par RSSBot dans le forum Commentez les actus, dossiers et définitions
    Réponses: 0
    Dernier message: 06/01/2017, 09h30
  4. Actualité - Alphago, de Google : la victoire de l’intelligence artificielle au go
    Par V5bot dans le forum Commentez les actus, dossiers et définitions
    Réponses: 36
    Dernier message: 07/02/2016, 16h03