Répondre à la discussion
Affichage des résultats 1 à 16 sur 16

L'IA de DeepMind échoue à un examen de math niveau lycée




  1. #1
    yoda1234

    L'IA de DeepMind échoue à un examen de math niveau lycée

    Bonjour,

    Je ne m'y attendais pas, un matheux ou un informaticien peut-il éclairer ma lanterne ?

    l'IA n'a pas été prise au dépourvu car elle a pu s'entraîner sur l'algèbre avant de passer le test. Elle était préparée pour le contrôle mais elle n'a pas réussi à avoir la moyenne
    https://www.androidpit.fr/mystere-de...e-artificielle

    -----

    Là où l'ignorance est un bienfait, c'est de la folie d'être sage (Thomas Gray).

  2. Publicité
  3. #2
    Ignatius84

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    J'interviens en tant que cuistre. Perso je trouve ça plutôt flippant, plutôt dans le sens "mince, une machine agit comme un homme..." (raisonnement de Shadock si on veut). Puis, peut-être qu'elle a angoissé, la pauvre ?

  4. #3
    pm42

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par yoda1234 Voir le message
    Je ne m'y attendais pas, un matheux ou un informaticien peut-il éclairer ma lanterne ?
    Cela n'a rien d'étonnant : on fait des progrès en IA et on bute sur certaines choses ou on ne réussit pas la 1ère fois qu'on essaie.

    Le problème, c'est que la presse en fait 100 fois de trop et donne une image très fausse. D'abord, ce qu'on appelle IA est du deep-learning : on entraine un réseau de neurones sur des millions d'exemples et il apprend.
    Mais cela ne marche pas forcément sur tout et tout le temps. On a beaucoup progressé, on invente de nouvelles techniques mais cela reste un domaine en plein mouvement. Et il n'y a pas d'intelligence au sens habituel derrière : juste de l'apprentissage automatisé.

    Mais chaque fois que quelque chose est réussi et donne l'occasion d'un titre racoleur, la presse saute dessus et donne l'impression que Skynet est là.
    Et là, ils font l'excès inverse en ne donnant aucune info et sur un ton purement émotionnel. Pute à clic quoi.

    Si Deepmind réussit à progresser sur le sujet comme ils l'ont fait avec le go et les échecs, on en reparle dans 2 ans. Sinon, on aura appris quelque chose de plus sur les limites de nos mécanismes actuels de deep-learning.


  5. #4
    Deedee81

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Salut,

    Les techniques d'apprentissage profond sont fabuleuses mais on leur limite. On maîtrise mal la "manière dont elles raisonnent" et il est difficile d'avoir des infos sur la raison de leurs choix/décisions. Ce dernier point est même ennuyant dans certaines applications (judiciaires, médicales). Et la maîtrise des données d'apprentissage pose pas mal de difficultés. Souvenons-nous de chatbot, l'IA de microsoft sur tweeter apprenant avec les messages rencontrées et qui est vite devenue violente, raciste et antisémite !!!! Elle a dû être débranchée (un jour on dira peut-être euthanasiée ). Ou de ce programme d'analyse des résultats scolaires aux USA qui a lui aussi montré des biais racistes là aussi à cause des données utilisées.

    Ces résultats montrent qu'il est extrêmement difficile de programmer certaines choses comme le bon sens et on voit bien que ces machines ne raisonnement pas du tout comme nous (avec notre système 1 intuitif, le 2 rationnel et le 3 basé en grande partie sur les émotions et qui fait le choix des aires cérébrales à activer, le système 1 ou 2, il y a pas mal de bons articles qui sortent en neurologie là-dessus pour le moment). Ainsi Delahaye avait montré avec l'exemple des IA qui analysent des images qu'on pouvait parfois les tromper en changeant un seul pixel (!!!) : "c'est une banane" en montrant une autruche, alors que par ailleurs elles reconnaissent des images tellement brouillées que nous on ne voit qu'un nuage de parasites qui nous donne presque envie de filer chez l'ophtalmo.

    Les ressemblances avec l'intelligence humaine sont en réalité fort superficielle, le seul point commun étant sans doute le mot "raisonnement". Mais nous avons tendance à reconnaitre des schémas "humains" dans tout ce qu'on voit, on est programmé biologiquement pour ça (on doit être capable de reconnaitre un congénère avant de s'accoupler avec lui ), une forme de paréidolie (dont les IA sont atteintes aussi d'ailleurs, mais pas centrée sur les visages humains mais sur les images choisies pour la reconnaissance, par exemple voir des chats partout..... ho, oui, c'est vrai aussi de certains humains ça, mauvais exemple )

    Les prochains progrès viendront sans doute de la conception d'IA "structurées" avec des réseaux de neurones et divers autres systèmes comme les systèmes experts qui ont aussi leurs avantages et leurs inconvénients (presque diamétralement opposé à l'apprentissage profond. Les justifications dont je parlais plus haut, un SE est très facile à programmer pour qu'il les donne : "je déduis des données que le malade a une informatite aïgue car outre une frappe frénétique du clavier il passe un temps excessif devant l'écran" (c'est tout mi ça, au bureau on m'appelle la mitraillette ) ). Et divers sous-systèmes spécialisés très performant (un peu comme les co-processeurs).

    Ca viendra sûrement plus vite qu'on ne croit et je pressens des progrès vraiment fulgurant dans les années à venir (j'ai racheté une boule de cristal ce matin ).

    Citation Envoyé par pm42 Voir le message
    et donne l'impression que Skynet est là.
    Ben c'est le cas. Mais il ne faut pas trop regarder les films, il ne s'appelle pas comme ça. En fait il s'appelle..... Futura Science
    Dernière modification par Deedee81 ; 10/04/2019 à 07h08.
    Tout est relatif, et cela seul est absolu. (Auguste Comte)

  6. #5
    Zefram Cochrane

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    On the influence of gravitation on the propagation of light.

  7. A voir en vidéo sur Futura
  8. #6
    yoda1234

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Merci à pm42 et à Deedee81 pour leurs explications.

    Citation Envoyé par Deedee81
    Ainsi Delahaye avait montré avec l'exemple des IA qui analysent des images qu'on pouvait parfois les tromper en changeant un seul pixel (!!!) : "c'est une banane" en montrant une autruche, alors que par ailleurs elles reconnaissent des images tellement brouillées que nous on ne voit qu'un nuage de parasites qui nous donne presque envie de filer chez l'ophtalmo.
    Ou comme ça : https://siecledigital.fr/2018/01/04/...issance-image/ ou ça https://www.theregister.co.uk/2019/0...tesla_hacking/
    C'est quand même effrayant si on confie, par exemple, un diagnostic médical sur la base d'une image (ou de plusieurs) à une machine, non ?

    Citation Envoyé par pm42
    D'abord, ce qu'on appelle IA est du deep-learning : on entraine un réseau de neurones sur des millions d'exemples et il apprend
    Merci de confirmer ce que je supposais, car je n'étais pas sûr de ça.

    Citation Envoyé par pm42
    Le problème, c'est que la presse en fait 100 fois de trop et donne une image très fausse.
    Même FS, non ?
    Dernière modification par yoda1234 ; 10/04/2019 à 19h11.
    Là où l'ignorance est un bienfait, c'est de la folie d'être sage (Thomas Gray).

  9. #7
    pm42

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par yoda1234 Voir le message
    C'est quand même effrayant si on confie, par exemple, un diagnostic médical sur la base d'une image (ou de plusieurs) à une machine, non ?
    Justement, on ne fait pas ça. Ce qui marche bien, c'est des tâches où une erreur n'est pas critique. Par ex, si le réseau de neurones se trompe en reconnaissant un code postal, sachant qu'en plus, ils sont meilleurs là dessus que les humains aujourd'hui.
    Ou alors, pour les tâches critiques, on les met outil d'aide aux humains. On ne laisse pas les IA faire les diagnostics.


    Citation Envoyé par yoda1234 Voir le message
    même FS, non ?
    FS fait ce que tout le monde fait : du titre racoleur pour attirer du clic et de l'argent. On a un chouette forum gratuit en échange.

  10. Publicité
  11. #8
    yoda1234

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par pm42 Voir le message
    Justement, on ne fait pas ça. Ce qui marche bien, c'est des tâches où une erreur n'est pas critique. Par ex, si le réseau de neurones se trompe en reconnaissant un code postal, sachant qu'en plus, ils sont meilleurs là dessus que les humains aujourd'hui.
    Ou alors, pour les tâches critiques, on les met outil d'aide aux humains. On ne laisse pas les IA faire les diagnostics.
    Tu me rassure…



    Citation Envoyé par pm42 Voir le message
    FS fait ce que tout le monde fait : du titre racoleur pour attirer du clic et de l'argent. On a un chouette forum gratuit en échange.
    …avec des gens très sympas, je sais et j'en suis persuadé tout comme toi. Et même des modos trèèèèès patients
    Dernière modification par yoda1234 ; 10/04/2019 à 19h31.
    Là où l'ignorance est un bienfait, c'est de la folie d'être sage (Thomas Gray).

  12. #9
    JPL

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par yoda1234 Voir le message
    Et même des modos trèèèèès patients
    Nooon !
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  13. #10
    yves95210

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par JPL Voir le message
    Nooon !
    Si, si

  14. #11
    LeMulet

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par Deedee81 Voir le message
    Les prochains progrès viendront sans doute de la conception d'IA "structurées" avec des réseaux de neurones et divers autres systèmes comme les systèmes experts qui ont aussi leurs avantages et leurs inconvénients (presque diamétralement opposé à l'apprentissage profond.
    Je pense aussi que c'est effectivement comme ça que les IA pourraient devenir plus intelligentes (actuellement l'IA est performante mais uniquement dans une tâche spécialisée (on peut croire parfois que ce n'est pas le cas (spécialisé) mais c'est plutôt qu'on ne voit pas forcément bien qu'un problème qui parait complexe est en fait un seul et même problème))
    Donc en fait en continuant à mimer le fonctionnement du modèle vivant qui fonctionne.

    Le problème évidemment c'est d'arriver à coordonner les bons réseaux (chacun spécialisé, mais lesquels...), pour en faire un réseau global au fonctionnement cohérent.
    Bonjour, et Merci.

  15. #12
    Deedee81

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Salut,

    Citation Envoyé par yoda1234 Voir le message
    Tu me rassure…
    Je vais dérassurer

    Ces situations surprenantes où les IA se trompent semblent assez résilientes (quand une se trompe, toutes se trompent). Cela semble un soucis lié aux techniques d'apprentissage profond. Et des spécialistes planchent sur la question.

    Le problème pourrait se poser avec les systèmes de conduites autonomes avec reconnaissance automatique des panneaux routiers. Certains individus (des co...ards) envisagent de placer des autocollant sur certains panneaux tels que, pour nous : aucun changement apparent, pour les IA : un sens totalement différent. Je vous laisse imaginer une voiture arrivant à un stop et "pensant" : oh, une priorité absolue Et bien entendu, l'humain n'aurait pas le temps de reprendre le contrôle: BAAAAANNNNG

    Je rerassure : on s'en est heureusement rendu compte à temps. Et comme ces dispositifs sont encore en pleine phase de démarrage/développement, on planche sur la question. On ne peut pas laisser une telle faille ouverte.

    Mais faut bien avouer que c'est des drôles de surprise.

    Dans d'autres applications, on vient d'en parler, comme le médical (par exemple l'IA capable d'examiner des électrocardiogramme ou des IRM pour détecter les problèles cardiaques). L'humain reste à coté, l'IA n'est qu'un outil et le médecin reste le juge ultime. Heureusement. Le seul risque "humain" est de se laisser endormir par "une machine géniale qui fait mieux que moi".
    Dernière modification par Deedee81 ; 11/04/2019 à 07h06.
    Tout est relatif, et cela seul est absolu. (Auguste Comte)

  16. #13
    Bounoume

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par Deedee81 Voir le message
    Salut,
    Les prochains progrès viendront sans doute de la conception d'IA "structurées" avec des réseaux de neurones et divers autres systèmes comme les systèmes experts qui ont aussi leurs avantages et leurs inconvénients (presque diamétralement opposé à l'apprentissage profond. Les justifications dont je parlais plus haut, un SE est très facile à programmer pour qu'il les donne : "je déduis des données que le malade a une informatite aïgue car outre une frappe frénétique du clavier il passe un temps excessif devant l'écran" (c'est tout mi ça, au bureau on m'appelle la mitraillette ) ). Et divers sous-systèmes spécialisés très performant (un peu comme les co-processeurs).
    Je partageant cette façon de voir.
    par exemple, pour ce qui est de l'analyse d'un ECG, il y a 2 niveaux
    niveau 1: la reconnaissance par leur forme de tracé, des 'ondes p==activation de l'oreillette', puis 'complexe QRS==activation des ventricules", puis 'onde T==repolarisation ventriculaire==début de la diastole' ... qui relèveraient d'analyses d'images [mais qui du temps de l'électronique bête étaient reconnus par leur spectre de fréquence= filtres passe-bande et détecteurs de seuils]
    niveau 2: mesure de longueur et d'intervalles entre ces complexes, et inférences logiques entre: diagnostic de troubles du rythme entre autres.... qui relèveraient donc d'un SE

    Pour les anomalies de la forme des complexes, elles sont d'abord décrites de façon analytique, par l'énoncé de caractéristiques simples, puis la déduction des diagnostics se fait sur leurs combinaisons, par application de règles....

    Je ne vois pas comment un système 'médical' automatique peut se passer de ces traitements distincts et hiérarchisés.....
    le bruit tue l'information......

  17. #14
    pm42

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par Bounoume Voir le message
    Je ne vois pas comment un système 'médical' automatique peut se passer de ces traitements distincts et hiérarchisés.....
    Aux échecs aussi les humains font des traitements distincts et hiérarchisés : utilisation d'une bibliothèque d'ouvertures, définition d'une stratégie, pour chaque coup valeur des pièces, analyse positionnelle, tactique, des variantes puis reconnaissance des différents cas en finale.
    AlphaZero n'a jamais appris à faire tout cela et pourtant, il est meilleur que tous les humains.

    On ne peut pas supposer qu'une IA va fonctionner comme un humain pour la même tâche.

  18. #15
    Bounoume

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Evidemment .
    Seulement les IA étant crées par les humains, c'est peut être plus facile pour eux de s'inspirer de leur connaissance immédiate sur leur fonctionnement.
    Créer (et laisser évoluer ensuite) des structures nouvelles et tout à fait différentes est un saut dans l'inconnu sans aucune idée du résultat final...
    le bruit tue l'information......

  19. #16
    LeMulet

    Re : L'IA de DeepMind échoue à un examen de math niveau lycée

    Citation Envoyé par Bounoume Voir le message
    Créer (et laisser évoluer ensuite) des structures nouvelles et tout à fait différentes est un saut dans l'inconnu sans aucune idée du résultat final...
    Je me souviens à ce sujet d'une discussion sur AlphaGo (IA joueuse de GO, imbattable par un humain), où certains pensaient (vu que cette IA apprend les règles "par elle-même") que l'intelligence de l'IA émergeait d'elle-même.
    Je faisait remarquer que dans ce cas c'est les programmeurs qui n'avaient pas bien compris qu'ils avaient fournis certains éléments de l'environnement à l'IA sans s'en rendre compte.
    Bonjour, et Merci.

Sur le même thème :

Discussions similaires

  1. livres de math pour examen
    Par saralucie dans le forum Renseignements sur les concours et examens
    Réponses: 1
    Dernier message: 03/01/2013, 11h09
  2. math lycée 1er S aide
    Par gérome dans le forum Mathématiques du collège et du lycée
    Réponses: 17
    Dernier message: 16/01/2011, 12h52
  3. Devoir de math niveau lycée
    Par etudiantnew dans le forum Mathématiques du collège et du lycée
    Réponses: 6
    Dernier message: 30/12/2010, 15h58
  4. Examen de fin de 3ème pour rentré au lycée
    Par Sgt Mike dans le forum Mathématiques du collège et du lycée
    Réponses: 1
    Dernier message: 12/10/2010, 21h53
  5. Aide correction examen de math
    Par FreeDumz dans le forum Mathématiques du supérieur
    Réponses: 2
    Dernier message: 11/09/2010, 13h37