Bonjour,
Je ne m'y attendais pas, un matheux ou un informaticien peut-il éclairer ma lanterne ?
https://www.androidpit.fr/mystere-de...e-artificiellel'IA n'a pas été prise au dépourvu car elle a pu s'entraîner sur l'algèbre avant de passer le test. Elle était préparée pour le contrôle mais elle n'a pas réussi à avoir la moyenne
Là où l'ignorance est un bienfait, c'est de la folie d'être sage (Thomas Gray).
J'interviens en tant que cuistre. Perso je trouve ça plutôt flippant, plutôt dans le sens "mince, une machine agit comme un homme..." (raisonnement de Shadock si on veut). Puis, peut-être qu'elle a angoissé, la pauvre ?
Cela n'a rien d'étonnant : on fait des progrès en IA et on bute sur certaines choses ou on ne réussit pas la 1ère fois qu'on essaie.Envoyé par yoda1234
Le problème, c'est que la presse en fait 100 fois de trop et donne une image très fausse. D'abord, ce qu'on appelle IA est du deep-learning : on entraine un réseau de neurones sur des millions d'exemples et il apprend.
Mais cela ne marche pas forcément sur tout et tout le temps. On a beaucoup progressé, on invente de nouvelles techniques mais cela reste un domaine en plein mouvement. Et il n'y a pas d'intelligence au sens habituel derrière : juste de l'apprentissage automatisé.
Mais chaque fois que quelque chose est réussi et donne l'occasion d'un titre racoleur, la presse saute dessus et donne l'impression que Skynet est là.
Et là, ils font l'excès inverse en ne donnant aucune info et sur un ton purement émotionnel. Pute à clic quoi.
Si Deepmind réussit à progresser sur le sujet comme ils l'ont fait avec le go et les échecs, on en reparle dans 2 ans. Sinon, on aura appris quelque chose de plus sur les limites de nos mécanismes actuels de deep-learning.
Salut,
Les techniques d'apprentissage profond sont fabuleuses mais on leur limite. On maîtrise mal la "manière dont elles raisonnent" et il est difficile d'avoir des infos sur la raison de leurs choix/décisions. Ce dernier point est même ennuyant dans certaines applications (judiciaires, médicales). Et la maîtrise des données d'apprentissage pose pas mal de difficultés. Souvenons-nous de chatbot, l'IA de microsoft sur tweeter apprenant avec les messages rencontrées et qui est vite devenue violente, raciste et antisémite !!!! Elle a dû être débranchée (un jour on dira peut-être euthanasiée). Ou de ce programme d'analyse des résultats scolaires aux USA qui a lui aussi montré des biais racistes là aussi à cause des données utilisées.
Ces résultats montrent qu'il est extrêmement difficile de programmer certaines choses comme le bon sens et on voit bien que ces machines ne raisonnement pas du tout comme nous (avec notre système 1 intuitif, le 2 rationnel et le 3 basé en grande partie sur les émotions et qui fait le choix des aires cérébrales à activer, le système 1 ou 2, il y a pas mal de bons articles qui sortent en neurologie là-dessus pour le moment). Ainsi Delahaye avait montré avec l'exemple des IA qui analysent des images qu'on pouvait parfois les tromper en changeant un seul pixel (!!!) : "c'est une banane" en montrant une autruche, alors que par ailleurs elles reconnaissent des images tellement brouillées que nous on ne voit qu'un nuage de parasites qui nous donne presque envie de filer chez l'ophtalmo.
Les ressemblances avec l'intelligence humaine sont en réalité fort superficielle, le seul point commun étant sans doute le mot "raisonnement". Mais nous avons tendance à reconnaitre des schémas "humains" dans tout ce qu'on voit, on est programmé biologiquement pour ça (on doit être capable de reconnaitre un congénère avant de s'accoupler avec lui), une forme de paréidolie (dont les IA sont atteintes aussi d'ailleurs, mais pas centrée sur les visages humains mais sur les images choisies pour la reconnaissance, par exemple voir des chats partout..... ho, oui, c'est vrai aussi de certains humains ça, mauvais exemple
Les prochains progrès viendront sans doute de la conception d'IA "structurées" avec des réseaux de neurones et divers autres systèmes comme les systèmes experts qui ont aussi leurs avantages et leurs inconvénients (presque diamétralement opposé à l'apprentissage profond. Les justifications dont je parlais plus haut, un SE est très facile à programmer pour qu'il les donne : "je déduis des données que le malade a une informatite aïgue car outre une frappe frénétique du clavier il passe un temps excessif devant l'écran" (c'est tout mi ça, au bureau on m'appelle la mitraillette
Ca viendra sûrement plus vite qu'on ne croit et je pressens des progrès vraiment fulgurant dans les années à venir (j'ai racheté une boule de cristal ce matin
Ben c'est le cas. Mais il ne faut pas trop regarder les films, il ne s'appelle pas comme ça. En fait il s'appelle..... Futura Science
Dernière modification par Deedee81 ; 10/04/2019 à 07h08.
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
un triste fait divers :
https://www.dailymail.co.uk/sciencet...ator-fans.html
je peux croire que je sais, mais si je sais que je ne sais pas, je ne peux pas croire
Merci à pm42 et à Deedee81 pour leurs explications.
Ou comme ça : https://siecledigital.fr/2018/01/04/...issance-image/ou ça https://www.theregister.co.uk/2019/0...tesla_hacking/
C'est quand même effrayant si on confie, par exemple, un diagnostic médical sur la base d'une image (ou de plusieurs) à une machine, non ?
Merci de confirmer ce que je supposais, car je n'étais pas sûr de ça.
Même FS, non ?
Dernière modification par yoda1234 ; 10/04/2019 à 19h11.
Là où l'ignorance est un bienfait, c'est de la folie d'être sage (Thomas Gray).
Justement, on ne fait pas ça. Ce qui marche bien, c'est des tâches où une erreur n'est pas critique. Par ex, si le réseau de neurones se trompe en reconnaissant un code postal, sachant qu'en plus, ils sont meilleurs là dessus que les humains aujourd'hui.
Ou alors, pour les tâches critiques, on les met outil d'aide aux humains. On ne laisse pas les IA faire les diagnostics.
FS fait ce que tout le monde fait : du titre racoleur pour attirer du clic et de l'argent. On a un chouette forum gratuit en échange.même FS, non ?
Tu me rassure…
…avec des gens très sympas, je sais et j'en suis persuadé tout comme toi.Et même des modos trèèèèès patients
Dernière modification par yoda1234 ; 10/04/2019 à 19h31.
Là où l'ignorance est un bienfait, c'est de la folie d'être sage (Thomas Gray).
Nooon !
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
Si, siNooon !
Je pense aussi que c'est effectivement comme ça que les IA pourraient devenir plus intelligentes (actuellement l'IA est performante mais uniquement dans une tâche spécialisée (on peut croire parfois que ce n'est pas le cas (spécialisé) mais c'est plutôt qu'on ne voit pas forcément bien qu'un problème qui parait complexe est en fait un seul et même problème))
Donc en fait en continuant à mimer le fonctionnement du modèle vivant qui fonctionne.
Le problème évidemment c'est d'arriver à coordonner les bons réseaux (chacun spécialisé, mais lesquels...), pour en faire un réseau global au fonctionnement cohérent.
Bonjour, et Merci.
Salut,
Je vais dérassurer
Ces situations surprenantes où les IA se trompent semblent assez résilientes (quand une se trompe, toutes se trompent). Cela semble un soucis lié aux techniques d'apprentissage profond. Et des spécialistes planchent sur la question.
Le problème pourrait se poser avec les systèmes de conduites autonomes avec reconnaissance automatique des panneaux routiers. Certains individus (des co...ards) envisagent de placer des autocollant sur certains panneaux tels que, pour nous : aucun changement apparent, pour les IA : un sens totalement différent. Je vous laisse imaginer une voiture arrivant à un stop et "pensant" : oh, une priorité absolueEt bien entendu, l'humain n'aurait pas le temps de reprendre le contrôle: BAAAAANNNNG
Je rerassure : on s'en est heureusement rendu compte à temps. Et comme ces dispositifs sont encore en pleine phase de démarrage/développement, on planche sur la question. On ne peut pas laisser une telle faille ouverte.
Mais faut bien avouer que c'est des drôles de surprise.
Dans d'autres applications, on vient d'en parler, comme le médical (par exemple l'IA capable d'examiner des électrocardiogramme ou des IRM pour détecter les problèles cardiaques). L'humain reste à coté, l'IA n'est qu'un outil et le médecin reste le juge ultime. Heureusement. Le seul risque "humain" est de se laisser endormir par "une machine géniale qui fait mieux que moi".
Dernière modification par Deedee81 ; 11/04/2019 à 07h06.
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
Je partageant cette façon de voir.Salut,
Les prochains progrès viendront sans doute de la conception d'IA "structurées" avec des réseaux de neurones et divers autres systèmes comme les systèmes experts qui ont aussi leurs avantages et leurs inconvénients (presque diamétralement opposé à l'apprentissage profond. Les justifications dont je parlais plus haut, un SE est très facile à programmer pour qu'il les donne : "je déduis des données que le malade a une informatite aïgue car outre une frappe frénétique du clavier il passe un temps excessif devant l'écran" (c'est tout mi ça, au bureau on m'appelle la mitraillette
par exemple, pour ce qui est de l'analyse d'un ECG, il y a 2 niveaux
niveau 1: la reconnaissance par leur forme de tracé, des 'ondes p==activation de l'oreillette', puis 'complexe QRS==activation des ventricules", puis 'onde T==repolarisation ventriculaire==début de la diastole' ... qui relèveraient d'analyses d'images [mais qui du temps de l'électronique bête étaient reconnus par leur spectre de fréquence= filtres passe-bande et détecteurs de seuils]
niveau 2: mesure de longueur et d'intervalles entre ces complexes, et inférences logiques entre: diagnostic de troubles du rythme entre autres.... qui relèveraient donc d'un SE
Pour les anomalies de la forme des complexes, elles sont d'abord décrites de façon analytique, par l'énoncé de caractéristiques simples, puis la déduction des diagnostics se fait sur leurs combinaisons, par application de règles....
Je ne vois pas comment un système 'médical' automatique peut se passer de ces traitements distincts et hiérarchisés.....
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Aux échecs aussi les humains font des traitements distincts et hiérarchisés : utilisation d'une bibliothèque d'ouvertures, définition d'une stratégie, pour chaque coup valeur des pièces, analyse positionnelle, tactique, des variantes puis reconnaissance des différents cas en finale.
AlphaZero n'a jamais appris à faire tout cela et pourtant, il est meilleur que tous les humains.
On ne peut pas supposer qu'une IA va fonctionner comme un humain pour la même tâche.
Evidemment .
Seulement les IA étant crées par les humains, c'est peut être plus facile pour eux de s'inspirer de leur connaissance immédiate sur leur fonctionnement.
Créer (et laisser évoluer ensuite) des structures nouvelles et tout à fait différentes est un saut dans l'inconnu sans aucune idée du résultat final...
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Je me souviens à ce sujet d'une discussion sur AlphaGo (IA joueuse de GO, imbattable par un humain), où certains pensaient (vu que cette IA apprend les règles "par elle-même") que l'intelligence de l'IA émergeait d'elle-même.
Je faisait remarquer que dans ce cas c'est les programmeurs qui n'avaient pas bien compris qu'ils avaient fournis certains éléments de l'environnement à l'IA sans s'en rendre compte.
Bonjour, et Merci.
