Y-a-t'il des experts en IA sur FS

[inviteb6b93040]

De plus, un coup dur pour le blue brain project, un mini cerveau biologique créé en laboratoire permettrait de tester des médicaments et de mieux comprendre les maladie neurodégénératives

Ces versions mini - mi-cerveau sont des tissus miniatures en trois dimensions qui sont cultivées en laboratoire et ont certaines propriétés des parties spécifiques des cerveaux humains, dixit : les scientifiques de Genome Institute of Singapore
http://economictimes.indiatimes.com/...w/53488833.cms

Mais peu tu expliquer cela (en gras)

non seulement le cerveau n'est pas qu'un multicouche, mais il n'a pas non plus de backprop

car par exemple pour le système visuel, le cerveau peu même modifier les données d'entrée, (mise au point, ouverture, direction ...) en fonction de ce qu'il a déjà interprété, pour affiner sa compréhension.
-----

[fred3000gt]

De plus, un coup dur pour le blue brain project, un mini cerveau biologique créé en laboratoire permettrait de tester des médicaments et de mieux comprendre les maladie neurodégénératives

Je ne suis pas sur que ce soit un coup dur, le but premier de Blue Brain est d'abord de comprendre et reproduire les mechanismes neurobiologiques. C'est en tout cas ce que j'ai retenu des propos du directeur (ou ex-directeur) de Blue Brain, Pr. Markram. (Avec qui j'ai mangé la semaine dernière, mais honnetement je dis ca juste par vantardise! )

De plus, plein d'autres gens utilisent des cultures de neurones... Ca ressemble à de la bonne grosse vulgarisation journalistique sensationelle. J'en ai fait l'experience personellement, avec un pote on avait découvert des propriétés de symmétrie de l'hypersurface d'erreur et donc tous les lieux à gradient nul, un journaliste a titré que "l'on avait inventé une nouvelle théorie mathématique"... (je me vautre dans la frime et l'autosatisfaction ce matin, c'est nul mais c'est bon.... )

Mais peu tu expliquer cela (en gras)

car par exemple pour le système visuel, le cerveau peu même modifier les données d'entrée, (mise au point, ouverture, direction ...) en fonction de ce qu'il a déjà interprété, pour affiner sa compréhension.

Bah, c'est pas ca la backprop. Tu peux checker wiki, et vraiment: fait le calcul toi-meme avec papier et crayon. En la matière je pense qu'il est nécessaire de bien comprendre techniquement les choses avant de manipuler les concepts, c'est la meme chose je pense dans tous les domaines techniques d'ailleurs (comme la mecaQ, c'est typique là, les gens s'engagent trop souvent dans une réflexion trop conceptuelle sans les avoir préalablement vécus au niveau math).

Le but de la backprop est de calculer dans quels sens changer les poids, connaissant l'erreur. Tu calcule donc la derivee partielle de l'erreur par rapport à chaque poids, connaissant les etats, potentiels, et poids actuels, et bah je t'assure que les differents termes que tu dois calculer ne peuvent tres probablement etre retrouvés par un systeme biologique.

[inviteb6b93040]

ne peuvent tres probablement etre retrouvés par un systeme biologique.

Sur ton conseil j'ai lu wiki et justement ça te contredit

Fondement biologique
Il a été découvert un phénomène biologique équivalent à la rétropropagation d'information dans les réseaux de neurones : c'est la rétropropagation neuronale.
(rétropropagation du gradient='backpropagation en anglais')
https://fr.wikipedia.org/wiki/R%C3%A...on_du_gradient

Visiblement on est tout deux accessoirement programmeur par nos activités et j'ai juste 10 ans de plus que toi (né en 58, j'ai donc 58 ans, drôle d'année pour moi) donc pour nous le 8 (octet) est assez symbolique

[fred3000gt]

Sur ton conseil j'ai lu wiki et justement ça te contredit

Interessant, je n'avais jamais entendu parler de cela je vais y réfléchir, mais ca a l'air assez hypothétique quand même, sur la page wiki anglaise ils disent:
"While a backpropagating action potential can presumably cause changes in the weight of the presynaptic connections, there is no simple mechanism for an error signal to propagate through multiple layers of neurons, as in the computer backpropagation algorithm. However, simple linear topologies have shown that effective computation is possible through signal backpropagation in this biological sense."

En lisant a droite a gauche, j'ai plutot l'impression que c'est bien un signal qui propage à l'envers mais que ca n'a pas grand chose à voir avec l'apprentissage...

[invite73192618]

j'ai plutot l'impression que c'est bien un signal qui propage à l'envers mais que ca n'a pas grand chose à voir avec l'apprentissage...

On ne sait juste pas. L'existence de potentiels d'action antidromiques est difficile à accepter (cela contredit directement les textbooks), mais expérimentalement parlant c'est quand même solide. La question est plutôt de savoir si c'est anecdotique (vrai mais sans implications fonctionnelles), limité à certains systèmes/fonctions... ou carrément central et manquant dans toutes les modélisations qui visent à se rapprocher le plus possible de la biophysique. L'idée que cela corresponde à de la rétropropagation, donc présente dans plein de modèles qui ne prétendaient pas être aussi prêt de la biologie que possible, est séduisante autant qu'ironique... trop beau pour être vrai, trop délicieusement ironique pour être faux, all bets off.

[invite03481543]

Sur ton conseil j'ai lu wiki et justement ça te contredit

On est sensé parler IA et en effet l'intelligence de la source est ici artificielle et aussi fiable que le sujet en la matière.
Dans la vraie vie on cite plutôt des références intelligentes ça fait moins tache.
Avant d'inventer l'IA il faudrait déjà comprendre le modèle, si tant est que cela est un sens.
Juste pour le fun: Quand on voit à quel point le numérique de base abruti les foules (voir le sujet sur pokémon go) qu'en sera-t-il quand le pokémon rendu artificiellement intelligent dira à l'humain naturellement con qui l'a trouvé de sauter du pont pour le rejoindre?
Ca promet!

[inviteb6b93040]

Justement, le pokemon commence à perdre des adeptes mais faut pas leur jeter la pierre, ce besoin d'être chasseur cueilleur n'a pas encore quitté nos gène que notre environnement change de plus en plus vite.
Contrairement à un RDN artificiel initialisé avec des poids aléatoires nous avons de l'inné, ce qui fait encore défaut/qualité (?) au deep learning mais peu être pas pour longtemps.
Pour revenir à la rétropropagation du gradient (backprop), quand on dit à l'enfant de ne pas regarder le doigt mais la lune qu'il désigne ne fait on pas du backprop biologique ?

[invite03481543]

quand on dit à l'enfant de ne pas regarder le doigt mais la lune qu'il désigne ne fait on pas du backprop biologique ?

Non ça s'appelle la réflexion et la mise en éveille de sa conscience du monde qui l'entoure, ça s'appelle l'éducation, l'enseignement, la culture, la transmission, tout l'inverse d'une IA dépourvue d'émotion, d'extase, d'amour, l'IA n'a aucune racine dans la réalité, l'histoire, le plaisir, le doute, la douleur, l'erreur, etc.
Exactement tout ce que l'entreprise du numérique va détruire à moyen terme.
Nous sommes des êtres analogiques, qui avons une palette d'émotions infinie, de sensations inégales, c'est cette singularité qui a permis le génie humain.
Aucune IA n'atteindra cela, c'est une quête utopique car au final ce sera forcément une création humaine, une copie ou une caricature.

[inviteb6b93040]

Comme chercheur, c'est aussi un danger, car c'est ainsi que l'on s'écarte de la recherche fondamentale pour tomber ce que font déjà des milliers de personnes. Il aussi savoir qu'un portage sur Cuda (je connais que cela pour les GPU) est délicat car on doit gérer les transferts mémoires avec soin, sinon, bah on a un speedup inférieur à 1 (plus on ajoute de core, plus ca rame...).

Mais de toute façon, il est probable qu'on va le faire quand même

Et tant qu'à aller parallèle, il y a aussi d'autres approches intéressantes comme "l'Evolution In-Materio" que l'on regarde aussi, ca c'est déjà plus disruptif

Evolution In-Materio ?
évoquerais tu des processeur spécialisé dans le deep learning ?
Je viens de découvrir le TPU de google qui a servis dans Alphago sans qu'on le sache à l'époque.
c'est non seulement le premier processeur spécialisé dans le deep learning mais en plus dédié à un environnement de programation puisque TPU = TensorFlow Processing Unit et TensorFlow est l'environnement qui succède à celui qui a découvert le concept de chat dans des vidéo en deep learning non surpervisé.
ce processeur est si en avance d’après google qu'il ne veut pas dévoiler son architecture ni même le vendre !

Le groupe s'est assez peu étendu sur l'architecture de ce nouvel élément déjà déployé dans les serveurs de certains de ses datacenters et l'image officielle fournie révèle peu de détails. Le site Re/code a tenté d'en savoir plus et a demandé des précisions sur le TPU.


Toutes les interrogations n'ont pas trouvé de réponse mais elles apportent quelques détails sur la conception et le fonctionnement du composant. Re/code a tout d'abord demandé si le TPU était "pré-entraîné", à savoir si l'intelligence artificielle (AI) embarquée avait au préalable été entraînée sur un système externe (généralement par un procédé d'essais/erreurs de millions de combinaisons). Aucune réponse n'a été donnée mais cela pourrait bien être le cas
http://www.generation-nt.com/google-...e-1928925.html

et moi qui disais que le deep learning n'avait pas encore de l'inné ça semble en prendre le chemin

[fred3000gt]

On ne sait juste pas. L'existence de potentiels d'action antidromiques est difficile à accepter (cela contredit directement les textbooks), mais expérimentalement parlant c'est quand même solide. La question est plutôt de savoir si c'est anecdotique (vrai mais sans implications fonctionnelles), limité à certains systèmes/fonctions... ou carrément central et manquant dans toutes les modélisations qui visent à se rapprocher le plus possible de la biophysique. L'idée que cela corresponde à de la rétropropagation, donc présente dans plein de modèles qui ne prétendaient pas être aussi prêt de la biologie que possible, est séduisante autant qu'ironique... trop beau pour être vrai, trop délicieusement ironique pour être faux, all bets off.

C'est très bien écrit!

Evolution In-Materio ?
évoquerais tu des processeur spécialisé dans le deep learning ?

Dans ma tête, EIM est au materio computing, ce que la prog genetique et à la l'algo genetique. C'est un gros délire, mais très séduisant par certains aspects.

Si tu veux, les ordi analogiques des annees 50 qui resolvaient des equa diff avec des des circuits electriques ou une simple regle a calcul sont du in materio computing, le cerveau aussi. La genetique biologique c'est de l'EIM.

Faut arreter sinon avec le "deep learning" à toutes les sauces, c'est un peu trop médiatisé ce machin... perso je pense que ca ne correpond à aucun progrès fondamental, et je suis loin d'être le seul...

[inviteb6b93040]

et si l'apprentissage profond était comme le boson de higgs pour qui il a fallu attendre le LHC pour valider son existence ?
Seule la puissance pourrait alors montrer qu'il peut dépasser l’intelligence humaine comme l'aviation à dépasser l'oiseaux bien avant que les drones permettent de l'imiter, ne serai tu pas entrain d’essayer d'imiter l'oiseau comme au début de l'aviation

[ansset]

et si l'apprentissage profond était comme le boson de higgs pour qui il a fallu attendre le LHC pour valider son existence ?

je ne vois pas le rapport avec le fil.
ni même de rapport entre les deux sujets que tu mets en parallèle.
tu sous entend que "l'apprentissage profond" serait comme pré existant quelque part !?
en espérant que ce ne soit pas un retour vers les travers un peu incantatoires que le forum a connu.

idem pour la remarque de HULK.
on ne peut nier l'évolution de l'informatique vers des solutions ayant des capacités de type "cognitif".
les axes de recherche dans ce sens sont intéressants tout comme les applications à venir.
le reste, une discussion sur l' analogie copié/collé est HS à mon sens.

Cdt

[invite03481543]

ce processeur est si en avance d’après google qu'il ne veut pas dévoiler son architecture ni même le vendre !

Hello EauPure,

tu crois vraiment à ces niaiseries marketing? Google ne voudrait pas vendre quelque chose? C'est ça le vrai scoop dans ce cas.
La seule intelligence artificielle que je vois à l'oeuvre c'est celle du formatage des cerveaux humains, près à tout gober.
Croire par exemple qu'une IA sera mise au point par des ingénieurs et des programmeurs est du même registre que de croire qu'un gagnant de secret story va obtenir le prix Nobel.
J'adore la SF mais faut pas croire à n'importe quoi, surtout quand le vecteur médiatique est la plus grande usine à pognon au monde.
C'est bien beau de noyer tout ces discours de vocabulaires ampoulés mais j'en ai entendu des vertes et des pas mûres depuis 40 ans.
On mélange surtout intelligence et prouesse de calculs ce qui n'a rien à voir.
Gagner aux échecs ou gagner aux dames n'est pas de l'intelligence, aucune machine n'a inventé une ouverture par exemple ou apporter le moindre coup de génie au noble art.
On confond allègrement puissance de calcul et raisonnement.
Un autiste capable de trouver la racine 7eme d'un nombre ne fait pas appel à son intelligence, pas plus qu'une calculette.

On emploie à tort et à travers le mot intelligence, comme le mot temps, en étant bien incapable de le définir précisément, chacun ayant sa définition selon un domaine d'usage jamais bien clair.
Les plus grands génies ont accouchés de leurs découvertes par des expériences de pensées, alimentées par leur perception de l'environnement, par leur vécu, leurs malheurs, leurs émotions.
Tout ce qu'une machine ne fera jamais, car nous ne sommes pas qu'un simple cerveau, nous percevons le monde et avons un patrimoine génétique.
La complexité du cerveau humain ne sera pas mis en équation ni écrit dans un langage informatique quel qu'il soit.
De la même manière qu'on ne sait pas prédire exactement le temps qu'il fera dans une semaine, on ne pourra pas tout comprendre et c'est tant mieux.
La seule chose que l'on sache faire, avec un certain succès il faut bien admettre hélas, c'est perturber l'esprit des gens, rarement pour les élever souvent pour les déstabiliser et mieux les baigner dans la confusion mentale qui rend le quidam fragile et manipulable à souhait.
Il faudrait réécrire 1984, car pour le coup la fiction est largement supplantée par une réalité bien plus perverse que le roman.

Pourquoi faire de l'IA quand on peut générer de la vraie intelligence? C'est certainement bien plus compliqué évidemment, mais pourquoi renoncer?
Bientôt on ne conduira plus sa voiture, on interdit peu à peu bon nombre de petits plaisirs salés/sucrés soit disant pour notre bien, on nous explique comment il faut comprendre une oeuvre, comment nous devons consommer, comment il faut s'habiller, ce qu'il faut faire pour bien dormir, pour pas grossir, là où il ne faut pas aller pour ses vacances, etc.
Cet assistanat permanent à la manière du GPS qui vous explique là où vous devez aller doit il vraiment être enrichi par de l'IA?
C'est une question importante qui relève davantage de la philosophie, de la politique, de la sociologie.
Pour ma part je n'ai pas envie de devenir un homme binaire qui parle à son téléphone, j'aime le réel et la nature, pas les octets ni le virtuel qui tue l'imaginaire.
Mon métier est l'électronique depuis 30 ans, je sais très bien ce qu'il y a dedans, il n'y a rien de vivant dans tous les sens du terme, ce n'est que du vent.
A refaire j'aurai fait boulanger pour nourrir les gens avec du bon pain ou enseignant pour tenter de nourrir leur esprit, ou romancier pour nourrir leur imaginaire.
Le grand luxe étant peintre ou poète pour nourrir leurs émotions et épanouir leur imaginaire.
Tout ce qu'une machine ne pourra jamais faire pour vous.
Le numérique dans son ensemble est l'anti-thèse du social et de la découverte de l'autre, d'ailleurs croire que tout se résumerait avec un 1 et un 0 est sans doute l'erreur de départ car entre ces 2 valeurs se trouve l'infinie complexité de la vie.

[inviteef2ff547]

Hello EauPure,
Gagner aux échecs ou gagner aux dames n'est pas de l'intelligence, aucune machine n'a inventé une ouverture par exemple ou apporter le moindre coup de génie au noble art.
..
Pourquoi faire de l'IA quand on peut générer de la vraie intelligence? C'est certainement bien plus compliqué évidemment, mais pourquoi renoncer?

Heu, tu as ça : http://sciencetonnante.wordpress.com...et-le-19e-coup
Si tu remontes un peu plus haut dans ce fils tu as l'intervention #75 de Jiav sur ce que peut faire un algo. Les associations de mot du genre le "Fils est au Roi ce que la Fille est à la Reine", c'est des tests de QI.

[invite03481543]

on ne peut nier l'évolution de l'informatique vers des solutions ayant des capacités de type "cognitif".
les axes de recherche dans ce sens sont intéressants tout comme les applications à venir.
le reste, une discussion sur l' analogie copié/collé est HS à mon sens.

Cdt

Ben voyons...
Si l'avenir de l'IA devait être décidé par un informaticien voilà exactement ce que ça donnerait comme argumentaire bourrin.
Il ne s'agit pas de nier l'évolution de l'informatique mais de nier la vision et l'objectif pour l'humain que vous avez d'une IA.
Avant c'était la puissance de calcul qui faisait défaut, maintenant ce sont les capteurs, alors qu'en réalité le point de départ se base sur une pseudo science de bricoleurs.
A l'instar du clonage où on réfléchit après coup sur l'éthique et l'intérêt profond de tout cela; finalement ça bricole sec pour des intérêts très limités et essentiellement liés aux profits au détriment du bien commun.
Une chimère alimentée par la SF et les films à sensations, tout en niant et rejetant les conséquences par manque de connaissances du reste (ne pouvant pas être mis en équation) bien plus essentiel que de réaliser à tout crin des prouesses de calculs bestiaux.
Ce n'est quand même pas un hasard que ce genre de recherches soient financées par Google, Face Book et autres grands profiteurs du moment:
http://www.lemonde.fr/pixels/article...5_4408996.html

Aucune allusion sur le but de ces travaux et on ne parle même pas de l'humain que l'IA serait sensé servir plutôt que d'asservir.

Je cite l'article:

C’est le rôle des gouvernements et des politiques d’observer ces choses et d’évaluer l’impact qu’elles auront sur la société. Le pouvoir de prendre ces décisions ne devrait jamais être concentré dans les mains d’une entreprise privée.

Du foutage de gueule bien formaté, autant dire "arrêtez Google si vous pouvez", il suffit de voir comment la voiture sans conducteur est en train de doucement mais surement s'imposer.
Ca ce saurait si les politiques étaient des visionnaires et des observateurs avertis.

[ansset]

ma remarque est essentiellement factuelle, et certainement pas "politique".
champs dans lequel tu t'engouffres totalement alors que ce n'est pas l'objet du site et du(es) forum(s).

[ansset]

de ce fait et pour ne pas polluer ce fil, je renonce à te répondre précisement.

[JPL]

Il y avait une discussion très technique. Merci de ne pas la détourner par des propos qui peuvent être tenus ailleurs, mais pas ici.

[invite73192618]

EIM est au materio computing, ce que la prog genetique et à la l'algo genetique

La discussion semble toucher à sa fin, donc je me permet une demande un peu HS. Je suis en train d'essayer (en loisir) de faire un robot humanoïde pour lequel j'aimerais valider certains choix avec des algo génétiques. Est-ce que tu aurais du soft à me suggérer? (si possible sur matlab, éventuellement python)

[inviteb6b93040]

Dommage, je la trouve très bien cette discussion
Si tu ouvre un sujet sur ton projet d'humanoide peut tu mettre le lien ?, ça m’intéresse aussi
Merci à Hulk pour son lien, et évidemment je partage un peu sa vision mais je la trouve passéiste , du style des vieux qui disent toujours que c'était mieux avant

Je pense qu’à l’époque, les gens avaient commencé à avancer sur certains problèmes de l’intelligence artificielle, mais qu’ils ont fait des promesses qu’ils n’ont pas pu tenir. Ils n’ont pas vu venir le problème de la puissance des ordinateurs, qui était très loin d’être suffisante pour les choses qu’ils avaient imaginées.
http://www.lemonde.fr/pixels/article...UR7oXY0OCvZ.99

et la révélation de google a certainement été contrainte par l'évolution de la concurrence car ils sont encore loin de ce que théoriquement un accélérateurs de réseaux neuronaux pourrait fournir.

Un certain nombre d'accélérateurs de réseaux neuronaux ont été récemment proposé, qui peut offrir un rapport élevé capacité / zone de calcul, mais qui reste entravée par les accès mémoire. Cependant, contrairement à la paroi de la mémoire face par des processeurs sur les charges de travail à usage général, l'empreinte mémoire CNNs et DNN, tandis que les grandes, ne sont pas au-delà de la capacité de stockage sur puce d'un système multi-chip. Cette propriété, combinée avec les caractéristiques algorithmiques CNN / DNN, peut conduire à la bande passante interne élevée et des communications externes faibles, ce qui peut à son tour permettre parallélisme-haut degré, à un coût de zone raisonnable. Dans cet article, nous introduisons un multi-chip architecture de la machine-learning sur mesure le long de ces lignes. Nous montrons que, sur un sous-ensemble des couches les plus grandes connues du réseau de neurones, il est possible d'obtenir un gain de vitesse de 450.65x sur un processeur graphique, et de réduire l'énergie par 150.31x en moyenne pour un système 64 puce.
http://ieeexplore.ieee.org/document/...mber%3D7011421

J'ai trouvé ce lien , après avoir demandé sur google : GPU nvidia contre google TPU, dans un forum où d'ancien de google contrains au silence ont pu enfin se lâcher.

l'augmentation de ~ 50x + efficacité d'un ASIC pourrait être utile à long terme. Le seul problème que je vois est qu'il pourrait y avoir des limites à la taille du modèle en raison de la mémoire embarquée limitée de l'ASIC.
https://news.ycombinator.com/item?id=11724763

[cancerman]

Salut on peut observer les réactions d'une AI je vous explique

Il y'à pas longtemps je suis tombé sur ce papier à propos de mario ou IA fini le jeu
http://www.cs.cmu.edu/~tom7/mario/mario.pdf

mais en fait il faut lire en paragraphe plus bas en 5.7 sur tétris et c'est fascinant :

l'intelligence crée pour le jeu préfère mettre en "pause permanente" tétris plutôt que de perdre ...

Death is imminent, so playfun pauses the game shortly
after this and then doesn’t unpause it.

[invite03481543]

Merci à Hulk pour son lien, et évidemment je partage un peu sa vision mais je la trouve passéiste , du style des vieux qui disent toujours que c'était mieux avant

et la révélation de google a certainement été contrainte par l'évolution de la concurrence car ils sont encore loin de ce que théoriquement un accélérateurs de réseaux neuronaux pourrait fournir.

C'est tellement plus simple de penser comme ça

Mon ressenti est surtout basé sur le fait que les vieux comme moi comme tu dis, sont nés avec le circuit intégré, le microprocesseur et tout le reste qui a suivi (PC, GSM, internet, etc), on en a vu et entendu des c....s, un peu comme ici.
Et aussi peut-être parce que moi je travaille dans le développement électronique depuis 30 ans, donc je pense, contrairement à toi, être plus sensibilisé aux possibilités quand d'autres sont plus sensibilisés aux promesses du style sciences et vie... le gala des sciences.
Donc le sujet est intéressant dès lors que ceux qui s'expriment savent un minimum de quoi il en retourne.
Les discussions stériles autour de l'IA, alimentées par des annonces ayant pour seul but de lever des fonds et faire rêver ceux qui croient encore que Google est un vaste bureau d'études remplis de petits génies, ont déjà tout faux dès le départ.
Réveillez vous un peu et sortez votre ###### de devant votre ordinateur qui vous amollit les neurones à la vitesse de la lumière et de la fluctuation du $...

[invite44813db3]

Bonjour,

Sans entrer dans le vif du sujet, j'aurais une question sûrement très naïve (hors sujet ?) concernant l'IA aujourd'hui, et à un niveau donc très très modeste par contre, c.a.d. à partir des algorithmes plus ou moins accessibles aujourd'hui au grand public.

Quelqu'un a-t'il des liens à fournir sur ce qui se fait de mieux aujourd'hui, dans le dialogue "homme-machine" ?
Par ce qui se fait de mieux, j'entends des programmes permettant vraiment d'enrichir ses connaissances dans des domaines particuliers ?

Je parle d'un niveau de dialogue qui dépasse celui des assistants(es) virtuels existant sur des sites administratifs bien-entendu

Des sortes de "profs artificiels"..(plutôt des tests, et avec leurs limites de crédibilité bien sûr)

[_Goel_]

Bonjour à tous,

Déjà, merci à Fred & Jiav pour la qualité et le niveau de leurs échanges (pas facile de tout suivre, mais on comprend les grandes lignes )
Pour ceux qui voudraient mieux comprendre les RN, voici un article a priori très bien fait qui présente les différents types de RN. Attention, ça commence tranquille, mais ça se corse vite !

http://www.technologies-ebusiness.co...ning-pas-a-pas

J'ai moi-même plusieurs questions (à mon humble niveau)
- j'ai l'impression qu'on a actuellement un ensemble d'outils plus ou moins efficaces en fonction des situations, mais ils sont étudiés en "stand alone". Il reste pas mal à étudier les interactions entre ces systèmes et leur environnement. Par exemple, c'est bien que Google ait réussi à identifier des chats ou des visages, ou jouer au Go... mais pourrait-on avoir un système de supervision qui viendrait se greffer sur ceux développés pour "utiliser" l'analyse effectuée ?
- pour aller plus loin : existe-t-il des RN avec boucles de rétroaction de la couche de sortie sure la couche d'entrée ? (les modèles de rétroaction que j'ai vu impliquent surtout une rétroaction de la sortie du neurone sur le neurone lui-même)

Et pour ceux qui veulent un peu de philosophie, j'aime parfois définir l'intelligence de cette manière : dans le cadre d'une situation différente d'une situation théorique, la réponse apportée par le système n'est pas la réponse à laquelle on aurait pensé "naturellement", mais qui s'avère cependant plus adaptée. Aussi, pour moi : le coup 19, la pause Tétris, l'auto-organisation spontanée ou les images paréidoliques, sont autant de preuve "d'intelligence unitaire", et qui me font croire qu'on est pas loin du breakevent (LE moment on on dira que ça y est on a créé une veritable forme d'IA, même si dans les faits, je pense que ce sera très progressif).

Autre question : a-t-on étudié le cerveau des corvidés pour définir des réseaux neuronaux (cerveau le plus performant du règne animal, eut égard à son volume) ?

Question finale : Yann LeCun passe-t-il de temps en temps sur ce forum ?

Merci pour vos éclaircissements
@+

[inviteb6b93040]

Merci _Goel_, c'est un article intéressant
Je le résumerai ainsi
- Des langages qui permettent d'exprimer les sommes et les dérivé par une seule instruction et un compilateur qui fait les boucles, calcule les dérivé et optimise la parallélisation. (THEANO, CAFFE ..)
- Des algorithmes d'optimisation pour réduire le nombre de calcul (Hinton et al ...)
Reste à trouver le moteur

L’avenir est-il à l’imitation de la nature comme semble le penser les partisans des RN ? Les grandes inventions du passé, comme l’électricité ou le moteur à explosion, suggèrent plutôt que les grandes innovations ont tendance à s’en démarquer. Les architectures profondes semblent adaptées à la reconnaissance de formes mais elles ne semblent pas être capables de raisonnement logique.

C'est peut être là que les moteurs d'inférences, allié aux RN, pourraient renaître de leurs cendre

[invite73192618]

Quelqu'un a-t'il des liens à fournir sur ce qui se fait de mieux aujourd'hui, dans le dialogue "homme-machine" ? (...) Des sortes de "profs artificiels"..(plutôt des tests, et avec leurs limites de crédibilité bien sûr)

Un algorithme qui ferait cela serait presque au niveau de passer le test de Turing. Mon impression (qui est peut-être dans le champ) est qu'il n'y a pas grand monde qui travaille là-dessus directement, et que c'est vu comme prématuré tant qu'on n'a pas des traducteurs excellents. (par contre je soupçonne qu'il y a énormément d'effort pour obtenir d'excellents traducteurs, et je ne serais pas surpris que cela aboutisse très très rapidement)

un article a priori très bien fait qui présente les différents types de RN

Excellent Par contre la description n'est pas tout-à-fait exacte: cet article présente les réseaux profonds à la Hinton, et plus exactement les morceaux de recette spécifique qu'il a mis en avant dans son papier de 2006. L'article est vraiment bon pour quelqu'un qui s'intéresse à cet aspect spécifiquement, exactement à la limite entre popularisation et le niveau technique, mais il faut savoir qu'il y a bien d'autres recettes/types de RN qui permettent de faire du réseau profond sans nécessairement cet ingrédient en particulier.

mais pourrait-on avoir un système de supervision qui viendrait se greffer sur ceux développés pour "utiliser" l'analyse effectuée ?

C'est un peu les questions de fred et d'eaupure plus haut: oui ce serait intéressant. C'est juste que vous ne réalisez pas à quel point ces résultats sont jeunes. Il y a probablement des tas de gens en train d'essayer maintenant de faire précisément ce genre de chose.

existe-t-il des RN avec boucles de rétroaction de la couche de sortie sure la couche d'entrée ? (les modèles de rétroaction que j'ai vu impliquent surtout une rétroaction de la sortie du neurone sur le neurone lui-même)

Yep, on en a parlé un peu vers le début du fil. C'est ce genre de réseau (quand on les entraîne conjointement avec des réseaux à convolution) qui permettent par exemple de sortir une description en mot du contenu d'une image.

Autre question : a-t-on étudié le cerveau des corvidés pour définir des réseaux neuronaux (cerveau le plus performant du règne animal, eut égard à son volume) ?

Très peu. Mais il faut voir que les exploits du corbeau (disons qu'il utilise ses neurones deux fois plus efficacement -juste pour donner un ordre de grandeur maximal, me citez pas comme source là-dessus ) ne sont rien par rapport aux exploits des réseaux de neurones artificiels. Pour classifier des images nous utilisons des dizaines de milliards de neurones et de dizaines de milliers de milliards de synapses. Les réseaux de neurones artificiels font maintenant mieux, avec quelques milliers de neurones et quelques millions de poids synaptiques. Il y a de quoi laisser tomber un fromage.

Yann LeCun passe-t-il de temps en temps sur ce forum ?

Pas que je sache.

[invite44813db3]

Un algorithme qui ferait cela serait presque au niveau de passer le test de Turing. Mon impression (qui est peut-être dans le champ) est qu'il n'y a pas grand monde qui travaille là-dessus directement, et que c'est vu comme prématuré tant qu'on n'a pas des traducteurs excellents. (par contre je soupçonne qu'il y a énormément d'effort pour obtenir d'excellents traducteurs, et je ne serais pas surpris que cela aboutisse très très rapidement)

J'ai fait quelques petites recherches depuis la dernière fois, et je vous rejoins.
Avec un certain recul, les progrès sont incontestables, mais il y a encore du chemin.
Merci pour votre réponse.

[inviteb6b93040]

c'est arrivé http://forums.futura-sciences.com/co...ml#post5694099

[polo974]

c'est arrivé http://forums.futura-sciences.com/co...ml#post5694099

Oui, mais là, c'est trop facile...
quand on voit les résultats de gaagle.translate, parfois, il y a de quoi pleurer de rire...

[invite73192618]

c'est arrivé

Pour un peu je pensais avoir joué les prophètes ..mais en fait, c'était une rétrodiction à postériori (l'article était disponible sur arxiv le 26).

http://www.nature.com/news/deep-lear...e-tool-1.20696
https://arxiv.org/abs/1609.08144v1

Cela dit les performances ne sont pas encore excellentes, même si elles se rapprochent notablement des performances humaines (elles les dépassent si on prend en compte le coût ou la vitesse, mais on pourrait argumenter que c'était déjà le cas).

Un autre enseignement c'est que les TPU semblent effectivement leur donner un avantage concurrentiel notable... cela aidera peut-être certains à comprendre pourquoi google n'en vend pas.