Intelligence

[invite6c250b59]

Bonjour,

La présente pour poursuivre une discussion qui porte maintenant sur d'autres aspects que l'intention initiale.

Bonjour,

Pour moi, AlphaZéro a passé un cap énorme : produire une analyse intelligente sans données d'entraînement externe.
On peut donc définir une "vitesse d'apprentissage" intrinsèque (qui dépend juste de la machine).
Les courbes montrées par Google sont classique d'un apprentissage.
En temps absolu, en 1 jour, AlphaZéro bat n'importe quel humain. mais il aura fait en qques minutes plus de parties que n'importe quel humain.
Que donneraient les courbes de progression et les résultats si on comptait la durée d'apprentissage en parties jouées ? (ex : au bout de 1000 parties, que vaut alpha zéro par rapport à un humain qui aurait joué 1000 parties ?)
Si on compte le nombre de parties qu'à joué alpha zéro par rapport à Lee Seydol pour atteindre son niveau (100 000) et qu'on considère que le champion du monde en a joué environ 10 000 à son âge, peut-on considérer qu'Alphazéro est relativement 10x moins rapide à apprendre qu'un homme surdoué ?

Ma vraie question : peut-on considérer cette vitesse d'apprentissage comme une bonne évaluation du niveau d'intelligence sur une activité spécifique ?

@+

AlphaZero n'a pas eu besoin de 100.000 parties pour atteindre le niveau de Lee Sedol, mais de beaucoup plus.

100.000, c'est le nombre de learning step, mais chaque learning step est composée de 4096 parties


Dans tout les cas, ça n'est pas comparable, le mécanisme d'apprentissage est différent

Bonjour,

même sans être connaisseur la question est très pertinente vu d'ici.

J'ai d'abord était scié par la différence du nombres de parties nécessaires chez l'humain et chez Alphazéro.

Mais l'homme n'a t'il pas un avantage sur la machine? Nous sommes habitués à des concepts comme aller en ligne droite ou en diagonale depuis notre enfance.
La passation des connaissances permet l'apprentissage des bons réflexes aux débutants: initiation par des joueurs plus expérimentés, livres... cela réduit donc le nombre de partie nécessaire à l'apprentissage.

Alors qu'Alphazéro part de zéro non?

mais chaque learning step est composée de 4096 parties

ah oui, quand même !!!!
Donc pour le coups la vitesse "relative" d'apprentissage d'AlphaZéro n'est pas si grande, voire faible. Mais même si nous ne fonctionnons pas de la même manière, pourquoi cette analogie ne marche pas ?

C'est tres joli comme idee. D'un point de vue technique un apprentissage profond c'est une marche dans un espace de tres haute dimension. Une caracteristique notable de ces espaces, c'est qu'ils sont beaucoup plus grands que ce que notre intuition percoit. Une consequence est que, en termes relatifs a la quantite de points possibles, l'etat final apres apprentissage n'est jamais tres tres loin de l'etat initial aleatoire.

Dans ce contexte cela fait effectivement beaucoup de sens de definir le niveau d'intelligence de cette facon. En termes pratiques cela voudrait dire qu'alphazero devrait etre considere comme d'un niveau d'intelligence tres inferieur a l'equivalent logiciel d'un humain (pour les raisons expliquees par Tryss2), avec donc une distnction entre l'intelligence et la performance. C'est un point de vue seduisant, et potentiellement fecond.

On peut aussi le voir comme une variante de ce que développe Yann le Cun sur le fait que les humains sont capables d'apprendre à partir de très peu d'exemples et relativement rapidement une grande variété de situation comparé aux IAs.

Une objection est toutefois de faire remarquer qu'on fait un échange classique en informatique : on utilise la vitesse des ordinateurs pour travailler différemment des humains et atteindre une efficacité qui elle même va être meilleure sur certains critères et moins bonne sur d'autres.

Par exemple, pour le Go, on peut en effet dire qu'un humain va apprendre et éventuellement exceller sur largement moins de partie qu'AlphaZéro.
Mais si on prend en compte le temps pour former un adulte capable de comprendre les règles, les générations pour arriver au niveau actuel de maitrise du jeu, la sélection sur un grand nombre d'humains pour avoir un champion qui lui même devient très spécialisé, c'est moins clair.

Je ne dis pas qu'il y a équivalence. Je dis juste que ce genre de comparaison peut être faite sur de multiples critères, que chacun d'eux peut avoir un coefficient variable et qu'on peut donc arriver facilement à des conclusions très différentes.

-----

[invite6c250b59]

On peut aussi le voir comme une variante de ce que développe Yann le Cun sur le fait que les humains sont capables d'apprendre à partir de très peu d'exemples et relativement rapidement une grande variété de situation comparé aux IAs.

Tout-à-fait.

Une objection est toutefois de faire remarquer qu'on fait un échange classique en informatique : on utilise la vitesse des ordinateurs pour travailler différemment des humains et atteindre une efficacité qui elle même va être meilleure sur certains critères et moins bonne sur d'autres.

Personnellement je ne vois pas cela comme une objection mais plutôt comme un point de vue complémentaire. Pour paraphraser un proverbe célèbre: une définition n'est pas juste ou fausse, elle est fausse et potentiellement utile.

Par exemple, pour le Go, on peut en effet dire qu'un humain va apprendre et éventuellement exceller sur largement moins de partie qu'AlphaZéro.
Mais si on prend en compte le temps pour former un adulte capable de comprendre les règles, les générations pour arriver au niveau actuel de maitrise du jeu, la sélection sur un grand nombre d'humains pour avoir un champion qui lui même devient très spécialisé, c'est moins clair.

Justement j'étais en train de réfléchir à l'analogie suivante:

un humain seul == un réseau seul
un tas d'humain == un ensemble de réseaux
un champion parmi un tas d'humain == un réseau entraîné par transfert learning à partir d'un ensemble de réseaux
un champion parmi un tas d'humain après des tas de génération == alphazéro

on peut donc arriver facilement à des conclusions très différentes.

Certes. Donc la question initiale peut se voir ainsi: qu'est-ce que la définition proposée par _Goel_ permet de mieux comprendre ou de mieux examiner?

[pm42]

Donc la question initiale peut se voir ainsi: qu'est-ce que la définition proposée par _Goel_ permet de mieux comprendre ou de mieux examiner?

Intuitivement, je dirais "assez peu" parce qu'on enseigne le Go (ou les échecs) à des gens dont le cerveau a déjà été préformatté pour assimiler ce genre de jeu à base de règles fortes.

Ce que je veux dire, c'est que si tu prends quelqu'un élevé dans une culture de chasseurs en forêt amazonienne, tu vas avoir du mal.
Je vais prendre un exemple : un ami qui faisait du tir à l'arc a été dans une tribu de dits chasseurs... Ils pratiquent le tir instinctif depuis tout petits et sont capable de te choper un piaf en vol alors que tu as du mal à bander les arcs de leur gamin.
Mais on a aussi fait l'expérience de les faire tirer sur cible : c'est une catastrophe et ils ont même du mal à appréhender le concept et à trouver un intérêt quelconque.

Ici, l'apprentissage initial structure complètement la capacité d'apprentissage ultérieure et le champs des possibles.

Je dirais que c'est pareil avec le Go et plein d'autres choses : à part des contre-exemples tellement rares qu'ils ne sont pas significatifs, l'humanité ne génère pas d'experts en dehors d'un contexte.
En gros, Mozart est le fils d'un musicien en Europe à une époque où il y a une forte tradition musicale. Sophocle, Euripide et Eschyle sont contemporains...
Bill Gates, Steve Jobs et Bill Joy (Sun) sont nés à moins de 1 an d'intervalle... Je peux aligner les exemples comme ça longtemps (Renaissance, physique du début XXème...)

Bref, on ne peut pas négliger tout ce que l'environnement a déjà donné quand on évalue la vitesse d'apprentissage d'un humain.

[invite6c250b59]

on enseigne le Go (ou les échecs) à des gens dont le cerveau a déjà été préformatté pour assimiler ce genre de jeu à base de règles fortes.

Point de pinaillage: l'intérêt de ces jeux n'est-il pas plutôt parce que notre cerveau n'est pas préformatté pour ce genre de tâche?

Bref, on ne peut pas négliger tout ce que l'environnement a déjà donné quand on évalue la vitesse d'apprentissage d'un humain.

Intéressant. Un complément à l'analogie?

apparition de champions perçus comme des génies == phénomène de transition abrupte de la courbe d'apprentissage

[A voir en vidéo sur Futura]

[pm42]

Point de pinaillage: l'intérêt de ces jeux n'est-il pas plutôt parce que notre cerveau n'est pas préformatté pour ce genre de tâche?

Oui, c'est ce que je dis. Notre cerveau n'est pas préformatté pour faire des jeux, des maths ou des choses comme cela.
Il faut une civilisation, une culture, un système éducatif, etc, pour que cela devienne possible.

apparition de champions perçus comme des génies == phénomène de transition abrupte de la courbe d'apprentissage

Je le vois autrement : à un instant t, on a sur Terre pas mal de milliards de réseaux de neurones.
Parmi ces milliards, certains disposent d'une préconfiguration qui les rend très efficace pour l'apprentissage de certaines tâches.
Quand par hasard, ils sont dans un environnement qui leur fournit de quoi activer cet apprentissage, cela donne un génie.

A la limite, on peut le voir comme un phénomène darwinien : un gène qui donne un avantage + un environnement qui le sélectionne. Si tu n'as pas les 2, tu n'as rien.
On pourrait voir le génie comme celui qui porte un nouveau mème et qui le transmet pour continuer l'analogie avec le gène.