intelligence artificielle (présentation par l' epita...) aller + loin?

[tixelauren]

Bonjour,
je suis d'accord. Le robot reste encore dans les mains de son concepteur pour l'instant... Et tant qu'on n'aura pas une définition claire d'intelligence, il sera difficile de l'appliquer à une innovation technique.
-----

[tixelauren]

Très intéressant.

[tixelauren]

Encore faudrait-il qu'un robot ait une stratégie...

[Deedee81]

Et tant qu'on n'aura pas une définition claire d'intelligence

Il est d'ailleurs à noter que la plupart des discussions sur le sujet on tendance à s'éterniser à cause de ça.

[Deedee81]

Attention, tu as tendance à flooder. Ne répond pas aussi vite et essaie de regrouper tes messages.

Merci,

[tixelauren]

Un robot empathique... ! Wouah ! Pourquoi pas sensible ? Qui pourrait dire : "arrêtez, je frissonne à votre contact" "vous me faites pleurer"...
Vous ne répondez pas à l'ambivalence ceci dit ! L'être humain n'est pas que... logique. Il peut passer 'du coq à l'âne', sans explications. De plus, il peut altérer son état, avec les drogues par exemple. Et son intelligence semble... insaisissable (cf. M. Einstein devant la mécanique quantique, disant 'mon petit doigt me dit qu'elle n'est pas complète'). Enfin, la créativité humaine dépend d' eurekas impromptus, de surgissements inattendus.

[tixelauren]

O.K. j'avais pas compris que vous vous adressiez à moi ! Oui, vous avez raison je vais regrouper dorénavant.
P.S. : essayez d'être plus explicite la prochaine fois, cela évitera les malentendus.

[FinalSpark]

Et tant qu'on n'aura pas une définition claire d'intelligence,

Il est d'ailleurs à noter que la plupart des discussions sur le sujet on tendance à s'éterniser à cause de ça.

Tout à fait d'accord (peut-être d'ailleurs n'y-a-t'il pas de définition claire de l'intelligence... )

A tout le moins, pour avancer dans cette discussion je pense qu'il est important d'avoir -au moins- une compréhension intime d'un réseau de neurones artificiels (au passage l'IA ne résume pas à cela). Ce qui, idéalement, veut dire en avoir codé un soi-même, sinon on croit avoir compris... et on n'a pas vraiment compris....

A défaut de coder, il faut au moins pratiquer et je vous recommande chaudement le site de tensorflow:

https://playground.tensorflow.org/

Il permet de faire des apprentissages de réseaux de maniére ludique, sans une ligne de code, et pourra peut-être contribuer à clarifier encore plus l'esprit des intervenants.... (dont j'apprécie pour ma part déjà les différents messages!)

[pm42]

peut-être d'ailleurs n'y-a-t'il pas de définition claire de l'intelligence...

Sans doute mais je pense de plus en plus que la bonne définition de l'IA est "ce qu'on ne sait pas faire faire à un ordinateur pour le moment".
Et que le jour où on aura une IA forte qui passera les tests de Turing et ceux inventés depuis, fera preuve de créativité, sera capable de détecter nos émotions et d'y répondre finement, il y aura des fils sur les forums expliquant qu'elle ne pense pas vraiment et que ce ne sont que des algorithmes

[Avatar10]

Sans doute mais je pense de plus en plus que la bonne définition de l'IA est "ce qu'on ne sait pas faire faire à un ordinateur pour le moment".
Et que le jour où on aura une IA forte qui passera les tests de Turing et ceux inventés depuis, fera preuve de créativité, sera capable de détecter nos émotions et d'y répondre finement, il y aura des fils sur les forums expliquant qu'elle ne pense pas vraiment et que ce ne sont que des algorithmes

Une question, est-ce qu'une IA pourra penser (à définir) dans le "sens commun", c'est à dire penser autrement que "ce qui est le plus logique"?
en d'autres mots, la pensée se résume t-elle à la meilleure logique? Si on veut pouvoir dire qu'une IA pense, au sens de pensée humaine, il faudra qu'elle fasse aussi des erreurs ( une IA forte fera t-elle des erreurs?).
Je précise que ce domaine est nébuleux pour moi, donc...

[pm42]

il faudra qu'elle fasse aussi des erreurs ( une IA forte fera t-elle des erreurs?).

Les IAs actuelles font des erreurs. Si toi tu écoutes quelqu'un te parler, tu vas avoir un certain taux d'erreur et parfois, entendre un mot pour un autre. C'est pareil pour les IAs.
Il faut aussi voir que souvent quand on parle d'intelligence, on fait référence au raisonnement logique, quasi-mathématique. Mais un cerveau humain passe le plus gros de son temps à faire beaucoup d'autres choses, à reconnaitre des formes, à utiliser une mémoire associative, à ressentir des émotions.
Et tout cela est fondamental : prendre des décisions sans émotions n'est pas forcément possible (voir les travaux de Damasio).

Actuellement, on essaie de reproduire certaines de ces fonctions. Pour certaines on y arrive, parfois mieux que les humains, parfois moins bien, pour d'autres pas du tout.

Je précise que ce domaine est nébuleux pour moi, donc...

Il l'est un peu pour tout le monde parce que les concepts de pensée, d'intelligence, etc, ne sont pas clairement définis. Et qu'on ne sait pas du tout ce à quoi une IA forte ressemblera, quand on y arrivera si on y arrive, etc.

C'est ce qu'on disait plus haut : si ça se trouve, il se passera la même chose que pour le calcul et la machine fera les choses de façon très différente de nous mais pas moins efficacement.

[Deedee81]

Il l'est un peu pour tout le monde parce que les concepts de pensée, d'intelligence, etc, ne sont pas clairement définis. Et qu'on ne sait pas du tout ce à quoi une IA forte ressemblera, quand on y arrivera si on y arrive, etc.

Il y a quelques mois j'avais lut un neurologue qui disait (je paraphrase) "malgré tout ce qu'on lit et malgré tous ce qu'on découvre, en fait, on ne sait toujours pas comment fonctionne le cerveau" (sous entendu, on ne connait que la pointe de l'iceberg). Et je dirais qu'en matière d'IA (par comparaison à nous) on en est au même point. Nous sommes des enfants qui découvrent qu'ils pensent

[Avatar10]

Les IAs actuelles font des erreurs.

Oui, c'est pour ça que je demandais pour une IA forte (et pour une personne lambda, ça doit signifier un truc du genre : qui sera d'une logique et donc d'une performance la plus implacable possible, et bien sûr, ce n'est qu'une facette du package "intelligence").

[pm42]

et pour une personne lambda, ça doit signifier un truc du genre : qui sera d'une logique et donc d'une performance la plus implacable possible

C'est une vision de l'intelligence, quelque chose de très froid comme Spock ou certains ordinateurs de SF.
Mais une IA forte qui interagirait avec des humains serait sans doute assez intelligente pour savoir que ce coté "100% logique" ne permet pas de communiquer efficacement et provoque des réactions de rejets.

Elle chercherait sans doute au contraire à créer des liens émotionnels et ce d'autant plus que la recherche sur le sujet est déjà pas mal avancée actuellement.

[Deedee81]

Ca reste amha fort spéculatif, dans un sens ou l'autre. Personne ne sait vraiment à quoi ressemblera une ia forte.

[pm42]

Ca reste amha fort spéculatif, dans un sens ou l'autre. Personne ne sait vraiment à quoi ressemblera une ia forte.

Oui, on peut vraiment tout imaginer (et cela a été fait d'ailleurs).

[Liet Kynes]

Ca reste amha fort spéculatif, dans un sens ou l'autre. Personne ne sait vraiment à quoi ressemblera une ia forte.

J'ai été un lecteur assidu de Franck Herbert, dans le programme conscience il développait des idées intéressantes, c'est de la "bonne" SF.

[GBo]

Bonsoir, je commence par la fin car c'est le plus important et je crois, car ce qui a provoqué le schisme, dis moi si tu es d'accord sur notre désaccord:

[...]
Bref, pour moi il s'applique même vu à la loupe, car l'effort proposé n'y verra que des tâches automatisées, qu'on peut réduire à des actions élémentaires extrêmement simples, triviales à comprendre, s'enchaînant de manière automatique, répétitives et imitables. Soit rien de plus ce que le message d'aygline invoque.

Le message d'Aygline est faux en ce sens qu'il confond le mode d'action d'un réseau de neurones artificiels (entrainé, prêt à l'usage), avec la façon dont on s'y est pris pour fixer certaines de ses variables (a.k.a. "l'entrainement"). Je rappelle ici le message d'Aygline qui a fait tiquer:

[Les IAs] obéissent aveuglément à des injonctions genre à des algorithmes ensuite programmés, qui ont été pensés en amont par des ingénieurs.

Ce n'est tout simplement pas le cas, il y a d'ailleurs des architectures de réseaux qui marchent mieux que d'autres pour un usage donné quelle que soit la méthode d'entrainement, ce qui est la meilleure preuve, à mon sens, d'une confusion avec l'informatique programmatique classique.

[Amanuensis]

Le message d'Aygline est faux en ce sens qu'il confond le mode d'action d'un réseau de neurones artificiels (entrainé, prêt à l'usage), avec la façon dont on s'y est pris pour fixer certaines de ses variables (a.k.a. "l'entrainement"). Je rappelle ici le message d'Aygline qui a fait tiquer:

Le message ne distingue pas les deux phases, mais cela ne le rend pas faux, puisque ce qu'il indique s'applique aux deux phases. L'apprentissage est une tâche exécutée aveuglément suivant les injonctions pensées en amont par des ingénieurs.

Le message n'est faux qu'aux yeux de ceux qui veulent faire une différence entre les deux aspects, autrement dit le traiter de faux n'est qu'une pétition de principe.

il y a d'ailleurs des architectures de réseaux qui marchent mieux que d'autres pour un usage donné quelle que soit la méthode d'entrainement, ce qui est la meilleure preuve, à mon sens, d'une confusion avec l'informatique programmatique classique.

Je ne vois là rien d'autre que la pétition de principe.

--

En quoi la phrase " obéir aveuglément à des injonctions genre à des algorithmes ensuite programmés, qui ont été pensés en amont par des ingénieurs." ne s'applique pas à la tâche d'apprentissage (= d'entraînement, à moins qu'il n'y ait une différence pertinente entre les deux termes, dans le contexte) ?

J'aurais pensé que c'était factuel ! Toutes les techniques de l'IA passent par la programmation de calculateurs par des humains, non? Si non, merci de donner un contre-exemple.

Bien sûr on peut présenter "fixes des paramètres" comme "programmer". Il y a un continuum sémantique, et, comme toujours dans ce cas, une propension à mettre plus ou moins arbitrairement des seuils absolus.

Peut-être qu'un jour un calculateur ré-écrira l'intégralité de son propre code. Un tel bootstrap serait un seuil disons, "peu arbitraire". Et on pourra alors analyser (puisqu'on pourra lire ce qu'il fait) quels critères (pourra-t-on parler de but ?) sont appliqués pour cette ré-écriture. Mais on n'y est pas encore.

Mon opinion est juste que c'est très prématuré de dire que la phrase d'Aygline est fausse. La distinction non faite (= ce qui est traité péjorativement de confusion) sera peut-être nécessaire, utile, significative, ce qu'on voudra, un jour. Mais pas aujourd'hui.

[pm42]

Je ne vois là rien d'autre que la pétition de principe.

J'ai vraiment du mal à voir en quoi les affirmations des autres sont des pétitions de principe et pas celles d'Amanuensis qui ne les étaye pas par des liens ou des références.

En quoi la phrase " obéir aveuglément à des injonctions genre à des algorithmes ensuite programmés, qui ont été pensés en amont par des ingénieurs." ne s'applique pas à la tâche d'apprentissage

Il faudrait connaitre les mécanismes d'apprentissage pour le savoir et on en revient au même point : parler d'IA et faire des affirmations basée sur une vision "mécanique" de la programmation, celle de gens qui ont vaguement vu de loin des petits programmes induit à des erreurs.
C'est exactement la même chose que les gens qui veulent absolument garder leur logique newtonienne dans un contexte de Relativité Générale et qui pensent arriver quand même à des conclusions valides.

Dans le cas des IA actuels, 2 apprentissages successifs avec les mêmes données ne donnent pas les mêmes résultats. Ensuite, un certain nombre de systèmes sont en apprentissage continu et voient donc leur comportement évoluer bien après que leurs concepteurs les aient lachés dans la nature. Cela donne par exemple l'exemple célèbre du chatbot de Microsoft qui devient raciste suite à ses interactions sur un forum mais il y a d'autres cas.

C'est même un des axes de recherche pour éviter qu'on puisse "hacker" des IAs sur des domaines plus sérieux en leur envoyant des jeux de donnés conçus pour faire dérailler leur apprentissage.

Bien sûr on peut présenter "fixes des paramètres" comme "programmer".

Là aussi, c'est un gros contresens basé sur la non connaissance et non pratique du domaine : on ne fixe pas de paramètres justement.

Peut-être qu'un jour un calculateur ré-écrira l'intégralité de son propre code.

C'est l'équivalent de dire "un jour un humain reconstruira l'intégralité de son cerveau" et comme toutes les affirmations plus haut, c'est basé sur la cette confusion posée comme principe entre la programmation classique et l'IA actuelle.

Mon opinion

Tu as le droit d'avoir une opinion mais en n'ayant pas de formation solide en informatique, pas du tout en IA et en n'ayant jamais fait de projet IA, sa valeur n'est pas forcément très grande.
Là encore, on est exactement dans le cas des gens qui "trouvent des contradiction dans la Relativité" après avoir uniquement lu de la vulgarisation.

[GBo]

@Amanuensis: ce que je crois avoir compris de ta position, c'est que tu balayes les différences entre le fonctionnement d'un "programme" (d'informatique classique) et celui d'une "architecture" (de réseau de neurones artificiels) - ce qui est choquant pour certains d'entre nous - pour mieux insister sur les différences entre les neurones artificiels (déroulant un programme comme un autre, pour toi) et les neurones naturels. Si c'est bien cela, confirme notre désaccord de fond car je suis persuadé au contraire, en tout cas pour les applications que je connais des neurones artificiels (classification des images), que l'on a mis là le doigt sur quelque chose de profondément similaire au fonctionnement animal. Mais j'admets que c'est une croyance, une intuition, que je ne pourrais transformer en connaissance que lorsqu'on aura complètement décortiqué/élucidé le fonctionnement du cortex visuel d'un chat par exemple.

[GBo]

@pm42, c'est moi et non ama qui assimile l'apprentissage d'un réseau de de neurones artificiels en une opération visant à la fixation des paramètres du réseau (e.g. les fameux "weights" du neurone formel originel). Bien sûr je ne voulais pas dire que l'on fixait les paramètres directement, il faudrait une infinité de tentatives pour arriver à quelque chose d'utile.
Mais suis-je dans l'erreur d'avoir dit ça ? merci.

[pm42]

@pm42, c'est moi et non ama qui assimile l'apprentissage d'un réseau de de neurones artificiels en une opération visant à la fixation des paramètres du réseau (e.g. les fameux "weights" du neurone formel originel).

J'ai écrit ça parce que de ce qu'il écrit, je comprends qu'il a une vision très déterministe de la construction d'une IA.
Comme je le disais, c'est la même chose avec la programmation : les gens qui en ont fait un peu ne perçoivent pas qu'avec le changement d'échelle, il y a aussi un changement qualitatif.

Bien sûr je ne voulais pas dire que l'on fixait les paramètres directement, il faudrait une infinité de tentatives pour arriver à quelque chose d'utile.
Mais suis-je dans l'erreur d'avoir dit ça ?

Non mais comme souvent avec ce genre de discussions, employer un vocabulaire vulgarisé permet plusieurs interprétations et complique la discussion.

Pour faire une IA, on va d'abord construire une architecture puis choisir des méta-paramètres sur la base d'heuristiques puis lui faire apprendre ses paramètres (et cela peut aller jusqu'à un gros paquet de milliards).
Et éventuellement faire de l'optimisation des méta-paramètres.

Ensuite, on peut figer le modèle et l'utiliser ou au contraire le mettre dans un mode d'apprentissage continu ce qui veut dire que les paramètres vont changer très régulièrement.

Bref, "fixer les paramètres" devrait être précisé parce que là comme ça, je vois au moins 3 interprétations.

[Deedee81]

Salut,

les gens qui en ont fait un peu ne perçoivent pas qu'avec le changement d'échelle, il y a aussi un changement qualitatif.

Si, si,.... enfin, bon j'en n'ai pas fait "qu'un peu" donc je ne suis peut-être pas un bon exemple

[RiketRok]

Si je peux me permettre de partager mon avis, Amanuensis aura toujours raison, dans le sens où il est impossible d'avoir un programme qui, remonté jusqu'à son origine, n'aura pas été produit par une personne au moins indirectement.

Là où Amanuensis se trompe me semble-t-il, c'est dans sa distinction entre un algorithme et l'intelligence humaine : dire qu'un phénomène suit un algorithme signifie que ce phénomène obéit aux lois naturelles que l'on a établit, c'est tout. Un pĥénomène qui ne peut être simulé par un algorithme, on appelle ça de la magie et ça n'a encore jamais été observé dans la nature.

Donc dire qu'un ingénieur écrit des algorithmes de façon péjorative, minimisante, est une grossière erreur, l'intelligence, au regard de toutes les expériences scientifiques qui ont été menées jusqu'à présent, doit pouvoir être simulée par un algorithme. Le contraire anéantirait la causalité, émettrait l'hypothèse qu'il y a plus que des atomes et leurs propriétés connues qui sont à l'origine de nos pensées. Libre à quiconque de croire cela, mais ça avance en marche contraire à celle de la science

Donc, contrairement à ce que croit Amanuensis, penser qu'une IA forte serait un "futur imaginaire", que la "dernière marche" en IA serait inférieure à l'intelligence humaine, est une idée qui défie les tendances technologiques actuelles ainsi que les lois de la physique.

Quant à l'apprentissage à l'aide de buts, je n'ai pas très bien compris l'idée d'Amanuensis, mais il me semble que ça se fait déjà en IA, pour le GO, aux échecs, à Dota 2... le robot doit gagner ou maximiser certaines variables, et il met tout en oeuvre pour y arriver ?

Un robot empathique... ! Wouah ! Pourquoi pas sensible ? Qui pourrait dire : "arrêtez, je frissonne à votre contact" "vous me faites pleurer"...
Vous ne répondez pas à l'ambivalence ceci dit ! L'être humain n'est pas que... logique. Il peut passer 'du coq à l'âne', sans explications. De plus, il peut altérer son état, avec les drogues par exemple. Et son intelligence semble... insaisissable (cf. M. Einstein devant la mécanique quantique, disant 'mon petit doigt me dit qu'elle n'est pas complète'). Enfin, la créativité humaine dépend d' eurekas impromptus, de surgissements inattendus.

Les émotions ne semblent pas si farfelues que ça, la conscience / nos sensations lorsque l'on ressent les émotions, oui, mais les émotions en elle-même ne semblent pas si complexes, il suffit de lire une vulgarisation comme celle-ci pour en avoir l'intime conviction.

Les eurekas impromptus semblent être des "calculs" faits en arrière plan, rien de sorcier là dedans.

Mais une IA forte qui interagirait avec des humains serait sans doute assez intelligente pour savoir que ce coté "100% logique" ne permet pas de communiquer efficacement et provoque des réactions de rejets.

Elle chercherait sans doute au contraire à créer des liens émotionnels et ce d'autant plus que la recherche sur le sujet est déjà pas mal avancée actuellement.

Exactement ! Les relations sociales entre humains ne sont pas si "naturelles" que ça, elles sont apprises, il y a des codes qui varient d'endroit à endroit. C'est une compétence qu'une IA générale devrait pouvoir apprendre.

[pm42]

Si je peux me permettre de partager mon avis, Amanuensis aura toujours raison, dans le sens où il est impossible d'avoir un programme qui, remonté jusqu'à son origine, n'aura pas été produit par une personne au moins indirectement.

Les êtres humains ne naissent pas par génération spontanée et n'apprennent pas tous seuls dans leur coin non plus. J'ai l'impression qu'il y a un biais qui tend à mythifier l'intelligence et les émotions humaines comme quelque chose d'exceptionnel et donc à monter la barre en permanence chaque fois qu'on arrive à en reproduire certaines caractéristiques.

Les humains aussi sont entrainés par l'exposition à des données, le résultat final est statistiquement prévisible, cet entrainement est réalisé par d'autres êtres humains qui cherchent à obtenir un certain résultat.
C'est également ce qu'on fait avec les animaux : on utilise des méthodes formalisées pour les dresser et ça marche très bien.

Je ne nie pas les différences avec l'entrainement d'un réseau de neurones bien sur, je dis juste que la plupart des remarques sur l'IA ramenée à cette vision mécanique et un peu méprisante de "ce n'est qu'un algorithme" me semble plus basée sur la mythification indiquée plus haut qu'autre chose.

[GBo]

Sauf si l'aspect "mécanique" s'applique aussi à la pensée animale et humaine, tu sais qu'il y a celle école aussi, et donc pas méprisante du tout suivant d'"où" l'on parle.

[RiketRok]

Entièrement d'accord, le débat semble avoir déraillé, Amanuensis dit "IA experte = réseaux neuronaux = algorithmes," sauf que les applications des uns et des autres sont entièrement différentes et révolutionnent nos vies.

Est-ce que "monde sans voiture autonomes" = "monde avec voitures autonomes" = monde ?

[RiketRok]

Et mettre IA experte + réseaux neuronaux dans un sac et l'intelligence humaine dans un autre n'a pas beaucoup de sens, vu que les deux premiers sont extrêmement limités par le hardware sur lequel ils opèrent.

Petit exercice de pensée, si le hardware que l'on avait aujourd'hui était infiniment puissant, il me semble qu'il est probable que l'on aurait déjà une IA générale par génération aléatoire de programmes. Donc, en théorie, la meilleure approximation que l'on peut faire aujourd'hui du développement de l'IA en fonction du hardware est une ligne qui connecte "pas d'IA générale" à "IA générale". Amanuensis semble tirer un trait en plein milieu de la droite en disant "il y a un plafond là, j'en suis persuadé".

[GBo]

[...]
Petit exercice de pensée, si le hardware que l'on avait aujourd'hui était infiniment puissant, il me semble qu'il est probable que l'on aurait déjà une IA générale par génération aléatoire de programmes. Donc, en théorie, la meilleure approximation que l'on peut faire aujourd'hui du développement de l'IA en fonction du hardware est une ligne qui connecte "pas d'IA générale" à "IA générale". Amanuensis semble tirer un trait en plein milieu de la droite en disant "il y a un plafond là, j'en suis persuadé".

Pas d'accord avec toi, et des spécialistes très reconnus comme Yann Le Cun admettent que l'IA forte ou GAI n'est qu'un axe de recherche fondamentale balbutiant, et surtout pas qu'une question de puissance. C'est là que le débat est intéressant.
Pour moi on est proche en 2021 de circuits spécialisés comme le cortex visuel ou auditif animal, avec des perfs parfois meilleures que l'humain (pour analyser des radios médicales parait-il, l'avis de mh34 serait utile sur le sujet ), mais très loin des autres fonctions du cerveau.