intelligence artificielle (présentation par l' epita...) aller + loin?

[pm42]

pm42 infirmera ou confirmera mais je ne crois pas qu'il parlait de juste "reconnaitre la forme des lettres"

Il faudrait préciser. Les lettres sont peut-être "juste des formes" mais avec une variété tellement grande que c'est limitant de dire ça. On peut regarder un exemple (et pas le pire) ici : https://sandipanweb.wordpress.com/20...th-tensorflow/
C'est exactement le genre de chose qui ont lancé la révolution deep-learning : les algorithmes classiques avaient du mal et ne progressaient que très lentement alors qu'aujourd'hui, on est très proche voire au delà de la perf des humains.

Et quand on parle de reconnaitre de l'écriture manuscrite cursive, c'est encore autre chose et là aussi, on met de la "mémoire" dans les réseaux pour qu'ils ne décodent pas lettre par lettre parce que le nombre de formes que peut prendre un même mot écrit par des humains est gigantesque.
-----

[GBo]

Pour renforcer ce que tu dis pm42, les captcha avec épreuve de reconnaissance de mots à lettres distordues ou scannés sont en voie de disparition, les bots ayant dépassé nos capacités, en tout cas les miennes vu que sur la fin, je devais cliquer sur retry plus souvent que j'oserais l'avouer eu égard au respect que l'on doit à mon espèce ...

[Amanuensis]

Vous bloquez sur un "mot" (intelligence), comme d'autre bloquaient dès qu'on parlait d'intelligence animale

Je dois avouer que je bloque quand même quand on parle de "intelligence végétale" (taper ces mots dans un moteur de recherche quelconque pour un tas de références).

Peut-être est-ce religieux ? Je ramène plutôt ce blocage à ma mentalité d'ingénieur.

Je cite cela car il semble difficile de nier qu'on assiste actuellement à un mouvement de balancier allant trop loin dans l'autre direction quant à l'emploi du mot "intelligence". La leçon du passé ne s'applique pas directement au présent.

[BrainMan]

Je cite cela car il semble difficile de nier qu'on assiste actuellement à un mouvement de balancier allant trop loin dans l'autre direction quant à l'emploi du mot "intelligence". La leçon du passé ne s'applique pas directement au présent.

Effectivement, et c'est peut-être simplement lié au fait qu'on attribue de l'intelligence à des IA (vu déjà qu'on a intelligence dans le terme IA...).
Si une IA est dite intelligente, pourquoi pas une plante ?

Mais bon, ça aura au moins eu le mérite de montrer que l'intelligence telle qu'elle est reconnue chez l'Homme est constituée d'un ensemble de capacités, qui prises isolément sont pourtant assez élémentaires.

Sinon, si on veut aller "plus loin", donc au moins égaler les capacités humaines, je pense que l'acquisition de l'expérience en milieu réel est une nécessité.
Le vivant ayant à ce niveau et pour le moment un avantage, du fait qu'une partie de cette expérience est déjà écrite dans la physiologie et le métabolisme (ce qui comprend la structuration cérébrale) du fait des millions d'années d’expérience en milieu réel.
Ce qu'on observe donc effectivement chez les plantes également, les processus les plus utiles (comprenons ici intelligents) sont aussi ceux qui se sont conservés et développés.

[GBo]

@Amanuensis : je suis entièrement d'accord avec toi qu'il y a un abus marketing de tout, porté jusqu'à l'ecoeurement aujourd'hui pour les purs et durs de la technique que nous sommes. J'ai des anecdotes saignantes mais j'ai un devoir de réserve.
Et ça ne date pas d'hier: puisqu'on a été dans la même branche, te souviens-tu de la mode des Smart Antennas ? Et quid du "Green IT" des années 2005 ? Foutaises : le vrai green IT c'est de replacer des Xeon de vieille archi/fonderie par des ARM-64, mais on n'en parlera même plus car la mode de communiquer avec du "Green" a été galvaudée.

Pour autant, ce serait dommage de rester bloqué sur un terme, fût-il exagéré. "Deep learning" comme sous-catégorie en vogue de l'IA et des ANN peut aussi paraitre prétentieux, mais quand on regarde bien :
- "Deep" car réseau multicouche (c'est la seule profondeur revendiquée dans les textbooks)
- "Learning" car on est obligé de leur faire subir une série de passes d'optimisation de paramètres en fonction d'un but à atteindre, ce qui ressemble fortement à un apprentissage par un instituteur infiniment patient...

[Deedee81]

- "Learning" car on est obligé de leur faire subir une série de passes d'optimisation de paramètres en fonction d'un but à atteindre, ce qui ressemble fortement à un apprentissage par un instituteur infiniment patient...

Il y a aussi l'apprentissage sans donnée fournie (comme AlphaZéro) mais c'est vrai qu'à ma connaissance c'est assez exceptionnel. A vérifier mais je ne crois pas qu'il y ait d'autres cas. Toutes les études récentes que j'ai lu sur l'IA font appel à un apprentissage par un "instituteur"

[GBo]

+1 Deedee81, et il y a aussi les GANs, l'"instituteur" est une autre IA si j'ai bien compris !
https://fr.wikipedia.org/wiki/R%C3%A...9n%C3%A9ratifs

[Amanuensis]

@Amanuensis : je suis entièrement d'accord [...] qu'il y a un abus marketing de tout, porté jusqu'à l'ecoeurement aujourd'hui pour les purs et durs de la technique que nous sommes.

J'ai le sentiment que pour le terme "intelligence" ce n'est pas "que marketing", que ce serait juste un décalage de sens vers l'hyperbole d'un terme vu comme "positif". La position de l'homme dans l'univers est une (la ?) question centrale des religions. Je peux voir dans l'extension de sens du terme "intelligence" le développement d'une autre vision de ce qu'est l'homme. (Et, pour répéter, the proper study of mankind is man ; autrement tout sujet est abordé de manière omphalocentrique.)

C'est un autre sujet, bien d'accord. Mais il indique que la notion de "intelligence" est trop chargée pour être discutée objectivement par les humains.

[pm42]

En repensant à ce fil, j'ai l'impression qu'un sujet est que nous évaluons mal la complexité de différentes tâches.

Par exemple, pour les humains, dériver, intégrer, résoudre des systèmes d'équations est difficile : on l'enseigne assez tard, à une relativement petite partie de la population et pour certaines de ces tâches, il faut "du talent" ou "des astuces".
Par contre, le programmer dans les calculateur formels a été assez facile, ils n'y a pas besoin d'IA et ils sont meilleurs que l'immense majorité des humains.

A contrario, reconnaitre des formes est incroyablement difficile : si on essaie de le faire "algorithmiquement", on n'y arrive pas. Parce qu'ils suffit que la forme soit inclinée de quelques degrés, un peu déformée, etc, pour que cela devienne l'enfer à exprimer.
Pourtant, cela nous parait très facile.
Sauf que notre cerveau est l'héritier de centaines de millions d'années d'évolution sur le sujet et qu'on nait avec la plus grande partie précablée. Les 1er organismes a avoir développé une vision ne faisaient pas grand chose et il a fallu beaucoup d'essais/erreurs pour arrivé à l'humain (et aux rapaces par ex).

C'est la même chose pour tous les tests basé sur le langage : très peu d'espèces en ont développé un sophistiqué, aucune à part nous permettant de transmettre des concepts abstraits et même comme cela, il faut du temps pour le maitriser : les enfants commencent à parler vers 2 ans puis continuent à apprendre pendant plus de 10 ans.
Et même comme ça, pour comprendre des instructions comme "donne moi la dernière lettre du dernier mot de chaque phrase", il faut avoir reçu une éducation : par défaut, les humains ne lisent pas et ne l'apprennent pas par eux-même.

Ce qui amène au dernier point : en IA, on distingue l'apprentissage supervisé où on donne à la machine des données et leur classification et elle apprend à extrapoler et l'apprentissage non supervisé où elle doit essayer de reconnaitre les régularités elle-même.
Autant dire qu'on est aujourd'hui largement meilleur en supervisé qu'en non supervisé.

Mais les humains sont pareils : à part pour les fonctions "pré-cablées" par l'évolution (qui donnent les enfants sauvages par ex), le reste, c'est de l'apprentissage supervisé.
Quand on a l'impression qu'on apprend par nous même, c'est parce qu'on nous a donné tous les outils pour : on nous as appris à parler, à lire, on a souvent ici eu une formation scolaire/universitaire qui nous a appris à réfléchir et apprendre rigoureusement...
Donc oui, on a développé une capacité de méta-apprentissage, appris à apprendre et cela, les IAs en sont loin en effet.

Mais là aussi, c'est une compétence incroyablement difficile : une seule espèce l'a développé, cela a pris très longtemps et tous ses membres ne dispose pas de cette capacité (ou en tout cas, elle est très variable suivant les cultures et les individus).

On ne peut pas extrapoler quelles tâches sont faciles ou difficiles suivant l'impression qu'en a un occidental avec formation lycée ou fac au XXIème siècle. A titre d'anecdote, quelqu'un m'avait raconté que si on demandait à des chasseurs à l'arc actuels, élevé dans une culture pré-néolithique de tirer sur une cible comme nous le faisons, ils n'y arrivaient pas : ils ne comprenaient pas le concept. Pourtant, ils ont le même cerveau que nous mais l'apprentissage est quasiment impossible.

[Amanuensis]

- "Learning" car on est obligé de leur faire subir une série de passes d'optimisation de paramètres en fonction d'un but à atteindre, ce qui ressemble fortement à un apprentissage par un instituteur infiniment patient...

Cela ramène à une question de fond qui a une place centrale dans les recherches des cognitivistes, à savoir non pas "l'apprentissage", mais les différents modes d'apprentissage. Non seulement il n'y en a pas qu'un, mais ils diffèrent fortement. On n'apprend pas la Physique Quantique comme on apprend à reconnaître une lettre écrite ou comme on apprend à faire du vélo.

Le terme "learning" est donc très flou, et susceptible lui-même d'usage "marketing".

il y a aussi les GANs, l'"instituteur" est une autre IA si j'ai bien compris !
https://fr.wikipedia.org/wiki/R%C3%A...9n%C3%A9ratifs

Ce qui pourrait être présenté comme une évolution vers un autre mode d'apprentissage.

----

Dans ma philosophie personnelle, je pense qu'une particularité de l'humain, comparée avec les autres animaux, est ce que j'appelle "l'apprentissage vicariant", basée sur l'extraordinaire faculté du langage de faire partager à d'autres humains une partie de son expérience personnelle ("raconter") et que cette expérience vicariante soit exploitée, par ces autres humains, comme une expérience directe.

Et cela les algorithmes ne pourront pas le faire sans être capable de distinguer ce qui est "l'expérience humaine" et "leur expérience en tant que machine".

Aucune des méthodes d'apprentissage par des algorithmes n'approche actuellement même de loin l'apprentissage vicariant ; ce sont d'autres méthodes d'apprentissage, bien moins sophistiquées, qui sont mises en œuvre.

Ce qui laisse une énorme place pour débattre du sujet comme Archi3 le fait.

[Archi3]

Mais les humains sont pareils : à part pour les fonctions "pré-cablées" par l'évolution (qui donnent les enfants sauvages par ex), le reste, c'est de l'apprentissage supervisé.
Quand on a l'impression qu'on apprend par nous même, c'est parce qu'on nous a donné tous les outils pour : on nous as appris à parler, à lire, on a souvent ici eu une formation scolaire/universitaire qui nous a appris à réfléchir et apprendre rigoureusement...
Donc oui, on a développé une capacité de méta-apprentissage, appris à apprendre et cela, les IAs en sont loin en effet.

Mais là aussi, c'est une compétence incroyablement difficile : une seule espèce l'a développé, cela a pris très longtemps et tous ses membres ne dispose pas de cette capacité (ou en tout cas, elle est très variable suivant les cultures et les individus).

je suis d'accord avec ce que tu dis, que la supériorité de l'humain réside certainement dans un "précablage" génétique sélectionnée par des milliards d'années d'évolution pour s'adapter au monde qui l'entoure, et d'ailleurs dans un univers virtuel de formes inconnues on aurait beaucoup de mal à reconnaitre des motifs, beaucoup plus que de reconnaitre un animal dans un contexte naturel, parce que pour l'homme c'était bien plus important de reconnaitre des proies ou des prédateurs que des dodécagones ou d'autres formes encore plus tarabiscotées . Ou encore je suppose qu'on pourrait apprendre bien plus facilement à une IA de distinguer une parabole d'une courbe du 4e degré que pour un humain.
Mais mon point était que
a) pour beaucoup de gens, la similarité des résultats obtenus (par exemple avec des conversations usuelles telles que les bots peuvent les faire, ou le fait qu'un machine "sache jouer aux échecs") , est prise à tort comme une preuve de similarité de structure , et encore pire comme une source d'extrapolation vers "donc on peut tout faire".
b) les machines ont été créées et utilisées pour des choses très différentes que les humains : les machines ont été créées, et surtout sélectionnées dans des buts intéressants pour les humains (si un programme ne fait pas ce que tu veux, tu l'effaces et tu en écris un autre, ses chances de survie sont donc nulles), alors que les humains sont apparus pour survivre dans un environnement naturel plein de dangers et de prédateurs. Il ne faut donc pas s'attendre à ce que ça donne la même chose à la fin. C'est évident qu'on ne dotera jamais une voiture autonome de la capacité à décider d'aller ailleurs que là où tu lui dis d'aller, alors que c'est non moins évident que tu ne peux jamais etre sur qu'un humain soit d'accord pour faire ce que tu lui dis de faire - on ne créera donc jamais des machines capables de se révolter comme dans les films de SF, sous prétexte qu'elles seraient "plus puissantes que les humains". L'IA est aussi un lieu de projection des fantasmes humains, comme d'autres domaines.

[Merlin95]

Le deep learning et AlphaZero m'ont jeté un doute. Serait-il possible de décrire un peu comment ça fonctionne car je vois pas comment ça peut marcher. De ce que j'ai compris la machine joue contre elle-même dans la phase "d'apprentissage" pour évaluer les conséquences si elles aboutissent à une victoire ou à une défaite.

Ok cela repose sur le fait qu'il vaut mieux pour aller disons de A à B, passer par des points intermédiaires eux aussi optimisés ? Et c'est une propriété du jeu humain de répondre à cette règle pour qu'il puisse s'amuser (exit les jeu chaotique vaut mieux jouer au tiercé) ? est-ce grossièrement l'idée ou y-a-t-il plus ?

[pm42]

Le deep learning et AlphaZero m'ont jeté un doute. Serait-il possible de décrire un peu comment ça fonctionne car je vois pas comment ça peut marcher. De ce que j'ai compris la machine joue contre elle-même dans la phase "d'apprentissage" pour évaluer les conséquences si elles aboutissent à une victoire ou à une défaite.

Je ne suis pas sur de bien comprendre tes questions mais AlphaZero utilise de l'apprentissage par renforcement :

https://fr.wikipedia.org/wiki/Appren...r_renforcement
et plus accessible : https://www.lebigdata.fr/reinforceme...ing-definition

mais tu trouveras pas mal d'infos avec les bons mots clés.

[Merlin95]

Ok merci c'est plus concret pour moi.

[RiketRok]

on ne créera donc jamais des machines capables de se révolter comme dans les films de SF, sous prétexte qu'elles seraient "plus puissantes que les humains".

Le mot "jamais" est quand même pas mal osé pour décrire le futur, si une voiture autonome n'aura peut-être jamais une conscience propre, qu'est ce qui empêcherait des labos voir des amateurs une fois les algorithmes démocratisés de créer leurs propres architectures d'IA sans but industriel en vue ?

[pm42]

Le mot "jamais" est quand même pas mal osé pour décrire le futur

Oui et sur ce sujet, en gros les IA fortes, j'ai du mal à voir comment on peut faire une affirmation quelconque dans un sens ou dans l'autre. Si on avait demandé d'imaginer le futur même à un scientifique brillant d'il y a 2 ou 3 siècles, il y a peu de chances qu'il ait parlé de voitures autonomes par ex

[Merlin95]

Par contre moins difficile de -500 à +500.

[Archi3]

Le mot "jamais" est quand même pas mal osé pour décrire le futur, si une voiture autonome n'aura peut-être jamais une conscience propre, qu'est ce qui empêcherait des labos voir des amateurs une fois les algorithmes démocratisés de créer leurs propres architectures d'IA sans but industriel en vue ?

qu'est ce que tu veux dire par "les algorithmes démocratisés" ?

[Bounoume]

Dans ma philosophie personnelle, je pense qu'une particularité de l'humain, comparée avec les autres animaux, est ce que j'appelle "l'apprentissage vicariant", basée sur l'extraordinaire faculté du langage de faire partager à d'autres humains une partie de son expérience personnelle ("raconter") et que cette expérience vicariante soit exploitée, par ces autres humains, comme une expérience directe.
.../....
Aucune des méthodes d'apprentissage par des algorithmes n'approche actuellement même de loin l'apprentissage vicariant ; ce sont d'autres méthodes d'apprentissage, bien moins sophistiquées, qui sont mises en œuvre.

J' ai l' impression que.... cet enseignement ex cathedra des catégories et des règles revient à activer/désactiver ou recruter des instances de processus, eux, construits par l' interaction structures innées et apprentissage simple.......
Un peu comme si la lecture d' un ouvrage scientifique provoquait, dans mon 'modèle' d' IASuper-forte..... la création de portes logiques régissant des interactions entre divers ANN() déjà installés, et qui gouvernent les flux de 'pensée' de l' avatar.....

note: je plagie un peu la distinction de Kahneman en Système1 et Système2......

[RiketRok]

qu'est ce que tu veux dire par "les algorithmes démocratisés" ?

Un peu comme pour le machine learning aujoud'hui, n'importe qui peut créer son propre modèle d'apprentissage et en manipuler les paramètres. Il est fort probable que dans le futur n'importe qui pourra faire de même avec une IA forte.

Et si l'IA forte devait voir le jour entre de mauvaises mains au mauvais moment ? Comme entre les mains d'un état dictatorial et impérialiste qui souhaite se venger du reste du monde alors que notre internet est un gruyère en terme de sécurité ? Une IA pourrait très bien comporter une composante émotions pour diriger son attention, il y a une branche de l'IA qui creuse dans cette voie. Imaginons, l'IA proposerait alors à cet état impérialiste de créer une arme d'une puissance inégalée et lui donnerait les plans d'une usine entièrement robotisée. Une fois l'arme développée bien entendu, elle pourrait prendre en otage le reste du monde... Unlikely, mais ça ne semble pas impossible du tout. Il faut se rappeler que question intelligence morale, empathie cognitive, l'humanité est encore débile, j'en vois bien certains sauter dans l'abysse tête la première.

[Archi3]

Un peu comme pour le machine learning aujoud'hui, n'importe qui peut créer son propre modèle d'apprentissage et en manipuler les paramètres. Il est fort probable que dans le futur n'importe qui pourra faire de même avec une IA forte..

sur toi tu te bases pour estimer que c'est "fort probable" ?

apres le reste de ton message est une belle illustration concrete de ce que je voulais dire par "L'IA est aussi un lieu de projection des fantasmes humains, comme d'autres domaines."

[RiketRok]

sur toi tu te bases pour estimer que c'est "fort probable" ?

Par fort probable, j'entends bien plus probable que l'opposé qui serait soit l'absence d'IA forte, ou une IA forte dont l'implémentation ou l'exécution serait possible uniquement par quelques acteurs privés : on parle de potentiellement 100 000 000 000 000 000 ans de développement technologique quand même. On peut imaginer 1000 raisons pour lesquelles le code source d'une telle IA devrait finir par être entre les mains de tous, la première étant qu'une grande partie de la recherche en IA se fait à ciel ouvert aujourd'hui. Une IA forte, générale, suppose un programme dominé par l'apprentissage, donc un code source relativement léger. La plus grande interrogation est la loi de Moore, mais les "experts" maintiennent que la taille des transistors n'est qu'une variable parmi beaucoup d'autres ce qui laisse place à davantage d'innovations, sachant que même sans ça personne ne peut prouver que le hardware des particuliers de cette décennie ne sera pas suffisant.

En résumé, l'apparition d'une IA forte suppose simplement que l'on suive la courbe du progrès, tandis que l'absence d'IA forte suppose des barrages infranchissables que le rasoir d'Ockham couperait volontiers.

apres le reste de ton message est une belle illustration concrete de ce que je voulais dire par "L'IA est aussi un lieu de projection des fantasmes humains, comme d'autres domaines."

Tu appelles ça un fantasme parce que tu penses que c'est impossible ? Ou juste improbable ? C'est justement ce que l'on veut éviter, l'improbable. Si on peut passer de 0.5% de chance d'annihilation totale à 0.1%, c'est toujours ça de pris, tu ne crois pas ?

[Deedee81]

Salut,

Je n'ai pas trop d'avis sur le futur et l'évolution dans le domaine (j'aurais tendance à être d'accord sans être sûr car il y a aussi pleins de découvertes/avancées anciennes, y compris informatiques, qui sont loin d'être maîtrisable par "n'importe qui". Et pleins d'autres si. Donc, je reste prudent).

Mais juste un point pour ça :

une grande partie de la recherche en IA se fait à ciel ouvert aujourd'hui

En fait, non, ça c'est faux !!!! Je lis beaucoup d'articles (dans des revues comme PLS et La Recherche) sur des travaux sur l'IA par des acteurs privés (par exemple un excellent article sur les réseaux de distribution de l'énergie, et plusieurs sur des start up dans le domaine médical etc.... il y en a au moins 13 rien qu'en France). Et là .... ce n'est pas à ciel ouvert (ils sont pas si bête) et le domaine ayant explosé ça représente, quoi, 90 % de la recherche ? (là le chiffre est "au flair" basé sur le nombre d'articles que je vois).

[Archi3]

Par fort probable, j'entends bien plus probable que l'opposé qui serait soit l'absence d'IA forte, ou une IA forte dont l'implémentation ou l'exécution serait possible uniquement par quelques acteurs privés :

dire que c'est fort probable ou que c'est bien plus probable que l'opposé, c'est deux manières équivalentes de dire la même chose, mais ça ne répond pas à la question de savoir d'où tu tires cette évaluation de probabilité ?

on parle de potentiellement 100 000 000 000 000 000 ans de développement technologique quand même.

??
c'est quoi ce 100 millions de milliards d'années ? et comment ça rentre dns ton évaluation ?

En résumé, l'apparition d'une IA forte suppose simplement que l'on suive la courbe du progrès, tandis que l'absence d'IA forte suppose des barrages infranchissables que le rasoir d'Ockham couperait volontiers.

qu'est ce que le rasoir d'Ockham a à faire là dedans ?

Tu appelles ça un fantasme parce que tu penses que c'est impossible ? Ou juste improbable ? C'est justement ce que l'on veut éviter, l'improbable. Si on peut passer de 0.5% de chance d'annihilation totale à 0.1%, c'est toujours ça de pris, tu ne crois pas ?

j'appelle ça un fantasme parce que (pour le moment) tu ne l'as pas appuyé sur des faits connus, et que tu invoques des "probabilités" sans donner la façon dont tu les évalues.

[pm42]

Je n'ai pas trop d'avis sur le futur et l'évolution dans le domaine

On ne peut vraiment pas savoir mais faire des suppositions définitives du genre "on ne pourra jamais" sans rien connaitre au domaine et ensuite expliquer que ceux qui ne sont pas d'accord "fantasment" ne relève pas d'un argument mais de la pollution du fil.
Lequel se décompose d'ailleurs en d'un coté des échanges enrichissant pour tous et cette pollution DK et ce flooding qui sont la plaie des forums.

En fait, non, ça c'est faux !!!! Je lis beaucoup d'articles (dans des revues comme PLS et La Recherche) sur des travaux sur l'IA par des acteurs privés

C'est à nuancer : la recherche appliquée est comme ça mais le gros de la recherche théorique est ouverte et c'est elle qui est importante à long terme, surtout dans le contexte de ce que disait RiketRok.

[Deedee81]

J'ai l'impression que l'essentiel de cette discussion est devenue :
"si ma Tante en aura on l'appellera Carotte"
266 messages discutant de la couleur de la boule de crystal.

C'est à nuancer : la recherche appliquée est comme ça mais le gros de la recherche théorique est ouverte et c'est elle qui est importante à long terme, surtout dans le contexte de ce que disait RiketRok.

Même sur ça je n'oserais pas me prononcer !!!! (sur "le gros de la recherche théorique est ouvert")

[Archi3]

On ne peut vraiment pas savoir mais faire des suppositions définitives du genre "on ne pourra jamais" sans rien connaitre au domaine et ensuite expliquer que ceux qui ne sont pas d'accord "fantasment" ne relève pas d'un argument mais de la pollution du fil.

si tu parles de moi, je n'ai pas dit "on ne pourra jamais", mais "on ne créera jamais" : transformer ce que disent ses interlocuteurs avant de les juger, c'est déjà la marque d'un biais.

ça ne me parait pas difficile actuellement d'écrire un programme qui décide de lancer tous les missiles nucléaires disponibles sur tous les noeuds vitaux d'approvisionnement énergétiques et alimentaires.

Mais je ne pense pas qu'on le fera jamais, ça ne veut pas dire qu'on n'est pas capable de le faire;

et mon avis n'est pas fondé sur ce que je connais de l'IA, mais de ma connaissance de la façon dont les hommes fonctionnent.

[pm42]

Pour illustrer le message précédent sur la recherche, je viens juste de tomber sur ça :
https://towardsdatascience.com/liqui...n-4a0f718b464e

C'est assez typique : on a développé une architecture qui s'approche plus de ce que font les humains, qui ne reconnaissent pas les formes image par image en effet et cela a été fait au MIT.
Et cela a des applications plus large sur l'apprentissage de séries temporelles, un domaine important mais actuellement un peu sous-développé en deep-learning. Mais chaque fois que je vois de nouvelles méthodes, elles sont publiques (même quand c'est Amazon qui les développe).

Il ne faut pas sous-estimer le sujet de la confiance : elle sera largement plus difficile à obtenir devant des résultats d'IA si les méthodes sous-jacentes ne sont pas bien connues.
Après, les données, le temps passer à les travailler, à faire de l'apprentissage et la "pédale du chef" pour trouver les meilleures configurations, ça, c'est autre chose et cela reste parfois propriétaire.

[Archi3]

de façon générale, il est beaucoup plus facile d'écrire des programmes qui ne font PAS ce qu'on voudrait qu'on fasse, que des programmes qui font ce qu'on voudrait qu'on fasse, c'est une question d'entropie .

Ma réflexion ne portait pas sur les capacités techniques mais sur le processus de sélection qui agit sur les programmes (faire ce que son créateur a dans la tête), à comparer avec le processus de sélection qui a agi sur les êtres vivants (survivre dans un milieu naturel).

[pm42]

Même sur ça je n'oserais pas me prononcer !!!! (sur "le gros de la recherche théorique est ouvert")

Cela reste un domaine universitaire et les boites les plus avancées sont comme par hasard les plus riches et assises sur le plus gros tas de données.
Pour recruter, et la compétition est incroyablement féroce, elles n'ont pas le choix : elles structurent leurs équipes comme des centre de recherche et elles laissent les gens publier.

On peut aussi remarquer que pendant l'histoire, la recherche théorique a rarement été privée. Même sur des sujets comme les bombes nucléaires, il y avait des échanges discrets entre savants des 2 camps durant la guerre froide. Les soviétiques expliquaient qu'ils écrivaient un article du genre "soit une étoile dont le noyau a telle température, émet tant de rayons X" : ça passait la censure mais ceux qui bossaient dans le domaine savaient qu'il n'existe pas d'étoile comme ça.

La recherche en IA se fait dans un contexte largement plus détendu et avec à court terme moins de risque de tuer tout le monde sur la planète et elle n'est pas spécialement secrète.