google, IA 'forte'(?), chatbot = simulation ou émulation????

[Deedee81]

Tu sais qu'à l'époque [...]

Non, je ne savais pas.

Ceci dit, on peut se demander si la destruction créatrice de Schumpeter va toujours marcher ou si un jour, on arrivera à une limite et des IA généralistes font se poser la question (qui existe déjà avec l'informatique et autres progrès récents hors IA dans les économies occidentales où les gains technologiques tendent à concentrer les gains sur des régions et des populations limitées).
Mais bon, je suis H.S. donc j'arrête.

Il y a quand même un point thématique et dans le sujet. Il y a pas mal de travaux (ou de discussions des comités éthiques) sur les limites à imposer aux I.A. Par exemple dans certains domaines une IA doit pouvoir justifier ce qu'elle propose (pas toujours évident avec le deep learning), ou la nécessité de bien sélectionner les données d'apprentissage pour éviter des biais (racisme etc...) ou encore la place des choix humains (en particulier la tendance grand public à se comporter en "mon smartphone me dit ça donc je le fais") et bien sûr divers aspects juridiques/responsabilités(*).

Bon, c'est un tout autre ordre (s'agit pas de destruction créatrice). Mais je trouve ça très bien qu'on bride et réfléchisse avant de faire trop de co....ies. Pour une fois !

(*) un exemple quand j'étais étudiant. Un ouvrier Japonais ayant franchit la ligne jaune de sécurité s'était fait broyer par un robot. Cela avait entrainé des discussions sur l'amélioration de la sécurité. Mais évidemment là pas de "le robot est responsable". Mais maintenant les problèmes de responsabilité deviennent plus complexes (on a déjà vu passer, y compris sur Futura, des discussions sur les problèmes de responsabilité pour les voitures autonomes)
-----

[pm42]

Il y a quand même un point thématique et dans le sujet. Il y a pas mal de travaux (ou de discussions des comités éthiques) sur les limites à imposer aux I.A.

Oui et c'est un très vaste sujet pas du tout simple.

Par exemple dans certains domaines une IA doit pouvoir justifier ce qu'elle propose (pas toujours évident avec le deep learning),

Au delà de la difficulté technique, c'est aussi complexe : les humains ont par exemple une grande capacité à justifier des décisions qui sont pourtant entachés de biais énormes.
En fait, l'ampleur de nos biais a fait l'objet d'études et de bouquins notamment dans le domaine du droit et des jugements rendus ou des notes des copies par les profs par exemple.
Quand on voit les chiffres, c'est carrément terrorisant et éventuellement, des IAs performantes mais incapables d'expliquer seraient plus justes. Mais plus difficiles à faire accepter socialement.

On peut aussi remarquer qu'actuellement, un paquet de décisions sont prises sans être justifiées et parfois sans recours (dans le système éducatif par exemple). C'est tout autant un problème social que technique.

[Deedee81]

les humains ont par exemple une grande capacité à justifier des décisions qui sont pourtant entachés de biais énormes.

ou des décisions complètement erronées et c'est la justification qui est biaisée, mais je suppose que c'est ce que tu voulais dire (manque une virgule ).

Ah tiens, je sais qu'on a déjà rencontré certains biais "humains" dans des I.A. (pour des raisons diverses). Mais celle-là ? On l'a déjà rencontré ? Une I.A. justifiant une décision complètement nawak avec des justifications très "convaincantes" ?
(pure curiosité de ma part Mais ce serait sacrément ennuyant)

Enfin, oui mais presque, mon GPS me disant "tournez à droite, maintenant" alors qu'à droite il y avait un mur de trois mètres et le "justifiant" avec la carte.... (mais bon je n'ai pas trouvé ça convainquant évidemment, et justement, pas comme dans la pub avec le mec qui tombe dans le canal )
(véridique, c'était lors d'un déplacement à la Défense, soucis de localisation à quelques dizaines de mètres près, on l'aura deviné, le réseau est dense là bas))

[pm42]

Ah tiens, je sais qu'on a déjà rencontré certains biais "humains" dans des I.A. (pour des raisons diverses). Mais celle-là ? On l'a déjà rencontré ? Une I.A. justifiant une décision complètement nawak avec des justifications très "convaincantes" ?

Pas à ma connaissance mais pour le moment, ce n'est pas les IA qui justifient leurs décisions. Soit on a des modèles très simples genre arbre de décision et là, on peut dire "ah oui vu que votre âge est plus grand que tant et que vos revenus sont plus bas que tant et que et que, c'est pour ça qu'on vous refuse le crédit".

Sauf que bien sur, ce genre de modèle ne sert à rien : c'est des prédicateurs trop faibles.
Donc qu'est ce qu'on fait ? On en aggrège un gros paquet et on prend la moyenne de leurs prédictions par exemple. Et là, on ne peut plus expliquer.

Et pour les modèles d'IA plus avancés et le deep learning, c'est encore pire.

Donc on fait des modèles externes qui en gros font varier les données qu'on envoie à l'IA, regardent comment les réponses varient et reconstruisent une explication.
Donc s'il y a un biais, cette approche arrivera assez bien à le justifier.
D'où le fait qu'il va falloir progresser techniquement, définir des méthodologies en béton tout le long de la chaîne et définir ce qu'on entend par "justification" parce que avant qu'on ait une IA capable d'analyser son propre process de décision et de le décrire, il risque de s'écouler du temps. Et on n'est même pas sur que si cela arrive, elle ne sera pas aussi biaisée qu'un humain.

[Deedee81]

D'accord. Merci pour ces explications. Je sais que le problème des justifications existe et est épineux mais je ne savais pas tout ça (modèles externes etc.).

[Archi3]

A mon avis, c'est loin d'être impossible. J'ai vu récemment une vidéo de passe-science parlant de l'ia : https://www.youtube.com/watch?v=Yoq5...=Passe-Science
Il donne un exemple (3 minute 44) où une IA est capable d'expliquer des blagues si on lui donne deux exemples de blagues avec leur explication.

la question c'est qu'est ce qu'il a fallu mettre dans l'IA pour qu'elle fasse ça ?
parce que je suppose que si tu essaies de faire ça avec un bot conversationnel, une IA qui joue aux échecs , ou un robot qui joue au foot, tu vas faire un gros flop ?

derrière ton "une" IA, il a quoi dans le "une" ?

[Archi3]

Et tu as bien sur AlphaCode qui prend des descriptions de programmes en langage naturel et sort le code et qu'on peut tester en ligne :

https://alphacode.deepmind.com

https://www.deepmind.com/blog/compet...with-alphacode
https://towardsdatascience.com/deepm...w-5a86a15e1ab4

et tu peux nous donner les lignes de codes équivalentes qu'on doit écrire pour les enfants pour qu'ils obéissent à ce qu'on leur dit de faire stp ?

je crois que tu n'as toujours pas bien saisi la différence ...

[Archi3]

ou des décisions complètement erronées et c'est la justification qui est biaisée, mais je suppose que c'est ce que tu voulais dire (manque une virgule ).

Ah tiens, je sais qu'on a déjà rencontré certains biais "humains" dans des I.A. (pour des raisons diverses). Mais celle-là ? On l'a déjà rencontré ? Une I.A. justifiant une décision complètement nawak avec des justifications très "convaincantes" ?
(pure curiosité de ma part Mais ce serait sacrément ennuyant)

Enfin, oui mais presque, mon GPS me disant "tournez à droite, maintenant" alors qu'à droite il y avait un mur de trois mètres et le "justifiant" avec la carte.... (mais bon je n'ai pas trouvé ça convainquant évidemment, et justement, pas comme dans la pub avec le mec qui tombe dans le canal )
(véridique, c'était lors d'un déplacement à la Défense, soucis de localisation à quelques dizaines de mètres près, on l'aura deviné, le réseau est dense là bas))

le problème n'est pas de savoir si l'IA est coupable ou pas, personne ne fera passer en jugement une IA évidemment.

Le problème est principalement financier : en cas d'accident, est ce que c'est l'assurance du vendeur de l'IA, ou de son utilisateur qui doit payer ?

[vgondr98]

parce que je suppose que si tu essaies de faire ça avec un bot conversationnel, une IA qui joue aux échecs , ou un robot qui joue au foot, tu vas faire un gros flop ?

Avec le bot conversationnel, cela dépend duquel.
Par exemple, avec celui-ci : https://ai.googleblog.com/2022/04/pa...caling-to.html, cela marchera.

[Deedee81]

je crois que tu n'as toujours pas bien saisi la différence ...

Hé bien je dois dire qu'avec ta manière d'expliquer.... moi non plus. Et je doute qu'on soit les deux seuls (pm42 et moi) !!!!!
pm42 parlait des progrès fait avec la programmation automatique rien de plus. Qu'est-ce que tu la ramènes avec les enfants ? Polémique juste pour le plaisir de f... la m.... sur Futura ? J'espère bien que non.

On dirait qu'à plusieurs moment tu parles en fait d'IA généralistes (mais ce que tu dis est clair comme de l'eau de boudin). C'est ça ? Ca n'a pas du tout été abordé et n'a pas à l'être (on en est trèèèèèès loin) si ce n'est dans la partie Everest dont je parlais.

le problème n'est pas de savoir si l'IA est coupable ou pas, personne ne fera passer en jugement une IA évidemment.

J'ai pas parlé de culpabilité. Tu essaies encore de modifier les propos des autres pour f.... la m.....

Le problème est principalement financier : en cas d'accident, est ce que c'est l'assurance du vendeur de l'IA, ou de son utilisateur qui doit payer ?

Ca peut être aussi juridique. Un responsable humain peut très bien aller en tôle pour avoir fait une crosse co...ie. Mais en effet la plupart du temps ça se résume à "qui doit payer". Mais c'est devenu une question épineuse.

EDIT croisement et je ne passe pas en vert, je ne veux pas être juge et partie mais je parie qu'il y a d'autres verts à l'affût (je parle pas des écolos )
EDITbis faut vraiment que le la copie cette image DK

[pm42]

je crois que tu n'as toujours pas bien saisi la différence ...

Oui, on connait : tu as dit des trucs faux sur un domaine dont clairement tu ne connais rien au point de ne même pas savoir qu'existent des choses que tu croyais impossibles.
Donc tu vas faire grimper la mise avec ton mépris pour quiconque ne pense pas comme toi parce que tu crois toujours être la seule personne intelligente sur Terre (ce qui n'est pas un signe d'intelligence).

Et tu vas expliquer l'IA que tu n'as jamais pratiqué à quelqu'un qui en fait professionnellement, est diplômé dans le domaine.
Tu es dans ce domaine l'équivalent des gens qui n'ont pas le bac mais expliquent la physique à nos modérateurs.

Bref, de l'incurable :

[Archi3]

Avec le bot conversationnel, cela dépend duquel.
Par exemple, avec celui-ci : https://ai.googleblog.com/2022/04/pa...caling-to.html, cela marchera.

et peux tu dire pourquoi celle là marche et pas d'autres alors ?

[Archi3]

Hé bien je dois dire qu'avec ta manière d'expliquer.... moi non plus. Et je doute qu'on soit les deux seuls (pm42 et moi) !!!!!
pm42 parlait des progrès fait avec la programmation automatique rien de plus. Qu'est-ce que tu la ramènes avec les enfants ? Polémique juste pour le plaisir de f... la m.... sur Futura ? J'espère bien que non.

j'ai pas de souci avec les progrès technologiques. Mais le problème pour moi est quand on confond ces améliorations avec le fait de "s'approcher" de l'IA forte, comme si le fait d'arriver à émuler plus fidèlement les productions humaines signifiaient qu'on s'était approché de son fonctionnement. C'est comme de penser qu'à force de faire un portrait en peinture de plus en plus fidèle on allait pouvoir aboutir à ce qu'il se reproduise ...

par exemple quand tu dis

Mais soyons clair : l'intelligence c'est l'Everest. Les chats bots public sur internet, c'est un galet, les chats bots plus perfectionnés à usage commercial ou des services publics, c'est des mottes de terre. Les chats bots extrêmement élaborés avec Deep Learning et tout ça, Google ou autre, c'est des avancées considérables mais c'est un gros tas de sable. Le sommet de l'Everest est encore trèèèèèès loin. Mais le fait est que :
- on s'en approche, c'est encore loin, mais ça avance

tu fais explicitement appel à une image : une montagne très haute, un sommet encore hors de portée, mais "on s'en approche", "ça avance", bref on a commencé à monter par le bon chemin, et avec du temps et de la patience, on pourra s'en approcher et qui sait l'atteindre.

je suis en total désaccord avec ça. Les seuls progrès qu'on fait sont sur le fait de trouver des programmes qui IMITENT de mieux en mieux les productions humaines, enfin certaines productions humaines. Ça ne signifie absolument pas qu'elles se rapprochent du mode de fonctionnement humain, pas plus qu'un pigment qui reproduirait très bien le grain de la peau ne sera capable de se renouveler et de faire pousser des poils. Encore une fois les programmes les plus performants dans les tests de Turing sont incapables de répondre à des problèmes simples pour des enfants de 5 ans (qui sont évidemment par ailleurs très loin de pouvoir apporter toutes les réponses que peut apporter l'IA !!). Ca prouve que la structure au départ n'a rien à voir.

C'est pour ça que je demande : où est le programme qu'on a écrit pour faire faire une tache complexe à un enfant ? nulle part, bien sur. Et conçois tu qu'une IA puisse faire ça sans qu'on ait écrit un programme dans ce but ?

[vgondr98]

Encore une fois les programmes les plus performants dans les tests de Turing sont incapables de répondre à des problèmes simples pour des enfants de 5 ans (qui sont évidemment par ailleurs très loin de pouvoir apporter toutes les réponses que peut apporter l'IA !!)

As-tu des sources ?

[Archi3]

oui : comprendre le jeu de ni oui ni non sans avoir été programmé spécifiquement pour le faire.

Dans l'IA de google , ils donnent un exemple : ils donnent des emojis (un petit robot, la terre, une plantule...) et ils demandent à quel film ça se rapporte le mieux. L'IA trouve la réponse : Wall-e.

Est ce que tu penses que l'IA a regardé Wall-e ?

[vgondr98]

Dans l'IA de google , ils donnent un exemple : ils donnent des emojis (un petit robot, la terre, une plantule...) et ils demandent à quel film ça se rapporte le mieux. L'IA trouve la réponse : Wall-e.

Est ce que tu penses que l'IA a regardé Wall-e ?

Non, je crois que cette IA a été entraîné seulement avec du texte, mais je mettrais pas ma main au feu

Sinon, j'attends toujours tes sources sur les problèmes simples pour des enfants de 5 ans.

[Archi3]

Non, je crois que cette IA a été entraîné seulement avec du texte, mais je mettrais pas ma main au feu

Sinon, j'attends toujours tes sources sur les problèmes simples pour des enfants de 5 ans.

genre si je te dis que l'eau mouille, tu vas me demander une source pour affirmer ça ?

indique moi une IA avec qui je peux jouer aux mêmes jeux qu'avec mes petits enfants de 4, 6 et 8 ans. Si tu m'en indiques une, je reconnaitrai avec grâce m'être trompé.

[Archi3]

Non, je crois que cette IA a été entraîné seulement avec du texte, mais je mettrais pas ma main au feu
.

donc tu penses possible qu'une IA qui a "ingéré" une vidéo soit capable de répondre sur des questions simples sur elle (du genre de celle qu'on pose à un enfant de 5 ans ) genre : c'est quoi qui t'a fait le plus peur ? tu le trouvais gentil tel personnage ?`

tu as des doutes sur le fait que cette IA a été "simplement" entrainée sur des milliards de données textuelles lui permettant d'associer statistiquement les emojis et le terme "Wall-e" aux mêmes signifiants (ce qui bien évidemment n'a rien à voir avec ce que fait un enfant de 5 ans à qui on poserait ce genre de question ...) , mais aurait été incapable de répondre en prenant juste connaissance du fichier mp3 du film ?

si tu as des doutes, franchement, ça justifie mes interventions.

[vgondr98]

genre si je te dis que l'eau mouille, tu vas me demander une source pour affirmer ça ?

Non mais si tu dis quelque chose que je pense totalement faux, oui.

tu as des doutes sur le fait que cette IA a été "simplement" entrainée sur des milliards de données textuelles lui permettant d'associer statistiquement les emojis et le terme "Wall-e" aux mêmes signifiants (ce qui bien évidemment n'a rien à voir avec ce que fait un enfant de 5 ans à qui on poserait ce genre de question ...) , mais aurait été incapable de répondre en prenant juste connaissance du fichier mp3 du film ?

Bravo, tu as finit par dire un truc intéressant. Oui, les IA ont besoin d'énormément de données pour apprendre des trucs triviaux alors que les humains ont besoin de beaucoup moins d'exemples.

C'est un gros problème beaucoup plus gênant que ton histoire ridicule de oui ou non.

[Liet Kynes]

genre si je te dis que l'eau mouille, tu vas me demander une source pour affirmer ça ?

indique moi une IA avec qui je peux jouer aux mêmes jeux qu'avec mes petits enfants de 4, 6 et 8 ans. Si tu m'en indiques une, je reconnaitrai avec grâce m'être trompé.

C'est à toi que revient la charge de la preuve.

[Liet Kynes]

Oui, les IA ont besoin d'énormément de données pour apprendre des trucs triviaux alors que les humains ont besoin de beaucoup moins d'exemples.

C'est un gros problème beaucoup plus gênant que ton histoire ridicule de oui ou non.

Aux échecs ou jeu de go il ne me semble pas que cela soit vrai

[pm42]

Aux échecs ou jeu de go il ne me semble pas que cela soit vrai

En fait si : on leur fait jouer énormément de parties. Ceci dit, c'est un vrai sujet et il y a pas mal de recherche actuellement pour faire des IAs qui apprennent avec moins d'exemples et il y a eu des progrès récents de mémoire.
Mais il reste pas mal de boulot.

[Archi3]

Non mais si tu dis quelque chose que je pense totalement faux, oui.



Bravo, tu as finit par dire un truc intéressant. Oui, les IA ont besoin d'énormément de données pour apprendre des trucs triviaux alors que les humains ont besoin de beaucoup moins d'exemples.

C'est un gros problème beaucoup plus gênant que ton histoire ridicule de oui ou non.

c'est tout à fait lié. C'est justement le fait qu'on peut apprendre avec peu de données qui permet d'expliquer en quelques mots la règle du ni oui ni non à un enfant de 5 ans, alors que c'est impossible à faire de la même façon à une IA.

Il ne s'agit pas de faire un concours de "qui a la plus grosse", mais simplement de constater que ça prouve que leur fonctionnement est très différent, et que donc les "performances" qui peuvent sembler remarquables ne signifient pas du tout qu'on ait avancé , même un peu, sur le chemin d'une intelligence de type humain - ce qui était mon propos initial.

[Archi3]

C'est à toi que revient la charge de la preuve.

bah non, je ne peux pas apporter la preuve de la non-existence de quelque chose, alors que ceux qui pensent qu'elle existe peuvent en apporter la preuve. Si ce que je dis est "grossièrement faux", ça devrait etre facile de me sortir un contre-exemple - et sinon, on ne peut pas déclarer que c'est grossièrement faux.

[Liet Kynes]

En fait si : on leur fait jouer énormément de parties. Ceci dit, c'est un vrai sujet et il y a pas mal de recherche actuellement pour faire des IAs qui apprennent avec moins d'exemples et il y a eu des progrès récents de mémoire.
Mais il reste pas mal de boulot.

Ah oui c'est exact, ce dont l'IA peut se passer ce sont des règles, ce qui en soi permet peut-être d'appréhender de loin le principe ? Réduire les données, c'est demander à l'IA de déduire, de raisonner ?

[vgondr98]

même un peu, sur le chemin d'une intelligence de type humain - ce qui était mon propos initial.

Cela me fait penser à cette actu : https://www.futura-sciences.com/sant...er-pong-95712/ où il a été montré que des neuronnes humains apprennent à jouer plus rapidement à pong qu'une ia.

[Liet Kynes]

bah non, je ne peux pas apporter la preuve de la non-existence de quelque chose, alors que ceux qui pensent qu'elle existe peuvent en apporter la preuve. Si ce que je dis est "grossièrement faux", ça devrait etre facile de me sortir un contre-exemple - et sinon, on ne peut pas déclarer que c'est grossièrement faux.

Bah: je te dit que la conjecture de Goldbach est vraie, je te demande de me citer un contre-exemple pour me prouver le contraire.. ta réponse risque de se faire attendre non?

[Liet Kynes]

Cela me fait penser à cette actu : https://www.futura-sciences.com/sant...er-pong-95712/ où il a été montré que des neuronnes humains apprennent à jouer plus rapidement à pong qu'une ia.

C'est humain "des neurones humains"?

[Archi3]

Bah: je te dit que la conjecture de Goldbach est vraie, je te demande de me citer un contre-exemple pour me prouver le contraire.. ta réponse risque de se faire attendre non?

certainement, mais d'un autre coté, je n'affirmerais pas avec hauteur qu'elle est fausse en accusant ceux qui pensent qu'elle est vraie d'être complètement ignare à coup de Dunning-Kruger ...

[pm42]

Ah oui c'est exact, ce dont l'IA peut se passer ce sont des règles, ce qui en soi permet peut-être d'appréhender de loin le principe ? Réduire les données, c'est demander à l'IA de déduire, de raisonner ?

En fait, l'IA apprend comme nous quand on fait un apprentissage "profond" du genre "mémoire musculaire" ou comme un enfant qui apprend une langue en l'écoutant : elle n'apprend pas en raisonnant mais en voyant des exemples, faisant des essais, se trompant et s'améliorant.

Réduire les données, ce n'est pas forcément demander de raisonner : un gosse qui voit un chat quelques fois et à qui on a dit "c'est un chat" va savoir les reconnaitre sans faire de raisonnement non plus.
Alors qu'une IA aura besoin de milliers d'exemples au moins (et sans doute encore plus).

Ceci dit, on compare avec le cerveau humain qui est le résultat de centaines de millions d'années de sélection naturelle et qui a la naissance a des circuits précablés pour faire de l'apprentissage rapide de certaines choses.

Et pour une IA, c'est un peu la même chose : si on en a entrainé une à reconnaitre des chats, lui faire reconnaitre des canards nécessite moins de travail parce qu'on réutilise une partie de l'apprentissage, cela s'appelle le transfer learning.

Bon, je simplifie pas mal mais tout ça pour dire que comme tous les sujets techniques ou scientifiques, il est difficile de se faire une idée précise tant qu'on n'a pas mis les mains dans le cambouis.