Négocier, persuader et coopérer : Une intelligence artificielle est capable de battre les humains

[pm42]

A noter qu'en matière de négociation, etc.... Les traders utilisent depuis déjà pas mal de temps maintenant des IA ou de simples algorithmes fort efficaces. Maintenant on combine avec le langage naturel. C'est tout.

C'est plus compliqué que ça : le trading recouvre des réalités multiples qui vont du high-frequency, c'est à dire des décisions 100% automatisées faite à l'échelle de la milliseconde jusqu'à l'interaction sur des périodes en heures ou jours d'humains en passant par tous les intermédiaires.

Et on a des gens qui réussissent avec toutes ces méthodes, certains comme Renaissance (https://fr.wikipedia.org/wiki/Renaissance_Technologies) créé par des mathématiciens avec des théorèmes à leur nom, des prix et de l'expérience à la NSA et d'autres qui utilisent des techniques inventées dans les années 20/30 avec du papier/crayon.

Pour ce qui est de l'IA, je n'ai jamais rien vu de public qui marche ce qui ne veut pas dire que ça n'existe pas : simplement, c'est un milieu où on ne publie pas quand on a trouvé un truc qui gagne.
Et tous les articles que je lis sur Medium par exemple sont à se tordre de rire mais alors vraiment.
Mais je sais qu'on peut faire des IAs qui marchent en finance et même très bien en effet;

Tout ça n'a rien de si spectaculaire (en tout cas ça ne constitue pas un rupture particulièrement forte, juste l'évolution normale du domaine).

C'est effectivement l'évolution normale du domaine mais ça peut être spectaculaire.

Tout ça n'a rien de si extraordinaire. Pour le reste, les inquiétudes, je suis entièrement d'accord avec ce qui a été dit dans les derniers messages : c'est surtout du fantasme, du délire, des phobies. Au niveau actualité ça fait vendre et au niveau personnel.... ça se soigne (et pas en coupant les IA ) EDIT et cela a toujours été le cas, il y a deux mille ans, Bounoume aurait eut peur de l'invention du marteau

Je l'ai déjà posté plusieurs fois mais historiquement, ce qui aurait du détruire les cerveaux humains et la civilisation comprend :
- l'écriture (cf. Socrate/Platon)
- l'imprimerie
- les journaux quotidiens
- les plumes en métal pour écrire
- les tables de logarithmes
- les règles à calculer
- les stylos-billes
- la radio
- l'école (si, si)
- la mode unisexe
- les mini-jupes
- Internet
- le WiFi (à cause des ondes)
- le téléphone portable (à cause des ondes)

A lire sur le sujet : https://www.slate.fr/story/17675/fuy...fuyez-facebook
-----

[Deedee81]

C'est plus compliqué que ça

Ah mais j'ai pas dit que c'était simple

mais ça peut être spectaculaire.

Ah ça oui, d'où les actus d'ailleurs.

Ta liste à la fin ça me rappelle la liste des fins du monde
(mais je ne connaissais pas cette liste, ouf )

[Bounoume]

Au niveau actualité ça fait vendre et au niveau personnel.... ça se soigne (et pas en coupant les IA ) EDIT et cela a toujours été le cas, il y a deux mille ans, Bounoume aurait eut peur de l'invention du marteau

la preuve que j'aurais eu raison: invention diabolique.....

marteau d'armes XV siècle environ....
d'autant que dans la vraie vie ça m'est arrivé que un marteau m'écrase un doigt!

Et puis dans ta liste, pm42, tu as oublié l'invention des bactéries et virus.....
ainsi que celle de l'école.....

[Deedee81]

Un peu d'humour ne nuit pas.

ainsi que celle de l'école.....

Ca c'est pas une invention terrifiante mais diabolique, faut pas confondre

[Deedee81]

Ah un petit truc sérieux quand même peut émerger de ça :

Pour toute invention il est possible d'en faire un usage utile, juste banal ou nuisible.
Mais bien entendu ce n'est pas une caractéristique intrinsèque de l'invention en question (I.A. ou une I.A. particulière par exemple). Juste l'usage qu'on en fait (et éventuellement les motivations, la conception....).
Mais c'est aussi pour ça qu'il y a des lois, des réglementations qui ne sont pas propres aux I.A., je l'évoquais dans le message 30 (et les solutions, en dehors des aspects techniques (*), c'est essentiellement hors charte, même si c'est intéressant).

(*) Un exemple : les biais introduits par les bases de données utilisées pour l'apprentissage des I.A. Il n'y a pas si longtemps une IA avait été développée aux USA pour analyser les résultat scolaires. Il s'est avéré que cette IA était "raciste" à cause de biais dans les données initiales !!!! Les chercheurs en ont pris conscience et bien entendu font maintenant attention. Mais il ne suffit pas de savoir qu'il faut être prudent. Vu le volume des données, il faut développer divers outils statistiques pour vérifier l'absence de biais : mais là je ne connais pas du tout. La question de "quels outils" et "comment ils fonctionnent", voilà quelque chose que je trouve intéressant. L'autre est celui des justifications, c'est un soucis avec le deeplearning qui à ma connaissance est loin d'être résolu. Et les autres points sont hors charte. Mais les outils d'examen des biais, pourquoi pas ? D'autant que pour des I.A. de type "négocier, persuader..." cela me semble très important aussi. Ce serait très bête de dire à l'IA : ok persuade-le de "donner un coup de main à son voisin" (merci à KOD) et qu'à la place elle persuade de "donner un coup de poing à son voisin"

[pm42]

Pour toute invention il est possible d'en faire un usage utile, juste banal ou nuisible.

C'est vrai pour tout depuis le feu et le silex taillé.

Un exemple : les biais introduits par les bases de données utilisées pour l'apprentissage des I.A. Il n'y a pas si longtemps une IA avait été développée aux USA pour analyser les résultat scolaires. Il s'est avéré que cette IA était "raciste" à cause de biais dans les données initiales !!!! Les chercheurs en ont pris conscience et bien entendu font maintenant attention

Il est ceci dit curieux qu'on "reproche" cela aux IAs ce qui a été décrit plus haut dans le fil au lieu de se poser la question sur les données qui montrent que les biais humains sont énormes. C'est surtout eux qu'ils faudraient encore plus traiter (mais on s'éloigne du sujet).

Vu le volume des données, il faut développer divers outils statistiques pour vérifier l'absence de biais : mais là je ne connais pas du tout. La question de "quels outils" et "comment ils fonctionnent", voilà quelque chose que je trouve intéressant

C'est presque du coup par coup parce que cela dépend justement du genre de biais qu'on veut détecter bref d'une interprétation.
Mais effectivement, le volume des données est un sujet mais tu as la même chose avec les humains : on les récupère formés mais avec une histoire, des biais, des millions d'interactions passées et on a du mal à éviter leurs biais.

L'autre est celui des justifications, c'est un soucis avec le deeplearning qui à ma connaissance est loin d'être résolu.

En fait, c'est un souci avec le machine learning globalement, même avec les méthodes statistiques donc non neuronales.
On a fait des trucs intéressants sur l'explication où on compare le résultat avec des données en entrées modifiées et on en déduit ce qui a de l'importance.
Mais c'est très consommateur en calcul.
On peut noter que là aussi, on surévalue la capacité des humains à expliquer : la plupart du temps, ils justifient à postériori et ne se rendent pas du tout compte de l'ampleur de leurs biais. Il y a pas mal de bouquins là dessus et quand on mesure justement ce qu'ils font dans la justice, les notes à l'école et le reste, c'est effrayant.

[Deedee81]

tu as la même chose avec les humains : on les récupère formés mais avec une histoire, des biais, des millions d'interactions passées et on a du mal à éviter leurs biais.

Chez les humains on les appelle des préjugés

On a fait des trucs intéressants sur l'explication où on compare le résultat avec des données en entrées modifiées et on en déduit ce qui a de l'importance.
Mais c'est très consommateur en calcul.

Tiens, ça me fait penser aux prédictions météo ça. Merci pour l'info en tout cas.

Copier coller malheureux, je venais de mettre tout le code d'un programme dans le message, heureusement que je me relis

[polo974]

En fait, ce qui est effrayant, c'est qu'on risque d'apprendre aux machines à être aussi co..es que nous...

[Bounoume]

alors, revenons à nos moutons......
dans les applis deep learning, celles qui prétendent 'comprendre' nos paroles en langage naturel, et nous répondre de façon adaptée..... en nous imitant....

Mais si, à partir du même set de textes d'entraînement, en présente le contenu dans un ordre différent est-ce que le comportement de l'entité 'entraînée' sera (très) différent?*

soit en début d'entraînement je présente à AI plein de textes de magie et de phobies sur les ondes et autres, puis vers la fin de la technologie utilisant les vraies ondes.....
soit je présente en début d'entraînement à AI des information sérieuses sur les ondes et les radio-communications, puis à la fin les âneries magiques et phobiques.....

Si je faisais la même chose à un jeune humain 'naïf' [au sens des souris d'expérience dites 'naïves"], je suppose que dans le 1 er cas, le pauvre va croire à Harry Potter.... puis, fort de la connaissance acquise, longtemps douter des théories de l'électromagnétisme..... au nom d'une connaissance perçue comme cohérente des Forces régissant le Monde (magique...)!
par contre son frère, ayant construit une connaissance cohérente des phénomènes réels, il va de suite douter et rejeter le blabla injecté en fin de parcours.......
Cela en faisant intervenir des inférences basées sur notre logique ordinaire... mais dans un ordre procédural différent, dont le premier hélas va empêcher l'adhésion à une connaissance scientifiquement acceptable......


alors la question: à partir de mécanismes différents, bien sûr, pour une IA connexionniste destinée à nous 'conseiller' , "conseiller' persuader' .....est-ce que le comportement final dépendra de l'ordre dans lequel "elle" va découvrir les 2 interprétations opposées des mêmes faits?

[pm42]

Tu continues à faire des suppositions sans avoir aucune idée de la façon dont fonctionne les AIs et dont on les entraine ni même de ce qu'elles savent faire ou pas.
A partir de là, tu poses des questions qui n'ont clairement pas de sens.

[pm42]

Oups, j'ai dépassé la durée d'édition. Voici la suite.

On dit ça souvent sur les fils de physique : quand on n'a que de la vulgarisation pas au top mal digérée et qu'on construit des raisonnements dessus, on est complètement à coté de la plaque.
A un moment, il faut vraiment s'intéresser à un sujet et faire l'effort d'apprendre un minimum.

Là par exemple, tu supposes que l'AI va "croire" alors qu'elle ne va pas du tout fonctionner comme ça.
Elle va faire exactement comme les humains : s'adapter au contexte. Si tu lui parles d'électro-magnétisme, elle utilisera ce qu'elle aura "lu" dessus.
Si tu lui parles de magie, elle utilisera une autre partie de son apprentissage.

Dans les réseaux de neurones, cela se fait naturellement avec une sélection par le vocabulaire utilisé.
Mais même avant, on faisait ça avec des contextes parce que sinon, les tentatives à base de règles plantaient quand ils avaient "les vampires n'existent pas" et "les vampires n'ont pas de reflet dans le miroir".

[pachacamac]

Bonjour,

Perso, ce qui m'a le plus impressionné dans les succès/progrès des AI disons ces dix dernières années, c'est incontestablement les succès d' AlphaGo sur les meilleurs jeu de Go mondiaux.

D'après mes lectures, on ne lui aurait mis en mémoire aucune partie de Go, seulement les règles du jeu et les objectifs. Après il a joué contre lui-même des millions ou des milliards? de parties et est parvenu à devenir devenu n°1 incontesté de ce jeu.

En regardant la partie aucun observateur humain ne serait capable de distinguer qui est l'humain qui est la machine.


Chapeau, c'est fort! le jeu de go ayant été analysé discuté pendant plus d'un milliers d'années par des experts.

N.B. C'est un peu hors du cadre de "Négocier, persuader et coopérer " quoique négocier et persuader font aussi partie de la stratégie au jeu de Go et pour la coopération on est à sa limite avec compétition

[Bounoume]

Là par exemple, tu supposes que l'AI va "croire" alors qu'elle ne va pas du tout fonctionner comme ça.
Elle va faire exactement comme les humains : s'adapter au contexte. Si tu lui parles d'électro-magnétisme, elle utilisera ce qu'elle aura "lu" dessus.
Si tu lui parles de magie, elle utilisera une autre partie de son apprentissage.

ce qui impliquerait qu'une architecture du genre GP3 ne détecte pas la contradiction entre les propositions traitant de la magie des ondes, et celles traitant de la physique des ondes.... avec l'explication: le 'vocabulaire' support est différent.....
donc pas de prise en compte d'une sorte de correspondance ('morphisme'???? ....) entre les notions, les comportements allégué, etc.... alors qu'un individu pas trop obtus comparera les deux environnements....
ta réponse? vrai ou faux?

si oui, ça explique une des critiques majeures que j'ai lues: sur AI - LM : pas de détection de ce que nous nommons 'absurdités' .... même si nous sommes plus que faillibles dans cette détection.....
Cet absence d'autocritique, pas gênante dans une appli de reconnaissance de formes [le superviseur s'en chargera....] ça devient gênant quand l'appli vise à nous 'conseiller' .... ou qu'en fait l'appli va diriger des actions matérielles....

[Bounoume]

Chapeau, c'est fort! le jeu de go ayant été analysé discuté pendant plus d'un milliers d'années par des experts.

oui, mais en traitant les mêmes règles et les parties respectant ces règles, avec leur logique raisonnante, par inductions et déductions successives, avec application de notre logique formelle....
AI procède autrement....

si tu connais les systèmes 1 et 2 de Kahneman, je dirais que les experts, orientés par une 'intuition'... et aussi essayant au hasard.... ont mis en forme des estimations subjectives par application de formalisations communicables entre experts.... Avec la lenteur de notre fonctionnement en catégories du système 2, c'est normal que ça ait pris du temps.... et que ce soit resté inachevé.... ou que ils n'aient pas eu suffisamment de vies pour constater que l'édifice construit était imparfait de principe, et ensuite pour le re-bâtir..... peut-être plus prédictif.....

[Liet Kynes]

A lire sur le sujet : https://www.slate.fr/story/17675/fuy...fuyez-facebook

Quand un article dit "Aucune preuve à ce jour" je pense bizarrement au tabac
J'ai pas pigé ce que je ne comprends pas dans la définition du test de Turing.

[ArchoZaure]

Perso, ce qui m'a le plus impressionné dans les succès/progrès des AI disons ces dix dernières années, c'est incontestablement les succès d' AlphaGo sur les meilleurs jeu de Go mondiaux.

D'après mes lectures, on ne lui aurait mis en mémoire aucune partie de Go, seulement les règles du jeu et les objectifs. Après il a joué contre lui-même des millions ou des milliards? de parties et est parvenu à devenir devenu n°1 incontesté de ce jeu.

En regardant la partie aucun observateur humain ne serait capable de distinguer qui est l'humain qui est la machine.


Chapeau, c'est fort! le jeu de go ayant été analysé discuté pendant plus d'un milliers d'années par des experts.

N.B. C'est un peu hors du cadre de "Négocier, persuader et coopérer " quoique négocier et persuader font aussi partie de la stratégie au jeu de Go et pour la coopération on est à sa limite avec compétition

Si on regarde le jeu de go on voit bien que c'est un jeu auquel l'être humain est assez peu adapté.
Quoi de plus normal qu'un unique ordinateur capable de jouer plus de parties que tous les êtres humains (beaucoup sont morts depuis...) ont pu jouer depuis le jeu de go existe, en quelques heures, soit éventuellement capable d'obtenir un "calcul" plus efficace ?
Si le jeu de go a pu été pulvérisé (le mot est faible) par une IA, c'est qu'il existait, je pense et on peut en discuter, "un schéma mathématique" dans le jeu, invisible à la compréhension rationnelle de l'Homme.
C'est un jeu "idiot" en fait... (nécessite peu de rationalité, ce dont manquent les IA pour le moment (après faut voir dans le futur comment on fera évoluer les techniques de l'IA)).

[pm42]

Si on regarde le jeu de go on voit bien que c'est un jeu auquel l'être humain est assez peu adapté.

En fait, on disait exactement le contraire avant que les Alpha se mettent à gagner. Parce que c'est un jeu à la combinatoire monstrueuse et où les humains jouent en utilisant leur représentation de l'espace ce qui faisait que les ordinateurs avaient du mal.

Quoi de plus normal qu'un unique ordinateur capable de jouer plus de parties que tous les êtres humains (beaucoup sont morts depuis...) ont pu jouer depuis le jeu de go existe, en quelques heures, soit éventuellement capable d'obtenir un "calcul" plus efficace ?

C'est facile à postériori de trouver cela normal mais 1 ou 2 ans avant que ça n'arrive, on pensait que ça prendrait encore 10 ans ou plus.

Si le jeu de go a pu été pulvérisé (le mot est faible) par une IA, c'est qu'il existait, je pense et on peut en discuter, "un schéma mathématique" dans le jeu, invisible à la compréhension rationnelle de l'Homme.
C'est un jeu "idiot" en fait... (nécessite peu de rationalité, ce dont manquent les IA pour le moment (après faut voir dans le futur comment on fera évoluer les techniques de l'IA)).

C'est très gratuit comme affirmations.

Mais c'est bien le problème de l'IA qui a été définie comme "toutes les tâches que l'ordinateur ne sait pas encore faire et dès qu'il sait en faire une, on dit que finalement cela ne nécessite pas d'intelligence".
C'est uniquement parce qu'on a une définition non opérationnelle, très imprécise et quasi-mystique de l'intelligence, que chacun veut croire qu'il en a et que c'est une caractéristique unique qui nous met au dessus des animaux, des ordinateurs et souvent d'autres êtres humains.

Donc on a définit l'intelligence historiquement de plein de façons : par exemple, il y a 20 ou 30 ans, on considérait qu'il fallait être très intelligent pour être champion du monde d'échecs. Et aussi de go.
Aujourd'hui, on lit ce genre de discours qui est en fait une logique circulaire : si une machine le fait, c'est donc qu'il n'y a pas besoin d'être intelligent. Ce qui revient à poser "l'intelligence, c'est que les humains d'abord" puis à tout dériver de ça pour y revenir.

[ArchoZaure]

Mais moi je ne vois aucune intelligence dans l'IA.
Aucune IA n'est capable de juger de l'intelligence d'un humain.
L'inverse est vrai.
Donc l'humain est intelligent.

C'est assez basique comme définition on en conviendra, mais ça a au moins le mérite de préciser qui a le pistolet chargé et qui creuse.

"Le monde se divise en deux catégories : ceux qui ont un pistolet chargé et ceux qui creusent."
https://www.youtube.com/watch?v=hCRZicO9Bhk

[ArchoZaure]

En fait, on disait exactement le contraire avant que les Alpha se mettent à gagner. Parce que c'est un jeu à la combinatoire monstrueuse et où les humains jouent en utilisant leur représentation de l'espace ce qui faisait que les ordinateurs avaient du mal.

Comme quoi ceux qui racontaient ces salades avaient tord.

[pm42]

Comme quoi ceux qui racontaient ces salades avaient tord.

Ce n'étaient pas des salades, c'était ce que pensaient des experts en IA parfaitement compétents et pour d'excellentes raisons.
Simplement, on est dans une période incroyablement dynamique et créative où d'un coté, on découvre des limites beaucoup plus proches que ce qu'on pensait, sur la voiture autonome par exemple et de l'autre, on réussit ce qui paraissait impossible.

Ce n'est pas la 1ère fois dans l'histoire des sciences et techniques que cela se produit.

[f6bes]

l
ainsi que celle de l'école.....

Bjr à toi, Tu ne lis pas...tu...survoles (....dans les réponses de PM42= "....- l'école (si, si)."
A+