De quelle façon l'intelligence artificielle va-t-elle s’immiscer dans notre société ?

[pm42]

j'apprécie d'avantage l'opinion de ceux qui sont ou ont été chefs d'entreprise.

Justement, dans la boite dont je m'occupe, j'ai organisé des formations IA par des chercheurs dont l'un bosse pile poil dans un des labos du master cité.
Curieusement, aucun ne semblait persuadé qu'on allait pouvoir manager une entreprise avec des IA à un horizon proche.

Mais l'article d'Europe 1 cité vaut son pesant de cacahouètes. Dans les "méthodes de management extrêmes", il y a notamment : "chaque réunion, chaque discussion est systématiquement enregistrée, retranscrite et mise à disposition de tout le monde".
Ben, oui, normal. On fait ça pour que avoir des références, que les absents puisse y avoir accès... Pour les téléphones, dans certains cas, ce sont des obligations légales en trading notamment.

Mais ça donne pour le journaliste "Donc tout ce qu’il se dit au téléphone ou dans un bureau sera consigné quelque part." C'est cela oui...
Curieusement, je suis sur que même dans cette boite, on peut continuer à draguer à la machine à café sans que cela génère un envoi à la mailing-list ad-hoc

Sincèrement, dès qu'on connait un domaine, lire la presse en parler est totalement hilarant.
-----

[Deedee81]

Salut,

Mais ça donne pour le journaliste "Donc tout ce qu’il se dit au téléphone ou dans un bureau sera consigné quelque part." C'est cela oui...
Curieusement, je suis sur que même dans cette boite, on peut continuer à draguer à la machine à café sans que cela génère un envoi à la mailing-list ad-hoc
Sincèrement, dès qu'on connait un domaine, lire la presse en parler est totalement hilarant.

En effet

Même dans le Service Public Wallonie on a des PV de réunions, depuis longtemps. Il semble que ce journaliste n'a jamais entendu parler de ça
(mais ma machine à café n'est pas reliée à la mailing list, elle est pourtant juste à côté du PC, manque plus qu'un bout de câble )

[pm42]

Même dans le Service Public Wallonie on a des PV de réunions, depuis longtemps. Il semble que ce journaliste n'a jamais entendu parler de ça
(mais ma machine à café n'est pas reliée à la mailing list, elle est pourtant juste à côté du PC, manque plus qu'un bout de câble )

Le discours sur l'IA et du même acabit : "Depuis deux ans maintenant, la société met au point un système de management assisté par ordinateur. L’objectif, c’est que d’ici cinq ans, les trois quarts des décisions managériales puissent être prises par une intelligence artificielle"

L'objetif d'un projet informatique pour dans 5 ans, c'est en général très aléatoire. En IA encore plus donc pas besoin de titrer "On pourra donc bientôt se faire embaucher ou se faire virer par un ordinateur" comme si c'était certain.

Une autre : " l’intérêt c’est d’éviter d’influencer les décisions par des émotions et des sentiments (notre petite faiblesse humaine)". Ah bon ? C'est une faiblesse ?
Je croyais que justement, on ne peut pas prendre de décision sans émotion. Et on ne sait pas faire d'IA sans biais non plus...

Bref, on est dans la fantasme d'un patron de fond d'investissement avec un égo surdimensionné qui croit qu'on gère une boite avec un tableur Excel et aucune relation humaine parce que lui même est totalement handicapé de ce coté là ce qui explique sans doute pourquoi il a cherché à gagner le plus d'argent possible : il n'a rien d'autre dans la vie...
Là encore, l'IA me semble anecdoctique dans cette histoire.

[Deedee81]

Tout ça est très juste, mais bon, on va arrêter de taper sur ce pauvre journaliste On sait bien que les média c'est accrocheur et exagéré. C'est comme ça.

Ce qui est par contre utile à ce genre d'analyse (la tienne) c'est que si on a besoin de bonnes références pour discuter du sujet, il faut absolument rejeter toute référence venant des grands média. Pas assez précis et objectif. C'est dommage car le sujet n'est pas que purement scientifique et ça enlève une source importante d'information. Mais on ne construit pas un chateau sur du sable.

Ca reste mon avis.

[pm42]

Ca reste mon avis.

Que je partage. Sincèrement, causer avec des chercheurs, des ingénieurs et des startups dans le domaine a complètement changé ma vision du sujet. C'est toujours aussi fascinant mais les possibilités actuelles et prévisibles sont pour le moment sont largement en dessous de ce qu'on lit en général.

Ce n'est pas étonnant : il y a des investissements énormes et les gens derrières cherchent à valoriser leur travail. Ce qui donne des communiqués de presse spectaculaires avec parfois des départements marketing qui savent très bien créer le buzz.
Et la presse est ravie de rebondir dessus parce que cela fait vendre, génère du click tellement le sujet est à la mode.

On a l'habitude de ça avec les nouvelles technos en informatique mais là, c'est la 1ère fois que cela prend à ce point et qu'on touche le grand public aussi largement.

[Deedee81]

Que je partage. Sincèrement, causer avec des chercheurs, des ingénieurs et des startups dans le domaine a complètement changé ma vision du sujet. C'est toujours aussi fascinant mais les possibilités actuelles et prévisibles sont pour le moment sont largement en dessous de ce qu'on lit en général.

Mes sources sont plutôt scientifiques (revues comme PLS, La Recherche) et ça va dans le même sens. Malgré quelques cris d'alarmes parfois peu justifié (mais parfois si).

[invite51d17075]

Que je partage. Sincèrement, causer avec des chercheurs, des ingénieurs et des startups dans le domaine a complètement changé ma vision du sujet. C'est toujours aussi fascinant mais les possibilités actuelles et prévisibles sont pour le moment sont largement en dessous de ce qu'on lit en général.
(….)
On a l'habitude de ça avec les nouvelles technos en informatique mais là, c'est la 1ère fois que cela prend à ce point et qu'on touche le grand public aussi largement.

merci pour ton retour d'expérience.
il est vrai que je me sens aussi un peu lassé par cette "survente" des possibilités IA, qui s'accompagne justement de projections encore plus spéculatives.
ce qui est dommageable, dans la mesure ou on fini par oublier les réalisations concrètes et potentiellement utiles ou à risques ( à court terme )

je veux dire que cela peut induire des projections totalement dichotomiques entre un verre vide et un verre totalement plein.

[mtheory]

Je crois qu'il est plausible que l'on se rapproche doucement en quelques décennies de ce que prévoyait Isaac Asimov. Gérer la planète devient tellement difficile que l'on va lentement mais surement laisser des IA le faire en découvrant les façons les plus optimales de prendre des décisions économiques et sociales de "bases". Après tout, comme pour le jeu de go ou d'échec, elles doivent pouvoir simuler les effets de décisions stratégiques en économie, gestion etc.... pour trouver celles qui sont le plus efficaces. Ce serait la fin des débats entre économistes d'une certaine façon ce jour là.
Mais je suis d'accord qu'il ne faut pas s'attendre à des trucs spectaculaires dans, disons les 20 ans qui viennent. Et on est très loin de pouvoir se passer des humains dans ce domaine.

[mh34]

Gérer la planète devient tellement difficile que l'on va lentement mais surement laisser des IA le faire en découvrant les façons les plus optimales de prendre des décisions économiques et sociales de "bases".

Et tu crois vraiment que les humains accepteront ça?
Alors qu'on a déjà ça? http://www.rfi.fr/ameriques/20180517...-sundar-pichai

[invite51d17075]

Je crois qu'il est plausible que l'on se rapproche doucement en quelques décennies de ce que prévoyait Isaac Asimov. Gérer la planète devient tellement difficile que l'on va lentement mais surement laisser des IA le faire en découvrant les façons les plus optimales de prendre des décisions économiques et sociales de "bases". Après tout, comme pour le jeu de go ou d'échec, elles doivent pouvoir simuler les effets de décisions stratégiques en économie, gestion etc.... pour trouver celles qui sont le plus efficaces. Ce serait la fin des débats entre économistes d'une certaine façon ce jour là.
Mais je suis d'accord qu'il ne faut pas s'attendre à des trucs spectaculaires dans, disons les 20 ans qui viennent. Et on est très loin de pouvoir se passer des humains dans ce domaine.

Cela mérite deux questions:
qu'entend tu par "de bases" ? Une réforme des retraites par exemple implique des choix qui ont des impacts sociétaux.
Par ailleurs, dans une économie mondialisée, il faut tenir compte des autres évolutions ( franchement pas si simple , sauf à court terme ).
ce qui rejoins ma question sur l'efficacité : quels seront les critères d' efficacité retenus. ?

Dans les domaines geo-politiques et économiques, on ne peut se passer de réflexions à terme et donc aussi de choix de direction stratégiques.
les 20 ans que tu mentionnent me semblent bien court pour cela, sachant qu'on est loin d'avoir une piste d'IA "forte" pour ce type de réflexion.

[mtheory]

Et tu crois vraiment que les humains accepteront ça?
Alors qu'on a déjà ça? http://www.rfi.fr/ameriques/20180517...-sundar-pichai

Eh bien, imaginons un pays qui utilise une IA pour booster sa stratégie économique et son organisation sociale, si ça marche tout le monde voudra faire pareil pour rester compétitif, regarde ce qui est déjà en train de se mettre en place en Chine, qui est inquiétant à bien des égards, mais c'est la même idée, la société est une machine, un système dynamique comme un écosystème, le climat ou un avion à gérer...voir un usine avec des problèmes d'optimisations, comment imaginer qu'on ne va pas finir par modéliser ça aussi pour déterminer les solutions de gestions optimales ? C'est pas gagné, on est d'accord, et on peut avoir de grosses cata sur le chemin, mais à mon avis la tentation sera trop forte.

[invite51d17075]

pour le fun; j'imagine trois IA ( une US, une européenne, et une chinoise )
je doute fort qu'elle soit cohérentes entre elles pour proposer une direction consensuelle ( chacune ayant une vision de "l'efficacité" propre à l'intérêt de chacun des acteurs )

[mtheory]

Cela mérite deux questions:
qu'entend tu par "de bases" ? Une réforme des retraites par exemple implique des choix qui ont des impacts sociétaux.
Par ailleurs, dans une économie mondialisée, il faut tenir compte des autres évolutions ( franchement pas si simple , sauf à court terme ).
ce qui rejoins ma question sur l'efficacité : quels seront les critères d' efficacité retenus. ?

On n'a justement pas la solution de ces problèmes. On voit quand même des tas d'analyses de gens qui disent, il aurait fallut taxer ceci ou pas cela, financer tel truc, développer telle production etc...pour résoudre les problèmes du chômage etc... On a l'impression que ça reste à un niveau comparable à il aurait fallu construire tel moteur comme ça version XIXe siècle etc.... et on sait bien que plus on a mathématisé et utilisé la simulation numérique plus les vraies solutions dans le domaine de l’ingénierie ont été trouvées

[mtheory]

pour le fun; j'imagine trois IA ( une US, une européenne, et une chinoise )
je doute fort qu'elle soit cohérentes entre elles pour proposer une direction consensuelle ( chacune ayant une vision de "l'efficacité" propre à l'intérêt de chacun des acteurs )

au début sans doute, mais après ?

[invite51d17075]

On n'a justement pas la solution de ces problèmes. On voit quand même des tas d'analyses de gens qui disent, il aurait fallut taxer ceci ou pas cela, financer tel truc, développer telle production etc...pour résoudre les problèmes du chômage etc... On a l'impression que ça reste à un niveau comparable à il aurait fallu construire tel moteur comme ça version XIXe siècle etc.... et on sait bien que plus on a mathématisé et utilisé la simulation numérique plus les vraies solutions dans le domaine de l’ingénierie ont été trouvées

La comparaison me semble bien réductrice.
Et j'ai du mal à comparer le fonctionnement d'une société comme un moteur à combustion.
Pour le reste, cela me semble bien utopique.
Sans compter l'acceptation des sociétés "démocratiques" ( point soulevé par Marie Hélène ).
Car c'est indirectement faire fi du principe des élections des dirigeants, et ça c'est un peu dur à faire avaler , il me semble.
Donc la fin programmée de la démocratie, telle qu'elle considérée aujourd'hui.
Allons nous voter pour IA(a) face à l'IA(b) ? ou bien il n'y a plus de vote ?

[mtheory]

La comparaison me semble bien réductrice.
Et j'ai du mal à comparer le fonctionnement d'une société comme un moteur à combustion.
Pour le reste, cela me semble bien utopique.
Sans compter l'acceptation des sociétés "démocratiques" ( point soulevé par Marie Hélène ).
Car c'est indirectement faire fi du principe des élections des dirigeants, et ça c'est un peu dur à faire avaler , il me semble.
Donc la fin programmée de la démocratie, telle qu'elle considérée aujourd'hui.
Allons nous voter pour IA(a) face à l'IA(b) ? ou bien il n'y a plus de vote ?

Je n'ai pas dis que c'était simple, ni même que ça fonctionnera surement, je dis juste que c'est plausible qu'on aille dans cette direction, que ça peut être limité à déterminer des solutions optimales possibles pour les conditions de bases d'une société, pas que tous les buts et décisions seront laissés entre les mains d'une IA.
Quoi que...et c'est bien une des questions soulevées par le livre de Tegmark, si on fabrique vraiment qq chose de plus efficace qu'un humain, que décidera t-on vraiment ? La Chine prend une direction ou la démocratie telle qu'on l'entend en occident ne sera pas réalisée donc de facto, ce dont le parle pourrait arriver même si ce n'est pas à l'échelle de toute l'humanité. Mais je pose une question, qu'on fait la Chine, la Japon etc...pour lutter contre les occidentaux aux XXe siècle ? Adopter la science et la technologie occidentale. Que fera le reste du monde si un bloc devient vraiment plus efficace parce qu'il a laissé une partie de sa gestion déterminée de façon plus optimale par une IA ? Bien sûr la question se pose aussi de savoir si une telle IA sera possible. Ce sont des questions qui sont pile dans la thématique du livre de Tegmark et dans le fait que les gens doivent être au courant de ce qui pourrait arriver pour prendre les décisions nécessaires.

[mtheory]

Et j'ai du mal à comparer le fonctionnement d'une société comme un moteur à combustion.

Les Chinois le font http://www.sciencemag.org/news/2018/...e-its-citizens

[invite51d17075]

Ce n'est pas une sté démocratique et le lien que tu donnes fait plutôt froid dans le dos !

[mtheory]

Ce n'est pas une sté démocratique et le lien que tu donnes fait plutôt froid dans le dos !

je suis d'accord...les nazis auraient adoré....

[invite51d17075]

Pourtant tu sembles par ailleurs y voir potentiellement des solutions macroscopiques utiles et saines , alors que ton exemple est à l'inverse !

[mtheory]

Pourtant tu sembles par ailleurs y voir potentiellement des solutions macroscopiques utiles et saines , alors que ton exemple est à l'inverse !

On peut se noyer avec de l'eau et tuer avec un bistouri...

[Deedee81]

Juste sur ce point :

Et tu crois vraiment que les humains accepteront ça?

Le risque principal est le syndrome de la grenouille : https://fr.wikipedia.org/wiki/Fable_de_la_grenouille
A force d'utiliser progressivement l'IA, par petite touche, étape par étape, dans des décisions de plus en plus complexes et plus larges, on risque un jour de se retrouver devant le fait accompli : "les IA décident de tout".
(enfin, quand je dis "on", ce sera nos petits enfants)

[mtheory]

Juste sur ce point :



Le risque principal est le syndrome de la grenouille : https://fr.wikipedia.org/wiki/Fable_de_la_grenouille
A force d'utiliser progressivement l'IA, par petite touche, étape par étape, dans des décisions de plus en plus complexes et plus larges, on risque un jour de se retrouver devant le fait accompli : "les IA décident de tout".
(enfin, quand je dis "on", ce sera nos petits enfants)

oui..........

[inviteef2ff547]

J'ai beaucoup de mal à imaginer une IA à la tête d'un pays (ou d'une entreprise). Beaucoup moins à imaginer l'utilisation des techniques IA pour le contrôle des populations. Cela inclura
via la reconnaissance faciale :
- L'identification des personnes présentent à une manifestation ;
- Le contrôle de la petite délinquance de rue ;
- Le respect des contrôles judiciaires, des interdictions de résidence etc…
- L'identification des contrevenants au code de la route (attention, vous traversez en dehors des clous !)

Via l'analyse de document ou de grosses bases de données :
- La délivrance des papiers administratifs (carte grise, passeport…)
- La justice de masse (divorce, litiges commerciaux ou des prud'hommes…)
- La détection des fraudes à l'assistance sociale ou au Fisc, le travail au noir ;
- Qui communique avec qui…

Toutes ces techniques de contrôles étaient mise en œuvre à grand échelle dans les systèmes totalitaires de l'Europe de l'est et de la chine d'avant Den-Xiaoping ; Elles avaient un coût direct colossal. Des estimations l'évaluent à 30% du PIB.

"Grâce" à l'IA, les coûts devraient baissés. C'est le pari de la Chine, j'espère qu'il sera perdant… Mais je n'en suis pas sûr du tout.
Dans le cas contraire, il sera très vite adopté par nos pays démocratique, avec comme unique différence – au moins au début - une plage des comportements autorisés plus étendues.

[invite51d17075]

Salut,
dans ta liste, tout n'est pas à jeter à priori , ( verif d'identité, fraude fiscale, etc … ) tout dépend comment cela est encadré.
en revanche la frontière avec l'atteinte aux libertés individuelles peut être floue dans certains cas.
l'extension aux sensibilités politiques, religieuses, associatives, etc.… peut être tentante et franchir la ligne jaune ( ou rouge ).

je pensais d'avantage à des trucs plus insidieux et subtils, comme l'espionnage industriel, les influences électorales, la diffamation programmée, etc ….
et même dans ces cas, on reste assez éloigné des scénarios "ultra" qui semblent être au cœur du livre dont il est question ici.

[inviteef2ff547]

Salut,
dans ta liste, tout n'est pas à jeter à priori , ( verif d'identité, fraude fiscale, etc … )

Mais c'est justement le point insidieux. Dans nos sociétés démocratiques, l'immense majorité des gens sont d'accord pour respecter la plupart des lois...
Et donc d'accord pour qu'on les fasse respecter…

Mais si la loi dit que les juifs doivent porter une étoile jaune ?

A partir du moment où on a un outil qui ne permet plus à personne de violer la loi, comment celle-ci peut-elle évoluer ? L'avortement aurait-il été légalisé si on avait été en mesure de sanctionner systématiquement toutes les femmes qui avortaient clandestinement ? La marijuana aurait-elle été autorisée dans certains états US s'il n'y avait pas eu une base de consommateurs régulier (et illégaux) ?

je pensais d'avantage à des trucs plus insidieux et subtils, comme l'espionnage industriel, les influences électorales, la diffamation programmée, etc ….

Nous vivons dans des sociétés démocratiques. C'est tout à fait naturellement que nous pensons que les "méchants" ne sont pas à la tête de l'état et que celui-ci nous protège. Mais nous ne sommes qu'un petit sixième de l'humanité à vivre sous le règne de l'état de droit.

et même dans ces cas, on reste assez éloigné des scénarios "ultra" qui semblent être au cœur du livre dont il est question ici.

Je l'ai déjà écrit, le livre est terriblement décevant. Il ne s'intéresse qu'a l'hypothèse de l'émergence d'une IA très forte. Et même dans cette hypothèse, il n'aborde aucune question de façon sérieuse.

L'une d'entre elle, devraient à mon avis être au cœur des réflexions : une IA totale ou des IA ? De cette problématique découle assez naturellement l'organisation d'une future société d'IA avec deux schéma : la fourmilière (des milliers – des milliards - de robots soumis à une autorité centrale qui détermine le but du monde), ou une société ouverte avec des centaines (ou des millions) d'IA indépendant en compétitions / coopérations.

Les sociétés humaines ont toujours oscillés entre les deux pôles (empire ou dictature versus république, aristocratie ou démocratie) sans que jamais l'un des deux ne se montre plus efficace que l'autre. Et historiquement, l'évolution des sciences est largement favorisée dans des sociétés ouvertes (et les guerres internes y sont aussi bien plus fréquentes).

[invitec830472d]

Quoi que...et c'est bien une des questions soulevées par le livre de Tegmark, si on fabrique vraiment qq chose de plus efficace qu'un humain, que décidera t-on vraiment ? La Chine prend une direction ou la démocratie telle qu'on l'entend en occident ne sera pas réalisée donc de facto, ce dont le parle pourrait arriver même si ce n'est pas à l'échelle de toute l'humanité. Mais je pose une question, qu'on fait la Chine, la Japon etc...pour lutter contre les occidentaux aux XXe siècle ? Adopter la science et la technologie occidentale. Que fera le reste du monde si un bloc devient vraiment plus efficace parce qu'il a laissé une partie de sa gestion déterminée de façon plus optimale par une IA ? Bien sûr la question se pose aussi de savoir si une telle IA sera possible. Ce sont des questions qui sont pile dans la thématique du livre de Tegmark et dans le fait que les gens doivent être au courant de ce qui pourrait arriver pour prendre les décisions nécessaires.

Même sans avoir à parler de la Chine, se pose la question de comment les classes dominantes vont-elles traiter les gens qui ne sont plus utiles au fonctionnement de la société, si remplacés par des robots et l'IA ?

Une autre alternative, c'est de penser que le transhumanisme permettra à la majorité de la population de rester compétitive.

[mtheory]

Je l'ai déjà écrit, le livre est terriblement décevant. Il ne s'intéresse qu'a l'hypothèse de l'émergence d'une IA très forte.

ça n'est pas vrai du tout....il suffit de lire par exemple le chapitre 3 pour s'en rendre compte. Il y a aussi un chapitre sur les théories de la conscience.

[invite51d17075]

Mais si la loi dit que les juifs doivent porter une étoile jaune ?

heuuu ! la loi de qui ? là c'est toi franchi la ligne !

[JPL]

Même si la modération a élargi exceptionnellement ses critères de tolérance pour cette discussion elle flirte dangereusement avec les limites de cette tolérance et le point Godwin vole bien bas ce soir !