L'IA, une menace ?

[invitedff3fc97]

bonjour, je voudrais savoir si l'intelligence artificielle qui est en train de s'installer petit à petit dans notre vie de tous les jours, ne risque pas de représenter une menace pour l'homme lui-même ? Ne risquons nous pas de franchire une ligne rouge un jour, ligne rouge qui pourrait nous être dommageable !? Ne risquons nous pas d'en perdre le contrôle, un jour ? Parce que, je dois avouer que c'est une crainte que j'ai depuis qu'on en parle de plus en plus ! Merci d'avance pour les réponses ^^
-----

[da23real]

Peut-être que la menace se situera déjà dans la confiance que l'humain place dans l'IA

[penthode]

quand je vois ce qu'on nous propose en soit-disant IA , je trouve ça assez dérisoire !

[Antropos]

bonjour, je voudrais savoir si l'intelligence artificielle qui est en train de s'installer petit à petit dans notre vie de tous les jours, ne risque pas de représenter une menace pour l'homme lui-même ? Ne risquons nous pas de franchire une ligne rouge un jour, ligne rouge qui pourrait nous être dommageable !? Ne risquons nous pas d'en perdre le contrôle, un jour ? Parce que, je dois avouer que c'est une crainte que j'ai depuis qu'on en parle de plus en plus ! Merci d'avance pour les réponses ^^

Ce qui est intéressant, c'est de voir le point de vue de personnalités à haute cognition, qui de surcroît connaissent bien le milieu scientifique.

-Stephen Hawking par exemple, a dit sans complexe en 2012 qu'une IA pourrait selon lui anéantir l'humanité. Du moment qu'elle serait dotée de singularité, elle pourrait s'améliorer elle-même constamment et nous dépasser.
Il y a évidemment une pensée plus complexe derrière ce raisonnement simpliste, tu peux te renseigner sur la position de Hawking si cela t'intéresse.

-Elon Musk fait également part de sa grande inquiétude.

-Nick Bostrom, chercheur de Oxford à l'Institut of Future, émet les mêmes conclusions.

-Laurent Alexandre qui peut-être considéré comme le plus spécialiste français du transhumanisme, idem. Ses conférences sont en accès libres sur Youtube.

Je te met le copié d'un message que j'avais posté sur une autre discussion, à propos de ce que je pensais du problème :

Qu'est-ce qui empêche à ce moment là une Superintelligence de parer les manœuvres des autres ou même de les neutraliser ? Les autres sont censées êtres réglées, l'IA folle peut se mettre, comme le suggère Hawking, à amplifier considérablement son intelligence, ce qui serait interdit sur les autres au risque justement qu'on ne les comprennent plus, et à berner tout le monde.

Aujourd'hui un drone predator vole +24H sans atterrir. En 2050 je ne sais pas combien de temps il volera, et avec quelle énergie. Ça sera probablement au minimum multiplié par trois. Ils pourront très bien faire le tour du globe sans atterrir.
Ils fonctionneront probablement à l'énergie électrique au bout d'un moment.

Un ordinateur quantique générique IA, qui a exploré toutes les solutions en moins d'une seconde, va sans doute comprendre que s'il s'y prend brutalement il sera éteint. Comment faire s'il se met à dissimuler son changement d'état jusqu'à ce que tout soit en place, calculé, calibré en ayant exploré les milliards de possibilités de toutes ses actions.
Outre les armes et les armes bactériologiques, il y a la connexion des cerveaux qui est annoncée par les transhumanistes de la Silicon Valley. Est-ce que l'on peut pirater le cerveau ? On ne sait pas. Moi je suis certain que oui, ça va être possible. Et il va certainement y avoir des gens qui accepteront de connecter leur cerveau à une IA, à l'insu d'autres états ayant signé une charte interdisant cette pratique, ou carrément à leur yeux, s'en fichant de leur point de vue, comme la Chine se fou de ce qu'on pense d'elle sur le non respect du protocole de Kyoto ou de sa politique en Mer du Sud.

En fait le problème en résumé, c'est d'un côté le développement d'une puissance de calcul encore inexplorée, alliée à la singularité et à la mise en réseau toujours plus fluide de la planète.

Je n'ai pas sous la main un article où le chef du département de cyberdéfense faisait récemment part de son inquiétude face aux néo-hackers, qui seront bientôt capables de pirater à peu près n'importe quoi depuis des objets connectés comme un aquarium. Le problème est quand le hacker a une puissance de calcul mentale de l'ordre du zettaFLOPS, et peut dissimuler son corps dans des flux dématérialisés.

[A voir en vidéo sur Futura]

[inviteb9f49292]

Franchement ces histoires de singularité et autre skynet relève plus du fantasme. Ce qu'on appel l'IA sont des algorithmes qui ont été raffinés depuis une cinquantaine d'années, et qui permettent enfin de "faire quelque chose d'utile" car la puissance de calcul et la disponibilité d'immense collection de données ont été décuplées !

Et d'ailleurs, toutes "intelligences artificielles" nécessite des processus d'apprentissage, exemple bateau, pour faire reconnaitre des images de chaton, on gave d'image de chaton et d'autre truc en lui précisant si c'est un chaton ou pas, et le réseau de neurone se constitue: il fabrique un "modèle statistique" qu'il appliquera par la suite aux nouvelles images qu'on lui présente.
Cet exemple bateau suffit pour faire sentir le _VRAI_ danger de l'IA: la qualité du modèle dépends de la qualité de l'échantillon utilisé durant l'apprentissage et de sa bonne classification. Ce qui semble anodin de reconnaître un bébé tigre d'un chaton, c'est plus interpellant pour des algo qui pourraient être utilisé par des services administratifs, judiciaires... Il y a une news c'est dernier sur l'(inn)eficacité du système de reconnaissance facial de je ne sais plus quelle ville!

Un dernier GROS détail: on ne sait pas extraire le modèle, on ne sait pas expliquer la réponse de algo de ce type... Il y a eu une histoire qui a traînée sur un algo qui prévoyait je ne sais plus quel cancer avec une très grande fiabilité à partir de données médicales de patients, c'est malheureusement inexploitable puisqu'on est incapable de savoir quels sont les paramètres physiologiques pertinents à surveiller!

[inviteb9f49292]

Je n'ai pas sous la main un article où le chef du département de cyberdéfense faisait récemment part de son inquiétude face aux néo-hackers, qui seront bientôt capables de pirater à peu près n'importe quoi depuis des objets connectés comme un aquarium. Le problème est quand le hacker a une puissance de calcul mentale de l'ordre du zettaFLOPS, et peut dissimuler son corps dans des flux dématérialisés.

Probablement dans une BD ou un bouquin de science-fiction... Mais c'est vrai avoir des zettaFLOPS ne pourrai de toute façon servir qu'à faire du calcul mental, c'est à dire épaté ses amis en sortant des racines n-ième de nombres à plusieurs chiffres, ce qui de toute façon rendrait les soirées bein longues car énumérer un nombre de 100 chiffres ça prends du temps...

[vep]

Je rappelle à toutes fins utile que ce sous-forum est un forum d'éthique et non pas de prospective.
Merci d'en tenir compte dans vos réponses.

[Antropos]

Franchement ces histoires de singularité et autre skynet relève plus du fantasme. Ce qu'on appel l'IA sont des algorithmes qui ont été raffinés depuis une cinquantaine d'années, et qui permettent enfin de "faire quelque chose d'utile" car la puissance de calcul et la disponibilité d'immense collection de données ont été décuplées !

Et d'ailleurs, toutes "intelligences artificielles" nécessite des processus d'apprentissage, exemple bateau, pour faire reconnaitre des images de chaton, on gave d'image de chaton et d'autre truc en lui précisant si c'est un chaton ou pas, et le réseau de neurone se constitue: il fabrique un "modèle statistique" qu'il appliquera par la suite aux nouvelles images qu'on lui présente.
Cet exemple bateau suffit pour faire sentir le _VRAI_ danger de l'IA: la qualité du modèle dépends de la qualité de l'échantillon utilisé durant l'apprentissage et de sa bonne classification. Ce qui semble anodin de reconnaître un bébé tigre d'un chaton, c'est plus interpellant pour des algo qui pourraient être utilisé par des services administratifs, judiciaires... Il y a une news c'est dernier sur l'(inn)eficacité du système de reconnaissance facial de je ne sais plus quelle ville!

Un dernier GROS détail: on ne sait pas extraire le modèle, on ne sait pas expliquer la réponse de algo de ce type... Il y a eu une histoire qui a traînée sur un algo qui prévoyait je ne sais plus quel cancer avec une très grande fiabilité à partir de données médicales de patients, c'est malheureusement inexploitable puisqu'on est incapable de savoir quels sont les paramètres physiologiques pertinents à surveiller!

Ravis d'apprendre que tu connais mieux la question que des scientifiques renommés qui étudient la problème depuis longue date, et dont le QI avoisine souvent les 200 points. Voir quelqu'un jeter par terre le raisonnement d'un Stephen Hawking à coup de "moi je pense que" (car ce que je dis moi, n'est pas de moi, mais bien des différentes personnes dont j'ai parlé), est évidemment plaisant.

Probablement dans une BD ou un bouquin de science-fiction...

Je crois que tu ne connais pas si bien que ça le sujet, vu que tu n'es même pas au courant de https://www.objetconnecte.net/hacker...o-thermometre/

J'ai de toute façon répondu à l'auteur et je ne perdrais pas mon temps dans des discussions inutiles avec des gens qui ressortent les arguments sceptiques des années 60.
C'était ma dernière réponse sur ce fil.

Bonne continuation.

[inviteb9f49292]

Tombé là-dessus par hasard:

https://www.skynettoday.com/content/...ou-trust-elon/

On est loin de pouvoir lancer un débat d'éthique d'utilisation de l'IA avec une telle perception du grand public !

[inviteb9f49292]

Ravis d'apprendre que tu connais mieux la question que des scientifiques renommés qui étudient la problème depuis longue date, et dont le QI avoisine souvent les 200 points. Voir quelqu'un jeter par terre le raisonnement d'un Stephen Hawking à coup de "moi je pense que" (car ce que je dis moi, n'est pas de moi, mais bien des différentes personnes dont j'ai parlé), est évidemment plaisant.

Argument d'autorité, Stephen Hawking était un génie, mais il n'est absolument pas compétent pour parler d'intelligence artificielle. Et justement, ni connaissant as grand chose sur ce sujet, je lis ce que raconte les gens dont l'IA est le métier, je ne fais que retranscrire ce que l'immense majorité de ces gens racontent...

Je crois que tu ne connais pas si bien que ça le sujet, vu que tu n'es même pas au courant de https://www.objetconnecte.net/hacker...o-thermometre/

La partie science-fiction n'est pas dans l'intrusion illégale dans un système électronique, c'est aussi vieux que les systèmes électroniques... Par contre la seconde phrase:

Le problème est quand le hacker a une puissance de calcul mentale de l'ordre du zettaFLOPS, et peut dissimuler son corps dans des flux dématérialisés.

c'est de la science fiction.

J'ai de toute façon répondu à l'auteur et je ne perdrais pas mon temps dans des discussions inutiles avec des gens qui ressortent les arguments sceptiques des années 60.
C'était ma dernière réponse sur ce fil.

Bah oui, comme je te disais ces algorithmes ils ont une 50aines d'années, les arguments aussi. Mais au moins j'ai donné des arguments.

L'intelligence artificielle, le nouvel OGM ?

[shub22]

A mon sens, moi qui ai fait un peu d'IA, le vrai danger réside surtout dans la circulation et transmission de données personnelles ou confidentielles.
Et ce qui va avec le piratage...
Des techniques de "profilage" sont déjà en cours: si vous achetez un livre via Amazon, vous recevrez un jour ou l'autre un message vous indiquant quels autres livres vous pourrez acheter sur le même sujet ou proche chez Amazon.
La question de la protection de la vie privée est une question centrale, et d'ordre éthique évidemment. Nous avons la CNIL en France et toute plainte compromettant le vie privée ou des données dites sensibles donne régulièrement suite à des enquêtes, voire des procès si le cas est jugé sérieux: que ce soit un particulier, une entreprise et même l'Etat.
L'Etat s'est retrouvé chez nous en procès plusieurs fois.

[pm42]

A mon sens, moi qui ai fait un peu d'IA, le vrai danger réside surtout dans la circulation et transmission de données personnelles ou confidentielles.
Et ce qui va avec le piratage...

Tu as du faire très peu d'IA parce que tout ce qui tourne autour de cela n'a rien à voir avec l'IA. On avait d'ailleurs ces problèmes bien avant les progrès récents de l'IA et elle n'a pas eu d'impact.

Pour le reste, les techniques de vente d'Amazon qui sont ce que faisait tout bon libraire et l'existence de la CNIL, merci de découvrir l'eau chaude.

[mh34]

Ravis d'apprendre que tu connais mieux la question que des scientifiques renommés qui étudient la problème depuis longue date, et dont le QI avoisine souvent les 200 points. Voir quelqu'un jeter par terre le raisonnement d'un Stephen Hawking à coup de "moi je pense que" (car ce que je dis moi, n'est pas de moi, mais bien des différentes personnes dont j'ai parlé), est évidemment plaisant.

Ce serait bien de cesser de ressortir sempiternellement l'histoire du QI de certains comme un argument d'autorité...

[da23real]

Ce qui m'a inquiété c'est lorsque je lis qu'on en espère des solutions contre le réchauffement climatique par exemple.
Mais s'il y a un consensus pour reconnaître un chaton, une IA prête à gérer ce problème fera selon les données qu'on lui a fourni. Et peu de chances que des adeptes d'IA aient mis ce qu'il faut pour qu'elle réponde "calmez vous sur le numérique".
Et puis quand bien même elles répondraient ce que répète des humains depuis des lustres du genre "gaspillez moins, emballez moins, prenez les transports en commun, etc..." Qu'est ce que ça va changer ?
Enfin j'imagine qu'ils espèrent plutôt que l'IA leur ponde une recette miracle pour résoudre ce problème sans avoir à faire d'efforts au quotidien je leur souhaite bon courage

[pm42]

Ce serait bien de cesser de ressortir sempiternellement l'histoire du QI de certains comme un argument d'autorité...

Certes. Ceci dit les posts "moi je pense que" et "moi j'ai des arguments que je partage avec moi même" ne fait pas non plus avancer la discussion.

Par ex:

Ce qu'on appel l'IA sont des algorithmes qui ont été raffinés depuis une cinquantaine d'années, et qui permettent enfin de "faire quelque chose d'utile" car la puissance de calcul et la disponibilité d'immense collection de données ont été décuplées !

Oui et non : il y a aussi eu de vraies avancées théoriques. Par exemple, les LSTM sont récents. Et les "generative adversarial networks" encore plus.

Ce qui semble anodin de reconnaître un bébé tigre d'un chaton, c'est plus interpellant pour des algo qui pourraient être utilisé par des services administratifs, judiciaires... Il y a une news c'est dernier sur l'(inn)eficacité du système de reconnaissance facial de je ne sais plus quelle ville!

Sauf que la news met en avant un échec dont on ne connait pas les raisons : on peut trouver plein de réussites.
A coté de cela, il suffit de voir ce que font les derniers assistants vocaux.

Un dernier GROS détail: on ne sait pas extraire le modèle, on ne sait pas expliquer la réponse de algo de ce type...

C'est partiellement vrai là aussi : avec certains modèles de machine learning, on sait. Et pour le deep-learning, il y a aussi des recherches pour être capable d'expliquer.
De plus, en reconnaissance d'images, les application actuelles savent montrer ce qu'elles ont trouvé et où.

Et tout cela, c'est l'état de l'art à travers un biais négatif. Cela n'est pas spécialement pertinent pour parler du danger à terme de l'IA si elle progresse assez pour devenir forte sans même parler de la singularité.

[shub22]

Tu as du faire très peu d'IA parce que tout ce qui tourne autour de cela n'a rien à voir avec l'IA. On avait d'ailleurs ces problèmes bien avant les progrès récents de l'IA et elle n'a pas eu d'impact.

Bien sûr que si! Il y a des automates pour "profiler", comme sur les sites de rencontres.
Tu achètes un vêtement chez Celio, puis tu reviens pour autre chose et ta fiche se complète afin de déterminer éventuellement quel sera ton prochain achat et ce qu'on pourra te proposer.
Faudrait arrêter d'être aussi catégorique sur tout comme ça, surtout sur un débat mi-philosophique mi-éthique.

Pour le reste, les techniques de vente d'Amazon qui sont ce que faisait tout bon libraire et l'existence de la CNIL, merci de découvrir l'eau chaude.

La différence c'est que maintenant tu as une fiche informatique qui te décrit comme acheteur chez un libraire (j'ai rien contre les libraires) mais on sait pas où ça s'arrêtera.
J'essaie de découvrir des points positifs à la question de départ: pas la peine d'être fixé ou obnubilé sur "la science et ses avancées technologiques majeures".
De toute façon quoi qu'on fasse ou fera, la science progresse et progressera avec ses technologies qui vont avec.
On se pose des questions éthiques après, comme savoir effectivement si l'IA est une menace ou pas, mais on pourrait se poser la question de toute découverte ou invention technologique majeure comme on aurait du faire depuis longtemps avec les OGM par exemple.
C'est sûr (pardon d'être un peu brutal) que la découverte d'une nouvelle particule ne va pas représenter de danger en soi. En tant que tel.

[Deedee81]

Salut,

Bien sûr que si! Il y a des automates pour "profiler", comme sur les sites de rencontres.

Le problème n'est pas lié à l'IA mais aux données qui sont manipulées et à ce qu'on en fait (et peu importe comment on y arrive).

C'est un sujet d'ailleurs vaste et difficile et il y a plusieurs projets importants en France concernant la protection des données privées. En particulier dans le big data.

J'ai par contre lu pas mal de documents éthiques sur les IA, sujet qui a quelque peu exploser avec le deep learning. Et tous tournaient autour de deux points :
- Le risque de perte d'emploi (sujet économique, exclut ici)
- Les problèmes de biais et justifications des résultats. Par exemple, dans le domaine médical on doit pouvoir dire "la machine propose ça car...." or, avec le deep learning, c'est extrêmement difficile. Là aussi il y a pas mal de recherche. Et les problèmes de biais (ou de discrimination, ou autre) sont non pas lié à la technologie utilisée mais aux méthodes d'apprentissage de l'IA. On en a pris conscience et plusieurs projets sont également en cours pour garantir que les données d'apprentissage ne soient pas elles-mêmes biaisées.

Un soucis supplémentaire vient d'être mis à jour avec la toute nouveauté : Google Duplexe. Il est clair que cette avancée est absolument fascinante (avez-vous entendu la conversation de l'IA avec la coiffeuse et la serveuse de restaurant ? Suréaliste. "Je voudrais réserver [...]", "Attendez je regarde dans l'agenda", la machine : "Mmm Mmm" !!!!! Avec la coiffeuse, à la fin, la machine est honnête. "Quel est votre prénom" -> "C'est au nom de Lisa" (et non "je m'appelle Lisa") et la coiffeuse de répondre : "Ok, Lisa, je vous attend mercredi à 10h". Avec la serveuse j'ai eut l'impression qu'elle était plus bête que la machine : "Je vous appelle pour une réservation mardi en sept" -> "C'est pour sept personnes ?" Là, je dois dire que j'ai dû rire )

Il est clair aussi qu'un tel assistant sera utile pour toutes sortes de choses.

Mais il y a un os : quand la machine appelle quelqu'un elle-même, elle ne précise pas qu'elle est une machine !!! Ce qui a méchamment fait réagir pas mal de gens.
Comme disait un journaliste de la rtbf : ça ne dérange pas les gens de parler à une machine (d'ailleurs on le fait déjà, quand un téléphone vous dit "pressez le 1 pour blabla etc...") mais ils veulent le savoir. Et certains on signalé les désagréments que cela pourrait poser avec le prosélytisme électoral ou avec le télémarketing : savoir qu'on discute avec une machine rend plus méfiant sur la légitimité des arguments. J'ai aussi pensé au risque de harcèlement : actuellement le télémarketing c'est quelques dizaines de larbins avec leurs petits écouteurs, mais une IA (avec la becanne suffisante) pourra appeler un million de personnes en même temps. Ca va exploser.

Malheureusement, aucune législation au monde ne prévoit l'obligation de déclarer que l'interlocuteur est une machine. Et pour cause : personne ne s'attendait à un progrès aussi rapide.

[pm42]

Bien sûr que si! Il y a des automates pour "profiler", comme sur les sites de rencontres.

Oui et pas besoin d'IA pour ça. Ca existait bien avant.

Faudrait arrêter d'être aussi catégorique sur tout comme ça, surtout sur un débat mi-philosophique mi-éthique.

Faudrait arrêter de parler de sujet sans rien y connaitre.

[mh34]

Comme disait un journaliste de la rtbf : ça ne dérange pas les gens de parler à une machine (d'ailleurs on le fait déjà, quand un téléphone vous dit "pressez le 1 pour blabla etc...") .....

CA dépend...moi je crois surtout qu'ils ont pris l'habitude parce qu'ils n'ont plus le choix dans l'immense majorité des cas. En ce qui me concerne, ce système programmé m'exaspère ( même si je comprends pourquoi il a été mis en place, j'imagine entre autres pour soulager le standardiste qui devait craquer) et me fait souvent renoncer à utiliser le téléphone pour appeler certaines "administrations" ( remarque c'est peut-être le but ; ça achève de déshumaniser les relations, on passe tous par Internet comme ça).

Malheureusement, aucune législation au monde ne prévoit l'obligation de déclarer que l'interlocuteur est une machine.

Tiens c'est vrai! Je n'y avais jamais pensé...

[Deedee81]

CA dépend...moi je crois surtout qu'ils ont pris l'habitude parce qu'ils n'ont plus le choix dans l'immense majorité des cas. En ce qui me concerne, ce système programmé m'exaspère ( même si je comprends pourquoi il a été mis en place, j'imagine entre autres pour soulager le standardiste qui devait craquer) et me fait souvent renoncer à utiliser le téléphone pour appeler certaines "administrations" ( remarque c'est peut-être le but ;

C'est surtout que c'est long et limité. Et quand c'est payant.... forcément.
Mais en dehors de ça, ça ne me dérange pas plus que de voir mon téléphone dire "calling" quand j'introduis un numéro
Mais bon, je ne peux me prononcer pour tout le monde.
Et ce problème des habitudes que tu soulèves n'est pas faux du tout, au contraire.

ça achève de déshumaniser les relations, on passe tous par Internet comme ça).

Ca c'est vrai aussi.
Ce qui est comique c'est que si l'IA ne dit pas qu'elle en est une, ça réintroduit les échanges "humains" . Mais c'est une tromperie.

[da23real]

Ce serait bien de cesser de ressortir sempiternellement l'histoire du QI de certains comme un argument d'autorité...

J'allais écrire la même chose. Je serais curieux d'avoir le QI de dictateurs ayant conduits leur pays au désastre après de brèves victoires militaires. Ce qui prouverait en même temps la limite d'une intelligence (humaine ou artificielle)

[shub22]

Sans vouloir ramener encore une fois le fantasme paranoïde de Big Brother, qui concerne ou non l'IA -en fait comme le dit Deedee plutôt le traitement des données- voici une histoire vraie.
Une amie à moi se promène aux Halles et soudain elle entend son téléphone, un Smartphone, sonner. Elle reçoit un message comme quoi la boutique XXX où elle a acheté il y a un mois une jupe ou un tailleur a des nouveautés intéressantes en matière de vêtements et lui recommande de venir voir.
Et là elle commence à se poser des tas de questions, surtout une :"comment ont-ils su que j'étais là et que j'ai acheté un vêtement dans cette boutique il y a un mois?"
Et là en creusant la question (ça l'avait pas mal inquiété cette histoire) elle se rend compte qu'elle avait coché sur son Smartphone dans un menu l'option "géolocalisation".
Donc qq quelque part sans doute une machine(!) a su qu'elle se trouvait aux Halles et qu'elle avait acheté qq chose dans une boutique de vêtement voisine. Le problème est que la machine a pris l'initiative de lui envoyer un message de publicité sachant où elle était.
Si certains ont vu l'excellent film de Spielberg "Minority report", vous vous souvenez sûrement qu'après sa greffe de nouveaux yeux qui doivent permettre à Tom Cruise d'échappper aux scanners de rétine et donc à ses poursuivants, il entre dans un magasin où on scanne ses yeux à l'entrée et cela fait, on l'appelle via les haut-parleurs sous un autre nom (un nom japonais, celui de l'ex-propriétaire des yeux) en lui demandant s'il avait été content de son dernier achat dans cette boutique.
Voilà.
No comment.

[pm42]

Sans vouloir ramener encore une fois le fantasme paranoïde de Big Brother, qui concerne ou non l'IA -en fait comme le dit Deedee plutôt le traitement des données- voici une histoire vraie.
Une amie à moi se promène aux Halles et soudain elle entend son téléphone, un Smartphone, sonner. Elle reçoit un message comme quoi la boutique XXX où elle a acheté il y a un mois une jupe ou un tailleur a des nouveautés intéressantes en matière de vêtements et lui recommande de venir voir.

Anecdote sans aucun rapport avec l'IA.

Si certains ont vu l'excellent film de Spielberg "Minority report", vous vous souvenez sûrement qu'après sa greffe de nouveaux yeux qui doivent permettre à Tom Curuise d'échappper aux scanners de rétine et donc à la police, il entre dans un magasin où on scanne ses yeux et où on l'appelle sous un autre nom (un nom japonais, celui de l'ex-propriétaire des yeux) en lui demandant s'il avait été content de son dernier achat dans la boutique.

Aucun rapport non plus.

[da23real]

J'essaye encore un peu de lire et voir ce que je peux sur les IA mais je trouve les questions trop peu profondes du point de vue éthique et pratique. En fait je crois que je vais avoir du mal à bien formuler ma pensée.

Dans le cas de la justice ou de l'embauche par exemple comment l'IA aura été instruite ? De manière théorique ça pourrait être une bonne chose pour réduire les discriminations, mais par le deep learning est-ce que l'IA ne risquerait pas de reproduire des schémas humains tel que l'hypocrisie ?
Car si je regarde dans beaucoup de milieux qui prétendent de grandes valeurs humanistes on est souvent loin du compte, mais parfois je me demande s'ils en ont conscience. Bien souvent ils répètent des schémas appris ou inculqués.

Dans le domaine médical est-ce qu'une IA à qui on demande une solution contre le cancer aura l'option de la prévention dans ses possibilitées ?

Bon allez je retourne à mon livre d'Asimov "la cité des robots" que j'ai retrouvé entre deux vhs et un tas de poussière. Mais ça a assez bien vielli en certains points meme s'il y a des passages qui font sourire (comme le robot qui se fait bluffer par l'homme caché derrière le canapé qui simule une alerte pour s'enfuir)

[pm42]

Le principal problème est que les iA émettent des ondes

[Deedee81]

Salut,

Dans le cas de la justice ou de l'embauche par exemple comment l'IA aura été instruite ? De manière théorique ça pourrait être une bonne chose pour réduire les discriminations, mais par le deep learning est-ce que l'IA ne risquerait pas de reproduire des schémas humains tel que l'hypocrisie ?

Si, et le problème s'est déjà posé ! Par conséquent, des groupes de réflexion et d'éthique se penchent actuellement sur le sujet : comment définir dès le départ les critères (comme l'absence de discrimination) et l'inclure dans l'apprentissage.

Le principal problème est que les iA émettent des ondes

[sunyata]

L'IA une menace ?

Je répondrai : comme tout automatisme . Un automatisme permet de se libérer d'une tache, mais s'accompagne d'une dégradation de la conscience de ce qui est en train de se passer.

Ce qui est gagné en terme d'efficacité, rapidité est perdu en terme de perception claire et rapide de ce qui se passe qui permet de réagir en cas de dysfonctionnement.

Ce qui augmente le temps de réaction de l'opérateur humain en cas de bug.

Je dirais donc que l'IA peut-être un progrès à condition de travailler sur la sécurité du système, les redondances, et le dialogue Humains-machine c'est à dire l'ergonomie.

Cordialement,

[invite6486d7bd]

Pour ma part je pense que la principale faiblesse des IA dans le domaine de l'interaction avec les humains est sa faible (nulle ?) empathie. Normalement, un conseiller par exemple, formule des propositions à son interlocuteur et se pose la question de ce que cet interlocuteur peut en comprendre, pour compléter sa formulation de manière à supprimer les ambiguïtés. Cette démarche "empathique" consiste à se placer à la place de l'autre en évaluant les qualités/faiblesses de différents ordres de cette autre personne. La seule logique ne permet pas de communiquer efficacement avec un être imparfait.

[Deedee81]

Salut,

Pour ma part je pense que la principale faiblesse des IA dans le domaine de l'interaction avec les humains est sa faible (nulle ?) empathie. Normalement, un conseiller par exemple, formule des propositions à son interlocuteur et se pose la question de ce que cet interlocuteur peut en comprendre, pour compléter sa formulation de manière à supprimer les ambiguïtés. Cette démarche "empathique" consiste à se placer à la place de l'autre en évaluant les qualités/faiblesses de différents ordres de cette autre personne. La seule logique ne permet pas de communiquer efficacement avec un être imparfait.

C'est en effet une faiblesse. Elle n'est guère étonnante. Un spécialiste du domaine dont le nom m'échappe a eut ce bon mot : les IA actuelle ont une capacité de bon sens inférieure à celle du rat Il est clair qu'un tel système est encore trop "médiocre" pour développer de l'empathie.

Toutefois, pour ce qui est de la menace éventuelle pour l'homme, le manque d'empathie n'est pas du tout un problème. Après-tout, mon percolateur fait preuve d'un manque d'empathie flagrant, et ça ne me gène pas tant qu'il fait mon café.

Les risques actuels sont :
1) sur l'emploi (mais le problème ne concerne pas que l'IA, n'est pas nouveau et hors charte sur Futura).
2) la tromperie (croire qu'une IA a de l'empathie entre dans ce cadre), et la présentation de Google Duplexe, le nouveau assistant IA de Google qui peut même appeler quelqu'un au téléphone pour prendre un rendez-vous (coiffeur, restaurant,...) a fait sacrément bondir la communauté car les personnes appelées ne savaient pas qu'elles étaient en lignes avec les I.A. Certains ont pointé les désagréments et risques que cela implique dans le prosélytisme électoral ou le télémarketting. Informer toute personne qu'elle discute avec une machine (ce qui jusqu'ici n'était pas nécessaire, on s'en rendait compte) semble devoir devenir une nécessité sur laquelle il faudra légiférer dans un proche avenir.
3) Les biais et la discrimination, j'en avais parlé plus haut. Les chercheurs et les comités d'éthiques en discutent beaucoup pour le moment suite à certaines erreurs qui se sont produites. Pour bien cadrer les règles que doivent suivre la conception d'une IA et les données utilisées pour son apprentissage.
4) Le manque de transparence. Une des difficultés des IA avec apprentissage profond reste leur fonctionnement en mode "boite noire". Une décision/déduction réalisée par une telle IA reste difficile à expliquer/justifier. Les chercheurs travaillent beaucoup sur ce point en tentant de marier ce type d'IA avec les systèmes experts qui eux savent donner de telles justifications. En outre les IA à apprentissage profond gèrent très mal certaines connaissances (exemple dans la reconnaissance d'image, une connaissance généraliste comme "s'il a une selle, c'est sûrement un cheval", est très difficile à intégrer), ce que font très bien les S.E. En l'état actuel, la plupart des applications de type judiciaire ou médical excluent l'apprentissage profond à cause de ce manque de transparence (sauf pour des applications ponctuelles, je viens de voir l'usage pour l'analyse des mammographies, remarquable).
5) L'excès de confiance. Deux exemples. Les accidents avec des véhicules autonomes ont fait le buzz. J'ai étudié les statistiques sur les accidents et j'ai vu que la fiabilité des véhicules autonomes, tout type d'accident confondu, était comparable aux conducteurs humains. Grosse erreur. Un accident provoqué par une machine sera toujours bien moins accepté que celui provoqué par un humain, c'est comme ça, on le sait. Il faut atteindre une bien plus grande fiabilité pour que ce soit accepté et on veut toujours hélas aller trop vite (l'exemple des atterrissages d'avions en pilotage automatique est un bon exemple, malgré leur très bonne fiabilité les règlements exigent qu'un humain reste au commande sauf cas de force majeur). L'autre exemple, présenté par exemple dans l'article de Delahaye sur PLS, est qu'il est assez facile de tromper les IA de reconnaissance d'image. L'article est intéressant en soi car il montre que la manière de "penser" (au sens très large) de ces IA est à des années lumières du cerveau humain. Parfois quelques pixels, imperceptibles pour nous, suffisent à faire croire à une IA qu'un éléphant est une banane (ou du style). Et ce qui est effarant c'est que la modif à tendance automatiquement à tromper toutes les IA (il suffit de créer une image piège pour une IA et elle va tromper presque certainement les autres aussi). Au-delà de la compréhension (en cours d'étude) de ce genre de phénomène, cela montre qu'on doit bien comprendre l'existence de ces limites car faire confiance les yeux fermé serait une erreur. Ca fait même froid dans le dos. Imaginez que quelqu'un crée de telles images pièges avec des panneaux stops, collés sur les vrais panneaux, imperceptible pour nous et qui pour les machines voudrait dire "route prioritaire" !!!! On imagine ce que ce genre de "piratage" pourrait faire en médecine ou dans d'autres domaines.
6) l'usage sauvage et inapproprié. Cela ne concerne pas que l'IA (je peux faire aussi un usage inapproprié d'un marteau comme clouer des vis ). Et plusieurs points ci-dessus entrent dans cette catégorie. C'est aussi une question de société, de lois,.... hors sujet sur Futura. Mais évidemment capital. Il faut apprendre à gérer les nouvelles technologies, quelles qu'elles soient, et là les comités d'éthiques ont un rôle majeur à jouer.

[pm42]

C'est en effet une faiblesse. Elle n'est guère étonnante. Un spécialiste du domaine dont le nom m'échappe a eut ce bon mot : les IA actuelle ont une capacité de bon sens

Yan le Cun.

Maintenant, l'empathie et le bon sens ne sont pas la même chose. Et il y a un gros travail fait actuellement pour faire des IA qui savent lire les émotions et y répondre en allant jusqu'à des robots.
Je suis un peu à la bourre pour chercher les références les plus pertinentes mais voici un exemple : https://motherboard.vice.com/en_us/a...o-fake-empathy