L'IA, une menace ?

[Deedee81]

Yan le Cun.

Merci,

Maintenant, l'empathie et le bon sens ne sont pas la même chose.

Bien entendu. Je voulais juste dire que je serais surpris que des systèmes incapables d'avoir un sou de bon sens soient par contre capable de réelles empathie. Les deux me semble nécessiter des capacités "supérieures et généralistes" actuellement hors de portée (mais je peux me tromper).

Et il y a un gros travail fait actuellement pour faire des IA qui savent lire les émotions et y répondre en allant jusqu'à des robots.
Je suis un peu à la bourre pour chercher les références les plus pertinentes mais voici un exemple : https://motherboard.vice.com/en_us/a...o-fake-empathy

Oui, mais ça reste de l'imitation si je ne me trompe. Avec toutes les limitations que cela implique (si on sort des limites, la machine serait aussi empathique qu'un morceau de boudin noir).
Mais ça peut fortement évoluer car ce que tu évoques implique qu'on arrive beaucoup mieux à "enseigner" l'empathie que le bon sens. C'est donc un grand bol d'eau à ajouter à mon verre de vin
-----

[pm42]

C'est la question : si l'imitation est assez bonne pour qu'on ne fasse pas la différence, alors est ce qu'on peut continuer à distinguer les 2 ?
C'est d'ailleurs le titre de l'article de Turing "the Imitation Game".

On peut arguer que pas mal d'humains se contentent de feindre des émotions et quand ils savent bien le faire, cela fonctionne parfaitement. C'est le cas de pas mal de professions de contact.

[Deedee81]

C'est la question : si l'imitation est assez bonne pour qu'on ne fasse pas la différence, alors est ce qu'on peut continuer à distinguer les 2 ?
C'est d'ailleurs le titre de l'article de Turing "the Imitation Game".

Question philosophique qui peut même s'appliquer à l'humain (comme tu le signales mais je pensais même dans le cas général, ça me rappelle l'histoire de la chambre chinoise, mais je ne vais pas approfondir, on est hors sujet https://fr.wikipedia.org/wiki/Chambre_chinoise). J'y ai déjà réfléchi.... sans trouver la réponse. Je ne suis même pas sûr qu'il y ait une réponse.

Mais je ne pense pas que les IA actuelles soient arrivées à un tel niveau. Au moins pour la question du fil qui concerne les menaces. Sauf peut pour les points 2 et 4 que je citais : la tromperie (d'un usager face à une IA) et le manque de transparence (manque d'information et d'explication des comportements de l'IA). Si on informe correctement la personne sur ce que fait la machine, comment et pourquoi et avec quelles limites, alors il n'y a plus de problème (mais c'est plus facile à dire qu'à faire ).

[minushabens]

Ce serait déjà pas mal d'éclaircir ce qui diffère entre une vraie et une fausse émotion chez un humain. Souvent on associe l'émotion à des phénomènes physiologiques (le coeur qui accélère, les glandes lacrymales qui se vident...). Si c'est ce qui fait l'émotion, l'IA qui n'a pas de corps n'a aucune chance de ressentir des émotions.

[Deedee81]

Ce serait déjà pas mal d'éclaircir ce qui diffère entre une vraie et une fausse émotion chez un humain. Souvent on associe l'émotion à des phénomènes physiologiques (le coeur qui accélère, les glandes lacrymales qui se vident...). Si c'est ce qui fait l'émotion, l'IA qui n'a pas de corps n'a aucune chance de ressentir des émotions.

AMHA ça c'est plutôt les conséquences (physiologiques) de l'émotion. Elles peuvent servir à discriminer chez l'homme une vraie émotion (c'est ce que font les détecteurs de mensonge). Mais ce n'est pas transposable à l'IA, on ne peut en tirer aucune conclusion.

Et j'insiste : elle est où la menace là ?

[ansset]

Et j'insiste : elle est où la menace là ?

mon sentiment est que l'on peut confondre "capacité calculatoire" avec comportement "intelligent".
donc lié à une surestimation des capacités d'analyses multi-factorielles des IA actuelles.
car structurellement non construites pour cela, à l'opposé du fonctionnement d'un cerveau humain.

[Deedee81]

surestimation

Là je suis d'accord. Ca rejoint le point 5 que j'avais soulevé. On a intérêt à bien cerner les limites de l'IA, y compris bien entendu sur les comportements dit intelligents, empathiques, etc....
Tant pour bien informer que pour éviter des problèmes.

[mh34]

AMHA ça c'est plutôt les conséquences (physiologiques) de l'émotion.

Ca marche aussi dans l'autre sens ; l'angoisse est un des symptômes cliniques du phéochromocytome.

[antek]

AMHA ça c'est plutôt les conséquences (physiologiques) de l'émotion.

Une (vieille ?) définition de l'émotion : la conscience des ajustements cardio-vasculaires.
Donc inaccessible à une IA ?

[Deedee81]

Ca marche aussi dans l'autre sens ; l'angoisse est un des symptômes cliniques du phéochromocytome.

En effet. Non transposable non plus (sauf simulation de tels effets).

Une (vieille ?) définition de l'émotion : la conscience des ajustements cardio-vasculaires.

C'est très bizarre comme définition.
Pour moi les émotions sont (en partie) liées au système limbique (d'autres aires cérébrales y participent).
Même si les aspects physiologiques n'existent pas (au moins comme tel) dans une IA, la question des émotions d'une IA peut se poser (même si amha la question est encore trop spéculative, du moins c'est l'impression que j'en ai en voyant l'état de l'art actuel avec les IA. Sauf à délimiter les limites d'une telle "émotion" afin d'en tenir compte correctement et d'en informer l'usager).

[antek]

C'est très bizarre comme définition.
Pour moi les émotions sont (en partie) liées au système limbique (d'autres aires cérébrales y participent).

Peut-être, mais l'idée de la nécessité d'un système cardio-vasculaire et de sa conscience l'exclut du champs de l'IA (pour l'instant ?).
Si l'on accepte la définition bien sûr.

C'est de Henrit Laborie et de (dit autrement) Irenäus Eibl-Eibesfeldt (j'aime bien le placer celui-là !) venant d'ouvrages d'il y a une vingtaine d'années.
A propos, ce dernier est mort le 2 juin.

[invite06459106]

L'IA une menace?
Genre comme ça :
http://norman-ai.mit.edu/ ?

[Deedee81]

Si l'on accepte la définition bien sûr.

J'ai du mal avec ça, même pour l'être humain.
Quand je dis que j'aime telle ou telle chose, il s'agit bien d'un sentiment mais mon système cardio-vasculaire n'est certainement pas vraiment impliqué dans ce sentiment. Et même si on met en évidence une légère accélération de mes battements de coeurs lorsque j'exprime mon amour ou ma préférence pour telle ou telle chose, je me sens bien incapable d'avoir conscience de l'ajustement cardio-vasculaire et cela ne signifie pas que je n'éprouve aucun sentiment. Et même sans cette conscience, cette légère variation cardiaque est une réaction physiologique, pas le sentiment lui-même.

De plus, si on veut comparer aux IA, ce n'est certainement pas la définition la plus adaptée. Comme dire "penser c'est avoir un cerveau constitué de cellules neuronales avec un ADN", ce qui exclu abusivement toute analyse de la manière dont une IA pense. Il faut des définitions plus larges et adaptées à une analyse opérationnelle du phénomène de sentiment, de pensée, d'intelligence,...

Rappelons qu'Eibl-Eibesfeldt est éthologue, l'étude des comportements animaux et humains, il est logique qui ait pondu une définition qui convienne à son champ d'étude, pas dans le but de comparer à une I.A.

[antek]

Ben oui mais on ne va pas choisir une définition pour qu'elle soit compatible avec une IA, d'ailleurs la notion de "penser" et "émotion" sont animales et je refuse de les tripoter pour les rendre applicables à l'IA.
C'est exprimé comme je peux . . .

Au moment où un sentiment se révèle, la conscience des ajustements cardio-vasculaires qu'il provoque est bien l'émotion.

Tu auras remarqué que je suis d'accord avec cette définition !
Peut-être pour avoir pris grand intérêt à la lecture des auteurs cités, en voilà un joli biais cognitif . . .

[pm42]

d'ailleurs la notion de "penser" et "émotion" sont animales et je refuse de les tripoter pour les rendre applicables à l'IA.

Cela me semble être une affirmation rapide et pas vraiment étayée. Plutôt une pétition de principe.

[Deedee81]

C'est exprimé comme je peux . . .

Je le comprend très bien, mais ça enlève de facto toute possibilité d'analyse des IA sur certains aspects. J'avais d'ailleurs déjà discuté de telles difficultés de définitions (autre part que dans le forum éthique) avec la notion "d'intention". Mais si c'est un refus d'employer ces termes avec l'IA, rien n'empêche de trouver d'autres termes ou des expressions (comme "macose" en bref = "manifestation d'un comportement s'apparentant à une expression de sentiments", sans même devoir parler de "vrai sentiment", ou de "simulation"), et avec les définitions appropriées les plus opérationnelles possibles puis étude/comparaison.

Ca t'ennuierait si on avait une définition sur le macose qui soit applicable autant à l'homme qu'à l'IA ????

[Deedee81]

puis étude/comparaison.

Je précise que l'idée là derrière est de pouvoir décrire les comportements des IA pour en définir les contours/limites afin d'avoir des descriptions bien informées pour les usagers. Dans l'optique de cette discussion, c'est ce qui se cache là derrière.

Je n'espère évidemment, pas développer un tel projet ici C'est pour comparer à ce qui se fait dans les comités d'éthiques (je sais qu'il y a des études de ces comités sur certains aspects mais pour les sentiments, pardon, pour les "macose", je ne sais pas)

Et pardon, c'est pas sur "intention" dont j'avais déjà discuté mais sur "discrimination". J'estimais que ce mot devait s'appliquer à l'humain comme toi avec sentiment. Mais je pense maintenant que j'étais trop strict

[antek]

Cela me semble être une affirmation rapide et pas vraiment étayée.

Oui, ces notion ont été étudiées et définies sur l'animal.

Les appliquer à une autre forme en conservant les même définition est incongru.
Et c'est là qu'il faudrait sérieusement étayer la possibilité de cette transposition.
A moins qu'on demande à l'IA de simplement singer mécaniquement la partie visible des émotions.

[antek]

Ca t'ennuierait si on avait une définition sur le macose qui soit applicable autant à l'homme qu'à l'IA ????

Oui, car chez l'humain elle part d'une intention !
On n'en sort pas . . .

PS - pour moi émotion et sentiment ne sont pas synonymes

[ansset]

Je précise que l'idée là derrière est de pouvoir décrire les comportements des IA pour en définir les contours/limites afin d'avoir des descriptions bien informées pour les usagers. Dans l'optique de cette discussion, c'est ce qui se cache là derrière.

Pour revenir sur ce point, il me semble fort probable que les "citoyens" ne soient pas informés , tout simplement parce que les grandes institutions ou entreprises utilisant des systèmes de type IA pour "optimiser" leur fonctionnement ne le feront pas savoir ouvertement.(*)
( je ne cite rien directement pour ne pas entrer dans des considérations politico/économiques ).

(*) il suffira ensuite de dire "bug informatique", ce que chacun déplorera mais s'habituera à entendre.

[pm42]

Oui, ces notion ont été étudiées et définies sur l'animal.
Les appliquer à une autre forme en conservant les même définition est incongru.

Encore une affirmation gratuite.

Mais on peut faire remarquer par exemple que d'après cette logique, le concept d'aile qui a été défini par observation des oiseaux ne peut pas être appliqué aux avions ?
Perso, je vois la même chose que d'habitude quand on parle d'IA : le besoin de définir une qualité "transcendante" qui ne s'appliquerait qu'à l'homme... En gros, la version scientiste de "les IA n'ont pas d'âme". Ce qui d'ailleurs entretient pas mal la SF actuelle même si on peut sans doute le faire remonter à Asimov.

[antek]

Mais on peut faire remarquer par exemple que d'après cette logique, le concept d'aile qui a été défini par observation des oiseaux ne peut pas être appliqué aux avions ?
Perso, je vois la même chose que d'habitude quand on parle d'IA : le besoin de définir une qualité "transcendante" qui ne s'appliquerait qu'à l'homme... En gros, la version scientiste de "les IA n'ont pas d'âme". Ce qui d'ailleurs entretient pas mal la SF actuelle même si on peut sans doute le faire remonter à Asimov.

Le concept d'aile représente un objet avec des caractéristiques physiques communes à l'oiseau et à l'avion.
Comme la jambe pour l'animal et le robot pourvu du même apendice.

Avec l'émotion et le sentiment on n'est pas dans le même domaine.

Je suis entré sur ce fil juste pour les émotions, et mes connaissances en IA sont nulles (c'est une machine).

[pm42]

Avec l'émotion et le sentiment on n'est pas dans le même domaine.

Et encore une affirmation gratuite.

Je suis entré sur ce fil juste pour les émotions, et mes connaissances en IA sont nulles (c'est une machine).

Oui.

[antek]

Et encore une affirmation gratuite.

Au moins je coute pas cher . . .

[shub22]

Il y a un très bon article dans le Monde diplomatique du mois dernier sur les dangers de l'IA.
Normalement je crois qu'on peut consulter certaines archives sans être abonné

[invite29487486]

Salut,

le domaine évolue vite, en particulier en France et au Japon. En faisant quelques recherches, vous trouverez beaucoup d'informations en français de première qualité sur les neurones artificiels, bien plus efficaces que le deep learning d'ibm ou google pour la reconnaissance de motifs comme les images, les sons et les combinaisons complexes de signaux.

La conception de ces neurones artificiels est géniale. On est bien loin des programmes d'émulation. C'est tout simplement incroyable d'avoir réalisé toutes ces prouesses conceptuelles et techniques. D'ici peu, nous aurons dans le commerce des éléments de 10000 nm² contenant plusieurs dizaines de ces neurones, avec des problèmes de surchauffe divisés par 100 et des performances révolutionnaires. Une puce pourra en contenir des dizaines et plus par la suite. La technique sera déclinée pour faire des machines classiques hautement parallèles.

Bon ou mauvais, je ne sais pas. Mais il faut faire gaffe à ce qu'on (a) écrit. Ca risque d'être corrigé publiquement par des IA moqueuses.

[LeMulet]

Qu'une machine mal conçue ou dont on a sous-estimé le degrés ne nuisance puisse être une menace d'un ordre ou d'un autre, c'est déjà vrai pour lave-vaisselle, une voiture ou un ordinateur. Pour les IA , le degrés de menace dépend de leur degrés de perfectionnement et de l'environnement dans lesquels on va les faire évoluer, selon un niveau d'exigence de risque. Si le fait qu'un robot bipède d'1 tonne s'amuserait tout seul dans un hangar à ranger des colis n'inquièterait personne, le voir déambuler tout seul dans les rues pour nettoyer le sol rendrait bien du monde très nerveux. De même qu'une IA lâchée en solo par une grosse banque sur la bourse, ce n'est pas la même chose qu'un progiciel qui fait de l'IA pour conseiller un particulier.

[Deedee81]

Salut,

Oui, car chez l'humain elle part d'une intention !
On n'en sort pas . . .
PS - pour moi émotion et sentiment ne sont pas synonymes

Macose étant un mot inventé, comment peux-tu dire que le macose part d'une intention ???? Je te demande si pour ce mot nouveau, avec définition nouvelle, ça te pose problème.... et tu reviens aux anciens termes ?????

J'ai choisi ce néologisme justement pour éviter toute interprétation/définition du mot "sentiment" ou du mot "émotion". On rejette tout ça puisque tu refuses de l'appliquer à l'IA. On invente un autre concept, qui ne traduit que des comportements extérieurs et basta. En quoi ça te pose problème ????

Pour revenir sur ce point, il me semble fort probable que les "citoyens" ne soient pas informés , tout simplement parce que les grandes institutions ou entreprises utilisant des systèmes de type IA pour "optimiser" leur fonctionnement ne le feront pas savoir ouvertement.(*)
( je ne cite rien directement pour ne pas entrer dans des considérations politico/économiques ).
(*) il suffira ensuite de dire "bug informatique", ce que chacun déplorera mais s'habituera à entendre.

Je suis entièrement d'accord avec ça. C'est d'ailleurs pour cela que ces aspects doivent être repris en main par les législateurs (en passant ou non par les comités d'éthiques, pour ce qui est de l'information aux usagers, je ne suis pas certain que le détour par l'éthique soit vraiment nécessaire).

le domaine évolue vite, en particulier en France et au Japon. En faisant quelques recherches, vous trouverez beaucoup d'informations en français de première qualité sur les neurones artificiels, bien plus efficaces que le deep learning d'ibm ou google pour la reconnaissance de motifs comme les images, les sons et les combinaisons complexes de signaux.
La conception de ces neurones artificiels est géniale. On est bien loin des programmes d'émulation. C'est tout simplement incroyable d'avoir réalisé toutes ces prouesses conceptuelles et techniques. D'ici peu, nous aurons dans le commerce des éléments de 10000 nm² contenant plusieurs dizaines de ces neurones, avec des problèmes de surchauffe divisés par 100 et des performances révolutionnaires. Une puce pourra en contenir des dizaines et plus par la suite. La technique sera déclinée pour faire des machines classiques hautement parallèles.

Attention, cela en est encore au tout début. Il y a encore plusieurs énormes défis technologiques (tant dans le choix des techniques de miniaturisation, que dans le mariage neurones synapses, que dans la commande, que dans l'architecture). Mais cela me semble incontournable et l'avenir (l'émulation coute près de cent mille fois l'énergie d'un système neuromimétique d'après ce que j'ai lu hier).

Bon ou mauvais, je ne sais pas. Mais il faut faire gaffe à ce qu'on (a) écrit. Ca risque d'être corrigé publiquement par des IA moqueuses.

Je crois qu'elles sont déjà présentes sur le forum

Qu'une machine mal conçue ou dont on a sous-estimé le degrés ne nuisance puisse être une menace d'un ordre ou d'un autre, c'est déjà vrai pour lave-vaisselle, une voiture ou un ordinateur. Pour les IA , le degrés de menace dépend de leur degrés de perfectionnement et de l'environnement dans lesquels on va les faire évoluer, selon un niveau d'exigence de risque. Si le fait qu'un robot bipède d'1 tonne s'amuserait tout seul dans un hangar à ranger des colis n'inquièterait personne, le voir déambuler tout seul dans les rues pour nettoyer le sol rendrait bien du monde très nerveux. De même qu'une IA lâchée en solo par une grosse banque sur la bourse, ce n'est pas la même chose qu'un progiciel qui fait de l'IA pour conseiller un particulier.

Ces remarques me rappellent un article que j'avais lu il y a déjà trente ans, oui, trente ans : au Japon, la première première personne tuée par un robot (en fait un automate de chaîne de montage, le type ayant fait la bourde de franchir la ligne de sécurité).

[Deedee81]

Allez détendons l'atmosphère avec une vieille blague : c'est quoi une blonde avec une mèche brune : de l'IA.
jesors: pas taper.

[Noress]

Bonjour,

(...)On peut arguer que pas mal d'humains se contentent de feindre des émotions et quand ils savent bien le faire, cela fonctionne parfaitement. C'est le cas de pas mal de professions de contact.

Les sourires commerciaux peuvent être un bon exemple.