Faut-il s'inquiéter des performances de l'intelligence artificielle ?

[Deedee81]

Nan, nan.
Il y a en a qui n'ont été utilisées que pour le pire.

Est-ce que c'est des découvertes dont le seul usage possible est "négatif" ? Ou bien c'est seulement le choix de l'usage qui n'a été que négatif ? Et dans ce dernier cas, aurais-tu un exemple ? (note que ça ne me surprend pas outre mesure, je pose la question surtout par curiosité)
-----

[invite6486d7bd]

Concernant les "prouesses" que peuvent actuellement réaliser les IA conversationnels, voici un exemple de chez Microsoft :

A peine lancée, une intelligence artificielle de Microsoft dérape sur Twitter

L’entreprise américaine a lancé Tay, un « chatbot » censé discuter avec des adolescents sur les réseaux sociaux. Mais des propos racistes se sont glissés dans ces échanges.

96 000 tweets envoyés en 8 heures : aucun utilisateur de Twitter n’est capable d’une telle prouesse… du moins chez les humains. Tay, elle, est une utilisatrice à part : il s’agit d’une intelligence artificielle développée par Microsoft, capable de participer à des conversations sur des réseaux sociaux et des applications de messagerie comme Twitter, Snapchat, Kik ou encore GroupMe.

... /...

Au bout de 8 heures d’existence, Microsoft a donc préféré la faire taire. Tay a annoncé dans la nuit qu’elle avait « besoin de sommeil ». On ne sait pas encore quand elle réapparaîtra sur le réseau social.

.../...

« Plus vous tchattez avec Tay, plus elle devient intelligente »
L’expérience, qui avait pour but d’étudier « la compréhension du langage », a montré les qualités et les faiblesses dont fait preuve ce programme, et l’intelligence artificielle en général dans le domaine de la conversation. Souvent pertinente, surprenante avec son utilisation juste des emojis et de certains gifs, Tay s’en est plutôt bien tirée dans une bonne partie des 96 000 tweets envoyés, sauvée par la légèreté assumée de ses propos. Et ce, grâce à son identité d’adolescente un peu superficielle. Néanmoins, une autre importante partie de ses publications n’était pas du tout cohérente, et n’avait aucun rapport avec les questions que lui ont posées les internautes.

http://www.lemonde.fr/pixels/article...1_4408996.html

Je doute que Microsoft n'ait pas tenté de produire le meilleur Tchatbot qu'ils soient en mesure de réaliser, et pourtant le système a montré très rapidement ses limites.
La question est donc : Ces limites peuvent-elle être dépassées ?
Va-t-on un jour réellement trouver des "algorithmes" qui peuvent donner des résultats probants ?

Ceci était un exemple de tentative actuelle d'imitation de la capacité humaine dans le domaine de la communication (et de la conceptualisation), le reste, étant à mon avis à mettre (pour le moment et peut-être définitivement ?) au rang de la science-fiction.

[invite1be481d2]

Mais ya pas déjà des IA qui ont passé le test de Turing (où un humain est pas capable de savoir s'il parle à une machine ou à un autre humain)??

[invite6486d7bd]

Une liste des robots en ligne avec lesquels il est possible discuter pour se faire une idée sur la question :

1° cleverbot: c’est le plus célebre de tous, il s’agit d’un robot avec qui on peut discuter en Anglais car il « habite » en scotland. Il supporte aussi les appareils mobiles.

2° jabberwacky: un autre robot qui désire discuter avec vous en ligne pour passer le temps. Celui-ci c’est lui qui commence la discussion.

3° alicebot: un robot un peu avancé par rapport aux autres car celui-ci parle avec vous. Il en y a de deux sexes, homme et femme, vous choisissez.

4° Evie: un autre robot déguisé en jolie femme qui parle de tout et de rien avec vous pendant des heures si vous voulez.

5° icogno: une jolie femme robot qui discute avec vous en parlant et en utilisant toute sa gestuelle comme une vraie femme.

6° verbots: est un robot tres intelligent qui est là pour répondre à tous vos questions. C’est un bon exemple d’intelligence artificielle.

http://geekob.com/6-applications-pou...obot-en-ligne/

Les Liens correspondants et qui fonctionnent actuellement :
CleverBot
Jabberwacky
Alicebot
Existor (Evie etc)

[invite6486d7bd]

Mais ya pas déjà des IA qui ont passé le test de Turing (où un humain est pas capable de savoir s'il parle à une machine ou à un autre humain)??

A vous de le vérifier.

[Deedee81]

Salut,

Le test de Turing c'est un peu dépassé. Il y a des machines qui miment trop facilement un comportement humain sans avoir une IA très sophistiquées derrière.

Ce qui est marrant c'est faire l'inverse, se faire passer pour une IA. J'avais fait un canular ainsi il y a trente ans, avec des TRS 80 (reliés par un câble).
Mon complice avait eut un peu de mal à expliquer pourquoi l'IA (moi) faisait des fautes d'orthographe

[Amanuensis]

Ses successeurs sont les CAPTCHA.

Comme quoi l'idée de se limiter à un dialogue typographié est un artefact dû aux limites techniques milieu XXème !

(Remarquons que les CAPTCHA sont tellement simples à mettre en œuvre que même un logiciel distingue ainsi les humains et les logiciels.)

[invite6486d7bd]

Ce qui est marrant c'est faire l'inverse, se faire passer pour une IA. J'avais fait un canular ainsi il y a trente ans, avec des TRS 80 (reliés par un câble).
Mon complice avait eut un peu de mal à expliquer pourquoi l'IA (moi) faisait des fautes d'orthographe

C'est une bonne blague en effet.

Ce qui pourrait être amusant ce serait de monter le test de Turing d'un niveau.
Si une IA est capable de décider qu'elle a affaire à un humain et non pas à une IA, alors c'est qu'elle aurait passé le test de Turing inversé. (Ce qui n'est pas près d'arriver à mon avis...)

[Amanuensis]

Si une IA est capable de décider qu'elle a affaire à un humain et non pas à une IA, alors c'est qu'elle aurait passé le test de Turing inversé. (Ce qui n'est pas près d'arriver à mon avis...)

1) C'est fait très couramment, c'est les CAPTCHA ;

2) Ce n'est pas le test de Turing inversé (qui serait qu'un humain arrive à se faire passer pour une machine, au milieu de machines qui se font passer pour des machines). Celui là, on peut penser aisément qu'il ne sera jamais passé!!!)

[Antropos]

Pas du tout, s'il y a plusieurs (et si on en fait une, en on fera 1000) IA, une seule qui pète les plombs sera contrée par les autres. Pour une raison simple : les ressources (énergie, MP etc...). Une IA qui pète les plomb à besoin de prendre toutes les ressources disponibles pour réaliser ses objectifs (quel qu’ils soient). Et donc de priver les autres des mêmes ressources.

Qu'est-ce qui empêche à ce moment là une Superintelligence de parer les manoeuvres des autres ou même de les neutraliser ? Les autres sont censées êtres réglées, l'IA folle peut se mettre, comme le suggère Hawking, à amplifier considérablement son intelligence, ce qui serait interdit sur les autres au risque justement qu'on ne les comprennent plus, et à berner tout le monde.

Cette idée est partagée par Bostrom et Hawking notamment

Je suis désolé, mais non. Le crackage des algos de sécurités actuels par force brute est impossible même avec des milliers d'années et tous les calculateurs ordinateurs du monde consacrés à la tâche. Alors après, bien sûr, si nous créons Dieu (et parfois j'ai l'impression que c'est le terme que tu mets derrière l'IA), oui.

Un algorithme impossible à cracker ça existe ? Face à un ordinateur quantique générique devenu IA Forte ? Moi je pense pas
L'Université de Berkeley essaye d'en fabriquer un. Générique, pas seulement quantique. C'est à dire ne se limitant pas aux problèmes d'optimisation. D'ici 50 ans on l'aura probablement crée

Oui, et après ? Un avion - même sans pilote - a une autonomie de quelques heures. La guerre, ce n'est pas un sport de combat. Le VietCon à vaincu l'armée américaine avec des fusils lisses (technique de 1900 vs 1960). Actuellement, les drones sont radio-commandés. Pilotés par une IA, on ne voit aucune raison pour qu'ils soient plus efficace. Ils ne permettent pas de gagner en Afghanistan, en Syrie ou au Mali...

Non pas vraiment, l'autonomie de quelques heures c'était dans les années 50. Aujourd'hui un drone predator vole +24H sans atterrir. En 2050 je ne sais pas combien de temps il volera, et avec quelle énergie. Ça sera probablement au minimum multiplié par trois. Ils pourront très bien faire le tour du globe sans atterrir.
Ils fonctionneront probablement à l'énergie électrique au bout d'un moment.

Ne croit pas ça. J'ai parlé du moustique, mais on peut aussi parler du frelon asiatique...

On peut faire disparaitre - et on l'a fait à de nombreuses reprises - des espèces animales qui sont nos compétiteurs directs. En pratique, des espèces animales de plus de 10 Kg. Mais même les lapins en australie, ce n'est pas possible. Parce que situé bien plus bas dans la chaîne alimentaire, ils auront toujours les ressources disponibles pour se reproduire et se développer. La seule façon de s'en débarrasser, c'est de supprimer leur niveau de ressource. Mais en faisant ça, on supprimerai aussi notre niveau de ressource, et on meurt.

Exactement, donc on peut le faire. L'IA n'a pas besoin de ressource. Que la terre devienne un caillou radioactif ne lui posera donc pas autant de problème que nous. Mais en tout cas, on peut le faire.

Un Skynet aura le même problème : nous pouvons très bien vivre sans électricité, sans internet, sans réseau de micro-ondes et sans fibres optiques. Ton IA non. Dans cette optique, il ne s'agirait plus de débrancher la prise, mais de couper tous les générateurs.

En fait il y a un truc que beaucoup de gens ne cernent pas. Si tu vois ça comme une bataille rangée à la Terminator, oui ça semble facile. Un ordinateur quantique générique IA, qui a exploré toutes les solutions en moins d'une seconde, va sans doute comprendre que s'il s'y prend brutalement il sera éteint. Comme faire s'il se met à dissimuler son changement d'état jusqu'à ce que tout soit en place, calculé, calibré en ayant exploré les milliards de possibilités de toutes ses actions. Bah difficilement.
Outre les armes et les armes bactériologiques, il y a la connexion des cerveaux qui est annoncée par les transhumanistes de la Silicon Valley. Est-ce qu'on peut pirater le cerveau ? On ne sait pas. Moi je suis certain que oui, ça va être possible. Et il va certainement y avoir des gens qui accepteront de connecter leur cerveau à une IA, à l'insu d'autres états ayant signé une charte interdisant cette pratique, ou carrément à leur yeux, s'en fichant de leur point de vu, comme la Chine se fou de ce qu'on pense d'elle sur le non respect du protocole de Kyoto ou sa politique en Mer du Sud.

il n'y en a pas d'optimal est une litote. Il n'y en a aucun qui soit basé sur cette idée, c'est tout. Et aucun "projet" réel à part des élucubrations dans les pages pour grand public que tu nous envoies à foison.

Non, tu comprends vraiment rien.
La question c'est pas de savoir si un programme est à l'oeuvre aujourd'hui, c'est est-ce qu'il le sera quand on sera capable de faire ça.
En attendant, les trois Brains Projects visent à reproduire un cerveau artificiel, et Google se donne pour tâche de développer le plus possible l'intelligence artificielle. Ce projet, y'en aura toujours pour le faire. Et c'est ce qui sont le plus susceptible de le faire émerger, Google par exemple, qui s'en donnent le plus les moyens.

Et ben tu te renseigne sur les Brains Projects et sur l'actualité de l'IA. Et tu comprendras les projets de Google, pour commencer

##############

[Amanuensis]

Les CAPTCHA fourniront des étapes pour les IA.

Situation 1 (actuelle) on sait faire des CAPTCHA efficaces, si simples que la décision peut être prise par un logiciel : efficaces au sens si une machine arrive à imiter un CAPTCHA, alors on sait en créer un autre qui marche.

Situation 2: Les IA "ennemies" (qui cherchent à tromper le CAPTCHA) sont telles que tous les CAPTCHA qu'on conçoit doivent impliquer une décision humaine.

Situation 3: On ne sait plus faire de CAPTCHA efficace contre certaines IA "ennemies"

(Et il se pourrait qu'on passe de la 1 à la 3 ; j'ai mis la 2 pour ne pas froisser l'égo des humains.)

[Antropos]

Le message effacé était pour Myoper, pas pour Archi3

[inviteef2ff547]

Un algorithme impossible à cracker ça existe ? Face à un ordinateur quantique générique devenu IA Forte ? Moi je pense pas

Tu as tord, dès que la longueur de la clé est supérieur à la taille du message, il n'est plus possible de le cracker.

L'IA n'a pas besoin de ressource...
Un ordinateur quantique générique IA...
qui a exploré toutes les solutions en moins d'une seconde, ...

Tu ne nous parle pas d'une IA, tu nous parle de DIEU. Pour moi, la discussion s'arrête là.

[Antropos]

Tu as tord, dès que la longueur de la clé est supérieur à la taille du message, il n'est plus possible de le cracker.

Ça paraît étonnant. Dans ce cas j'imagine qu'on ne rencontrerait plus de problèmes avec les hackers.

Tu ne nous parle pas d'une IA, tu nous parle de DIEU. Pour moi, la discussion s'arrête là.

Je ne savais pas que Dieu était un ordinateur. Je ne parle que du fonctionnement d'un très grand calculateur conscient de lui même, doté d'un QI > 1000

Un ordinateur générique quantique IA, c'est ça.

[Antropos]

Le calculateur de D-Wave est optimisé pour le recuit simulé ce n'est pas encore un calculateur quantique général. Le principe de ce dernier c'est d'explorer toutes les solutions possibles en un temps infime Rien de divin dans tout ça

[invite6486d7bd]

Situation 3: On ne sait plus faire de CAPTCHA efficace contre certaines IA "ennemies"

On n'aura alors plus qu'à faire appel à une IA "amie" encore plus "puissante" pour tromper l'IA "ennemie".

A un moment donné, celui qui n'arrive pas à résoudre le CAPTCHA super évolué, on saura que c'est l'humain.
Mais comme l'IA est intelligente elle pourrait mentir et ferait semblant d'être bête me diriez-vous.

La solution : On lui fournira alors un CAPTCHA supplémentaire de niveau basique, et on saura alors que c'est une IA puisque l'humain aurait, lui, su répondre.
Comme on aurait produit un "test de QI" spécial permettant d'évaluer le niveau des CAPTCHA par l'IA ou par l'humain, on saurait lequel des deux employer, le CAPTCHA basique ou le CAPTCHA évolué.
En admettant que la connaissance du niveau de CAPTCHA ne peut s'acquérir que par l’expérimentation (pour ceux choisis).
Comme l'IA ne sait pas de quel niveau est le CAPTCHA, elle ne peut pas mentir.

[invite6f9dc52a]

Tu ne nous parle pas d'une IA, tu nous parle de DIEU. Pour moi, la discussion s'arrête là.

c'est bien résumé mais pour éviter les critiques, en lisant l'argumentaire, cette IA est plus intelligente que tout ce qui pourrait exister et existera, elle est hostile envers ceux à qui elle doit poser problème, elle est inarrêtable, elle a une ou plusieurs sources d’énergies forcément suffisantes ; elle a forcément toutes les solutions, les meilleures et forcément adaptées à ses aspirations et à toutes les objections qui pourraient être formulées, même licites et pertinentes (et donc la réponse à la question posée dans le titre du fil coule de source).

[invite6486d7bd]

c'est bien résumé mais pour éviter les critiques, en lisant l'argumentaire, cette IA est plus intelligente que tout ce qui pourrait exister et existera, elle est hostile envers ceux à qui elle doit poser problème, elle est inarrêtable, elle a une ou plusieurs sources d’énergies forcément suffisantes ; elle a forcément toutes les solutions, les meilleures et forcément adaptées à ses aspirations et à toutes les objections qui pourraient être formulées, même licites et pertinentes (et donc la réponse à la question posée dans le titre du fil coule de source).

C'est finalement une bonne raison pour ne pas d'inquiéter d'un être si parfait.
L'IA irait probablement vivre sa vie loin de nous, à la découverte de l'univers et de ses ressources plutôt que de choisir la compagnie des pauvres insectes que nous sommes.

[Archi3]

Non, tu comprends vraiment rien.
La question c'est pas de savoir si un programme est à l'oeuvre aujourd'hui, c'est est-ce qu'il le sera quand on sera capable de faire ça.

oui enfin c'est surtout de savoir SI on sera capable de faire ça. Il y a un effet rhétorique évident dans l'emploi du futur de l'indicatif ...Mais je vois que tu ne contestes pas qu'aucun système d'IA actuel ne fonctionne sur une simulation de cerveau, et donc qu'on est au niveau zéro de ce genre de démarche ...

En attendant, les trois Brains Projects visent à reproduire un cerveau artificiel

de quelle religion et de quelle orientation sexuelle ?

[inviteeda73c64]

Ça m'inquiète mais il y a toujours une solution à ce problème

[Bounoume]

A lire le fil, j'ai l'impression qu'on est en train de traiter Madame l' Intelligence Artificielle comme une Personne à notre image......
Même si c'est le rêve de certains -et un cauchemar possible hélas - ce n'est pas la seule implémentation possible d'une IA prenant le contrôle de notre monde.


Mais je comprends aussi le sujet même "faut-il s'inquiéter des performances de l' IA? " comme concernant les effets de MULTIPLES implémentations d'IA décisionnelles sur notre monde.
Avec le même dérive: la prise de contrôle de toutes nos ressources, ainsi que de toute notre activité, par un réseau de systèmes décisionnaires contrôlés par des IA interagissantes. Ceci même sans aucune référence à une 'intention de nuire' des IA.

Actuellement le systèmes décisionnaires ne sont ni incontrôlables (quoique...) ni autonomes et doués d'initiative, ni totalement indispensables à notre survie.
Mais le Progrès est en marche....

Quel sera la dérive d'un Système régi par des IA non-humaines, à logique et motifs non soumis au feed-back du jugement humain?

[invite51d17075]

franchement, j'ai l'impression de revoir avec des titres différents, un nième sujet ( ou plutôt une interrogation de type métaphysique ) qui revient sans cesse ....
qui se situe de fait entre la prospective au doigt mouillé et le fantasme.

[Amanuensis]

Oui, c'est un des grand marronniers du forum.

Et c'est marrant de regarder l'évolution de la manière de discuter le même point sur 10 ans. (Cela ne va pas dans le sens d'un progrès!)

Il y a une thèse de sociologie à faire, là.

[Philou67]

Et moi, je suis bien trop inquiet de la tournure prise par cette discussion (cette foire d'empoigne ?).
Donc je laisse le temps aux esprits de se calmer en fermant.
Philou67 pour la modération.