Bonjour,
Je voudrais vous raconter le rêve que je viens de faire (soyez indulgent).
J'étais avec ma soeur dans une maison où se trouvait toute ma famille. Il y avait un robot très vaguement humanoïde étendu par terre. Or avec ma soeur, nous constatons avec stupeur qu'il s'est saisi d'un ventilateur et d'une poche d'air ( ??? ) et qu'il parvient à s'insuffler de l'énergie. On dirait qu'il respire très péniblement, comme s'il suffoquait.
Comme nous ne pouvons pas prévoir ce qu'il fera ensuite, nous décidons qu'il est plus prudent de lui ôter son système. Je m'en saisis et pousuis mon chemin, mais en me retournant nouvel étonnement, le robot ne se trouve plus à sa place.
Nous sommes pris d'une première frayeur : que va-t-il bien pouvoir faire maintenant ? Voudra-t-il se venger du fait que nous ayons tenté de le désactiver ?
Nous décidons de le retrouver immédiatement. Nous le trouvons plus tard en train de marcher, avec un "corps" plus épais, et ressemblant un peu plus à un être humain. Je me dis qu'il a dû se connecter au réseau etinformatique et se réinstaller dans une autre enveloppe. Nous craignons qu'il ne se développe encore et devienne dangereux, nous décidons de le désactiver.
Lorsque nous nous en prenons à lui il se défend, et nous attaque même. Il est fait d'une matière souple et mouvante qui enveloppe ma tête. Je me retrouve plongé dans une image fixe en réalité virtuelle, avec une musique qui tourne en boucle. Je me sens irrémédiablement piégé, mais en me concentrant je sens la matière du robot dans mes mains, et je me débats pour le déchiqueter.
Je sais que ma soeur est en danger, je me précipite vers elle dès que je me suis libéré. Plusieurs membres de ma famille sont là, en train de déchiqueter une autre partie du robot qui lui enserre le cou.
Mon premier semtiment ensuite est que je dois impérativement prévenir les journalistes du danger que représentent les robots.
Cela doit sembler très naïf raconté ainsi, mais je me suis dit qu'il était intéressant de vous faire part de ce rêve : bien que je ne me suis jamais vraiment intéressé aux dangers potentiels de l'IA, j'ai ressenti ici une véritable terreur glaçante face à la machine.
Je pense qu'il est important d'accéder à l'idée de cette terreur quand on raisonne sur les dangers de l'IA.
Plusieurs questions se posent :
Comment prévoir ce que fera quelque chose qui ne pense pas comme nous ?
Que se passera-t-il si une IA se dote d'une volonté d'auto-subsistance ? Si l'humanité tente de la freiner où de l'en empêcher on peut penser qu'elle deviendra un paramètre à éliminer.
Question annexe 1, bien connue : que se passera-t-il si quelqu'un donne l'ordre à une IA puissante de détruire l'humanité ?
Question annexe 2 : comment éviter de considérer de manière faussement humanisante de telles machines "intelligentes" ?
Enfin : de quelles règles devons-nous nous doter pour se prémunir des risques ?
Sur ce je vais me recoucher... Bonne nuit !
-----
Envoyé par Juzo 
