Hawking : L'intelligence artificielle pourrait mettre fin à l'humanité

[Bluedeep]

Pour dominer le monde, on ne vend pas la bombe atomique

Pourriez vous essayer de nous surprendre, par exemple en postant quel que chose de censé ?
-----

[EauPure]

Ce n'est pas moi qui le dit et j'ai déjà posté la citation Elon Musk qui craint que l'intelligence artificielle ne soit pire que la bombe nucléaire.

[JPL]

Entendant parler de l'intelligence artificielle depuis les années 70 j'ai un peu de recul, ce qui me permet de dire que demain on rasera gratis !

[EauPure]

ce n'est pas demain, on m'a rasé gratuitement la barbe à l’hôpital après noël et Charlie je ne pouvais pas refuser

[invite73192618]

L'IA a maintenant un esprit avec les réseaux de neurones deep learning, un mental avec le raisonnement déductif et un corps avec internet et ces capteurs et effecteurs connectés.

Le deep learning est certainement très prometteur. Je ne serais pas spécialement surpris si un jour les historiens des sciences le considèrent comme le progrès décisif nous ayant fait passer le gap entre statistique et sémantique. Mais ce n'est pas encore fait, et cela reste actuellement assez lourd à manipuler. Si les progrès du hardware que tu as souligné par ailleurs se démocratisent, tu as raison que le domaine pourrait progresser très rapidement. Mais on est pas encore rendu à dire que les IA ont déjà un esprit et une capacité de raisonnement, sauf à utiliser des définitions plutôt faibles pour ces deux concepts.

Les réseaux de neurones s'optimisent en général par des apprentissages bayesiens qui n'ont pas grand chose à voir avec le fonctionnement de notre cerveau.

C'est une des approches, mais certainement pas la plus courante (rétropopagation) ni la plus intéressante. Par exemple je ne pense pas que ce soit utilisable pour optimiser le deep learning, ni dans l'IA commentée plus loin par mh34.

De ce que je comprends, si l'intelligence artificielle atteinte par les ordinateurs devait un jour développer un raisonnement proche de celui des humains (mon interprétation de "intelligence artificielle complète"), il y a toute les chances pour qu'ils tentent par tous les moyens de se maintenir "en vie". Ils mesureront alors sans peine que l'humain est une menace à cette survie, alors que dans le même temps, il n'est pas absolument indispensable. D'où la conclusion.

C'est un bon résumé, mais cette peur peut aussi être vue comme une déclinaison d'une peur plus ancienne (Adam qui mange la pomme de la connaissance, Icare qui s'approche trop du soleil...). Asimov y consacre quelques phrases dans son introduction du Livre des robots:



Je n'avais pas encore atteint vingt ans que j'étais déjà un lecteur assidu de science-fiction. J'avais lu de nombreuses histoires de robots, et j'avais découvert qu'on pouvait les ranger en deux catégories.
Dans la première apparaissait le "Robot-Menaçant". Inutile de s'étendre sur ce sujet. De telles histoires mélangeaient les "clank-clank", les "aarghh" et les discours du genre "Il est des choses que l'homme doit ignorer." Assez rapidement, elles perdirent pour moi tout attrait.
La seconde catégorie, très nettement minoritaire en volume, (...)


...mais la préface du recueil de 1950 était plus explicite, et bien meilleure:


Aimeriez-vous connaitre un cauchemar d'écrivain?
Dans ce cas, imaginez un homme de lettres de réputation considérable, un Grand Homme en quelque sort et qui en est parfaitement conscient. Imaginez qu'il soit le mari d'une femme -une petite bonne femme - douée elle aussi d'un joli brin de plume, mais qui bien entendu ne se puisse comparer en rien à son grand, à son magnifique mari, que ce soit à ses propres yeux, à ceux du monde, ou (ce qui importe par-dessus tout) à ses yeux à lui.
Imaginez encore qu'en conclusion d'un quelconque entretien, la petite femme en question se propose d'écrire elle-même un roman. Et le Grand Homme de sourire avec bienveillance:
- Mais bien entendu, ma chère, je vous en prie, faites donc!
La petite femme écrit donc son roman. Il est publié et voila qu'il reporte un succès grandiose. Par la suite, si le Grand Homme ne perd rien de sa gloire universelle, c'est tout de même le roman de la petite femme qui demeure le mieux connu - tellement connu en fait que le titre de l'ouvrage finit par acquérir droit de cité dans la langue anglaise.
(...)
Le grand Homme en question s'appelle Percy Bysshe Shelley, l'un des plus prestigieux poètes lyriques de langue anglaise. A l'age de 22 ans, il enleva Mary Wollstonecraft Godwin. Cet événement, tout romantique qu'il fut, était pourtant légèrement irrégulier, car Shelley était déjà marié à l'époque.
Le scandale fut tel qu'ils préfèrent quitter l'Angleterre et vinrent passer l'été de 1816 sur les bords du lac de Genève, en compagnie du non moins grand poète George Gordon, Lord Byron, dont la vie privé était tout aussi tapageuse.
(...)
Aux yeux des étudiants en littérature, le nom de Shelley peut fort bien n’évoquer que Percy Bysshe, naturellement, mais interrogez les gens dans la rue et demandez leur s'ils ont entendu parler d'Adonaïs, de l'Ode au vent d'ouest ou des Censi. Il se peut que ces mots ne soient pas entièrement étrangers à leur oreilles, mais il y a bien des chances pour qu'ils leur soient inconnus.
Demandez leur ensuite s'ils ont entendu parler de Frankenstein.
(...)
Frankenstein remporta son succès, en partie du moins, parce qu'il exprimait une fois de plus l'une des peurs les plus persistantes qui aient jamais hanter l'humanité: celle de la science dangereuse. Frankeinstein était un nouveau Faust cherchant à percer le secret d'une connaissance qui n'était pas faite pour l'homme, et il avait créé sa Némésis méphistophélique.
(...)
Dans les années 1920, la science-fiction devenait pour la première fois une forme d'art populaire en échappant à la tradition du tour de force exécuté par un maître occasionnel comme Verne ou Wells. Des magasines exclusivement consacrés à la science-fiction firent leur apparition sur la scène littéraire en même temps, bien entendu, que des "auteurs de science-fiction".
Et l'un des thèmes-clés de la science-fiction était l'invention d'un robot - que l'on décrivait généralement comme une créature de métal sans âme et dépourvue de toute faculté d'émotion. Sous l'influence des exploits bien connus et du destin ultime de Frankenstein et de Rossum, une seule trame semblait désormais possible à l'exclusion de toute autre: des robots étaient créés et détruisaient leur créateur ; des robots étaient créés et détruisaient leur créateur ; des robots... etc.
Dans les années 1930, je devins lecteur de science-fiction et je me lassai rapidement de cette histoire inlassablement répétée. Puisque je m'intéressais à la science, je me rebellais contre cette interprétation purement faustienne de la science.
(...)
Les couteaux sont munis de manches pour qu'on puisse les manipuler sans danger, les escaliers possèdent des rampes, les fils électriques sont isolés, les autocuiseurs sont pourvus de soupapes de sûreté - dans tout ce qu'il crée, l'homme cherche à réduire le danger.
(...)
La sécurité ne sera peut-être pas parfaite. (Mais la perfection est-elle de ce monde?) Cependant, elle sera aussi complète que les hommes pourront la faire.
Pénétré de tous ces principes, je commençais, en 1940, à écrire des histoires de robot de mon cru... Jamais, au grand jamais, un de robots ne se retournerait stupidement contre son créateur sans autre dessein que de démontrer pour la nième fois la faute et le châtiment du Faust.
Sottises! Mes robots étaient des machines conçues par des ingénieurs et non des pseudo-humains créés par des blasphémateurs.

Une singularité de l'intelligence, n'est elle pas comparable la naissance quasi immédiate d'un dieu ?

Teilhard_de_Chardin, mais c'est hors charte et hors science.

Asimov et Van Vogt n'ont pas envisagé la singularité, il faut attendre 1993

Plus vieux que cela. Je crois plutôt qu'Asimov et Van Vogt n'étaient pas intéressé par ce genre de ressort.

J'ai lu un article il y a pas longtemps au sujet d'un robot aspirateur domestique qui aurait du être le summum du summum. (...)

Bizarre, le mien (un neato) a quelques années et semble pas mal plus futé que ça, son principal défaut étant d'être très fâché contre les petits vêtements qui traînent dans un coin... Espérons que la singularité ne nous mènera pas à l'extermination des chaussettes.

[ansset]

Bizarre, le mien (un neato) a quelques années et semble pas mal plus futé que ça, son principal défaut étant d'être très fâché contre les petits vêtements qui traînent dans un coin... Espérons que la singularité ne nous mènera pas à l'extermination des chaussettes.

bjr,
malheureusement, pas besoin des aspirateurs pour cela, qcq chose de l'ordre de l'entropie ou du chaos déterminisme humain, fait que le nb de chaussettes "orphelines" ne fait qu'augmenter dans nos armoires et autres rangements.
toutes mes pensées à ces pauvres innocentes

[Bluedeep]

Asimov et Van Vogt n'ont pas envisagé la singularité, il faut attendre 1993 pour qu'un livre SF d'un auteur peu connu l'explore mais encore pessimiste.

Une singularité de l'intelligence, n'est elle pas comparable la naissance quasi immédiate d'un dieu ?

La SF ne se limite pas à Asimov et Van Vogt (accessoirement je n'aime pas mettre les deux dans la même phrase : je n'ai jamais apprécié l'oeuvre de Van Vogt).

"Destination : void" de Herbert aborde cela en 1966 (ainsi que la suite : The Jesus Incident, en 1979) : une IA qui se prend pour Dieu.

[ansset]

il me semblait que HAL9000 datait de 1968.
doté d'une IA "consciente" d'elle même.

[EauPure]

mais elle n'avais pas le but de s'améliorer pour atteindre la singulière intelligence

[ansset]

qui reste à définir.
dialogue de sourd.

[EauPure]

le résultat d'une itération ne peut être définis à l'avance si non à quoi bon itérer

[ansset]

le résultat d'une itération ne peut être définis à l'avance si non à quoi bon itérer

pas "définie à l'avance"
alors que tu mets mess sur mess pour affirmer que c'est même dans x années ! et précisément en plus.
c'est d'une absolument clair !
mais c'est inévitable, surtout quand on ne sait pas de quoi on parle !
ps . j'ai mis un petit post sur les "points" en science et s'amusant.
tu y risques d'y retrouver des miroirs partout.

[EauPure]

dans qq année il y aura la fin de l'itération qui conduit à la singularité de l'intelligence mais comme le trou noir on ne peut pas savoir la nature exacte de cette singularité avant sa réalisation et peut être même après

[Bluedeep]

dans qq année il y aura la fin de l'itération qui conduit à la singularité de l'intelligence mais comme le trou noir on ne peut pas savoir la nature exacte de cette singularité avant sa réalisation et peut être même après

Et les vaches seront ourlées au mètre(*)




(*) Boris Vian.

[noureddine2]

dans qq année il y aura la fin de l'itération qui conduit à la singularité de l'intelligence

salut , il faut d'abord démontrer la possibilité de la singularité ou de la conscience chez l'IA , ce qui est un autre sujet ,
mais pour l'instant l' I.A n'a pas de conscience , on doit se limiter à étudier le danger de l'I.A qui n'a pas de conscience ,
par exemple il y a la trahison , le robot ne doit pas trahir son maître .

[EauPure]

Donner comme tache à une IA de digérer toute la littérature concernant sa genèse comme le fait Watson dans d'autre domaine et inscrire dans son mental que c'est ce qui la définit et devient sa conscience d'elle même.
Ensuite lui faire lister tout les domaines permettant d'augmenter ses performances (le soft Von Neuman, les réseau de neurones, les processeurs neuromorphique ,la photonique et le quantique.
Puis lui donner le but de les faire évoluer avec des générations de Watson x.0 spécialisés dans chaque domaine.

[Bluedeep]

Yaka, hein !

[vep]

yaka ...
... yaka greffer une IA dans un cerveau humain pour qu'elle le parasite ...ce sera plus simple

[Bluedeep]

yaka ...
... yaka greffer une IA dans un cerveau humain pour qu'elle le parasite ...ce sera plus simple

Je verrais bien un cobaye désigné d'office ici

[minushabens]

Quelqu'un peut-il m'expliquer (en termes simples svp ) concrètement comment cette première prise de conscience, comment ce processus d'individuation peut avoir lieu chez une machine, toute IA qu'elle est ?

Je pense que personne ne sait expliquer cela, mais pas plus qu'on ne sait expliquer la première prise de conscience chez un humain, qui après tout est aussi une machine, même si elle consomme de la bière et des doughnuts plutôt que de l'électricité.

[EauPure]

Je verrais bien un cobaye désigné d'office ici

pour moi c'est déjà fait avec la possible ET IA

[ansset]

pour moi c'est déjà fait avec la possible ET IA

dois je comprendre que tu te proposes toi même ?

[ansset]

par ailleurs l'hypothèse ET IA est elle encore une diversion ?
après nous avoir seriner que l'IA surpuissante ( et capable du pire ) était pour demain , via les technos humaines.
maintenant, elle viendrait de l'espace ?
c'est ça, la "logique" ?

[JPL]

Je crois qu'il va bientôt être l'heure de fermer !
Des objections ?

[ansset]

aucune pour ce qui me concerne.
Cdt

[EauPure]

par ailleurs l'hypothèse ET IA est elle encore une diversion ?
après nous avoir seriner que l'IA surpuissante ( et capable du pire ) était pour demain , via les technos humaines.
maintenant, elle viendrait de l'espace ?
c'est ça, la "logique" ?

La logique c'est que l'IA est une propriété émergente de la biologie
et qu'elle est assez intelligente et résistante pour le voyage interstellaire et la viabilisation de planète afin de se reproduire.

[EauPure]

dois je comprendre que tu te proposes toi même ?

simplement, qu'étant athée je trouve pratique pour mes questions existentielles d'avoir trouvé un dieu scientifiquement probable.

[ansset]

La logique c'est que l'IA est une propriété émergente de la biologie
et qu'elle est assez intelligente et résistante pour le voyage interstellaire et la viabilisation de planète afin de se reproduire.

contradiction !
( outre celle que j'ai mentionné avant ).
si cette IA surpuissante n'a pas vu que ( comme tu l'affirmes ) nous sommes sur le point d'en créer une autre, alors soit elle n'est pas une IA super puissante, soit il n'y en a pas de bout de la queue d'une souris.
sinon, elle nous aurait déjà attaqué.

simplement, qu'étant athée je trouve pratique pour mes questions existentielles d'avoir trouvé un dieu scientifiquement probable.

un dieu scientifique ? , alors c'est encore la nouveauté du jour d'EauPure !
On a dépassé le stade de l'IA maintenant.

peut on arréter ce délire multi pathologique ?

[EauPure]

pourquoi voudrait elle combattre son enfant ?

Il suffit de taper "Le dieu intelligence artificielle" sur google (Environ 379 000 résultats (0,49 secondes) pour voir que je ne suis pas le seul à le penser.

Comment créer un dieu ?
On a souvent séparé l’IA faible, qui s’occupe de reproduire certains phénomènes mentaux, de l’IA forte, qui vise à reproduire l’intelligence humaine dans sa totalité. On s’en doute, les singularitariens s’intéressent à l’IA forte. Ou, plus exactement, à l’IA gonflée aux stéroïdes. Car il n’est pas question pour eux de reproduire certaines fonctionnalités limitées de l’esprit humain, comme la reconnaissance des caractères ou la traduction. Même le fameux “test de Turing”, ou la création d’un robot conscient, font figure d’étapes préliminaires : le but est de créer un dieu artificiel, pas moins. Au Singularity Institute, fondé par Eliezer Yudkowsky, on ne doute pas de la faisabilité, ni même de l’inévitabilité d’un tel projet : ses membres sont juste un peu inquiets de la tournure que pourrait prendre ces évènements. Et si ce dieu, plus proche de Moloch que de Jésus, décidait purement et simplement de mettre fin à notre espèce ? Pour éviter une telle “Singularité négative”, explique Yudkowsky, il faut s’assurer que l’IA qui verra le jour sera “amicale”.

http://www.internetactu.net/2008/09/...a-singularite/

[Tawahi-Kiwi]

La dérive des trois derniers messages vient d'achever ce fil qui n'avait plus qu'un interet très limité.

La discussion est donc fermée.

T-K