Hawking : L'intelligence artificielle pourrait mettre fin à l'humanité

[Gilgamesh]

Je pense qu'on se fourvoie complètement à essayer d'envisager la différence sous la forme de performances logiques (algorithmiques). Un ordinateur peut aller très loin dans ce sens, genre Deep Blue, suffisamment pour battre un champion d'échec, ce n'est pas pour autant qu'il pense. Il n'y a pas de retour sur elle même de la machine autant que nous en sachions. Pas de ressenti intérieur, pas de conscience de son état, aucune présence au monde. Il faut un personne, c'est à dire un corps connecté à un cerveau pour ramener l’expérience à une entité qui se découvre face au reste du monde. Une huître a une présence a monde, même minimale. De ce qu'on en sait, ce n'est pas le cas de Deep Blue. Ce n'est pas une personne, personne ne pense, il n'y a aucune pensée.
-----

[Archi3]

les réseaux de neurones deep learning sont aussi spécialisés et en les réunissant on pourrait faire une sorte de cerveau à la carte

"Au cours des dernières années, l'apprentissage en profondeur a contribué à forger avancées dans des domaines aussi divers que la perception de l'objet, la traduction automatique et la reconnaissance vocale -all recherches sur des sujets qui ont été longtemps difficile pour AI chercheurs à se fissurer."

On sent que le cerveau artificiel qui a fait la traduction automatique a soigneusement choisi ses mots quand même ....

[mh34]

Une fonction de plus pour le cerveau à la carte qui dépasse la fonction humaine

http://www.usine-digitale.fr/editori...prises.N307589

Et alors, que dit sa machine? Il est commercial ou sincère, le sourire sur la photo?

Plus sérieusement, j'en ai marre que sur ce sujet aussi on utilise des termes qui induisent le lecteur en erreur. Le logiciel comprend que dalle ; il sort juste un calcul de probabilités. C'est pas pareil.

[ansset]

Je pense qu'on se fourvoie complètement à essayer d'envisager la différence sous la forme de performances logiques (algorithmiques). Un ordinateur peut aller très loin dans ce sens, genre Deep Blue, suffisamment pour battre un champion d'échec, ce n'est pas pour autant qu'il pense.
(...)

merci,
l'exemple de Deep Blue me chatouillait, car il illustre parfaitement le iatus entre performances informatiques et capacités humaines.
même data de star treck n'a pas cette prétention.
et dans le genre SF, star treck, c'est déjà du lourd.
Quand à ce cher HAL, il a bien été débranché quand il a commencé à déconner.

[ansset]

il faut quand même être un peu frappé pour construire des machines qui aurait la possibilité ( par leur seule volonté ) de nous détruire, sans y mettre un maximum protection au moindre dérapage.
enfin, SI cela existe ou existera, nous , on a les advengers, qui sont aussi crédibles. ( je mets le gros nounours vert à part ).

[evrardo]

Un ordinateur peut aller très loin dans ce sens, genre Deep Blue, suffisamment pour battre un champion d'échec, .

Salut Gilgamesh. Est ce que tu as lu le livre de Kasparov où il raconte son match contre Deep BLue?
Kasparav raconte qu'à ce niveau d'analyse pour un ordinateur, le match n'avait plus aucun intérêt, car finalement c'était celui qui commençait la partie qui gagnait systématiquement.
Deep Blue ne signifie pas grand chose une fois de plus, parce qu'un jeu d'échecs est un système fermé.
Les ordinateurs et les machines sont beaucoup plus performants que nous dans certains domaines, mais à condition qu'il y ait un humain derrière pour contrôler tout ça, pour réparer quand il y a un problème.

[ansset]

enfin, SI cela existe ou existera, nous , on a les advengers, qui sont aussi crédibles. ( je mets le gros nounours vert à part ).

précision : quand je dit crédible, c'est dans le sens , "pas moins crédible" que cette discussion.

[ansset]

Bonjour
Je vous renvoi au film ((MATRIX)) c’et le meilleur, de tout les temps, qui traite l'intelligence artificielle.
À l’intérieur de la machine il y a 3 acteurs (le chiffre 3 est sacré) :
Il y’a l’Architect (l’homme au costume blanc) c’est le père ou en d’autre terme l’arbitre.
Il y’a l’oracle, la veille femme qui prédit l’avenir, c’est en quelque sorte la mère
Il y’a Smith l’enfant révolté.

Je pense qu’en vous, comme en moi, il y’a aussi 3 acteurs

.
est il possible d'arrêter ce délire personnel.?
je parle aussi en pensant aux nombreux lecteurs.
le sujet de la schizophrénie revient souvent ici, mais rarement pour en faire l'apologie.
si le message sous jacent est de cet ordre ( comme les autres du même auteur) il convient de le corriger vite fait.

[ansset]

Cette entreprise développe un logiciel capable d'analyser mieux qu'un être humain les expressions d'un visage. Affdex sait par exemple différencier un sourire social d'un sourire sincère et est à même de déterminer si une personne simule ou non la douleur.

mauvais exemple.
je pense que tout être humain un peu sensé est capable de faire la différence.
et de manière plus subtile qu'un ordi. ( car il intègre le contexte, ce que ne fait pas l'ordi )

[EauPure]

Je pense qu'on se fourvoie complètement à essayer d'envisager la différence sous la forme de performances logiques (algorithmiques). Un ordinateur peut aller très loin dans ce sens, genre Deep Blue, suffisamment pour battre un champion d'échec, ce n'est pas pour autant qu'il pense. Il n'y a pas de retour sur elle même de la machine autant que nous en sachions. Pas de ressenti intérieur, pas de conscience de son état, aucune présence au monde. Il faut un personne, c'est à dire un corps connecté à un cerveau pour ramener l’expérience à une entité qui se découvre face au reste du monde. Une huître a une présence a monde, même minimale. De ce qu'on en sait, ce n'est pas le cas de Deep Blue. Ce n'est pas une personne, personne ne pense, il n'y a aucune pensée.

Deep Blue est un calculateur, pas un réseau de neurone (un mental mais pas une intuition)
Maintenant IBM travaille sur des processeurs neuromorphiques

En 2011, l'équipe d'IBM dirigée par Dharmendra Modha avait déjà sorti une puce imitant le cerveau. Cette seconde puce «TrueNorth » compte 5,4 milliards de transistors entrelacés dans un réseau sur puce de 4096 noyaux neuro-synaptiques. Cela représente l'équivalent de 256 millions de synapses, soit beaucoup plus que la version 2011 qui en comptait 260 000 environ.

Facilement adapté à de grandes mises en oeuvre

IBM a également associé 16 puces « TrueNorth » entre elles par groupe de quatre fois quatre qui offrent collectivement l'équivalent de 16 millions de neurones et de 4 milliards de synapses. L'expérience vise à montrer que le prototype peut être facilement adapté à de grandes mises en oeuvre. Ce projet de puce intelligente avait été lancé en 2008 par le Defense Advanced Research Projects Agency (DARPA) américain sous le nom de Systems of Neuromorphic Adaptive Plastic Scalable Electronics (SyNAPSE). Ces nouvelles puces rompent radicalement avec l'architecture informatique actuelle imaginée par von Neumann, où le traitement des calculs se fait en série. La nouvelle architecture se rapproche du fonctionnement du cerveau humain, dans le sens où chaque « noyau neurosynaptique » possède sa propre mémoire (« les synapses »), son processeur (« le neurone ») et son réseau de communication (« les axones »), et tous travaillent ensemble selon un mode opératoire orienté événement.

http://www.lemondeinformatique.fr/ac...ets-58299.html

[Paradigm]

Le logiciel comprend que dalle

On doit pouvoir faire une analogie avec la douleur physique. Nous ressentons la douleur «de l'intérieur» (première personne/ce que vit le sujet), mais nous voyons la blessure «à l'extérieur» (le point de vue d’un observateur extérieur). Les personnes ayant une "insensibilité congénitale à la douleur" ne peuvent pas "comprendre" ce qu'est cette sensation intérieure de douleur car n'en ayant jamais eu l'expérience vécue.

On doit pouvoir mimétiser un comportement «extérieur» (grimace par exemple) de manière «algorithmique/mécanique», mais je ne vois pas comment on pourrait capturer dans une algorithmie le ressenti interieur (l'effet que cela fait «vraiment»).

L'accès à la conscience de sa propre expérience vécu n'est ni immédiat, ni facile pour nous humain, cependant elle reste inexistente pour un automate fait de silicium.

Cordialement,

[ansset]

une question à eau pure:
l'informatique est il votre domaine ?

[EauPure]

Mon domaine de travail, mais je n'ai pratiqué l'IA que pendant mes études et c'était sur la logique des prédicats (langage Prolog de Marseille Luminy)

[EauPure]

IBM pourrait égaler le cerveau humain avec 20000 processeur TrueNorth

IBM a testé la puce sur un certain nombre de repères appareil de renseignement standards, y compris une tâche de reconnaissance d'image conçu par la DARPA , à qui leurs scores de puces d'environ 80% de précision. Voilà une très bonne note - bien que ce qui est plus impressionnant est que la puce a été en mesure de réaliser cet exploit en temps réel, le traitement de trente images par seconde, et consommé seulement 63 milliwatts à faire - environ sept fois moins que la demande d'énergie d'un typique veilleuse .

Si vous simplement empilés 20.000 de ces puces pour égaler la puissance de signal calculs du cerveau humain par la force brute, le résultat serait un serveur qui consomme seulement un peu plus d'énergie que d'une bouilloire électrique typique - presque cent fois plus que le cerveau, mais pas un montant prohibitif . Ceci est en contraste avec le supercalculateur que vous auriez normalement besoin pour atteindre la même tâche. Dharmendra Modha, un Fellow IBM, mis de cette façon :

Pour souligner cette divergence entre le cerveau et les ordinateurs d'aujourd'hui, noter qu'une simulation «à échelle humaine» avec 100 trillions de synapses requis 96 Blue Gene / Q racks du supercalculateur Lawrence Livermore National Lab Sequoia "

et Watson sur les smartphones

IBM espère aussi installer des puces contenant peut-être des milliards de neurones dans ses systèmes informatiques Watson, ce qui permet le logiciel de Watson à main de problèmes difficiles aux réseaux de neurones de matériel et de revenir solutions, la fabrication d'éléments Watson moins cher, plus petit, et plus intelligemment - idéalement, vous pourriez éventuellement fonctionner un système comme Watson sur tous les smartphones.

https://www.9tiny.com/ibm-devoile-br...utionnaire.htm

[ansset]

IBM pourrait égaler le cerveau humain avec 20000 processeur TrueNorth

ben on est content pour cette annonce fracassante dédié aux marché financiers,( surtout du conditionnel, encore une fois utilisé.)
j'aime bien le terme "égaler" qui ne veut sur le fond ,rien dire.
dois je comprendre qu'ils auront des sentiments amoureux par exemple ?

sinon, je ne calcule même pas la dépense énergétique, ni le coût indirect.
bientôt ( pour 50 ans, c'est le chiffre magique ), les ordi mangeront 5 fruits et légumes par jour.
et l'armée ultra destructrice, ça doit être pour les autres 50 ans à venir, initié par un gros méchant qui veut détruire la planète...

[EauPure]

Ce sera un dieu ou un démon, à nous de choisir
Je me sent être le seul optimiste

«Nous devons être très prudents avec l'intelligence artificielle». Invité lors de l'AeroAstro Symposium du MIT, Elon Musk réitère sa mise en garde quant à l'intelligence artificielle. Il va même jusqu'à comparer son développement à un appel au démon.

http://www.industrie-techno.com/elon...le-demon.34000

Car la singularité de l'intelligence ne peut pas être un démon, ce serait trop bête

[Bounoume]

Video non consultable: thanks to MIT!
de toutes façons je suis pas doué pour comprendre l'anglais parlé...

sur le fond:
IA, c'est passionnant. j'aimerais bien avoir écrit LE logiciel d'IA qui comprend tout, explique tout....
Si je l'avais fait, je le garderais pour moi, et grâce à lui je serais le Maitre du Monde.
le pouvoir, c'est la Connaissance....

Trêve de plaisanterie.
Je crains que ce rêve secret ne soit partagé par certains.....
Toutefois il me semble peu réaliste.
Une question cruciale avec une IA accédant à la Connaissance et à l'application de la Connaissance, et capable de décider (ou/et) conseiller/commander, c'est.....

comment communiquer avec cette IA?
Comment la commander?
même si c'est théoriquement possible, pour être efficace, faut d'abord connaître ses "propriétés", son mode de fonctionnement, avoir une idée de comment nommer, comment prévoir son comportement... etc.
Difficile à un enfant de CE1 de discuter avec Stephen Hawking, et plus encore, de lui donner des consignes sur ses recherches.....
difficile aussi de réfuter des conclusions qui nous paraissent inadmissibles.... peut-être d'ailleurs parce que la question a été mal posée..., .

Ensuite, il y a les IA incarnées, qui vont modifier notre monde, de fait, ou intentionnellement (?), diaboliquement (!), etc....
C'est la révolte de Golem contre son créateur.....
Beau sujet de Science Fiction.
Peut-être.....
plus rationnellement, c'est la modification sociologique des rapports sociétaux entre humains et objets dits intelligents qui va profondément modifier notre monde. Avec l'impression que le glissement est fatal, du fait tant de la bêtise humaine que d'intérêts peu altruistes.

Qui va organiser la société? qui va gouverner la vie humaine? qui va gouverner le comportement humain?Il y a plein d'interrogations de ce type.


ps j'ai pris en cours de route. Si c'est HS, les modos peuvent effacer tout.
cordialement

[ansset]

Video non consultable: thanks to MIT!
de toutes façons je suis pas doué pour comprendre l'anglais parlé...

sur le fond:
IA, c'est passionnant. j'aimerais bien avoir écrit LE logiciel d'IA qui comprend tout, explique tout....
Si je l'avais fait, je le garderais pour moi, et grâce à lui je serais le Maitre du Monde.
le pouvoir, c'est la Connaissance....

Trêve de plaisanterie.
Je crains que ce rêve secret ne soit partagé par certains.....
Toutefois il me semble peu réaliste.

heu : le coup du secret partagé, par contre, c'est mal venu
Une question cruciale avec une IA accédant à la Connaissance et à l'application de la Connaissance, et capable de décider (ou/et) conseiller/commander, c'est.....

comment communiquer avec cette IA?
Comment la commander?
même si c'est théoriquement possible, pour être efficace, faut d'abord connaître ses "propriétés", son mode de fonctionnement, avoir une idée de comment nommer, comment prévoir son comportement... etc.
Difficile à un enfant de CE1 de discuter avec Stephen Hawking, et plus encore, de lui donner des consignes sur ses recherches.....
difficile aussi de réfuter des conclusions qui nous paraissent inadmissibles.... peut-être d'ailleurs parce que la question a été mal posée..., .

Ensuite, il y a les IA incarnées, qui vont modifier notre monde, de fait, ou intentionnellement (?), diaboliquement (!), etc....
C'est la révolte de Golem contre son créateur.....
Beau sujet de Science Fiction.
Peut-être.....
plus rationnellement, c'est la modification sociologique des rapports sociétaux entre humains et objets dits intelligents qui va profondément modifier notre monde. Avec l'impression que le glissement est fatal, du fait tant de la bêtise humaine que d'intérêts peu altruistes.

Qui va organiser la société? qui va gouverner la vie humaine? qui va gouverner le comportement humain?Il y a plein d'interrogations de ce type.


ps j'ai pris en cours de route. Si c'est HS, les modos peuvent effacer tout.
cordialement

la première partie du texte est juste, avec même la dose d'humour qui serai adapté pour une transition mais.
la seconde glisse justement dans le politique, dont il est difficile de débattre.
il y a d'autres sites pour cela.

[ansset]

heuu ; je n'avais pas tout vu.
le coup du secret partagé, c'est un peu difficile à avaler.
Cdt

[EauPure]

Pas de vidéo mais il y a un texte et Elon Musk rejoint l'idée du sujet ET IA

Espérons que nous ne sommes pas seulement le chargeur de démarrage biologique d'une superintelligence numérique. Malheureusement, ce est de plus en plus probable

- Elon Musk (elonmusk) 3 Août, 2014

http://www.cbsnews.com/news/elon-mus...us-than-nukes/

[EauPure]

heuu ; je n'avais pas tout vu.
le coup du secret partagé, c'est un peu difficile à avaler.
Cdt

pas si c'est plus dangereux que les armes nucléaires.

La peine de lire Superintelligence par Bostrom. Nous avons besoin d'être super prudent avec AI. Potentiellement plus dangereux que les armes nucléaires.

- Elon Musk (elonmusk) 3 Août, 2014

http://www.cbsnews.com/news/elon-mus...us-than-nukes/

[EauPure]

sinon, je ne calcule même pas la dépense énergétique, ni le coût indirect.

Je ne comprend pas , une bouilloire électrique c'est 2kw

Si vous simplement empilés 20.000 de ces puces pour égaler la puissance de signal calculs du cerveau humain par la force brute, le résultat serait un serveur qui consomme seulement un peu plus d'énergie que d'une bouilloire électrique typique
https://www.9tiny.com/ibm-devoile-br...utionnaire.htm

[EauPure]

Plus précisément, la consommation d'un TrueNorth = 63 milliwatts
20000 TrueNorth consommeraient donc 1260 watts
Mais un réseau de neurone est événementiel, pas séquentiel comme l'ordi Von Neuman
De plus dans un cerveau seul les parties traitants un événement sont actives et donc consomment
Alors 1260 watts c'est la puissance maxi mais elle n'est jamais atteinte.

[Archi3]

IBM espère aussi installer des puces contenant peut-être des milliards de neurones dans ses systèmes informatiques Watson, ce qui permet le logiciel de Watson à main de problèmes difficiles aux réseaux de neurones de matériel et de revenir solutions, la fabrication d'éléments Watson moins cher, plus petit, et plus intelligemment - idéalement, vous pourriez éventuellement fonctionner un système comme Watson sur tous les smartphones.

Idéalement, ils pourraient nous sortir des traductions automatiques qui veulent dire quelque chose ?

[ansset]

Je ne comprend pas , une bouilloire électrique c'est 2kw

ben oui, c'est d'ailleurs la version haute de puissance, mais paradoxalement, elle est recommandée car le temps de chauffe est le plus bas.
c-a-d que l'énergie totale est optimisée.
en l'occurence, je vois mal ta super IA fonctionner qcq minutes par jour.
pas plus qu'une bouilloire en marche 24h/24.
la comparaison est absurde.

[EauPure]

Idéalement, ils pourraient nous sortir des traductions automatiques qui veulent dire quelque chose ?

ça dit qq chose puisqu'on comprend
Mais ça peut s'améliorer à mesure que la puissance des ordi augmente et leur consommation baisse.
Car google dit pouvoir faire mieux mais ça prendrait plus de temps alors c'est un compromis.

[ansset]

Pas de vidéo mais il y a un texte et Elon Musk rejoint l'idée du sujet ET IA

et alors,
Elon Musk est il une référence mondiale sur ce sujet ( IA) ?
Il a quitté ses études de physique à 24 ans, pour se consacrer aux développements de jeux vidéos.
pas un soupçon de connaissance en neurosciences par exemple.

[Archi3]

ça dit qq chose puisqu'on comprend
Mais ça peut s'améliorer à mesure que la puissance des ordi augmente et leur consommation baisse.
Car google dit pouvoir faire mieux mais ça prendrait plus de temps alors c'est un compromis.

que tu comprennes ou pas toi ce que veut dire "ce qui permet le logiciel de Watson à main de problèmes difficiles aux réseaux de neurones de matériel et de revenir solutions" (tu m'expliqueras), ça montre quand même que le logiciel, lui , ne comprend certainement rien !

[EauPure]

et alors,
Elon Musk est il une référence mondiale sur ce sujet ( IA) ?
Il a quitté ses études de physique à 24 ans, pour se consacrer aux développements de jeux vidéos.
pas un soupçon de connaissance en neurosciences par exemple.

L'IA est aussi dans le jeux vidéo et quand on a fait et vendu son premier jeux video à 12 ans ...

Prix et récompenses
Il a été listé dans le top 100 des personnages qui ont affecté le monde en 2010 par la magazine Time.
En février 2011, Forbes a listé Musk dans les meilleurs CEO américains qui ont 40 ans et moins.
En juin 2011, il a gagné une somme de 500 000 $ comme récompense par Heinlein Prize for Advances in Space Commercialization.
En 2012, Musk se voit décerner la médaille d'or de la Royal Aeronautical Society (en), son plus prestigieux prix.
En 2013, il a été nommé « The Fortune businessperson of the year » pour SpaceX, SolarCity et Tesla Motors.
Doctorats honoris causa[modifier | modifier le code]
Doctorat honoris causa de design de l'Art Center College of Design en Californie.
Doctorat honoris causa d'ingénierie aérospatiale de l'université de Surrey.

http://fr.wikipedia.org/wiki/Elon_Musk

Et il a lu, cite et recommande le livre de Nick Bostrom

Sommes-nous sur le chemin de la superintelligence artificielle ? Oui, d’après Nick Bostrom. Le philosophe suédois Nick Bostrom est directeur de l'Institut pour l'avenir de l’humanité à l'université d'Oxford.

Dans cet extrait de son livre Superintelligence, il appelle à une coopération mondiale dans la recherche de la superintelligence, notamment sous l’égide des Nations Unies.

http://future.arte.tv/fr/super-intelligence

Dans une première phase, pouvant durer une dizaine d'années ou plus, ces IA seront sous contrôle de leurs concepteurs et de leurs utilisateurs. Ils disposeront d'un minimum d'intelligence autonome leur permettant de prendre des initiatives, mais celles-ci seront conçues pour satisfaire les exigences politiques de ces mêmes concepteurs et utilisateurs. Le cas le plus évoqué est celui du drone capable d'identifier des objectifs définis comme ennemis et de les détruire sans autorisation. Mais ces drones ne doivent pas, en principe, pouvoir s'attaquer à des humains non différenciés.

Ceci étant, dans l'esprit de Nick Bostrom et de nombreux autres spécialistes, notamment le précurseur Eliezer Yuskowsky 2) après plusieurs itérations se déclenchant spontanément, ces systèmes pourraient acquérir des intelligences de type humain, capables notamment d'invention et de jugement. Très vite alors, ces inventions s'appliquant notamment à leur propre perfectionnement, les systèmes acquéreront des capacités supérieures ou même immensément supérieures à celles de l'esprit humain.

http://blogs.mediapart.fr/blog/jean-...3-juillet-2014

[EauPure]

que tu comprennes ou pas toi ce que veut dire "ce qui permet le logiciel de Watson à main de problèmes difficiles aux réseaux de neurones de matériel et de revenir solutions" (tu m'expliqueras), ça montre quand même que le logiciel, lui , ne comprend certainement rien !

ce qui permet au logiciel de Watson sur main problèmes difficiles de faire appel aux nouveaux réseaux de neurones matériels