La Singularité technologique : Utopie ou réalité de demain ?

[mtheory]

J'y reviendrai, là j'ai pas le temps de développer. Il y a un préalable à la notion d'uploading au sens fort qui intervient comme une voie vers la singularité, je l'ai exposé plusieurs fois et je sais que Jiav est d'accord avec ça.

voilà..........

Pour moi 20 à 30 ans cela veut dire "on ne sait pas quand", et je ne suis pas d'accord avec le singulier. Mais l'un de l'autre, je suis récemment devenu beaucoup plus optimiste pour les raisons plus bas.

Il s'agit d'avoir un cerveau artificiel assez futé pour créer un cerveau artificiel plus futé que lui-même.

Il me semble clair qu'on aura les moyens technologiques d'émuler un cerveau biologique d'ici... 19 ans

http://www.ibm.com/smarterplanet/us/...computing.html
http://en.wikipedia.org/wiki/SyNAPSE

La question devient alors de savoir si on saura le programmer, ce qui est beaucoup plus compliqué. Pour moi la seule approche (relativement) rapide serait de passer par le uploading

http://en.wikipedia.org/wiki/Mind_uploading

La technologie critique devient alors la neuroimagerie. En l'état actuel, on est très loin de la sensibilité requise, mais les quantums dots pourraient permettre de franchir le pont. C'est la lecture dans ce domaine qui m'amène à être optimiste pour une évolution brutale dans un avenir relativement proche.

http://www.mdpi.com/1422-0067/10/2/441/
http://www.nature.com/nmeth/journal/...meth.1206.html
http://pubs.acs.org/doi/abs/10.1021/la902499e

-----

[invitec44b6f04]

OK, alors que penser des "enfants sauvages".
qui t'a appris à parler et à lire.?
qui t'enseigne ?
ou prends tu tes informations ?

La construction de mon intelligence nécessite une société on est bien d'accord. Mais on peut tout de même considérer mon intelligence individuelle indépendamment de la société. Et cette intelligence n'est pas collective.

Une analogie : chacune de tes cellules a besoin du reste de ton corps pour se construire se maintenir etc. Mais elle a un fonctionnement interne qui n'est pas collectif. Même si bien sûr elle interagit en permanence.

Si un insecte peut se téléporter, il est probable que nous puissions utiliser les phénomènes physiques qui nous permettraient, nous aussi, de nous téléporter.

En revanche, rien ne nous permettrait de dire que l'on est capable de créer les phénomènes physiques qui engendrent la téléportation, tout comme le fait d'être intelligent sans pour autant être capable de concevoir l'intelligence.

Je ne suis pas d'accord. Utiliser les phénomènes physiques qui engendrent l'intelligence c'est concevoir l'intelligence.
Utiliser la résistance du sol pour marcher, sans être capable de la concevoir, c'est marcher.

[mtheory]

voilà..........

http://bluebrain.epfl.ch/

[invite8915d466]

Si on découvrait un insecte capable de se téléporter dirais-tu que c'est un signe qui laisse penser que c'est probable que la téléportation nous soit accessible un jour ? Même si aucune théorie ne va dans ce sens ?

ça me parait totalement contrafactuel - pourquoi un insecte pourrait faire ce qu'aucune théorie physique ne prevoit ? les théories physiques sont là pour décrire la réalité, je ne vois pas pourquoi un seul animal aurait cette propriété. Il faudrait déjà comprendre pourquoi c'est le cas. Ensuite je ne sais pas si on saurait le faire ou pas - mais je ne vois pas de raison pour laquelle n'importe quelle technologie donnée (le silicium par exemple) pourrait y arriver - si c'était dû à une propriété très particulière des proteines de l'insecte par exemple, on ne pourrait l'imiter qu'en maitrisant ces proteines et pas avec du silicium.

Mon point était un rappel de l'historicité de ces élucubrations : elles se sont développées à partir de l'hypothèse computationaliste et en utilisant des théorème d'équivalence algorithmiques, indépendant du support, permettant d'assimiler robots et humains, comme des copies potentielles l'un de l'autre. Si tu laisses tomber cette hypothèse, la colonne vertébrale de la théorie tombe. Tu peux te raccrocher à d'autres arguments, mais ça devient tout de suite bien moins convaincant ....

[invite986312212]

Mais n'y a-t-il pas le même problème avec le fitness ? La valeur sélective ne dépend-elle pas d'un environnement qui n'a rien d'universel ?

le critère est universel, mais il est évalué conditionnellement à l'environnement. C'est ce qui fait qu'on ne peut pas parler d'amélioration pour les organismes vivants et que l'évolution a un comportement erratique. L'évolution technologique n'a pas ce comportement, mais justement les critères à optimiser sont plus restrictifs. Tu parlais de la voiture et du cheval, l'amélioration porte sur la vitesse, le coût peut-être, etc. mais pas sur tous les aspects possibles et imaginables. Par exemple ça peut être plus agréable (pour certains) d'utiliser un cheval plutôt qu'une voiture. Je vois mal comment on peut faire en sorte que des machines "s'améliorent" de façon non dirigée et non prévue.

[invite4b0d1657]

et il y a un petit truc qui me titille.
l'intelligence humaine est "collective".
en ce sens un copier/coller n'a pas de sens !
à moins d'uploader 7 milliards de cerveaux dans une machine.
la plus grande shizophrénie jamais atteinte !!

Non, c'est les fourmis qui ont une intelligence collective.

Et 7 milliards c'est un tout petit chiffre face au capacités de calcul et de stokage informatique.

Je cite:Un super-calculateur japonais, développé par le groupe informatique Fujitsu et un institut de recherche nippon, a été classé premier du Top 500 mondial des ordinateurs les plus performants.
Le système informatique K, actuellement en phase de configuration, totalise 68 544 processeurs.
Cet ensemble, encore inachevé, affiche déjà une performance de calcul de 8,162 petaflops (8,162 millions de milliards d'opérations en virgule flottante par seconde).

ça commence à déménager!

Et: Un récapitulatif des 10 plus grosses bases de données au monde… La plus grosse atteint tout de même 192 Po (Peta octets) ce qui fait 196.608 Tera Octets ou 201'326'592 Gyga Octets ou 206'158'430'208 Méga Octets ou 211'106'232'532'992 Kilo Octets ou 216'172'782'113'783'808 Octets ou 221'360'928'884'514'619'392 bits, dit autrement 221 mille millions de milliards de bits.

Bon d'accord on est encore loin du cerveau humain, mais quand même beaucoups moins loin qu'il n'y a ne serait-ce que 10 ans.

[invite8915d466]

sur l'uploading, petit devoir de rédaction pour les écoliers de 2050 : on s'apprête à uploader votre esprit mais au moment critique, vous vous apercevez que vous avez oublié d'aller aux toilettes et que vous avez très envie de faire pipi. Avant de l'avoir dit à l'opérateur .. crac, il appuye sur le bouton et votre esprit est immédiatement scanné et uploader dans l'ordinateur - en train de penser qu'il a très envie de faire pipi bien sûr. Imaginer la suite pour l'ordinateur. Vous avez deux heures.

[invitef4d52012]

Bon d'accord on est encore loin du cerveau humain, mais quand même beaucoups moins loin qu'il n'y a ne serait-ce que 10 ans.

Sauf si c'est pas du tout le sens où il faut aller pour concevoir un ordinateur "intelligent"... Un peu comme le lièvre et la tortue^

[mtheory]

L'hypothèse que j'ai dans la tête c'est qu'ultimement, le cerveau repose sur des propriétés quantiques de ses composants mais qu'une grande partie de ce qu'il fait repose sur l'aspect semi-classique du cerveau et est effectivement parfaitement reproductible par un ordinateur de Von Neumann. C'est ce qui fait que les ordinateurs existants sont capables de reproduire des taches du cerveau humain, que l'on a de l'intelligence artificielle et que l'on a des systèmes informatiques capables d'apprendre.

Si on arrive à avoir une modélisation très complète des neurones et que l'on réalise un ordinateur incorporant des éléments quantiques, pour peut que l'on comprenne l'interation entre ces éléments quantiques dans le cerveau suffisamment bien, il n'est plus nécessaire, si la puissance de traitement de l'information est suffisante, d'avoir une compréhension de tout ce qui se passe dans un cerveau qui devient conscient. Il devrait suffire de scanner un vrai cerveau pour reproduire sa structure dans le système de simulation de l'ordinateur pour que celui-ci pense, de la même manière qu'il n'y avait pas besoin de connaitre les détails de la structures des molécules pour avoir des réactions chimiques sous contrôle.

[xxxxxxxx]

L'hypothèse que j'ai dans la tête c'est qu'ultimement, le cerveau repose sur des propriétés quantiques de ses composants mais qu'une grande partie de ce qu'il fait repose sur l'aspect semi-classique du cerveau et est effectivement parfaitement reproductible par un ordinateur de Von Neumann. C'est ce qui fait que les ordinateurs existants sont capables de reproduire des taches du cerveau humain, que l'on a de l'intelligence artificielle et que l'on a des systèmes informatiques capables d'apprendre.

j'aime beaucoup, ça correspond à l'interpretation que je me fais de la réalité quantique : c'est l'observateur avec sa conscience et son libre arbitre qui décide de sa réalité à partir d'un choix binaire et agit sur son futur...

[invitec44b6f04]

Mon point était un rappel de l'historicité de ces élucubrations : elles se sont développées à partir de l'hypothèse computationaliste et en utilisant des théorème d'équivalence algorithmiques, indépendant du support, permettant d'assimiler robots et humains, comme des copies potentielles l'un de l'autre. Si tu laisses tomber cette hypothèse, la colonne vertébrale de la théorie tombe. Tu peux te raccrocher à d'autres arguments, mais ça devient tout de suite bien moins convaincant ....

Ok la dessus on est tout à fait d'accord.

Néanmoins je trouve l'argument "la nature la fait on doit pouvoir le faire" plutôt convaincant.
Mais ok, c'est possible que pour émuler de l'intelligence la seule possibilité soit de copier quasiment point à point un cerveau humain, ce qui n'amènerait pas à la singularité.

le critère est universel, mais il est évalué conditionnellement à l'environnement. C'est ce qui fait qu'on ne peut pas parler d'amélioration pour les organismes vivants et que l'évolution a un comportement erratique.

Je crois que je vois le problème.
S'il n'y avait qu'un seul environnement il y aurait amélioration.
Dans le cas de l'évolution ça n'a pas de sens. Dans le cas de l'intelligence, si on suppose qu'elle ne fait pas partie de son environnement, et qu'en définitive son environnement c'est l'univers et ses lois et qu'il est unique, ça donne un critère théorique pour mesurer l'amélioration de l'intelligence. Par contre je ne vois pas comment il pourrait être applicable.

[invite8915d466]

toute la question est : tu scannes quoi au juste ? et quelle relation d'évolution mets tu entre ces quantités ?

les ordinateurs sont des machines physiques conçues pour s'approcher aussi près que possible du modèle idéal de Turing, c'est à dire : pouvoir être décrits par un nombre fini de bits , entre lesquels on a des règles précises d'évolution de pas en pas. Ils sont FABRIQUES pour ça bien sûr - parce que c'est la seule manière d'être "programmés". Mais ... ce sont les seuls objets à être fabriqués comme ça et pour ça ! et encore, même eux ont des caractéristiques "analogiques" qui les font échapper à la stricte algorithmique.

A coté de ça, aucun système naturel, et pas plus le cerveau que n'importe quoi d'autre, n'est descriptible exactement par un nombre fini d'états discrets avec une règle d'évolution stricte. Les objets naturels ne sont PAS ça : c'est bien pour ça que c'est pas évident du tout de fabriquer un ordinateur qui marche, il faut choisir très soigneusement sa construction pour qu'il puisse être discrétisable ! faut imaginer des composants électroniques à deux états, stables, pouvant commuter rapidement, sans erreur .... pfffouiiii c'est rudement dur en fait de faire ça ! aucun système naturel ne se résume à ça !!

et donc la bizarrerie, c'est qu'on prend comme modèle des objets totalement artificiels, hyperspécifiques , pas évidents du tout à construire, pas du tout naturels, qui existent que depuis quelques dizaines d'années... et on dit que tout le reste fonctionne pareil ? alors qu'on ne connait aucune description discrète du cerveau, ni aucune règle déterministe à l'intérieur ? est ce qu'on marche pas un peu la tête à l'envers là ?

[mtheory]

Ok la dessus on est tout à fait d'accord.

Néanmoins je trouve l'argument "la nature la fait on doit pouvoir le faire" plutôt convaincant.
Mais ok, c'est possible que pour émuler de l'intelligence la seule possibilité soit de copier quasiment point à point un cerveau humain, ce qui n'amènerait pas à la singularité..

Si, parce que comme les neurones sont simulées, elles n'ont pas de limites genre glucose, nombres de connexions, recapture des neuromédiateur, vitesses de calcul, fatigue etc...le cerveau initiale est boosté et il peut travailler mieux et plus vite et la boucle d'auto amélioration peut s'enclencher.

[invite765732342432]

ok je te remercie pour ton effort. Toutefois, si on ne peut rien dire de précis sur les moyens ni sur les buts, qu'est-ce qui distingue cette discussion d'une discussion de comptoir?

Je n'ai pas vu grand chose qui fasse de la conversation davantage qu'une conversation de passionnés (version un tout petit peu plus factuelle que la discussion de comptoir).
Mais j'aime ce genre de conversation et pour une fois, celle-ci ne part pas trop en HS, ni en sucette.

si tu te souviens du paradoxe de Zenon, le fait que la suite Vn soit croissante n'entraîne pas qu'elle aille bien loin (sans parler de l'infini).

Peu importe. L'important est qu'elle aille aussi loin que l'intelligence puisse aller.

[mtheory]

toute la question est : tu scannes quoi au juste ?

l'état des neurones et le réseau de neurones, mais c'est un vœux pieux que d'imaginer qu'on pourra obtenir suffisamment d'informations pour reproduire l'essentiel de ce qu'il faut pour que le cerveau pense.

Évidemment, comme Penrose l'a fait remarquer, si il y a une grande quantité d'informations et de structures importantes qui sont très profondément enfouies dans les neurones, ça n'est probablement pas possible et en tout cas pas dans un avenir proche.

Je n'affirme rien, j'explore des directions qui me semblent crédibles et rationnelles.

[invitec44b6f04]

Envoyé par Zombiliclas
Mais ok, c'est possible que pour émuler de l'intelligence la seule possibilité soit de copier quasiment point à point un cerveau humain, ce qui n'amènerait pas à la singularité..

Si, parce que comme les neurones sont simulées, elles n'ont pas de limites genre glucose, nombres de connexions, recapture des neuromédiateur, vitesses de calcul, fatigue etc...le cerveau initiale est boosté et il peut travailler mieux et plus vite et la boucle d'auto amélioration peut s'enclencher.

Quand je dis point à point je veux dire molécule à molécule en fait. Ce qui interdit la simulation. C'est comme ça que je comprends la position de gillesh38. On ne pourrait pas se débarrasser des contrainte du cerveau humain qui seraient nécessaire à l'intelligence.
J'ai bien compris (j'espère) que tu avais des données factuelles qui te pousse à croire que cette simulation est possible.
Sur cette possibilité de simulation je n'ai pas d'avis.

[invite6754323456711]

l'état des neurones et le réseau de neurones, mais c'est un vœux pieux que d'imaginer qu'on pourra obtenir suffisamment d'informations pour reproduire l'essentiel de ce qu'il faut pour que le cerveau pense.

Surtout au niveau quantique ou l'on parle de fuite d'information lors d'une mesure non ?

Patrick

[invite8915d466]

Quand je dis point à point je veux dire molécule à molécule en fait. Ce qui interdit la simulation. C'est comme ça que je comprends la position de gillesh38. On ne pourrait pas se débarrasser des contrainte du cerveau humain qui seraient nécessaire à l'intelligence.

absolument : si, après avoir constaté que les neurones ne sont pas assimilables à des états discrets évoluant de manière déterministe (condition absolument indispensable pour être "algorithmisés"), tu te mets à vouloir descendre au niveau de la molécule, alors là tu vas te retrouver devant un problème monstrueux : c'est que les interactions entre molécules sont purement quantiques, et que tu ne peux pas les traiter de façon déterministe. Il faut les traiter par la méca Q - et outre le fait qu'on est bien sûr extrêmement loin de connaitre le détail des réactions chimiques entre neuromédiateurs, leur rôle exact, qu'il est totalement exclus de mesurer la place de chaque molécule, et qu'en plus nos méthodes numériques sont très loin de décrire exactement la réactivité des molécules (ça fait déjà un paquet de problème), il y en a un encore plus radicalement fondamental.


C'est que les règles d'évolutions quantique ne te calculent que des grosses fonctions d'onde qui ne collapsent jamais, vu qu'il n'y a pas de manière déterministe d'implémenter la transition quantique-classique. Quand tu calcules une section efficace de réactivité, tu calcule en fait une fonction d'onde dont les composantes sont ensuite interprétées à posteriori comme des probabilités - mais tu ne calcules jamais CE QU'IL se passe en réalité. Autrement dit, si tu calculais un cerveau par cette méthode, tu n'obtiendrais pas un cerveau "classique" mais une fonction d'onde horriblement compliquée comprenant toutes les probabilités que le cerveau aurait d'évoluer à partir d'un état initial - sans avoir aucune règle pour déterminer laquelle choisir (inutile de préciser que les capacités de calcul pour cette fonction d'onde sont très très au delà de ce qu'on peut espérer avec tous les ordinateurs du monde, mais c'est un détail).

Bref l'approche "description microscopique" ne peut s'arrêter à aucun niveau où elle devient en bonne approximation discrète, et déterministe. Ce niveau n'existe pas, nulle part. Contrairement bien sur à un ordinateur, mais comme j'ai dit l'ordinateur est construit soigneusement exprès pour ça - pour pouvoir etre décrit avec un petit (!! - par rapport à la description microscopique bien sûr) nombre de variables discrètes - heureusement ! c'est même on pourrait dire la définition d'un ordinateur.

[mtheory]

Surtout au niveau quantique ou l'on parle de fuite d'information lors d'une mesure non ?

Patrick

Je ne m'attends pas de cette façon à une copie des souvenirs et de l'état quantique, juste de la structure nécessaire à l'apparition de la conscience, un peu comme un enfant de 1 an.

[mh34]

Autrement dit, si tu calculais un cerveau par cette méthode, tu n'obtiendrais pas un cerveau "classique" mais une fonction d'onde horriblement compliquée comprenant toutes les probabilités que le cerveau aurait d'évoluer à partir d'un état initial - sans avoir aucune règle pour déterminer laquelle choisir (inutile de préciser que les capacités de calcul pour cette fonction d'onde sont très très au delà de ce qu'on peut espérer avec tous les ordinateurs du monde, mais c'est un détail).

Bon, est-ce qu'on peut résumer tout ça par : " donc c'est tout simplement pas faisable "?
je reconnais que ça m'arrangerait ...

[invite765732342432]

Bon, est-ce qu'on peut résumer tout ça par : " donc c'est tout simplement pas faisable "?
je reconnais que ça m'arrangerait ...

Est-il si compliqué d'admettre, tout simplement, qu'on ne peut pas apporter de réponse à cette question ?
Faut-il obligatoirement dire oui ou non ?

[mtheory]

absolument : si, après avoir constaté que les neurones ne sont pas assimilables à des états discrets évoluant de manière déterministe (condition absolument indispensable pour être "algorithmisés"), tu te mets à vouloir descendre au niveau de la molécule, alors là tu vas te retrouver devant un problème monstrueux : c'est que les interactions entre molécules sont purement quantiques, et que tu ne peux pas les traiter de façon déterministe. .

C'est bien pour ça que j'ai dit qu'à un moment, il fallait implémenter un ordinateur classique par des éléments quantiques.

[mh34]

Pas du tout, mais je voulais juste essayer de résumer la citation de Gilles en trois mots compréhensibles pour moi, quoi...

Oups pardon ; réponse à Faith.

[mtheory]

Bon, est-ce qu'on peut résumer tout ça par : " donc c'est tout simplement pas faisable "?
je reconnais que ça m'arrangerait ...

malheureusement non....là on fait des spéculations certes basées sur des éléments scientifique possible mais il est impossible de vraiment dire si, comment, quand c'est faisable.

D'ailleurs en lançant le fil, mon idée était que la conclusion serait " l'idée est très intéressante, rationnelle mais les discours du style ça va forcément arriver, entre 2020 et 2040 et vous allez voir voir ce que vous allez voir !" ne sont pas crédibles.

[mtheory]

Pas du tout, mais je voulais juste essayer de résumer la citation de Gilles en trois mots compréhensibles pour moi, quoi...

Oups pardon ; réponse à Faith.

En gros :

simuler vraiment un système quantique par un ordinateur classique est impossible.

même si ça l'était, les calculs pour le cerveau au niveau des molécules seraient monstrueux, colossaux bien loin de ce qui est envisageable pendant dans décennies.

conclusion, c'est mal barré.....si on persiste avec des machines de Turing classiques, les seules que l'on connaisse actuellement. Donc, le père Noêl existe peut-être mais faut pas trop compter le rencontrer.

[mh34]

Intéressante...
Rationnelle...bon, peut-être après tout, je ne peux pas en juger.

mais les discours du style ça va forcément arriver, entre 2020 et 2040 et vous allez voir voir ce que vous allez voir !" ne sont pas crédibles.

Là je pense que tu vas pouvoir faire l'unanimité!

[mh34]

En gros :

simuler vraiment un système quantique par un ordinateur classique est impossible.

même si ça l'était, les calculs pour le cerveau au niveau des molécules seraient monstrueux, colossaux bien loin de ce qui est envisageable pendant dans décennies.

merci, j'ai compris.

conclusion, c'est mal barré.....si on persiste avec des machines de Turing classiques, les seules que l'on connaisse actuellement. Donc, le père Noêl existe peut-être mais faut pas trop compter le rencontrer.

Tu as l'air assez désabusé!

[mtheory]

merci, j'ai compris.


Tu as l'air assez désabusé!

Non, j'ai l'habitude de "monter à la romaine" comme on dit, c'est à dire que même si j'ai des préférences ou des "vérités" bien établies, je me donne comme devoir d'examiner les thèses adverses et de les prendre au sérieux. Ce qui fait que je peux parfois tenir un discours pessimiste alors que je suis plutôt zen sur le sujet (et que je peux relativiser). J'essaye d'être lucide et intègre, quoi qu'il m'en coûte.

[invite765732342432]

si on persiste avec des machines de Turing classiques, les seules que l'on connaisse actuellement.

J'ai du mal à considérer des applications multi-threadées partageant le même espace mémoire comme une machine de Turing...
Ca ne répond pas, à ma connaissance, à la description d'une machine de Turing.

[invite3ea6c9f5]

Y'a quand même cet argument qui me chiffonne et que l'on a pu voir dans les pages précédentes.

dans ce cas pourquoi l'univers, les galaxies ne sont pas "remplies" de robots "immortels"

Ne me dite pas que ça ne serait pas intéressant pour eux, ma conscience humaine ne peut m'empêcher de me dire que l'exploration c'est trop bien .