La Singularité technologique : Utopie ou réalité de demain ?

[mtheory]

La singularité technologique fait l'objet de nombreux débats et colloques aux Etats-Unis.

En résumé, elle suppose que la technologie améliorant la capacité d'élaborer une technologie plus avancée qui à son tour etc...le progrès doit suivre une loi exponentielle faisant que d'ici quelques dizaines d'années la nanotechnologie et les puissances de calculs seront telles qu'il sera possible de contrôler au niveau cellulaire la totalité d'un corps humain et de construire des ordinateurs conscients qui a leur tour concevront des ordinateurs encore plus intelligents qui etc...

En un rien de temps, un saut qualitatif se produit dans l'histoire de la conscience et de l'intelligence sur Terre renvoyant l'homo sapiens au rang occupé par des poissons par rapport à lui. Ce saut qualitatif ouvrant des espaces psychiques aussi inconcevables que la psyché humaine pour des poissons, la singularité représente le point de l'histoire au-delà de laquelle nous ne pouvons plus rien prédire.

Ce sont les thèse soutenues entre autre par Eliezer Yudkowsky http://editions-hache.com/essais/yud...udkowsky1.html

Alors, la singularité, délires d'adolescents attardés refusant de voir que la réalité n'est pas conforme à leurs livres de SF ou conceptions visionnaires ?

[invite6754323456711]

Alors, la singularité, délires d'adolescents attardés refusant de voir que la réalité n'est pas conforme à leurs livres de SF ou conceptions visionnaires ?

Cela semble entrer dans la philosophie des principes Extropiens

Patrick

[mtheory]

Cela semble entrer dans la philosophie des principes Extropiens

Patrick

absolument.....

[invite231234]

ça me fait peur, , la complexification n'entraîne-t-elle pas une augmentation de l'entropie !!!

[A voir en vidéo sur Futura]

[Moinsdewatt]

ça me fait peur, , la complexification n'entraîne-t-elle pas une augmentation de l'entropie !!!

Qu' est ce que l' entropie vient faire la dedans ?

[invite231234]

Ne dit-on pas vulgairement que c'est le désordre qui l'emporte sur l'ordre ...

[Moinsdewatt]

Ne dit-on pas vulgairement que c'est le désordre qui l'emporte sur l'ordre ...

Je ne vois toujours pas le rapport.

1 milliard d' année d'évolution pour arriver au cerveau humain à partir de chose comme l' amibe contredit complétement cette affirmation.

[invite231234]

Eh bien, l'entropie augmentant, il faudra trouver plus d'énergie libre pour la disponibilité des besoins !

[Moinsdewatt]

Eh bien, l'entropie augmentant, il faudra trouver plus d'énergie libre pour la disponibilité des besoins !

L'energie solaire suffirait amplement si on savait la récolter convenablement, ce qui n' est pas le cas à ce jour.

Mais la reflexion sur l' energie est interessante, c' est effectivement un frein à ces délires extra humanistes.

[xxxxxxxx]

L'energie solaire suffirait amplement si on savait la récolter convenablement, ce qui n' est pas le cas à ce jour.

Mais la reflexion sur l' energie est interessante, c' est effectivement un frein à ces délires extra humanistes.

bonjour

C'est tout de même plus qu'un simple frein me semble t 'il : comment envisager un système global s'il ne dispose pas de l'énergie suffisante pour s'auto entretenir et perdurer ?

cordialement

[invite6c250b59]

comment envisager un système global s'il ne dispose pas de l'énergie suffisante

A savoir: le minimum théorique de consommation d'énergie pour effectuer un calcul, c'est 0 quelle que soit la longueur du calcul.

[invitef4d52012]

Ca sent grave le délire sous cocaïne. Quand on lit ça, on a l'impression de voir en ces pseudo-utopiques le même aveuglement des économistes avant la crise. Toujours plus, sans que ça se casse la gueule. Sous cocaïne la peur du lendemain n'existe pas. Y a pas de lendemain. J'ai pas l'impression qu'ils vivent dans le futur mais bien dans le présent - l'expression de leurs testostérones. "Courez, toujours plus vite ! toujours plus beau ! plus fort. Courez ! ne regardez pas en arrière, ne regardez pas en avant !... Hou, regardez mon pelage comme il est beau. Rou-rou !" L'homo sapiens, lui, l'homme sage, il pose son cul pour réfléchir et prendre soin des plus faibles, à commencer par sa projétinure. C'est ça notre progrès, le propre de l'homme. Ces drogués du progrès "gueule-de-bois" laisseraient crever leur gamin sur le bord de la route et ils finiront par s'étouffer dans leur vomi.

Pseudo utopique oui... L'idée de produire des surhommes méga performants, ça ressemble assez à un cauchemar où on supprimerait les individus les moins compétitifs. On pensait s'être affranchi de l'évolution, certains veulent y retourner en croyant pouvoir en contrôler la direction. "La coke, c'est bon, je gère. Je m'arrête quand je veux." Back to the 80's. Sortez les lunettes noires, à l'aube d'une nouvelle humanité, le levée du soleil ça fait mal aux yeux !

Le progrès, c'est bien, mais on sait pas où il nous mène. Croire à une croissance exponentielle, croire qu'on peut maitriser la bête en la libérant de ses chaines, c'est pas de l'utopie, c'est de la folie. Ying yang, connaissent pas... l'équilibre est en pente sévère, tant qu'on sniffe on avance et on a pas la goute au nez, on voit pas le pourcentage. Effet Pantani, aucune limite au progrès, sauf quand ça se casse la gueule. Over dose, game over, tout cela n'est qu'un jeu. Voulez-vous jouer une autre partie ? Rien ne se perd, tout ce recycle. Un tweet et ça repart.

Le mirage économique s'est pété la gueule, le mirage nucléaire aussi, pourquoi pas les nanotechnologies, bientôt l'espace et enfin le la manipulation génétique. Nanotechnologie, c'est cool, des nouveaux matériaux, pis quand on en a plus besoin on fait quoi ? L'espace, c'est bien, mais l'orbite est de plus en plus polluée, on arrivera bientôt plus à sortir sans bombarder au laser les débris qui se mettront sur la route. L'espace, c'est Naples avec personne pour sortir les poubelles. Utopie septique dirait Mad Max... Un homme plus intelligent, plus beau, plus musclé, plus mieux, grâce à la manipulation génétique ? oui bien sûr, avant on aura peut-être crée une intelligence artificielle qui se débarrassera d'une intelligence limitée qui ne pourra même plus lui servir de sparing partner aux échecs... On est bien dans la science-fiction, mais on est plus du côté de Frakenstein. On ne cesse de créer des monstres qui nous pètent à la figure. Il n'y a pas une loi biologique qui veut que quand un virus se propage trop vite, trop bien, décimant tous ses hôtes, il finit par s'autoréguler ? Y aurait un peu de ça. L'euphorie du progrès, puis à force de voir tout notre environnement se détérioré, on cramera avec lui. Vive la gueule de bois. Progrès ou excès ?

[invite6754323456711]

absolument.....

Après "les temps modernes" de Charlie Chaplin faut espérer que cela ne donne pas des idées pour conduire au temps hyper-modernes. Maintenant comme disaient Les Monty Python "Celui qui s'attend au pire n'est jamais décu"


Patrick

[inviteccac9361]

Bonjour,

En résumé, elle suppose que la technologie améliorant la capacité d'élaborer une technologie plus avancée qui à son tour etc...le progrès doit suivre une loi exponentielle faisant que d'ici quelques dizaines d'années la nanotechnologie et les puissances de calculs seront telles qu'il sera possible de contrôler au niveau cellulaire la totalité d'un corps humain et de construire des ordinateurs conscients qui a leur tour concevront des ordinateurs encore plus intelligents qui etc...

ce principe Extropien semble sous-évaluer un facteur.

Que l'on puisse produire des elements plus petits et communiquants, ou interagissants, ne dit en rien comment ceci doit s'éffectuer.
D'ou viendrait l'information pour le faire ?

Du Sapiens.

Sinon, il est necessaire de fixer des règles qui engendrent leurs règles.
On ne peut alors pas contrôler cette information.
Elle n'est d'aucune utilité.

En d'autres termes, générer une information nécessite une contrainte.
De la même maniere, il est necessaire de fournir une contrainte pour extraire de l'information.

Un exemple simple :
L'organisation de l'information dans les reseaux.
Comment retrouver une information sur internet ?
Peut-on croire que l'on peut laisser un systeme s'auto-organiser et être capable de communiquer avec celui-ci autrement que grossierement ?
Puis-je communiquer avec un verre d'eau ?

Il s'agit donc ici, à mot caché, du concept du Cyborg.
http://fr.wikipedia.org/wiki/Cyborg

La question de savoir qui, de la machine ou de l'homme contrôle qui dans le cas d'un cyborg reste donc ouverte.

[invite6c250b59]

La singularité technologique fait l'objet de nombreux débats et colloques aux Etats-Unis.

Une réf intéressante: Chalmer

la technologie améliorant la capacité d'élaborer une technologie plus avancée qui à son tour etc...le progrès doit suivre une loi exponentielle

En fait ça cela existe déjà: le progrès économique suit effectivement une exponentielle qui est évidente depuis plusieurs siècles.

il sera possible (...) de construire des ordinateurs conscients qui a leur tour concevront des ordinateurs encore plus intelligents qui etc...

Cela est effectivement la technologie spécifique qui devrait tout changer selon les tenants de la singularité.

Pour ma part, je pense que cet emballement est à peu près inévitable, possiblement mais pas nécessairement dans les prochaines décennies, mais qu'il est naif de croire que cela va résulter en un paradis sur terre. Pas par pessimisme, mais tout simplement parce que la singularité, cela fait longtemps qu'on est dedans!

Avant Malthus tout progrès amenant une augmentation de richesse était dissipé par une augmentation de population, ce qui maintenait le niveau de richesse par personne a un niveau légèrement au-dessus du seuil de subsistance (et donc en-dessous au moindre choc).

Un singulariste vivant à cette époque aurait pu émettre l'idée suivante: "dès que le progrès sera plus rapide que la hausse de fécondité, alors s'ensuivra une augmentation exponentielle de la richesse qui changera fondamentalement nos vies".

D'une certaine façon, il aurait eu parfaitement raison: notre mode de vie a complètement changé par rapport à celui de nos parents, nos grands-parents etc. La plupart d'entre nous sommes de la classe moyenne, issue d'une classe plus pauvre, elle-même issue d'une classe miséreuse par rapport à notre qualité de vie actuelle. C'est indéniable, mais est-ce le paradis sur terre? Non bien sur, il y a toujours des gens qui crèvent de faim, quand bien même ils sont proportionnellement beaucoup moins nombreux.

Je m'attends à la même chose avec cette prévisible boucle de rétroaction positive d'ordinateurs qui créent des ordinateurs plus puissant qui... : des changements qualitatifs dans le niveau de vie qui feront que nos descendants vivront dans un monde complètement différent du notre, en mieux. Et ce ne sera pas le paradis sur terre.

[invite6c250b59]

La plupart d'entre nous sommes de la classe moyenne, issue d'une classe plus pauvre, elle-même issue d'une classe miséreuse par rapport à notre qualité de vie actuelle. C'est indéniable, mais

...mais dénié quand même, bien sur. Oncle Vania sort de ce corps.

[mtheory]

Je m'attends à la même chose avec cette prévisible boucle de rétroaction positive d'ordinateurs qui créent des ordinateurs plus puissant qui... : des changements qualitatifs dans le niveau de vie qui feront que nos descendants vivront dans un monde complètement différent du notre, en mieux. Et ce ne sera pas le paradis sur terre.

je suis encore plus sceptique que ça, je crois qu'un ordinateur conscient et des ,nanorobots qui assurent l'immortalité et l'efficience pour chaque individus de la planète ça n'est pas réalisable avant un siècle voir même jamais.....et ce ne sera pas le paradis parce que les lois de la physique semble bien trop limitées.

[mh34]

L'immortalité...
Non mais faut arrêter de rêver, là! Ou plutôt de cauchemarder...On en ferait quoi de l'immortalité?
Sincèrement, je serais plutôt d'accord avec Loindici, vous devriez arrêter de fumer la moquette.
Jiav, croissance infinie quelle qu'en soit la nature? Tu rêves...

[invite6f9dc52a]

Bonjour.
Même si ce principe est vrai, rien ne dit qu'il va le rester. Ensuite, si la vitesse de l'ordinateur double, rien ne dit (non plus) que le progrès (IA, immortalité ou ce que vous voulez avance d'autant : il faudra peut être que la vitesse des ordinateurs soit multipliée par (mettez ici le chiffre non infini le plus grand possible) pour avoir une avancée minime (mettez le plus petit chiffre non nul) objective dans le domaine considéré.
Et comme on ne maitrise pas ces paramètres, on peut opposer ici un raisonnement basé sur un paradoxe de Zénon (dichotomie).

[invite6c250b59]

il faudra peut être que la vitesse des ordinateurs soit multipliée par (mettez ici le chiffre non infini le plus grand possible) pour avoir une avancée minime (mettez le plus petit chiffre non nul) objective dans le domaine considéré.

Tout-à-fait, mais les tenants de la singularité répondent habituellement qu'à un certain moment, la vitesse de progression des ordinateurs est telle qu'en un temps court tout progrès possible dans n'importe quel domaine est nécessairement réalisé, même si le ratio entre le progrès des ordinateurs et le progrès de tel ou tel domaine est très grand.

Bien sur, c'est négliger que tous les progrès imaginables ne sont pas nécessairement physiquement possibles, et que la distribution des fruits du progrès est aussi une question politique (là je me ferais répondre que les progrès en sciences humaines doivent suivre, mais je ne suis pas complètement convaincu par cette réponse).

[invite8915d466]

Tout-à-fait, mais les tenants de la singularité répondent habituellement qu'à un certain moment, la vitesse de progression des ordinateurs

c'est quoi la vitesse de progression d'un ordinateur ?

par ailleurs je n'ai nulle part dit que les limites d'une exponentielle était forcément énergétiques, ni que les contraintes énergétiques empêchaient d'avoir des systèmes conscients et autoreproducteurs (la preuve, nous ...). j'ai dit qu'il n'y avait aucun système connu pour lesquelles l'extrapolation "au-delà de toute limite" était licite - donc ce n'est en aucun cas une induction tirée d'expériences précédentes. Tous les phénomènes dissipatifs connus ont eu des croissances limitées saturant à un moment où à un autre. Par ailleurs je maintiens que certaines capacités nécessaires pour avoir un ordinateur conscient et auto-reproducteur sont pour le moment nulles, et on ne peut pas extrapoler zéro ...

[invite8915d466]

ah oui et j'ai une autre question, reliée à la "vitesse de progression"; il semble que la singularité arrive quand un ordinateur devient "plus intelligent" qu'un humain (et pourrait donc concevoir un ordinateur "encore plus " intelligent). J'en deduis qu'il y a donc une mesure de l'intelligence qui s'applique aux ordinateurs et aux humains, telle qu'on pourrait définir le rapport I(ord)/I(hum) et tester si il est >1 ou < 1. Et qu'il est actuellement < 1 .

Ma question est juste de combien il vaut numériquement actuellement, ce rapport ?

[mtheory]

ah oui et j'ai une autre question, reliée à la "vitesse de progression"; il semble que la singularité arrive quand un ordinateur devient "plus intelligent" qu'un humain (et pourrait donc concevoir un ordinateur "encore plus " intelligent). J'en deduis qu'il y a donc une mesure de l'intelligence qui s'applique aux ordinateurs et aux humains, telle qu'on pourrait définir le rapport I(ord)/I(hum) et tester si il est >1 ou < 1. Et qu'il est actuellement < 1 .

Ma question est juste de combien il vaut numériquement actuellement, ce rapport ?

On ne sait effectivement pas, c'est bien pour ça que je crois que les estimations pour dire, ça va arriver à telle date sont difficilement crédible....

[inviteccac9361]

Pour moi, la seule manière de comprendre l'Univers c'est de le prendre d'un bloc et l'évolution biologique n'est qu'un phénomène que l'on doit replacer dans le contexte plus générale de l'évolution de la matière et des structures dans l'Univers et là tout intervient et doit faire un bloc complétement cohérent et homogène.

Tout à fait, c'est mon point de vue aussi.
Et d'ailleurs, ce n'est pas un hasard si les étudiants en biologie sont également formés à la physique, à la chimie ou aux mathématiques.
La chimie pourrait probablement se réduire à la physique si nous connaissions des règles simples.

Les molécules, assemblage d'atomes, ne correspondent finalement qu'à un aspect anecdotique, fragile, et transitoire de l'organisation de la matière.

Concernant la compexité, qui est censée augmenter, gràce à la technologie. Cette affirmation me semble contradictoire.

Je pense qu'il y a confusion entre deux concepts.
L'organisation.
La complexité.

L'organisation correspond justement à une réduction de la complexité.
Un systeme chaotique est bien plus complexe qu'un systeme organisé.

Or la technologie permet l'organisation macroscopique, bien que de nos jours notre incapacité à gerer les systemes nouveaux et "complexes" nous induit à croire l'inverse, en première approche.

Un exemple graphique qui montre de surcroit que ce n'est pas la simplicité des règles seules qui détermine la complexité, mais également le nombre d'elements, le degres d'interaction, et la durée.

En construisant des règles de transitions à partir de ce paramètre, Langton a pu proposer une classification des automates cellulaires. Pour une valeur faible, les cellules disparaissent rapidement. Si on élève la valeur grossièrement au-dessus de 0,2 on constate l'apparition de structures cycliques ou persistantes. Au dessus de 0,3 des comportements complexes et imprévisibles apparaissent. Enfin, au dessus de 0,5 la multiplication de structures induit un comportement chaotique. D'une certaine manière, le paramètre indique la température de l'univers de l'automate cellulaire 15.

http://www.rennard.org/alife/french/actxt/ac-52.html

Complexe signifie imprévisible.
La technologie est-elle destinée à rendre notre environnement imprédictible ?
Il me semble que c'est l'inverse.

A la fin du XIXe siècle, les travaux de Poincaré jettent une ombre sur les certitudes acquises. Ce génie des mathématiques découvre que certains systèmes dynamiques ont des comportements si complexes, qu'il est très difficile - voire impossible - de les prédire. Les découvertes récentes en physique ont pleinement confirmé ces observations, en approfondissant le fait que même des systèmes relativement simples, décrits par des équations mathématiques bien définies, pouvaient être imprédictibles.

http://www.unifr.ch/spc/UF/96juin/zhang.html

[mtheory]

Un systeme chaotique est bien plus complexe qu'un systeme organisé.

Cette affirmation est clairement fausse.

[invitef4d52012]

Un systeme chaotique est bien plus complexe qu'un systeme organisé.

Cette affirmation est clairement fausse.

Et si elle était plutôt invérifiable que fausse ? La complexité dépend de la compréhension. Or comme disait mon grand-père :"Tant que t'as pas compris, tu comprends rien."
Enfin moi je dis ça, je dis rien...

[invite4b0d1657]

Bien sur, c'est négliger que tous les progrès imaginables ne sont pas nécessairement physiquement possibles, et que la distribution des fruits du progrès est aussi une question politique (là je me ferais répondre que les progrès en sciences humaines doivent suivre, mais je ne suis pas complètement convaincu par cette réponse).

Correction, en science inhumaine, on parle d'ordinateurs!

[mtheory]

L'immortalité...
Non mais faut arrêter de rêver, là! Ou plutôt de cauchemarder...On en ferait quoi de l'immortalité?

Oh ça j'ai aucun doute qu'il aurait des tas de choses à faire avec et quand bien même ça ne durerait que 20.000 avec des capacité intellectuelles et émotionnelle équivalent à la synthèse de quelques dizaines des meilleur esprits de l'histoire de l'humanité et des moyens technologiques et énergétique bien au-delà de la porté de l'humain moyen actuel, je suis sûr que j'aurai de quoi faire des choses très très intéressantes à l'échelle du système solaire. Même si la singularité ça se limite à ça, c'est déjà infiniment préférable à la condition humaine actuelle.

[mtheory]

corrections en tout genre

Oh ça j'ai aucun doute qu'il y aurait des tas de choses à faire avec et quand bien même ça ne durerait que 20.000 ans avec des capacités intellectuelles et émotionnelles équivalent à la synthèse de quelques dizaines des meilleurs esprits de l'histoire de l'humanité et des moyens technologiques et énergétiques bien au-delà de la portée de l'humain moyen actuel, je suis sûr que j'aurai de quoi faire des choses très très intéressantes à l'échelle du Système solaire. Même si la singularité ça se limite à cette vie là, c'est déjà infiniment préférable à la condition humaine actuelle.

[invite14397db8]

Personnellement j'attends toujours une preuve que l'évolution va en se complexifiant et que c'est une "loi". N'en ayant toujours pas, je considère ce genre de point de vue comme du délire d'incultes en la matière. Pour info, comparer les squelettes des premiers poissons avec ceux d'un homme moderne et venez encore me dire que la complexité augmente

D'ailleurs, oser écrire un truc comme "renvoyant l'homo sapiens au rang occupé par des poissons par rapport à lui" est assez révélateur du niveau d'inculture dans le domaine de la biologie de leurs auteurs. Je ne vois pas comment on peut lancer un "débat scientifique" en commençant par ce genre de phrases.

En fait il y a une confusion d'entrée entre évolution biologique et évolution technologique. Ou alors il faut considérer que l'évolution technologique peut faire partie de l'évolution biologique, ce qui ne me choque absolument pas, mais alors on retombe sur le problème de cette fameuse tendance à augmenter la complexité dont on n'a pas tant de preuves que ça (même si ça existe).

PS: je sais mtheory que tu ne fais que relater, ne prends donc pas pour toi mon commentaire