La Singularité technologique : Utopie ou réalité de demain ?

[invite14397db8]

Il y a quand même des phénomènes en biologie, mettons la compétition, que je vois mal exprimé en terme de chimie, ou de physique

Après tout, pourquoi serait-ce si choquant d'avoir besoin de concepts différents de ceux de la physique-chimie pour expliquer le vivant? L'important c'est d'arriver à comprendre des trucs non? Du moment que ça fonctionne...
Je suis peut-être désespérément pragmatique après tout

[invite8915d466]

Ma phrase incluait "avec un taux de croissance démographique non nul". Si le taux de natalité est arbitrairement bas, une catastrophe n'est nullement inévitable même avec une immortalité biologique "à la papa".


Si tu veux. Maintenant, quand les singularistes parlent d'immortalité, en général ils pensent plutôt uploading. C'est bizarre que tu critiques le type d'immortalité que tu as en tête plutôt que le type 'immortalité qu'on en tête ceux que tu critiques. Non?

voui et puis avant, ceux qui parlaient d'immortalité parlaient plutot pierre philosophale, et en parlaient tout aussi "sérieusement". O tempora, o mores ...

[invite6f9dc52a]

Bonjouratous encebôdimanche ....

Oui mais il y a un peu plus de biscuits actuellement (même s'il n'y en a pas encore assez).

... on pourrait définir le rapport I(ord)/I(hum) et tester si il est >1 ou < 1. Et qu'il est actuellement < 1 .

Ma question est juste de combien il vaut numériquement actuellement, ce rapport ?

Je dirais qu'on en aura "assez" quand on saura calculer ce rapport, non ?

[invite4b0d1657]

L'immortalité...
Non mais faut arrêter de rêver, là! Ou plutôt de cauchemarder...On en ferait quoi de l'immortalité?
Sincèrement, je serais plutôt d'accord avec Loindici, vous devriez arrêter de fumer la moquette.
Jiav, croissance infinie quelle qu'en soit la nature? Tu rêves...

Tu préfère la mort?

[A voir en vidéo sur Futura]

[mh34]

Tu préfère la mort?

La question ne se pose pas en ces termes ; l'immortalité n'existe pas, tout simplement. Nulle part.

[invite986312212]

avec tout ça personne n'a essayé de répondre à cette simple question: qu'est-ce qui pousserait les ordinateurs à se reproduire?

[invite4b0d1657]

avec tout ça personne n'a essayé de répondre à cette simple question: qu'est-ce qui pousserait les ordinateurs à se reproduire?

On implémentera un ordre de s'améliorer sans autre précision, c'est eux qui choisont la voie en créant d'autres ordinateurs ou en se modifiant.

Faudra juste faire attention qu'ils nous mettent pas au rebus pour imperfections multiples.

[invite986312212]

On implémentera un ordre de s'améliorer sans autre précision

s'améliorer à quel point de vue?

[invite4b0d1657]

s'améliorer à quel point de vue?

Pour la résolution de problèmes complexes, la créativité, la vitesse de calculs, la vitesse de recherche d'infomations.

[invite6c250b59]

les lois de la physique semble bien trop limitées.

Pour quelle applications les lois de la physique te semblent bien trop limitées?

[invite8915d466]

Une réf intéressante: Chalmer


En fait ça cela existe déjà: le progrès économique suit effectivement une exponentielle qui est évidente depuis plusieurs siècles.

comme je l'explique sur mon blog (que tu as peut être déjà lu),une croissance exponentielle qui dissipe de l'énergie n'est jamais extrapolable à l'infini (en tout cas je ne connais aucun phénomène physique qui le soit, si tu en connais un , je suis curieux de le savoir). De façon générique, une exponentielle dure un certain nombre de temps de doublements, raisonnablement inférieur à quelques dizaines, et s'arrête ensuite pour laisser place à autre chose. Le progrès économique (je ne sais pas trop ce que c'est d'ailleurs , tu parles de la croissance du PIB?) ne fait pas exception à cette règle, vu qu'elle n'a connu que 6 temps de doublements environ et n'a pas encore tout à fait atteint les limites de production de fossiles. Il n'y a aucune preuve, ni aucun signe, qu'elle puisse continuer après ces limites.

Tout ce dont tu t'émerveilles sur la civilisation, c'est juste qu'elle a durée quelques temps de doublements de plus que les autres, donc a atteint un facteur 100 de développement et non 2 ou 3 - mais en réalité ça s'est déjà passé une fois, dans la transition paléolithique au néolithique (agriculture), mais ça n'a nullement entrainé une augmentation infinie du niveau de vie, juste un nouveau plafond plus élevé.


L'extrapolation d'une exponentielle à l'infini est donc une idée absolument bizarre qui n'a jamais été réalisée nulle part, premier point.


Deuxième point, la singularité technologique extrapole des propriétés qui n'existent simplement pas du tout, c'est à dire elle extrapole zéro.

Les ordinateurs ont ZERO capacité de survie et de reproduction dans la nature - tu fiches n'importe quel robot dans la nature, au mieux il tourne en rond avec ses panneaux solaires, à condition d'etre sur mars et que rien ne vienne l'embeter. Le moindre pépin, attaque de prédateur, ou le vieillissement de ces circuits le conduit à mourir sans rémission. Point final.

Les ordinateurs ont ZERO capacité de comprendre quoi que ce soit du sens de ce qu'on leur dit - ils ne peuvent même pas répondre à une simple phrase du genre "tu peux me reformuler différemennt la question que je viens de te poser ?", "quel est le deuxième mot de cette phrase ?" , ou tout ce qui demande de comprendre le sens.

Les ordinateurs ont JUSTE la capacité de faire des calculs dont certains peuvent leur servir à nous imiter. A mon avis, la seule extrapolation qu'on peut faire, c'est qu'ils vont nous imiter de mieux en mieux pendant un certain temps, jusqu'à ce qu'on n'en voit plus l'interêt ...

[invitef4d52012]

Les ordinateurs ont JUSTE la capacité de faire des calculs dont certains peuvent leur servir à nous imiter. A mon avis, la seule extrapolation qu'on peut faire, c'est qu'ils vont nous imiter de mieux en mieux pendant un certain temps, jusqu'à ce qu'on n'en voit plus l'interêt ...

Ou qu'eux ne voit plus le notre.

Les ordinateurs peuvent se reproduire ensuite si on leur donne corps et qu'ils sont en mesure ensuite de créer eux-mêmes d'autre machines ou ordinateurs (sinon j'ai pas compris le sens de ce fil). Mais dans "se reproduire", il y a l'idée de volonté, de réflexion, et ça aucune machine n'a montré cette capacité.

Et s'ils peuvent nous imiter de mieux en mieux, ce n'est pas justement une certaine définition de la vie ? Divisions cellulaires = imitation, puis l'évolution, la compétition, = "de mieux en mieux" ? D'ailleurs l'imitation ultime, je crois qu'on commence à en parler, ce sont des ordinateurs non plus basés sur le silicium mais sur des matières organiques (désolé je traduis avec mes mots, apparemment il s'agit de puces avec des neurones - voir S&V du mois d'aout).

Après, je suis assez d'accord. Ce n'est pas la capacité de calcul qui va provoquer le déclic d'une IA (l'el dorado de ces pseudos-utopistes apparemment). On peut multiplier à l'infini du vide, une erreur, une voie sans issu, une idée qui marche pas, c'est pas ça qui va déclencher une réelle intelligence aux ordinateurs. Ce qu'il manque sans doute à une IA pour imiter l'intelligence humaine, c'est la nécessité pour elle de se développer. Or un ordinateur pour l'instant ne fait que ce qu'on lui demande et reste à l'état d'outil. Le propre de l'intelligence humaine, c'est pas sa capacité de calculs, sinon il faudrait m'en convaincre... Donc des ordinateurs capables physiquement de construire des machines, ok, mais derrière ces machines seront toujours conçues par des être humains. Sinon il faudrait m'expliquer en quoi la conception est du domaine du calcul. C'est une question de système pas de capacité. C'est pas celui qui a la plus grosse... Je suis assez sceptique concernant le rasoir d'Ockham, mais là je vais faire comme si... Ce qui marche (même si j'ai compris c'est pas ça le principe) ce n'est pas le plus compliqué, mais le plus simple. La meilleure perfection, c'est encore le système qui marche simplement, au lieu d'un système qui calcule des milliers de données... à vide. Si les ordinateurs étaient capables de concevoir d'autre machines intelligentes, elles l'auraient fait de suite. C'est pas en rajoutant quarante zéros en capacité de calcul que ça changera quoi que ce soit. Les cellules ne calculent pas. Elles font. C'est le comment et le pourquoi de ce "elles font" qui reste un mystère pour nous, donc pour les machines. L'IA, c'est de la pure fiction. Pour l'instant, les machines ne sont que de gros super calculateurs. Comme si les machines allaient passer du niveau zéro en terme d'intelligence au niveau de génies capable de créer, inventer, imaginer, théoriser, concevoir... Qu'on commence déjà par créer une petite IA capable de marcher. On court pas avant de savoir marcher. Et les ordinateurs ça rame. On peut toujours rêver de les voir avancer...

Pour ce qui est de la croissance exponentielle en économie, je crains que même si tout a une limite, qu'on soit encore loin de cette limite... Tant qu'il y a de la place sur la planète, tant que la population peut croitre, tant qu'on substitue les surfaces agricoles par des aliments de laboratoire, tant qu'on substitue à l'énergie fossile... un autre type d'énergie, la croissance en terme de volume de production (BIP mondial) on peut y croire. Malheureusement j'ai envie de dire. Parce que leur surhomme, s'ils veulent le vendre, il faudrait qu'ils arrivent à nous vendre avec l'idée que manger des pilules, c'est bien, ou que modeler tout l'environnement de notre planète selon nos convenances et les règles de la productivité (adieux petits oiseaux), c'est formidable ou souhaitable (dans quel but ? l'évolution, c'est pas forcément le toujours plus). Après, ils ont peut-être raison... l'évolution, c'est aussi l'évolution des mentalités.

[yoda1234]

Pour ce qui est de la croissance exponentielle en économie,

Merci de rester dans le sujet et d'éviter de glisser vers l'économie.

[mtheory]

Pour ce qui est de la croissance exponentielle en économie, je crains que même si tout a une limite, qu'on soit encore loin de cette limite... Tant qu'il y a de la place sur la planète, tant que la population peut croitre, tant qu'on substitue les surfaces agricoles par des aliments de laboratoire, tant qu'on substitue à l'énergie fossile... un autre type d'énergie, la croissance en terme de volume de production (BIP mondial) on peut y croire. Malheureusement j'ai envie de dire. Parce que leur surhomme, s'ils veulent le vendre, il faudrait qu'ils arrivent à nous vendre avec l'idée que manger des pilules, c'est bien, ou que modeler tout l'environnement de notre planète selon nos convenances et les règles de la productivité (adieux petits oiseaux), c'est formidable ou souhaitable (dans quel but ? l'évolution, c'est pas forcément le toujours plus). Après, ils ont peut-être raison... l'évolution, c'est aussi l'évolution des mentalités.

La singularité n'a rien à voir avec ça.

[invitef4d52012]

Pour moi ça a voir justement si on cherche à établir les limites de la singularité. Ce n'est pas moi qui ait commencé à parler d'économie. Cela a été pris en référence, je ne faisais que répondre. Et il me semble intéressant de parler du modèle de l'expansion économique et de ses limites pour parler des limites ou du leurre que représente ce concept de singularité. Parler de singularité sans économie (qui est aussi une science, sinon il faut me le prouver) c'est refuser de voir un problème dans son ensemble et sa complexité. Quand je parle de surhomme, de pillules ou de nouvelles énergie, ou de limites, c'est pas plus éloigné de la singularité que de parler de délires d'adolescent dans un post de présentation.

[mtheory]

Pour moi ça a voir justement si on cherche à établir les limites de la singularité. Ce n'est pas moi qui ait commencé à parler d'économie. Cela a été pris en référence, je ne faisais que répondre. Et il me semble intéressant de parler du modèle de l'expansion économique et de ses limites pour parler des limites ou du leurre que représente ce concept de singularité. Parler de singularité sans économie (qui est aussi une science, sinon il faut me le prouver) c'est refuser de voir un problème dans son ensemble et sa complexité. Quand je parle de surhomme, de pillules ou de nouvelles énergie, ou de limites, c'est pas plus éloigné de la singularité que de parler de délires d'adolescent dans un post de présentation.

L'exemple de l'économie n'a été donné que pour dire qu'il y a déjà des lois de croissance exponentielle en ce qui concerne l'évolution de l'humanité et que dans ce contexte, les lois de croissance exponentielle pour la technologie que l'on constate aussi deviennent encore plus crédibles. Non pas qu'elles puissent être extrapolées à l'infini mais que l'hypothèse que l'on peut les tenir comme valides encore qq dizaines d'années est rationnelle et plausible.

Et non, les problèmes de croissance économique n'ont strictement rien a voir avec la singularité qui elle même n'a rien à voir avec un capitalisme consumériste et inconscient et des questions de dopages avec des pilules.

Le problème de la singularité repose exclusivement sur les accomplissement possibles de la nanotechnologie, la bioinformatique, les neurosciences, l'information quantique et la nature du fonctionnement d'un cerveau conscient et jusqu'où une intelligence au-delà de celle de l'homo sapiens peut grimper.

[invite3ea6c9f5]

Le problème de la singularité repose exclusivement sur les accomplissement possibles de la nanotechnologie, la bioinformatique, les neurosciences, l'information quantique et la nature du fonctionnement d'un cerveau conscient et jusqu'où une intelligence au-delà de celle de l'homo sapiens peut grimper.

Le problème de la singularité c'est donc l'évolution de l'homme, en gros la singularité c'est se qui permettrait de "simuler" l'accélération de l'évolution humaine, au lieu d'attendre X centaines, milliers d'années l'ordinateur le ferait comme une simple opération ça irait plus vite y'a du bon.
L'homo sapiens et limité ou qu'il y'a perpétuelle évolution (ne me dite pas que je suis limité pas encore )?

[invitef4d52012]

Rien à voir ? Pourtant certains veulent bien voir un lien entre la singularité et le capitalisme cognitif. Et oui, l'économie est une science, et le champ d'application de la singularité ne peut pas rester cantonnée aux seules nouvelles technologie. L'intelligence, on ne sait pas ce que c'est, l'économie oui. Essaye donc de définir l'intelligence avec un langage scientifique. Impossible. Preuve que pour parler de singularité technologique pour le seul homo sapiens, ça reste de la SF, alors que parler de singularité pour l'intelligence économique, ça en a un.

[yoda1234]

Et oui, l'économie est une science.

Oui, mais nous avons choisi de de ne pas aborder le sujet, donc merci de rester dans le sujet de ce fil.
Tout message abordant l'économie sera effacé sans préavis.

[mtheory]

le champ d'application de la singularité ne peut pas rester cantonnée aux seules nouvelles technologie. L'intelligence, on ne sait pas ce que c'est, l'économie oui..

Premièrement on s'en fout complétement des champs d'applications de la singularité dans ce fil parce que le sujet de la discussion c'est la singularité, c'est possible ou pas technologiquement et scientifiquement ?

Deuxièmement, en imaginant que la singularité est atteinte, par se définition même on a une transhumanité dont les buts et les besoins n'ont plus rien à voir avec l'économie humaine, donc de facto, des réflexions sur l'économie sont complétement, radicalement hors sujet et non pertinentes !

[invite3ea6c9f5]

mthéory et l'homme dans tout ça, puis quand bien même un ordinateur atteindrait un seuil "d'intelligence" il se poserait des questions "existentielles " non ?

[mtheory]

mthéory et l'homme dans tout ça, puis quand bien même un ordinateur atteindrait un seuil "d'intelligence" il se poserait des questions "existentielles " non ?

Absolument, il y a inévitablement des questions éthiques et métaphysiques qui surgissent inévitablement avec la singularité. Mais là on sortirait du thème du fil, qui est en fait de discuter les aspects scientifiquement plausibles...ou pas, de la singularité.

[invite3ea6c9f5]

Pour l'immortalité j'oubliais, moi ça ne me dérangerais pas vu que je suis sûr à 99% que les questions "fondamentales" de l'humanité ne seront pas résolus avant ma mort même si j'ai encore plus d'un demi siècle devant moi je ne pense pas que ce sera suffisant.

Même si la singularité ça se limite à ça

à quoi

[invite3ea6c9f5]

Singularité c'est quoi alors ordinateurs cognitifs (pour parler actualité Futura) ou ordinateurs quantiques ?

[mtheory]

Singularité c'est quoi alors ordinateurs cognitifs (pour parler actualité Futura) ou ordinateurs quantiques ?

Ben, le problème est justement là, on ne sait pas

[xxxxxxxx]

Singularité c'est quoi alors ordinateurs cognitifs (pour parler actualité Futura) ou ordinateurs quantiques ?

bonjour

je vais essayer de formuler quelque chose de pas trop bête :

un ordinateur quantique serait un ordinateur capable de se placer en tant qu'observateur pour faire des choix libres (entre mort et vivant ?) sur l'univers qu'il observe

cordialement

[invite6c250b59]

Singularité c'est quoi alors ordinateurs cognitifs (pour parler actualité Futura) ou ordinateurs quantiques ?

Ordinateur cognitif: une expression publicitaire pour une architecture parallèle.
Ordinateur quantique: ordinateur exploitant les propriétés d'intrication quantiques d'une manière qui pourraient éventuellement accélérer certains types de calcul (ce n'est pas prouvé cela dit).

[mtheory]

Il n'y a aucune preuve, ni aucun signe, qu'elle puisse continuer après ces limites.

Tout ce dont tu t'émerveilles sur la civilisation, c'est juste qu'elle a durée quelques temps de doublements de plus que les autres, donc a atteint un facteur 100 de développement et non 2 ou 3 - mais en réalité ça s'est déjà passé une fois, dans la transition paléolithique au néolithique (agriculture), mais ça n'a nullement entrainé une augmentation infinie du niveau de vie, juste un nouveau plafond plus élevé.


L'extrapolation d'une exponentielle à l'infini est donc une idée absolument bizarre qui n'a jamais été réalisée nulle part, premier point.


Deuxième point, la singularité technologique extrapole des propriétés qui n'existent simplement pas du tout, c'est à dire elle extrapole zéro.

Les ordinateurs ont ZERO capacité de survie et de reproduction dans la nature - tu fiches n'importe quel robot dans la nature, au mieux il tourne en rond avec ses panneaux solaires, à condition d'etre sur mars et que rien ne vienne l'embeter. Le moindre pépin, attaque de prédateur, ou le vieillissement de ces circuits le conduit à mourir sans rémission. Point final.

Je vais me faire l'avocat du diable. Je ne vois pas en quoi ces remarques vont troubler en quoi que ce soit un singularitarien.

La singularité ne se produit pas à l'infini et ne nécessite pas pour se produire une économie avec des sources d'énergies et de matières infinies. On n'a pas besoin non plus d'avoir une loi de croissance exponentielle qui marche infiniment longtemps. Et les limites des ordinateurs actuelles ne sont absolument pas le problème.

Ce que des singularitarien disent c'est que l'on constate effectivement des lois de croissances exponentielles. Si on postule que ces lois vont encore être valables sur un certain intervalle de complexité alors dans quelques dizaines d'années la technologie devient suffisamment complexe d'une façon ou d'un autre pour pouvoir émuler une intelligence artificielle, même si celle-ci repose sur une nouvelle génération d'ordinateurs, disons quantiques et faisant du non calculable. Certains évidemment soutiennent qu'un ordinateur classique, passé un certain point de complexité peut se comporter comme le cerveau humain, mais même si c'est faux et que Penrose a raison, à partir du moment où la nature nous montre qu'elle peut faire un système physique conscient, on peut penser qu'on peut faire pareil en utilisant les même processus physique. C'est explicitement ce que Eliezer Yudkowsky dit :

" L’hypothèse clé du Transfert de Moravec est que nous pouvons simuler parfaitement un neurone unique. Penrose et Hameroff rejettent cette hypothèse. (En 1999, un neurone de homard a été remplacé avec succès avec 7,5 dollars de matériel acheté chez Radio Shack ; c’est un indice mineur, mais c’est loin d’être conclusif.) La discussion qui suit suppose, soit (A) que les lois de la physique sont computationnelles, soit (B) que nous pouvons construire un « surneurone » qui va au-delà d’une machine de Turing et qui fait la même chose que ce que fait un neurone. (Penrose et Hameroff n’ont pas d’objection à cette dernière proposition. Si un neurone peut tirer profit de la physique profonde pour réaliser des opérations non calculables, nous pouvons faire la même chose technologiquement.) "

Autre chose, si les futures intelligences supérieures sont des robots, elles n'ont aucun problème d'énergie pour vivre des milliards d'années sans se multiplier. Même 10 milliards de systèmes intelligents consommant autant d'énergie qu'une ville chacun n'ont aucun problème pour passer d'étoile en étoile et de galaxie en galaxie, il suffit qu'ils se mettent en "mode veille" les quelques milliers d'années que nécessite le passage d'une étoile à une autre ou les quelques dizaines de millions d'années pour passer d'une galaxie à un autre et un bon moteur ionique doit bien leur permettre d'atteindre un dixième de la vitesse de la lumière.

[invite231234]

Salut à tous !

Autre chose, si les futures intelligences supérieures sont des robots, elles n'ont aucun problème d'énergie pour vivre des milliards d'années sans se multiplier. Même 10 milliards de systèmes intelligents consommant autant d'énergie qu'une ville chacun n'ont aucun problème pour passer d'étoile en étoile et de galaxie en galaxie, il suffit qu'ils se mettent en "mode veille" les quelques milliers d'années que nécessite le passage d'une étoile à une autre ou les quelques dizaines de millions d'années pour passer d'une galaxie à un autre et un bon moteur ionique doit bien leur permettre d'atteindre un dixième de la vitesse de la lumière.

Petite question : si la singularité est dans la continuité de l'évolution d'une civilisation technologique, alors ... comment ce fait-il qu'on ne soit pas envahi par des hordes de robots extraterrestres immortels ?

Sinon, il me semble et c'est juste une remarque, que la singularité est comme l'échelle de Kardashev à part qu'on ne se base plus sur l'énergie mais sur la complexification !

@ +

[mtheory]

Salut à tous !



Petite question : si la singularité est dans la continuité de l'évolution d'une civilisation technologique, alors ... comment ce fait-il qu'on ne soit pas envahi par des hordes de robots extraterrestres immortels ?

Peut-être justement parce qu'ils n'ont pas besoin d'être des hordes pour vivre et se développer et qu'ils trouvent autant d'intérêts à nous parler que nous en trouvons à parler à des bactéries.