La Singularité technologique : Utopie ou réalité de demain ?

[xxxxxxxx]

Et la possibilité d'un trait d'humour par semaine aussi.

bonjour

pour sûr.. je trouve qu'il y a dans ce fil plein de sources d'inspiration pour un humoriste qui voudrait s'amuser des dérives des scientifiques

cordialement
-----

[invite231234]

Si c'est le cas, c'est peut-être IA- qui préférera devenir IA+, si tu vois ce que je veux dire

Oui, mais je me demande à quel niveau on atteint l'autonomie ... ?
Car un être humain nait dépendant, et même adulte, il n'a qu'un certain degré d'autonomie car vivant en société ... on peut même dire qu'on est en "symbiose" avec les autres êtres humains et l'environnement !

@ +

[mh34]

PS: c'est une modification technologique de nos corps donc du transhumanisme. Si je me souviens bien, elle est interdite en France. En revanche il y a une alternative légale. Il faut croire que cette dernière est plus naturelle ou moins invasive.

Jiav, tu te fiches de moi, là!
Tu viens me dire sans ciller que tu vas arriver à convaincre les hommes ( et leurs partenaires! Elles sont souvent les plus réticentes! ) sur une grande échelle de pratiquer une vasectomie?
Elle est bien bonne!
Essaie un peu d'en parler autour de toi, pour voir les réactions.
Et je te signale que ton ordre d'"interdiction" n'est pas le bon ; vasectomie et ligature des trompes sont a égalité devant la loi, qui n'intervient plus sur le sujet et laisse faire depuis des années.
Et ça ne répond pas à ma deuxième question, d'ailleurs.

Et tu imagines qu'on va s'y prendre comment pour fixer ce taux de natalité, et choisir qui va avoir le droit ( ou le devoir, mais j'imagine que plus ce sera "encadré" plus l'être humain prendra ça comme un droit et pas comme un devoir), de se se reproduire?

[inviteccac9361]

on peut même dire qu'on est en "symbiose" avec les autres êtres humains et l'environnement !

Ca c'est encore de l'utopie.
De base, l'être humain s'occupe prioritairement de son groupe, les autres, environnement compris, c'est secondaire.
Les exemple ne sont pas trop difficile à trouver je pense.

Il n'y a que ceux qui ont de l'esprit qui élargissent le groupe à l'humanité, voir au vivant.
L'esprit humaniste n'est pas inné mais acquis et se transmet par la parole ou l'écrit.
Un enfant se montre plutot indélicat avec les petits animaux.

C'est ce que l'on appele l'humanisme, entre autre.

Par extension, on désigne par « humanisme » toute pensée qui met au premier plan de ses préoccupations le développement des qualités essentielles de l'être humain. Une vaste catégorie de philosophies portant sur l'éthique affirme la dignité et la valeur de tous les individus, fondée sur la capacité de déterminer le bien et le mal par le recours à des qualités humaines universelles, en particulier la rationalité[1],[2]. L'humanisme implique un engagement à la recherche de la vérité et de la moralité par l'intermédiaire des moyens humains, en particulier les sciences, en solidarité avec l'humanité. En mettant l'accent sur la capacité d'auto-détermination, l'humanisme rejette la validité des justifications transcendantes, comme une dépendance à l'égard de la croyance sans raison, du surnaturel, ou de textes présentés comme d'origine divine. Les humanistes supportent une morale universelle fondée sur la communauté de la condition humaine[3]. L'humanisme est intégré comme composante dans une variété de systèmes philosophiques plus spécifiques et dans plusieurs écoles de pensée religieuse.

http://fr.wikipedia.org/wiki/Humanisme

L'être humain a donc, soit développé un fond de quelque-chose (altruisme ?) soit inventé une notion suplémentaire, l'humanisme.

Une IA bien conçue serait peut-être plus humaniste que l'humain.

Maintenant j'ai un gros doute sur la possibilité de sa bonne conception.

Par principe:
Car une conscience doit être libre et pouvoir faire des erreurs pour ne pas toujours faire les mêmes erreurs si jamais elle se trompais.

Un robot ne fait pas d'erreur.
Une IA doit donc être conçu sur le modele humain pour ne pas être un robot.

Or l'humain est faillible.
L'IA serait donc faillible et pourrait, si ses capacités sont superieurs à l'être humain produire beaucoup plus d'erreurs, plus graves.
L'IA serait donc un danger pour l'être humain.

IA : Mais revenez, c'est une toute petite vasectomie, c'est la meilleur solution à votre problème de surpopulation.

[invite6c250b59]

Oui, mais je me demande à quel niveau on atteint l'autonomie ... ?

Question expérimentale, àmha.

Et tu imagines qu'on va s'y prendre comment pour fixer ce taux de natalité

Dsl j'avais perdu ma réponse et oublié de reproduire celle-ci. Pas besoin de coercition ni de programme gouvernemental de vasectomie, il suffit que l'humanité adopte le nombre actuel d'enfant par femme dans les pays riches. Un petit calcul te montrera que le taux de natalité converge vers 0 en quelques générations.

*merci j'ignorais que c'était rendu autorisé. Cela dit la différence de ton entre vasectomie et ligature, sur le wikipedia francophone, m'amuse beaucoup.

[mtheory]

il suffit que l'humanité adopte le nombre actuel d'enfant par femme dans les pays riches. Un petit calcul te montrera que le taux de natalité converge vers 0 en quelques générations.

Oui, mais ça n'est pas le problème soulevé par mh34 car dans ce cas il y a toujours des morts.

Ce qu'elle disait c'est que si on a des homo sapiens, enfin, la version 2.0 disons (le reste c'est moi qui ajoute) avec un corps à la Captain America, tout le monde avec les capacités de Einstein+Léonard de Vinci+Mozart disons aussi et rendus immortels par l'entretien des nanorobots, même si il n'y a que 100 naissances par an à l'échelle de la post humanité, si on part de 10 milliards d'humains améliorés au moment de la singularité, dans 5 milliards d'années on est 510 milliards d'humain sur Terre.

Tout cela, évidemment, si on reste sous des formes biologiques transhumaines mais pas tant que ça au-delà de l'humanité.

[mtheory]

Tout cela, évidemment, si on reste sous des formes biologiques transhumaines mais pas tant que ça au-delà de l'humanité.

Maintenant, on peut très bien imaginer que même des post humain non uploadés soit dans un état de conscience telle qu'ils n'éprouvent plus du tout le besoin d'avoir des enfants. Il y a déjà des humains qui sont comme ça.

[mh34]

Un petit calcul te montrera que le taux de natalité converge vers 0 en quelques générations.

En France on est à la limite du renouvellement des générations, avec un tout petit plus de 2 enfants par femme et dans la plupart des autres pays européens on est au-dessous, c'est vrai. Mais ça ne veut pas dire que ça va rester comme ça , tu tables là sur quelque chose d'éminemment variable et imprévisible. Surtout que tout est fait au contraire, y compris et surtout médicalement et scientifiquement, pour aider à la reproduction, il me semble..
Et en toute logique, avec le discours que tu tiens, tu devrais y être opposé non? Pourtant il me souvient d'une discussion où ça ne semblait pas du tout être le cas...

la différence de ton entre vasectomie et ligature, sur le wikipedia francophone, m'amuse beaucoup.

j'avais pas vu...ben moi ça m'amuse pas tellement!

[inviteccac9361]

dans 5 milliards d'années on est 510 milliards d'humain sur Terre

Petit détail.
Si, Apollon pour les intimes, nous le permet.

1.26 1044 J / 3.9 1026 J s-1 = 3.2 1017s, environ 10¹⁰ ans. Dans cette hypothèse, raisonnable, le soleil sera encore actif pendant à peu près 5 milliards d'années.

http://nte-serveur.univ-lyon1.fr/geo...o_2/Soleil.htm

[mh34]

Maintenant, on peut très bien imaginer que même des post humain non uploadés soit dans un état de conscience telle qu'ils n'éprouvent plus du tout le besoin d'avoir des enfants. Il y a déjà des humains qui sont comme ça.

Si tous les humains deviennent comme ça, c'est qu'on ne sera plus des êtres humains.
Je ne porte pas de jugement là-dessus, soyons clairs. Mais je me refuse à utiliser le mot " être humain" pour ce qui résultera de ces transformations que souhaitent les extropiens ( ou équivalent). Ce sera forcément autre chose.

[invite765732342432]

Ce qu'elle disait c'est que si on a des homo sapiens, enfin, la version 2.0 disons (le reste c'est moi qui ajoute) avec un corps à la Captain America, tout le monde avec les capacités de Einstein+Léonard de Vinci+Mozart disons aussi et rendus immortels par l'entretien des nanorobots, même si il n'y a que 100 naissances par an à l'échelle de la post humanité, si on part de 10 milliards d'humains améliorés au moment de la singularité, dans 5 milliards d'années on est 510 milliards d'humain sur Terre.

D'une part, la Singularité ouvrirait probablement la voie à la colonisation de l'espace. Et cela d'autant plus si elle est associée à une immortalité.
D'autre part, en ayant la garantie de vivre "éternellement", la relation à l'enfant sera forcément très différente.
Enfin, être potentiellement immortel n'exclue pas d'avoir envie de mourir au bout d'un certain temps. "l'éternité c'est long, surtout vers la fin..."

Voilà pour la partie "immortalité". Maintenant, je ne vois pas trop le lien entre Singularité et immortalité. Le bouleversement que causerait la Singularité serait tellement gros que même le concept d'immortalité serait mineur.
A mon sens, la Singularité signifierait l'apparition d'une nouvelle espèce qui supplantera l'Homme (pacifiquement ou pas, c'est sans importance), ou au moins se désolidarisera de l'Humanité.
Le déroulement du temps entre la machine et l'Homme est trop différent pour permettre une association à long terme (enfin, imho), d'autant qu'il ne semble pas raisonnable de penser pouvoir rester "maître" de machines s'améliorant et se dupliquant.

[mtheory]

Si tous les humains deviennent comme ça, c'est qu'on ne sera plus des êtres humains.
Je ne porte pas de jugement là-dessus, soyons clairs. Mais je me refuse à utiliser le mot " être humain" pour ce qui résultera de ces transformations que souhaitent les extropiens ( ou équivalent). Ce sera forcément autre chose.

Oui, absolument.

[mh34]

A mon sens, la Singularité signifierait l'apparition d'une nouvelle espèce qui supplantera l'Homme (pacifiquement ou pas, c'est sans importance), ou au moins se désolidarisera de l'Humanité.

Oui, absolument.

Ah ben c'est merveilleux, on est d'accord!

[invite765732342432]

Ah ben c'est merveilleux, on est d'accord!

Juste une précision, quand je parlais d'une nouvelle espèce, je ne parlais pas des humains, mais des machines...

[invite6f9dc52a]

... si on part de 10 milliards d'humains améliorés au moment de la singularité, dans 5 milliards d'années on est 510 milliards d'humain sur Terre.

Pas grave, on fera un barbecue géant.


J'espère bien que quelques milliards d'Einstein mozartifiés nous auront, bien avant ce moment, emmenés loin.
(Ça me fait penser que ce n'est pas comme ça que Léonard devint scie ?).




Edit : ben j'ai raté plein de messages qui arrivent à la vitesse de la singularité ...

[invite14397db8]

Finalement, on n'est pas très loin de la religion avec la singularité non?

Promesse d'immortalité, de bonheur, de conscience supérieure...

[mtheory]

Finalement, on n'est pas très loin de la religion avec la singularité non?

Promesse d'immortalité, de bonheur, de conscience supérieure...

Je crois que c'est THE big problem avec les mouvements transhumanistes, extropiens etc....non pas ce qu'ils cherchent, mais le fait que ces courants risquent fort de générer du totalitarisme et de la démagogie en promettant des lendemains qui chantent dans un avenir proche alors que tout repose sur du vent.....

[mh34]

Edit : ben j'ai raté plein de messages qui arrivent à la vitesse de la singularité ...

Ben alors tu devrais arriver à rattraper sans peine...

[mtheory]

J'avoue ne rien comprendre à cette assertion.

Je vais répondre.

[invite6754323456711]

Je crois que c'est THE big problem avec les mouvements transhumanistes, extropiens etc....

The other big problem is comment créer artificiellement la conscience en soi quand nous ne savons pas ce que sont nos sens en eux mêmes (couleur, odeur, son, émotion,...).

Cela ne le fera pas pour eux.

Patrick

[mtheory]

J'avoue ne rien comprendre à cette assertion.

Si ma lecture de l'histoire de la biologie/exobiologie des années 1950/1960 est bonne, à cette époque on pensait que l'autorganisation de la matière était une sorte d'épiphénomène de la matière inerte, autorisés, possible mais hautement improbable. Les planètes devaient être rares dans l'Univers et les molécules organiques essentiellement sur des planètes comme la Terre.

Le bilan, renforcé par la biologie moléculaire de l'époque, c'est que la vie et l'homme on juste tiré le bon numéro à la loterie.

A partir de la fin des années 1960 et jusqu'à aujourd'hui, beaucoup de choses ont changé.

Les travaux sur l'auto-organisation, les systèmes dynamiques non-linéaires, la thermodynamique hors équilibre, les progrès de l'astrophysique nucléaire et de la cosmologie, la découverte des molécules organiques partout dans l'espace et la découverte des exoplanètes font que la vision que l'on a de l'évolution de l'Univers du Big Bang à l'océan primitif avec sa chimie prébiotique, du pont de vue de l'apparition de structures complexes, apparait maintenant, non pas comme quelque chose d'improbable et simplement autorisé mais comme exigé et universelle


Cela doit arriver et les lois et les constantes de la physique poussent inexorablement à la croissance de la complexité selon un schéma, certes autorisant beaucoup de variété et de la contingence mais les étapes de cette croissance de la complexité sont prévisibles ou presque et une nécessité.

Donc avant les premières cellules, l'autorganisation et la croissance de la complexité selon des schémas bien précis apparaissent non pas comme des épiphénomènes mais comme la règle, la norme.

Maintenant, on passe à l'évolution biologique et là, la façon dont les biologistes la présente c'est plus du tout là même, c'est encore de la croissance de la complexité autorisé mais improbable. L'évolution, bien que corseté par certaines nécessité, est présentée comme complétement contingente et aléatoire, sans aucune loi impliquant une trajectoire évolutive.

Les biologistes ont de bonnes raisons d'avoir cette vision des choses dans l'état actuel des connaissances. Mais je me demande, à cause du contraste avec la vision que l'on tire de la matière prébiotique, si ces bonnes raisons ne sont pas aussi solides que celles des physiciens du XIX vis à vis de la nature de la lumière, de la matière et de l'espace et du temps.

Bien sûr, le problème peut venir de la physique. Si l'on a un multivers avec le mécanisme de l'inflation chaotique qui peuple et explore aléatoirement des configuration différentes des propriétés de l'espace-temps-matière, l'apparente nécessité de la croissance de la complexité de la matière prébiotique de l'Univers observable est une illusion car elle n'est qu'un tirage au loto.

Je pourrais développer sous plusieurs angles mais, à mon sens, il y a une sorte de schizophrénie dans l'image du monde qui doit prendre fin, mais impossible de dire dans quelle direction pour le moment.

[invite5321ebfe]

(...)
Chaque fois qu'un potentiel d'action parvient à une terminaison présynaptique, le résultat en terme de dépolarisation post-synaptique (peut être interprété comme)/(équivaux à un calcul de)/(est) une multiplication. Nos cerveaux en font donc au minimum 10¹⁶ par seconde.
(...)

Ben oui, mais d'abord, faut pas se gourer quand on programmera la Singularité, parce qu'un cerveau schizophrène ou sociopathe ou autiste, ce doit être dans le même ordre de grandeur (manquerait plus que l'on crée une IA déjantée). Ensuite et conséquemment, la quantité de calcul est probablement secondaire par rapport à son organisation. Un cerveau humain est une combinatoire de réseaux qui servent à une série de fonctions internes et externes apparues dans l'évolution, qui n'ont de sens que dans un corps donné, qui sont adaptées à la survie de ce corps dans un certain milieu naturel-social et qui, pour ses fonctions dites supérieures, demandent un apprentissage assez long dans le milieu social, avec des seuils critiques où la non-stimulation entraîne la non-fonctionnalité (langage par exemple). Donc je ne vois pas que le nombre de calculs simultanés auquel l'évolution a abouti dans un cerveau humain nous donne la moindre information pertinente sur le nombre de calculs simultanés de nature à faire émerger une conscience dans un circuit imprimé.

[mh34]

.

Tu es en train de dire, si je comprends bien, que la physique et la biologie "pensent" le monde de façon très différente? Ben oui...mais pourquoi ne serait-ce pas possible qu'il existe un mode d'organisation ( pardon si ma formulation n'est pas appropriée) à un niveau "macroscopique", et un autre à un niveau "particulaire"? Et que les deux visions puissent co-exister?

[mtheory]

Tu es en train de dire, si je comprends bien, que la physique et la biologie "pensent" le monde de façon très différente? Ben oui...mais pourquoi ne serait-ce pas possible qu'il existe un mode d'organisation ( pardon si ma formulation n'est pas appropriée) à un niveau "macroscopique", et un autre à un niveau "particulaire"? Et que les deux visions puissent co-exister?

Mais je suis d'accord, les système biologiques ont des spécificités mais le problème est que je vois qu'il y a des contradictions entre les visions du monde qui émergent.

D'autres contradictions existaient au XX ième siècle mais elle ont été résolues dans le sens d'une continuité de la physique et de la biologie.

L'Univers et même la Terre étaient vu comme stables quasiment sans changement alors que les montagnes changeaient, les espèces évoluaient. L'expansion de l'Univers, la tectonique des plaques ont montré que la notion d'évolution était en fait universelle et à tous les niveau. La biologie et la géologie étaient en avance sur la physique.

A l'inverse, beaucoup de biologistes voyaient dans la vie qq chose transcendant les lois de la physique ou très épiphénoménale. La biologie moléculaire et la biophysique ont montré que non et qu'il y avait une vraie continuité entre l'inerte et le vivant, sans vitalisme.

J'ai l'impression que l'on est, à un autre niveau, encore fasse à une hétérogénéité de notre description du monde qui n'est pas normale et c'est l'indice que nous ne comprenons pas qq chose.

[invite14397db8]

"L'évolution, bien que corseté par certaines nécessité, est présentée comme complétement contingente et aléatoire, sans aucune loi impliquant une trajectoire évolutive."

Ceci est faux à mon avis, sous réserve de t'avoir correctement compris...
Si l'aléatoire et la contingence jouent effectivement un rôle capital, je dirais que c'est au niveau de la distribution des cartes.

Je ne sais pas si tu connais, par exemple, l'hypothèse de la Reine Rouge? Si bien sûr elle ne force pas à la complexité, elle impose tout de même une certaine trajectoire, du style course aux armements.

Et de manière générale, je dirais que si tu parviens à démontrer que l'acquisition de structure plus complexe apportera un avantage, l'évolution va justement pousser très fort dans ce sens là.

Cela dit, même une structure biologique très simple reste extraordinairement complexe

[mtheory]

J'ai l'impression que l'on est, à un autre niveau, encore fasse à une hétérogénéité de notre description du monde qui n'est pas normale et c'est l'indice que nous ne comprenons pas qq chose.

Histoire de raccrocher tout ça à la singularité quand même.

Cette dernière est d'autant plus probable et possible, c'est à dire autorisé par les lois de la physique, que si la structure fondamentale de l'Univers consiste à maximiser la croissance et l'évolution de la complexité, de la créativité et de la diversité.

[Cendres]

Maintenant, on passe à l'évolution biologique et là, la façon dont les biologistes la présente c'est plus du tout là même, c'est encore de la croissance de la complexité autorisé mais improbable. L'évolution, bien que corseté par certaines nécessité, est présentée comme complétement contingente et aléatoire, sans aucune loi impliquant une trajectoire évolutive.

Euh...non, pas du tout. L'aléatoire joue, notamment dans les mutations et la dérive génétique, mais les pressions de sélections ne sont pas aléatoires. Ca n'est pas une manière de "présenter les choses". Il n'y a pas que de l'aléatoire en Biologie de l'Evolution, ce que les créationnistes n'ont toujours pas capté.

Les "trajectoires" résultent des pressions de sélections (cf. les convergences évolutives, par exemple).

La vision d'une évolution biologique allant forcément vers une complexification a prévalu pendant des décennies, de façon presque dogmatique. Puis des questions concernant ce que l'on appelle "complexité" dans le vivant ont émergé, et avec elles, des constats sur la quantité de lignées restant monocellulaires, et toutes celles où le parasitisme engendre des pertes de fonctions ( au passage, les êtres multicellulaires ne font que reproduire les fonctions d'êtres unicellulaires à partir de tissus spécialisés, donc ayant perdu nombre de fonctions) ont largement remis en cause cette vision des choses.

[invite6754323456711]

Tu es en train de dire, si je comprends bien, que la physique et la biologie "pensent" le monde de façon très différente?

Une analogie surprenante est que cela apparaît de manière naturelle dans le domaine des systèmes d'informations lié au système de communication. Les "lois/règles" qui décrivent les entités dépendantes du support de transmission sont basées (intitulé couches bases dans un discours de vulgarisation) sur des logiques bien différentes des lois qui décrivent les entités indépendantes du support (couches hautes). Toute la puissance et l'efficacité de l'internet repose sur ces différences fondamentales.

Patrick

[mh34]

Toute la puissance et l'efficacité de l'internet repose sur ces différences fondamentales.

Patrick

Merci.
Donc il n'est pas impossible qu'il n'existe pas de continuité entre la façon de voir de la physique et celle de la biologie, alors.
Je ne comprends pas pourquoi ça semble te gêner, Laurent.

[mtheory]

La vision d'une évolution biologique allant forcément vers une complexification a prévalu pendant des décennies, de façon presque dogmatique. Puis des questions concernant ce que l'on appelle "complexité" dans le vivant ont émergé, et avec elles, des constats sur la quantité de lignées restant monocellulaires, et toutes celles où le parasitisme engendre des pertes de fonctions ( au passage, les êtres multicellulaires ne font que reproduire les fonctions d'êtres unicellulaires à partir de tissus spécialisés, donc ayant perdu nombre de fonctions) ont largement remis en cause cette vision des choses.

Oui, je suis d'accord qu'une certaine vision de l'évolution existait qui était trop simple et qui disaient que tout devaient nécessairement ce faire à la façon de la croissance d'un cristal ou d'un voyage organisé haute gamme. Mais j'ai l'impression que le balancier a tourné dans le sens ou l'évolution est présenté maintenant comme un gaz qui se répand dans toute les directions.

Je soupçonne qu'il doit y avoir une vision intermédiaire dans laquelle on a un système chaotique mais avec des attracteurs. Une vision intermédiaire entre le cristal et la fumée pour reprendre une expression de Atlan

Je ne comprends pas les arguments avec les lignés monocellulaires ou le parasitisme