La Singularité technologique : Utopie ou réalité de demain ?

[invitec44b6f04]

Si on comprend mieux les mécanismes actifs, on peut éviter de faire des tests inutiles.

Et comprendre les mécanismes c'est de l'intelligence ? Ce n'est pas aussi de la connaissance ?
Je me fait un peu l'avocat du diable, je crois qu'une augmentation de l'intelligence c'est à dire de la puissance de calcul et de la créativité, augmenterai la vitesse du progrès, et par exemple nous permettrait d'accéder plus vite à un traitement du cancer s'il existe. Mais ce n'est pas évident.

Le progrès n'est pas (en tout cas pas de façon evidente) une fonction linéaire de l'intelligence. Et il se peut tout à fait que le facteur limitant la vitesse du progrès ne soit pas l'intelligence, mais par exemple l'organisation de la recherche. Ou le temps nécessaire aux expérimentation, qui ne peut pas toujours être accéléré par la ruse.

Pour ce qui est des molécules cancérigènes, une petite augmentation de l'intelligence n'apporterait possiblement aucun gain de temps. Et seul une intelligence beaucoup plus grande pourrait apporter un gain.

Tu ne réponds pas sur le constat qui est amont à tout formalisme. Pourquoi croiser les fer sur la formalisation d'un point qui ne fait manifestement pas consensus. J'ai déjà beaucoup donné dans les dialogues de sourd ou on n’acceptait pas qu'il puisse y avoir d'autre présupposés que les siens. C'est pour cela que en amont si on n'est pas d'accord sur les prémisses rien ne sert à débattre dans le vide.

Je ne réponds pas à un constat ? Quel constat ? Je viens bien discuté de présupposé différents des miens, mais il faut au moins qu'on me les expose non ?
C'est justement parce qu'il n'y a pas consensus qu'il y a débat.

J'ai déjà beaucoup donné dans les dialogues de sourd ou on n’acceptait pas qu'il puisse y avoir d'autre présupposés que les siens. C'est pour cela que en amont si on n'est pas d'accord sur les prémisses rien ne sert à débattre dans le vide.

Ces deux phrases se contredisent. Dans la première tu regrettes qu'on admette pas des présupposés différents des siens, dans la seconde tu dis qu'on ne peut pas...
-----

[invite6754323456711]

Nous savons que c'est possible, puisque nous sommes là et qu'on est passé de l'home habilis à sapiens !

Mais nous ne savons pas comment le faire de manière artificielle.

Patrick

[mh34]

Non, basiquement on sait que quand un Newton, un Gauss, un Einstein, ou je ne sais quel super biologiste-médecin de renom se penche sur un problème les progrès scientifiques et technologiques s'accélèrent. Pas difficile d'en déduire que des esprits encore plus intelligents seraient encore plus capables de résoudre des problèmes. Plus directement un singe n'est pas capable de découvrir les antibiotiques, la chirurgie cardiaque, la RMN etc... un homo sapiens oui.

Mais pas d'accord! Comment peux-tu savoir si une forme d'intelligence qui sera différente, obligatoirement, puisque ce ne sera pas nous, sera apte à résoudre des problèmes pareils qui nous sont propres? Enfin quoi! Tu lâches Einstein dans la forêt pluviale amazonienne, il sera moins doué pour sa survie que n'importe quel indien du coin, et moins apte à résoudre les problèmes qui vont se poser à lui dans ces circonstances!

[mtheory]

Mais nous ne savons pas comment le faire de manière artificielle.

Patrick

Pour le moment oui.

[invite6754323456711]

Pour le moment oui.

Mais transférer nos espoir sur autre chose qui sera le faire est une forme de désespoir.

Patrick

[invite51d17075]

Pour le moment oui.

donc SF !!

[invitec44b6f04]

Ok je vais essayer de résumer les positions possibles.
1)Il est possible de produire une intelligence/conscience de soi à partir de l'inerte.
...
Pour moi 1) est évident parce que nous sommes là.

il y a quand même une sacrée ambiguité dans ton terme de "produire", qui suppose une action téléologique .... "produire" et "voir apparaitre", c'est pas tout à fait pareil, tu ne "produis " pas un lever de soleil, et pourtant il est là tous les jours !

Si je voulais produire un lever de soleil j'envisagerai de fabriquer une planète à partir d'astéroïdes par exemple et de la faire tourner. Ou bien comme dans 2010 Odyssée 2 je transformerai Jupiter en étoile et j'amorcerai une rotation de Ganymède.

C'est techniquement hors de portée, mais je ne vois pas de problème théorique à la fabrication de lever de soleil conformément à un plan.
Il me semble que tu confonds l'objet unique être humain au sens de notre espèce, qu'évidemment je ne peux pas créer et la propriété d'intelligence que l'on peut envisager de reproduire.
Ou bien est-ce moi qui n'étais pas clair. J'espère l'être plus.

[mtheory]

Mais pas d'accord! Comment peux-tu savoir si une forme d'intelligence qui sera différente, obligatoirement, puisque ce ne sera pas nous, sera apte à résoudre des problèmes pareils qui nous sont propres? Enfin quoi! Tu lâches Einstein dans la forêt pluviale amazonienne, il sera moins doué pour sa survie que n'importe quel indien du coin, et moins apte à résoudre les problèmes qui vont se poser à lui dans ces circonstances!

Nos ordinateurs sont déjà capables de nous aider à résoudre des problèmes de génétique, biologie moléculaire, conceptions et tests de médicaments avec même des simulations. Nos ordinateurs nous aident à construire et concevoir des avions, des fusées, mêmes à faire des calculs en physique théorique. Je ne vois pas ce qui les empêcheraient de ne pas continuer à le faire, surtout si une simulation d'un esprit humain est faite en eux.

[mtheory]

donc SF !!

Oui, comme le vol de Léonard de Vinci, les voyages dans la Lune en leur temps. Personne ne le nie, mais une SF avec des bases scientifiques fortes.

[mtheory]

Mais transférer nos espoir sur autre chose qui sera le faire est une forme de désespoir.

Patrick

Pourquoi ça ?

[invite51d17075]

Je ne vois pas ce qui les empêcheraient de ne pas continuer à le faire, surtout si une simulation d'un esprit humain est faite en eux.

heuuuuu !!! tu fais comment ?

[invite51d17075]

et ta copine, c'est un robot ????

[invite6754323456711]

Pourquoi ça ?

Parce que c'est basé sur une croyance et non une certitude.

Patrick

[invite8915d466]

C'est techniquement hors de portée, mais je ne vois pas de problème théorique à la fabrication de lever de soleil conformément à un plan.
Il me semble que tu confonds l'objet unique être humain au sens de notre espèce, qu'évidemment je ne peux pas créer et la propriété d'intelligence que l'on peut envisager de reproduire.
Ou bien est-ce moi qui n'étais pas clair. J'espère l'être plus.

et vois tu un problème à produire une supernova de type II avec autre chose qu'une étoile supermassive ayant atteint le stade de la nucléosynthèse du fer dans son coeur , par exemple ?

il y a des phénomènes qui ne sont réalisables qu'avec des conditions physicochimiques extrêmement particulières ET C'EST TOUT.

On semble oublier que les prémisses de tout ça était la thèse "computationaliste" qui postule que le cerveau est une gigantesque machine de Turing dont l'algorithme était émulable par n'importe quelle plateforme matérielle, de façon équivalente (d'où l'idée du "mind-uploading"). Cette thèse n'a pas le début de la moindre confirmation expérimentale, bien sûr, c'est juste un postulat. Si on l'abandonne, tout dégringole, il n'y a aucun théorème d'équivalence de quoi que ce soit pour les structures "non Turing". Personne ne sait si du silicium peut evoluer à la façon des êtres vivants - entre des ilôts magnétiques et des brins d'ADN et de proteines, y a quand même quelques légères différences structurales ....

Hors formalisme de Turing, il n'y a strictement aucun théorème assurant que deux structures matérielles différentes peuvent faire "le même genre de chose" , à quelque niveau qu'on définisse "le même genre".

[invite765732342432]

le principe est que l'évolution s'est faite de manière essentiellement différente dans les deux cas : et donc l'évolution n'a jamais produit un résultat "que quelqu'un attendait"

a) explique-nous en quoi il est impossible de créer une évolution informatique sans résultat "que quelqu'un attendait" (avec des vrais arguments, hein pas un "un point c'est tout" que tu utilises parfois)
b) explique-nous en quoi l'évolution est inapplicable si "quelqu'un la guide" par petites touches (genre, un bon gros astéroïde pour relancer l'évolution au bon moment, faire disparaître une forêt pour forcer le retour à la terre, etc...)

[mtheory]

heuuuuu !!! tu fais comment ?

uploading, mais au sens de copie, pas de téléchargement.

[mtheory]

et ta copine, c'est un robot ????

Super intelligent comme remarque.....ça fait avancer le débat

[mtheory]

Parce que c'est basé sur une croyance et non une certitude.

Patrick

Et alors ?

[mtheory]

Tu lâches Einstein dans la forêt pluviale amazonienne, il sera moins doué pour sa survie que n'importe quel indien du coin, et moins apte à résoudre les problèmes qui vont se poser à lui dans ces circonstances!

Einstein peut apprendre, je ne vois pas ce qui l'en empêcherait, pareil pour une IA.

[invitec44b6f04]

Einstein peut apprendre, je ne vois pas ce qui l'en empêcherait, pareil pour une IA.

Einstein considéré de façon brut, déconnecté de son environnement était très bien adapté à un microcosme où la formalisation du monde et l'intelligence formelle pouvait particulièrement bien s'exprimait.
Un Einstein brut dans une forêt amazonienne serait peut-être totalement inadapté.
Je ne sais pas.
Pourquoi son type d'intelligence serait universellement efficace ?

[invite6754323456711]

Et alors ?

On croise les doigts ou on prie ...

il me semble que si on travaille plus sur soi on pourrait faire émerger des orientations plus raisonnés.

Pour moi la recherche dans ce domaine, qui semble être une évolution du concept de cybernétique, à un intérêt relativement aux questions qui sont posée et qui nous permette de mieux comprendre qui nous sommes et non dans une finalité d'espoir d'une intelligence artificielle qui réglerait nos états d’âme.

Patrick

[mtheory]

il me semble que si on travaille plus sur soi on pourrait faire émerger des orientations plus raisonnés.

3.000 d'histoire prouve que l'humanité n'est pas très bonne à ce jeu là et en tout cas très lente....vu les problèmes que l'on va rencontrer d'ici 30 ans à l'échelle de la planète, j'ai bien peur que beaucoup plus d'intelligence et de conscience rapidement soit une question de vie ou de mort.

[mtheory]

Einstein considéré de façon brut, déconnecté de son environnement était très bien adapté à un microcosme où la formalisation du monde et l'intelligence formelle pouvait particulièrement bien s'exprimait.
Un Einstein brut dans une forêt amazonienne serait peut-être totalement inadapté.
Je ne sais pas.
Pourquoi son type d'intelligence serait universellement efficace ?

J'ai pas de doute qu'un Einstein de 40 ans va avoir plus de mal qu'un jeune indien de 5 ans pour apprendre à ce débrouiller mais là on parle d'un jeune Einstein de 5 ans en forêts vierges avec des parents, je vois vraiment pas ce qui va l'empêcher d'apprendre le minimum de survie et de se débrouiller de façon moyenne. Un IA au début c'est un enfant qui apprend, mais quand elle devient adulte c'est pas pareil et par définition, elle reste jeune, flexible et elle pense vite.

[invitec44b6f04]

J'ai pas de doute qu'un Einstein de 40 ans va avoir plus de mal qu'un jeune indien de 5 ans pour apprendre à ce débrouiller mais là on parle d'un jeune Einstein de 5 ans en forêts vierges avec des parents, je vois vraiment pas ce qui va l'empêcher d'apprendre le minimum de survie et de se débrouiller de façon moyenne. Un IA au début c'est un enfant qui apprend, mais quand elle devient adulte c'est pas pareil et par définition, elle reste jeune, flexible et elle pense vite.

Là d'accord un Einstein de 5 ans s'en sortirais. Mais son intelligence qu'on suppose supérieure à la moyenne pourrait-elle s'exprimer comme ce fut le cas de l'Einstein historique ?
Ce que je trouve très rapide, pas forcément faux, mais pas argumenté dans le texte de Yudkowsky c'est l'idée qu'il y a une intelligence qui se mesure sur une échelle à une dimension mais qui est universellement efficace.

Je croyais que tu partageais ce point de vue. Mais si tu pense qu'Albert Delajungle ne s'en sort que moyennement ça veut dire que non.

[invite6754323456711]

vu les problèmes que l'on va rencontrer d'ici 30 ans à l'échelle de la planète, j'ai bien peur que beaucoup plus d'intelligence et de conscience rapidement soit une question de vie ou de mort.

C'est un pari. Mon point de vue de cette approche est qu'elle conduirait de toute façon à la mort anticipé de l'humanité si ce qui la remplacera n'est qu'une image sans conscience d'un être vivant. En ce qui me concerne j'en suis persuadé, voir même dans le cas le du clonage d'un embryon humain (car je ne perçois pas autrement comment faire apparaître la conscience pour une machine faite de silicium) qui conduirait à l'uniformité et perdrait toute la richesse de la diversité avec tout les inconvénients que tu cites.

Patrick

[mtheory]

Là d'accord un Einstein de 5 ans s'en sortirais. Mais son intelligence qu'on suppose supérieure à la moyenne pourrait-elle s'exprimer comme ce fut le cas de l'Einstein historique ?
Ce que je trouve très rapide, pas forcément faux, mais pas argumenté dans le texte de Yudkowsky c'est l'idée qu'il y a une intelligence qui se mesure sur une échelle à une dimension mais qui est universellement efficace.

Je croyais que tu partageais ce point de vue. Mais si tu pense qu'Albert Delajungle ne s'en sort que moyennement ça veut dire que non.

C'est connu que certains surdoués ont des problèmes avec des tâches ordinaire en raison de leur éducation qui ne rattrape pas le disynchronisme de leur développement . Donc je disais ça juste de histoire de dire que tous les jeunes Einsteins dans ce genre de milieu vont pas forcément être des as de la pêche ou de la sarbacane mais de toute façon un IA n'aurait pas ces limites dans l'hypothèse de la singularité et je ne vois pas de problème avec les arguments de EY.

[mtheory]

la remplacera n'est qu'une image sans conscience d'un être vivant. En ce qui me concerne j'en suis persuadé, voir même dans le cas le du clonage d'un embryon humain (car je ne perçois pas autrement comment faire apparaître la conscience pour une machine faite de silicium) qui conduirait à l'uniformité et perdrait toute la richesse de la diversité avec tout les inconvénients que tu cites.

Patrick

La singularité est censé produire expressément le contraire.
Bon, j'ai toujours pas le temps de rédiger le recadrage/résumé mais en fin de semaine, ça devrait aller.

[invitec44b6f04]

je ne vois pas de problème avec les arguments de EY.

Comment justifie-t-il l'explosion de l'intelligence jusqu'à atteindre l'infini ou presque en 4 ans après l'invention de la première intelligence nous dépassant ?

Son argument est : "l'intelligence d'une IA produite par un être intelligent est proportionnelle à l'intelligence de cet être".
C'est ça la base du calcul des 2 ans de travail qui ne prennent Qu'un an subjectif.

Mais ça ce n'est pas fondé. On peut y croire ou pas, mais je ne vois aucune justification à ça.

Si on remplace "proportionnelle" par "une fonction croissante" alors je suis d'accord a priori, mais il n'y a plus de singularité.

Quant à dire que ce n'est que l'intelligence qui produit une nouvelle compréhension du monde... Je ne suis pas du tout d'accord. Newton en Grèce antique n'aurait pas découvert la gravitation. Il a fallu les lois de Kepler, donc les observations de Brahé et le système de Copernic et que sais-je encore.
La production de nouvelle connaissance dépends énormément de l'environnement dans lequel l'intelligence travail.

[mh34]

Nos ordinateurs sont déjà capables de nous aider à résoudre des problèmes de génétique, biologie moléculaire, conceptions et tests de médicaments avec même des simulations. Nos ordinateurs nous aident à construire et concevoir des avions, des fusées, mêmes à faire des calculs en physique théorique. Je ne vois pas ce qui les empêcheraient de ne pas continuer à le faire, surtout si une simulation d'un esprit humain est faite en eux.

Oui ils sont capables de faire tout ça parce que nous les avons programmés pour. Mais une IA comme celle que vous imaginez, tu crois vraiment qu'elle ne prendrait pas les commandes? Et qui te dit que ça l'intéresserait de continuer à nous aider? Peut-être qu'elle n'en aurait rien à fiche après tout, même si on réussit à lui implanter un esprit humain, puisque ce ne serait pas un être humain.
Non non, moi je ne fais confiance qu'à un être humain bien humain, en chair et en os, si j'ose dire...

[invite765732342432]

Non non, moi je ne fais confiance qu'à un être humain bien humain, en chair et en os, si j'ose dire...

Humain ayant prouvé des centaines de fois qu'il ne fallait surtout pas lui faire une confiance absolue...