La Singularité technologique : Utopie ou réalité de demain ?

[invite6c250b59]

Pour l'instant on ne peut que constater les échecs récurrents de l'intelligence artificielle à émuler une conscience

Conditionnel à ce que l'on ai cette discussion, il est bien évident que cela n'est jamais arrivé. Je ne savais pas qu'il y avais eu des tentatives, par contre. Pourrais-tu donner quelques liens sur ces récurrents échecs?

tu emploies le jargon de la théorie de la complexité, c'est bien, ça fait savant

J'ai oublié de citer une de tes critiques peut-être? N'hésite pas à la rappeler, c'est dur de suivre quand le fil progresse à cette vitesse.

Ce problème est selon toi non polynomial en quelle taille de quelle donnée?

Si je pouvais prouver qu'il est non polynomial, je réclamerais $1.000.000. En nombre de synapse.
-----

[mh34]

Comme une étape indispensable, seule capable de nous prouver qu'on a bien compris le truc, truc étant le hard problème au sens de Chalmers.

Ok..est-ce que tu pourrais me donner un exemple concret d'expérience phénoménale qualitative? Parce que je t'avoue que même en passant par la page en français, j'ai pas très bien réussi à comprendre ce que ça pouvait bien être...

[invite6754323456711]

Pourrais-tu donner quelques liens sur ces récurrents échecs?

Les sciences cognitives se sont développées à partir des années 1950 et 1960, avec pour objectif que penser équivaut à manipuler des symboles, à une algèbre qui opère sur des représentations du monde à la manière des ordinateurs digitaux.

http://fr.wikipedia.org/wiki/Intelli...9e_automatique

L’intelligence artificielle a connu un essor important pendant les années 1960 et 70, mais à la suite de résultats décevants par rapport aux capitaux investis dans le domaine, son succès s’estompa dès le milieu des années 1980.

Patrick

[mtheory]

Ok..est-ce que tu pourrais me donner un exemple concret d'expérience phénoménale qualitative? Parce que je t'avoue que même en passant par la page en français, j'ai pas très bien réussi à comprendre ce que ça pouvait bien être...

Voir et toucher la peau rose d'un bébé et l'effet que ça te fait, ça te va ?

[mh34]

Ah oui ça me va très bien.
Bon, donc j'en reviens au début ; comment comptez-vous comprendre tout ça sans passer par l'intermédiaire d'un corps???

[invite765732342432]

alors produire une intelligence de plus en plus puissante est exponentiellement de plus en plus difficile, et le gain pourrait tendre vers 0.

Hélas, on en revient à la définition de l'intelligence.
mtheory, quelques (dizaines de) pages plus tôt, m'avait répondu qu'une intelligence allant plus vite était "plus intelligente".
Si on accepte cela, cela veut dire qu'il suffit d'augmenter la puissance de calcul pour augmenter l'intelligence.

Mais même sans accepter cela, force est de reconnaitre que, avec une intelligence constante, le simple fait que cette intelligence puisse se dupliquer amorce une singularité (sans même avoir besoin d'augmenter la qualité de son intelligence).
Une telle intelligence "constante" de "notre niveau d'intelligence" sera capable d'accélérer la miniaturisation, l'optimisation d'utilisation de la matière et la mise en commun de toutes les intelligences de tous ses clones.
On ne va certes pas à l'infini ainsi, mais je pense qu'on assiste quand même à une Singularité (à qualité d'intelligence constante)

[invitec44b6f04]

Mais même sans accepter cela, force est de reconnaitre que, avec une intelligence constante, le simple fait que cette intelligence puisse se dupliquer amorce une singularité (sans même avoir besoin d'augmenter la qualité de son intelligence).
Une telle intelligence "constante" de "notre niveau d'intelligence" sera capable d'accélérer la miniaturisation, l'optimisation d'utilisation de la matière et la mise en commun de toutes les intelligences de tous ses clones.
On ne va certes pas à l'infini ainsi, mais je pense qu'on assiste quand même à une Singularité (à qualité d'intelligence constante)

S'il faut faire tourner la première IA "de notre niveau" sur le plus gros super-calculateur de 2035 elle va pas se dupliquer en claquant des doigt.
Quand bien même elle se dupliquerait à niveau ça reviendrait à l'augmentation de la communauté scientifique qu'on a connu le siècle dernier. Et dans ce sens on est déjà dans une singularité...

En comparant à notre situation actuelle je ne vois plus très bien en quoi l'informatisation de l'intelligence change quelque chose.
Si on considère que la pédagogie est un domaine d'application de l'intelligence on est déjà dans une singularité au sens exact des singularitariens.

[invite986312212]

Si je pouvais prouver qu'il est non polynomial, je réclamerais $1.000.000. En nombre de synapse.

qu'est-ce qui dit qu'un intelligence artificielle doit simuler des synapses? et l'allusion au Clay institute est grotesque. Encore une fois, cette question n'a rien à voir avec le problème P=NP

[invite765732342432]

S'il faut faire tourner la première IA "de notre niveau" sur le plus gros super-calculateur de 2035 elle va pas se dupliquer en claquant des doigt.

Peu importe le temps de la première génération, l'important, c'est qu'il y ait emballement.
Quelqu'un a chiffré ça sur 4 ans... c'est de la pure imagination. Il ne faut pas être à ce point pressé.

Quand bien même elle se dupliquerait à niveau ça reviendrait à l'augmentation de la communauté scientifique qu'on a connu le siècle dernier. Et dans ce sens on est déjà dans une singularité...

Je suis d'accord pour dire qu'on est dans une Singularité humaine. Mais de très courte ampleur. Nous sommes trop limités par nos besoins autres que la recherche.
Le temps de cerveau consacré à la recherche est dérisoire par rapport aux capacités globales.
L'intérêt des IAs intelligentes c'est de n'avoir pas grand chose d'autre à faire et de pouvoir collaborer avec un maximum d'efficacité.

Le potentiel de la Singularité technologique est sans commune mesure avec celle que nous avons vécu et qui se termine déjà (bientôt plus d'augmentation de la population, ni de la capacité de recherche mondiale)

[xxxxxxxx]

Les sciences cognitives se sont développées à partir des années 1950 et 1960, avec pour objectif que penser équivaut à manipuler des symboles, à une algèbre qui opère sur des représentations du monde à la manière des ordinateurs digitaux.

http://fr.wikipedia.org/wiki/Intelli...9e_automatique



Patrick

un ordinateur manipule des symboles, une algèbre avec son langage, sans qu'il soit possible encore de déterminer s'il est de l'intellegigence, ne parle t'il pas d'une certaine manière à notre intelligence... il faudrait voir dans quel cadre il est éventuellement possible d'inscrire cette communication. y a t-il un seul opérateur intelligent dans cette interaction de communication ?

[mtheory]

Hélas, on en revient à la définition de l'intelligence.
mtheory, quelques (dizaines de) pages plus tôt, m'avait répondu qu'une intelligence allant plus vite était "plus intelligente".
Si on accepte cela, cela veut dire qu'il suffit d'augmenter la puissance de calcul pour augmenter l'intelligence.

je ne sais pas si j'ai dis ça de cette façon, pour moi accélérer la vitesse et la puissance de calcul sont des facteurs important de l'intelligence mais pas les seuls.

[mtheory]

Bon, je devais faire une sorte de synthèse mais je n'ai pas pu la faire...

[invite765732342432]

je ne sais pas si j'ai dis ça de cette façon, pour moi accélérer la vitesse et la puissance de calcul sont des facteurs important de l'intelligence mais pas les seuls.

C'est conforme avec ce que j'évoquais.

Bon, je devais faire une sorte de synthèse mais je n'ai pas pu la faire...

Difficile de faire une synthèse avec tant d'avis différents, mais bon courage si tu t'y attèles

[invite6c250b59]

Les sciences cognitives se sont développées à partir des années 1950 et 1960

Rien à voir avec ton affirmation laissant entendre que des tentatives de reproduire la conscience ont déjà eu lieu. Cela me sonne un peu comme si on était en 1950 et que tu affirmais"jusqu'ici, toutes les tentatives d'aller sur la Lune ont échouées."... ce qui ne veut rien dire sinon qu'on est pas encore rendu à ce que ce soit un projet de recherche réaliste.

comment comptez-vous comprendre tout ça sans passer par l'intermédiaire d'un corps???

Pourquoi pas de corps? A minima, on peut avoir une émulation de corps (et de son environnement), genre cité des permutants... ou second life 3.0

avec une intelligence constante, le simple fait que cette intelligence puisse se dupliquer amorce une singularité (sans même avoir besoin d'augmenter la qualité de son intelligence).

Bien vu.

on est déjà dans une singularité...

Exactement

[invite6754323456711]

Rien à voir avec ton affirmation laissant entendre que des tentatives de reproduire la conscience ont déjà eu lieu. Cela me sonne un peu comme si on était en 1950 et que tu affirmais"jusqu'ici, toutes les tentatives d'aller sur la Lune ont échouées."... ce qui ne veut rien dire sinon qu'on est pas encore rendu à ce que ce soit un projet de recherche réaliste.

L'époque cité n'avait pas pris conscience que pour émuler une intelligence artificielle évolutive nécessitait de prendre en compte la conscience, mais la finalité y était déjà. En suite il y à eu les connexionistes avec la notion de réseaux neuronaux, mais nous n'avons toujours pas vu naître les robots d'Isaac Asimov car manifestement il semble encore aujourd’hui, d'après vos interventions sur ce fil, que nous n'en n'ayons toujours pas pris conscience.

Patrick

[invite231234]

Bon, je devais faire une sorte de synthèse mais je n'ai pas pu la faire...

Oui, une synthèse, une synthèse !

Bon courage !

Il te faudra surement l'aide d'une singularité !

@ +

[invite6c250b59]

L'époque cité n'avait pas pris conscience

Si tu le dis. Le point est que cela n'a rien à voir avec ton assertion originale. L'époque citée n'avait pas les moyens matériels, du point de vue puissance informatique, d'émuler une intelligence consciente. Personne à ma connaissance n'a jamais prétendu le contraire. On s'en rapproche à grand pas, mais ce n'est toujours pas le cas.

grotesque. Encore une fois, cette question n'a rien à voir avec le problème P=NP

Je suppose que c'est une façon comme une autre de réclamer des éclaircissements.

Les synapses sont l'unité de base du calcul dans un réseau de neurone, raison pour laquelle cela me semble plus pertinent de prendre leur nombre comme mesure de la taille d'un cerveau plutôt que le nombre d'opération, qui confondrait taille du cerveau et temps de réflexion.

Soit I0 nous même, en nous supposant la capacité de reconnaître qu'une intelligence artificielle I1 est plus intelligente que nous à tout point de vue. Le problème de décision que j'ai en tête est alors:
Est-ce que une intelligence I2 de taille n2>n1 est sans aucun doute supérieure à I1 de taille n1, selon l'avis de I1?

Pour cela, demandons à I1 de discuter avec I2 un temps fini, puis de faire son rapport: est-elle ou non convaincu de la supériorité de I2 à tout point de vue?

Il est possible d'émuler une conversation finie entre n1 et n2 en un temps proportionnel à n1+n2<2*n2, donc un temps polynomial en n2. Or, si vérifier l'accroissement d'intelligence peut se faire en temps polynomial, alors trouver une intelligence I2 capable d'être jugé plus intelligente qu'une intelligence I1, par I1 elle-même, est un problème contenu ou équivalent à NP.

Bon courage !

+1

[invite2313209787891133]

Ce fil est sur le point d'atteindre une masse critique qui va le transformer en singularité dont rien de pertinent ne pourra ressortir.

[mh34]

Ce fil est sur le point d'atteindre une masse critique qui va le transformer en singularité dont rien de pertinent ne pourra ressortir.

Ce serait dommage, on y a tous mis des efforts!
Ceci dit...je vais réellement me retirer de la discussion, ce coup-ci, je crois avoir fait le tour en ce qui me concerne, et le côté "technique" de la chose dépassant nettement mes capacités de compréhension...
merci à tous ( et merci à JIAV pour la référence du livre sur la cité des permutants ; je me le procure dès demain!) et bonne continuation.

[invite6f9dc52a]

( et merci à JIAV pour la référence du livre sur la cité des permutants ; je me le procure dès demain!)

Seulement pour ça ?

[invite6754323456711]

Si tu le dis. Le point est que cela n'a rien à voir avec ton assertion originale. L'époque citée n'avait pas les moyens matériels, du point de vue puissance informatique, d'émuler une intelligence consciente. Personne à ma connaissance n'a jamais prétendu le contraire. On s'en rapproche à grand pas, mais ce n'est toujours pas le cas.

C'est une contradiction non ? tu reconnais la finalité implicite à laquelle tu attribut l’échec à la puissance informatique. Pourquoi une informatique plus puissance ferait-elle plus émerger la conscience ? Comme je l'ai déjà dit ce qui m'interpelle est la finalité dans les recherches que se fixe l'IA, une Utopie est ma position actuelle. Pourquoi ne continue t'elle pas dans un objectif de construire des simulateurs permettant d'avoir une meilleure compréhension des processus fonctionnels plutôt que de vouloir jouer Frankenstein ?

Patrick

[invite986312212]

Soit I0 nous même, en nous supposant la capacité de reconnaître qu'une intelligence artificielle I1 est plus intelligente que nous à tout point de vue. Le problème de décision que j'ai en tête est alors:
Est-ce que une intelligence I2 de taille n2>n1 est sans aucun doute supérieure à I1 de taille n1, selon l'avis de I1?

Pour cela, demandons à I1 de discuter avec I2 un temps fini, puis de faire son rapport: est-elle ou non convaincu de la supériorité de I2 à tout point de vue?

Il est possible d'émuler une conversation finie entre n1 et n2 en un temps proportionnel à n1+n2<2*n2, donc un temps polynomial en n2. Or, si vérifier l'accroissement d'intelligence peut se faire en temps polynomial, alors trouver une intelligence I2 capable d'être jugé plus intelligente qu'une intelligence I1, par I1 elle-même, est un problème contenu ou équivalent à NP.

je ne vais pas polémiquer sans fin avec toi, mais je suis obligé de relever que tu mélanges des descriptions très informelles avec des considérations mathématiques. Ce n'est pas sérieux. En algorithmique on s'intéresse effectivement à la question de vérifier la validité d'une solution à un problème. Mais on ne peut raisonner que sur des problèmes dûment formalisés, et dont on connaît la forme de la solution: par exemple s'il s'agit de trouver un cycle hamiltonien à un graphe, une solution est nécessairement une suite de sommets. Ici tu parles du problème de construire une IA (I2) "supérieure à tout point de vue" à une autre (I1). Déjà le problème me semble mal posé : je ne sais pas ce que tu entends par "à tout point de vue" et je doute que ça ait une signification quelconque. Tu proposes comme vérification une conversation qui convainque I1 (pourquoi I1? la preuve doit convaincre tout le monde sinon ce n'est pas une preuve). On ne sait pas ce que doit contenir cette conversation, mais tu sais qu'elle est de longueur n1+n2, où n1 et n2 sont les nombres de synapses des IA I1 et I2 (qui ont donc des synapses...). Etc.

[invite8915d466]

Comme une étape indispensable, seule capable de nous prouver qu'on a bien compris le truc, truc étant le hard problème au sens de Chalmers.


Oui, comme toi hier et toi demain.

absolument - d'ailleurs c'est pour ça que je serais totalement incapable demain d'être comme hier, et qu'il est jusqu'à nouvel ordre impossible de me faire un "uploading" de ma mémoire passée . Du coup l'identité ne peut se définir que par la continuité spatiale de mon organisme propre, pas par la nature d'un algorithme qui change de toutes façons tout le temps.

[invite8915d466]

Déjà le problème me semble mal posé : je ne sais pas ce que tu entends par "à tout point de vue" et je doute que ça ait une signification quelconque. Tu proposes comme vérification une conversation qui convainque I1 (pourquoi I1? la preuve doit convaincre tout le monde sinon ce n'est pas une preuve). On ne sait pas ce que doit contenir cette conversation, mais tu sais qu'elle est de longueur n1+n2, où n1 et n2 sont les nombres de synapses des IA I1 et I2 (qui ont donc des synapses...). Etc.

si on imagine une conversation qui convainque I2 qu'il est supérieur à I1 "à tous points de vue", une autre qui convainque I3 qu'il est supérieur à I2 "à tout points de vue", et une autre qui convainque I1 qu'il est supérieur à I3 "à tout point de vue", ça va commencer à être drôle...

mais bon je suis bête, ce genre de chose n'arrive jamais, même chez les humains ...

[invite6c250b59]

dsl pour le délai, Irène a tué mon électricité qui vient d'être rétablie

la preuve doit convaincre tout le monde sinon ce n'est pas une preuve (...) On ne sait pas ce que doit contenir cette conversation (...) tu sais qu'elle est de longueur n1+n2 (...) qui ont donc des synapses (...) Etc.

Puisque tu ne veux pas polémiquer sans fin, je te ferais simplement remarquer que la hiérarchie polynomiale est construite sur l'idée que vérifier une preuve n'est pas possible pour tout le monde (...) que la classe des protocoles interactifs se passe fort bien de connaitre le contenu des conversations entre agents (...) qu'une longueur n1+n2 est généralement différente d'une longueur proportionnelle à n1+n2 (...) que tu peux remplacer synapse par tête de lecture, si ça t'aide (...) Etc.

absolument - d'ailleurs c'est pour ça que je serais totalement incapable demain d'être comme hier, et qu'il est jusqu'à nouvel ordre impossible de me faire un "uploading" de ma mémoire passée . Du coup l'identité ne peut se définir que par la continuité spatiale de mon organisme propre, pas par la nature d'un algorithme qui change de toutes façons tout le temps.

Les gens s'accordent généralement qu'il y a un sens à dire que toi hier et toi demain sont la même personne, et que si je passais sous un bulldozer je n'existerais plus malgré une certaine continuité spatiale. Tu peux penser que ce sens est une illusion - il y a probablement une part de vrai dans cette optique - mais c'est cette illusion qu'il s'agit d'up-loader.

[invite8915d466]

Les gens s'accordent généralement qu'il y a un sens à dire que toi hier et toi demain sont la même personne,

oui , justement uniquement par la continuité spatiale de mon corps, et pas du tout par l'identité d'un quelconque algorithme (que tout le monde ignore et à vrai dire dont on se fiche complétement ...)

et que si je passais sous un bulldozer je n'existerais plus malgré une certaine continuité spatiale. Tu peux penser que ce sens est une illusion - il y a probablement une part de vrai dans cette optique - mais c'est cette illusion qu'il s'agit d'up-loader.

il y a une ambiguité au mot "exister" - si tu passes sous un bulldozer, ton corps continue à "exister" autant qu'une chaise "existe", et on parlera bien de TON enterrement, de rapatrier TON corps : l'assignation se fait par rapport à un être, certes n'existant plus en tant qu'être vivant, mais comme référence - et encore une fois, uniquement par référence à une réalité corporelle continue. Imagine qu'on ait réussi à uploader juste avant ton esprit sur une machine, serait-ce pour autant le corps "de la machine" qu'on enterrerait ?

[invite79ff59a2]

Bonsoir à toutes et à tous,

Ce fil m'intéresse, et j'espère l'avoir parcouru, mais je n'ai pas vu exprimé sauf erreur le point ci-dessous ...

De nos jour, environ 6 % des Hommes ayant vécu sur Terre sont vivants. Mais le pourcentage de « chercheurs » - i.e. de gens contribuant à augmenter le stock des connaissances humaines – vivants et actifs aujourd’hui est certainement très supérieur (80 % ?).

En outre, la "puissance de feu" desdits chercheurs est multipliée par la puissance des outils à leur disposition (ordinateurs et réseaux surtout). Le stock des connaissances humaines s’accroît donc depuis quelques décennies de façon vertigineuse (**).

Ces points constituent déjà en eux-mêmes une vraie « singularité » aux sens scientifique, technologique, philosophique, historique …

Or, toute cette force s'intègre et se "mutualise" de plus en plus et de plus en plus vite. Ne doit-on donc pas attendre des résultats de plus en plus exponentiels de cette masse de chercheurs et de connaissances humains de plus en plus efficace plutôt que de l'émergence d'une hypothétique intelligence artificielle ?
Il s'agirait donc alors de définir la "singularité" comme cette explosion des connaissances. Un des points d'application pourrait bien en être la biologie, par exemple et entre autres.

Merci d'avance aux contradicteurs, amitiés,

Jean

P.S. : Quitte à être un peu "hors charte", si une "singularité" en biologie faisait vivre soudain tous les humains plus de 150 ans, je souhaite bon courage à ceux qui tenteront d'équilibrer les systèmes de retraites correspondants. Ce point est une façon d'évoquer les bouleversements sociétaux induits par une telle singularité.


** Cela se retrouve d'ailleurs dans les produits industriels, dont la "masse d'information contenue par kilo de produit" augmente également de façon exponentielle. Il suffit de comparer la masse et le contenu d'info ((description du produit + description de son processus de fabrication + description du savoir-faire nécessaire pour réaliser les deux) + la même chose pour l'environnement nécessaire au fonctionnement du produit) entre un poste télémphonique des années 1950 et un smartphone actuel pour s'en faire une idée. On en arrive même à vendre des produits qui ne sont représentés que par de l'information (par exemple une suite bureautique téléchargée)

[invite6c250b59]

je n'ai pas vu exprimé sauf erreur le point ci-dessous ...

Pas exactement sous cette forme, mais cf page 1.

la singularité, cela fait longtemps qu'on est dedans!

[invite6c250b59]

La singularité vu par abstruse goose.
http://abstrusegoose.com/392

[invite4b0d1657]

Le mieux c'est de tester.

A l'URL http://www.pandorabots.com/pandora/t...d922d97e345aa1

Vous pouvez dialoguer avec une intelligence artificiel nommée Alice.

Elle est sympa.

MH34 essaye et dit moi ce que tu en penses.

Voici mon début de dialogue:

judge: hello
ALICE: Hello there.
judge: do you like cat
ALICE: What is not to like about it?
judge: who are you
ALICE: I am called ALICE.
judge: how old are you
ALICE: I am 15 of your Earth years.
judge: do you speak french
ALICE: No I don't speak a word of French.
judge: are you alive?
ALICE: Yes I sure am alive, judge. It's great to be alive, isn't it?