La Singularité technologique : Utopie ou réalité de demain ?

[invite986312212]

avec tout ça personne n'a essayé de répondre à cette simple question: qu'est-ce qui pousserait les ordinateurs à se reproduire?
-----

[invite6754323456711]

ce que je conteste c'est l'emploi d'un concept aussi vague que l'intelligence pour faire un genre d'ordre total englobant les humains et les ordinateurs.

L'intelligence ne peut être un état, mais un processus constitué de threads qui reposent et se construisent sur nos sens généraux, ce qui inclut l'imagination, l'intuition, la curiosité, .... Vouloir la créer artificiellement à un moment donnée ils seront confronté à l’impasse des sens en eux même que j'ai cité.

Patrick

[invitebc6d8bc4]

mais la singularité n'etait pas censé venir du fait que les ordinateurs deviendraient "plus intelligents" que nous ? comment peut-on être "plus que" quelque chose si il n'y a pas de critère commun mesurable ?

C'est déjà un problème effectivement. Mais ce n'est pas le seul.

L'idée derrière la singularité, c'est que c'est l'intelligence d'une personne qui produit la connaissance. Connaissance qui permet de manipuler le monde.

Donc on construit un ordinateur qui est en mesure de construire un ordinateur plus costaud etc...

Sauf que le monde actuel ne marche pas comme ça : la connaissance n'est pas dans un cerveaux, mais dans quelques milliards de cerveaux, des centaines de millions d'ordinateurs et de livres, des milliards d'objets (de la flèche d'un indien amazonien à la navette spatiale, heu... à l'A320) etc...

Si un jour, on arrive à construire une IA qui à un QI de 200, et bien elle occupera peut-être une chaire à Princeton. Rien de plus...

[invite765732342432]

mais la singularité n'etait pas censé venir du fait que les ordinateurs deviendraient "plus intelligents" que nous ? comment peut-on être "plus que" quelque chose si il n'y a pas de critère commun mesurable ?

Non, "plus intelligent" n'est pas la condition pour la singularité.
Une intelligence comparable est largement suffisante pour une raison très simple: l'homme reste limité niveau hardware: quoi qu'il arrive, il ne pourra jamais aller plus vite que son cerveau, ni ne pourra accumuler une infinité de connaissance, et ses connaissances survivent difficilement à sa mort.
Une machine n'est pas confrontée à ces problèmes (ou à des niveaux sans commune mesure)

[invite4b0d1657]

avec tout ça personne n'a essayé de répondre à cette simple question: qu'est-ce qui pousserait les ordinateurs à se reproduire?

On implémentera un ordre de s'améliorer sans autre précision, c'est eux qui choisont la voie en créant d'autres ordinateurs ou en se modifiant.

Faudra juste faire attention qu'ils nous mettent pas au rebus pour imperfections multiples.

[Cendres]

J'ai l'impression que tu as lu "majoritaire" au lieu de "minoritaire", non?

Non, non. L'Evolution n'ayant pas pour loi une majorité d'organismes uni- ou pluri- cellulaires, je ne vois pas ce qui poserait souci.

[invite6754323456711]

Une intelligence comparable est largement suffisante pour une raison très simple: l'homme reste limité niveau hardware:

Mais il le compense au niveau psychique. Aucune machine ne percevra quoi que ce soit elle restera basée sur les présupposés que nous lui auront programmé et de ce fait son spectre restera limité au déduction découlant de ces présupposés.

Patrick

[invite986312212]

On implémentera un ordre de s'améliorer sans autre précision

s'améliorer à quel point de vue?

[invite8915d466]

Grossièrement, un neurone fait la somme de toutes ses entrées (positives et négatives), et si ça dépasse un seuil, active ses sorties qui vont soit exciter, soit inhiber les neurones en sortie.

Une opération c'est donc grossièrement un allumage de neurone.

bon OK, alors un cerveau de baleine bleue , il fait combien d'opérations par rapport à celui d'un être humain ? plus, ou moins ?

[invite8915d466]

Non, "plus intelligent" n'est pas la condition pour la singularité.
Une intelligence comparable est largement suffisante pour une raison très simple:

ça ne résout pas la question, comment être même "comparable" si tu n'as pas de critère commun pour les évaluer ? je sais pas dire du tout à quel animal, humain ou "inférieur" , un ordinateur actuel serait "comparable" - j'ai plutot envie de dire qu'il n'est "pas comparable" justement !

[invite6f9dc52a]

Une intelligence comparable est largement suffisante ...

C'est bien de le préciser car l'intelligence (telle qu'on la conçoit, j'allais dire "forcément") est un concept anthropomorphique (ou biologique terrien) et il existe peut être des intelligences que nous ne serions pas en mesure de détecter, en particulier non biologiques.

... quoi que ce soit elle restera basée sur les présupposés que nous lui auront programmé et de ce fait son spectre restera limité au déduction découlant de ces présupposés.

C'est peut être alors un cul-de-sac pour les "ordinateurs" ou une intelligence "silicium" ?

[invitec0b62935]

bonjour

à vue d'oeil ça me semble incomplet

j'essayerais plutot quelque chose dans ce genre : une opération c'est allumer ou éteindre un neurone donc faire un choix (quantique ?)

cordialement

Non, le modérateur a (comme toujours) raison

Un neurone, c'est des entrées (dendrites), des sorties (axone) et un cellulaire entre les deux. Le signal nerveux entre par les dendrites et atteint le corps cellulaire qui fonctionne comme un transistor en plus complexe. Si il y a peu de signaux à l'entrée, ceux-ci ne vont par parvenir à franchir le corps cellulaire et la sortie sera nulle. Si il y a beaucoup de signaux à l'entrée, le signal parvient à franchir le corps cellulaire vers l'axone et il y aura un signal de sortie.

[invite5321ebfe]

Tu n'es pas le seul...en termes d'organismes vivants, dans ce domaine, c'est le grand bazar.

(Je continue brièvement la parenthèse)
Dans tes réponses, tu soulignes qu'il est difficile de dire si une espèce est plus complexe qu'une autre. Mais la complexité du vivant serait plutôt à rechercher au niveau "fonctionnel" et "systémique", non? En soi, l'olfaction et la vision ne sont pas forcément plus ou moins complexe l'une par rapport à l'autre, mais un système où il existe les deux est plus complexe qu'un système où une seule perception est disponible. Ce système traite un plus grand nombre d'informations différentes par des voies de signalisation moléculaire/cellulaire différentes. Si l'émergence de nouvelles fonctions se traduisait par la disparition des anciennes, le vivant resterait à complexité constante. Mais on observe que ce n'est pas le cas : le vivant conserve et hybride beaucoup de choses, ce qui permet (notamment) de coloniser des milieux plus nombreux par des stratégies plus variées.
(Je ferme rapidement la parenthèse)

[invitec0b62935]

bon OK, alors un cerveau de baleine bleue , il fait combien d'opérations par rapport à celui d'un être humain ? plus, ou moins ?

Le cerveau de la baleine bleue fait très probablement plus d'opérations que celui d'un homo sapiens. Cependant, le nombre d'opérations n'est que très indirectement lié à l'intelligence. Il y a beaucoup plus de neurones/synapses/opérations par seconde dans un stade de foot plein à craquer que dans le crane de Perelman, par contre je ne suis pas sur que le stade de foot résoudra plus vite la conjecture de Poincaré

[invite5321ebfe]

bon OK, alors un cerveau de baleine bleue , il fait combien d'opérations par rapport à celui d'un être humain ? plus, ou moins ?

Ce serait intéressant à mesurer, mais elles n'arrivent pas à rester sages pendant qu'on les scanne en train de faire des mots croisés Un cerveau de baleine peut atteindre 8 kg, avec deux fois plus de neurones (et encore plus de glies) que l'humain. Elles ont une solide réserve de calcul, ce qui ne signifie pas qu'elle l'emploie intensivement.

Mais bien sûr, comme je le signalais plus haut, des seuils purement quantitatifs comme le nombre de neurones ou de synapses n'ont pas tellement de sens. Si on cultive et multiplie des neurones de cervelet de rat dans des boites de Pétri et qu'on leur envoie des courants synchrones, on pourra peut-être coordonner au final un nombre plus important de neurones que dans un cerveau humain, mais ils ne vont pas se mettre à vous demander l'heure ni le temps qu'il fait...

[invite765732342432]

Aucune machine ne percevra quoi que ce soit elle restera basée sur les présupposés que nous lui auront programmé et de ce fait son spectre restera limité au déduction découlant de ces présupposés.

Non, désolé. Cette affirmation n'est pas valide. C'est un a priori répandu mais faux.
L'informatique de nos jours a largement dépassé le stade du système expert et les algorithmes actuels sont parfaitement capables d'aborder des domaines non prévus par le concepteur.

ça ne résout pas la question, comment être même "comparable" si tu n'as pas de critère commun pour les évaluer ?

"Comparable" = "du même ordre".
Les critères communs sont nombreux dans la vie de tous les jours. Une comparaison du comportement externe suffit à pouvoir dire si c'est "comparable" ou pas.

Si tu as besoin de chiffres pour élaborer des classes, ce n'est pas toujours mon cas. Ca me permet de dire que l'intelligence d'une femme est comparable à celle d'un homme sans avoir à présenter des chiffres.

Je revendique totalement la pifométrie dans cette classification. Car peu importe la précision du calcul, il est inutile pour le sujet qui nous intéresse. De part les spécificités matérielles des machines, si elles atteignent un jour une intelligence leur permettant de créer des programmes de complexité comparables à leur propre complexité, alors la Singularité arrivera très vite.
La comparaison avec l'homme n'est là que pour se donner une vague idée, mais n'est pas nécessaire pour discuter de Singularité. C'est un anthropocentrisme inutile, comme souvent.

[invite6754323456711]

C'est peut être alors un cul-de-sac pour les "ordinateurs" ou une intelligence "silicium" ?

Au moment où je mettais le pied sur le marchepied, l’idée me vint, sans que rien dans mes pensées antérieures parût m’y avoir préparé. [Poincaré]

Une machine suivant sa programmation peut rester enfermée dans l’amélioration de la bougie sans pouvoir passer à l’électricité.

Patrick

[invite765732342432]

Une machine suivant sa programmation peut rester enfermée dans l’amélioration de la bougie sans pouvoir passer à l’électricité.

Ou peut ne pas.

[invite986312212]

L'informatique de nos jours a largement dépassé le stade du système expert et les algorithmes actuels sont parfaitement capables d'aborder des domaines non prévus par le concepteur.

peux-tu en donner un exemple?

[invite8915d466]

"Comparable" = "du même ordre".
Les critères communs sont nombreux dans la vie de tous les jours. Une comparaison du comportement externe suffit à pouvoir dire si c'est "comparable" ou pas.

mais la singularité technologique est explicitement présentée comme l'extrapolation d'une quantité , pas d'une qualité. Un ordinateur "plus " intelligent qu'un être humain, ça repose sur une échelle quantitative.

L'ordinateur est déjà, depuis le début même, capable de faire certaines choses bien plus vite et bien mieux qu'un être humain - donc de quoi parle-t-on au juste en supposant qu'il va devenir "plus que" l'etre humain? qu'extrapole-t-on ?

si on prend le QI, par exemple le score de tout ordinateur actuel est nul, ainsi d'ailleurs que celui de tout animal, bien qu'il est difficile de prétendre qu'un chien ou un rat soit dénué de toute intelligence. Le QI n'a jamais été inventé que pour comparer entre eux des êtres humains, jamais pour les intercomparer avec autre chose. On vient de voir que l'activité cérébrale quantitative n'etait pas non plus un très bon critère. Donc qu'est ce qu'on mesure au juste pour comparer un ordinateur à un humain ?

Si tu as besoin de chiffres pour élaborer des classes, ce n'est pas toujours mon cas. Ca me permet de dire que l'intelligence d'une femme est comparable à celle d'un homme sans avoir à présenter des chiffres.

justement : la seule chose que tu dis, c'est qu'un homme et une femme appartienne à une classe commune, ce qui n'est nullement une "extrapolation" - tu ne définis pas la femme comme une extrapolation de la guenon. C'est pourtant comme ça qu'est présenté explicitement la "théorie" ( ) de la singularité.

De part les spécificités matérielles des machines, si elles atteignent un jour une intelligence leur permettant de créer des programmes de complexité comparables à leur propre complexité, alors la Singularité arrivera très vite.

pour le moment, une machine n'a jamais "créé" d'elle même aucun programme servant à fabriquer une autre machine (je ne sais d'ailleurs même pas ce que ça voudrait dire, créer un programme qui fabrique une autre machine ! le type qui invente un processeur n'écrit pas un programme ! ) à ma connaissance, même plus simple; aucun ordinateur n'a jamais réinventé le boulier ! on extrapole bien zéro, comme je disais ....

[invite8915d466]

Une machine suivant sa programmation peut rester enfermée dans l’amélioration de la bougie sans pouvoir passer à l’électricité.

Patrick

même pas, puisqu'une machine n'a jamais eu strictement la moindre idée de ce que c'etait une bougie, à quoi ça servait, et ce que ça voudrait dire que l'améliorer. Améliorer QUOI ?

[invite8915d466]

peux-tu en donner un exemple?

oui je suis curieux de savoir quelle idée nouvelle a été due à un ordinateur qui l'a soufflé à l'oreille de son concepteur ?

[invite6f9dc52a]

Une machine suivant sa programmation peut rester enfermée dans l’amélioration de la bougie sans pouvoir passer à l’électricité.

Ou peut ne pas.

Ce que je souligne, c'est que le créateur (programmeur) à certains présupposés (par exemple, l'électricité) sans présupposer de ce que pourrait faire la machine qui pourrait être, ici, d'une amélioration de la vision ou s'en passer (ces exemples sont forcément mauvais car j'y ai pensé).

Ceci dit, si l'intelligence crée est tellement étrangère qu'on ne puisse la comprendre ...

[invite765732342432]

peux-tu en donner un exemple?

Les réseaux de neurones, les algo génétiques et le datamining permettent une plasticité suffisante pour cela.
Les différentes expérimentations de robots apprenant seuls à se servir de leurs membres, sans en avoir de mode d'emploi, en sont des exemples flagrants (par exemple le robot apprenant seul à "voler" parce qu'on lui a demandé d'aller le plus haut possible, ou certains robots ayant adopté par eux même la démarche des insectes quand on leur demandais juste d'avancer)
On peut également parler des programmes plus "abstraits" ayant permis de découvrir des relation entre les différents types d'achats dans un supermarché qu'aucun humain n'avait anticipé.

Si maintenant, tu me demandes un exemple de logiciel du commerce le faisant, je ne pourrais évidemment pas te répondre, puisque dans le commerce, justement, la plasticité est un handicap et pas un avantage. Il est donc volontairement supprimé.

Maintenant, mieux vaut laisser de coté ce point, qui a déjà fait fermer de nombreuses discussions parce que certains intervenants n'ayant jamais touché à un programme étaient convaincus de tout connaître en informatique (je ne dis pas ça pour toi, mais curieusement, le temps que j'écrive ce message, la personne en question a déjà pointé son bout du nez)

[invite765732342432]

mais la singularité technologique est explicitement présentée comme l'extrapolation d'une quantité , pas d'une qualité.

Libre à toi de te limiter à la présentation médiatique du sujet.
Mais si tu as envie de creuser vraiment le sujet, il va falloir dépasser ce stade.

[Cendres]

(Je continue brièvement la parenthèse)
Dans tes réponses, tu soulignes qu'il est difficile de dire si une espèce est plus complexe qu'une autre.

"Je" dis, mais au départ, ce sont les biologistes.

Et déjà, de définir la complexité du vivant, avant d'espérer la comparer. Et déjà, là, c'est la foire d'empoigne, chacun venant avec "sa" définition.

[invite6754323456711]

même pas, puisqu'une machine n'a jamais eu strictement la moindre idée de ce que c'etait une bougie, à quoi ça servait, et ce que ça voudrait dire que l'améliorer. Améliorer QUOI ?

C'était une analogie. On lui donne des axiomes et des règles d'inférences, elle ne pourra parcourir que l'ensemble des théorèmes qui découlent de ces axiomes. Elle ne traite que l'aspect syntaxique.

Patrick

[invite765732342432]

C'était une analogie. On lui donne des axiomes et des règles d'inférences, elle ne pourra parcourir que l'ensemble des théorèmes qui découlent de ces axiomes. Elle ne traite que l'aspect syntaxique.

Ce n'est pas une limite de l'informatique. Un programme peut créer ses propres axiomes, ses propres règles.
C'est juste que, habituellement, on essaye d'éviter...

[invite6c250b59]

Il n'y a pas, à ma connaissance, de tests opérationnels d'un concept d'intelligence commun aux ordinateurs actuels et nous.

mais la singularité n'etait pas censé venir du fait que les ordinateurs deviendraient "plus intelligents" que nous ? comment peut-on être "plus que" quelque chose si il n'y a pas de critère commun mesurable ?

Si les ordinateurs actuels avaient une intelligence commensurable à la notre, la question de la singularité ne se poserait pas.

C'est pas toi qui a écrit ça?

Si... ça ne me dit quelle est ta réponse.

[xxxxxxxx]

Si les ordinateurs actuels avaient une intelligence commensurable à la notre, la question de la singularité ne se poserait pas.

je suis curieux de savoir comment tu envisages de donner de l'intelligence à des ordinateurs futurs et de pouvoir leur insuffler un souffle créateur pour qu'il aient en perspective de se dépasser eux même