Tu as remarqué? Je te parle "humanité", et tu me réponds "machine".C'est une des hypothèses première de la singularité, puisque la machine est sensée s'améliorer elle-même (de manière volontaire).
C'est quoi au juste la singularité, alors? Une transformation de l'être humain en machine?
Si c'est le cas, la seule réponse possible à ma question ici
serait :Ce serait quoi, au fait, cette humanité 2.0?Non?Disparue
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
non la réponse était imprécise mais elle sort de l'objet du fil pour ce que j'en comprends c'est pour cette raison que j'avais une réticence à y répondre franchement...Envoyé par mtheory
précisément : cela consiste à se regarder comme observateur de ses propres actions et des réactions qu'elles engendrent (cela peut s'appliquer à tous une segmentation de presque tous les domaines, émotionnels, artitiques, scientifiques, philosophiques, j'oserais même religieux... la liste n'est pas close pour rejoindre certaines de vos approches de l'intelligence)
attention cela ne veut pas dire qu'il ne faut être qu'observateur... un observateur sans action n'observe rien...l'objet de son obervation améliore sa perception des réactions qui découlent de ses actions pour agir en conséquence par la suite et éduquer la génération d'IA ^^ suivante.
la compétition : elle va consister à se placer en situation de confrontation pour obtenir un meilleur résultat. mais elle ne maitrise pas les processus d'actions et réaction successifs. elle va dégènérer et aboutra régulièrement à des conflits destructeurs. pour éviter ces conflits il n' a qu'une issue. accepter un relatif "lacher prise" pour emprunter des termes qui ont un sens à la fois psychologique contemporain et un sens ancestral. et je précise tout de suite qui'l ne s'agit pas de se détacher complètement de la vie et de la conscience. il s'agit d'accepter l'inconfort relatif de certaines situations le temps de trouver une solution meileure. au lieu de se battre pour la compétition, toute l'énergie est libérée pour la recherche de solutions plus confortables. on passe à l'humanité 2.0
Salut à tous !
Vous donnez combien de temps avant que l'humanité ne disparaisse ?Non?
@ +
Ah mais je n'en sais strictement rien.Salut à tous !
Vous donnez combien de temps avant que l'humanité ne disparaisse ?
@ +
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
En effet, c'est une erreur, je pensais que tu parlais de la machine (c'est le problème d'écourter les citations).
Alors je change ma réponse en une question: qu'appelles-tu "se maîtriser" pour l'humanité ?
Oh, éviter les conflits de tous ordres et de toutes échelles...ça me semble un préalable incontournable de pouvoir faire ça avant de prétendre maitriser l'environnement, ce qui au passage me parait to-ta-le-ment utopique!
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
c'est tout l'enjeu de cette singularité : suicide collectif ou dépassement. ce qui est certain c'est que notre action sur l'environnement est loin d'être négligeable. faut il le voir comme une réussite ou un échec de la compétition, je ne sais pas.Oh, éviter les conflits de tous ordres et de toutes échelles
Alors, il y a les pessimistes : ceux qui pensent que l'humanité disparaîtra avant qu'elle n'évolue ...Ah mais je n'en sais strictement rien.
Il y a les optimistes : ceux qui pensent que l'humanité évoluera avant de disparaître ...
Et il y a les réalistes : ceux qui ne peuvent se projeter mais qui ont des tendances ...
Donc je pense que l'on est tous réalistes, nous sommes donc d'accord !
@ +
Je ne vois pas le rapport entre des conflits et comprendre la matière et les diverses interactions entre animaux, matière et énergie (c'est ce que je signifie avec le mot "maîtriser son environnement")
"éviter les conflits", c'est quelque chose de moral, et c'est un domaine qui est au delà de l'intelligence. Ca ne concerne pas la Singularité.
Tout dépend de la définition que tu mets derrière "maîtriser". Visiblement nous n'avons pas la même définition, il est donc préférable de ne pas nous étendre sur le sujet qui ferait dériver inutilement le fil.ce qui au passage me parait to-ta-le-ment utopique!
J'étais sûr que vous parliez de ça mais l'expérience prouve que l'homo sapiens est très mauvais pour ça, il est est complétement illusoire d'imaginer que 7 milliards d'humains ne disposant pas chacun d'une vie descente matériellement, que d'un temps de vie de 80 ans et de de beaucoup de temps libre pour se rationaliser, s'éduquer vont se mettre à devenir des sages bouddhistes ou du même genre ou que l'on va vraiment pacifier l'humanité le jour ou elle aura compris par l'éducation.
L'expérience et la réalité économique, énergétique, et sociale de la planète prouve que ça n'est tout simplement pas possible. Nous sommes biologiquement trop stupides, trop agressifs et impulsifs, nous ne vivons pas assez longtemps dans des conditions de vie nous permettant d'apprendre pour que ça puisse arriver. Nous n'avons pas les sources d'énergie pour cela, pas encore.
Et quand bien même ça arriverai dans un mois, ça ne changerait pas d'autres problèmes fondamentaux comme la maladie, le vieillissement, les accidents biologiques et les limites des capacités humaines. Ce sera toujours l'humanité.
“I'm smart enough to know that I'm dumb.” Richard Feynman
si on commence à craindre ce genre d'évènement, on peut déjà prévoir une loi stipulant qu'une machine "active" (capable d'actions matérielles dans le monde réel) soit obligatoirement construite avec un interrupteur ON/OFF inaccessible à la machine et commandable à distance, sous peine de très lourdes amendes, ça éviterait déjà un paquet de problèmes potentiels pour ceux à qui ça fait vraiment peur !
qu'est ce que ça signifie au juste "maîtriser complètement son environnement" ?
Ouh là effectivement j'avais absolument pas compris ta question comme ça! Ma réponse est donc à côté de la plaque, sans aucun doute.
Tout à fait.Tout dépend de la définition que tu mets derrière "maîtriser". Visiblement nous n'avons pas la même définition,
Je suis d'accord, mieux vaut en rester là.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
Ou avec les trois lois de la robotiquesi on commence à craindre ce genre d'évènement, on peut déjà prévoir une loi stipulant qu'une machine "active" (capable d'actions matérielles dans le monde réel) soit obligatoirement construite avec un interrupteur ON/OFF inaccessible à la machine et commandable à distance, sous peine de très lourdes amendes, ça éviterait déjà un paquet de problèmes potentiels pour ceux à qui ça fait vraiment peur !
“I'm smart enough to know that I'm dumb.” Richard Feynman
un conflit comporte une notion de résistance propre ele aussi au vocabulaire de science physique
L'homo sapiens en général peut être. moi je me débrouille pas trop mal dans ma vie quotidienne et la vis assez bien. Les autres sont des personnes qui ont un libre arbitres et font leurs choix de vie avec leurs histoires , leurs conflits, leurs appaissements. Je n'ai pas à décider pour eux.
ça ne changerait certainement pas les problèmes fondamentaux auxquels sont confrontés l'humanité mais ça permettrait de ne pas gaspiller les capacités humaines dans des confrontations.
question subsidiaire : quelles sont les limites des capacités humaines , vu qu'elles semblent s'accroitre régulièrement de génération en génération ?
Vous m'excuserez, je reviens sur un point :
Ne peut-on pas quantifier la complexité en cherchant le plus important flux d'entropie dégagé pour un système donné ?
@ +
A mon avis, il y a une confusion sur la notion d'intelligence ou de capacité physique.
On parle ici d'IA qui serait beaucoup mieux outillé, pour observer son environnement, en tirer des conclusions et agir.
On extrapole ces capacités et on considère qu'elles sont extensibles.
C'est l'idée qu'on se fait de l'intelligence lorsqu'on voit par exemple un ordinateur battre un humain aux echecs, saisir un objet avec précision, voir un robot capable de plus de puissance physique.
Or l'intelligence, ce n'est pas une question de puissance.
C'est, je pense, ce qui mène à l'action qui présente un interet pour la survie de l'espece.
Toute autre action n'est pas intelligente.
Si on considere que la plus petite des actions, peut avoir de grandes concéquences dans le futur.
Quel serait cette IA capable de la prouesse d'évaluer celle-ci dans un futur, soyons modeste, d'une génération ?
Aucune.
Cette règle n'est pas absolue à court terme, mais elle est incontournable dans le cas ou les interactions sont plus nombreuses, ou considérées dans un avenir lointain.
Nul ne peut savoir quelle pensée émergera de son esprit dans 5 minutes, par exemple.
Le simple fait de s'arreter 1 seconde à contempler un objet, peut faire toute la difference entre deux évenements dans 1 heure.
Et fera toujours la différence dans 10 ans, concernant la pensée qui peut émerger dans notre esprit.
La question est d'autant plus critique que la capacité d'action est forte.
Puisque l'action est conditionnée par la pensée.
L'être humain est-il intelligent ?
Ma foi oui, nous sommes pour le moment là pour en témoigner.
Et les fourmis ?
Aussi. Toute forme de vie qui perdure est intelligente.
Une IA conçue par l'être humain serait-elle intelligente ?
C'est l'avenir qui le dirais, mais rien ne permet de l'affirmer à-priori.
certainement, mais l'expérience prouve qu'il ne faut pas s'attendre à des miracles et certainement pas dans les 50 ans qui viennent
Aucun d'entre nous ne peut choisir de rester jeune et actif pendant 100 ans, aucun d'entre nous ne peut combiner les capacités d'un Einstein-Tolstoï-Léonard de Vinci-Cousteau etc...et l'éducation, le temps libre alloué ni changeront rien. Nous n'avons qu'un contrôle limité sur nos états psychologiques, notre agressivité et notre irrationalité par exemple.question subsidiaire : quelles sont les limites des capacités humaines , vu qu'elles semblent s'accroitre régulièrement de génération en génération ?
Mais bon, là on tend à s'écarter du fil. Je vais essayer de tout recadrer.
“I'm smart enough to know that I'm dumb.” Richard Feynman
d'accord , nous sommes limités par notre usine biologique qui s'use et se fatigue. la génération suivante d'IA humaine elle est fraiche et peut bénéficier de l'IA de la génération d'avant. c'est notre égoisme à nous vouloir comme une individualité voulant être une finalité qui biaise notre perpespective... encore une histoire de "lacher prise..."
il y a selon moi beaucoup de répétitions dans des approches différentes (biologie, art, philopsophie etc...),du coup ça me parait pas si insurmontable si cette perspective est correcte
.
ça reste toujours une question de travail sur soi et de tenter l'effort de se raisonner. c'est loin d'être un comportement inné je te l'accorde, mais c'est la seule voie que je vois pour passer de 1.0 à 2.0
tu m'y as entrané j'ai suivi, je suivrais l'autre mouvement si j'en suis capable
Et, justement pour citer ce cas, la longévité, voir la capacité à maintenir une activité prolongée est-elle un atout ?
L'être humain est conditionné par des rythmes, qui conditione son activité.
Les rythmes, par exemple le réveil journalier reconditionne les activités d'une journée.
L'être humain se montrerait-il aussi intelligent si son activité serait de 240 heures par exemple, ou sa longévité de 1000 ans, sans rituel ou activité récurrente ?
L'activité récurente et le respect des cycles, pemettant je pense de reduire la divergence des actes issus des petits hasards.
je ne crois pas aux miracles...
j'essaye tant bien que mal d'avoir une démarche scientifique
Te fais de bile.Ok. Donc fin de l'espèce humaine.
C'est pas du tout l'idée que je me fais d'un avenir amélioré, mais bon...
Dés que le soupcons que ces délires vont étres sur le point de sembler arriver, des opposants feront comme pour les OGM. Destruction des machines, et surtout introduction de virus dont ne sauront pas se défaire les machines.
D' ailleurs c' est déjà le cas.
Ces machines trés compliquées auront des maladies trés compliquées qui nuiront à leur développement.
La parade est facile il suffit d'énoncer qu'elle seront s'en prémunir, car seront dotées d'une intelligence incommensurable ...Ces machines trés compliquées auront des maladies trés compliquées qui nuiront à leur développement.
Patrick
Ben vu que ca n' est jamais arrivé dans l' histoire des étres vivant et de l' évolution, on peut prédir que ca n' a aucune chance d' arriver.
Les virus informatiques sont déjà la, et tout ce qui va suivre en informatique et ordinateurs devra vivre avec.
Et puis il y aura pas mal d' humain pour aider à faire échouer un tel projet d' ordinateur supra humain.
Je ne saurais vous rappeler les opposants anx nano-technologies, à l' idée de "progrés" infini. Et puis l' existence des réseaux de hackers qui se feront un plaisir de lancer des concours de dégommage de ces "supra ordinateurs devant concevoir/fabriquer des supra ordinateurs encore plus puissant".
Bon de toute facons, tout ca c'est de la foutaise absolue. Il n' y pas le moindre indice laissant à penser qu' un ordinateur peut concevoir et pire, construire un supra ordinateur plus puissant que lui sans qu' il ait besoin de l' humain.
Eh Popaul, elle est ou la clé à molette pour fixer cette carte ?
Ça j'ai un peu de mal à y croire. Pour être capable de dégommer efficacement des machines aussi sophistiqués il faut à peu près comprendre comment elles fonctionnent.
Pour ce faire il faut étudier attentivement le sujet. J'ai du mal à croire que des gens vont passer des années à étudier un sujet précisément parce qu'ils haïssent son existence.
Les hackers ne cherchent pas, en général, à détruire toute forme d'informatique dans le but d'en ralentir le développement. Ils ont tendance à cibler quelque chose de précis.
La présentation de Yudkowsky est pleine de raccourcis. A mon sens le plus important est celui-ci :
L’essence de la révolution est l’intelligence brute.
Révolution au sens évolution de la connaissance et de la technique.
De deux choses l'une soit le progrès de la science est un corollaire d'un progrès de l'intelligence brute. Et alors Newton n'était pas sur les épaules de géant, mais bien un géant parmi des nains. Soit la gravitation universelle n'est pas une révolution...
Un autre aspect un peu ridicule c'est le caractère tout à fait unidimensionnelle dans sa mesure et universel dans son application de "l'intelligence brute".
S'il arrive à construire une intelligence supérieure à la sienne alors elles sera supérieure dans tous les domaines... Le meilleur programmeur sera aussi le meilleur inventeur de hardware et le meilleur théoricien et le meilleur logicien et le meilleur sociologue...
Hum hum c'est un tout petit rapide.
Ce qui est aussi beaucoup trop rapide, mais est une conséquence logique du premier raccourci c'est le passage de 2 ans de travail à é ans de travail subjectif. Comme si le seul travail était intellectuel. Il n'y a jamais de test à faire, jamais de temps de programmation effectif et de débuguage, jamais de construction effective du hardware... Seulement des calculs.
Mais vraiment pour moi ce qui cloche vraiment et n'est absolument pas justifié, mais nécessaire à la singularité comme infini, c'est le rapport linéaire entre le temps de doublement de la capacité de calcul et "l'intelligence". Le coefficient de la loi de Moore comme fonction linéaire de l'intelligence des travailleurs c'est vraiment trop gratuit comme idée. Je veux dire que je ne vois aucun argument en ce sens.
Par contre, plutôt sur la discussion en elle-même, je ne comprends pas très bien les partisans de l'impossibilité de fabriquer au choix une IA vraiment A)intelligente, B)consciente, C) avec des sens, D) avec des émotions.
L'argument évident c'est déjà arrivé. Je veux dire regardons nous. Si en partant d'une amibe on arrive à nous, et qu'on admet qu'on a les qualités précités, comment peut-on prétendre qu'il nous est impossible de refaire à notre façon ce qui a déjà été fait ? Il me semble que tous les arguments pour dénier une de ces possibilité à une IA s'appliquerait immédiatement aux IN que nous sommes en un contre-exemple évident.
Du coup, à moins de nous considérer comme des modèles de perfection, il est possible de nous dépasser, comme il a nous a été possible de dépasser l'amibe, ou au moins comme il est possible à un génie de dépasser le commun des mortel au moins dans un domaine de l'intelligence.
Bien sûr "dépasser" suppose un critère de mesure. Mais ce critère de mesure n'a pas à être explicitement quantifiable. Sinon il m'est impossible de dire que je suis plus intelligent qu'une amibe... Ou dit autrement une relation d'ordre n'est pas nécessairement une distance...
en réalité, c'est le problème : comme il n'y a pas de mesure objective quantifiable , on ne fait que des évaluations subjectives basées sur la comparaison avec nos comportements. Or notre comportement n'a de sens que par rapport à notre nature, nous agissons pour des raisons "humaines", qui reviennent à un moment à satisfaire des désirs de notre corps biologique (incluant des choses comme le besoin de reconnaissance, par exemple, qui a tout prendre doit découler de notre besoin de reconnaissance par nos parents, qui a du s'installer par la nécessité d'apprendre en leur "faisant plaisir", etc, etc ....)
bref tous nos critères sont relatifs à des actions qui n'ont aucun "sens " pour les robots. On suppose qu'ils pourraient les retrouver spontanément mais il n'y a aucune raison, ils n'ont aucune raison de retrouver "par hasard" un comportement qui n'a aucun sens vis à vis de leur corps matériel, pas plus qu'un humain ne peut se mettre à se conduire comme une grenouille "par hasard".
La seule raison pour laquelle les robots imitent les humains, c'est que NOUS avons très envie (pour des raisons encore mystérieuses pour moi) de fabriquer des objets qui nous ressemblent - c'est NOTRE désir qui s'exprime, pas le LEUR.
Comment ça "au choix"? Mais ne faudrait-il pas qu'elle ait tout ça en même temps plutôt?je ne comprends pas très bien les partisans de l'impossibilité de fabriquer au choix une IA vraiment A)intelligente, B)consciente, C) avec des sens, D) avec des émotions.
Ensuite, le fait que nous ayons, nous, tout ça ( à différents degrés) ne prouve absolument pas que nous arriverons un jour à en faire autant! Ou alors s'il faut pour cela 4 milliards d'années...on n’est pas rendus!
Ceci dit, personne n'a dit ( à mon souvenir) que ce serait impossible...mais avant, il faudra comprendre dans le détail comment tout ça fonctionne chez nous, et on n'y est vraiment pas. Ensuite, quand on y sera ( si on y arrive), ça voudra dire qu'on aura une bonne chance de guérir toutes les pathologies entrainées par un dysfonctionnement de nos systèmes divers et variés...à partir de ce moment, où sera l'intérêt de fabriquer une humanité 2.0?
Je conçois tout à fait qu'on veuille créer des machines qui pourront faire ce que notre "pauvre" biologie nous interdit d'envisager ( nous déplacer en milieu hostile à moindre risque) , mais je ne comprends pas du tout la démarche qui consiste à vouloir nous améliorer nous au lieu de nous contenter ( et ce serait déjà merveilleux) de trouver une solution pour guérir les maladies. Autrement dit de réparer. Simplement.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
plus que le temps, à mon avis, ce sont les raisons pour lesquelles on est arrivé là qui sont importantes : l'évolution aléatoire ne conduisant nulle part a priori, l'homme n'est homme que parce qu'il a été sélectionné dans un environnement particulier (essentiellement, en Afrique dans la savane pour lutter contre des prédateurs et trouver de la nourriture efficacement). Aucune de ces raisons n'est pertinente pour un robot, donc pourquoi convergerait-il vers le même comportement ? y a aucune raison.Comment ça "au choix"? Mais ne faudrait-il pas qu'elle ait tout ça en même temps plutôt?
Ensuite, le fait que nous ayons, nous, tout ça ( à différents degrés) ne prouve absolument pas que nous arriverons un jour à en faire autant! Ou alors s'il faut pour cela 4 milliards d'années...on n’est pas rendus!
Et si on veut le controler pour faire ce que nous attendons de lui, c'est l'inverse : on doit donc concevoir une machine qui ne fait que ce qu'on attend d'elle - sinon comme fait remarquer Faith c'est qu'elle est mal programmée, et on la met à la poubelle (vous acheteriez un ordinateur qui ne fait rien de ce que vous lui avez demandé vous ?).
Donc en gros ce qu'on demande à un robot c'est : sois libre, mais fais surtout la même chose que nous ! paradoxe bien connu des sophistes ...
