Il y a les philosophes comment Kant qui pense que le réel en soi ne nous est pas accessible donc si tel est le cas comme le reproduire ?Envoyé par mh34
Il ne me semble pas que nous ayons tout les éléments du puzzle et leurs corrélations des liens tel que par exemple le passage de l'inerte au vivant.
Patrick
Hum, légère baisse de magnésium alors
Non. Ce n'est pas nécessaire.mais avant, il faudra comprendre dans le détail comment tout ça fonctionne chez nous, et on n'y est vraiment pas.
Quelqu'un ici assène ce préjugé à coup de "un point c'est tout". Mais ce n'est pas nécessaire.
L'inverse en est de même. C'est dans l'état de nos connaissances actuelles indécidable.
Patrick
Tout à fait.
Là on touche une divergence importante dans le débat. J'ai l'impression que comme Eliezer Yudkowsky, tu considère que la cause structurelle orientant le développement humain est nécessaire pour obtenir un résultat similaire. C'est à dire que le fait qu'il a été sélectionné au sens darwinien est nécessaire à chacune de ces caractéristiques, ou au moins chacune de celles le distinguant de ces ancêtre, en particulier celle qui nous intéresse : l'intelligence.
Je ne suis pas du tout d'accord. Des procédés différents peuvent conduire à des résultats similaires. Prenons un exemple. Pour me déplacer du point A au point B il y a 500 ans j'aurais utilisé une traction animale. Supposons qu'à l'époque un illuminé ait dit : bientôt nous utiliserons le produit de la technique humaine pour remplacer le cheval.
Si je transcris ton argument il devient : le cheval est le produit d'une évolution complexe, dans un environnement où il lui fallait échapper aux prédateur, se nourrir d'une nouvelle espèce végétale... De telles conditions ne s'appliquent pas aux produits de la technique humaine. Donc si nous construisons une voiture il n'y a aucune raison pour qu'elle ait le même comportement qu'un cheval...
Et pourtant les voitures ont cette caractéristique commune avec les chevaux d'être des moyens de transport, du point de vue de l'humain.
Il y a une raison qu'une IA puisse être intelligente. C'est l'Intelligent Design. C'est à dire le fait que nous, êtres intelligents, la concevions intelligente. Ce qui n'est pas un mince problème évidemment, mais c'est un problème technique...
On ne lui demande pas de faire la même chose que nous, on lui demande de faire mieux en moins de temps. La liberté est une autre question. Si j'embauche un architecte pour concevoir ma maison, il n'est pas complètement libre, il est sous contrat. Pourtant il va faire quelque chose que je suis incapable de faire.
Dans ce cas on reproduit les phénomènes qui nous sont accessibles et on espère que des propriétés transcendantes vont apparaître.
En fait ici il n'est pas question de reproduire le réel en soi, mais une qualité apparente du réel en soi, à savoir l'intelligence. En tant qu'elle nous apparait, cette propriété n'est pas cachée et est donc susceptible de copie.
Je ne sais pas si notre comportement n'a de "sens" que selon notre nature, mais la performance de ce comportement s'envisage en dehors de ce sens. Un guépard court plus vite qu'un chat. Indépendamment des raisons qui expliquent cette différence.
Nous n'agissons pas que pour des raisons humaines. Nous agissons aussi selon des contraintes mécaniques et psychologiques. Il n'est pas besoin de supposer une certaine motivation pour mesurer la performance selon une propriété. D'ailleurs les motivations humaines qui poussent à exercer son intelligence sur un même problème peuvent être très différentes.
J'ai l'impression que la seule cause possible pour toi pour utiliser son intelligence, c'est une cause finale. Je ne suis pas d'accord.
Et quand bien même, le ressenti du désir moteur a un aspect matériel qu'il doit être possible de simuler.
Et sinon qu'est ce que vous penser du problème de considérer l'augmentation de l'intelligence comme une fonction linéaire de l'intelligence ?
Parce qu'il y a 2 volets tout à fait distinct dans la singularité.
1) On va créer quelque chose de plus intelligent que nous.
2) Une fois ceci fait l'intelligence va exploser et en 4 ans (prévision pessimiste) il y aura des intelligences infinies ou seulement limitées par les lois de la physique, mais quelque chose comme 3^^^^3 fois plus intelligente que nous. ^au sens de la notation de Knuth (ou Conmay je ne sais plus).
Autant je trouve 1) probable sur plusieurs siècles, possible sur quelques décennies.
Autant 2) me parait être un calcul tout à fait ridicule avec des prémisses tout à fait ridicules. Que l'intelligence d'une IA soit une fonction croissante de l'intelligence de son créateur, avec toutes les difficultés de mesure de l'intelligence que cela implique, je veux bien le concevoir, voir le prendre comme hypothèse a priori en attendant mieux. Mais pourquoi une fonction linéaire ???
C'est une hypothèse, maintenant comment à partir du silicium faire apparaître les propriétés de perception ressenti qui sont un des éléments constitutif de l'intelligence pour un être vivant ?
Patrick
1) ; je me fais faire un dosage, promis!1) Hum, légère baisse de magnésium alors
2) Non. Ce n'est pas nécessaire.
Quelqu'un ici assène ce préjugé à coup de "un point c'est tout". Mais ce n'est pas nécessaire.
2) ; va vraiment falloir m'expliquer ( si c'est possible...) comment on peut prétendre faire une copie si on ne sait pas comment fonctionne l'original? Ou alors vous ne tenez pas à...(comment dit-on? implémenter?) bon bref, mettre toutes les caractéristiques humaines dans vos machines sensées remplacer l'humanité?
Finalement, je crois que, au bout de 450 messages, je ne comprends absolument plus ce dont on parle,je vais donc me retirer discrètement de la discussion.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
je plussois.
pour "améliorer" qcq chose,il faut déjà comprendre comment ça marche !
je ne sais pas faire une ferrari sans comprendre le moteur de ma 2CV.
par contre , je peux améliorer les pneus.
sinon, en vous lisant, j'ai un doute, certains evoquent un homme "augmenté", d'autre une IA independante qui serait supérieure!
la première hypothèse me fait un peu flipper ( théorie du chaos )
la seconde me semble inacessible dans l'absolu.
sauf à avoir au préalable totalement décrypter le fonctionnement humain.
il reste que spécialité par spécalité, les modèles s'affinent et les solutions d'IA ne manqueront pas.
Et comment le faire à partir du carbone ?
Je n'ai la réponse ni dans un cas ni dans l'autre, mais c'est déjà arrivé.
Je ne dit pas que je vais le faire demain. Je dit simplement que je ne vois pas de différence entre faire apparaitre l'intelligence et les perceptions ressenties par les êtres vivants de façon naturelle à partir de matériaux organiques et les faire apparaître sur une base de silicium.
Je ne vois pas quelle est le principe qui fait que l'intelligence et les perceptions ont pu apparaitre naturellement à partir de la matière inerte et qu'elles ne le pourraient pas artificiellement à partir de matière inerte.
L'un est construit à partir de ce que nous pensons avoir compris. Interroge toi sur les perceptions en elle même et la conscience en soi ensuite du devrait y voir plus clair.
Patrick
Donc pour passer du cheval à la voiture il faut tout comprendre de la physiologie du cheval ?
Pour sélectionner les étalons les plus rapides il faut tout comprendre et de la sélection naturelle et du fonctionnement physiologique des chevaux ?
une voiture n'est pas un cheval "amélioré". c'est autre chose !
les voitures sont incapables de faire certaines choses dont les chevaux sont capables.
Je peux pas encore intervenir pour faire un résumer et un recadrage des arguments mais ça va venir......Finalement, je crois que, au bout de 450 messages, je ne comprends absolument plus ce dont on parle,
“I'm smart enough to know that I'm dumb.” Richard Feynman
En fait c'est très simple: il suffit de ne pas chercher à faire de copie.
A-t-on inventé l'ampoule en copiant la bougie ? Non.
En particulier, vu la différence intrinsèque entre le hardware et la biologie (en particulier le traitement parallèle et désynchronisé), il est même préférable de ne pas chercher à copier
Les caractéristiques humaines ne sont pas le sujet de la Singularité.Ou alors vous ne tenez pas à...(comment dit-on? implémenter?) bon bref, mettre toutes les caractéristiques humaines
La singularité s'intéresse uniquement à l'intelligence au sens général (pas spécialement l'intelligence humaine, ni forcément l'intelligence biologique).
Comme le dit un post un peu plus haut: la voiture et le cheval sont tous deux des moyens de transport, ils ont chacun leurs spécificités, leurs domaines de prédilection, mais partage quand même cette propriété.
Jamais dit ça.dans vos machines sensées remplacer l'humanité?
Non, non ! Toi au moins, tu fais l'effort de poser des questions sur ce que tu ne comprends pas (et de prendre en compte les réponses).je vais donc me retirer discrètement de la discussion.
De toute façon, vu la complexité du sujet, personne n'a réellement de moyen de tout comprendre, de tout connaître.
Tu peux d'ailleurs remarquer qu'alors que je parlais de l'approche "émergente" de l'intelligence dans mes posts précédents (en faisant appel au hasard et à l'évolution), Zombiliclas, lui, parle davantage de la création directe d'une intelligence par l'homme.
Ce sont deux éventualités, chacun a sa préférence, mais pas de "un point c'est tout".
L'essentiel est de se rappeler que rien ne peut être sûr, qu'on peut imaginer des pistes, mais qu'à l'heure actuelle, il est impossible de se prononcer.
A noter: le truc marrant, c'est que quand on sera capable de se prononcer à coup quasi-sûr, on sera déjà dans la Singularité
A une époque, le moyen de transport était le cheval.
Quand on a cherché à fabriquer un moyen de transport, on n'a pas eu besoin de maitriser la structure des pattes du cheval. On a fait autrement pour atteindre le même but.
Idem pour les avions et les oiseaux: reproduire le vol battu est extrêmement difficile. Mais on a trouvé un autre moyen pour obtenir la même chose.
Bref, reproduire le cerveau d'un être intelligent (il n'y a pas que l'homme) n'est pas obligatoirement nécessaire (on ne sait pas).
Je ne comprends pas.
Peux-tu me dire quelle différence tu vois entre le carbone et le silicium ?
En quoi l'origine de la construction change la possibilité de la construction ?
La conscience à partir du carbone est le fruit de l'évolution.
La conscience à partir du silicium serait le fruit de notre intelligence.
Qu'est-ce qui fait que dans le premier cas l'apparition de la conscience est possible est pas dans le second ?
Du point de vue strictement du transport ou de la vitesse la voiture est un cheval améliorer. Mais admettons.
Ne peut-on pas améliorer la population des chevaux domestiques, par sélection volontaire, sans rien comprendre à la physiologie du cheval, mais seulement en mesurant sa vitesse et en choisissant les géniteurs les plus rapides ?
De même pourquoi ne pourrait-on pas sans tout comprendre, améliorer les IA existantes ?
S'il n'est question que d'intelligence, dépasser l'intelligence humaine nécessite peut-être un saut conceptuel, comme le passage du cheval à la voiture. Mais pas forcément. Si ce n'est pas le cas, c'est clair qu'on peut aboutir à des IA plus intelligentes que nous par des améliorations qui ne nécessitent pas une compréhension totale de l'intelligence mais seulement une capacité à la mesurer (même qualitativement avec un ordre qui ne serait pas une distance) et à sélectionner ce qui marche.
S'il faut un saut conceptuel, qu'est-ce qui nous empêche de croire qu'on va le faire ? On a fait tellement de saut conceptuel du type cheval->voiture qu'il me semble que la charge de la preuve revient plutôt aux partisans de l'impossibilité.
Juste un point, je suis globalement d'accord avec toi mais ici, attention:
Il n'existe pas à l'heure actuelle quoi que ce soit qu'on puisse vaguement qualifier d'intelligent.
Les "IA" actuelles (dans les jeux par exemple) sont "intelligentes" parce que les concepteurs ont intelligemment choisi ses règles de fonctionnement, mais elle ne disposent pas d'intelligence autonome (enfin, à ma connaissance)
Moi non plus je ne comprends pas tes propos. Je fais la différence entre la représentions que nous nous faisons déduites de notre compréhension de nos actions sur un quelque chose d'inconnu et se quelque chose.
Ensuite dire que l'on va reproduire le territoire à partir de la carte et ceci avec d'autre constituant reste à prouver. Tout particulièrement ce qui concerne notre perception et notre conscience de soi.
Explique-moi comment tu fais apparaître par exemple la couleur que l'on perçoit à partir d'éléments mimétisés en allant au delà de simple énoncé ?
Patrick
Je m'excuse, mais, c'est sensé être du français compréhensible ?
De toute façon, l'intelligence, ce n'est pas savoir qu'une boule devant nos yeux est verte. Ca, pas mal de robots en sont déjà capable.
J'ai bien peur que tout le problème soit la. J'ai écrit à titre d'exemple car il me semble être le plus simple pour en prendre conscience car tout les sens et pas seulement les cinq sens identifiés par Aristote sont concernés.
Patrick
En fait ce n'est pas une question de Français, mais une question que tu en a pas encore pris conscience.
Patrick
Effectivement, je suis assez peu porté sur le mysticisme.
Ok je vais essayer de résumer les positions possibles.
1)Il est possible de produire une intelligence/conscience de soi à partir de l'inerte.
11)Il est possible pour l'homme de produire une intelligence/conscience de soi à partir de l'inerte.
111)Il est certain que l'homme va produire une IA le dépassant.
112)L'homme va fabriquer des IA conscientes d'elles mêmes, mais elles seront forcément moins intelligente que lui.
12)Il est possible de produire une intelligence/conscience de soi à partir de l'inerte, mais c'est impossible pour l'homme.
2)Il est impossible de produire une intelligence/conscience de soi à partir de l'inerte.
Pour moi 1) est évident parce que nous sommes là.
11) est probable parce que c'est un problème technique que de reproduire une propriété qui existe dans la nature.
111) me semble bien présomptueux. Et dans le lien du premier message la demonstration m'apparait ridicule.
112) heu... Là je ne vois vraiment pas.
12) à mon sens on est là dans le cadre d'une impossibilité technique. Si on démontrait par exemple que la taille minimale d'un réacteur à fusion viable dépasse la taille de la Terre ce serait un argument valable pour repousser dans l'immédiat la faisabilité technique de la fusion. Mais à mon sens la charge de la preuve revient à l'impossibilité. Tant qu'on a pas des arguments pour l'impossibilité on continu de chercher en supposant qu'on va ou qu'on peut y arriver.
2) voir 1)
Présenter comme ça je me dit que ta position est 12) et que ton argument est la non reproductibilité du "point de vue" ou de la conscience de soi.
En fait comme tu le présentes je comprends plutôt ton argument comme étant la conscience de soi est intellectuellement incompréhensible. Mais j'aimerais une démonstration de ça. Je veux dire si on ne me démontre pas pour des raisons pratique que la fusion controlée et rentable est techniquement impossible dans les conditions humaines, je continuerai de croire que c'est possible et qu'il faut chercher.
Est-ce que je m'approche de ton idée ?
J'ai l'impression qu'on est dans un débat : c'est à toi d'apporter la preuve.
Mais la preuve de la possibilité est immédiate. La preuve de la possibilité par des humains ce sera l'acte de création de cette IA par des humains... Evidemment qu'on a pas la preuve.
L'idée que j'ai c'est la nature a pu le faire, donc c'est possible, donc a priori on peut le faire. Peut-être est-ce impossible en pratique, mais d'où viendrait cette impossibilité ?Et ce disant, je te renvoie la charge de la preuve de 12).
Pour moi on a une preuve de 1) et il s'ensuit que 11) est probable mais pas certain.
@Faith si on a pas d'IA intelligente, alors il faut sauter du chariot à la voiture. Et c'est à mon avis un très bon argument contre l'inéluctabilité de la singularité et surtout contre la mesure de l'intelligence totalement naïve proposé dans le lien du 1er message.
Enfin j'aimerais bien avoir vos avis sur la distinction entre
A) on va avoir une intelligence qui nous dépasse
B) dès lors l'intelligence va croître jusqu'à l'infini ou presque en 4 ans au plus.
Déjà concernant la première question il semble que manifestement que la plupart n'arrive pas à prendre conscience de nos sens c'est à dire la distinction entre l'effet et la cause. Comment alors pouvoir inférer sur la construction d'une conscience en soi qui nous échappe ?
je dois être se transhumain que vous voulez construire, vous venez donc de me faire prendre conscience que je ne suis qu'une machine
Patrick
Des IA trouveront facilement les moyens de les contouner!Ou avec les trois lois de la robotique
Sinon ce ne serait pas des vrais IA.
Nos IA conquerront les étoiles après nous avoir envoyés dans les douces prairies du repos éternel.
Après tout si elles sont vraiment intelligentes, elles nous percevront comme des parasites de la terre.
Le rêve écologique sera enfin réalisé grâces aux IA. L’homme ne dégradera plus l’environnement, il ne sera plus qu’un souvenir au fond des mémoires informatiques.
Ben justement, pour guérir tous les problèmes potentiels du corps humain, il faut une grande intelligence, donc nous améliore ne peut qu'aider à résoudre ces problèmes triviaux, sans examens inutiles et douloureux, arf!
tu es serieux là ou c'est une blague.
l'homme n'est pas la seule espèce sur terre,alors que feront tes IA des autres.?
de surcroit, supposons qu'une IA avec conscience de soi existe.
que penserait-elle du bouton on/off ?
comme HAL dans 2001 !
si je vous lis bien :
ou on crée une forme d''intelligence asservie mais consciente( esclavage d'un nouveau genre )
ou on crée un truc qui va nous détruire !!
il sont sympas vos scenarii !!
Disons que la vie en "bonne intelligence"
Aucune possibilité ne peut être exclue dans ce domaine, donc autant éviter d'en parler, car chacun irait de son avis non fondé.
Disons que la moindre des prudences serait de commencer par un asservissement (ou un isolement strict), au moins le temps d'apprendre à la connaitre.
donc on crée un truc dont on ne connait rien ?Disons que la vie en "bonne intelligence"
.
c'est frankenstein ?
C'est exactement aussi mon opinion.Disons que la vie en "bonne intelligence"
Aucune possibilité ne peut être exclue dans ce domaine, donc autant éviter d'en parler, car chacun irait de son avis non fondé.
Disons que la moindre des prudences serait de commencer par un asservissement (ou un isolement strict), au moins le temps d'apprendre à la connaitre.
Ma seule crainte c'est que l'IA trouve facilement comment briser tout asservissement.
Au fait Faith, tu serais pas une IA ?
mais on ne parle que de ça justement !!!
