1) Oui laurent. Tu as raison. Mais cet Einstein-là n'aurait probablement jamais trouvé la RG.Envoyé par mtheory
2) Oui. Mais comme pour un enfant, tu ne sais absolument pas comment il va se développer...ni dans quel sens. Peut-être d'une façon que tu n'aurais jamais imaginée, et qui s'avèrera totalement inutile voire même néfaste pour ses "éducateurs".
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
C'est vrai. Mais tant pis...entre l'IA et l'être humain...je choisis l'humain, ne serait-ce que parce que je peux lire sur son visage, interpréter ses attitudes, en un mot toute la communication non-verbale que je n'aurai pas avec une IA. Et qui compte énormément pour moi.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
Personne n’a dit que l'IA résoudra tous les problèmes en restant confinée dans le dispositif où elle se trouve sans échanger avec l'extérieur. Cela inclue qu'elle peut proposer des observations, faire des expériences et proposer des plan de machines nouvelles pour le faire. De toute façon arrivé à un point, elle doit en savoir suffisamment pour avoir d'excellentes simulations informatiques de certains systèmes physiques, par exemple des cellules ou le câblage neuronal d'un cerveau qui aura été scanné.
Et là, elle a tous le loisir de réfléchir de découvrir de nouveaux outils mathématiques et de faire de l'expérimentation numérique pour découvrir de nouvelles lois. On fait déjà tout ça.
Parmi les idées derrière la singularité il y a celle que l'on puisse déjà bien comprendre des cellules individuelles, comme des neurones, scanner la configuration d'un cerveau humain et reproduire le câblage dans une simulation sur une machine adéquate, fut-elle quantique, ou faire croitre un cerveau artificielle en simulation dans la machine à a façon d'un enfant en interaction avec une réalité virtuelle ou non.
Que l'on pense que l'esprit soit non-mécanique, immatérielle ou non et transcende ultimement une machine de Turing sur du silicium, c'est un fait qu'une configuration matérielle qui se comporte en première approximation comme un ordinateur classique se met à penser et ressentir quand elle atteint un certains type d'organisation et de complexité. Si l'on copie cette organisation et cette complexité dans un système matérielle adéquat, on doit avoir une conscience, sous réserve que l'on puisse avoir un système adéquat.
La lumière est une onde, le son aussi. Pourtant le champ électromagnétique ça n'est pas une onde dans un milieu matériel et une onde dans un milieu matériel aura beau avoir une structure identique à celle d'une onde électromagnétique, ce n'est pas de la lumière.
Je développerai ça plus tard, c’est important.
Je ne dis pas que je crois à tout ça, je réfléchi juste dans tous les sens, en devenant parfois l'avocat du diable.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Absolument, c'est bien l'un des problèmes potentiel avec la singularité. Chalmer a des réflexions là-dessus.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Certes, mais dans ce cas, pourquoi parler d'intelligence, voir de conscience, et en déduire l'exact parallele avec le vivant ?
L'IA reproduit une fonction.
La fonction de ce que l'on a nommé, l'intelligence, que nous ne savons d'ailleurs, pour rester scientifique, ni quantifier, ni qualifier autrement que par des test en dehors du contexte de la vie.
On reconnait quelques propriétés, que l'on peut observer sur des êtres (issus du carbone ou autre) et désignons ces propriétés commes représentatives d'un processus cognitif. L'intelligence.
Sinon, admettez déja que le moindre PC est bien plus performant à bon nombre de tâches que l'être humain.
Mais l'origine de l'intelligence issue du carbone et celle que l'on peut créer est differente, je pense.
Produire une IA de même qualité que l'être vivant nécessite le même substrat, à savoir des cellules.
Une cellule est d'une complexité inouï (dans le sens de l'aboutissement à une organisation extremement robuste), issue d'une évolution de plusieurs milliards d'années, entre milliards de cellules et des milliards d'êtres au sein d'un environnement présentant des variations et propriétés multiples.
Dont certaines sont emmergentes et évoluent conjointement à ces êtres...
Et comme-ça, l'asticot veut reproduire un Soleil ?
Une ampoule à la rigeur.
Sinon, on reproduit la fonction, qui n'est pas comparable, je le pense, à notre intelligence et à celle de tout être vivant.
Il suffit de désigner l'intelligence de l'IA pour ce qu'elle est.
La lumiere de l'ampoule n'est pas la lumière du jour.
Il suffit d'être clair sur la désignation des termes.
Un corps, est en lui-même intelligent, et vit en intelligence avec son milieu.
Une IA en serait-elle capable ?
Et quels critères proposez-vous dans ce cas hypothétique, pour établir ce fait ?
Tout à fait, c'est une machine.
Une pelleteuse est très efficace pour soulever de la terre.
Sa fonction c'est de creuser.
J'ai vraiment l'impression que vous n'arrivez pas à faire la distinction entre le "phénomène physique" que l'on se représente par exemple par une onde est la traduction que nous présente le cerveau qui n'a aucun sens en lui même matériel.
Cette confusion est en mon sens une impasse pour l'intelligence artificielle.
Patrick
pardon pour le salto arrière
chacun ses choix de vie ^^ moi je trouve que vivre en bonne intelligence avec moi même est un pari qu'il vaut le coup de tenter pour commencerDisons que la vie en "bonne intelligence"avec une autre forme intelligente est un pari risqué tant qu'on ne connait rien de cette forme.
ou parler pour ne rien dire (ça ne te vise pas spécialement)
est que dans une certaine mesure ce n'est pas déjà vrai pour les homme entre eux avec l'intelligence humaine ? (à moins que je n'ai pas saisi la portée de la réserve que tu exprimes)
Dernière modification par xxxxxxxx ; 24/08/2011 à 20h47.
l'idée c'est que si ! Par exemple, on pourrait imaginer une copie de toi avec ta mémoire mais comme les neurones simulés n'ont pas les limites humaines, y a pas de problème de manque de glucose, de manque de certains neuromédiateur ou autre hormones et pas de limite à la croissance des connexions ou a la mémorisation, en tout cas moins que pour un humain et déjà là ça fait la différence.
De toute façon, notre cerveau fait une réalité virtuelle du monde, les couleurs, les sensations sont essentiellement dans notre esprit, pas vraiment dans le monde extérieur. Tu pourrais, enfin, ta copie, se trouvé dans une réalité virtuelle indiscernable de celle vécue par un corps biologique.
Quand les tenants de la singularité parlent d'uploading, c'est avec l'idée encore plus spéculative que les conflits entre IA et humanité biologique, même une humanité boosté biologiquement, sont résolus par le véritable transfert et non plus copie des consciences des individus dans un système d'IA où là les limites biologiques du cerveau ne sont plus là. De ce point de vue, rien de l'expérience humaine biologique n'est automatiquement annulé mais tout est transcendé et amplifié, gardant même ses valeurs morale mais capable de s'améliorer.
Évidemment, ça diminue les risques de dérapage mais ça ne les annule pas...si pour une raison ou un autre au début du processus de fabrication d'une super IA, une copie d'un Gandhi disons évolue en Hitler psychopathe, ça va pas le faire......
“I'm smart enough to know that I'm dumb.” Richard Feynman
Comment ça ? Je suis désolé mais la traduction d'une onde dans mon esprit me permet de faire des théories qui agissent sur la matière parce que des ondes sont bien présentes dans la réalité et le fait que la sensation de couleur rouge ne soient pas identiques à une onde lumineuse rouge ou une théorie d'une onde lumineuse rouge ne ne m'empêche pas de créer quelque chose qui est une onde lumineuse rouge.
Votre cerveau est fait de matière, que l'on ne comprenne pas encore comment l'esprit est généré n'empêche pas que l'on puisse intervenir dessus ni même que l'on puisse en créer d'autres puisque nous le faisons depuis des millénaires.
Je crois que vous faites une fixation avec l'idée qu'un ordinateur c'est forcément que du mouvement de matière comme dans des tuyauteries et que des mouvements de matière ce ne sont pas des impressions sensorielles. Certes mais ça n'est pas le point ! Le point est que nous avons déjà connaissance de mouvement de matière qui sont corrélés à la production de sensation dans notre cerveau. Donc des mouvements de matière, pas tous, peuvent produire de la conscience et ça ne signifie nullement que matière=esprit pas plus qu'électron=lumière.
Dernière modification par mtheory ; 24/08/2011 à 21h02.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Une réalité équivalente au modèle que l'on se construit de nos interactions avec un quelque chose auquel nous appartenons. Les sens en eux même sont la production de notre cerveau conscient de cette appartenance. Si on avait été doté d'une perception du champ magnétique comme certain oiseau comment cela nous aurait été présenté (un son, une couleur, une odeur, une douleur, .... ) ?
La couleur en elle même que l'on perçoit n'est ni dans l'objet, ni dans la lumière.
Patrick
et alors ?
“I'm smart enough to know that I'm dumb.” Richard Feynman
J'ai essayé de répondre dans le message suivant. Il faut tout oublier des connaissances acquises sur nos représentations des phénomènes physiques et ne se concentrer que sur la perception en elle même, c'est à dire par exemple la couleur. Elle ne peut faire sens que relativement à notre conscience et n'a pas de sens (la couleur en elle même) à l'extérieur de nous.
Patrick
Justement,
qu'est ce qui ferait que la "super" IA ne raisonne pas froidement à l'égard d'un être humain ?
Et vis à vis de tout être vivant finalement, puisqu'elle n'en serait pas issue.
Comment ceci serait programmé ?
On copie quoi ? Puisque les facteurs sont differents.
Une selection naturelle ? D'accord.
C'est un peu long, et mieux vaut faire une simulation.
Mais faire une simulation avec tous les facteurs précedement évoqués.
C'est du délire.
Ca marche bien à petite échelle c'est vrai, et si on n'est pas trop exigeant.
J'ai déja programmé une equipe de "joueurs" IA qui jouent au foot, ou d'autres petits êtres. Mutation, Selection, Reproduction.
Bon y a de la perte, parfois il faut faire un rollback.
C'est surprenant d'ailleurs, la stratégie la plus efficace n'est pas forcement celle à laquelle on s'attend.
Mais si cet IA est tres intelligent, de base.
Et laché dans la nature, ce sera facile pour lui de biaiser.
Oui Maitre, bien sur Maitre.
Un beau bordel en perspective.
On ne sait pas ce qu'elle est. Comment alors être persuadé que les sens en général ressentie pourrons apparaître suite à une émulation d'un être artificiel ?
Patrick
complétement incompréhensible car je ne vois pas le lien avec la discussion, je suis désolé....j'ai l'impression depuis le début que vous raisonnez avec une logique bouddhique, je me trompes ?
“I'm smart enough to know that I'm dumb.” Richard Feynman
Arghh! C'est bien ce que je craignais...l'idée c'est que si !
Et je m'évertue à dire depuis des pages ; NON! Je ne suis pas juste un cerveau! Pas question de m'implanter la mémoire ou quoi que ce soit de ce genre dans une machine avec des connecteurs en silicium partout!Voui j'ai bien compris! Et je continue à dire NON! Ce serait pas moi du tout, ce machin! Ce serait...juste un cauchemar, quoi...Par exemple, on pourrait imaginer une copie de toi avec ta mémoire mais comme les neurones simulés n'ont pas les limites humaines, y a pas de problème de manque de glucose, de manque de certains neuromédiateur ou autre hormones et pas de limite à la croissance des connexions ou a la mémorisation, en tout cas moins que pour un humain et déjà là ça fait la différence.
Euh...j'ai le plus grand mal avec ce style de discours.De toute façon, notre cerveau fait une réalité virtuelle du monde, les couleurs, les sensations sont essentiellement dans notre esprit, pas vraiment dans le monde extérieur. Tu pourrais, enfin, ta copie, se trouvé dans une réalité virtuelle indiscernable de celle vécue par un corps biologique.
Voire même je n'y adhère pas du tout.Tu veux me dire que quand je serre un de mes enfants dans mes bras, c'est virtuel? Là, là, ça va pas le faire, Laurent...
Euh...oui mais non. Moi je veux garder mon corps biologique de départ. Que veux-tu, j'y suis attachée, c'est comme ça. Je voudrais simplement qu'on puisse réparer quelques petits trucs qui défaillent par-ci par-là , mais dans l'ensemble, un support différent, non merci.Quand les tenants de la singularité parlent d'uploading, c'est avec l'idée encore plus spéculative que les conflits entre IA et humanité biologique, même une humanité boosté biologiquement, sont résolus par le véritable transfert et non plus copie des consciences des individus dans un système d'IA où là les limites biologiques du cerveau ne sont plus là. De ce point de vue, rien de l'expérience humaine biologique n'est automatiquement annulé mais tout est transcendé et amplifié, gardant même ses valeurs morale mais capable de s'améliorer.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
Mais personne n'est persuadé, on l'a déjà dit à de multiples reprises, mais clairement rien ne s'oppose de façon concluante à ce que ça se produise.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Le lien avec la discussion est le fait d'être persuader que l'on pourra reproduire artificiellement ses ressenties.
Au passage je suis athée.
Patrick
Est-ce un avis personnel ou as-tu des arguments pour l'étayer ?
Et ? Cela t'amène à quelle conclusion ?
Non, l'enfant est bien là et la sensation réel mais, enfin pour ce que l'on sait. Je veux juste dire qu'une IA pourrait ne pas se rendre compte qu'elle est non biologique, son expérience serait indiscernable.
ça va peut-être te surprendre mais tout en étant pas du tout automatiquement troublé par l'idée que mon esprit pourrait un jour être transféré dans une IA je ne n'ai pas l'impression que cela implique nécessairement que je ne suis qu'un cerveau ou une mécanique ou que cela invalide mon expérience "humaine" et les valeurs qu'on lui attribue.
“I'm smart enough to know that I'm dumb.” Richard Feynman
[QUOTE=ù100fil;3677870]Personne ne l'est iciLe lien avec la discussion est le fait d'être persuader que l'on pourra reproduire artificiellement ses ressenties.
Ok, ceci dit, ça n'est pas contradictoire avec ce que je suggérais.Au passage je suis athée.
“I'm smart enough to know that I'm dumb.” Richard Feynman
Envoyé par Zombiliclas
La production de nouvelle connaissance dépends énormément de l'environnement dans lequel l'intelligence travail.
Moi tout ce que j'essaye de refuter c'est l'idée que de la création d'un être intelligent par un autre moins intelligent s'ensuit en un temps fini une singularité.
Pour arriver à la singularité il faut établir un rapport numérique entre l'intelligence de la créature et l'intelligence du créateur. Je dis que les hypothèses de EY sont beaucoup trop forte et basées sur rien.
1) la production de connaissance est une fonction proportionnelle a I*t où I est l'intelligence (comme quantité unidimensionnelle) et t le temps qu'elle passe à travailler.
2) D Le temps de doublement de la puissance de calcul est une fonction proportionnelle à I
3) Le doublement de la puissance de calcul correspond à un doublement de I
De là on tire après T1 où Ia, l'intelligence artificiel devient égale à l'intelligence humaine on a Ia(T1+D)=2Ia Et le temps de doublement de la puissance de calcul est divisée par 2. Ce qui revient à dire pour EY que le temps de travail subjectif est doublé...
Mais comment justifie-t-il ces hypothèses ?
Pour lui c'est l'intelligence qui est la seule variable. Des singes ne découvriraient jamais la relativité générale. Donc la seule donnée pertinente dans la découverte de la RG c'est l'intelligence d'Einstein.
Ca c'est un biais logique classique. C'est un faux raisonnement par l'absurde, il fait comme s'il suffisait d'éliminer une hypothèse absurde pour démontrer son hypothèse.
Si on admet que l'environnement d'Einstein est important pour sa découverte, l'intelligence n'est plus la seule variable et tous le raisonnement conduisant à la singularité n'est plus qu'un acte de foi.
C'est une prise de conscience de soi reproductible par tout le monde, elle n'a besoin d'aucun présupposé. Ce qui m'expante c'est vos croyances d'extrapolation de phénomène qui vous échappe complètement.
Patrick
Oh venant de toi plus rien ne peut me suprendre!ça va peut-être te surprendre mais tout en étant pas du tout automatiquement troublé par l'idée que mon esprit pourrait un jour être transféré dans une IA je ne n'ai pas l'impression que cela implique nécessairement que je ne suis qu'un cerveau ou une mécanique ou que cela invalide mon expérience "humaine" et les valeurs qu'on lui attribue.
Je comprends ce que tu dis et je te crois tout à fait, mais la différence entre toi et moi, c'est que toi tu es prêt à renoncer à ton "support biologique d'origine" pour une vie "améliorée", on va dire, et moi...ben pas du tout.
Et ça, c'est je le crains une différence irréductible.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
Qu'elle réponse apporterais-tu à ma question. Tu es dotée de la perception du champ magnétique comment ton cerveau te présente se nouveau ressentie ?
Patrick
Pire qu'un cauchemard, une camisole.
On peut imaginer que l'on puisse interfacer un cerveau avec une machine dans un futur pas si lointain que ça.
Par exemple, la machine est capable de calculer comme un ordinateur, le cerveau produit la question, la machine (une petite boite) fourni la réponse.
Le cerveau interprete la réponse et n'y voit que du feu. C'est lui-même qui "sait".
C'est alléchant.
Maintenant, on peut aussi imaginer une autre machine (une petite boite
Dois-je écraser cet insecte ou pas ?
Etc, les possibilités sont nombreuses.
Personnellement, j'appelle cette boite une telecommande, ou une camisole au choix.
D'ou ma remarque précedente, du Cyborg, qui contrôle l'autre ? L'homme ou la Machine ?
Etendre le champ sensoriel, ok, mais je pense qu'il vaut mieux laisser le cerveau, qui a fait ses preuves, interpreter à sa guise en passant par les canaux usuels.
Sciences Humaines
Es-tu solipciste ?
Si oui pourquoi tentes-tu de communiquer avec un monde déconnecté de ton monde intérieur ? A moins que te ne nous considères que comme une partie rigolote de ton monde...
Si non merci de le dire.
C'est une question qui découle de l'intelligence artificielle, en quoi cela fait avancer le débat ? Tu as déjà posé une question du même calibre est-ce surnaturel. Tu en as beaucoup comme celle la ? crache les toutes on pourra passer à autre chose.
Patrick
Non, désolé.
