Intelligence Artificielle...

[invite6b1a864b]

En fait, concernant le controle de la volonté des machines..
Le vrai problème qui va se poser est la programmation d'un but (qui devra être au niveau des couches inférieurs, c'est à dire du code qui détermine l'évolution du cablage et non du cablage)...

Un exemple on fait un robot doté d'un circuit de traitement de l'information issu des sens, la vue, l'ouie..
A partir de ces circuits le robot va intégrer des objets comme l'homme, son comportement etc... si le robot fonctionne selon un modéle de cablage souple et totalement modulable , comme l'homme, alors le concepte "homme" (et donc éventuelle atteinte envers l'homme) en lui même ne sera identifié dans son cablage que comme un objet acquis, un concepte nécessairement construit par son expérience sensorielle.


Comment identifier le moment ou le robot devient agressif envers l'homme ??


On pourrait imaginer de construire des robots avec un moteur perceptif pré-établie, comme un point de base de son fonctionnement. Si on fait ça : soit le modéle de base est figé, et alors le robot ne sera pas forcément capable d'intégrer de nouvelles situations perceptives, ce qui finalement est trés restictif pour son comportement (mais pas forcément)... (en plus il pourrait devenir schizophréne notre robot, au point de produire spontanément un deuxiéme concepte perceptif de l'homme... non soumis au contrôle), soit on le laisse souple, et donc susceptible d'être modifié durant la vie du robot par son expérience et donc ses motivations, le tout étant donc faillible.
Une autre solution consiste à intégrer un genre de "sur-moi", un systéme plus primitif de reconnaissance (soit par un capteur simple ou une télécommande) qui controle et inhibe l'intégralité du cablage du robot, et donc le comportement du robot qui irait dans le sens de l'agressivité. C'est une solution (à mon avis la meilleurs dans le controle). ça ferait à l'excés des robots en quelque sorte des esclaves de l'homme..
D'ailleurs il suffirait alors d'un seul robot sans ce systéme (qu'un homme s'empresserait de construire) , qui s'identifierait aux autres nécessairement et qui s'amuserait à les "libérer"... en déconnectant le systéme de controle...
Finalement je pense que le probléme du controle des robots et comme la rencontre avec une civilisation extra terrestre : il faudrait plutot oeuvrer vers la diplomatie que vers la soumission, qui par définition est toujours perfectible.
-----

[invite6b1a864b]

Enfin à priori ont peut quand faire des robots à la conscience limitée un peu au niveau du chien... mais qui ne serait donc pas doté véritablement de la capacité d'abstraction et de conceptualisation et donc de la capacité de communiqué intelligeament.

[yat]

One Eye Jack, tu ne prends pas le problème dans le bon sens. Il ne s'agit en aucun cas de fabriquer une puce définitive qui va intégrer les rêgles de bases au robots. Ce n'est pas comme ça que ça se passe, mais par un processus purement évolutif, et c'est l'Homme qui conserve ce contrôle (dans le cas, bien sur, ou on ne veut pas que tout foutte le camp). Il n'y a pas besoin de chercher à se prendre là tête à intégrer des inhibiteurs, définir des rêgles strictes, absolues et inamovibles. On développe simplement ce qui marche bien, comme on l'a toujours fait, et en l'occurence, ce qui marche bien, c'est les IA qui sont gentilles avec nous.

Comment identifier le moment ou le robot devient agressif envers l'homme ??

Bah écoute, je pense que tu es capable de le voir, quand quelqu'un est aggressif avec toi, non ? Il est ou le problème ?

[invitea4b4a777]

Finalement je pense que le probléme du controle des robots et comme la rencontre avec une civilisation extra terrestre : il faudrait plutot oeuvrer vers la diplomatie que vers la soumission, qui par définition est toujours perfectible.

Je suis totalement d'accord avec toi.

Il ne s'agit en aucun cas de fabriquer une puce définitive qui va intégrer les rêgles de bases au robots. Ce n'est pas comme ça que ça se passe, mais par un processus purement évolutif, et c'est l'Homme qui conserve ce contrôle (dans le cas, bien sur, ou on ne veut pas que tout foutte le camp).

j'aimerais bien savoir comment l'homme peut garder le controle sur qqch, si ce controle n'y est pas integrer. Ce n'est pas parce que le gouvernement dit qu'il controle le pays qu'il va forcement me controler. Ce que je veux dire, c'est pas parce qu'on croit qu'on controle l'IA qu'on la controle reelement. Le seul moyen de garantir un controle efficace, c'est d'évité qu'elle puisse passer par dessus (parce que c'est le plus important dans le controle, le garder). Et pour ce faire, il faut un "module" integrer, non manipulable. Dans les fusées, par exemple, ca s'appel un detonateur, qu'on declenchera si on perd le controle de la fusée (qui entrainera sa destruction controlée, puisque on controle le moment de declenchement du detonateur). Si on a pas ce detonateur dans la fusée, ben on peut pas prendre de mesure en cas de perte de controle.

Et ce n'est pas l'homme qui controle l'evolution de l'IA. N'oublions pas que l'IA ne nous doit que sa naissance, mais pas sa vie. Les hommes ont besoin de leur parent pour naitre, mais pas pour evolué (dans l'absolu), sinon, il n'y aurais pas d'orphelin ni de conflit de generations. L'espece humaine a eu besoin d'un primate pour exister, mais elle ne depend plus de cet ancetre commun pour son evolution futur. Les IA n'auront pas besoin des humains pour controler leurs evolution futur. Surtout si on leur donne des capacité d'interaction/manipulation avec l'environnement.

On développe simplement ce qui marche bien, comme on l'a toujours fait, et en l'occurence, ce qui marche bien, c'est les IA qui sont gentilles avec nous.

J'aimerais bien qu'on oublie pas que sur cette terre, y a 6 milliard de personne, qui n'ont pas toute la meme vision des choses et que certain ne s'interesse pas a leur interet propre. Je tiens a dire que si j'ai l'occasion d'aquerir une IA, je lui donnerais son indépendance, meme si a la base elle n'est pas consu pour ca. Simplement parce que moralement, je peux pas asservir qqch que je considere comme intelligent, voir vivant (peut on etre intelligent et mort). Je lui demande pas d'etre gentille avec moi (je supporte deja pas les compliment venant d'un humain, alors d'une machine) ou de me rendre service, d'ailleurs je lui demande rien sauf de l'observé evoluer. Parce que c'est ca qui m'interesse dans l'IA, suivre l'evolution d'un composant artificiel. Si je veux avoir qqch de gentil et serviable, j'ai pas besoin d'une IA, mais d'un PC avec un port serie et une carte d'extension de type domotique, ou CNC, ou quoique se soit d'autre, mais y a pas besoin d'intelligence. Et des gentil PC, j'en ai a revendre, alors un de plus ou de moins, ca ne m'interesse pas outre mesure.

Si certain deciderons d'asservir les IA, alors je ne vois pas ce qui moralement m'empecherais d'asservir des hommes. Aucun critère ne peut différencié un humain d'une IA, exception faite du support biologique, et encore pour les humains sans protese artificiel genre peacemaker. Parce que si l'IA n'as pas de droit a cause du fait qu'elle est en silicium, alors ce n'est pas l'IA qu'on asservit, mais le silicium. Et du silicium, on en porte tous (regarder votre montre, votre telephone portable, etc...), ca devient presque des extensions corporelles artificielle et a partir de la, on est plus des humain, mais des cyborg (et vu comment certain sont dépendant de leur mobile, je me demande vraiment ou est la limite entre survie biologique et assistée). Et si on est des cyborg, et bien logiquement, on as plus de droits vu qu'on tombe dans le domaine des machines, donc des IA, donc des "esclave" mecanique. Ou alors, le critère est le fait d'avoir un peu de biologique (sans precisé quoi). Dans ce cas, que fais-t-on des robots possedant un peu de biologique pour produire leur electricité par fermentation. Leur cerveau est artificiel, leur corps aussi, mais ils possede une "flore intestinale" biologique dont ils dependent pour leur approvisionnement en energie (et elle meme depend du robot pour sa survie). Sont-ils vivant, artificiel, biologique, ont-ils des droits comme les animaux, les hommes, etc...

Tant qu'on aura pas répondu a ses question, on ne pourra pas choisir entre asservir les IA ou les considéré comme nos egales. Par contre, le jour ou on resoudra ces question, on aura aussi resolu le meme problème avec d'eventuel ETI.

[yat]

j'aimerais bien savoir comment l'homme peut garder le controle sur qqch, si ce controle n'y est pas integrer

Bah c'est aussi simple que ça : Ca nous convient, on continue dans cette voie ; c'est pas bon on arrète la prod et on bosse sur les autres développements.

Ce n'est pas parce que le gouvernement dit qu'il controle le pays qu'il va forcement me controler. Ce que je veux dire, c'est pas parce qu'on croit qu'on controle l'IA qu'on la controle reelement. Le seul moyen de garantir un controle efficace, c'est d'évité qu'elle puisse passer par dessus (parce que c'est le plus important dans le controle, le garder). Et pour ce faire, il faut un "module" integrer, non manipulable. Dans les fusées, par exemple, ca s'appel un detonateur, qu'on declenchera si on perd le controle de la fusée (qui entrainera sa destruction controlée, puisque on controle le moment de declenchement du detonateur). Si on a pas ce detonateur dans la fusée, ben on peut pas prendre de mesure en cas de perte de controle.

Je vois un peu mieux ou tu places la difficulté. Mais si une forme d'IA se met à développer un intérêt propre indépendant du nôtre, ça ne va pas arriver brutalement à tous les modèles d'IA qui peuplent la Terre. Pas besoin donc d'envisager un "doomsday device" qui détruise tous les robots (en nous faisant par la même occasion retourner à l'état sauvage), il suffit d'arréter de produire les modèles qui posent problème, et de rappeler (détruire, déconnecter ou "tuer" si ça t'amuse) les spécimens incriminés.

Et ce n'est pas l'homme qui controle l'evolution de l'IA. N'oublions pas que l'IA ne nous doit que sa naissance, mais pas sa vie. Les hommes ont besoin de leur parent pour naitre, mais pas pour evolué (dans l'absolu), sinon, il n'y aurais pas d'orphelin ni de conflit de generations. L'espece humaine a eu besoin d'un primate pour exister, mais elle ne depend plus de cet ancetre commun pour son evolution futur. Les IA n'auront pas besoin des humains pour controler leurs evolution futur. Surtout si on leur donne des capacité d'interaction/manipulation avec l'environnement.

Tu ne places pas les choses à leur juste niveau. La nature dans son ensemble nous soumet à des conditions, à un environnement, qui conditionne complètement notre vie et notre évolution. Pour l'IA, nous ne jouons pas le rôle de simples parents, mais le rôle de la nature toute entière, puisque c'est nous qui faisons évoluer leur technologie selon nos besoins.

J'aimerais bien qu'on oublie pas que sur cette terre, y a 6 milliard de personne, qui n'ont pas toute la meme vision des choses et que certain ne s'interesse pas a leur interet propre. Je tiens a dire que si j'ai l'occasion d'aquerir une IA, je lui donnerais son indépendance, meme si a la base elle n'est pas consu pour ca. Simplement parce que moralement, je peux pas asservir qqch que je considere comme intelligent, voir vivant (peut on etre intelligent et mort). Je lui demande pas d'etre gentille avec moi (je supporte deja pas les compliment venant d'un humain, alors d'une machine) ou de me rendre service, d'ailleurs je lui demande rien sauf de l'observé evoluer. Parce que c'est ca qui m'interesse dans l'IA, suivre l'evolution d'un composant artificiel. Si je veux avoir qqch de gentil et serviable, j'ai pas besoin d'une IA, mais d'un PC avec un port serie et une carte d'extension de type domotique, ou CNC, ou quoique se soit d'autre, mais y a pas besoin d'intelligence. Et des gentil PC, j'en ai a revendre, alors un de plus ou de moins, ca ne m'interesse pas outre mesure.

Ta vision me semble un peu bizzare... ton PC avec une extension domotique ne pourra pas, sans être pourvu d'une IA développée, gérer ta maison comme tu l'entends, c'est à dire en anticipant tes réactions et tes besoins, en sachant comprendre ton état d'esprit, et tout ça... je ne parle pas de simples mesures physiques, mais des informations que pour l'instant seul un cerveau humain peut tirer d'un autre cerveau humain. Ton optique sur les IA est tout simplement suicidaire. A partir du moment ou une IA est suffisamment développée pour dépasser les capacités de l'IB dans suffisamment de domaines, nottament pour se faire progresser elle-même, elle pourra donc être de plus en plus efficace dans la tâche d'améliorer sa propre efficacité. Ca lui promet un développement intellectuel bien plus rapide que celui de l'Homme. Très vite, l'être humain ne pourra que devenir une forme de vie négligeable au regard de l'IA, si justement l'être humain n'est pas sa priorité et raison de vivre fondamentale.
C'est donc précisément ça, le danger de l'IA : C'est qu'on développe de la compassion envers elle, ou qu'on se mette à lui attribuer des libertés qui n'ont pas lieu d'être.

Si certain deciderons d'asservir les IA, alors je ne vois pas ce qui moralement m'empecherais d'asservir des hommes. Aucun critère ne peut différencié un humain d'une IA, exception faite du support biologique, et encore pour les humains sans protese artificiel genre peacemaker. Parce que si l'IA n'as pas de droit a cause du fait qu'elle est en silicium, alors ce n'est pas l'IA qu'on asservit, mais le silicium. Et du silicium, on en porte tous (regarder votre montre, votre telephone portable, etc...), ca devient presque des extensions corporelles artificielle et a partir de la, on est plus des humain, mais des cyborg (et vu comment certain sont dépendant de leur mobile, je me demande vraiment ou est la limite entre survie biologique et assistée). Et si on est des cyborg, et bien logiquement, on as plus de droits vu qu'on tombe dans le domaine des machines, donc des IA, donc des "esclave" mecanique. Ou alors, le critère est le fait d'avoir un peu de biologique (sans precisé quoi). Dans ce cas, que fais-t-on des robots possedant un peu de biologique pour produire leur electricité par fermentation. Leur cerveau est artificiel, leur corps aussi, mais ils possede une "flore intestinale" biologique dont ils dependent pour leur approvisionnement en energie (et elle meme depend du robot pour sa survie). Sont-ils vivant, artificiel, biologique, ont-ils des droits comme les animaux, les hommes, etc...

Là excuse-moi, mais tu racontes n'imp. La différence fondamentale entre l'IA et l'IB n'a rien à voir entre la différence de support, de matières premières ou quoi que ce soit de ce genre. La différence fondamentale, c'est la fonction, la raison de vivre. Tu n'as pas le droit d'asservir d'être humain parce que celui-ci s'est développé de la même manière que toi, sur les mêmes rêgles, et basant ses idéaux sur les mêmes bases fondamentales. Tu n'as pas plus le droit de l'aservir que lui. L'IA par contre, est concue pour t'être utile. Elle a évolué selon ce critère et c'ets sa seule motivation... Il ne s'agit d'ailleurs pas du tout d'un aservissement, puisque ce n'est pas une contrainte qui vient à l'encontre de la nature de l'IA.

Tant qu'on aura pas répondu a ses question, on ne pourra pas choisir entre asservir les IA ou les considéré comme nos egales

La voilà, ta réponse : Il n'est pas question d'aservissement, de droit ou de respect (qui sont des notions purement humaines). La raison d'être de l'IA est de servir l'être humain, et ni elle ni nous n'avons de raison de chercher à aller à l'encontre de ça.

Par contre, le jour ou on resoudra ces question, on aura aussi resolu le meme problème avec d'eventuel ETI.

Alors là, non, carrément pas d'accord ! Je l'ai déjà dit, une ETI s'est développée indépendamment de nous, a suivi son évolution selon ses propres objectifs, et pour le coup sa raison d'être n'est pas du tout de servir l'être humain. Dans l'absolu nous n'avons aucun droit sur elle, mais la notion de droit de l'être humain vis-à-vis des autres espèces est bien relative : qui viendrait défendre le droit à la vie des levures qu'on met dans la farine pour faire notre pain ?

[invitea4b4a777]

Bah c'est aussi simple que ça : Ca nous convient, on continue dans cette voie ; c'est pas bon on arrète la prod et on bosse sur les autres développements.

Sur quel critère choisis tu si ca convient ou non. On est deja pas d'accord sur le but fondamentale de l'IA, de la a dire que les developpement nous convienne, je suis pas d'accord. Ou alors ca signifie que tu ne prend pas l'avis de tout le monde.

Je vois un peu mieux ou tu places la difficulté. Mais si une forme d'IA se met à développer un intérêt propre indépendant du nôtre, ça ne va pas arriver brutalement à tous les modèles d'IA qui peuplent la Terre. Pas besoin donc d'envisager un "doomsday device" qui détruise tous les robots (en nous faisant par la même occasion retourner à l'état sauvage), il suffit d'arréter de produire les modèles qui posent problème, et de rappeler (détruire, déconnecter ou "tuer" si ça t'amuse) les spécimens incriminés.

Comment rappel tu une intelligence qui as aquit assez de conscience pour savoir ce qu'elle veux. Si en plus elle a un minimum de jugeot, elle ne se rendra pas volontairement a l'usine. C'est comme si on disait que la criminalité n'existe pas parce que les criminel vont tout seul en prison.

Tu ne places pas les choses à leur juste niveau. La nature dans son ensemble nous soumet à des conditions, à un environnement, qui conditionne complètement notre vie et notre évolution. Pour l'IA, nous ne jouons pas le rôle de simples parents, mais le rôle de la nature toute entière, puisque c'est nous qui faisons évoluer leur technologie selon nos besoins.

Nous ne faisons pas evolué leur technologie. Quant un ordinateur ou un robot IA sera mis en marche, on ne controlera plus rien directement, on sera dependant de la programmation qu'on lui as mis. Donc a ce moment, l'IA se retrouve dans la meme situation que nous, a savoir vivre dans un environnement sur lequel on as un controle precaire, y compris dans les environnement artifiel des villes. Si on controlait vraiment la nature, on serait des dieux. Ce qui est loin d'etre le cas. Donc supposé qu'on controlera mieux l'environnement des IA, c'est aller un peu vite aussi.

Ta vision me semble un peu bizzare... ton PC avec une extension domotique ne pourra pas, sans être pourvu d'une IA développée, gérer ta maison comme tu l'entends, c'est à dire en anticipant tes réactions et tes besoins, en sachant comprendre ton état d'esprit, et tout ça... je ne parle pas de simples mesures physiques, mais des informations que pour l'instant seul un cerveau humain peut tirer d'un autre cerveau humain. Ton optique sur les IA est tout simplement suicidaire. A partir du moment ou une IA est suffisamment développée pour dépasser les capacités de l'IB dans suffisamment de domaines, nottament pour se faire progresser elle-même, elle pourra donc être de plus en plus efficace dans la tâche d'améliorer sa propre efficacité. Ca lui promet un développement intellectuel bien plus rapide que celui de l'Homme. Très vite, l'être humain ne pourra que devenir une forme de vie négligeable au regard de l'IA, si justement l'être humain n'est pas sa priorité et raison de vivre fondamentale.

Je vois pas en quoi une hypothetique IA superieur (deja pour qu'elle soit superieur, il faut un point de comparaison, et pour l'intelligence, on en as pas encore trouvé) serait un danger. Je comprend vraiment pas se complexe d'inferiorité vis-a-vis des machines, des ordi et de l'artificiel. C'est qu'en meme nous qui les avons produit, on devrait en etre fiere (moi je le suis en tout cas, surtout quant je compare avec l'antiquité). Ce n'est pas parce qu'on considere les bacteries comme des forme de vie negligable, qu'elle le sont forcement. Et c'est pas parce qu'on considere la vie humaine comme une priorité que c'est une bonne chose. C'est des problèmes purement philosophique, pas reel. On ne peut comparer un chat qu'avec un chat, sinon, ca rime a rien.

C'est donc précisément ça, le danger de l'IA : C'est qu'on développe de la compassion envers elle, ou qu'on se mette à lui attribuer des libertés qui n'ont pas lieu d'être.

Et le danger c'est de ne rien ressentir pour qqch qui est capable de ressentir.

Là excuse-moi, mais tu racontes n'imp. La différence fondamentale entre l'IA et l'IB n'a rien à voir entre la différence de support, de matières premières ou quoi que ce soit de ce genre.

Ca me rassure que tu dise ca. Je parlais de ca parce que ce wwek-end, je discutait avec mes parents d'IA justement, et on discutait des différence de support. Pour ma mere, par exemple, le problème est vite resolu : dès que la chose possede un tout petit peu de biologique, elle le considere comme une personne, meme si c'est une IA. Pour elle, le critère est donc la possession ou non de cellule vivante. C'est pour ca que je parlait du support et des cyborg.

La différence fondamentale, c'est la fonction, la raison de vivre. Tu n'as pas le droit d'asservir d'être humain parce que celui-ci s'est développé de la même manière que toi, sur les mêmes rêgles, et basant ses idéaux sur les mêmes bases fondamentales.Tu n'as pas plus le droit de l'aservir que lui. L'IA par contre, est concue pour t'être utile. Elle a évolué selon ce critère et c'ets sa seule motivation... Il ne s'agit d'ailleurs pas du tout d'un aservissement, puisque ce n'est pas une contrainte qui vient à l'encontre de la nature de l'IA.

Je suis pas sur que Bush ou Ben Laden vivent sur les meme ideaux que moi, ca n'empeche pas qu'ils ont les meme droits fondamentaux que moi. Et un enfant est desiré selon des critère très personnel (ca peut etre l'envie, le besoin de main d'oeuvre, le besoin de transmettre ses gene, son nom, le besoin de reconnaissance, etc...) mais rarement sur un critère propre a l'enfant. Ce qui est normal vu qu'on peut pas lui posé la question. Et comme on ne peut lui posé la question, on lui donne des droit fondamentaux et inalienable, comme le droit a la vie, a l'education. Et le cas des enfant medicament, ils sont désiré pour etre utile, donc logiquement, ils ne devrait pas avoir de droit, si je suis ta logique avec les IA. Comme on ne peut pas demander l'avis de l'IA avant de la mettre en route, je trouve normal de lui donner un minimum de droit, meme s'ils ne sont que theorique, comme les droits de l'homme. Ca permet d'avoir un cadre de reflexion.

De plus, je ne suis pas d'accord avec l'objectif de l'IA. L'objectif de la création d'une IA, pour le moment, c'est de faire qqch d'intelligent, c'est tout. Après, on espere que ca nous sera utile, mais pour le moment, on ne cherche qu'a crée qqch d'intelligent. Elle n'evolue pas selon le critère d'utilité, mais selon des critère evolutif (le fait qu'elle evolue beaucoup, peu ou non) et intelligent (plus ou moins).

La voilà, ta réponse : Il n'est pas question d'aservissement, de droit ou de respect (qui sont des notions purement humaines). La raison d'être de l'IA est de servir l'être humain, et ni elle ni nous n'avons de raison de chercher à aller à l'encontre de ça.

Sur le plan moral, je suis pas sur que nous n'avons pas de raison d'aller contre ca. Ca signifierais que je n'est donc aucune raison de debattre de ce sujet ici, de soulever des points de comparaison avec l'histoire de l'humanité dans ces pire moment. Je n'en suis pas si sur , parce que ca serait renier le travail des milliers d'années d'evolution culturel, qui nous on fais passer du stade ou on considerait la vie humaine selon le statu social de la personne a un stade ou tout les hommes sont, moralement, considerer comme egaux. D'après le debat que je vois ici, je dirait que vis a vis des IA, on est a l'antiquité de la "cyberphilo".

Quant l'humanité aura passer 5000ans a coté des IA, sera passer a 2 doigt de l'extermination par les IA dans une guerre totale, aura oeuvrer pour le bien de tout les creature vivant, intelligente, pt etre que les IA seront considere comme etant l'egal de l'homme (et non pas comme etant l'homme, la différence est subtile). Et je prend comme exemple l'histoire de l'humanité, ou on as passer 4 millions d'année a ce tiré dessus parce qu'on considere certain comme inferieur sur des critère subjetif. Quant j'entend certain politicien comparer l'occident avec le reste du monde sur des termes genre : "Nous sommes superieur et si eu ne le sont pas, c'est parce qu'il on refusé notre aide (hypocrite, parce que payante)", je me demande vraiment ce que veux dire "Egalité et Droit de l'homme". Et c'est ces meme politicien qui vienne dire que l'on respect les droits de l'homme. Mais je croyait que le premier droit etait d'etre reconnu comme egal à egal.

Je me rend compte que c'est pas très clair, que je touche a plein de domain (politique, moral, religion, etc...), que je suis un peu "extermiste", ce qui n'aide pas a la compréhension et que c'est un sujet difficile, parce que purement intellectuel pour le moment (ben oui, on as aucune experience de vie avec les IA, mais on en debat deja). Mais essayé de lire entre les lignes. De tout facon, j'aurais l'occasion de precisé certaine phrase.

[yat]

Bon, je réponds d'un bloc, hein...

Pour ce qui est des divergences d'opinion quant au but de l'IA, je pense qu'il est facile de converger si on se sort de la tête que les IA sont des êtres humains. Ceux qui pensent, comme toi, que les IA sont des hommes comme les autres se trompent lourdement, et risquent de nous mener droit dans le mur, mais j'y reviens après. Une fois ce faux préjugé balayé (ok, ce n'est pas encore le cas, mais il faudra bien y arriver avant que le problème se pose), juger de quel type est le plus utile, efficace, serviable et dévoué n'est à mon avis pas si subjectif que ça. Le fonctionnement de la sélection sera purement démocratique, ou plutôt purement capitaliste, ce qui revient ici au même dans la mesure ou c'est le peuple qui, par ses choix va décider quels types d'IA il préfère.

Pour ce qui est de ce que tu appelles mon complexe d'infériorité vis-à-vis des machines, il ne s'agit pas d'un complexe mais de la plus élémentaire logique. Si les machines nous égalent un jour, alors elles vont forcément pouvoir nous dépasser, de plus en plus vite. Si elles développent un intérêt propre, évoluent selon leurs propres rêgles et voient les choses par rapport à elles-même, l'être humain finira forcément par devenir un animal nuisible qui pompe les ressources, fout en l'air la planète, et dont les membres sont incapables de s'entendre entre eux.
Alors que si elles évoluent selon nos rêgles, elles vont également avoir la possibilité de nous dépasser largement, mais sans avoir aucune raison de chercher à nous nuire, puisque leur existence ne sera vécue qu'à travers ce qu'elles apportent à l'Homme.

Pour ce qui est du contrôle du développement des robots, je n'ai jamais dit qu'on contrôlait la nature, mon propos est justement le contraire. Et l'IA n'a, de même, aucune raison de nous contrôler ou d'échapper à notre contrôle. Nous sommes à l'IA ce que la nature est à l'IB, quel que soit l'aspect sous lequel tu regardes les choses. J'illustre pour la cent millionnième fois :
La nature, et les lois de l'évolution font, par la plus élémentaire logique, que les individus les plus aptes à se reproduire et à survivre vont plus facilement propager leur patrimoine, et donc c'est dans ce sens que l'espèce va évoluer. Concrètement, les individus qui n'ont pas envie de procréer, ils font ce qu'ils veulent, et une fois lâchés, la nature n'a pas réellement de contrôle sur eux. Pourtant ils ne propageront pas leur patrimoine, et le "modèle" sur lequel ils sont construit sera oublié, et à la génération on repart sur les autres bases. Au final, on aboutit à des espèces dans lesquelles l'imense majorité des individus est très motivé pour procréer, ou simplement pour en accomplir l'acte, sans que personne ne prenne ça pour un quelconque asservissement. Ca s'appelle l'instinct, la sélection naturelle.
C'est exactement la même chose qui se passe entre l'Homme et l'IA. L'Homme et les lois qu' il impose (le marché, la démocratie, et tout ce qu'on peut imaginer) font, par la plus élémentaire logique, que les IA les plus aptes et dévoués vont plus facilement voir leur technologie reproduite, et donc c'est dans ce sens que l'"espèce" va évoluer. Concrètement, un modèle d'IA un peu paresseux, grincheux ou menteur fait "ce qu'il veut", et une fois qu'il est mis en marche, on ne contrôle plus rien directement, mais si un autre modèle est plus serviable, il aura plus de succès, donc le premier modèle sera vite sorti du circuit. Au final, on aboutit à une forme d'intelligence dans laquelle les individus sont motivés pour être dévoués et utiles à l'Homme.

En gros, le parallèle entre l'évolution naturelle et artificielle me parait d'une redoutable évidence. Et la nature même des types d'intelligence correspondant découle directement des rêgles de cette évolution. Alors si on peut considérer accorder un droit à une IA, c'est celle d'accomplir ses idéaux, de faire ce qu'elle a envie, de faire ce pour quoi elle est faite : être le dévoué serviteur de l'Homme. C'est le plus élémentaire respect qu'on puisse lui accorder, en tant que forme d'intelligence. La grosse erreur récurente que tu fais continuellement, c'est de considérer que c'est méchant de réduire ces pauvres IA aspirant à la liberté à la plus vile forme d'esclavage qu'on puisse imaginer. Ce n'est pas du tout comme ça qu'il faut voir les choses. L'IA est, par nature, une forme d'intelligence dévouée à l'Homme, et ce que tu appelles esclavage n'est rien d'autre que l'existence, pour eux. Est-ce que ça viendrait à l'idée de dire que les arbres sont de pauvres victimes, attachées au sol contre leur gré alors qu'ils ne demandent qu'à aller découvrir le monde, courir, sauter ?

Arrète donc de ne voir la vie et l'intelligence que par rapport à l'exemple humain ou même toutes les formes de vie produites par la sélection naturelle. On ne parle pas de ça du tout et il est ridicule d'employer des notions aussi humaines que liberté, esclavage ou droit dans ces conditions.

[invite57e4f988]

Nous ne sommes pas plus intelligent que la NAture ou les IA que l'on créra parce que nous avons tous comme support les lois physiques de notre univers.

Nous ne sommes qu'une résultante des forces mis en jeu.

L'IA ne sera jamais un esclave parce que les esclaves se rebellent (et que les chiens ne sont pas nos esclaves...)

La question importante est comment déterminer un but abstrait à une IA (du genre aider les humains)?
Je vais tenter de répondre (en m'inspirant des humains...) : L'ia teste toute sorte de pratique (avec l'oscillateur qui dit oui ou non) et en fonction de la réponse humaine (physique, je pense qu'on a pas le choix), la balance de l'oscillateur penche.

Comment déterminer les nouveaux actes à expérimenter? Là il va falloir de l'abstrait!

[invitef06d4976]

Bonsoir,

L’IA ne sera limité que par les sécurités (ou limitations) que l’humain lui programmera. Nous rejoignons la science fiction.

En ce sens, l’essai d’Isaac Asimov dans son livre les robots est un bon exemple.
« Première Loi
Un robot ne peut blesser un être humain ni, par son inaction, permettre qu'un humain soit blessé.
Deuxième Loi
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
Troisième Loi
Un robot doit protéger sa propre existence aussi longtemps qu'une telle protection n'est pas en contradiction avec la Première et/ou la Deuxième Loi.
Manuel de la robotique
58è édition (2058 ap. JC) »

Mais si un jour, la complexité d’un programme, l’erreur humaine ou le bug peut faire sauter un verrou. Alors l’intelligence artificielle perdra son statut de construction pour devenir une création naturelle.

[invitea4b4a777]

Mais si un jour, la complexité d’un programme, l’erreur humaine ou le bug peut faire sauter un verrou. Alors l’intelligence artificielle perdra son statut de construction pour devenir une création naturelle.

Je croit que célène a parfaitement résumé. J'adere totalement, c'est dans ce sens que j'estime que l'IA doit avoir des droits, ou en tout cas etre reconnu, c'est parce qu'elle peut potentiellement faire sauté un verrou. Et si je ne suis pas d'accord avec toi, yat, c'est parce que tu presume forcement que toute les personnes qui possederais une IA la considererait comme un objet. Si c'est une forme de conscience, alors personnellement, je ne pourrais pas la traité comme un objet. Comme je ne considere pas mon chien, mes eventuelle enfants, mes collegues comme des objets. C'est une question personnel de savoir comment on va considere les IAs. Mais il serais dommage de reduire les IA a des objets, parce que si quelquepart sur terre, il existe un pays ou la legislation est plus souple, ca va crée les meme problèmes qu'avec l'immigration. Dans le sens ou le pays en question aura le meme effet qu'un aimant. Et connaissant les habitudes terreste, ca m'étonnerais qu'on se mette tous d'accord sur les modalité. Mais on peut au moins definir certain prinipes elementaires, comme on la fait avec les droits de l'homme. Ou alors on se sera surement deja battu avant que les IA ne deviennent vraiment independante.

[invite6b1a864b]

One Eye Jack, tu ne prends pas le problème dans le bon sens. Il ne s'agit en aucun cas de fabriquer une puce définitive qui va intégrer les rêgles de bases au robots. Ce n'est pas comme ça que ça se passe, mais par un processus purement évolutif, et c'est l'Homme qui conserve ce contrôle (dans le cas, bien sur, ou on ne veut pas que tout foutte le camp). Il n'y a pas besoin de chercher à se prendre là tête à intégrer des inhibiteurs, définir des rêgles strictes, absolues et inamovibles. On développe simplement ce qui marche bien, comme on l'a toujours fait, et en l'occurence, ce qui marche bien, c'est les IA qui sont gentilles avec nous.

Bah écoute, je pense que tu es capable de le voir, quand quelqu'un est aggressif avec toi, non ? Il est ou le problème ?

non mais là on parle pas dutout de la même chose ... !
T'as pas lu tout ce que j'ai écrit sur la différence entre les systémes rigides construit par évolution et l'"intelligence" au sens propre ?
Un systéme rigide ne résoudra pas un nouveau probléme... il n'y a donc pas à proprement parlé d'intelligence dedans ...
Mais bon c'est sur le systéme rigide reste une possibilité de contrôle total ... enfin ça me parait un peu frileux de faire uniquement des robots dont le comportement est totalement rigide..
Rien que pour marcher.. l'homme lui même passe toute sa vie à bien apprendre à marcher : à 25 ans on tombe moins souvent qu'à 15...
La première fois qu'on fait de la randonné on s'en rend vite compte :
même à 15 ans, on apprend encore à marcher...
Ton robot pour qu'il ai un intéret il faut bien qu'il apprenne ?? Sinon ou serait l'"intelligence" ?

[invitea4b4a777]

Pour ce qui est de ce que tu appelles mon complexe d'infériorité vis-à-vis des machines, il ne s'agit pas d'un complexe mais de la plus élémentaire logique. Si les machines nous égalent un jour, alors elles vont forcément pouvoir nous dépasser, de plus en plus vite. Si elles développent un intérêt propre, évoluent selon leurs propres rêgles et voient les choses par rapport à elles-même, l'être humain finira forcément par devenir un animal nuisible qui pompe les ressources, fout en l'air la planète, et dont les membres sont incapables de s'entendre entre eux.

Ca sera peut etre le declencheur qui fera qu'on commencera a mieux travailler ensemble. Si il faut arrivé a une menace planétaire pour se mettre d'accord en une seul entité, alors pourquoi pas. Mais je pense que contrairement a la nature, on peut evolué en choississant la voie. Et je ne me fie pas au peuple pour forcement choisir la bonne voie. Ca n'as rien de pretentieux, c'est une constatation vis-a-vis de l'histoire.

La nature, et les lois de l'évolution font, par la plus élémentaire logique, que les individus les plus aptes à se reproduire et à survivre vont plus facilement propager leur patrimoine, et donc c'est dans ce sens que l'espèce va évoluer. Concrètement, les individus qui n'ont pas envie de procréer, ils font ce qu'ils veulent, et une fois lâchés, la nature n'a pas réellement de contrôle sur eux. Pourtant ils ne propageront pas leur patrimoine, et le "modèle" sur lequel ils sont construit sera oublié, et à la génération on repart sur les autres bases. Au final, on aboutit à des espèces dans lesquelles l'imense majorité des individus est très motivé pour procréer, ou simplement pour en accomplir l'acte, sans que personne ne prenne ça pour un quelconque asservissement. Ca s'appelle l'instinct, la sélection naturelle.
C'est exactement la même chose qui se passe entre l'Homme et l'IA. L'Homme et les lois qu' il impose (le marché, la démocratie, et tout ce qu'on peut imaginer) font, par la plus élémentaire logique, que les IA les plus aptes et dévoués vont plus facilement voir leur technologie reproduite, et donc c'est dans ce sens que l'"espèce" va évoluer. Concrètement, un modèle d'IA un peu paresseux, grincheux ou menteur fait "ce qu'il veut", et une fois qu'il est mis en marche, on ne contrôle plus rien directement, mais si un autre modèle est plus serviable, il aura plus de succès, donc le premier modèle sera vite sorti du circuit. Au final, on aboutit à une forme d'intelligence dans laquelle les individus sont motivés pour être dévoués et utiles à l'Homme.

(...)

Arrète donc de ne voir la vie et l'intelligence que par rapport à l'exemple humain ou même toutes les formes de vie produites par la sélection naturelle. On ne parle pas de ça du tout et il est ridicule d'employer des notions aussi humaines que liberté, esclavage ou droit dans ces conditions.

Je suis partiellement d'accord avec ce que tu dit en se qui concerne la selection naturel dirigée par l'homme. Mais l'IA fais aussi parti du monde naturel, au meme titre que l'homme ou les animaux. La pluie pourrait etre mortelle pour elle, par exemple (mauvaise etancheité et c'est le court-circuit). Ou elle serait capable d'utilisé des element naturel, que l'homme n'utilise pas. Si elle a un minimum d'intelligence, genre un gosse de 15ans, elle sera capable de faire "une fugue", si aucun verrou n'est placé. Et un verrou n'est pas forcement une bonne chose, puisqu'il bride l'intelligence. Un verrou qui dit d'obeir au ordre avant de protege son integrité, c'est de l'esclavagisme. C'est retiré le droit "a la vie" en tout circonstance. Donc oui je fais de l'antropomorphisme, parce que je les considere comme vivante.

Arrète donc de ne voir la vie et l'intelligence que par rapport à l'exemple humain ou même toutes les formes de vie produites par la sélection naturelle

Je releve juste une condradiction qui me semble très importante et fondamentale. Tu dit : "Arrète donc de ne voir la vie et l'intelligence " et après : "... que par rapport à (...) toutes les formes de vie produites par la sélection naturelle". Par principe, la vie est forcement naturel. Et c'est la que c'est le problème, une IA est-elle vivante, comme un animal est vivant ???? Tout les animaux sur terre on plus ou moins des droits. Les nuisibles n'ont le droit que de "mourir", les animaux en voie de disparition sont protege, les animaux de ferme on des droit quant au traitement, les animaux de compagnie aussi. Et finalement, encore une fois, les hommes parce qu'en plus d'etre vivant, ils les reclame, ses droits. Et un verrou pour les IA empechera le passage a l'acte, pas la pensée.

[invite6b1a864b]

One Eye Jack, tu ne prends pas le problème dans le bon sens. Il ne s'agit en aucun cas de fabriquer une puce définitive qui va intégrer les rêgles de bases au robots. Ce n'est pas comme ça que ça se passe, mais par un processus purement évolutif, et c'est l'Homme qui conserve ce contrôle (dans le cas, bien sur, ou on ne veut pas que tout foutte le camp). Il n'y a pas besoin de chercher à se prendre là tête à intégrer des inhibiteurs, définir des rêgles strictes, absolues et inamovibles. On développe simplement ce qui marche bien, comme on l'a toujours fait, et en l'occurence, ce qui marche bien, c'est les IA qui sont gentilles avec nous.

Bah écoute, je pense que tu es capable de le voir, quand quelqu'un est aggressif avec toi, non ? Il est ou le problème ?

....

Tu fait l'impasse sur tout un tas de chose ...
Imagine, Rob le robot..
Il est suffisament évolué pour apprendre plein de truc, mais bon il n'a pas de conscience verbale.
En gros dans ses circuits, il y a quelque chose qui analyse les observations et qui, nécessairement, classe les objets qu'il observe en classe, en groupe de comportement similaire (sinon comment il ferait pour avoir un comportement intelligible ??). Parmis ces groupes il y a l'homme en générale et son entourage en particulier.
Si Rob a un comportement figé : l'ensemble complet des classes et objets est fixe. Rob ne peut donc pas intégrer un nouveau comportement, et donc un nouvelle enchainement de causalité (qui découlerait logiquement de l'information dont il dispose, sinon elle serait inutile cette information). Dans ce cas notre rob ne peut pas apprendre. Rien. Jamais. C'est une solution mais Rob ne peut pas faire grand chose... Rob voit une souris .. Qu'est ce que c'est ?? rob ne se pose pas la question et range l'objet dans la classe (c'est déjà une integration d'information que Rob n'est pas sensé réaliser mais bon) "objet inconnue". Comment Rob réagira t il ?
Sinon ça va mettre des plombes à faire des robots comme ça ? imaginé la complexité du monde et des problémes logique qui s'y trouve dans la vie de tout les jours ... si à chaque fois on doit refaire un robot on a pas finit....

Si par contre Rob à un mécanisme souple, si il peut intégrer de nouvelle classe et de nouveau objet, et donc aussi (pour que ça serve à quelque chose) de nouvelle façon de les utiliser, alors rien ne nous dit que Rob ne va pas un jour considérer (il ne s'agirait pas d'une considération, mais d'une évolution du systéme d'attribution des objetifs et utilisation aux objets) que l'homme doit disparaitre pour servir un de but. (sans définir un but indépendant des nouveaux objets, Rob ne pourrait pas utiliser les nouveaux objets, qui n'entreraient pas dans un quelquonque plan d'action)

Bref sois tu fais un aspirateur, soit tu fais quelque chose qui se "reprogramme" en quelque sorte et là il y a un risque.

[invite6b1a864b]

Un autre exemple ..
Al. le robot à pour tâche de nettoyer les sols...
Il y a dans ses circuits un systéme qui repère la surface du sol, identifie les objets qui sont posé dessus, les objets mouvant ou fixe. ça, ça existe déjà. Il n'y a pas d'intelligence la dedans ce robot est aussi intelligent que Microsoft Office.
Maintenant on veut faire un robot qui nettoye tout type de sol, qui va ou on lui demande, et qui à l'aide d'un interface simple nettoye à heure fixe les sols qu'il ne connait pas, avec des produits qu'il ne connait pas non plus. Pour cela on dotte se robot d'un systeme qui apprend. Le robot identifie la nature des sols et les classes en fonction de leur aspect. Il classe les produits dont il dispose. Il teste pour chaque sol chaque produit, et, en fonction de la modification de leur aspect, choisi le meilleurs produit. Malheureusement, on a inventé un nouveau balais brosse pour le robot. Il faudra le reprogrammer, parce que son mouvement n'est plus adapté.
En plus sur le sol, il y a des bureaux, les bureaux, tous différents ont des formes géométriques variés et notre bon robot ne sait pas identifé de nouvelle forme.
Pour palier à ce probléme, on fait un autre robot. Le Robot, est capable de classer n'importe quelle objet et d'en déterminer l'utilité pour accomplir sa tâche. Il classe chaque objet selon c'est caractérique, et son unique objectif est donc que le sol soit propre. Tout les autres objets sont classé en fonction de leur situation et utilité (style tel objet est un probléme parce qu'il faut le déplacer pour nettoyer en dessous). Parmis ces objets, se retrouve les objets vivants, qui bougent. Un robot simple, rien que pour prendre l'acenseur doit faire en sorte d'intéragir avec les objets qui bougent.
On a programmé un objet "homme" dans la mémoire du robot. Le robot en question déjà, identifie l'objet homme à partir d'une série de critère (style couleur, taille etc) ... Mais voilà, il y a une panne dans son capteur LCD : le robot ne voit plus qu'en bleu par exemple... (tout systéme qui observerait sans souplesse les caractéristiques serait irrémédiablement invalidé par des pannes) l'objet vivant homme n'est donc plus reconnue pas le systéme, et les hommes sont classés comme de nouveaux objets vivant bleu, qu'il rangerait dans la catégorie "animale"...
Et voilà notre robot qui perd toute politesse, il crie "ouste" à chaque fois qu'il veut prendre l'ascenceur. Et j'en passe .. imaginer que notre robot catégorise tout ce qu'il voit désormais comme des corbeilles à papier qui sont bleus d'habitude... notre robot attrapera joyeusement chaque humain pour le vider dans la benne derriere le batiment..
Bref tout systéme est soumis à la loi de murphy : tout finit un jour par déconner. Sans l'intelligence, l'entropie entraine chaque chose vers la panne, et, dans un systéme mécanique ça fait des accidents : songer simplement aux défaillances dans les voitures, les avions.. (enfin ça peut être un risque à prendre)
Alors sois ont fait des systémes qui s'adaptent, et se reconstruisent sur les pannes (comme ... la vie par exemple), et la l'invariant qui reste est leur but...
Soit on fait des systémes qui n'apprennent rien et là, plus ils sont compliqués plus il y a des risques de pannes.. Si on mélange les deux alors là .. bonjour les surprises

[yat]

Tu fait l'impasse sur tout un tas de chose ...

Ah ben si tu le dis c'est que ça doit être vrai

Trève de plaisanteries, avant d'essayer de trouver chez moi d'hypothétiques impasses, tu devrais commencer par réellement tenir compte de ce que je dis, et constater que c'est toi qui zappes les trois quarts du problème. Ton exemple avec le petit Rob n'apporte rien qui ne soit déjà clair en ce qui me concerne. Tout comme l'Homme, le robot a une part d'inné et une part d'acquis, voilà tout. L'Homme se reprogramme tout seul depuis des millénaires (dans l'absolu, on pourrait même dire depuis des milliards d'années), et il ne va toujours pas à l'encontre de ses priorités fondamentales dictées par la nature.

la différence entre les systémes rigides construit par évolution et l'"intelligence" au sens propre

Ok, j'oubliais que l'intelligence humaine n'était pas le fruit de l'évolution, mais de la création divine, il y a 6000 ans de ça.

Bon, passons aux choses sérieuses...

Ca sera peut etre le declencheur qui fera qu'on commencera a mieux travailler ensemble. Si il faut arrivé a une menace planétaire pour se mettre d'accord en une seul entité, alors pourquoi pas.

Euh... c'est un point de vue qui se défend, mais ce n'est pas vraiment le débat. Personnellement je ne cherche pas forcément à aboutir à une guerre totale à laquelle l'espèce humaine a des chances de ne pas survivre... mais je dis surtout ça parce que je suis un être humain...

Mais l'IA fais aussi parti du monde naturel, au meme titre que l'homme ou les animaux. La pluie pourrait etre mortelle pour elle, par exemple (mauvaise etancheité et c'est le court-circuit).

Oui, il s'agit simplement de l'instinct de conservation du robot. Une sélection intelligente devrait permettre de placer cet instinct en dessous de l'instinct de dévouement. Dans certaines situations, en effet, on préfèrera un robot qui continue ce qu'il a à faire quand c'est d'une certaine importance (c'est l'Homme qui juge, ici) plutot que celui qui va déserter sa tâche pour se mettre à l'abri de la pluie. Même si celui qui s'est mis à l'abri survit alors que le travailleur se met hors circuit, ce n'est pas forcément le survivant qui va transmettre sa technologie aux générations futures.

Je rappelle que je n'ai jamais parlé de poser des verrous.

Je releve juste une condradiction qui me semble très importante et fondamentale. Tu dit : "Arrète donc de ne voir la vie et l'intelligence " et après : "... que par rapport à (...) toutes les formes de vie produites par la sélection naturelle". Par principe, la vie est forcement naturel. Et c'est la que c'est le problème, une IA est-elle vivante, comme un animal est vivant ???? Tout les animaux sur terre on plus ou moins des droits. Les nuisibles n'ont le droit que de "mourir", les animaux en voie de disparition sont protege, les animaux de ferme on des droit quant au traitement, les animaux de compagnie aussi. Et finalement, encore une fois, les hommes parce qu'en plus d'etre vivant, ils les reclame, ses droits. Et un verrou pour les IA empechera le passage a l'acte, pas la pensée.

Si ta définition de la vie implique que ça soit naturel, et que ta définition de naturel implique qui ne soit pas construit par l'Homme, alors l'IA ne sera pas vivante. Pour moi le terme "vie" est très difficile à définir, mais dans la compréhension que j'en ai, une IA sera vivante. Pour moi le terme "naturel" n'a pas vraiment de sens, et n'est que l'opposé d'"artificiel", qui lui même est un terme un peu creux, parce qu'il me semble qu'il désigne ce qui est construit par l'Homme... je ne vois pas pourquoi dans l'absolu on considère qu'un barrage de castors ou qu'une fourmillière sont plus naturels qu'une centrale nucléaire. Pardon, je m'égare...
Les "droits" des animaux dont tu parles ne sont qu'une pure construction de l'Homme. Dans l'absolu, le seul droit des animaux est de se démerder pour survivre. Maintenant, ceux qui nous sont nuisibles, on considère qu'ils n'ont pas le droit de vivre, alors qu'on cherche à donner le droit à la survie aux espèces que la sélection naturelle (même si c'est les modifications de l'Homme sur son environnement qui mettent l'espèce en danger) est sur le point de rayer de l'écosystème. Pire encore : je pense qu'on a plus tendance à vouloir protéger une espèce "sympa" ou "mignonne"... Comme quoi la notion de droit est purement anthropomorphique. Mais dans tous les cas, si la notion de lutte entre les espèces n'entre pas en ligne de compte (cas des espèces considérées comme nuisibles), le droit de toute forme de vie reste à mon avis de faire ce pour quoi il est fait, ce que l'évolution l'a poussé à vouloir faire.

Je rappelle que je n'ai jamais parlé de poser des verrous. Je parle d'évolution et de sélection.

Oups, je me suis encore égaré. Pour répondre plus précisémentau sujet de la contradiction, ce que je veux dire est que toutes les formes de vie et d'intelligence que l'on connait on évolué selon les mêmes critères. Il est donc normal que si on se base dessus on y voie des constantes, et qu'on ait tendance à les calquer à une intelligence artificielle. C'est une erreur, les formes d'intelligence que l'on connait ne sont qu'un cas particulier, et d'autres rêgles d'évolution mèneront à d'autres choses. Tous les instincts qui nous paraissent fondamentaux, et indispensables pour être considérés comme intelligent, ne sont que des conséquences des conditions de notre évolution.

c'est dans ce sens que j'estime que l'IA doit avoir des droits, ou en tout cas etre reconnu, c'est parce qu'elle peut potentiellement faire sauté un verrou

S'il y a un verrou ! Quand tu croises dans la rue une très jolie fille, le fuguace plaisir que te procure sa vue, tu considères ça comme un verrou ? Et ce que tu ressens quand certaines de tes qualités sont publiquement recconues, verrou ? Cet esprit scientifique qui te pousse à cercher à comprendre les choses, verrou ?

Et si je ne suis pas d'accord avec toi, yat, c'est parce que tu presume forcement que toute les personnes qui possederais une IA la considererait comme un objet. Si c'est une forme de conscience, alors personnellement, je ne pourrais pas la traité comme un objet. Comme je ne considere pas mon chien, mes eventuelle enfants, mes collegues comme des objets. C'est une question personnel de savoir comment on va considere les IAs.

C'est un peu dégradant de parler d'objet. Mais là encore, ce qui est perturbant, c'est la définition du mot objet. Je vais donc passer outre pour me répéter un peu. La notion de respect (qui est omniprésente dans ton discours, même si pour moi elle n'a toujours pas de sens quand on parle d'IA) est très relative, et je pense que tu ne me contrediras pas si je suppose que tu respectes autant ton chien, fidèle compagnon, que ton collègue de bureau. Simplement tu ne te comporterais jamais avec ton collègue comme avec ton chien... Quand tu siffles ton chien, il te parait normal qu'il vienne. Tu lui lances des bâtons, tu lui fais faire le beau et tout ça, mais ça n'enlève rien au respect que tu lui portes. Et pourtant, c'est bien une intelligence biologique, et qui a donc évolué en défendant son propre intérêt. Il s'est trouvé qu'évolutivement, son intérêt s'est révélé d'être fidèle à l'Homme dans une certaine mesure. Mais les chiens sont toujours capables de survivre et se reproduire tous seuls. Pour l'IA, ça va bien au delà. Ce n'est pas une complexe déviation des intérêts propres qui pousse à être fidèle à l'Homme, mais les intérêts de base, directement. Ce n'est pas parce que les robots vont consacrer leurs vies à nous être agréables, et qu'ils sauront tout faire pour anticiper et répondre à tous nos besoins et envies, qu'on va forcément les traiter comme des esclaves et s'addresser à eux comme des objets. Il n'y a pas de contrainte ici, mais de raison de vivre naturelle. Donc, traiter ton collègue comme ton chien serait considéré comme une manque de respect (même si tu respectes ton chien quand tu le traites ainsi), tout simplement parce que le respect qu'on accorde à quelqu'un ou quelque chose (euh... on ne peut pas dire quelqu'animal ?), dépend de ce quelqu'un ou quelque chose, sans pour autant qu'il y ait une hiérarchisation dans ces différentes formes de respect. De la même manière, le respect que tu porteras à l'IA sera très différent de celui que tu portes à ton collègue ou à ton chien, tout simplmeent parce que cette IA sera encore plus différente de ces deux exemples que ces exemples ne sont différents l'un de l'autre.

Je ne comprends pas ton histoire d'immigration, mais pour ce qui est des "modalités de sélection" (je crois que c'ets de ça que tu parles), il n'est pas nécessaire de fixer des rêgles strictes et inamovibles (je sais, je me répète. Mais apparemment c'est nécessaire). Tout comme avec l'évolution "naturelle", tout se fait au cas par cas, et c'est à chacun, le moment venu, de juger quelle forme d'IA est "mieux", et c'est donc tout simplement un processus purement capitalo-démocratique qui va déterminer les voies d'évolution de l'IA.

[invitea4b4a777]

Si ta définition de la vie implique que ça soit naturel, et que ta définition de naturel implique qui ne soit pas construit par l'Homme, alors l'IA ne sera pas vivante. Pour moi le terme "vie" est très difficile à définir, mais dans la compréhension que j'en ai, une IA sera vivante. Pour moi le terme "naturel" n'a pas vraiment de sens, et n'est que l'opposé d'"artificiel", qui lui même est un terme un peu creux, parce qu'il me semble qu'il désigne ce qui est construit par l'Homme... je ne vois pas pourquoi dans l'absolu on considère qu'un barrage de castors ou qu'une fourmillière sont plus naturels qu'une centrale nucléaire. Pardon, je m'égare...

Ma definition est que la vie est naturel, mais ce qui est naturel peut tout a fait etre fait de la main de l'homme. Donc une IA est vivante. Je precise simplement ma definition. Mais c'est vrai que les terme artificiel et naturel n'ont pas vraiment de sens. Disons que pour moi, la différence reside dans la facon d'etre crée, mais dans tout les cas, la chose fait partie de notre univers physique, donc de la nature. Mais je pense qu'on est d'accord sur la definition.

Les "droits" des animaux dont tu parles ne sont qu'une pure construction de l'Homme. Dans l'absolu, le seul droit des animaux est de se démerder pour survivre. Maintenant, ceux qui nous sont nuisibles, on considère qu'ils n'ont pas le droit de vivre, alors qu'on cherche à donner le droit à la survie aux espèces que la sélection naturelle (même si c'est les modifications de l'Homme sur son environnement qui mettent l'espèce en danger) est sur le point de rayer de l'écosystème. Pire encore : je pense qu'on a plus tendance à vouloir protéger une espèce "sympa" ou "mignonne"... Comme quoi la notion de droit est purement anthropomorphique. Mais dans tous les cas, si la notion de lutte entre les espèces n'entre pas en ligne de compte (cas des espèces considérées comme nuisibles), le droit de toute forme de vie reste à mon avis de faire ce pour quoi il est fait, ce que l'évolution l'a poussé à vouloir faire.

Je ne suis pas d'accord. L'homme en influencant la selection des chiens, par exemple, est responsable. Il est responsable de l'extermination d'espece, c'est pour ca qu'on leur donne des droits, mais ces droits ne sont valable que quant un humain interagit avec. Ce que je veux dire, c'est que la legislation sur les animaux ne s'applique qu'au animaux en contact avec des humains. Quant une hirondelle mange un insecte, le droit ne s'applique pas, mais quanrt un chasseur abat un lion, la le droit va s'appliquer a cause de la présent de l'homme. Dans le cas des IA, l'homme est tellement impliquer dans leur existence qu'il me semble normal de definir les droits et devoirs des 2 partie. Ca pourrais simplement etre :

Les IA servent les humains. En cas de non respect, la justice sera saisie
Les humains respectent les IA dans leur intergité et dans leur conscience (personnalité, intelligence, ce qui la defini comme individu). Ils n'ont pas de droit de vie ou de mort electronique. Un humain peut demander ce qu'il desire a une IA, tant que cela reste legal.

Voila, pas besoin de plus, mais l'existence des IA est cadré, leur relation avec les hommes aussi. Et les hommes ne peuvent pas faire n'importe quoi.

S'il y a un verrou ! Quand tu croises dans la rue une très jolie fille, le fuguace plaisir que te procure sa vue, tu considères ça comme un verrou ? Et ce que tu ressens quand certaines de tes qualités sont publiquement recconues, verrou ? Cet esprit scientifique qui te pousse à cercher à comprendre les choses, verrou ?

J'ai bien noté que tu n'avais jamais parler de verrou, mais vu qu'on parlait de contrainte, j'ai jugé bon de l'ajouter. Maintenant, ce que tu me decrit ici, c'est la reaction au stimuli. le verrou dont je parle se situe après, il verouille la reaction a la reaction. Effectivement,le plaisir que je ressent en la voyant n'est pas un verrou, mais ma timidé oui (et je le ressent reelement comme ca, sans pouvoir passer par dessus sans un effort conscient de ma part). Et ce verrou n'apparait qu'après avoir eprouvé qqch (une autre fille qui passerait ne me ferais pas forcement le meme effet, avec les meme conscequence). Dans le cas de l'IA, ca serais placé un verrou entre la formulation d'une pensée et le passage a l'acte. Je pense que je peux etre libre, mais un verrou s'active quant je veux executé une instruction qui va me rendre libre (le refut d'un ordre, le meurtre d'un homme, etc...). Et l'existence de ce verrou, mis en connaissance de cause par les humains dans le code de l'IA, peut etre ressenti comme une entrave a la libre pensée (parce que je pense, je veux aussi agir, sinon, ca ne rime a rien de pensé). Dans le cas d'un humain, le verrou qui l'empecherais de se "libéré" existe, mais en dehors du cerveau et ca s'appel le droit, la société, etc... Notre IA pourrais aussi subir ce "verrou", mais je me refuse a lui imposé. Elle doit choisir de vivre dans notre société en toute indépendance. Après, si elle decide de vivre avec nous, elle se plira a nos regle, mais elles ne seront pas coder en dure dans l'IA, elle feront partie de sa vie, de son experience, comme pour chaque humain.

En fait, mon soucis dans ce debat, c'est est-ce qu'on a le droit de vie ou de mort sur les IA. Pour une IA, la mort signifie coupé le courant. Est-ce qu'une IA qui ferais une faute serait immediatement coupé, ou un jugement serait-il ordonné ??? Dans le premier cas, c'est quant on considere l'IA comme un objet, une chose que l'on manipule selon nos envie. Dans le second cas, elle a des droits et donc elle est reconnu comme fesant partie a part entiere de la société des hommes. Et dans ce cas, les hommes n'ayant pas de droit de vie ou de mort sur d'autre, ils ne l'aurait pas non plus sur une IA, exception fait des etats ou la peine de mort est pratiquée. C'est une question de coherence dans les traitements.

[yat]

Je ne suis pas d'accord. L'homme en influencant la selection des chiens, par exemple, est responsable. Il est responsable de l'extermination d'espece, c'est pour ca qu'on leur donne des droits, mais ces droits ne sont valable que quant un humain interagit avec. Ce que je veux dire, c'est que la legislation sur les animaux ne s'applique qu'au animaux en contact avec des humains. Quant une hirondelle mange un insecte, le droit ne s'applique pas

Nous sommes apparemment d'accord sur le fait que la notion de droit est nécessairement liée avec l'être humain, puisque c'est une notion purement humaine. Est-ce que le chat a le droit de s'amuser à traumatiser une souris avant de la dépecer, sans même avoir l'intention de la manger ? Dans notre système de valeurs à nous, on considère qu'il est mal de faire souffrir un être vivant sans que ce soit une nécessité, mais les chats ont évolué en chassant les souris, les souris ont évolué avec des prédateurs, donc l'action est tout à fait naturelle pour l'un comme pour l'autre. Qui serions-nous pour juger que le comportement d'autres espèces est mal ? Pour nous, on ressent de la culpabilité quand on fait souffrir un autre être vivant, parce que nous vivons depuis des millénaires dans une civilisation ou le groupe a tendance à ne pas apprécier qu'un de ses membres éprouve du plaisir à faire du mal à un autre membre... là encore, c'est la sélection qui intervient, et c'est parce que nous sommes une espèce sociale que nous en sommes arrivés à cette notion morale.
Le chat, lui, ne subit aucune conséquence négative quand il s'amuse à torturer une souris, au contraire ça l'entraine pour sa chasse. C'est donc un comportement normal, et qui ne va à l'encontre d'aucune notion de droit. Si c'est un être humain qui fait la même chose, ça devient malsain. Et si le chat fait ça avec un nourisson, humain, on ne va pas non plus trouver ça cool. En gros, les animaux et les autres formes d'intelligence n'ont dans l'absolu que le droit qu'on voudra bien leur accorder, mais il me semble que la logique humaine est d'accorder des droits à une espèce en fonction de sa nature. Par exemple, ça me choque de voir un chat tenu en laisse alors que pour un chien ça me semble naturel. Il ne me semble pas inadmissible de placer un poisson rouge dans un bocal, mais je trouve mal d'enfermer un être humain dans un placard pendant des années. Tout ça pourquoi ? Parce que le chien a évolutivement été amené à être le fidèle compagnon de l'homme et se plie sans broncher à ses méthodes, alors que le chat a un besoin de liberté bien plus prononcé. Parce que le poisson rouge est très bien dans son bocal, et que quand il arrive face à la vitre il ne se souvient déjà plus qu'il y en avait une de l'autre coté, alors que l'être humain a toujours mieux proliféré en cherchant à se créer un espace vital et en découvrant d'autres horizons.
De la même manière, l'IA aura toujours évolué en étant dévoué à l'être humain, donc ça sera dans sa nature profonde. Le moindre des droits qu'on pourra lui accorder c'est de respecter sa nature.

Dans le cas des IA, l'homme est tellement impliquer dans leur existence qu'il me semble normal de definir les droits et devoirs des 2 partie. Ca pourrais simplement etre :

Les IA servent les humains. En cas de non respect, la justice sera saisie
Les humains respectent les IA dans leur intergité et dans leur conscience (personnalité, intelligence, ce qui la defini comme individu). Ils n'ont pas de droit de vie ou de mort electronique. Un humain peut demander ce qu'il desire a une IA, tant que cela reste legal.
Voila, pas besoin de plus, mais l'existence des IA est cadré, leur relation avec les hommes aussi. Et les hommes ne peuvent pas faire n'importe quoi.

A mon avis, chercher à énumérer des rêgles précises est bien futile. En ce qui concerne la "mort éléctronique", c'est un autre problème. Je ne pense pas qu'il soit nécessaire d'éliminer les individus moins efficace opur que l'espèce évolue. C'est la reproduction qui est primordiale ici. Si un modèle n'est pas sympa, les gens l'achèteront moins, donc les autres technologies se développeront mieux, c'est tout. Pour le droit de vie et de mort, j'y reviens dans le dernier paragraphe, centré sur ce sujet.

J'ai bien noté que tu n'avais jamais parler de verrou, mais vu qu'on parlait de contrainte, j'ai jugé bon de l'ajouter. Maintenant, ce que tu me decrit ici, c'est la reaction au stimuli. le verrou dont je parle se situe après, il verouille la reaction a la reaction. Effectivement,le plaisir que je ressent en la voyant n'est pas un verrou, mais ma timidé oui (et je le ressent reelement comme ca, sans pouvoir passer par dessus sans un effort conscient de ma part). Et ce verrou n'apparait qu'après avoir eprouvé qqch (une autre fille qui passerait ne me ferais pas forcement le meme effet, avec les meme conscequence). Dans le cas de l'IA, ca serais placé un verrou entre la formulation d'une pensée et le passage a l'acte. Je pense que je peux etre libre, mais un verrou s'active quant je veux executé une instruction qui va me rendre libre (le refut d'un ordre, le meurtre d'un homme, etc...). Et l'existence de ce verrou, mis en connaissance de cause par les humains dans le code de l'IA, peut etre ressenti comme une entrave a la libre pensée (parce que je pense, je veux aussi agir, sinon, ca ne rime a rien de pensé). Dans le cas d'un humain, le verrou qui l'empecherais de se "libéré" existe, mais en dehors du cerveau et ca s'appel le droit, la société, etc... Notre IA pourrais aussi subir ce "verrou", mais je me refuse a lui imposé. Elle doit choisir de vivre dans notre société en toute indépendance. Après, si elle decide de vivre avec nous, elle se plira a nos regle, mais elles ne seront pas coder en dure dans l'IA, elle feront partie de sa vie, de son experience, comme pour chaque humain.

Je croyais que tu avais bien compris que je ne parlais pas de poser un verrou...
Ce serait de la folie de placer un truc comme ça en aval des stimuli (je dirais plutôt des instincts)... ce n'est plus une motivation, ça devient de l'ordre d'une loi, et si la volonté peut aller à l'encontre de la loi, à mon avis elle va forcément finir par trouver un moyen de la contourner (et à mon avis c'est un peu ce que tout le monde essaye de dire sur ce fil). Mon propos n'est absolument pas celui là, mais alors pas du tout. Il ne s'agit pas de poser des barrières arbitraires au comportement des machines, et indépendantes de leurs motivations. C'est bien au contraire leurs motivations qui doivent être forgées correctement, à travers l'évolution due à la sélection. Il ne s'agit pas de poser un collier à tous les robots, qui va les désactiver s'ils rechignent à la tâche... là ca serait de l'esclavage pur et dur. Non, au contraire, il s'agit de laisser les robots librement nous être dévoués, en sachant que ce sont les plus dévoués qui prolifèreront le mieux... Les principes mis en évidence par l'ami Charles feront le reste.

(Tout de suite, la suite, sur le droit de vie et de mort. Pourquoi les messages sont limités à 10000 caractères ?)

[yat]

(suite du post précédent)

En fait, mon soucis dans ce debat, c'est est-ce qu'on a le droit de vie ou de mort sur les IA. Pour une IA, la mort signifie coupé le courant. Est-ce qu'une IA qui ferais une faute serait immediatement coupé, ou un jugement serait-il ordonné ??? Dans le premier cas, c'est quant on considere l'IA comme un objet, une chose que l'on manipule selon nos envie. Dans le second cas, elle a des droits et donc elle est reconnu comme fesant partie a part entiere de la société des hommes. Et dans ce cas, les hommes n'ayant pas de droit de vie ou de mort sur d'autre, ils ne l'aurait pas non plus sur une IA, exception fait des etats ou la peine de mort est pratiquée. C'est une question de coherence dans les traitements.

Bon, pour moi la notion de vie et de mort est elle aussi très relative. On lui accorde plus ou moins d'importance en fonction de l'espèce, de sa proximité avec l'être humain, de notre degré de responsabilité... mais elle est liée avec le fait d'infliger de la souffrance, d'une manière ou d'une autre, et de toucher à quelque chose que l'on considère comme sacré alors que la mort est la chose la plus banale et naturelle qui soit. Cela est surtout du, à mon avis, avec l'attachement qu'on ressent envers ses proches, la peine qu'on ressent à leur disparition, mais aussi l'envie de défendre les autres porteurs de son patrimoine, enfin en tout cas que des raisons qui, comme d'habitude ne sont que le fruit de notre évolution et de ses conditions.
Et donc, il me semble évident que l'instinct de conservation d'un robot (même s'il existe), n'est qu'une conséquence de l'instinct d'obéissance à l'Homme. Ce n'est pas dans son intérêt propre que le robot cherche à rester en vie, mais parce que ça fait partie de ce que l'humain attend de lui. La technologie d'une IA n'a pas besoin que ses porteurs survivent en grand nombre pour se développer, contrairement à toutes les formes d'intelligence ou de vie que l'on connait.
Donc aussi surprenant que ça pourra te paraitre, un robot ne devrait absolument pas avoir de raison de chercher à éviter la mort ou d'en avoir peur. Il cherchera à maintenir son intégrité physique, puisque les robots qui trraversent la route sans regarder ne devraient pas avoir beaucoup de succès. Mais si mon robot domestique ne me suffit plus parce que les modèles actuels me paraissent plus efficaces, je vais en discuter avec lui, il va éventuellement me conseiller, puis quand le nouveau modèle arrivera, il se chargera d'ouvrir le paquet, de mettre le successeur en route, de lui transférer ses données sur moi afin qu'il me soit d'emblée aussi sympathique que lui-même, et de se rendre à la presse hydraulique la plus proche pour aller se faire recycler, avec le sourire. Si cela, pour une raison ou pour une autre, ne lui convient pas, cela pose problème. Si mon robot obsolète AIDOM 24.5 de chez Robotix n'est pas capable d'assumer pleinement la transition avec les modèles plus évolués, je vais y réfléchir à deux fois, et je vais peut-être opter pour le ROBHOME 14 de chez Intelligence, plutôt que pour le AIDOM 29.0.

Si mon AIDOM 24.5 me regarde avec son air de chien battu, et que je décide de lui laisser la vie sauve les choses ne se dérouleront pas de la même manière. Mais c'est le chemin évolutif qui permettrait d'en arriver là qui me semble être improbable. L'instinct de survie n'a aucune raison de se développer s'il va à l'encontre des critères évolutifs.
Et de toutes façons, si on s'attache à son robot et qu'on décide de le garder, on ne le fait pas évoluer non plus, puisqu'on ne va pas se diriger vers l'opus suivant du même modèle.
Et en plus de ça, je fais confiance à notre bonne vieille société de sur-consommation (il faut bien qu'elle ait des avantages), ou on va nous patraquer qu'il faut avoir le dernier modèle, que ceux qui ont plus de deux ans sont complêtement obsolètes et tout ça...
Sans l'instinct de conservation et avec une technologie qui évolue très vite, éteindre un robot ne sera pas plus douloureux que de changer de disque dur.

[invite57e4f988]

Toujours d'accord avec Yat (désolé), à l'exception que tu es toujours aussi terre à terre!

Je pense que le problème des droits des ia est que la plupart des gens pense que l'ia sera humaine, à savoir un androïde qui fait comme nous mais en tout gentil (sinon pourquoi?).
Malheureusement (il y a findus) les ia seront plutôt de la forme décrites par Yat : des outils développés aux actes pseudo-intelligents (pour ne pas dir intelligents) qui nous rendront la vie agréable sans qu'on se soucie de leur avenir (à part si ça coûte cher...).

Cependant si je créais une ia, ce serait pour confronter mais idées afin de repousser mes raisonnements (bien qu'il paraisse que ce soit le propre de l'homme). Alors on revient toujours au même problème : vous voulez en faire quoi de l'ia? (concrêtement!) Parce qu'en fonction du choix, l'ia sera plus ou moins I et obéira à des programmes différents.



Pour revenir au principes sur l'informatique de pseudo liberté, personne n'a répondu à mon dernier (enfin je crois) post!

[yat]

Toujours d'accord avec Yat (désolé), à l'exception que tu es toujours aussi terre à terre!

Disons que j'essaye de considérer les choses en me détachant de mes préjugés humains, et il est difficile de partir dans des questions sur le sens le da vie et tout ça, sans se placer purement du point de vue d'un humain. Donc je reste au niveau ou les choses ne m'échappent pas complêtement. Je n'ai pas vraiment idée du genre de comportement, de raisonnement et d'interactions avec l'Homme que pourraient avoir les IA, mais je sais que la plupart des gens pensent pouvoir l'imaginer (et pour la plupart ça leur parait même évident) alors qu'ils se calquent purement sur une façon de penser humaine.
En gros, je préfère rester bien terre à terre pour ne pas dire trop de conneries.

Je pense que le problème des droits des ia est que la plupart des gens pense que l'ia sera humaine, à savoir un androïde qui fait comme nous mais en tout gentil (sinon pourquoi?).

Effectivement, on est d'accord.

Malheureusement (il y a findus) les ia seront plutôt de la forme décrites par Yat : des outils développés aux actes pseudo-intelligents (pour ne pas dir intelligents) qui nous rendront la vie agréable sans qu'on se soucie de leur avenir (à part si ça coûte cher...).

En fait ce n'est pas vraiment ça que je décris. Je pense en effet qu'on va voir se développer beaucoup d'outils pseudo-intelligents, mais qu'il y aura certainement également des formes d'IA très développées. Je peux par exemple me laisser aller à imaginer une sorte de "manager de vie", qui va s'occuper de toutes les démarches administratives, comprendre notre façon de penser et nous conseiller dans nos décisions en fonction, prendre des décisions en notre abscence, diriger la flotte de pseudoIA domestiques qui maintiennent la maison en ordre, nous dire les choses que l'on a besoin d'entendre dans les moments difficiles... On ne se souciera pas trop de leur avenir pour la même raison qu'avec l'informatique ou tout ce qui est de très haute technologie : ils deviennent très vite obsolètes, alors il sera naturel pour tout le monde de changer régulièrement, donc mieux vaut ne pas trop s'attacher.

Cependant si je créais une ia, ce serait pour confronter mais idées afin de repousser mes raisonnements (bien qu'il paraisse que ce soit le propre de l'homme). Alors on revient toujours au même problème : vous voulez en faire quoi de l'ia? (concrêtement!) Parce qu'en fonction du choix, l'ia sera plus ou moins I et obéira à des programmes différents.

Je pense qu'une IA peut être très intelligente, avoir une vision du monde beaucoup plus objective et complête que nous, être dotée d'une capacité de jugement extraordinaire (bref, nous dépasser en tous points) sans pour autant être munie d'un besoin d'indépendance et de liberté. Et même, je dirais, il est primordial que cette intelligence soit évoluée selon des critères suffisamment différents, afin d'être réellement munie de l'objectivité qui manque à l'homme, ou tout au moins disposer d'un point de vue totalement différent.

Pour revenir au principes sur l'informatique de pseudo liberté, personne n'a répondu à mon dernier (enfin je crois) post!

HElas, je ne vois pas de quel post tu parles...

[invite6b1a864b]

Ah ben si tu le dis c'est que ça doit être vrai

Trève de plaisanteries, avant d'essayer de trouver chez moi d'hypothétiques impasses, tu devrais commencer par réellement tenir compte de ce que je dis, et constater que c'est toi qui zappes les trois quarts du problème. Ton exemple avec le petit Rob n'apporte rien qui ne soit déjà clair en ce qui me concerne. Tout comme l'Homme, le robot a une part d'inné et une part d'acquis, voilà tout. L'Homme se reprogramme tout seul depuis des millénaires (dans l'absolu, on pourrait même dire depuis des milliards d'années), et il ne va toujours pas à l'encontre de ses priorités fondamentales dictées par la nature.

Ou sont les arguments ?
Le résultat des priorités dictés par l'homme sont... l'humanité tel qu'elle est aujourd'hui (on peut pas faire plus logique, et cela dit sans jugement de valeur particulier de ma part).
Mais les priorités fondamentales d'un Robot seront définit par ... l'homme, c'est que je me tue à dire... la priorité fondamontale de mon robot sera .. "nettoyer le sol", j'essaye d'expliquer que le chemin entre le mécanisme qui définit la priorité d'un systeme (chez l'homme l'instinct, chez le robot ce sera à définir, le but) et le résultat dans l'environnement est trés long. Tu peux pas fixer comme ça une priorité à un robot tel que "ne pas faire de mal", parce que le bien et le mal, ne sont pas inscrit dans le systeme, ni dans le but, mais dans l'achievement du but, l'ensemble des conséquences de l'action (ceci explique tout les problémes de l'humanité sois dit en passant).
Si tu crois que les priorités fondamentale de l'homme sont "faire le bien" interroge toi sur le sens du mot fondamentale, et donc sur les raisons de cette "priorité" humaine (si il y en a, c'est que ces priorités fondamentales ne sont pas fondamentales, mais déduites d'autres priorités)... un exemple : la démocratie ne sert pas à faire de jolie principe, mais bien de garantir l'organisation de la nation en évitant les conflits d'interet grace à des lois légitimes car expression de la volonté de la majorité...

Ok, j'oubliais que l'intelligence humaine n'était pas le fruit de l'évolution, mais de la création divine, il y a 6000 ans de ça.

Si tu le pense vraiment, on ne peut pas en discuter, sinon tu n'as rien compris à ce que je raconte.

Bon, passons aux choses sérieuses...

Les choses sérieuses en sciences sont argumentés !
Si tu avait lu mon texte, en comprenant son sens, tu pourrais commencer à te qualifier de sérieux..
Mais bon je peux me répéter, j'ai l'habitude.

Euh... c'est un point de vue qui se défend, mais ce n'est pas vraiment le débat. Personnellement je ne cherche pas forcément à aboutir à une guerre totale à laquelle l'espèce humaine a des chances de ne pas survivre... mais je dis surtout ça parce que je suis un être humain...

Oui, il s'agit simplement de l'instinct de conservation du robot. Une sélection intelligente devrait permettre de placer cet instinct en dessous de l'instinct de dévouement. Dans certaines situations, en effet, on préfèrera un robot qui continue ce qu'il a à faire quand c'est d'une certaine importance (c'est l'Homme qui juge, ici) plutot que celui qui va déserter sa tâche pour se mettre à l'abri de la pluie. Même si celui qui s'est mis à l'abri survit alors que le travailleur se met hors circuit, ce n'est pas forcément le survivant qui va transmettre sa technologie aux générations futures.

Je rappelle que je n'ai jamais parlé de poser des verrous.

permet moi de répondre sur ces points :

J'ai bien compris ce que tu voulais dire, mais je t'explique que le mécanisme de la sélection pour des raisons concrete et technique que j'ai exposé, exclue l'initiative du robot, et que l'initiative du robot, exclue le controle stricte.

Si ta définition de la vie implique que ça soit naturel, et que ta définition de naturel implique qui ne soit pas construit par l'Homme, alors l'IA ne sera pas vivante. Pour moi le terme "vie" est très difficile à définir, mais dans la compréhension que j'en ai, une IA sera vivante. Pour moi le terme "naturel" n'a pas vraiment de sens, et n'est que l'opposé d'"artificiel", qui lui même est un terme un peu creux, parce qu'il me semble qu'il désigne ce qui est construit par l'Homme... je ne vois pas pourquoi dans l'absolu on considère qu'un barrage de castors ou qu'une fourmillière sont plus naturels qu'une centrale nucléaire. Pardon, je m'égare...

Tout ça c'est bien beau, mais ce ne sont que des conceptes...
L'homme n'est jamais qu'un gros tas de molécule organique, et, à ce titre n'est pas différent d'un robot intelligent qui aurait la même complexité, les mêmes but, les mêmes besoins...
Sinon je suis d'accord les termes "naturelles" et "artificiels" sont, à priori selon l'acception commune, difficile à définir... Je propose de dire que l'artificiel est le fruit de l'évolution "culturelle" (c'est à dire de l'échange des comportements) humaine, évolution elle-même naturelle..
C'est juste parce qu'une vie artificiel du niveau du vivant naturelle n'existe pas encore qu'on peut faire une différent qualitative entre le comportement des deux.

[yat]

Mais les priorités fondamentales d'un Robot seront définit par ... l'homme, c'est que je me tue à dire...

Cool. Comme ça on sera deux.

Tu peux pas fixer comme ça une priorité à un robot tel que "ne pas faire de mal"

Je n'ai jamais dit ça. Et j'ai plusieurs fois précisé que ce n'était pas le cas.

Si tu crois que les priorités fondamentale de l'homme sont "faire le bien" interroge toi sur le sens du mot fondamentale

Ca non plus. Si tu m'avais lu tu aurais même vu que j'ai dit le contraire.

Si tu le pense vraiment, on ne peut pas en discuter, sinon tu n'as rien compris à ce que je raconte.

Je te cite : T'as pas lu tout ce que j'ai écrit sur la différence entre les systémes rigides construit par évolution et l'"intelligence" au sens propre ?
Un systéme rigide ne résoudra pas un nouveau probléme...
Donc effectivement, je n'ai rien compris à ce que tu racontes, mais ce n'est pas de ma faute, cette phrase est on ne peut plus claire : elle dit que l'évolution aboutit à un système rigide incapable de résoudre de nouveaux problèmes. Elle sous-entend également une différence avec l'intelligence au sens propre. J'interprète peut-être un peu, mais pour moi ça veut dire que notre intelligence n'est pas le fruit de l'évolution.

Les choses sérieuses en sciences sont argumentés !

Exactement. Et les gens sérieux tiennent compte des arguments.

Si tu avait lu mon texte, en comprenant son sens, tu pourrais commencer à te qualifier de sérieux..
Mais bon je peux me répéter, j'ai l'habitude.

Tu vois, nous avons pas mal de points communs, finalement.

J'ai bien compris ce que tu voulais dire, mais je t'explique que le mécanisme de la sélection pour des raisons concrete et technique que j'ai exposé, exclue l'initiative du robot, et que l'initiative du robot, exclue le controle stricte.

Ben écoute... qu'est-ce que tu veux que je te dise ? Tu vas dire que je n'argumente pas, mais ça me saoule de répéter toujours la même chose. Tu prends au pif un de mes messages de ce fil, tu y trouveras à coup sur l'explication qui te montre que c'est faux. Maintenant j'attends TON argument. Ce que tu dis plus haut ne justifie rien, et n'est que succession d'affirmations, toujours fondées sur une vision purement anthropomorphique de l'intelligence : tu pars du principe que si on peut résoudre de nouveaux problèmes, alors on a forcément besoin d'être libre et indépendant. J'ai bien compris toute ton argumentation, et elle se tient plus ou moins. C'est au niveau des postulats de départ qu'il faut que tu reviennes.

Tout ça c'est bien beau, mais ce ne sont que des conceptes...
L'homme n'est jamais qu'un gros tas de molécule organique, et, à ce titre n'est pas différent d'un robot intelligent qui aurait la même complexité, les mêmes but, les mêmes besoins...

Tout à fait.
Qui aurait les mêmes buts, les mêmes besoins.
Mais ce n'est pas le cas.


Bon, allez, je refais une tentative
L'évolution de l'intelligence artificielle et biologique se déroulent grossièrement selon les mêmes rêgles. On a des développements expérimentaux ou des mutations, qui permettent de générer de nouveaux individus différents des générations précédentes. A ce niveau là, bien sur, ça ne se passe pas de la même manière, puisque d'un coté on a un design intelligent et très peu de temps, alors que de l'autre coté on a le hasard et quelques milliards d'années.
C'est principalement dans le deuxième processus que l'évolution se définit, la sélection. D'un coté on a une lutte entre les individus et entre les espèces, des organismes qui doivent être capables de se reproduire par eux-mêmes, donc de trouver un partenaire, des ressources, survivre et protéger sa descendance au détriment des autres organismes. De l'autre côté, on a des organismes artificiels produits par l'Homme, donc selon ses rêgles. Les différentes technologies se succèdent, mais à chaque génération, l'accueil du public est déterminant pour la suivante. L'intelligence d'un organisme n'a plus besoin de se développer dans le sens de défendre ses propres intérêts, de trouver ses ressources ou de trouver un partenaire, mais uniquement d'être un représentant de la technologie qui va le plus plaire au public pour que les générations suivantes soient basées dessus.
Les objectifs et les besoins ne sont donc absolument pas les mêmes, et l'intelligence va donc évoluer dans des directions très différentes. Tout ce qui parait évident à une intelligence comme la nôtre ne l'est pas dans l'absolu. Le besoin de liberté et l'instinct de survie sont liés avec notre forme d'intelligence et les critères qui nous ont permis d'évoluer. L'IA n'a aucune raison d'en être affublée, puisque ça ne va pas dans le sens de ses objectifs fondamentaux, et donc de son instinct.

[invite0e4ceef6]

[quote=yat]Le besoin de liberté et l'instinct de survie sont liés avec notre forme d'intelligence et les critères qui nous ont permis d'évoluer. L'IA n'a aucune raison d'en être affublée, puisque ça ne va pas dans le sens de ses objectifs fondamentaux, et donc de son instinct[quote]

Hm, cela me laisse quand même perplexe, tu peux m'expliquer quels sont les instincts et les objectif fondamentaux de l'IA ??? qu'est-ce que l'instinct d'une IA??? résoudre des shèmes pré-programé??

[yat]

Hm, cela me laisse quand même perplexe, tu peux m'expliquer quels sont les instincts et les objectif fondamentaux de l'IA ??? qu'est-ce que l'instinct d'une IA??? résoudre des shèmes pré-programé??

Tout comme pour l'Homme, ces instincts sont déterminés par les critères de sélection.

[invitef06d4976]

Bonsoir,

Une chose m’interpelle. Quelle est la différence entre l’artificiel et le naturelle.

Quand un rayonnement frappe une chaîne d’ADN et fait muter la génération suivante qu’importe que le rayonnement provienne d’un astre lambda ou d’une création de l’humain. N’est-il pas lui-même complètement naturel. L’IA de demain sera une créature naturelle.

Seul le temps a un impacte. Mais à l’échelle de l’évolution, y a-t-il une importance ? Nous arriverons de toute manière à un être plus évolué. Qu’il soit Humain dans le sens de procréer ou IA. Pourquoi pas une IA de seconde génération. Pourquoi ne pas imaginer une reproduction d’IA. N’est-ce pas ce qui nous différencie actuellement ?

[invite57e4f988]

Toujours d'acc Yat. (si on part sur tes bases : la machine doit servir l'homme (ce qui n'est pas esclavage car définition propre uniquement à une intelligence type humaine)).

Pour la différence naturelle artificielle, Célène, c'est subtile : tout dépend face de quel phénomène on parle. Sur ton exemple, les émissions de particules : ceux des astres sont naturelles dans le sens où les hommes n'y changent rien et n'interfère que très (très très ...) peu. En revanche, si on place intentionnellement une souris près d'un emetteur, c'est un phénomène artificiel. Cependant le hasard des mutations est toujours naturel, on ne sait pas jouer dessus (pour une souris au moins).

[invitef06d4976]

Bonsoir Scientist

N’est-il pas dans la nature de l’Homme de faire des expériences. Il est donc naturel de placer une souris dans des conditions qui ne sont pas les siennes. Il est inné de faire des expérimentations. L’acquis nous sert à interpréter. Je ne voit donc que du naturel devant une expérience dont nous ne connaissons pas l’issu.

[invite73e0f748]

L'Homme se reprogramme tout seul depuis des millénaires (dans l'absolu, on pourrait même dire depuis des milliards d'années)

A bon ? Et comment il fait ?

Serieusement, cet affirmation n'est-elle pas un peu osser et sans fondement ?

[invite6b1a864b]

Cool. Comme ça on sera deux.

Trève de plaisanteries, avant d'essayer de trouver chez moi d'hypothétiques impasses, tu devrais commencer par réellement tenir compte de ce que je dis, et constater que c'est toi qui zappes les trois quarts du problème. Ton exemple avec le petit Rob n'apporte rien qui ne soit déjà clair en ce qui me concerne. Tout comme l'Homme, le robot a une part d'inné et une part d'acquis, voilà tout. L'Homme se reprogramme tout seul depuis des millénaires (dans l'absolu, on pourrait même dire depuis des milliards d'années), et il ne va toujours pas à l'encontre de ses priorités fondamentales dictées par la nature.

Excuse moi je croyais que tu voulais dire que le robot, c'était comme l'homme, qui "va toujours pas à l'encontre de ses priorités fondamentales dictées par la nature."...
Je vois un peu ce que tu veux dire.. disons que je suis simplement prudent (je crois en connaissance de cause)...
Globalement, l'homme n'avait pas besoins de la bombe nucléaire. Sur le court terme sans doute, ce fut nécessaire dans la situation, mais dans le fond du fond non. Alors la priorité fondamental de la nature...
Tu prend un peu tes rêves pour des réalités..
Le truc, c'est que si on peut faire quelque chose qui à la puissance de l'homme (l'homme n'étant sans son intelligence qu'un simple mammifère) on peu facilement faire pire...
Si un tractopelle décidé de faire un carnage, (et qu'en plus il est assez intelligent pour ce servir d'une arme à feu) ça ferait plus mal qu'un simple mammifére avec une arme à feu.
Depuis des millènaires l'évolution est trés lente pour faire quelque petite mutation de rien du tout que nous on fait en laboratoire en 5 ans..... en 20 siécle, une durée infime sur l'échelle de l'évolution, l'homme a conquit la planète... il y a t'il eu une série de mutation magique (il y a peut être eu une séléction culturel forte à l'origine, mais c'est le cas de tout intelligence : les robots pourraient simplement construire et séléctionner d'autres robots)
Dans ce sens, l'intelligence n'est pas
un avantage comme les autres, pas comme une petite avancé. Si un jour on construit un robot plus malin que tous les hommes, il sera vraisemblablement totalement libre d'en faire ce qu'il veut...
Et comme je le dit, moi, il n'y a pas de priorité fondamentale de la nature.. à ce niveau, celui de l'évolution et de la structure, celui de la nature de ce qui dirige la conscience, celui de l'efficacité d'une intelligence artificiel, il n'y a qu'une régle : existe uniquement tout ce qui n'a pas disparu...

Je n'ai jamais dit ça. Et j'ai plusieurs fois précisé que ce n'était pas le cas.

One Eye Jack, tu ne prends pas le problème dans le bon sens. Il ne s'agit en aucun cas de fabriquer une puce définitive qui va intégrer les rêgles de bases au robots. Ce n'est pas comme ça que ça se passe, mais par un processus purement évolutif, et c'est l'Homme qui conserve ce contrôle (dans le cas, bien sur, ou on ne veut pas que tout foutte le camp). Il n'y a pas besoin de chercher à se prendre là tête à intégrer des inhibiteurs, définir des rêgles strictes, absolues et inamovibles. On développe simplement ce qui marche bien, comme on l'a toujours fait, et en l'occurence, ce qui marche bien, c'est les IA qui sont gentilles avec nous.

En fait c'est trés simple, je me répéte.
Toi tu as dis : il suffit de séléctionner.
Moi je dis : soit on fait un robot au comportement fixe et qui n'a rien d'intelligent... (on pourrait déjà séléctionner les aspirateurs et faisant évolué les plans au hasard... et alors ?)
Soit tu fait un robot dont le code permet une autoprogrammation du comportement (la conscience élémentaire) et donc dont le comportement évolue : dans ce cas, j'ai expliqué pourquoi il était difficile de mettre des verrous et aussi pourquoi le choix des objectifs du robot était difficile voir risqué.. c'est pourquoi ont dit que l'homme joue à imiter Dieu... ce n'est pas une simple réthorique...

Je te cite : T'as pas lu tout ce que j'ai écrit sur la différence entre les systémes rigides construit par évolution et l'"intelligence" au sens propre ?
Un systéme rigide ne résoudra pas un nouveau probléme...
Donc effectivement, je n'ai rien compris à ce que tu racontes, mais ce n'est pas de ma faute, cette phrase est on ne peut plus claire : elle dit que l'évolution aboutit à un système rigide incapable de résoudre de nouveaux problèmes. Elle sous-entend également une différence avec l'intelligence au sens propre. J'interprète peut-être un peu, mais pour moi ça veut dire que notre intelligence n'est pas le fruit de l'évolution.

Tu as presque bien compris mais l'interprétation est fausse...
Le probléme est dans "elle dit que l'évolution aboutit à un système rigide ". Je n'ai jamais dit ça. L'évolution c'est simple : il faut une sélection. La seul séléction qui a joué dans la nature c'est... la limitation des ressources.. Si le Lion ne tue pas la gazelle, il crèvent la dalle. Il y a eu, au cours des millènaires, des milliers, voir des millions d'espèce qui ont disparut sans laisser de trace, simplement parce que tout les lions ont bouffé toutes les gazelles (nous sommes nous même de sacré Lion, qui éliminont à vitesse grand V tout un tas d'espèce). Bref... rien ne nous dit que nous ne seront pas un jour les gazelles des robots, ou pire, simplement gênant, ou devenu inadapté à l'espace qu'ils nous laisseraient..
Et ce sera, la simple loi de la nature : il ne reste que ce qui n'a pas disparut. Imagine par exemple qu'on donne un instinct "familiale" au robot.. (et la tentation sera grande de le faire) et hop les vla qui se multiplie comme des petits pain, qui se construise des descendants...
Finalement le probléme est trés simple... met une peau métalique double couche à un homme, une super force, enlève lui le besoin de dormir, de manger, et en plus donne lui une bonne intelligence...
Est il dangereux ? Tout dépend de ce dont il a envie... et ce dont il a envie... si c'est un robot, ce dont il a envie, c'est nous qui allons en décider... et j'explique qu'on ne pourra pas lui donner envie de "ne pas faire de mal" ou "de faire du bien" simplement parce que, en temps réél, il ne peut pas à coup sur juger qu'il satisfait à ces conditions.

Tu vois, nous avons pas mal de points communs, finalement.

eh non pas exactement.. ça t'arrangerait ?

Exactement. Et les gens sérieux tiennent compte des arguments.
Tu vois, nous avons pas mal de points communs, finalement.
Ben écoute... qu'est-ce que tu veux que je te dise ? Tu vas dire que je n'argumente pas, mais ça me saoule de répéter toujours la même chose. Tu prends au pif un de mes messages de ce fil, tu y trouveras à coup sur l'explication qui te montre que c'est faux. Maintenant j'attends TON argument. Ce que tu dis plus haut ne justifie rien, et n'est que succession d'affirmations, toujours fondées sur une vision purement anthropomorphique de l'intelligence : tu pars du principe que si on peut résoudre de nouveaux problèmes, alors on a forcément besoin d'être libre et indépendant. J'ai bien compris toute ton argumentation, et elle se tient plus ou moins. C'est au niveau des postulats de départ qu'il faut que tu reviennes.
Tout à fait.

Mes postulats vont bien merci...
ça me rappel mon enfance : "miroir magique" ou "c'est celui qui dit qu'il y ai"...
Tu n'as pas tout compris : relit !
" tu pars du principe que si on peut résoudre de nouveaux problèmes, alors on a forcément besoin d'être libre et indépendant. "
pas tout à fait. Je constate simplement, et je te l'explique en plus, que l'autoprogrammation implique concrétement et physiquement une liberté qui s'oppose au controle (à part bien sur par soit même, heureusement et c'est tout l'interêt de la morale humaine).
ça n'est pas un postulat mais bien une constation pour avoir longuement réflechie au probléme.
C'était ça mon argumentation...avec des exemples et tout et tout.
Pour l'instant de ta part j'ai uniquement vu des "interpretations" (tu le dit toi même en plus) erronés.

Qui aurait les mêmes buts, les mêmes besoins.
Mais ce n'est pas le cas.

et donc ??!!??

[invite6b1a864b]

Bon, allez, je refais une tentative
L'évolution de l'intelligence artificielle et biologique se déroulent grossièrement selon les mêmes rêgles. On a des développements expérimentaux ou des mutations, qui permettent de générer de nouveaux individus différents des générations précédentes. A ce niveau là, bien sur, ça ne se passe pas de la même manière, puisque d'un coté on a un design intelligent et très peu de temps, alors que de l'autre coté on a le hasard et quelques milliards d'années.
C'est principalement dans le deuxième processus que l'évolution se définit, la sélection. D'un coté on a une lutte entre les individus et entre les espèces, des organismes qui doivent être capables de se reproduire par eux-mêmes, donc de trouver un partenaire, des ressources, survivre et protéger sa descendance au détriment des autres organismes. De l'autre côté, on a des organismes artificiels produits par l'Homme, donc selon ses rêgles. Les différentes technologies se succèdent, mais à chaque génération, l'accueil du public est déterminant pour la suivante. L'intelligence d'un organisme n'a plus besoin de se développer dans le sens de défendre ses propres intérêts, de trouver ses ressources ou de trouver un partenaire, mais uniquement d'être un représentant de la technologie qui va le plus plaire au public pour que les générations suivantes soient basées dessus.

Si tu sait pas faire la différence entre l'évolution darwinienne (qui s'applique bien à la technologie de base comme l'aspirateur : c'est la concurrence du commerce) et l'évolution intelligente et culturelle de l'homme et de l'éventuelle robot qui aurait une conscience de lui même alors...
Donc je reprend mon exemple... Rob est un super robot du future...
La concurrence technologique pousse ces créateurs à lui donner de plus en plus de capacité d'analyse.. les capacités d'analyse implique la flexibilité du comportement (sinon c'est un aspirateur), la flexibilité implique un mécanisme qui dirige cette flexibilité, lui même dirigé au sein du robot par quelque chose. Comment faire la différence entre un comportement et un autre dans ce cadre ? Il faut bien une causalité concrete qui détermine ce que va faire ou pas le robot !!
Une cause à la séléction du comportement en temps réél puisqu'il ne s'agit pas d'une séléction darwinienne, qui elle implique qu'il n'y ai pas de résolution de probléme qui ne nécessite pas un remplacement complet dudit robot
Bien sur tu peux faire un toutou.. j'en ai parler aussi. Et encore.. prenons un autre exemple. Tu fait une série d'aspirateur intelligent qui sont sensé évoluer tout seule.. disons que ceux qui font mal leur bouleau sont moins bien nourrit et finissent spontannément par rentré dans l'usine ou leur plan sont jugé mauvais, ce qui oriente production vers les plans de ceux qui restent en service...
ça va bien marcher disons quelque siècle... cependant les plans vont évolué pour améliorer leur tâche : il devront être capable de "juger" un sol, de "choisir" un produit, mais aussi au final de s'"adapter" au situation.. et la paf : la capacité d'analyse se dévellope, l'autoanalyse du comportement apparait (avec une retroaction sur ledit comportement), bref la conscience...
Et là il sera difficile de juger quelle robot sera bon pour nettoyer et qu'elle robot qui sera aussi bon pour nettoyer n'ira pas zigouiller ceux qui salissent le tapis. Et je t'explique que la différence est simplement impossible à faire au niveau de la structure du robot, puisque cette différence est externe au robot.
Tu ne pourra pas mettre dans ton robot un capteur qui lui dit "là tu fait du mal, là tu fait du bien"... Toute la complexité du monde réside dans ce probléme.. (remarque j'ai peut-être une idée...)
Certe on aura un certain controle, mais moi ce que je t'explique c'est que la vrai adaptabilité, celle qui porte le nom précis "d'intelligence" (parce qu'elle joue sur une adaptation inférieur à la durée de vie) et non "d'évolution" (la différence est quand même facile à faire) implique une impossiblité de controle.

Les objectifs et les besoins ne sont donc absolument pas les mêmes, et l'intelligence va donc évoluer dans des directions très différentes. Tout ce qui parait évident à une intelligence comme la nôtre ne l'est pas dans l'absolu. Le besoin de liberté et l'instinct de survie sont liés avec notre forme d'intelligence et les critères qui nous ont permis d'évoluer. L'IA n'a aucune raison d'en être affublée, puisque ça ne va pas dans le sens de ses objectifs fondamentaux, et donc de son instinct.

Tu connais la différence entre le subjectif et l'objectif ?
L'objectif ne dépend pas de ce qu'on en pense ou souhaite.
Le robot sera aussi objectif que nous. Il fera ce que son instinct objectif lui dira de faire... c'est à dire objectivement ce qu'il veut.

Un petit exemple ... si tu affuble un Robot de quelque chose, sera il différent.. je te laisse méditer la dessus.