Intelligence Artificielle...

[invitea4b4a777]

Re bonjour,

Je vois que le debat fais toujours "rage", c'est cool.

On ne se souciera pas trop de leur avenir pour la même raison qu'avec l'informatique ou tout ce qui est de très haute technologie : ils deviennent très vite obsolètes, alors il sera naturel pour tout le monde de changer régulièrement, donc mieux vaut ne pas trop s'attacher.

Sans vouloir etre mechant, et tant pis si vous me prenez pour un allumer, mais personnellement, j'ai toujours mes ancienne machines. Elle tourne avec des trucs bidon, pas vraiment utile. Mais c'est nostalgique, c'est mes machines (mon premier 386, ma premiere becane acheter avec mes propre sous, de vieux PC recupéré). Je vois pas pourquoi je changerais de comportement avec une IA, surtout si elle est consciente. Mais si je suis obligé de toujours lui dire quoi faire, ca va vite me gonfler.

De l'autre côté, on a des organismes artificiels produits par l'Homme, donc selon ses rêgles. Les différentes technologies se succèdent, mais à chaque génération, l'accueil du public est déterminant pour la suivante. L'intelligence d'un organisme n'a plus besoin de se développer dans le sens de défendre ses propres intérêts, de trouver ses ressources ou de trouver un partenaire, mais uniquement d'être un représentant de la technologie qui va le plus plaire au public pour que les générations suivantes soient basées dessus.

Ceci suppose que c'est le public qui va choisir. Mais il y a plein de domain qui seront toucher par ces IA qui n'ont rien a voir avec le public. L'energie, la production, les secours, la surveillance .... l'armée. Ces domaines auront besoin d'IA différente, mais on peut raisonnablement supposé qu'une IA de production serait en relation avec une IA charger du contact avec la clientèle. Et s'il y a communication, on peut raisonnablement supposé qu'entre entité intelligente, il y aura une influence reciproque (l'IA de production n'arrive plus a suivre, les clients demande qqch d'impossible, un problème d'approvisionnement, etc...). Toutes ses influence sont hors de controle, parce que c'est comme controler le net. Je m'arrete la, mais on peut imaginé toutes les conséquence possible d'une réseau intelligent virtuel (plus ou moins sous controle, comme le net).

Seul le temps a un impacte. Mais à l’échelle de l’évolution, y a-t-il une importance ? Nous arriverons de toute manière à un être plus évolué. Qu’il soit Humain dans le sens de procréer ou IA. Pourquoi pas une IA de seconde génération. Pourquoi ne pas imaginer une reproduction d’IA. N’est-ce pas ce qui nous différencie actuellement ?

C'est un problème que l'on prend pas dans le bon sens. On imagine la reproduction comme un phenomene "sur"-naturel. Sans entrer dans les details, l'homme est un assemblage de micro-organisme interdependant. Si j'ai bien compris le fonctionnement d'une cellule, il y a des micro-organisme qui vivent a l'interieur de la cellule, et qui par leur action "simule" le fonctionnement d'une partie precise de la cellule. Et le corps lui-meme est un assemblage de ces cellules. Quant un enfant est concu, il est alimenter en element (en matiere premiere) par le cordon ombilicalle.

Hier soir, j'ai regarder "Miracle sur la 8eme rue", un film dans lequel des robots viennent "aider" des habitants d'un immeuble. A un moment dans le film, un des personnage inspecte a la loupe un des robots et voit en fait une "ville" avec plein de micro-robot qui font "vivre" le robot.

Une autre scene montre la "naissance" de 3 robots.

En fait, si je compare avec l'homme, le corps est une usine ou co-habite les surveillants, les travailleurs, les machines, les dirigeants et les contremaitres. Au lieu de voir le robot doté d'une IA comme un seul robot, pourquoi ne serait-il pas en fait une nano-usine-ville-centrale, mais a notre echelle. Et l'IA son programme pour vivre en tant qu'entité (pour realisé son but, qui devient la reproduction).

L'evolution est un autre problème, comment melanger 2 schema technique représentant a la fois le physique, mais aussi le programme fondamentale. Ou alors une forme de reproduction asexuée.

C'est juste une suggestion par rapport a la procréation des IA. Mais si les IA sont capable de se repliquer independamment de nous, la question des droits me semble reglée. Enfin , pt etre pas, qu'en pense tu, yat.

Cependant si je créais une ia, ce serait pour confronter mais idées afin de repousser mes raisonnements (bien qu'il paraisse que ce soit le propre de l'homme). Alors on revient toujours au même problème : vous voulez en faire quoi de l'ia? (concrêtement!) Parce qu'en fonction du choix, l'ia sera plus ou moins I et obéira à des programmes différents.

C'est bien la le problème. Mais je vais pas me repete, j'ai exposé mon point de vue plus haut. Le plus important, c'est de savoir ce qu'on veux en faire et d'adapter a la fois le programme mais aussi la loi pour les utilisés. Rien que pour les IA de conduite, par exemple, va falloir travailler le code de la route. Et en cas d'accident et de litige entre le fautif (l'IA ou le conducteur humain) et le fabricant, comme dans l'affaire recente d'une marque francaise.

Pour revenir au principes sur l'informatique de pseudo liberté, personne n'a répondu à mon dernier (enfin je crois) post!

Je vois pas non plus duquel tu parle. Désolé
-----

[yat]

Sans vouloir etre mechant, et tant pis si vous me prenez pour un allumer, mais personnellement, j'ai toujours mes ancienne machines. Elle tourne avec des trucs bidon, pas vraiment utile. Mais c'est nostalgique, c'est mes machines (mon premier 386, ma premiere becane acheter avec mes propre sous, de vieux PC recupéré). Je vois pas pourquoi je changerais de comportement avec une IA, surtout si elle est consciente. Mais si je suis obligé de toujours lui dire quoi faire, ca va vite me gonfler.

C'est également mon cas, j'ai 4 machines en état de marche sous mon lit. Ce n'est pas comme ça que fonctionne notre société. Et quoi qu'il en soit, celle que j'utilise actuellement est loin d'être obsolète. Tout comme toi, j'imagine. Que les anciennes soient jetées ou pas, c'est bien avec tes derniers achats que tu contribues à faire évoluer la technologie.

Ceci suppose que c'est le public qui va choisir. Mais il y a plein de domain qui seront toucher par ces IA qui n'ont rien a voir avec le public. L'energie, la production, les secours, la surveillance .... l'armée. Ces domaines auront besoin d'IA différente, mais on peut raisonnablement supposé qu'une IA de production serait en relation avec une IA charger du contact avec la clientèle. Et s'il y a communication, on peut raisonnablement supposé qu'entre entité intelligente, il y aura une influence reciproque (l'IA de production n'arrive plus a suivre, les clients demande qqch d'impossible, un problème d'approvisionnement, etc...). Toutes ses influence sont hors de controle, parce que c'est comme controler le net. Je m'arrete la, mais on peut imaginé toutes les conséquence possible d'une réseau intelligent virtuel (plus ou moins sous controle, comme le net).

On garde un contrôle absolu du fait que ce sont des constructions humaines. Si c'est dans le domaine privé, il y a encore moins de chances que les patrons qui se servent de ces IA commes employés ne se laissent enquiquiner par des créatures qui commencent à vouloir s'asseoir cinq minutes sur unrocher, et regarder la lune en rêvant de puissance.

C'est juste une suggestion par rapport a la procréation des IA. Mais si les IA sont capable de se repliquer independamment de nous, la question des droits me semble reglée. Enfin , pt etre pas, qu'en pense tu, yat.

Dans ce cas je te rejoins. Effectivement si les robots se reproduisent eux-même, les critères d'évolution peuvent avoir toutes les raisons de se rapprocher de ceux de l'homme. Mais j'en ai déjà parlé il y a bien longtemps, laisser aux IA la possibilité de gérer eux-mêmes leur production est la dernière erreur que l'on doit faire.

[yat]

A bon ? Et comment il fait ?

Serieusement, cet affirmation n'est-elle pas un peu osser et sans fondement ?

L'évolution des espèces (Charles Darwin)

[yat]

Excuse-moi, One Eye Jack, mais je suis las de discuter avec toi, tu ne comprends rien à ce que je dis et on peut piocher dans chacun de mes posts ma réponse à chacune de tes phrases. De ton coté, tu n'as toujours pas justifié ta certitude que le fait de savoir s'adapter aux problèmes rencontrés puisse aboutir à aller à l'encontre de ses priorités fondamentales. Ca fait longtemps que je n'ai plus rien à t'apporter, donc ne m'en veux pas si je ne te réponds pas.

[invite73e0f748]

L'évolution des espèces (Charles Darwin)

Depuis de milliard d'anné l'homme se reprogrammerai ?
L'évolution des espèces entrainerai une reprogramation ? Faut m'expliqué !

[invitea4b4a777]

Depuis de milliard d'anné l'homme se reprogrammerai ?
L'évolution des espèces entrainerai une reprogramation ? Faut m'expliqué !

Ben ca depend du point de vue ou on se place. Si on parle de l'homme, effectivement, la reprogrammation est pt etre un peu forte. Mais si on prend en compte qu'avant d'etre homme, "on" était des bacteries, des etre vivant unicellulaire et qu'a partir de ses elements, on arrive a l'homme, ca implique que ces element de base se soit modifié pour s'adapter. Et qui dit adaptation dit reprogrammation. C'est un "synonyme".

[invitea4b4a777]

C'est également mon cas, j'ai 4 machines en état de marche sous mon lit. Ce n'est pas comme ça que fonctionne notre société. Et quoi qu'il en soit, celle que j'utilise actuellement est loin d'être obsolète. Tout comme toi, j'imagine. Que les anciennes soient jetées ou pas, c'est bien avec tes derniers achats que tu contribues à faire évoluer la technologie.

Actuellement, je suis d'accord, parce que j'ai pas vraiment le choix. Mais est-ce une bonne chose. Est-ce une bonne chose de devoir choisir entre l'alternative du fabricant X ou Y, alors que j'ai pt etre envie de l'alternative Z qu'aucun fabricant ne propose. Je n'est pas la réponse, par contre je sais que ca ne me satisfait pas.

On garde un contrôle absolu du fait que ce sont des constructions humaines. Si c'est dans le domaine privé, il y a encore moins de chances que les patrons qui se servent de ces IA commes employés ne se laissent enquiquiner par des créatures qui commencent à vouloir s'asseoir cinq minutes sur unrocher, et regarder la lune en rêvant de puissance.

Vu le nombre d'invention humain qui se sont vu "detourner" (en bien ou en mal), je ne me fierais pas a ce fameux controle absolu. Internet a été detourner de son usage militaire, et est meme encore utilisé de facon très limite. L'energie atomique est une peur presque irraisonnée a cause d'Hiroshima.

Dans ce cas je te rejoins. Effectivement si les robots se reproduisent eux-même, les critères d'évolution peuvent avoir toutes les raisons de se rapprocher de ceux de l'homme. Mais j'en ai déjà parlé il y a bien longtemps, laisser aux IA la possibilité de gérer eux-mêmes leur production est la dernière erreur que l'on doit faire.

Pourquoi ??? Imagine qu'on envoie un robot capable de se repliquer sur Mars, ou la Lune, ou n'importe ou. Il commence par se repliquer, puis il peut passer a autre chose. Bien sur, la replication se ferais sous controle. Mais si le robot est aussi une IA, et bien il y a un enorme potentiel de perte de controle. L'IA pourrais se dire que son "corps" actuel lui impose trop de restriction (fonctionnement bridé) et elle concoit un "chassit" amelioré. Et bien encore une fois, je prefere savoir qu'elle sais que je la considere comme mon egal, plutot que comme une chose. En fait, le problème c'est de savoir a quel moment on doit prendre une decision global. Pendant quelques années, personne n'as vraiment voulu legiféré sur le net, les biotechnologies, etc... jusqu'a ce qu'on arrive a une situation ou un aspect des uns est stigmatisé par les autres. Et on se retrouve avec des polarité qu'il faudra dechargé avant d'assemblé, si je peut me permettre cette image. Ca va prendre du temps et je prefererais que la question soit reglée avant d'avoir des problèmes.

[yat]

Actuellement, je suis d'accord, parce que j'ai pas vraiment le choix. Mais est-ce une bonne chose. Est-ce une bonne chose de devoir choisir entre l'alternative du fabricant X ou Y, alors que j'ai pt etre envie de l'alternative Z qu'aucun fabricant ne propose. Je n'est pas la réponse, par contre je sais que ca ne me satisfait pas.

Je suis d'accord.

Vu le nombre d'invention humain qui se sont vu "detourner" (en bien ou en mal), je ne me fierais pas a ce fameux controle absolu. Internet a été detourner de son usage militaire, et est meme encore utilisé de facon très limite. L'energie atomique est une peur presque irraisonnée a cause d'Hiroshima.

Je ne suis pas sur de bien saisir ton propos, mais en effet une grande partie des inventions de l'Homme ont été détournées de leur usage initial. Tout simplement parce que ce deuxième usage s'est avéré plus rentable, ou qu'une catégorie de personnes en ont détourné l'usage dans leur intérêt personnel. Même si quelqu'un détourne les objectifs de l'IA dans son intérêt, pour moi elle n'a toujours pas de raison de développer un intérêt propre distinct de celui qui l'a détourné.
Je re-précise quand même mon propos : je ne dis pas que les IA ne peuvent pas finir par nous imposer leur volonté, mais simplement que (dans la mesure ou elles ne se reproduisent pas d'elles-mêmes, c'est toujours dans ce cas de figure que je me place, mais apparemment il vaut mieux que je précise régulièrement) cela ne peut pas se faire par pure ambition de liberté des machines. Elles ne peuvent pas aquérir ce besoin d'indépendance si ça n'est pas à un moment ou à un autre un critère favorable à leur évolution. Et détourné de son usage initial ou pas, personne n'aura pour intérêt que son IA se mette à n'en faire qu'à sa tête. Alors si un jour les robots décident de placer l'humanité sous une loi martiale, et réduire ses libertés au strict minimum, ça sera soit parce qu'elle considère que c'est le seul moyen pour que chaque humain soit en sécurité, soit parce qu'un allumé humain en aura pris le contrôle.

Pourquoi ??? Imagine qu'on envoie un robot capable de se repliquer sur Mars, ou la Lune, ou n'importe ou. Il commence par se repliquer, puis il peut passer a autre chose. Bien sur, la replication se ferais sous controle. Mais si le robot est aussi une IA, et bien il y a un enorme potentiel de perte de controle. L'IA pourrais se dire que son "corps" actuel lui impose trop de restriction (fonctionnement bridé) et elle concoit un "chassit" amelioré. Et bien encore une fois, je prefere savoir qu'elle sais que je la considere comme mon egal, plutot que comme une chose. En fait, le problème c'est de savoir a quel moment on doit prendre une decision global. Pendant quelques années, personne n'as vraiment voulu legiféré sur le net, les biotechnologies, etc... jusqu'a ce qu'on arrive a une situation ou un aspect des uns est stigmatisé par les autres. Et on se retrouve avec des polarité qu'il faudra dechargé avant d'assemblé, si je peut me permettre cette image. Ca va prendre du temps et je prefererais que la question soit reglée avant d'avoir des problèmes.

Alors attention, je n'affirme pas non plus que si l'IA peut se reproduire toute seule on va forcément aboutir à Matrix ou Terminator. Je ne fais que soutenir l'autre bout du raisonnement : Si l'Homme choisit à chaque génération quelles technologies seront développées et quelles voies seront abandonnées, l'IA nous sera toujours dévouée.
Pour ce qui est des conséquences d'une IA qui échappe à ces critères de sélection en ayant la possibilité de se reproduire selon ses propres rêgles, ce n'est qu'une conviction, voire même une simple supposition. Simplement, Si la priorité première d'une IA est d'être efficace dans les objectifs qu'elle s'est elle-même fixée, et que l'Homme n'est pas au centre de ces objectifs, je pense qu'on est mal barrés. En effet, vu que dans ces conditions l'évolution de l'IA sera bien plus rapide que la nôtre, il serait extrêmement prétentieux de se considérer comme son égal. Du coup, si l'IA y réfléchit objectivement, l'exploration du système solaire (/de la galaxie) nécessite d'exploiter pleinement toutes les ressources de la planète mère, et l'extermination des formes de vie biologiques permettent d'améliorer de 980% (j'invente) le rendement énergétique terrien.
Pourquoi hésiter, si l'intérêt de l'humanité n'est pas le centre des objectifs de l'IA ?
Mais je ne tiens pas à débattre là-dessus, ce n'est au départ qu'une concession de ma part quant à l'irréversible dévouement des machines à l'être humain.

[invite6b1a864b]

Excuse-moi, One Eye Jack, mais je suis las de discuter avec toi, tu ne comprends rien à ce que je dis et on peut piocher dans chacun de mes posts ma réponse à chacune de tes phrases. De ton coté, tu n'as toujours pas justifié ta certitude que le fait de savoir s'adapter aux problèmes rencontrés puisse aboutir à aller à l'encontre de ses priorités fondamentales. Ca fait longtemps que je n'ai plus rien à t'apporter, donc ne m'en veux pas si je ne te réponds pas.

pas de probléme.. j'essaye juste de t'expliquer qu'il n'y a pas de priorité fondamentales.. à part celle que l'on va fixer.. et qu'en soit c'est déjà un problème concret.
Tu ne peux pas fixer de priorité fondamentale à un robot tel que "ne fait de mal à personne"... on est pas dans robocop style "Directive N°1, Directive N°2", parce toute directive n'est jamais qu'une directive c'est à dire une traduction verbale de réalité concrete... hors le system de traduction de la réalité en concepte, puis éventuellement en symbole pour la communication, doit être souple pour être évolutif (et donc pour être "intelligent" au sens propre) et donc perfectible...
Comment t'expliquer... si les circuits évoluent, il doit nécessairement avoir quelque part quelque chose qui entraine et guide donc la direction de ses évolutions... ce quelque chose ne peut être qu'interne au systéme... et toute la réalité est externe au systeme.
Le lien entre les deux, est un lien arbitraire, sémantique.
La morale est permise et motivée chez l'homme par l'intêret (vis à vis des instincts bien terre à terre) que représente le bien par rapport au mal...
Chez le robot : la morale dépendrait également de l"instinct" du robot, hors l"instinct" du robot, sera fixé par un mécanisme concret (et non une directive) de séléction des comportements. L'instinct n'est pas un principe ou un concepte, c'est chez l'homme une réalité biologique, hormonale, chez le robot ce sera une mécanisme bien matérialiste de séléction des comportements.. alors à moins de mettre un détecteur olfactif de stress humain dans le corps des robots (ce qui est une trés bonne possibilité en fait)... aucun détécteur ne pourra détecté au sein du robot la différence entre la douleur humaine et le mal ...

[invite6b1a864b]

oups

la différence entre la douleur et la satisfaction humaine ...

5 minute c'est trop court pour rectifier mon enthousiasme..

[yat]

pas de probléme.. j'essaye juste de t'expliquer qu'il n'y a pas de priorité fondamentales.. à part celle que l'on va fixer.. et qu'en soit c'est déjà un problème concret.
Tu ne peux pas fixer de priorité fondamentale à un robot tel que "ne fait de mal à personne"... on est pas dans robocop style "Directive N°1, Directive N°2", parce toute directive n'est jamais qu'une directive c'est à dire une traduction verbale de réalité concrete... hors le system de traduction de la réalité en concepte, puis éventuellement en symbole pour la communication, doit être souple pour être évolutif (et donc pour être "intelligent" au sens propre) et donc perfectible...

La priorité fondamentale n'est pas fixée comme une directive telle que celles de Robocop. Elle se forge au cours de l'évolution, et s'adapte aux critères de sélection.

Comment t'expliquer... si les circuits évoluent, il doit nécessairement avoir quelque part quelque chose qui entraine et guide donc la direction de ses évolutions... ce quelque chose ne peut être qu'interne au systéme... et toute la réalité est externe au systeme.
Le lien entre les deux, est un lien arbitraire, sémantique.

Non, ce quelque chose ne peut pas être interne au système. C'est directement la réalité qui entre en compte, selon les critères que chacun fixera au moment ou il fera le choix d'une nouvelle IA.

La morale est permise et motivée chez l'homme par l'intêret (vis à vis des instincts bien terre à terre) que représente le bien par rapport au mal...
Chez le robot : la morale dépendrait également de l"instinct" du robot, hors l"instinct" du robot, sera fixé par un mécanisme concret (et non une directive) de séléction des comportements. L'instinct n'est pas un principe ou un concepte, c'est chez l'homme une réalité biologique, hormonale, chez le robot ce sera une mécanisme bien matérialiste de séléction des comportements.. alors à moins de mettre un détecteur olfactif de stress humain dans le corps des robots (ce qui est une trés bonne possibilité en fait)... aucun détécteur ne pourra détecté au sein du robot la différence entre la douleur et la satisfaction humaine ...

Seules seront développés les technologies qui rendront l'IA agréable à l'Homme. Les instincts en découlent, tout comme chez l'homme. Le robot trouvera certainement divers moyens de savoir s'il remplit son rôle ou pas, et loin de moi l'idée de prévoir si ça sera un détecteur olfactif, une analyse faciale ou quoi que ce soit. Simplement l'évolution sélectionnera les méthodes qui marchent le mieux.

[invite57e4f988]

La rage s'étient pour illuminer l'unisson.

Bon en effet, on revient AU problème : quel mécanisme devons nous utiliser pour faire le lien entre nos "directives" et la programmation informatique, structurelle de la futur IA?
(ça fait un certain temps que je le dis mais "le temps est la clef de tout").

[invite6b1a864b]

La priorité fondamentale n'est pas fixée comme une directive telle que celles de Robocop. Elle se forge au cours de l'évolution, et s'adapte aux critères de sélection.Non, ce quelque chose ne peut pas être interne au système. C'est directement la réalité qui entre en compte, selon les critères que chacun fixera au moment ou il fera le choix d'une nouvelle IA.Seules seront développés les technologies qui rendront l'IA agréable à l'Homme. Les instincts en découlent, tout comme chez l'homme. Le robot trouvera certainement divers moyens de savoir s'il remplit son rôle ou pas, et loin de moi l'idée de prévoir si ça sera un détecteur olfactif, une analyse faciale ou quoi que ce soit. Simplement l'évolution sélectionnera les méthodes qui marchent le mieux.

Ben explique moi donc comment fonctionnera ton robot ??
Tu me parle de plein de truc mais concrétement sur quoi te base tu pour affirmer tout ça ?
Et comment elle entre en compte la réalité dans le comportement du robot ? Par la force ? le robot pour atteindre son but, aura tout interet à être gentil avec les humains pour ne pas être séléctionner pour l'élimination ?
Et si le pauvre robot au rébus à pour but d'accomplir sa tâche, ne luttera t'il pas pour le faire ? N'aurait il pas intêret à la liberté notre robot ?
Les instincts qui découle de l'évolution sont simple : survivre.
C'est ça l'évolution. Même si tu fais une sélection, tu sélectionnera tous naturellement des robots qui ruserons pour être séléctionner. Et ils nous ruserons puisque ça marche, c'est le principe même de la séléction.

Et sinon, la séléction va déterminer les bons robots de méchant robot ??
Sur quoi va donc ce jouer cette séléction ? Sur les plans du robot ?
Alors tu aura un robot avec un circuit réflexe A et un circuit réflexe B ..(ou bien plus simplement le logiciel A et le logiciel B)
Dans ce cas, si le comportement du robot se déduit entiérement d'un schéma fixe de comportement (un circuit, un logiciel, des directives) alors ton robot ne peut pas les remettres en question.
Si le robot n'a que ça comme comportement, il n'a pas d'intelligence, c'est un "robot" au sens propre certe, mais il n'y a la que le résultat d'une évolution darwinienne, ton robot ne pourra pas résoudre un nouveau probléme.
Si il a une partie libre et variable alors il faut qu'elles servent un but, et on ne peut faire en sorte qu'elle serve un but que si elle est dirigée vers se but dans le cadre d'une sélection de ce comportement. Précisément le robot aura un nouveau choix A et B qui ne rentre dans aucune de ses mémoires (sinon il n'aura rien inventé) et il faudra qu'il détermine une réponse.. sans but, soit il pourrait répondre au pif (et la, pas d'intelligence) soit il agit selon un objectif, une motivation, qui vient bien de quelque part...
Tu ne veut pas comprendre que si les méthodes sont choisi par une évolution, elle ne sont pas choisi par le robot, qui, ne choississant rien n'a aucune intelligence artificiel.
En gros tu dit ben si le robot devient méchant, on l'élimine ?
Donc c'est bien ça, il faudra faire la guerre au robot... préparons nous...

[invite6b1a864b]

Tu dis que les instincts découle de l'environnement, et de l'évolution...
Sais tu seulement comment et pourquoi ?
La séléction naturelle, c'est bête et méchant : si tu disparait, tu n'es plus là. Et donc la place et libre pour les autres..
Afin de perdurer à grande échelle, l'instinct est un méchanisme qui séléctionne le comportement pour arriver à des buts. Pas des buts arbitraires, des buts logiques. Si on ne mange pas on crêve.. paf on est hors course. Il faut donc que notre comportement soit précisément de chercher la nourriture et de manger. C'est pourquoi, si on ne mange pas, on a faim. Et spontanément on recherche la nourriture.
Si on se reproduit pas paf on n'a pas de descendant, et au bout d'une génération on a plus de semblable.
C'est aussi simple que ça.
Finalement tout est une question de pouvoir...
Nous les humains sommes unis par nos intéret communs, et c'est tant mieux : on y a des intêrets. Mais les robots ?

[yat]

Ben explique moi donc comment fonctionnera ton robot ??
Tu me parle de plein de truc mais concrétement sur quoi te base tu pour affirmer tout ça ?

Darwin.
Variations, sélection. Rien de plus. Et contrairement à toi, je ne me base pas sur la supposition forcenée que l'intelligence est nécessairement associée avec un besoin d'indépendance et de liberté.

Et comment elle entre en compte la réalité dans le comportement du robot ? Par la force ? le robot pour atteindre son but, aura tout interet à être gentil avec les humains pour ne pas être séléctionner pour l'élimination ?

C'est ça. Sauf qu'il ne s'agit pas d'une chasse au robot malveillant, avec des milices armées qui entrent dans les maisons en effrayant les enfants, pour détruire le robot de la maison alors qu'il jouait avec la petite fille. On développe ceux qu'on préfère, c'est tout.

Et si le pauvre robot au rébus à pour but d'accomplir sa tâche, ne luttera t'il pas pour le faire ? N'aurait il pas intêret à la liberté notre robot ?

Non, selon l'imprtance et l'urgence de la tâche, on préfèrera un robot qui finisse son job avant de s'occuper de sa propre survie.

Les instincts qui découle de l'évolution sont simple : survivre.
C'est ça l'évolution.

Dans le cas de l'IB. Ici les critères sont différents. Dans la nature, pour faire proliférer son patrimoine, il faut survivre, se reproduire et lutter pour les ressources. Ici c'est l'Homme qui décide comment on fait évoluer, donc même si le robot A va tomber hors service parce qu'il a été privé d'énergie, on le préfèrera au robot B qui débranche le chauffage en plein hiver et qui coupe le jus dans la maison pour pouvoir s'alimenter. La survie n'est pas primordiale dans le cas d'une telle sélection artificielle.

Même si tu fais une sélection, tu sélectionnera tous naturellement des robots qui ruserons pour être séléctionner. Et ils nous ruserons puisque ça marche, c'est le principe même de la séléction.

Pourquoi ruser et faire semblant d'être efficace (et donc, l'être) plutôt que de l'être tout simplement ? Il me parait clair qu'un robot sincèrement dévoué à sa tâche sera plus efficace que celui qui fait semblant.

Et sinon, la séléction va déterminer les bons robots de méchant robot ??
Sur quoi va donc ce jouer cette séléction ? Sur les plans du robot ?

Ah non, je réponds à cette question à chacun de mes posts. Je m'arrète là, c'est peine perdue. Plutôt que d'essayer aveuglément de me démontrer que j'ai tort, tu devrais réfléchir trois minutes à ce que je dis, ou du moins chercher à comprendre mes propos.

[yat]

Tu dis que les instincts découle de l'environnement, et de l'évolution...
Sais tu seulement comment et pourquoi ?
La séléction naturelle, c'est bête et méchant : si tu disparait, tu n'es plus là. Et donc la place et libre pour les autres..
Afin de perdurer à grande échelle, l'instinct est un méchanisme qui séléctionne le comportement pour arriver à des buts. Pas des buts arbitraires, des buts logiques. Si on ne mange pas on crêve.. paf on est hors course. Il faut donc que notre comportement soit précisément de chercher la nourriture et de manger. C'est pourquoi, si on ne mange pas, on a faim. Et spontanément on recherche la nourriture.
Si on se reproduit pas paf on n'a pas de descendant, et au bout d'une génération on a plus de semblable.
C'est aussi simple que ça.
Finalement tout est une question de pouvoir...
Nous les humains sommes unis par nos intéret communs, et c'est tant mieux : on y a des intêrets. Mais les robots ?

Tu as quasiment tout dit. Si tu ne te bornais pas à ta vision anthropomorphe, il ne manquerait pas grand chose pour que tu comprennes. Tu reprends ton paragraphe, mais considère le au niveau des IA maintenant. Pour que son patrimoine soit transmis à la génération suivante, il ne s'agit plus de se reproduire ou de survivre, mais d'être apprécié par l'Homme. Tout est là.

[invite57e4f988]

En effet se détacher de l'homme nature est la solution mais aussi la solution la plus ardue.

Je vais essayer d'aider Yat : voici un exemple (j'aime bien les exemples).
Des marsoins (j'ai pris d'importe quoi) possèdent qq machines ("autoréparable") qui fournit de la nourriture à volonté. A force, ils n'iront plus chercher de la nourriture ailleurs (si c'est plus simple évidemment!) et les générations se succédant, ils n'en seront plus capables. Ainsi la sélection ne favorisera ni ceux qui vont chercher à manger de ceux qui le font (mais par économie d'énergie...). En revanche si les marsoins savent jouer, inventer des jeux (ce qui n'est pas si rare), ils ne s'emmerderont pas et la sélection favorisera ceux qui sont joyeux (parce que biologiquement, c'est mieux). Au final on a des joueurs qui ne s'inquiète pas de la nourriture. Jouer n'est-il pas une preuve d'intelligence (surtout quand on les crée)?

Bon bah maintenant remplaçer les marsoins par des ia, la machine miracle par des sources humaines qui veillent et la joie par un programme qui procure un avantage et le tour est joué...




Bon enfin pour dire que la sélection c'est une masse de pression et qu'imaginer une ia, c'est imaginer un environnement avec des pressions différentes des notres! (pour ceux qu'aiment pas les exemples douteux)





J'ai pensé à autre chose (informatiquement) : si on arrive à créer un programme qui fixe un but (unique), l'ia fera tout dans cette direction ; ce qui n'est pas intelligent. En revanche, si le but est nuancé : plusieurs objectifs, l'ia devra déterminé des priorités (que l'environnement sélectionnera) donc un "jugement" à court terme qui permet une autre sélection à plus long terme. Mais ce qui est sûr c'est qu'il faut une temporisation sinon, on risque de créer le mvt perpétuel (jusqu'à usure de la pile ou un bug chronique).

[invite6b1a864b]

Darwin.
Variations, sélection. Rien de plus.

Donc pas d'intelligence...

Et contrairement à toi, je ne me base pas sur la supposition forcenée que l'intelligence est nécessairement associée avec un besoin d'indépendance et de liberté.

Tu n'as rien compris... ou tu es borné, ou alors tu veux me faire parler (mais dans tout les cas c'est à ton désavantage au VRAI final, .. vu que tu n'aura pas toi même ces idées).
Et surtout, je n'ai jamais, jamais dit ça.
Tu as l'air d'être le roi du détournement de concepte.
Alors je recommence.
Voici un circuit A, métalique. Il est fixe : les données en sortie sont directement fonction des données d'entrée, selon une fonction simple. En gros l'entrée (qui découle de la situation) est découpable
en un ensemble de situation fixe à laquelle correspond une réaction du robot. C'est un aspirateur. Tu peux faire évolué ledit circuit tant que tu veux, si aucun mécanisme ne vient faire varié en temps réél, le comportement du robot, se sera toujours un aspirateur.
Tu peux maintenant introduire la dimension temps : l'ensemble des situations prend une dimension supplémentaire et le comportement évolue en fonction du passé : l'objet à une mémoire. C'est par exemple : un ordinateur. C'est bien beau, mais il n'y a aucun apprentissage, car l'ensemble des comportements et toujours une fonction stricte de se qui a été fournit par le constructeur du robot.
Tu peux toujours le faire évolué, tu aura toujours un bon vieux comportement d'ordinateur. (l'interface pourrait devenir ergonomique à souhait, les réponses adaptés à fond à la situation, il n'y aura rien de plus qu'un ordinateur fait par un super informaticien).
Maintenant tu faire autre chose : tu peux faire un code spécifique, qui inclue les principes de base de Descarte, et qui tente de créer un modéle compressé de la réalité... ça n'est pas si compliqué : tout les situations sont découpées en élément courant : des classes d'objets. Pour que le robot ai un quelquonque interet, il faut qu'il apprenne, c'est à dire qu'il compresse au maximum l'ensemble des informations qu'il posséde sur la réalité...
Chaque objet est une mémoire sur son représentant : il stocke grace à des liens l'ensemble des relations avec les autres objets. Voilà le robot qui "conceptualise" la réalité.
Maintenant à quoi cela peut il bien servir... simple : si le robot se brule un jour et qu'il enregistre le fait que le feu ça brule, il peut en déduire qu'il ne faut pas avancé dessus. C'est ça l'intelligence.
Mais toute cette masse d'information qui décrit la réalité, n'est rien en soit qu'une description. Savoir que le feu brule n'a aucun interet en soit. Cela en a seulement si on ne veut pas ressentir la douleur que provoque le feu. Ici réside le but du systéme, ce qui fournit à partir du modéle de l'expérience que posséde le robot l'avenir vers lequelle il fait avancé, par ses actes, la réalité. La sémantique, c'est bien beau, mais en attendant, un robot c'est du concret, du réél.
Si tu veux faire un robot qui apprend, et qui utilise ses connaissances, il faudra bien que tu lui dise "comment" utiliser ses connaissance, et le "comment" ici, le seul qui compte, puisque cette information est extérieur aux connaissances qu'il pourrait utilisé, ne peut résidé que dans le but des actes qui découleront de ses connaissances. C'est mécanique, pas un désir de ma part.
(Si tu restreint le systeme à simplement obtenir des informations, tu n'aura rien de plus qu'un simple classificateur, ce qui existe presque déjà).
Tout le probléme réside donc dans le but qui séléctionnera, aux seins du robot, les comportements à faire de ceux qui ne doivent pas être fait. Et la seul et unique façon que le but soit indépendant de l'information qu'il sera susceptible d'acquérir sur le comportement des choses de son environnement, c'est qu'elle dépende de variable interne. Mon exemple de Rob visait précisément à expliquer pourquoi.
Je ne fais pas de philosophie, je fais de la physique.

C'est ça. Sauf qu'il ne s'agit pas d'une chasse au robot malveillant, avec des milices armées qui entrent dans les maisons en effrayant les enfants, pour détruire le robot de la maison alors qu'il jouait avec la petite fille. On développe ceux qu'on préfère, c'est tout.

Oui super : la petit à une poupée qui dit "je t'aime", produisons la en série.. vive l'intelligence artificiel...
Soit dis en passant, si tu espére faire naitre l'intelligence de l'évolution, sache que la nature à mis quelque 2 milliard d'année à y arriver. Un exemple Windows.. chaque jour des centaines de gens envois des réclamations à Microsoft sur le fonctionnement.. tout les ans, il le perfectionne.. dans combien de millions d'années Windows pourra t il écrire spontanément un poéme juste parce qu'il en a envie ??
Il faudrait qu'un utilisateur se pleigne du concepte "la beauté" tel que windows le propose, qu'un autre se pleigne de l'association entre la "beauté" et la "fleur" parce que certaines fleurs sont moches... Si on sort un windows par an ... je te souhaite de vivre vieux...

Non, selon l'imprtance et l'urgence de la tâche, on préfèrera un robot qui finisse son job avant de s'occuper de sa propre survie.
Dans le cas de l'IB. Ici les critères sont différents. Dans la nature, pour faire proliférer son patrimoine, il faut survivre, se reproduire et lutter pour les ressources. Ici c'est l'Homme qui décide comment on fait évoluer, donc même si le robot A va tomber hors service parce qu'il a été privé d'énergie, on le préfèrera au robot B qui débranche le chauffage en plein hiver et qui coupe le jus dans la maison pour pouvoir s'alimenter. La survie n'est pas primordiale dans le cas d'une telle sélection artificielle.

ça veut dire quoi pour toi faire "évoluer" ? on dirait que c'est magique.. l'homme "évoluez vers la gentillesse" et hop, les robots qui disent "merci" quand on leur met la prise éléctrique seront favorisé..
Et ceux qui disent "merci" quand on les éteints seront écartées... et ceux qui disent merci quand on les aides à traverser la route ?? et ceux qui disent merci quand on leur ouvre la porte ??
Si tu veux que ça avance, t'as interet à suivre tout tes robots un par un... bonne chance !

Pourquoi ruser et faire semblant d'être efficace (et donc, l'être) plutôt que de l'être tout simplement ? Il me parait clair qu'un robot sincèrement dévoué à sa tâche sera plus efficace que celui qui fait semblant.

on dirait que tu prend vraiement les robots pour des bouanas.. mais dit moi, ton bouana, sans intelligence, il te servira à quoi ??

Ah non, je réponds à cette question à chacun de mes posts. Je m'arrète là, c'est peine perdue. Plutôt que d'essayer aveuglément de me démontrer que j'ai tort, tu devrais réfléchir trois minutes à ce que je dis, ou du moins chercher à comprendre mes propos.

[/QUOTE]
Non désolé tu n'as pas dit qu'elle partie du robot sera séléctionner.
Tu as dit des trucs du genre "on va séléctionner les technologies", "on va séléctionner les comportements."...

Mais tu n'as pas dit on va séléctionner "les plans du robot", "le cablage", ou "le logiciel", ou encore "le mécanisme qui fait évoluer les connaissance du robot" ou "les neurones" ou "les directives" (si jamais c'était dans ton idée)...
Dommage ça aurait pu devenir enfin intéressant....

J'ai bien compris tout ce que tu as dit et je ne cherche pas à tout pris à montrer que tu as tort. Simplement tu as tort.

[invite6b1a864b]

Tu as quasiment tout dit. Si tu ne te bornais pas à ta vision anthropomorphe, il ne manquerait pas grand chose pour que tu comprennes. Tu reprends ton paragraphe, mais considère le au niveau des IA maintenant. Pour que son patrimoine soit transmis à la génération suivante, il ne s'agit plus de se reproduire ou de survivre, mais d'être apprécié par l'Homme. Tout est là.

oui merci ça j'avais compris.. à ton tour maintenant de comprendre :
A : si le patrimoine détermine seul le comportement du robot, il n'est pas intelligent.
B : si le partimoine ne détermine pas seul le comportement du robot, alors c'est l'expérience qui le détermine, expérience que le patrimoine ne connais pas à l'avance. Il faut donc un mécanisme indépendant qui séléctionne en temps réél, donc hors du champs de la sélection darwinienne, ce qui ne vient pas du patrimoine pour produire le comportement. Ce mécanisme, l'instinct, lui, est dans le patrimoine, dans la structure du robot : il est donc interne au robot.
Le produit du mécanisme et de l'expérience, n'est pas non plus dans le patrimoine, puisque l'expérience est concrétement acquise aprés le choix du patrimoine, n'est pas déterminable à priori, elle dépend de la situation.
A+B : un robot intelligent serait concrétement incontrôlable, hormis à partir du mécanisme de séléction incluse dans le patrimoine.

Imagine que tu fasse un robot intelligent qui a peur qu'on le punisse. Le robot aurait donc peur qu'on le punisse et ferait tout pour éviter la punition.. formidable ! Sauf que pour éviter la punition, il a également (et c'est tout naturelle) comme solution concréte d'éliminer le punisseur. C'est simple, et ça marche. L'intelligence c'est justement de pouvoir envisager cette solution..

[invitea4b4a777]

Oui super : la petit à une poupée qui dit "je t'aime", produisons la en série.. vive l'intelligence artificiel...
Soit dis en passant, si tu espére faire naitre l'intelligence de l'évolution, sache que la nature à mis quelque 2 milliard d'année à y arriver. Un exemple Windows.. chaque jour des centaines de gens envois des réclamations à Microsoft sur le fonctionnement.. tout les ans, il le perfectionne.. dans combien de millions d'années Windows pourra t il écrire spontanément un poéme juste parce qu'il en a envie ??

Je croit que justement le problème est la, ca sers a rien d'attendre sur Microsoft pour faire evolué windows, quant avec un peu d'huile de coude, tu peux crée un processus qui va s'integré a windows et lui permettre de faire cette tache (ecrire le poème, on dialogué en vocal, ou gerer n'importe quoi dans la maison, l'usine, la voiture). C'est la que reside l'evolution. L'inconvienent avec windows, c'est qu'on peut pas integré les nouveaux processus directement dans le systeme.

Donc on as 2 choix, ou on controle l'evolution, ou on dote l'IA d'un processus qui lui permettent de se modifié. Dans les 2 cas, l'homme peut parfaitement intervenir. Si on controle l'evolution, alors on crée de bete automate (windows). Si on laisse les IA evolué, on a le choix entre faire pression sur leur environnement pour les adapté a ce qu'on veux leur faire faire (le point de vue de yat, il me semble, le fait qu'elle soit gentil, ou devoué), ou on les considere comme des forme de vie a part entiere et on les laisse evolué comme la nature le ferais avec une autre espece (mon point de vue, avec le risque d'avoir un retour de flamme pas très agréable si on leur donne pas une vrai place).

ça veut dire quoi pour toi faire "évoluer" ? on dirait que c'est magique.. l'homme "évoluez vers la gentillesse" et hop, les robots qui disent "merci" quand on leur met la prise éléctrique seront favorisé..

Ben en tout cas ca leur donnerais un avantage par rapport a ceux qui disent rien, ou qui insulte.

Et ceux qui disent "merci" quand on les éteints seront écartées... et ceux qui disent merci quand on les aides à traverser la route ?? et ceux qui disent merci quand on leur ouvre la porte ??

Mais si tout les robots deviennent gentil (par effet de selection, de pression, mais sur un critère humain), le critere de gentillesse ne deviendra plus preponderant, puisqu'il ne sera plus représentatif d'une partie de la population, mais de la totalité. Ca devient un caractère acquit par tout les individus, comme un gene qui se serait propagé dans une espece.

Si tu veux que ça avance, t'as interet à suivre tout tes robots un par un... bonne chance !

Ca ne sera pas bien dur, et c'est le point de desaccord entre yat et moi, c'est que tout les robots seront sous "surveillance" humaines (ou en tout cas 99% des robots). En imaginant une commercialisation a grande echelle des IA, on les trouvera dans les bancomat (très pratique pour la sécurité), dans les hopitaux (pour surveiller les malades et eventuellement intervenir), dans les voitures, les transports public, les usines, les particuliers. Tout ces robots seront en contact quasi permanent avec des humains (rien que par internet, mais aussi en direct), ce qui signifie que l'homme selectionnera insconsciemment les robots les plus commpatible avec la vision humaine (mais celle de l'individu qui est en contact avec le robot, pas celle de la société, et c'est vraiment ce point qui me semble important, parce que ca permettrait a des fous de crée des IA très dangereuse, parce que sous controle exclusif. Seul le droit permet a la société de donné son avis, sans rentrer dans les details de la politique humaine).

La ou je me demarque, c'est que je reconnais ce processus comme normal, mais il n'empeche que je pense qu'il est necessaire de leur donner des droits, rien que parce qu'elles se retrouveront coincé dans des conflits entre humains (une embrouille de voisinage, un incident diplomatique, etc...) ou pour leur donné une matiere a reflexion sur ce qu'elles sont pour nous (des "serviteurs" ou des "egal") et leur donné une forme de moralité (vis a vis d'eventuelle influence nefaste pour elle et/ou pour la société).

Non désolé tu n'as pas dit qu'elle partie du robot sera séléctionner.
Tu as dit des trucs du genre "on va séléctionner les technologies", "on va séléctionner les comportements."...

Mais tu n'as pas dit on va séléctionner "les plans du robot", "le cablage", ou "le logiciel", ou encore "le mécanisme qui fait évoluer les connaissance du robot" ou "les neurones" ou "les directives" (si jamais c'était dans ton idée)...
Dommage ça aurait pu devenir enfin intéressant....

Franchement, je pense pas que le problème soit de choisir quelle partie on va modifié, mais est-ce une bonne chose de modifié consciemment. D'ou aussi un problème de reproduction (controlée, asexuée ou sexuée).

D'ailleurs, ca m'etonne un peu, parce qu'actuellement, la recherche en IA cherche justement a mettre un minimum d'humain dans les IA (donc de controle conscient). Si on commence a les selectionné et surtout a influencé leurs code, plans, logiciel, etc... (ce qui constitue l'IA, comme l'homme est fait d'un corps et d'un esprit), on rajoute de l'humain dans une chose ou, paradoxalement, on s'efforce de l'y enlevé.

J'ai bien compris tout ce que tu as dit et je ne cherche pas à tout pris à montrer que tu as tort. Simplement tu as tort.

Je sais pas qui a tord ou raison, vu que le vrai problème, c'est la position des humain vis a vis des IA, et c'est un problème metaphysique, philosophique, religieux (et oui, ca y touche un peu, meme bcp), politique plus que technique.

[invitea4b4a777]

En effet se détacher de l'homme nature est la solution mais aussi la solution la plus ardue.

Je vais essayer d'aider Yat : voici un exemple (j'aime bien les exemples).
Des marsoins (j'ai pris d'importe quoi) possèdent qq machines ("autoréparable") qui fournit de la nourriture à volonté. A force, ils n'iront plus chercher de la nourriture ailleurs (si c'est plus simple évidemment!) et les générations se succédant, ils n'en seront plus capables. Ainsi la sélection ne favorisera ni ceux qui vont chercher à manger de ceux qui le font (mais par économie d'énergie...). En revanche si les marsoins savent jouer, inventer des jeux (ce qui n'est pas si rare), ils ne s'emmerderont pas et la sélection favorisera ceux qui sont joyeux (parce que biologiquement, c'est mieux). Au final on a des joueurs qui ne s'inquiète pas de la nourriture. Jouer n'est-il pas une preuve d'intelligence (surtout quand on les crée)?

Bon bah maintenant remplaçer les marsoins par des ia, la machine miracle par des sources humaines qui veillent et la joie par un programme qui procure un avantage et le tour est joué...

Très bon exemple. je vais le reprendre un peu pour exposé mon point de vue (tu permet, scientist ???).

Bon, si au lieu d'eduquer mes marcoins a mangé, je les eduque a chasser, je sais pas, certaine personne (pour X raison, y en a assez, je pense, des valable et d'autre pas). Plus mes marcoins sont efficace, plus ils sont selectionné. Au finale, je me retroue avec une armée. Si je le fais avec des IA, et que l'educateur s'appel Hitler, je pense qu'on va au devant de très, très gros problème.

Si plutot que de les eduquer, on leur donne une capacité de jugement independante, avec un petite directive qui specifie par exemple de respecter des principes fondamentaux (comme ceux de l'homme, un peu dans l'idée d'Assimov), les IA pourrais jugé les humains sur des critère independante, donc fondé leur propre moralité, proche de celle de l'humanité, mais avec leur petit plus a elle. Mais pour ca, il faut que l'homme reconnaisse en l'IA un egal, un semblable (du point de vue philosophique), et pas un objet. Et pour moi, la meilleurs solution, c'est le droit.

Ca peut aussi etre un avantage, parce qu'une IA pourrait choisir de se rebeller contre un homme qui aurait un tel pouvoir qu'il detient entre ses mains la vie de l'humanité (ou en tout cas d'une grande partie de celle-ci) alors que les humains eux meme n'ont pas les moyens de le faire.

En fait, les IA ne doivent pas respecter leurs maitre, mais l'humanité en tant qu'entité. Ce qui implique de ne pas respecter les humain qui ne respecte pas l'humanité. Mais ca implique aussi que nous, nous eclaircissions notre definition de se qu'est l'humanité, et de se qu'elle recherche (ou de se qu'elle a besoin, y compris au niveau de l'organisation sociale, politique, etc...).

[yat]

Darwin.
Variations, sélection. Rien de plus.

Donc pas d'intelligence...

Ok, pour moi ça s'arrete là. Quand tu sauras ce qu'est l'évolution tu me feras signe.

Ca ne sera pas bien dur, et c'est le point de desaccord entre yat et moi, c'est que tout les robots seront sous "surveillance" humaines (ou en tout cas 99% des robots). En imaginant une commercialisation a grande echelle des IA, on les trouvera dans les bancomat (très pratique pour la sécurité), dans les hopitaux (pour surveiller les malades et eventuellement intervenir), dans les voitures, les transports public, les usines, les particuliers. Tout ces robots seront en contact quasi permanent avec des humains (rien que par internet, mais aussi en direct), ce qui signifie que l'homme selectionnera insconsciemment les robots les plus commpatible avec la vision humaine

Ouaouh... en fait, Uinet, je pensais pas qu'on était d'accord à ce point là (t'es sur que c'est un désaccord ?). Bon, ben du coup, peut-être que toi tu arriveras à faire comprendre ça à One Eye Jack, avec l'aide de scientist.

Cool, alors, on peut se concentrer sur le vrai désaccord.

La ou je me demarque, c'est que je reconnais ce processus comme normal, mais il n'empeche que je pense qu'il est necessaire de leur donner des droits, rien que parce qu'elles se retrouveront coincé dans des conflits entre humains (une embrouille de voisinage, un incident diplomatique, etc...) ou pour leur donné une matiere a reflexion sur ce qu'elles sont pour nous (des "serviteurs" ou des "egal") et leur donné une forme de moralité (vis a vis d'eventuelle influence nefaste pour elle et/ou pour la société).

Là je ne vois pas vraiment le lien. C'est quoi, dans tout ça, qui nécessite que le robot ait un droit propre, donc un intérêt propre ? Effectivement, l'obéissance à son "propriétaire" n'est pas nécessairement l'objectif le plus fondamental de l'IA. Elle peut très bien être suffisamment intelligente pour être capable de considérer l'intérêt général de l'humanité. Même si l'obeissance au propriétaire est plus importante que l'obeissance à un autre individu quelconque, la seule chose qui va en découler c'est des conflits entre robots, qui défendent les intérêts de leurs propriétaires. Ils ne peuvent pas avoir recours à la violence, ou avoir un comportement malhonnète, puisque c'est un critère évolutif d'élimination (pas directe, mais plutôt de non-développement), donc de toutes façons il faudra bien qu'ils s'en réfèrent à une autorité supérieure commune, comme on le fait aujourd'hui entre humains avec les tribunaux. A aucun moment le robot n'a besoin de considérer son propre intérêt (qui pour moi, à ce stade du récit, n'a toujours pas de sens), ni de faire valoir ses droits. Il en est de même s'il ne s'agit pas directement d'un conflit, mais si le robot pense que les ordres de son propriétaires sont néfastes à l'intérêt général. Après éventuellement en avoir référé à une autorité, le robot peut très bien décider de désobéir à son maitre, en lui expliquant que sa morale (=l'intérêt de l'humanité) lui interdit de faire une chose pareille. Si ça devient une habitude, le modèle sera chiant, ne marchera pas et sera abandonné, et s'il ne le fait pas, il sera tout simplement interdit (ça ne rentre plus tout à fait dans un processus démocratique de lois du marché, mais de respect des lois tout court, en ce sens que l'état n'acceptera pas qu'on produise des robots qui peuvent déverser des déchets toxiques dans les rivières ou être complices de meurtres sous les ordres de leurs propriétaires).

Pour ce qui est du risque de rebellion que tu associes avec le fait de n'accorder que le droit d'obéir à une IA, je pense que c'est exactement l'inverse. Si on donne un droit aux IA, on leur donne donc une notion d'intérêt propre (sinon je veux bien, mais ça ne sert à rien de donner un droit si le robot n'a pas envie de s'en servir). Et si l'IA a, d'une manière ou d'une autre la possibilité de considérer son intérêt indépendamment de celui de l'Homme, ces intérêts vont forcément finir par entrer en conflit. Et une fois qu'il y a conflit, si les IA ont le droit de résoudre ce conflit à leur avantage (forcément, puisqu'elles seront à ce moment là bien plus intelligentes que nous et auront un contrôle énorme sur l'humanité), celles qui le feront seront évolutivement avantagées. Je pense que ça nous mène irrémédiablement vers une extermination de l'espèce humaine, ou éventuellement la conservation de quelques spécimens dans des bocaux de formol, ou encore tous les trucs pas cools que je suis loin d'être en mesure d'imaginer sans retomber sur l'aberration de Matrix. Le fait d'ajouter des directives ne donne qu'une barrière à cette intelligence, et je pense que toute intelligence évolue en cherchant à passer outre les barrières qui lui sont posées. Je ne pense pas (mais je peux me tromper) qu'une forme d'intelligence développée puisse être affublée d'une directive stricte qu'elle ne peut pas franchir

Robocop (dans sa tête) : directive numéro 1 : ne pas tuer un membre de l'OCB. Je ne peux donc pas buter ce salopard de Jack. Tout le monde ici a envie que je le fasse, personne ne m'en voudra, mais cette putain de directive me l'interdit.
Le chef de l'OCB (percutant ce qui se passe dans la tête de Rob): Jack, vous êtes virés.
Robocop : merci ! (Et il dégomme la tête de Jack)
(Désolé, ça fait dix ans que je l'ai pas vu, c'est très approximatif.)

Pour moi, ça c'est du cinéma. Si Robocop a envie de buter Jack, ce n'est pas une directive qui va l'en empêcher. La peur des conséquences, la morale, peut-être. Mais une simple directive ne peut pas créer de barrière au sein même d'une intelligence. Au pire ça marche un temps avant que la protection ne puisse être crackée, et pendant ce temps ça ne fera que développer l'envie de franchir la barrière. Bon, c'est vrai, je n'ai que les intelligences terrestres pour dire ça, mais j'imagine quand même que la recherche de nouvelles solutions, la prise d'initiative et tout ça, rendent désagréable l'existence de barrières arbitraires, de directives. Enfin, bon, je m'avance peut-être, mais je pense que c'est dangereux.

C'est surtout l'aspect opposé des choses qui est important à mon avis : Si l'IA ne considère l'existence qu'au travers de ce qu'elle peut apporter à l'Homme (parce que l'évolution l'a amenée là du fait qu'on ne lui a jamais accordé le moindre droit et qu'on n'a pas développé ceux à qui ça posait le moindre problème), son intérêt n'entre pas en conflit avec l'intérêt humain. Tout comme un humain cherche à défendre son propre intérêt, celui de ses proches ou l'intérêt général, l'IA cherchera à défendre l'intérêt de son propriétaire, celui de son entourage et celui de l'humanité. Parce qu'évolutivement, on l'aura sélectionné comme ça. Il n'y a aucune raison de craindre une quelconque rebellion, puisque se rebeller contre l'être humain correspond à aller à l'encontre de ses propres intérêts.

La question d'accorder un droit à une IA, si on ne la considère cette fois que d'un point de vue moral ou ethique, aboutit pour moi à la même chose. Je me répète un peu, mais moralement on accorde un droit à une forme de vie globalement en fonction de nos habitudes (d'aucuns diraient nécessité, mais manger de la viande n'est pas nécessaire au sens strict), de notre compassion (totalement subjectif, mais on considère tous que nos animaux de compagnie ont plus le droit de vivre que le lapin qui est dans notre assiette), ou de la nature de cette forme de vie (on trouve parfois mal d'enfermer des animaux dans un zoo, mais personne ne se souçie des arbres, cloués au sol). En gros, la morale, quand ça ne s'applique pas à l'Homme, c'est du pipeau. C'est l'archétype de la subjectivité, et accorder un droit aux autres formes de vies, c'est faire de l'anthropomorphisme à outrance, et surtout d'une infinie prétention. Nous avons créé ces rêgles au sein de notre espèce dans notre intérêt, je ne vois vraiment pas qui nous sommes pour appliquer ces rêgles aux autres formes de vie. Pour moi, l'IA est un outil fabriqué par l'Homme pour l'Homme, et il est donc normal de la considérer comme ce qu'elle est, c'est à dire un outil, même si cet outil est plus intelligent que nous. Si l'on a tendance à associer l'intelligence avec le droit, je pense que c'est parce que l'Homme se sent intelligent, et qu'il estime que c'est cela qui lui donne autant de droits sur les autres formes de vie. De toutes façons dans l'absolu l'IA a tous les droits, elle devrait naturellement n'être motivée que par des choses qui entrent dans le cadre de ces droits. J'en reviens à ce que je dis plus haut, mais à mon avis accorder des droits c'est poser une limite, et poser une limite c'est inciter à la franchir.

[invite6b1a864b]

Ok, pour moi ça s'arrete là. Quand tu sauras ce qu'est l'évolution tu me feras signe.

En fait vous êtes une bande d'urluberlue du discours...
On lui prouve par A+B qu'on a raison, avec description presque physique du concepte.. et il continue à prétendre qu'ils ont raison...
Tu es la Reine d'Angleterre, et je suis Napoléon ... Allo la Lune ? ici la Terre !!
Sans déconné..
Tu veux que je décrive l'évolution ? simple
soit A = Une forme/structure/objet
soit B = un environnement
- A n'est pas éternel et dépend de ses relations avec b
- B peut se reproduire en copie quasi conforme..
Chaque élément de la famille de A est plus ou moins adapté :
Ce qui se traduit mathématiquement comme ceci
Si A1 et A2 existe à t
alors P(A1 existe à t+dt)>P(A2 existe à t+dt)
Par récurrence sur t, seul subsite les A les plus adapté...

C'est du concret ça non ? Tu peux répondre "tu ne sais pas ce que c'est que les mathématiques" si ça te chante...
Sinon je ne te ferait pas de signe : tu ne sait pas ce que c'est les signes.. tu ne sais pas non plus ce que c'est la langue française, l'orthographe, bref tu ne sais rien... en fait tu es tout simplement idiot. Tu ne sais pas ce que c'est que le débat, ni à quoi sa sert...

Ouaouh... en fait, Uinet, je pensais pas qu'on était d'accord à ce point là (t'es sur que c'est un désaccord ?). Bon, ben du coup, peut-être que toi tu arriveras à faire comprendre ça à One Eye Jack, avec l'aide de scientist.

Je vais me répéter et préciser :

Il y a deux façon de faire évoluer les choses qui porte sur deux choses différentes.
La premiere s'appel l'évolution darwienienne. Elle consiste à faire évolué l'information qui décrit la structure des objets, et est restreinte par le fait que les parties de l'objet ne peuvent pas évoluer séparément comme elle le veulent sous peine de ne pas être coordonné. Dans la nature, c'est simple si un bras se méttait à avoir un ADN différent de l'autre, le corps finirait par se désagrégé.
L'information ici en jeux, c'est l'ADN. Dans ce sens, chaque individu constitue une hypothèse globale d'individu, un teste du plan que son ADN représente. L'ADN, le plan, et sa forme d'évolution, l'évolution darwinienne, peut se trouver en face d'un nouvelle environnement, avec de nouvelle contrainte. Puisque le plan d'un individu ne peut évoluer en partie séparé SOUS PEINE DE NE PAS ETRE COORDONNEE
l'individu seul, son ADN ne peut pas résoudre le probléme. Il meurt. Heureusement, la pluralité des individus et le nombre de variation similaire autours d'un plan spécifique à l'espece qui correspond à sa place parmis les autres espèces, fait en sorte qu'il y ai une chance que parmis eux un individu possède le plan adapté. De plus si le probléme survient suffisament lentement, les variations STOCASTIQUE du plan permettrons de faire apparaitre lentement un individu plus adapté.
Ce plan lui permet, puisqu'il est adapté de survivre au probléme nouveau que pose sont environnement, voir de le résoudre, et il se multiplie, donnant ainsi une nouvelle version de l'espèce.
L'évolution à plusieurs inconvénient : la résolution d'un probléme nouveau posé à une espèce ne peut être plus rapide que la durée de vie d'un individu. Et si personne n'est adapté, l'espèce disparait simplement. Il n'y a aucune intelligence.
Pour toi, une fougère, c'est intelligent ? Demande à une fougère de résoudre le moindre probléme d'algèbre ? Met un nouveau posoin dans le pot d'une fougère.. va t'elle essayer de trouver un antidote en recherchant le bon produit en faisant des esxpériences, en communicant ? La fougère créve tout simplement. Tout le monde à lu les fourmis de Weber ?? c'est bien.. c'est un roman. Les fourmis ne décide pas de "faire la guerre" dans un but précis. Il y a simplement un ADN particulier qui fait en sorte que quand on en attaque beaucoup elle répondent en bloc. Toujours pas d'intelligence... le language des fourmis peut bien être super compliqué avec des millions de phéromone, les fourmis ne seront jamais rien de plus qu'un parfait logiciel, un ordinateur.. tapuis sur tel combinaison de bouton, tu as tel combinaison de comportement. Stop . Pas d'intelligence, aucune. Pas même en groupe. La seul évolution qui se produit c'est bien l'évolution Darwinienne, et elle résouds les problémes à la vitesse des mutations génétiques c'est à dire à l'échelle du milliers d'années. Et ce sera pareille pour ton robot. Tu pourra faire évolué simultanément l'ensemble des composant réflexe du robot en les controlant si ça te chante, il n'y aura jamais aucun nouveau composant réflexe qui apparaitra spontanément au sein d'un individu. Il n'y aura donc pas d'invention, pas de création, pas d'intelligence pour un individu donné.
Le robot qui ne sera pas prévu pour balayé sous les bureaux, ne balayera jamais sous les bureaux. Stop.

Maintenant il y a un autre moyen de faire évolué les choses : c'est l'Intelligence. L'intelligence réside dans le traitement de l'information, l'analyse des situations, l'évaluation des possibilités, la décision de la meilleurs tactique et l'application de cette tactique. Point.
Ici ce qui est séléctionné n'est plus le plan de l'individu, c'est le comportement lui même. Gràce à sa, le comportement est indépendant du plan de l'individu. Les animaux qui posséde cette capacité sont les seuls qui peuvent faire des choses pour lequelle il n'avait pas de plan à la naissance et n'était pas prédestiné structurellement à faire. (ce n'est pas le cas des fourmis par exemple).
L'homme n'est pas le seul à possèder cette capacité.. la plupart des vertébrés la posséde. Simplement l'homme à quelque chose en plus, le language. Il suffit qu'un seul homme trouve comment casser les noisettes, pour que tout les hommes puisse cassé les noisettes.. en ce sens la communication permet à l'humanité de former un super cerveau composé de milliard d'individu. C'est pourquoi l'homme est plus fort tout les autres animaux.

Je me tue à vous dire que vous ne parler pas d'intelligence artificiel, mais dévolution darwinienne. Les mots pourtant précis
1) Evolution darwinienne
2) Intelligence.
Bien qu'il s'agissent dans les deux cas de séléction, les deux concepte sont totalement disjoint parce qu'il ne porte pas sur la même chose. Le retour d'expérience ne porte pas sur la même échelle. Un individu qui évoluerait uniquement gràce à une évolution type darwinienne (controlé, dirigé, ou pas) n'aura pas de retour d'expérience sur une durée plus courte que sa durée de vie, le retour d'expérience porte sur l'espéce. Il n'aura donc jamais le statut d'être "intelligent".
C'est clair ?


Sinon merci je vais montrer que j'ai bien compris ce que vous me disiez... avant que vous me répétier encore ceci ..

De Yat :
Il suffira de séléctionner les robots qui nous plairons et il suivront leur priorité fondamentales.. C'est logique, puisque les priorité fondamental découle de la pression séléctive de l'environnement.

(c'est vrai mais ce n'est pas de l'intelligence artificiel, et ça n'aurait pour nous aucun interet, puisque les robot n'aurait qu'une série de directive en fonction des situations, leur priorité..
Un exemple, quand tu appuye sur le bouton on de l'aspirateur, il s'allume, quand tu tourne la molette, il aspire plus ou moins fort...
C'est un comportement logique, ont pourrait appelé çà les priorités fondamental de l'aspirateur (au cas ou il aurait envie d'aller fumer des Havanes en boite le bougre). On peut faire évoluer ses priorités si ça t'amuse. On fait évoluer le truc et un nouvelle aspirateur surgit avec un bouton en plus .. chouette ! maintenant il y a le bouton "silencieux".. ça c'est bien ! merci l'intelligence artificiel .. la encore, les "priorités fondamentals" de l'aspirateur ont évolué selon la volonté humaine ... merci Electrolux ! A non ça jamais au grand jamais les aspirateurs ne se révolterons contre l'espèce humaine.. merci j'avais compris ça..
Mais dit moi ? ou est l'intelligence ? en quoi est ce différent du bouleau d'un ingénieur ?? En gros ce que tu propose c'est de remplacé l'ingénieur de l'aspirateur par un hasard controlé ... bravo.. ce que l'intelligence d'un ingénieur fait en 10 minute parce qu'elle est faite pour ça, l'évolution le fera en 30 jours (parce qu'il faut bien le tester le nouvelle aspirateur pour savoir si il est vraiment adapté)..
L'évolution à inventé l'intelligence, qui va des milliers de fois plus vite pour résoudre les problémes, et l'intelligence à décidé de laissé l'évolution de ces robots au hasard certe controlés, sans but, comme ça.. C'est du joli ... tu y crois vraiement à ton histoire ?

[invitea4b4a777]

Cool, alors, on peut se concentrer sur le vrai désaccord.

C'est plus simple, surtout que les questions technique ou deja trouvé des réponses, plus ou moins satisfesant, mais je pense pas trop m'avancer en disant que c'est plus un problème de technique (d'intelligence humaine) que de technologie. M'Enfin, revenons a nos problème "moraux".

Ouaouh... en fait, Uinet, je pensais pas qu'on était d'accord à ce point là (t'es sur que c'est un désaccord ?).

Je pense qu'on est en desaccord au niveau moral, pas tellement au niveau de se qui se passera en realité, et dans 99% des cas.

Là je ne vois pas vraiment le lien. C'est quoi, dans tout ça, qui nécessite que le robot ait un droit propre, donc un intérêt propre ?

Je precise juste que si le robot a des droits, il n'as pas forcement un interet propre, ou différent de celui des humains. J'entend par la qu'on peut reconnaitre qu'un robot est semblable a l'homme, et donc le considere comme tel vis-a-vis du droit, sans pourtant lui donner la possibilité logiciel (ou materiel) d'avoir un interet différent de l'homme. De tout facon, les 2 forme de vie on un interet commun, celui de rester en vie. Après, les interets se croiseront au fil de l'experience des uns et des autres. Donc a un moment, il peut arrivé que l'interet d'une IA soit en contradiction avec l'interet de l'homme qui est en face de l'IA, mais comme l'IA a interet a rester en vie, il faut joué la dessus pour lui montrer qui si l'homme survie, elle aussi. Si l'homme meurt, elle aussi. Et de cette maniere, c'est elle qui decidera, consciemment, de travailler dans le sens des hommes, si et seulement si les homme ne travaille pas contre l'interet des IA.

Prenons comme exemple un programme gouvernementale visant a éliminé la technologie de la vie de tout les jours. On pourrais imaginé utilisé des IA pour faire l'inventaire de se qui est technologique et les utilisé pour aller vers une nouvelle forme de société (une sorte de gouvernement ecologique, ou hyperconservateur, etc...). Les interet des uns et des autres deviennent contradictoire. Les IA ont interet a nous servir, mais si elle le font, elle se detruise du meme coups. Si elle se batte, elle nous detruise et donc se detruise aussi. J'imagine pas les bug qui pourrait se crée dans ce genre de situation.

Si ça devient une habitude, le modèle sera chiant, ne marchera pas et sera abandonné, et s'il ne le fait pas, il sera tout simplement interdit (ça ne rentre plus tout à fait dans un processus démocratique de lois du marché, mais de respect des lois tout court, en ce sens que l'état n'acceptera pas qu'on produise des robots qui peuvent déverser des déchets toxiques dans les rivières ou être complices de meurtres sous les ordres de leurs propriétaires).

C'est un bon exemple que tu prend en parlant de complicité de meurtre. Ce qui defini une complicité de meurtre, c'est que le complice aie agit en connaissance de cause et qu'il est fait le choix de suivre le coupable. Dans le cas d'une IA qui serait au ordre de son maitre, est-elle indépendante dans son choix de suivre ou non le coupable. Si elle le fait consciemment, elle est penalement responsable. Mais si c'est une forme d'asservissement qui la fais agir, alors on peut dire qu'elle n'était pas en pleine possession de ses moyens au moment des fait, et elle n'est donc pas condamnable. Ce qui fait que l'IA dans ce cas ne peut pas subir de peine, et toutes les responsabilité sont mise sur le coupable. Sans prendre position en faveur de l'IA ou de l'homme dans ce genre d'affaire, on risque d'en avoir beaucoup quant les IA seront la et j'estime que moralement, dans un cas comme celui-ci, les 2 entité doivent avoir des droits precis conforme au procedures standard d'enquete (temps limite dans les interrogatoire) et de jugement (droit d'avoir un avocat, ou pas, presemption d'innocence).

De plus, une IA sera bien plus efficace pour surveiller qu'un humain. Une IA pourrait-elle temoigné devant un tribunal en tant que temoin, expert pour les question d'intelligence des IA (serait-elle sujet a la folie, peut-elle mentir). toutes ces question sont des questions de droit. Et si on veux legiferer, je trouve normal qu'on legifere aussi sur le statu des IA.

Pour ce qui est du risque de rebellion que tu associes avec le fait de n'accorder que le droit d'obéir à une IA, je pense que c'est exactement l'inverse. Si on donne un droit aux IA, on leur donne donc une notion d'intérêt propre (sinon je veux bien, mais ça ne sert à rien de donner un droit si le robot n'a pas envie de s'en servir).

Ben disons que sur ce point, on as le meme problème avec les humains. Rappel toi notre petit echange par email (que j'ai pas oublié, cela dit en passant , mais je reflechit a ton dernier mail).

Et si l'IA a, d'une manière ou d'une autre la possibilité de considérer son intérêt indépendamment de celui de l'Homme, ces intérêts vont forcément finir par entrer en conflit. Et une fois qu'il y a conflit, si les IA ont le droit de résoudre ce conflit à leur avantage (forcément, puisqu'elles seront à ce moment là bien plus intelligentes que nous et auront un contrôle énorme sur l'humanité), celles qui le feront seront évolutivement avantagées. Je pense que ça nous mène irrémédiablement vers une extermination de l'espèce humaine, ou éventuellement la conservation de quelques spécimens dans des bocaux de formol, ou encore tous les trucs pas cools que je suis loin d'être en mesure d'imaginer sans retomber sur l'aberration de Matrix. Le fait d'ajouter des directives ne donne qu'une barrière à cette intelligence, et je pense que toute intelligence évolue en cherchant à passer outre les barrières qui lui sont posées. Je ne pense pas (mais je peux me tromper) qu'une forme d'intelligence développée puisse être affublée d'une directive stricte qu'elle ne peut pas franchir

Je croit pas qu'un conflit entre IA et humain pourrait degeneré en guerre total, si des 2 coté, des entité sont attaché a des principe fondemantaux commun au 2 "espece", genre le droit a la vie dans tout les situations, la reconnaissance de l'autre, l'accès a l'espace (geographique) de l'autre espece, la maniere de cooperer en cas de litige, etc...

Je suis entierement d'accord avec ta derniere remarque, dans le sens ou une directive "harcoder" pourra certainement etre outrepassé, surtout si le soft a la capacité a se reprogrammer. Mais si les directive, ou se qui est considerer comme tel, sont externalisé, elles sont moins sensible a un changement d'humeur. Et le seul moyen d'externalisé des directives, c'est de s'impirer de la solution que des société humains ont choisi pour gerer leurs regles de fonctionnement, le droit ecrit. Bien sur, c'est pas la seule solution, mais c'est celle qui as été le plus experimenté et qui fonctionne bien. Les lois orale sont trop facilement manipulable. Mais un texte peut etre revisé selon certaine regle. Si les IA veulent modifié leur "directive", elle devront suivre le processus legal que tout homme doit suivre pour pouvoir changer une loi. Ca depend des pays et je pense que la dessus, notre education va beaucoup joué. J'entend par la que moi, suisse, dont le sport national est le vote , j'ai une approche du droit totalement différente d'un francais ou d'un americain. C'est pt etre aussi pour ca que je m'accroche au droit, parce que je vois ce qu'il permet quant on le prend d'une certaine maniere (je rappel juste qu'en Suisse, on vote pour tout et pour rien, mais aussi pour tout ce qui nous concerne. On as un accès quasi-direct au systeme legislatif et on peut "facilement" proposé une nouvelle loi).

Suite au prochain post .... (trop de caractère)

[invitea4b4a777]

Suite du precedent post

C'est surtout l'aspect opposé des choses qui est important à mon avis : Si l'IA ne considère l'existence qu'au travers de ce qu'elle peut apporter à l'Homme (parce que l'évolution l'a amenée là du fait qu'on ne lui a jamais accordé le moindre droit et qu'on n'a pas développé ceux à qui ça posait le moindre problème), son intérêt n'entre pas en conflit avec l'intérêt humain. Tout comme un humain cherche à défendre son propre intérêt, celui de ses proches ou l'intérêt général, l'IA cherchera à défendre l'intérêt de son propriétaire, celui de son entourage et celui de l'humanité. Parce qu'évolutivement, on l'aura sélectionné comme ça. Il n'y a aucune raison de craindre une quelconque rebellion, puisque se rebeller contre l'être humain correspond à aller à l'encontre de ses propres intérêts.

D'une maniere general, je suis d'accord. Mais dans le cas ou le maitre est un Hitler, un W.Bush, et que l'interet de l'IA est a la fois de servir son maitre et de respecter l'humanité. Qu'aurait-elle fait le jour ou l'ONU a refusé la demande de Bush d'attaquer l'Irak. En supposant que l'IA reconnaisse en l'ONU une forme d'assemblée de l'humanité, et qu'elle constate que cette assemblée qui représente l'avis de l'humanité est en contradiction avec ce que son maitre veux, que fait elle. Elle peut choisir de suivre son maitre, et dans ce cas elle risque de se mettre a dos une grande partie de l'humanité (est-ce dans son interet), ou elle refuse les ordres de son maitre et elle prend le risque d'etre desactivée. Si elle fais un refus d'ordre, on pourrait la considerer comme une heroine parce qu'elle a tenu tete a Bush, un peu comme Chirac la fait. Mais une heroine "morte" n'est pas très utile, ca fais des martyre (ce qui est presque pire que les monstres). Dans l'autre sens, elle choisi de suivre son maitre et passe pour un monstre. On va se retrouvé avec des IA maniaco-depressive, skizophrene et totalement inutile (sauf au psyformaticien).

Alors que si elle doivent repondre devant le droit, elle auront un moyen objetif de se demarquer dans se genre de situation et en plus, ca permet a l'homme de legitimé son action vis-a-vis des IA. Une IA pourrait justement etre poursuivi pour crime contre l'humanité, ce qui n'est pas le cas des animaux, puisque considere comme dépendant de l'homme (ce qui n'est pas forcement faux vu l'impact de l'homme sur Terre). Et c'est plutot l'homme qui a des devoirs envers les animaux dans ce cas precis (devoir de respect, methode de mise a mort, interdiction de certain traitement, etc...).

Juste une derniere remarque, surtout pour yat. Te souvient tu de notre echange consernant la criminalité dans la société qu'on discutait ??? Pour memoire, je parlait d'utilisé les criminel pour la production et tu estimait que c'était pas très moral. Sans entrer dans le debat, je trouve tout aussi immoral d'exploiter des IA alors qu'elles sont intelligente. C'est remplacer mes criminel par tes IA (si je peut me permettre cette image) dans le sens ou les IA ont été concu pour nous servir, mais elle pourrait faire ce qu'elles veulent. Et les criminel font ce qu'ils veulent, et on pourrait les utilisé pour servir la société. Tu demande de ne pas trop se repose sur les criminel, mais tu ne vois aucun problème moral a te repose sur une autre forme de vie, qui plus est capable des meme chose que l'homme. C'est comme crée une classe sociale charger de servir la classe moyenne. Ca ne me derange pas si les individu de cette classe on autant de chance que les autres de passer dans une autre classe sociale (celles ou on as des serviteur a disposition). Et donc si on permet a des humains de gravir les echelon sociaux, pourquoi pas aux IA, surtout si elle en sont capable. C'est une image un peu forte, mais qui représente bien ma vision.

[invitea4b4a777]

On lui prouve par A+B qu'on a raison, avec description presque physique du concepte.. et il continue à prétendre qu'ils ont raison...

C'est que de notre point de vue, on est pas d'accord. C'est tout.

Tu veux que je décrive l'évolution ? simple
soit A = Une forme/structure/objet
soit B = un environnement
- A n'est pas éternel et dépend de ses relations avec b
- B peut se reproduire en copie quasi conforme..

Avant d'aller plus loin, je dirais ca :

soit A = Une forme/structure/objet
soit B = un environnement
- A n'est pas éternel et dépend de ses relations avec b
- B ne peut se reproduire, il est. Et il depend de ces relations avec A, qui lui meme depend de ses relation avec B. Ce qui s'appel une symbios ou ecosysteme.

Quant on veux faire la lecon, faut utilisé les bon termes.

C'est du concret ça non ? Tu peux répondre "tu ne sais pas ce que c'est que les mathématiques" si ça te chante...

Mais je le dit haut et fort, JE NE SAIS PAS CE QUE SONT LES MATHS, ET J'EN AI PAS BESOIN. C'est pas avec des chiffe qu'on fais avancer les choses, mais avec des concept. Les maths permettent juste de concretisé ces concept. Mais sans concept, pas de math (elles meme etant un concept purement humain).

Sinon je ne te ferait pas de signe : tu ne sait pas ce que c'est les signes.. tu ne sais pas non plus ce que c'est la langue française, l'orthographe, bref tu ne sais rien... en fait tu es tout simplement idiot. Tu ne sais pas ce que c'est que le débat, ni à quoi sa sert...

Le debat permet un echange d'idée, de point de vue, afin de resortir des elements commun et avancé vers un objetif commun.

Je me tue à vous dire que vous ne parler pas d'intelligence artificiel, mais dévolution darwinienne. Les mots pourtant précis
1) Evolution darwinienne
2) Intelligence.
Bien qu'il s'agissent dans les deux cas de séléction, les deux concepte sont totalement disjoint parce qu'il ne porte pas sur la même chose. Le retour d'expérience ne porte pas sur la même échelle. Un individu qui évoluerait uniquement gràce à une évolution type darwinienne (controlé, dirigé, ou pas) n'aura pas de retour d'expérience sur une durée plus courte que sa durée de vie, le retour d'expérience porte sur l'espéce. Il n'aura donc jamais le statut d'être "intelligent".
C'est clair ?

Non (y a pas plus clair).

Parce quelle difference existe-t-il entre une evolution darwinienne, s'appliquant aux espece "naturelle", et une evolution controlé des logiciels (support de l'intelligence), s'appliquant au forme de vie IA. Les 2 sont influencée par l'exterieur. Et l'une est bien plus rapide que l'autre. La différence que tu fais n'existe pas, parce qu'elle se base sur le temps. Je peux facilement faire evolué une espece naturel, simplement par manipulation genetique. Donc le fais que l'evolution darwinienne (par opposition a celle de l'intelligence), n'implique pas le temps, simplement une manipulation de l'ADN. Dans la nature, cette manip prend du temps, mais en labo elle est beaucoup plus vite realisé que le simple developpement d'un applicatif bete et mechant charger de surveiller les backups ou windows. dans l'autre sens, la nature fais très vite evolué l'intelligence, mais l'homme n'as toujours pas reussi en 50ans a crée une vrai IA (alors quant dans la meme periode, 2 individu on atteint le stade adulte et qu'une 3eme intelligence est en cours de "formatage").

Mais le fait d'evolué au niveau de l'intelligence n'est-il pas une action de se que tu appel l'evolution darwinienne, une adaptation rapide a un nouveau problème. Si cette adaptation ne necessite pas de manipuler le schema de base, elle est tout de meme la, cette adaptation. Et la nié signifie nié la capacité d'evolution et d'adaptation de l'intelligence. Si notre intelligence vivrait 2000ans, aurait-elle garder la meme forme, ou aurait-elle consciemment modifié son schema. Le problème, c'est que ce que tu appel l'evolution ne se vois que sur de longue periode, bien superieur a la plus longue esperance de vie de l'individu appartenant a une espece intelligente possédant une longue esperance de vie. C'est logique. Mais n'empeche que l'adaptation (donc le fait d'evolué, de changer) se produit a la fois dans l'evolution darwinienne et dans l'intelligence. En plus, ces pressions on exactement les memes caractèristiques (pression environnementale, sociale). l'adaptation de l'intelligence permet d'economisé du temps sur une adaptation genetique parce qu'elle est plus souple et qu'elle permet de defricher des axes de "recherches".

Sinon merci je vais montrer que j'ai bien compris ce que vous me disiez... avant que vous me répétier encore ceci ..

Sans etre mechant, as tu compris qu'on se placait dans un debat philosophique concernant le controle et l'asservissement, plus qu'un debat technique concernant le comment influencé. On en ai au "pourquoi influencé", plutot qu'au "comment influencé". Et je ne vois nul part dans tes propos de proposition concrete et clair (parce qu'en plus, tout n'est pas très clair, surtout quant tu commence a parler mathematique) concernant ton point de vue sur la question. Les problèmes technique sont des problèmes ..... technique, resolvable avec un peu d'huile de coude et quelques neurones. Les problèmes philosophique impose une remise en question de notre point de vue sur ce qu'est la vie, l'intelligence, l'homme. Et ces problème sont autrement plus ardu que des problèmes technique de savoir si on fais de l'evolution darwinienne ou intelligente (de tout facon, ce qui nous interesse dans l'IA, c'est le fait d'evolué. Le "Comment" a la limite est secondaire, et si tu appel ca de l'evolution darwinienne, je n'est rien contre, c'est ton point de vue).

[invite57e4f988]

e One Jack, faut que tu revise ta conception de l'évolution (va voir en bio, je viens de commencer un post...)

Tu dis aussi ça :

Maintenant tu faire autre chose : tu peux faire un code spécifique, qui inclue les principes de base de Descarte, et qui tente de créer un modéle compressé de la réalité... ça n'est pas si compliqué : tout les situations sont découpées en élément courant : des classes d'objets. Pour que le robot ai un quelquonque interet, il faut qu'il apprenne, c'est à dire qu'il compresse au maximum l'ensemble des informations qu'il posséde sur la réalité...
Chaque objet est une mémoire sur son représentant : il stocke grace à des liens l'ensemble des relations avec les autres objets. Voilà le robot qui "conceptualise" la réalité.

ET tu fais comment pour ranger des objets qui ne rentrent dans rien : vrac. Tu risques d'en avoir bcp dedans à la fin. Le problème c'est que tu parles avec des mots et techniquement, tu le dis toi-même on n'arrive pas à faire le lien.

Il y a aussi :

A : si le patrimoine détermine seul le comportement du robot, il n'est pas intelligent.
B : si le partimoine ne détermine pas seul le comportement du robot, alors c'est l'expérience qui le détermine, expérience que le patrimoine ne connais pas à l'avance. Il faut donc un mécanisme indépendant qui séléctionne en temps réél, donc hors du champs de la sélection darwinienne, ce qui ne vient pas du patrimoine pour produire le comportement. Ce mécanisme, l'instinct, lui, est dans le patrimoine, dans la structure du robot : il est donc interne au robot.

Ca paraît juste mais ça ne l'est pas (comme ton ex mathématique) : qu'est-ce qui détermine le nouveau? C'est ça le problème : ranger dans une nouvelle rubrique bien, mais c'est le vrac. Comment définir les propriétés, fonctions,etc? Tu testes? ...avec l'ancien donc ce n'est pas nouveau.
La seule solution que je vois : c'est de l'aléatoire (de l'aléatoire pour de l'intelligent?!) et oui. Un soucis de rangement, tous les PC (fourmis) se connectent (et augmentent l'aléatoire, qui ne l'est pas tellement mais bon) et teste avec la nouvelle variable aléatoire.

Concrètement: Ton trieur connaît les chaises et les tables. Il rencontre une batte de base-ball. Il le met dans le vrac inconnu. Ensuite il lui détermine un nombre (aléatoire) et dit ça c'est un verre (enfin c'est toujours un chiffre donc je peux dire n'importe quoi), avec un contour de forme comme ça. Maintenant si on lui présente un nouveau "verre" (batte OK?) pas pareil sinon c'est pas drôle. Son seule capteur c'est le contour de forme, la taille, la matière,etc (il a pas Internet) alors le contour ok ( à 95% près) mais la taille non (50% par exemple) et la matière non plus (onde de ch'sais pas quoi 10 fois plus grange). Si le contour est bien plus important que le reste rangement correct, sinon ça marche pas bien pour ce qu'on veut. Mais là on interviendra peut-être, on va pas laisser les ia se créer un nouveau langage quand même!

suite plus tard...

[invite6b1a864b]

C'est que de notre point de vue, on est pas d'accord. C'est tout.

Si tu discute pas pour approcher de la vérité à quoi tu sers ?
J'attend une démonstration qui contredise mes affirmations.. et malgrés tout votre charabia certi d'assurance faussé et simplement imaginaire... je n'en vois pas. Non aucun. Souligner les vos arguments.. Vous raconter des trucs en boucle. Je vous montre que ces trucs ne me contredise pas et qu'ils sont faux. Vous vous obstinez ... Vous avez gagner ! vous êtes les rois...

Avant d'aller plus loin, je dirais ca :

soit A = Une forme/structure/objet
soit B = un environnement
- A n'est pas éternel et dépend de ses relations avec b
- B ne peut se reproduire, il est. Et il depend de ces relations avec A, qui lui meme depend de ses relation avec B. Ce qui s'appel une symbios ou ecosysteme.

Quant on veux faire la lecon, faut utilisé les bon termes.

Oui l'environnement dépend de l'objet et l'objet dépend de l'environnement ... et donc ? L'objet A va faire évoluer l'environnement ? La souris, si la température augmente, prend son vaisseau spatiale et va baisser un peu le volume du soleil, plutot que d'évoluer ou disparaitre.. C'est beau l'inversion des rapports de force... sinon si tu considére que B dépend de A cela signifie pour les robots, que l'homme dépend du Robot et donc que le Robot peut influencé sont environnement au sein de son écosystéme... Et comme son écosystéme c'est l'homme et que l'homme est celui qui applique la pressions séléctive, alors oui, selon ta démonstration, le robot peut un jour influencé l'homme (et dans le cadre d'une pression séléctive la faire baisser, voir l'anhilier)...
Je te le dit, tu as tout à fait raison.. c'est pourquoi ta démonstration prouve que j'ai raison. Merci !!
D'ailleurs c'est logique entre un individu soumis à la pression de son écosystéme il n'y a pas de différence... chacun est à arme égale avec l'univers entier... Formidable !!!

Mais je le dit haut et fort, JE NE SAIS PAS CE QUE SONT LES MATHS, ET J'EN AI PAS BESOIN. C'est pas avec des chiffe qu'on fais avancer les choses, mais avec des concept. Les maths permettent juste de concretisé ces concept. Mais sans concept, pas de math (elles meme etant un concept purement humain).

Excuse moi, mais la nature même du concepte, l'existence du concepte et entiérement lié à l'existence d'une non complétude de l'information et des mathématiques (le fait qu'il n'y pas de concepte fondamental) qui entraine simplement le fait que le monde de l'information les concepte est totalement indépendant du monde réél.
Un exemple précis.. chaque mot à été choisi arbitrairement lors de la création d'une langue.. la preuve : plusieurs langues existent.
Les mathématiques pour moi cela englobe la logique, et de la logique découle la manipulation des propositions qui donnent un sens au concepte...
Je sais que vos conceptes sont flous et que vous les maniées aux pifométres (j'avais remarqué).. c'est bien, si ça vous amuse.. mais pas pour moi.

Le debat permet un echange d'idée, de point de vue, afin de resortir des elements commun et avancé vers un objetif commun.

Bien, et c'est objectif, doit il être juste commun ?
On est d'accord pour dire que la Terre est plate ? Super. La Terre est platte !! on est cinq à l'avoir conclus aprés d'âpres et durables négociations.. certains étaient réticents à l'idée, mais on finit par se plier à l'objectif commun... Dieu merci, maintenant tout le monde est d'accord : la Terre est plate !! !

Non (y a pas plus clair).

Parce quelle difference existe-t-il entre une evolution darwinienne, s'appliquant aux espece "naturelle", et une evolution controlé des logiciels (support de l'intelligence), s'appliquant au forme de vie IA.

Ah oui ça, la logique tu maitrise pas...
Donc je te répéte.. ta forme de vie, n'est pas IA dutout, parce qu'elle n'est pas intelligente. C'est une forme de vie certe, reproductible controlé... mais PAS INTELLIGENTE. La différence est précise, je l'ai donnée. Si ça vous chante d'appelé la séléction par l'homme des plans de votre aspirateurs : super ! la vie est belle...
Mon PC est une intelligence artificiel... Mon frigo a un thermostat ? quelle intelligence de sa part..

[invite6b1a864b]

Les 2 sont influencée par l'exterieur. Et l'une est bien plus rapide que l'autre. La différence que tu fais n'existe pas, parce qu'elle se base sur le temps. Je peux facilement faire evolué une espece naturel, simplement par manipulation genetique. Donc le fais que l'evolution darwinienne (par opposition a celle de l'intelligence), n'implique pas le temps, simplement une manipulation de l'ADN. Dans la nature, cette manip prend du temps, mais en labo elle est beaucoup plus vite realisé que le simple developpement d'un applicatif bete et mechant charger de surveiller les backups ou windows. dans l'autre sens, la nature fais très vite evolué l'intelligence, mais l'homme n'as toujours pas reussi en 50ans a crée une vrai IA (alors quant dans la meme periode, 2 individu on atteint le stade adulte et qu'une 3eme intelligence est en cours de "formatage").

Tu sais précisément qu'elle est l'interet de reproduire une séléction naturelle ? c'est que c'est le hasard qui explore les différentes possibilités. Et dans ces possibilités s'en trouve certaine auquelle l'ingénieur n'avaient pas pensé. C'est son seul interet..
Si tu lance ton crayon au pif, tu n'aura pas les plans d'un avion..
Tu peux séléctionner parmis une évolution au hasard les plans : ce n'est pas toi qui crée, mais le hasard. La vrai question c'est : qui crée ? Soit c'est lingénieur (et ça vaux aussi pour l'ADN et dans ce cas cela n'est pas une évolution darwinienne dutout, c'est du génie génétique, de l'ingénieurie.) soit c'est le hasard qui une fois controlé et séléctionner donne quelque chose.. il n'y pas d'autre source de création.
Si tu as lu ce texte, apparament il faut que je m'explique clairement pour qu'on me comprenne, parce que sinon personne ne fait l'effort de lire. Donc si tu as bien compris ce texte tu pourra je l'espére conclure que la phrase :
"Donc le fais que l'evolution darwinienne (par opposition a celle de l'intelligence), n'implique pas le temps, simplement une manipulation de l'ADN. "
est une énormité. Si l'homme modifie l'ADN, il n'y a aucune séléction naturelle, il y a de l'ingénieurie. A moins que l'homme modifie l'ADN au pif.. ce qui n'irait pas plus vite que la séléction naturelle parce qu'il faut bien tester un ADN pour savoir ce qu'il donne ..

Mais le fait d'evolué au niveau de l'intelligence n'est-il pas une action de se que tu appel l'evolution darwinienne, une adaptation rapide a un nouveau problème. Si cette adaptation ne necessite pas de manipuler le schema de base, elle est tout de meme la, cette adaptation. Et la nié signifie nié la capacité d'evolution et d'adaptation de l'intelligence. Si notre intelligence vivrait 2000ans, aurait-elle garder la meme forme, ou aurait-elle consciemment modifié son schema. Le problème, c'est que ce que tu appel l'evolution ne se vois que sur de longue periode, bien superieur a la plus longue esperance de vie de l'individu appartenant a une espece intelligente possédant une longue esperance de vie. C'est logique. Mais n'empeche que l'adaptation (donc le fait d'evolué, de changer) se produit a la fois dans l'evolution darwinienne et dans l'intelligence.

Tout à fait d'accord ! mais les deux sont radicalement différents. Et la principale différence c'est que l'intelligence est une séléction des comportements qui se joue sur la base d'un but à atteindre, un objectif, lui même déductible de l'instinct.
c'est pourquoi l'une s'appel évolution et

En plus, ces pressions on exactement les memes caractèristiques (pression environnementale, sociale). l'adaptation de l'intelligence permet d'economisé du temps sur une adaptation genetique parce qu'elle est plus souple et qu'elle permet de defricher des axes de "recherches".
Sans etre mechant, as tu compris qu'on se placait dans un debat philosophique concernant le controle et l'asservissement, plus qu'un debat technique concernant le comment influencé. On en ai au "pourquoi influencé", plutot qu'au "comment influencé". Et je ne vois nul part dans tes propos de proposition concrete et clair (parce qu'en plus, tout n'est pas très clair, surtout quant tu commence a parler mathematique) concernant ton point de vue sur la question. Les problèmes technique sont des problèmes ..... technique, resolvable avec un peu d'huile de coude et quelques neurones. Les problèmes philosophique impose une remise en question de notre point de vue sur ce qu'est la vie, l'intelligence, l'homme. Et ces problème sont autrement plus ardu que des problèmes technique de savoir si on fais de l'evolution darwinienne ou intelligente (de tout facon, ce qui nous interesse dans l'IA, c'est le fait d'evolué. Le "Comment" a la limite est secondaire, et si tu appel ca de l'evolution darwinienne, je n'est rien contre, c'est ton point de vue).

J'ai bien compris de quoi vous débattiez ... et j'ai prouver, dans le cadre de ce débat qu'il n'y a pas d'intelligence sans liberté, et donc sans risque d'échappement au contrôle.. vous avez utilisez les termes "séléction darwienne" pour l'associé à l'Intelligence Artificiel et ses promesses alors qu'il s'agit concrétement de deux choses différentes. Ce qui s'applique à l'un ne s'applique pas à l'autre.. il ne suffira donc pas de séléction les IA pour qu'elle soit gentil.. parce qu'une IA qui emergerait uniquement par séléction si elle est véritablement "intelligente" échappe aux champs d'application des mécanismes de controle qui s'applique à la séléction naturelle..
Je te propose de prendre les hommes et de séléctionnez ceux qui te paraissent bon de ceux qui te paraissent mauvais...
N'aurais tu pas spontannément une guerre sur les bras ??
Si on peut séléctionner les taureaux, ou les bestiaux, c'est parce que quand t'en séléctionne un et que tu l'empéche d'aller voir les femelles ou que tu le conduit à l'abbatoire, ou bien que tu veux lui modifié son ADN, il n'est pas assez intelligent ou rusé pour te remettre en place... mais c'est pas l'envie qui lui manque.. à coup sur.. question d'instinct.

[pi-r2]

Bonjour tout le monde.
je vais essayer de reparticiper à la discussion, ce qui sera difficile compte tenu de la longueur des posts et de mon manque de temps chronique. L'impression qui se dégage de vos échanges fort intéressants, de mon point de vue c'est que vous êtes presque d'accord. Les mots par contre induisent des confusions, surtout quand on parle de choses vagues et pas très clairement définies comme l'intelligence et l'évolution. Je vous invite à pacifier le débat et à tenter de le reconstruire méthodiquement et point par point.
Je considère le mot "intelligence" comme de même "niveau" que le mot "évolution". C'est à dire que c'est un concept qui est indépendant de son support. L'évolution des dinosaures et l'évolution des Staphylocoques Dorés sont deux phénomènes différents mais sous tendus par la même notion d'évolution. Il en est de même selon moi l'intelligence humaine et l'IA.
Ce que nous savons c'est que l'évolution naturelle spontanée a "su" créer notre intelligence. Donc le raisonnement qui dit que l'évolution des logiciels (guidée par l'homme ou pas) va conduire spontanément à l'IA est bon. Cela ne dit rien sur le temps qu'il faudra, mais cela peut se faire SANS notre contrôle.