Les robots pourront-ils s'insurger ?

[_Goel_]

Salut à tous,
Ce que vous dîtes insinue qu'un robot peut avoir des sentiments humains or un robot est un hamasde fil et de circuits.

Ben le cerveau aussi, non ?
-----

[JPL]

Je ne savais pas qu'il y avait un lien entre le hamas et les robots

[bac30]

le cerveau contient les fluides nécessaire alors que un robot c'est......................... .............................. ...de l'huile

[crazy44]

faux, le develloper ne voulait pas qu'ils puissent reconstituer le tas.
le code qu'il a fait le fait, erreur humaine.

un programme n'est qu'un enchainement de ligne de code et en aucun cas on ne peut sortir de ce code, l'ordinateur effectue chaque operation inlassablement.

si "se rebeller" n'est pas dans ces ligne de code, comment une IA pourrait t-elle se rebeller?

On peut imaginer que dans le futur les hypothétiques IA seront auto-programmable pour pouvoir faire face au plus de situations possible. Donc si il se "rebelle" ce sera forcément compris dans son code.

le cerveau contient les fluides nécessaire alors que un robot c'est......................... .............................. ...de l'huile

LES robots ne sont limités que par leur conception. De plus il est faux de dire qu'un robot doit pouvoir ressentir des émotions humaines pour se rebeller (ex : l'auto-préservation).

[G0D]

Il est tard et je n'ai pas tout lu alors je ne suis qu'environ la primère page.

Ben a moins de s'insurger par manque de carburant, je vois pas en quoi un robot serait prêt à s'insurger o0?

[_Ulysse_]

Personnellement, et même si cela fait "science-fiction", je pense que c'est un pb à ne pas prendre à la légère.
Les progrès réalisés en robotiques sont très importants et les robots vont commencer à devenir plus que de simple machine "programmées" puisque dans l'avenir elles pourront se programmer elle-mêmes. les dernières techniques (réseaux de neurones, algo génétiques) tendent vers cela. Le travaille en équipe est aussi beaucoup étudié. Les dernières étapes serait la capacité de se reproduire et l'indépendance vis à vis de l'homme. sachant que cette indépendance pourrait être acquise dans le temps et non décidée par ceux qui auront fabriqué ces robots. C'est à dire que le robots pourraient d'eux-même trouver le moyen de leur indépendance voir trouver comment fabriquer d'autres robots sans que cela ai été programmé au départ.

Tout ceci n'est pas pour tout de suite mais pourrait arriver d'ici 30/50 ans ou plus.

[GillesH38a]

y a-t-il le moindre debut de commencement d'ébauche de quelque chose qui pourrait ressembler à un début de sentiment dans un robot actuel?

(un vrai sentiment, pas un comportement apparent qu'on interprete comme un sentiment, comme par exemple une tempete qu'on interpreterait comme une "colere" du ciel) ?

[_Ulysse_]

y a-t-il le moindre debut de commencement d'ébauche de quelque chose qui pourrait ressembler à un début de sentiment dans un robot actuel?

(un vrai sentiment, pas un comportement apparent qu'on interprete comme un sentiment, comme par exemple une tempete qu'on interpreterait comme une "colere" du ciel) ?

Je ne crois pas.
Je ne pense pas qu'il y ai besoin que les robots aient des sentiments pour être potentiellement "rebelles" cela peut se faire sans sentiments.

[invite06fcc10b]

y a-t-il le moindre debut de commencement d'ébauche de quelque chose qui pourrait ressembler à un début de sentiment dans un robot actuel?

(un vrai sentiment, pas un comportement apparent qu'on interprete comme un sentiment, comme par exemple une tempete qu'on interpreterait comme une "colere" du ciel) ?

Y a-t-il le moindre début de commencement d'un vrai sentiment dans les humains actuels ? (pas un comportement apparent qu'on interprète comme un sentiment, comme par exemple une décharge d'adrénaline et une expression coléreuse qui ne sont que des manifestations physiques ...).

A méditer, non ?....

A+,
Argyre

[Partage]

Personnellement, et même si cela fait "science-fiction", je pense que c'est un pb à ne pas prendre à la légère.
Les progrès réalisés en robotiques sont très importants et les robots vont commencer à devenir plus que de simple machine "programmées" puisque dans l'avenir elles pourront se programmer elle-mêmes. les dernières techniques (réseaux de neurones, algo génétiques) tendent vers cela. Le travaille en équipe est aussi beaucoup étudié. Les dernières étapes serait la capacité de se reproduire et l'indépendance vis à vis de l'homme. sachant que cette indépendance pourrait être acquise dans le temps et non décidée par ceux qui auront fabriqué ces robots. C'est à dire que le robots pourraient d'eux-même trouver le moyen de leur indépendance voir trouver comment fabriquer d'autres robots sans que cela ai été programmé au départ.

Tout ceci n'est pas pour tout de suite mais pourrait arriver d'ici 30/50 ans ou plus.

La robotique a certes fait d'énorme progrés, mais comparé à l'absolu de la création d'une vie artificielle (c'est ce dont on parle au final) nous en sommes encore trés loin.

Qu'entends tu exactement par auto-programmation ?

[_Ulysse_]

La robotique a certes fait d'énorme progrés, mais comparé à l'absolu de la création d'une vie artificielle (c'est ce dont on parle au final) nous en sommes encore trés loin.

Qu'entends tu exactement par auto-programmation ?

Les algo génétiques c'est une forme d'auto programmation.
Il me semble que c'est avec ce style de méthode que les japonnais ont pu faire des robots qui marchent : ils ont fait un programme qui a créé le programme de marche.

[crazy44]

Le travaille en équipe est aussi beaucoup étudié. Les dernières étapes serait la capacité de se reproduire et l'indépendance vis à vis de l'homme. sachant que cette indépendance pourrait être acquise dans le temps et non décidée par ceux qui auront fabriqué ces robots. C'est à dire que le robots pourraient d'eux-même trouver le moyen de leur indépendance voir trouver comment fabriquer d'autres robots sans que cela ai été programmé au départ.

Encore faudrait-il qu'elle (l'IA) en ai l'utilité, elle ne va pas devenir indépendante et créer des robots comme par magie.
On pourrai de toutes façons créer une "règle" l'empêchant de se répliquer ou de créer d'autres IA.

[_Ulysse_]

Encore faudrait-il qu'elle (l'IA) en ai l'utilité, elle ne va pas devenir indépendante et créer des robots comme par magie.
On pourrai de toutes façons créer une "règle" l'empêchant de se répliquer ou de créer d'autres IA.

Bien sur que l'on peut créer une "règle" mais sur un système complexe et qui évolue de lui-même, il est difficile de garantir que cette règle ne sera jamais enfreinte.

[GillesH38a]

Y a-t-il le moindre début de commencement d'un vrai sentiment dans les humains actuels ? (pas un comportement apparent qu'on interprète comme un sentiment, comme par exemple une décharge d'adrénaline et une expression coléreuse qui ne sont que des manifestations physiques ...).

A méditer, non ?....

A+,
Argyre

il me semble, oui

on ressent des sentiments personnels, de façon subjective (par "qualia"), sans savoir que c'est du à l'adrénaline, et on interprète les comportements humains par analogie en suspectant que les autres ont les mêmes. Ce n'est pas que la manifestation de colère qui compte, c'est l'ensemble du contexte qui va avec. On n'a donc pas de preuve absolue, mais on a indéniablement un début de suspiscion que les autres humains ont ces sentiments.

C'est pour ça que je pose la question sous cette forme et non en demandant si on a une "preuve formelle" que les robots, ou les humains, pensent ...

cordialement

Gilles

[GillesH38a]

Je ne crois pas.
Je ne pense pas qu'il y ai besoin que les robots aient des sentiments pour être potentiellement "rebelles" cela peut se faire sans sentiments.

ah bon, pourtant sur le cas de l'atmosphère, Kristi avait implicitement lié le fait qu'on puisse dire qu'elle se rebelle à la condition qu'elle ait une conscience et des sentiments. Si il y a un orage qui arrache le toit de ta maison, est ce que tu considères que l'atmosphère "s'insurge" contre toi, et pour quelle raison?

[_Ulysse_]

ah bon, pourtant sur le cas de l'atmosphère, Kristi avait implicitement lié le fait qu'on puisse dire qu'elle se rebelle à la condition qu'elle ait une conscience et des sentiments. Si il y a un orage qui arrache le toit de ta maison, est ce que tu considères que l'atmosphère "s'insurge" contre toi, et pour quelle raison?

C'est pourquoi j'ai mis le terme "rebelle" entre guillemets

[GillesH38a]

pas bien compris ta réponse : quel critère doit-on adopter pour faire la différence entre une vraie rébellion et juste un comportement "mécanique" (conduisant eventuellement à des dommages aux humains) : si ce n'est pas la présence d'une conscience des rapports hiérarchiques, quoi d'autre ?

[Mathador33]

Excusez moi si je suis en plein hors sujet, mais j'ai pas eu le temps de tout lire et je dois m'absenter...
Donc pour repondre a la question de déopart, si des robots peuvent s'insurger contre leur créateurs, j'avais lu il y a un certain nombre d'année une théorie d'evolution adaptée a la robotique:
un robot d'exploration est programmé par l'homme pour aller se poser sur une planete, fabriquer deux copies de lui meme a partir des materiaux existants sur cette planete, et tout le monde redecolle direction trois autres planetes, et reboulette... des petis defauts de constructions peuvent s'apparenter a des mutations, et ainsi au bout d'un certain temps, ce pourrait etre des robots qui pilleraient totalement les planetes sur lesquelles ils se poseraient, et la terre pourraient en faire partie.



Bon bref, c'est un peu alambiqué, et vu mon niveau en quel que domaine que ce soit, je doute de pouvoir l'étayer Juste pour vous le présenter...

[_Ulysse_]

pas bien compris ta réponse : quel critère doit-on adopter pour faire la différence entre une vraie rébellion et juste un comportement "mécanique" (conduisant eventuellement à des dommages aux humains) : si ce n'est pas la présence d'une conscience des rapports hiérarchiques, quoi d'autre ?

J'ai mis entre guillemets parce que le terme de "rebeller" fait allusion à des sentiments humain. Bien sur si un orage arrache le toit de ma maison c'est pas une rébellion mais s'est quand même arriver alors qu'un orage n'a pas à m'en vouloir à moi. Et bien c'est pareil avec des robots autonomes : ils peuvent aussi bien être totalement inoffensifs que destructeurs pour nous et ce n'est pas une question de sentiments. Voila, en espérant que tu comprennes ma position.

La seconde question est de savoir si des robots pourraient avoir des sentiments. Dans l'absolu je pense que oui car les hommes ne sont rien d'autre que de formidables machines chimiques organique.

[GillesH38a]

J'ai mis entre guillemets parce que le terme de "rebeller" fait allusion à des sentiments humain. Bien sur si un orage arrache le toit de ma maison c'est pas une rébellion mais s'est quand même arriver alors qu'un orage n'a pas à m'en vouloir à moi. Et bien c'est pareil avec des robots autonomes : ils peuvent aussi bien être totalement inoffensifs que destructeurs pour nous et ce n'est pas une question de sentiments. Voila, en espérant que tu comprennes ma position.

... euh non : tu dis que c'est pareil entre les robots et les orages, mais que pour les orages, ce n'est bien sur pas une rébellion : donc pareil avec les robots, ce n'en est pas une non plus, c'est ça ?

La seconde question est de savoir si des robots pourraient avoir des sentiments. Dans l'absolu je pense que oui car les hommes ne sont rien d'autre que de formidables machines chimiques organique.

l'atmosphère aussi est une formidable machine hydrodynamique non? pourtant il ne semble pas qu'on soit tenté de lui attribuer des sentiments.

si les caractéristiques humaines sont contenues non pas dans le fait que c'est une machine chimique, mais dans la manière dont ils traitent l'information, pour moi il n'est pas du tout évident que les robots la traite de manière suffisamment proche pour pouvoir etre considérés comme avoir des sentiments.

Le syllogisme:

Les hommes ont des sentiments
Les hommes sont des machines chimiques
Or les robots sont aussi des machines, mais électroniques.
Donc les robots peuvent aussi avoir des sentiments

me semble erroné du point de vue des règles de la logique formelle, n'est ce pas?

[ClaudeH]

Quel critère doit-on adopter pour faire la différence entre une vraie rébellion et juste un comportement "mécanique" (conduisant eventuellement à des dommages aux humains) : si ce n'est pas la présence d'une conscience des rapports hiérarchiques, quoi d'autre ?

Bonjour gilles38. je m'écarte un tout petit peu du sujet pour en revenir.

Nous nous sommes rendu compte que certaines bacteries devenaient de plus en plus «résistantes» aux antibiotiques. Je pense que ces micro-organismes ont developpé au fure et à mesure de leur contactes avec des antibio, une sorte d'adaptation.
Je peux supposer que leur état actuel de «résitance» peux être considéré comme une sorte de «rebellion» même si celle-ci n'est qu'en réalite qu'une forme d'adaptation basée sur la pérénité de l'espèce. Et il n'y a en aucun cas un acte conscient venant de celles-ci.
Parler de "conscience" concernant l'IA, a t-elle la même définition que l'idée que nous nous faisons de notre propre conscience.?

Je ne sais pas si on peut parler d'un dégré de conscience différent entre le règne animal ou végétal si il y a réellement conscience. Par contre quel que soit le règne, l'oraganisme se «battra» pour rester en vie avec les moyens que mère nature lui a fourni.
Au niveau de l'IA, peut-on prétendre que les robots auront une conscience semblable à celle de l'être humain.? Admettons que oui par rapport au fil ouvert. Mais ce n'est pas demain la veille.
Car il me semble que nous devrions déjà trouver quelle est la structure et la consistance de la conscience, de façon que nous puissions l'informatiser. Donc là recréer.
Une rebéllion d'un robot alors ne pourait-elle pas être une sorte d'adaptation basée sur une pseudo conscience visant à ce que celui-ci reste simplement en vie.?


Cordialement.

[JPL]

Bien que ce soit hors sujet une précision sur les bactéries. Elles ne sont pas devenues résistantes, simplement celles qui ne l'étaient pas ont été tuées ce qui a laissé la place libre pour les individus résistants initialement très minoritaires.
Donc nulle adaptation et a fortiori encore moins de rébellion des bactéries ou de la nature.

[Kiristi Madam]

Il y a certaines affirmations qui peuvent paraître tout à fait fondées au premier abord alors qu'elles n'ont rien de tel :
Une tempête ne s'insurge pas parce qu'elle rase une ville ou arrache le toit de ta maison, elle ne fait que subir et amplifier une multitude d'éléments climatiques.

Comme je l'ai dit dans mes messages différents, un ouragan n'est peut-être pas aussi anodin qu'on le croit.
Je ne défend pas l'idée qu'il "soit" intelligent, mais je ne dénigre pas non plus cette possibilité...

Jusqu'à preuve du contraire, l'animal est un égrégat, un ensemble d'une multitude d'éléments. Ce que nous nommons "volonté" ou "libre arbitre" n'est qu'une réponse à une question où s'entremêlent une énorme quantité d'enjeux. Parce que nous ne connaissons pas ces enjeux, naturellement nous ne pourons connaître le choix de la bête. De là à affirmer qu'il agit "librement" est franchement une fiction.

Nous ne sommes pas plus libre qu'un robot. Seulement voilà, le robot est pour l'instant encore plus bête qu'un poux, alors forcément, son répertoire de possiblités est très étroit. Nous savons tout de lui.

Le robot agira toujours de la façon qu'il croit le mieux. L'être humain n'agit-il pas toujours de la manière qu'il croit meilleure ?

Une coupe mondial de football inter-robots est organisé tous les ans. Le défi est que d'ici 2050, l'équipe humaine championne du monde de football soit battue par l'équipe des robots.

Je travaille dans la cybernétique et la robotique. J'affirme qu'avant 2050, ce que nous appellons des robots nous dépasseront dans pratiquement tous les domaines. Mais comme nous l'avons dit au tout début, une erreur dans la programmation de ces monstres d'acier pourra conduire à des comportements inquiétants de leur part jusqu'à même les voir échapper à notre contrôle (c'est beau l'avenir ! ).

[GillesH38a]

Je travaille dans la cybernétique et la robotique. J'affirme qu'avant 2050, ce que nous appellons des robots nous dépasseront dans pratiquement tous les domaines. Mais comme nous l'avons dit au tout début, une erreur dans la programmation de ces monstres d'acier pourra conduire à des comportements inquiétants de leur part jusqu'à même les voir échapper à notre contrôle (c'est beau l'avenir ! ).

si le terme n'etait pas si éloigné, je serais prêt à parier avec toi qu'aucun robot en 2050 ne pourrait répondre à des questions simples de ce genre :


"Quelle est la deuxième lettre du troisième mot de cette question? "

[Kiristi Madam]

si le terme n'etait pas si éloigné, je serais prêt à parier avec toi qu'aucun robot en 2050 ne pourrait répondre à des questions simples de ce genre :

"Quelle est la deuxième lettre du troisième mot de cette question? "

C'est vraiment très réducteur de ta part, Gilles.
(la réponse est bien a, au fait ? )

Ce n'est vraiment pas un exercice compliqué pour un robot bien construit. Je crois d'ailleurs que certains ont déjà réussis ce genre d'exploit, mais ce n'est pas sûr.

[GillesH38a]

C'est vraiment très réducteur de ta part, Gilles.
(la réponse est bien a, au fait ? )

Ce n'est vraiment pas un exercice compliqué pour un robot bien construit. Je crois d'ailleurs que certains ont déjà réussis ce genre d'exploit, mais ce n'est pas sûr.

je suis sûr que non, mais si t'as une référence

quand je dis "une question du genre", ça peut etre bien sur aussi une question du genre " quel est le double du nombre de lettres du cinquieme mot de cette phrase" , ou "quel est la troisieme lettre de mon pseudo?", ou "quelle est la lettre suivante dans l'alphabet de la deuxieme lettre du premier mot"... etc...

ce genre de question serait résolue sans difficulté par un enfant d'une dizaine d'années, je suppose. On peut penser donc qu'un robot qui nous serait "supérieur dans tous les domaines" devrait comprendre tres facilement n'importe quelle question de ce genre. Mais en fait ça implique qu'il comprenne réellement le sens de la question : or il me semble que les performances des meilleures traductions automatiques prouvent facilement que le traitement et la production de phrases par les ordinateurs ne comportent absolument aucune "compréhension" de leur signification, puisqu'il est tres génériquement possible de leur faire sortir des phrases qui n'ont strictement aucun sens.

[bac30]

Je ne pense pas que la question demande un vrai sans logique, ils suffirait d'enregistrer un un dictionnaire et une calculette pour qu'un robot puisse répondre mais c'est kuste une hypothèse je ne suis qu'en 1ère S

A part ça la répnse c'est 4?

[invite8ec27859]

pour repondre directement a la question "Les robots pourront-ils s'insurger ?" qui dit insurrection dit oppresseur(s), donc tout depend des hommes, s'ils sont des oppresseurs.

si on suppose qu'il y aurait insurrection, cela sous-entend une conscience chez le "robot".
ca c'est possible :
1- il faut comprendre ce qu'est la conscience chez l'homme : memoires + flux electrique pour le transfert d'informations (cf. l'homme neuronal de JP Changeux)
2- condition primordiale : la technologie suffisante ; elle viendra un jour avec ce qu'on essaie de creer actuellement : les ordinateurs quantiques (qubits)
3- cette tendance qu'a l'homme de l'imitation (approche cognitive) ; de plus il ne reproduira que ce qu'il connait deja
(le temps que cela arrive, je ne pense pas que les generations futures viendont consulter cette discussion pour anticiper)
a ceci, il faut ajouter que l'homme est de nature feignante (cf. les siecles d'esclavage, depuis l'antiquite a nos jours ), donc il aura tendance a programmer le robot a ce qu'il "apprenne".

donc solutions : ne pas creer ces robots potentiellement susceptibles de dominer l'homme ou l'homme doit changer des maintenant sa facon d'apprehender le monde...

lecture : les androides revent-ils de moutons electriques ? de P.K Dick (ou version film +/- fidele : Blade Runner)

NB : je vois qu'il n'est pas question ici des fins miitaires ^^...

PS : c'est vrai que l'homme est est un animal, mais c'est le seul que je connaisse doter d'un esprit malsain par avidite de pouvoir

Un sauvage qu'on aurait arraché de son village et cloitré dans une cage passerait son temps à résister

euh ! Kristi Madam, ca veut dire quoi "sauvage" ?

[SuperTux]

quand je dis "une question du genre", ça peut etre bien sur aussi une question du genre " quel est le double du nombre de lettres du cinquieme mot de cette phrase" , ou "quel est la troisieme lettre de mon pseudo?", ou "quelle est la lettre suivante dans l'alphabet de la deuxieme lettre du premier mot"... etc...

C'est pertinant comme remarque, et en fait cela existe déjà : Le test de Turing.
Voir : http://fr.wikipedia.org/wiki/Test_de_Turing

Mais effectivement aucun programme n'est encore jamais arrivé à le passer pour le moment. L'avenir nous dira si l'homme arrivera à concevoir un tel logiciel (moi, j'y crois ).

[GillesH38a]

il existe un robot tres elaboré qui répond aux questions sur msn, à partir d'une encyclopédie commerciale. il suffit d'ajouter le contact msn fr.encarta@botmetro.net pour lui parler.

Il est vraiment tres élaboré, il répond sans probleme à des questions du genre "quelle est la capitale de l'Italie", "quelle est la racine carrée de 2", etc.. et peut vraiment donner l'impression d'etre "intelligent".

Mais il est totalement incapable de répondre aux questions du genre que je propose , par exemple "quelle est la première lettre de cette question ?".

Pourquoi ? parce que toutes les réponses qu'il peut donner sont dans le principe une interrogation d'une base de donnée constituée à l'avance. Il est juste tres performant dans la reconnaissance des mots clés permettant d'identifier la question. (et encore, essayez "quelle est la lettre suivant la première lettre de l'alphabet", pour voir )

Mais il est dépourvu totalement de capacité de mémorisation de la réalité en temps réel, donc de se "rendre compte" de ce qu'il se passe. Or les questions que je pose portent sur les questions elles-mêmes, et donc la réponse ne peut se trouver dans aucune base de données. Il faudrait que le robot "sache" ce qu'il fait pour qu'il puisse répondre (et ça me semble aussi une condition nécessaire pour "s'insurger" : il faut qu'il ait "conscience" de ce qu'il est en train de vivre).

ce qui est amusant, c'est qu'on se laisse très facilement impressionner par un certain type de comportement "apparent" donnant l'impression d''etre intelligent pour croire que les robots "approchent" le comportement humain et extrapoler leurs capacités : ainsi bac 30 et Kristi madam (qui travaille pourtant dans la cybernétique) sont persuadés que c'est possible ou meme que ça existe deja, un robot qui "comprend" la question ! or non seulement ça n'existe pas, mais il n'y a meme pas le moindre embryon de ce qu'est vraiment une compréhension du langage , avec un sens associé à la réalité. Les performances du type encarta pourraient bien evidemment etre transposées pour donner des réponses totalement absurdes sans que ça gene le moins du monde le robot (si on lui "apprend" que la capitale de l'Italie est 1,414, ça ne le genera pas du tout.). On confond l'apparence de raisonnement avec le raisonnement : un robot moderne n'est qu'une sophistication des automates de Vaucanson, et notre emerveillement devant eux est du meme ordre que celui des gens de l'époque, ou meme des tribus qui croyaient qu'on captait l'ame des gens, quand on en prenait juste une photographie .