Les robots pourront-ils s'insurger ?

[Kiristi Madam]

Bonjour à tous et à toutes,

Travaillant à la construction de robots à l'intelligence évoluée, je me pose pas mal de questions d'ordre éthique. Cela va de soi...

Beaucoup de membres de ce forum et de gens en général s'inquiètent des tournures que la robotique prendra dans l'avenir. Un classique est de voir un jour nos robots très évolués s'insurger contre leurs maîtres, les humains. Ce qui est d'ailleurs couramment appuyé dans la science-fiction.

Si j'ai ouvert ce fil, c'est pour pouvoir débattre avec vous de comment nos créations puissent, un jour, se dire "bah tiens, j'en est marre de ces humains.. et si on se les foutait sur la tronche ?"
Y a-t-il des arguments valables qui puissent appuyer une rébellion ?
Qu'est ce qui pousserait des automates à se rebeller ?

Merci de vos contributions,
Kiristi Madam.
-----

[Deedee81]

Salut,

Attention de rester dans la limite de la discussion scientifique quand même

Qu'est ce qui pousserait des automates à se rebeller ?

Une mauvaise conception. Un robot même hyper intelligent qui se révolte est forcément un robot mal conçu (sauf si on l'a conçu pour ça )

Evitons l'anthropomorphisme. Ce genre de problème est déjà arrivé. Un ouvrier Japonais écrasé par un robot (l'ouvrier n'avait pas respecté les consignes de sécurité). Et ce n'est pas (ce ne serait pas) différent avec un robot infiniment plus sophistiqué.

Après, on peut dire "oui mais il y a une question d'intention", hum... Ce n'est plus de l'éthique mais de la philo et de l'anthrorpomorphisme.

Les questions d'éthiques de ce style sont souvent le fond de certaines oeuvres de fiction. Du genre un ordi qui contrôle tout l'arsenal nucléaire puis l'ordi débloque et c'est la fin du monde.

Mais pas besoin de SF. La question se pose déjà maintenant quand, par exemple, on se pose la question d'avions entièrement pilotés par ordinateur (ou tout simplement pour les atterissages,...) . Les questions principales qui se posent sont la fiabilité, la gestion des imprévus,... Sachant qu'un être humain est également non fiable (un psychopathe est aussi dangereux qu'un robot cinglé, voire plus).

L'éthique est là : que met-on dans les mains d'une machine, avec quels gardes fous, quels controles, etc...

EDIT : j'emploie le mot éthique car même avec des sécurités on peut très bien dire "non, n'allons pas jusque là"

[invité576543]

Qu'est ce qui pousserait des automates à se rebeller ?

Est-on capable de répondre précisément à la question "Qu'est-ce qui pousse des humains à se rebeller?" Si c'est non (ce que je soupçonne),on peut anticiper pas mal de difficultés à répondre à une question sur un phénomène putatif alors qu'on ne sait pas répondre à une question sur un phénomène similaire mais réel.

Si on sait répondre pour les humains, on peut déjà examiner si cela serait applicable à des robots, ce qui entraînera dans un débat qui a eu déjà maints épisodes sur les forums FS, sur la possibilité ou non de similarité de comportements entre êtres vivants et êtres artificiels...

Autre axe: est-ce que "se rebeller" est un terme qu'on peut appliquer à des êtres vivants autres qu'humains? Si oui, qu'est-ce qui les poussent à se rebeller?

---

On peut citer d'avance les positions extrêmes. Caricaturons: A un bout, le terme "se rebeller" ne s'applique qu'aux humains, et c'est faire preuve d'anthropomorphisme et d'une démarche non scientifique que de poser une question dans laquelle ce terme s'applique à autre chose qu'un humain. A l'autre bout, il est évident qu'un humain est un simple assemblage, que le cerveau est une machine de Turing, et qu'on pourra fabriquer des robots ayant les mêmes capacités ou mieux, c'est juste un problème technique, donc en particulier celle de se rebeller; et penser autrement est une forme de vitalisme, ce qui est une position non scientifique.

Cordialement,

Edit: Croisement, je n'avais pas lu le message précédent

[Kiristi Madam]

Je suis tout à fait d'accord avec vous deux.
Pour que le robot puisse s'insurger, revendiquer sa "liberté", encore faut-il qu'il en éprouve l'envie. Hors, s'il y a une envie ou un désir dans sa conscience alternative, elle est totalement soumise aux aléas de ses maîtres-créateurs.

Quel serait en effet l'intérêt pour un robot de ne plus recevoir d'ordre d'humains si être commandé est sa raison d'être ?

Au contraire de l'homme, si volatile dans ses pulsions, ses envies et ses motivations. L'homme n'a pas de dieu, ou alors il l'a perdu il y a bien longtemps...

[A voir en vidéo sur Futura]

[Jeuf7984]

Avant de se poser cette question, il faut se demander si les robots pourront être semblables un jour à des humains. Cette question a été longuement débattue par ici : http://forum.decroissance.info/viewt...t=1327&start=0

[GillesH38a]

Je suis tout à fait d'accord avec vous deux.
Pour que le robot puisse s'insurger, revendiquer sa "liberté", encore faut-il qu'il en éprouve l'envie. Hors, s'il y a une envie ou un désir dans sa conscience alternative, elle est totalement soumise aux aléas de ses maîtres-créateurs.

c'est exactement la question : un robot pourrait-il se mettre à faire quelque chose pour laquelle son maitre ne l'a pas conçu ? (meme pas forcément s'insurger : il peut demander poliment si il peut s'arreter 5 minutes, être distrait par une jolie robote, demander si on peut pas lui faire des choses un peu plus intéressante que de reconnaitre des cubes ou des boules... ).

Vu le principe même de la programmation des robots, je ne vois pas comment c'est possible. Comment programmer un robot pour quelque chose qui ne corresponde pas à l'idée qu'on a de lui faire faire au départ???? même un programme adaptatif est conçu pour qu'il s'adapte à un certain but : même si la forme finalement retenue pour atteindre ce but est inconnue, je ne vois pas du tout comment il pourrait converger vers la réalisation correcte d'un autre but qui n'a rien à voir !

[GillesH38a]

Est-on capable de répondre précisément à la question "Qu'est-ce qui pousse des humains à se rebeller?" Si c'est non (ce que je soupçonne),on peut anticiper pas mal de difficultés à répondre à une question sur un phénomène putatif alors qu'on ne sait pas répondre à une question sur un phénomène similaire mais réel.

sauf que un humain ne se rebelle pas contre son créateur, tout simplement parce qu'il n'en a pas.

Il peut refuser d'obeir à un ordre , mais c'est tout à fait le cas des ordinateurs, si par exemple ils refusent d'ouvrir une page web sans le mot de passe.

Quand on imagine un robot en train de rebeller, on assimile le programmateur à un "éducateur". Mais la ressemblance est tres superficielle. Le programmateur CONCOIT le robot. L'éducateur n'est qu'un élément du contexte de développement d'un etre humain parmi d'autres (en particulier son programme génétique). Il n'est donc pas surprenant que l'éducateur ne soit pas tout puissant et qu'il existe des cas de rébellion. En revanche, se rebeller contre quelque chose pour lequel on a été explicitement construit et à la limite qui définit son existence (c'est quoi un robot a part quelque chose qui réalise le but assigné à sa construction?) , je ne vois pas ce que ça peut meme vouloir dire.

Je peux me rebeller contre mes parents, je ne peux pas me rebeller contre mon fonctionnement synaptique... .


Cordialement

Gilles

[Partage]

Je pense pas qu'un robot puisse un jour avoir une pensée libre, comprendre des concept, les manier et en créer.

Il y a aussi une question de "volonté" la-dedans.

Bref, c'est de la s-f...
C'est pas parceque certain auteur de s-f on pu pressentir pu prédir une évolution technologique que tout ce qui se trouve dans les ouvrage de sf peux arriver.

Ta question revient à demander à partir de quel niveau de conscience, d'intelligence et de perception, un être (naturel ou articficiel, peu importe) peut être amené à se rebeller, et suivant quelle mécanisme.

[invité576543]

sauf que un humain ne se rebelle pas contre son créateur, tout simplement parce qu'il n'en a pas.

Humain, machine, animal, se rebellent ou se rebellerait contre ce qui est, contre la situation au présent, telle qu'elle est, indépendamment de l'origine de la situation. Cette notion de créateur est très symbolique.

Tout être "décidant de ses actions" le fait en fonction d'un but, avec une liberté algorithmique plus ou moins grande (depuis le but entièrement codé dans l'algo, jusqu'à un choix explicitement guidé par le but, en passant par des intermédiaires). Un système complexe gère différents buts, avec éventuellement des conflits, des dilemmes.

Sans s'amuser à plagier Asimov, il semble clair qu'un système capable d'une vaste palette d'actions dont certaines pouvant avoir un impact sur lui-même (se déplacer est un exemple; mais ouvrir une connexion internet vers l'extérieur un autre plus actuel) doit avoir dans ses buts sa "survie", condition nécessaire à la prolongation dans le temps de ses bons et loyaux services. J'imagine qu'on pourra parler de rébellion si la résolution de conflit entre buts amène une machine à privilégier sa survie dans une certaine situation, de manière contraire à la résolution attendue/espérée/anticipée lors de sa conception. Cela ne me semble pas un scénario impossible, simplement parce que je n'imagine pas de machines "intelligentes" telles que l'intégralité de leur comportements soient anticipés lors de la conception.

Cordialement,

[Kiristi Madam]

Je vais répondre à Jeuf7984 pour commencer.

Avant de se poser cette question, il faut se demander si les robots pourront être semblables un jour à des humains.

Héhé.. Je m'attendais à cette question. Jeuf7984, tu as juste posé le problème à l'envers.
Tu as dit : pourra-t-on faire le robot à notre image (tiens, ça ne vous rappelle rien ?)

La réponse est en vérité très simple.
Pourrons-nous créer un jour un robot semblable à l'homme ? Si je me fit strictement à cette question, la réponse est... n o n. L'homme, cette super-machine, est une grosse purée de trillions de détails qui font ce qu'il est.
Pour reproduire l'homme, il faut connaître son essence : sa psyché et son histoire... jusqu'au bout des doigts.
C'est un défi aussi titanesque que stupide puisque qu'il ne mène à rien. En reproduisant ce qui fait de nous des êtres humains, nous allons injecter dans nos créations tous nos vices. Notre création réclamera son indépendance et finira par se rebeller. Nous sommes des animaux rebelles et assez insolents, pourquoi transmettre cela à nos bébé-robots ?... Quel misère de vouloir recréer nos schémas mentaux !


Alors non, il ne faut pas créer des robots similaires à des humains. L'être humain n'est d'ailleurs pas franchement un chef d'œuvre.
On a trop tendance à penser que l'homme est la crème des crèmes, alors que seulement une élite des nôtres est là pour faire progresser notre race, pour réfléchir au futur, pour construire. On oublie trop souvent, en nous prenant comme référence, de montrer que la masse écrasante des nôtres obéit docilement à une instance, gentiment et lourdement.

En gros, ça sera ça : vous n'aurez qu'à peine 1% de chance de tomber sur un génie qui sera exécuter efficacement les ordres. En revanche, vous aurez beaucoup plus de chance de tomber sur le genre bien typé : la grosse ménagère qui ne comprend qu'au bout de la troisième fois alors que vous lui expliquez pourtant le truc simple. Merci bien...

-

Presque systématiquement, et c'est naturel, on se cale derrière ses préjugés pour répondre à des questions.
J'en veux pour cause : il est impossible de créer une IA évoluée car elle ne fait que calculer ! Il est impossible de créer un super-robot pensant car les robots ne pourront pas penser ! Ils n'ont aucun libre arbitre. Ils ne peuvent pas faire preuve d'esprit artistique. Ils ne peuvent pas écrire de compositions... Et patati et patata...

...Ce n'est pas en se masturbant la cervelle de cette façon qu'on arrivera à faire émerger des réponses.


(ps: Michel éclaire bien le dilemme, comme le décalage entre l'idée de ce que se fait le robot du but et ce que nous pensons nous.)

[GillesH38a]

Humain, machine, animal, se rebellent ou se rebellerait contre ce qui est, contre la situation au présent, telle qu'elle est, indépendamment de l'origine de la situation. Cette notion de créateur est très symbolique.

comme toujours, ces notions sont piégées par l"arbitraire de notre catégorisation des comportements. Pourquoi ne pas décider des aujourd'hui que chaque fois qu'un ordinateur ne fait pas ce qu'on attend de lui (y compris quand son programme est buggé), alors c'est de la rébellion?

Il me semble que la rebellion chez l'humain est interprétée comme tel dans le cadre d'une relation affective. On peut "décider" arbitrairement d'étendre cette notion à la relation avec un ordinateur, mais il faudrait le préciser au départ pour que ça aie un sens de poser la question : les robots peuvent-ils s'insurger?

Tout être "décidant de ses actions" ....

rien que ça me pose deja un sacré problème de définition ...

cordialement

Gilles

[Kiristi Madam]

Y a-t-il besoin de définir ce qu'on entend par "rébellion", gillesh38 ?

Se rebeller est, si je ne m'abuse, l'acte de montrer, en résistant, que l'on conteste la décision prise par un supérieur.

Hum... C'est étrange, mais maintenant que j'ai cette définition sous les yeux, certaines choses prennent une nouvelle consistance. Comme quoi, poser sur la table les bases est important.


Imaginons un robot du nom de Bibi, pour plus de facilité. Bibi, un jour, répond de cette manière à son maître :
« Non, désolé Jean-jean mais je refuse de faire ça. Et pour tout te dire, tu commences à me chauffer le système, espèce de gros fainéant. »

C'est intéressant... Comment Bibi, d'après-vous, pourrait-il être amené à avoir un comportement si... exaspéré ?

[invite477a5682]

J'ai l'impression que la convolution d'une mauvaise programmation et l'utilisation de logique floue pourrait permettre un comportement non prevu.
et si c'est non prevu, cela pourrait aller jusqu'a l'insurection, non ?

[Rhedae]

Salut, peut être le mot se rebeller est un peu fort , mais ce qui probable c'est que certaines machines qui gèrent des réseaux de communication ou d'électricité pourraient être détournés au profit d'actions terroristes ou autres pour bloquer une économie. Notre dépendance de plus en plus grande aux machines et à l'informatique, nous expose à un risque bien réel que celle ci deviennent des armes puissantes contre leurs créateurs, si elle sont detournées , par des virus , des chevaux de Troie par exemple .

Pour ce qui est de la robotique pure , je crois qu'il existe deja des prototypes de robots tueurs, programmés donc pour faire des dégâts , et donc forcement si ces technologies se develloppent ils se pourrait qu'ils deviennent des ennemis.

[Partage]

Presque systématiquement, et c'est naturel, on se cale derrière ses préjugés pour répondre à des questions.
J'en veux pour cause : il est impossible de créer une IA évoluée car elle ne fait que calculer ! Il est impossible de créer un super-robot pensant car les robots ne pourront pas penser ! Ils n'ont aucun libre arbitre. Ils ne peuvent pas faire preuve d'esprit artistique. Ils ne peuvent pas écrire de compositions... Et patati et patata...

...Ce n'est pas en se masturbant la cervelle de cette façon qu'on arrivera à faire émerger des réponses.

Avant d'être un préjugé, c'est aussi une question.
Si on part du principe que la rebellion est un comportement humain faisant appel à la conscience, l'intelligence et d'autres critères typiquement humain, on peux se demander comment une machine de constitution différente pourrait avoir accès à ce 'sentiment'.
Je parle ici de rebellion organisée, d'une jacquerie des machine visant à se libérer de leur créateur.
Ce n'est donc pas du branlage du cerveau, pas plus que la question initial, de se demander si une machine pourra avoir accès a un système cognitif similaire au notre.
Passons si tu y tiens.

Dans ton dernier message tu présente la rebellion comme un acte moins organisé en le réduisant au refus d'exécution d'une tache par une machine commandé par un humain.
Je trouve ça paradoxale, tu nous reproche d'argumenter que la machine ne pourra égaler l'homme dans toute sa sensibilité et sa liberté, de l'autre tu affirme toi même que c'est de toute façon impossible et inutile, et enfin tu nous fait une démonstration d'antropomorphisme en parlant d'une machine qui désobéit.

L'acte de rebellion ne dépend t'il pas d'une organisation social ?
Une classe dominée peut se rebeller, ou pas. Et c'est d'ailleurs interessant de se demander pourquoi certains se rebellent et d'autre pas, mais c'est un autre sujet.
Ce que je veux dire c'est que les machines ne sont pas des êtres sociaux, même pas des golem solitaire, mais juste des outils. Elles n'obéissent pas, elles exécutent des taches pour lequel elle sont prévu.
La nuance est énorme.

Ceci n'est pas de la masturbation,car pour comprendre répondre à la question qui est de savoir comment une machine pourrait se rebeller, il faut comprendre de qu'est la rebellion, comment et pourquoi elle se manifeste.
Non ?

[GillesH38a]

Y a-t-il besoin de définir ce qu'on entend par "rébellion", gillesh38 ?

Se rebeller est, si je ne m'abuse, l'acte de montrer, en résistant, que l'on conteste la décision prise par un supérieur.
[/I]

il me semble qu'il y a deja plein de sous-entendus dans cette définition : "contester", "supérieur", tout ça fait référence à une représentation mentale des rapports hiérarchiques : ce n'est pas une simple définition "comportementaliste" comme "marcher", "reconnaitre un caractère", "gagner un match d'echec" etc...

il est assez facile de donner des critères de comportement objectif et d'essayer de créer des robots qui les reproduisent : mais quand ces critères impliquent une représentation mentale humanoïde, ça devient beaucoup moins évident à définir....

cordialement

Gilles

[Kiristi Madam]

Bien vu, Partage.

Néanmoins, je vulgarise et rabaisse volontairement le statut du robot.

En tout cas, si j'ai précisé que tous ces "préjugés" ne font pas avancer les choses, c'est justement parce que ce n'est pas le sujet ! Nous ne sommes pas là pour débattre sur la possibilité d'une conscience avancée artificielle. Il y a d'autres fils qui s'abreuvent de la question...
Nous partons donc du principe que, non seulement c'est possible, mais c'est surtout déjà réalisé.

Je trouve ça paradoxale, tu nous reproche d'argumenter que la machine ne pourra égaler l'homme dans toute sa sensibilité et sa liberté, de l'autre tu affirme toi même que c'est de toute façon impossible et inutile, et enfin tu nous fait une démonstration d'antropomorphisme en parlant d'une machine qui désobéit.

Recopier l'homme au sens propre du terme est impossible. Je l'avais expliqué. Après, le fait de singer ses schémas mentaux et sa manière de se comporter est nettement plus plausible.
Hors, faire don de la machine de nos sentiments ne mène à rien. Arriver à lui donner est bien possible, ma foi. Mais, ce que je dis, c'est que cela n'apporte rien de constructif. En effet, pourquoi la machine haïrait-elle, par exemple ? La haine est une faiblesse. Elle voile la raison et le bon sens. Le robot perdrait tout ce qui fait de lui un outil intéressant.

L'exemple avec mon petit Bibi est caricatural ! Il parle comme un humain et semble se rebeller comme un humain pourrait le faire. Ma question était pourquoi ? Il n'est nul besoin de scander l'antropomorphisme à toutes les sauces simplement parce qu'une machine fait preuve d'un esprit de résistance. Les animaux aussi sont capable de ça.

L'acte de rebellion ne dépend t'il pas d'une organisation social ?

Qu'entends-tu par "organisation sociale" ? Est-ce un groupe organisé ? Un échange fraternel entre plusieurs membres ?...
Si c'est ça, alors je crois que non. Il n'est pas nécessaire d'être un modèle social. Un sauvage qu'on aurait arraché de son village et cloitré dans une cage passerait son temps à résister... A la limite, même en n'ayant jamais eu de rapport social, il pourrait arriver à se rebeller contre ses maîtres.


Bon... La définition de rébellion est encore trop floue pour certains. Et c'est vrai que quelque part, il y a moyen de paraphraser. Mais quand même, si votre robot refuse l'ordre (ou l'exécution, pour Partage) que vous lui donnez et vous le fait comprendre clairement, on peut en déduire qu'il se rebelle.


Mais ça y est, j'ai une piste : l'égo. C'est l'égo du robot qui le pousserait à contester.
Oui, mais un robot n'a pas d'égo ?! Normalement, non. Cela n'est d'ailleurs pas très utile (cf: sentiments haine)
Mais le robot peut, comme on l'a beaucoup souligné, contester un ordre si cet ordre est insensé (= poignarde le président, mon bon Bibi).

[GillesH38a]

Bien vu, Partage.

Néanmoins, je vulgarise et rabaisse volontairement le statut du robot.

En tout cas, si j'ai précisé que tous ces "préjugés" ne font pas avancer les choses, c'est justement parce que ce n'est pas le sujet ! Nous ne sommes pas là pour débattre sur la possibilité d'une conscience avancée artificielle. Il y a d'autres fils qui s'abreuvent de la question...
Nous partons donc du principe que, non seulement c'est possible, mais c'est surtout déjà réalisé.


Recopier l'homme au sens propre du terme est impossible. Je l'avais expliqué. Après, le fait de singer ses schémas mentaux et sa manière de se comporter est nettement plus plausible.
Hors, faire don de la machine de nos sentiments ne mène à rien. Arriver à lui donner est bien possible, ma foi. Mais, ce que je dis, c'est que cela n'apporte rien de constructif. En effet, pourquoi la machine haïrait-elle, par exemple ? La haine est une faiblesse. Elle voile la raison et le bon sens. Le robot perdrait tout ce qui fait de lui un outil intéressant.

L'exemple avec mon petit Bibi est caricatural ! Il parle comme un humain et semble se rebeller comme un humain pourrait le faire. Ma question était pourquoi ? Il n'est nul besoin de scander l'antropomorphisme à toutes les sauces simplement parce qu'une machine fait preuve d'un esprit de résistance. Les animaux aussi sont capable de ça.

les animaux sont capables de ça simplement parce que nous sommes un animal, et donc le comportement humain est imprégné de comportement animal , ce qui permet d'interpréter à rebours leur comportement en termes humanoïdes.

Mais en fait tu conviendras que "se rebeller" n'est en fait employé QUE pour les animaux suffisamment évolués pour que nous soyons assez proches d'eux (en gros, les mammifères susceptibles de comportements d'apprentissage). Tu pourrais aussi bien poser la question "l'atmosphère est-elle capable de s'insurger?(en provoquant des orages..), ou "la Terre est-elle capable de s'insurger" (par des tremblements de terre?).

que repondrais-tu à ces questions?

Cordialement

Gilles

[ClaudeH]

Bonjour..

Cela fait quelques temps, il y avait une émission sur M6, sur les Trophées de la robotique.
Des étudiants de grandes écoles avait pour but de faire rivaliser leur robot consu en respectant un cahier des charges précis.
Dans ce concours, il y avait de la «baston» entre robots, ou une sorte de match de foot, ou ramasser le plus d'objet possible sur un une sorte de billard. Etc.
Avant d'arriver à ce concours un groupe d'étudiant faisant des essais sur leur robots sont tombés sur quelque chose qu'ils n'ont pas réussi à expliquer.

Ils avaient disposé sur une table, disons une table de billard un certain nombre de palets au centre du billard
Trois robots ayant vaguement la forme d'un buldozer miniature étaient programmés de façon que chacun d'eux devait réaliser un petit tas de «trois» palets qu'ils disposeraient à n'importe quel endroit du billard.
Effectivement ceux-ci allaient systématiquement prendre les palets dans le tas placé au centre du billard, d'après leur programmation.

Chaque robot a réaliser sa tache, regroupant petits à petit les palets en lots de trois sur la superficie du billard, jusqu'au moment ou il n'y avait plus de palet au centre du billard.
Mais du moment que leur programme ne contenait pas une «fin de mission», ils ont continué à pioché des palets, mais dans les groupes des «trois palets» qu'ils avaient au préalable constitué.

Mais le plus étonnant est que piochant dans tous les groupes de trois palets que ces robots avaient constitué et tentant de les réunir de nouveau en trois, ils ont fini par reconstituer le tas initial de palets au centre du billiard.
Et, ils ont recommencer à les répartir en trois. Je me rappelle avoir vu cette séquence en accéléré.
La programation de ces robots ne voulait pas qu'ils puissent reconstituer le tas. Alors pourquoi l'on t-ils fait.?

Dans un premier temps j'aimerais savoir si cette émission était de l'intox.?

Si non, nous avons à faire à un «comportement» robotique qui n'est pas de la rebellion, mais due à une erreur de programmation.

Cordialement.

[Kiristi Madam]

Pour répondre à gillesh38 :

Mais en fait tu conviendras que "se rebeller" n'est en fait employé QUE pour les animaux suffisamment évolués pour que nous soyons assez proches d'eux (en gros, les mammifères susceptibles de comportements d'apprentissage)

C'est juste... Plus exactement, pour se rebeller, encore faut-il avoir été dompté. Hors, comme tu le dis, toutes les bébêtes ne peuvent comprendre que l'humain ne veut, parfois, juste qu'elles soient dociles à ses ordres (des ordres à comprendre, aussi).

Bon. Est-ce que la terre et les éléments sont capables de s'insurger ? Comment pourrais-je le savoir ? Certaines personnes prétendent avoir des échanges privilégiés avec la nature (chamans, druides...). Ils sont d'aillerus unanimes pour dire que celle-ci est un corps vivant et pensant. Mais je suppose qu'à ce stade, la conscience doit revêtir un aspect bien différent de la nôtre...

Pourquoi la Nature ne se rebellerait-elle pas contre les humains qui la pillent ? C'est quand même une bonne question. Et la réponse cruche est simplement de dire que les éléments ne sont pas doué de volonté ; ils n'ont aucune possibilité de changer ce que leur réserve le futur.
Sauf qu'affirmer une chose pareil, c'est être le Maître de la météo. Hors, on sait que la météo est loin d'être un oracle franchement efficace sur le long terme. Les élément pourraient, donc, sous réserve d'ignorance, posséder une certaine volonté de "masse", comme certains bancs de poissons...

Après, pourquoi ne s'organisent-ils pas pour bouter les humains ? Deux solutions :

1. Ils n'ont pas une conscience suffisamment évolué et alors ne peuvent pas décider efficacement de nous détruire.
2. Soit ils sont vraiment très conscients et savent que, si l'humain fait toutes ces erreurs, c'est au moins un signe de santé évident de notre évolution. La Nature a confiance en nous et sait qu'on ne la saccagera pas éternellement. Qui sait ?

Voilà...


Pour ClaudeH :

Et, ils ont recommencer à les répartir en trois. Je me rappelle avoir vu cette séquence en accéléré.
La programation de ces robots ne voulait pas qu'ils puissent reconstituer le tas. Alors pourquoi l'on t-ils fait.?

Si je ne me trompe, tu nous cites une expérience des plus déterministes et linéaires.
J'arrive à me faire une idée de comment les informaticiens en question ont pu arriver à ce résultat.

En fait, pour ceux qui ne programment pas, il faut savoir que les erreurs font partie intégrante de l'évolution des programmes. Mais ce ne sont pas les programmes qui se trompent. Les programmes ne font qu'exécuter les ordres. Ce sont les programmateurs qui ont mal programmé leur machin, malgré leur vigilance (ça m'arrive souvent).

En tout cas, à ce stade "d'intelligence", je peux t'assurer que le libre arbitre et l'insurrection n'ont aucune existence.

[JPL]

La première partie de ton message est totalement non scientifique. Rappel de la charte du forum :

Ce forum n'est pas un lieu de discussion sur de soi-disant phénomènes paranormaux ou "sciences" parallèles. Toutes idées ou raisonnement (aussi géniaux soient ils) doivent reposer sur des faits scientifiquement établis et non sur de vagues suppositions personnelles, basées sur d'intimes convictions.

[GillesH38a]

oui, je ne pensais pas que Kristi allait sérieusement envisager que l'atmosphère pourrait se "rebeller" .

Mais c'est néanmoins intéressant qu'il l'ait fait, parce que ça l'a poussé à expliciter les conditions nécessaires pour lesquelles on pourrait considérer ça : en gros, que l'atmosphère puisse être considérée comme un être "vivant" et "pensant". Je ne rentre pas dans le débat de savoir si elle l'est ou pas, c'est juste pour remarquer que cette condition s'applique également aux robots : pour qu'on puisse dire qu'ils "s"insurgent", on sent bien qu'il faudrait deja qu'ils aient conscience d'un rapport hiérarchique qu'ils entretiennent avec les hommes (et au minimum, qu'ils "sachent" qu'ils interagissent avec des hommes). Donc finalement la question posée me semble en grande partie équivalente à la question "ls robots pourront-ils penser" : si ils arrivent à penser , on ne voit vraiment pas pourquoi ils ne seraient pas susceptibles de se révolter. Et sinon, on ne dira jamais qu'ils se révoltent (au pire qu'ils ont été mal programmés).

La question de la conscience des robots ayant été maintes fois débattue sur d'autres fils, on peut s'y référer pour savoir ce que j'en pense !

[Kiristi Madam]

JPL,

La première partie de ton message est totalement non scientifique.

Ça n'est pas plus scientifique de débattre sur une possible insurrection de robots alors qu'ils ne sont qu'au stade embryonnaire. Le thème de mon débat (cf Les robots pourront-ils s'insurger ?) peut être prit pour de la science-fiction, ce qui n'est pas totalement faux, pourtant tu n'es pas intervenu pour l'interdire.

Penses-tu plus scientifique de débattre sur des robots à l'intelligence pouvant transcender celle d'un humain que de réfléchir à la possible intelligence de la Nature ?

C'est quand même facile de scander : "pas d'avis perso, merci. On veut de la science et de la logique pure et dur, ici. Les farfelutistes seront abattus à la hachette." Ce que j'ai exposé ne l'a pas était sous un angle surnaturel ou paranormal. J'ai exposé simplement des arguments en la faveur d'une possible intelligence derrière les Éléments, c'est tout...

[JPL]

Je fais la différence entre une éventualité totalement utopique à mes yeux (la question de départ), mais qui mérite réponse, et une affirmation totalement anti-scientifique.

[invite674ddb95]

Un robot c'est comme un dd esclave du dd maître, le maître a le système, si le système est mauvais le robot l'est aussi.
De toutes façons le robot est fait pour le libérer des contingences matérielles voire de libido, et une personne libérée de ces contingences ne peut être foncièrement mauvaise

[GillesH38a]

De toutes façons le robot est fait pour le libérer des contingences matérielles voire de libido, et une personne libérée de ces contingences ne peut être foncièrement mauvaise

c'est une drole d'assertion, pas du tout scientifique il me semble ?

[JPL]

De toutes façons le robot est fait pour le libérer des contingences matérielles voire de libido

qui considèrerait ça comme un progrès ?

[sliders_alpha]

La programation de ces robots ne voulait pas qu'ils puissent reconstituer le tas. Alors pourquoi l'on t-ils fait.?

faux, le develloper ne voulait pas qu'ils puissent reconstituer le tas.
le code qu'il a fait le fait, erreur humaine.

un programme n'est qu'un enchainement de ligne de code et en aucun cas on ne peut sortir de ce code, l'ordinateur effectue chaque operation inlassablement.

si "se rebeller" n'est pas dans ces ligne de code, comment une IA pourrait t-elle se rebeller?

[bac30]

c'est exactement la question : un robot pourrait-il se mettre à faire quelque chose pour laquelle son maitre ne l'a pas conçu ? (meme pas forcément s'insurger : il peut demander poliment si il peut s'arreter 5 minutes, être distrait par une jolie robote, demander si on peut pas lui faire des choses un peu plus intéressante que de reconnaitre des cubes ou des boules... ).

Vu le principe même de la programmation des robots, je ne vois pas comment c'est possible. Comment programmer un robot pour quelque chose qui ne corresponde pas à l'idée qu'on a de lui faire faire au départ???? même un programme adaptatif est conçu pour qu'il s'adapte à un certain but : même si la forme finalement retenue pour atteindre ce but est inconnue, je ne vois pas du tout comment il pourrait converger vers la réalisation correcte d'un autre but qui n'a rien à voir !

Salut à tous,
Ce que vous dîtes insinue qu'un robot peut avoir des sentiments humains or un robot est un hamasde fil et de circuits.

[_Goel_]

Bonjour,

Question intéressante.

Pour moi, la rébéllion, ça s'apparente à retirer le doigt du feu, parce que sinon ça fait mal. J'entends là que la souffrance est la cause de la rébélion : on ne se rebelle que pour moins souffrir : c'est a priori le seul intérêt.

Par la même occasion, je pense (c'est pas scientifique je sais, mais j'aimerais votre avis) que la douleur peut expliquer beaucoup de choses comme l'intelligence. L'intelligence, ce n'est que le "moyen" de moins souffrir (cf. outils préhistoriques, ou confort moderne).