Si on lui inculque les fameuses lois d'Asimov , vu que nous sommes une espèce capable de nous détruire nous même , n'y aurait il pas un danger si elle décide de nous protéger de nous même eventuellement contre notre gré ?
-----
Pour
Contre
Si on lui inculque les fameuses lois d'Asimov , vu que nous sommes une espèce capable de nous détruire nous même , n'y aurait il pas un danger si elle décide de nous protéger de nous même eventuellement contre notre gré ?
Personnellement je ne pense pas que l'objectivité pure puisse aboutir à une intelligence ... il suffit de se rendre compte que le réalisme n'occupe qu'une très très petite partie de la science, c'est l'interrelation qui doit primer.
la science ok mais si on parle de science appliquée pourquoi on ne verrait pas dans quelques années des robots de compagnie
C'est ce dont rêvent les japonais, qui ont une curieuse relation avec les robots animalo- ou anthropomorphes.
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
Salut,
tu m'as pris de vitesse.
J'allais cité le cas d'un robot (très personnage de dessin animé) qui est capable d'aider certains handicapés moteurs. Pour un usage hospitalier.
Lorsque je l'ai vu (documentaire) c'était au stade de recherche mais ça ne tardera pas à être utilisé, si ce n'est déjà fait. De là à avoir des robots de ce style à la maison, il n'y a qu'un pas.
Après tous ils sont déjà fous des robots chiens ou chats
Toi, je parie que tu aimes bien Will Smith
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
bah le jour où ta robote te dira tu n'a pas droit a ta bouteille de cidre et appellera le service de reconditionnement pas pour elle mais pour toi
j'espère que c'est nous
On aura introduit des contraintes qui limiteront la dite intelligence.
Il suffit de finir le livre pour le savoir.vu que nous sommes une espèce capable de nous détruire nous même , n'y aurait il pas un danger si elle décide de nous protéger de nous même eventuellement contre notre gré ?
Il y a par contre un exemple connu montrant ce qui est possible : les cerveaux animaux.mon sentiment(...) les questions sur l'IA sont justement en dehors de ce champ, puisqu'il n'existe aucune loi connue disant ce qui n'est pas possible ! (ce qui ne signifie nullment que tout est possible - ça signifie juste que c'est un espace ouvert à l'imagination, et c'est tout).
Cela fait une différence notable avec les voyages sur la Lune, l'invisibilité ou la peinture anti-gravité. On pourrait choisir d'autres exemples (le choix des exemples est toujours orienté ), comme le vol de plus lourd que l'air ou la plongée sous-marine autonome.
Il y a quand même une différence nette entre l'imaginaire "libre" et l'idée de copier la nature...
Bien sûr, si on part de l'idée que les capacités cognitives humaines ne sont pas "naturelles" comme l'est le vol des oiseaux, qu'elles demandent "quelque chose" de non copiable, mon argument tombe.
Mais on pourrait rétorquer qu'on tombe là dans un autre fantasme, celui de la spécificité humaine...
En gros, chacun choisit son fantasme dans cette histoire.
Pour ajouter à ce qui est dit ici :Envoyé par VentilopommeSi on lui inculque les fameuses lois d'Asimov , ...
Ls fameuses lois sont des principes.Envoyé par MyoperOn aura introduit des contraintes qui limiteront la dite intelligence.
Or des principes necessitent des regles pour pouvoir être appliquées.Envoyé par Wikipedia1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Et donc des données.
Or ces données, qu'elles soient un résultat ou une données en entrée,
ne sont pas mesurables.
Elles sont interpretables.
Un robot doit donc être capable d'une tres grande interpretation de ses données en entrée et du resultat.
"Ne peut porter atteinte à un être humain" est trop vague par exemple.
Donc d'un coté comme le dit Myoper, on réduit son "intelligence", pris dans le sens de ce qu'il est capable. Son faire savoir.
Sa force, sa vitesse, son expression de l'intelligence.
Et de l'autre on doit augmenter son "intelligence" interpretative, son savoir faire.
Il y aura des accidents ou gros enervements, c'est certain.
Un robot ne peut pas tout interpreter.
Ce ne sont donc pas les lois de la robotique qui sont exprimées ici, ce sont les lois de l'IA Robotique.
On peut imaginer que dans le futur, on puisse avoir un port-d'arme de categorie Robotique.
Un robot humanoide qui suit son maitre.
Un peu comme un permis de détention de chien de guarde et de defense Cat II.
Plus le port d'arme comme aux Etats-Unis.
Un mobile de legitime defense, et ma fois, ça me parait réaliste.
Une arme donc destinée à la légitime défense.
Mais ca demanderais un permi, une formation, comme pour tout véhicule ou engin dangereux.
"Con", mais efficace.
L'aspirateur "super intelligent" qui joue de la musique etc, on évitera de lui donner de la force.
C'est mieux, si il est en vente libre.
De toute façons une telle IA sera susceptible de rencontrer des virus informatiques, qui seront de plus en plus difficile à contrer au fur et à mesure de la complexification des algorithmes.
On est en plein bavardage sur de l'imaginaire. Je crois que je ne vais pas tarder à fermer ce sujet.
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
ce serait dommage, alors qu' on n' a même pas déterminé si cette 'intelligence' serait uniquement virtuelle (implémentée dans un super-'ordinateur' ) ou incarnée dans un être autonome humanoîde, ou au contraire tout à fait exotique, ou encore intégrée dans un système réparti mais hautement interagissant avec les hommes (je penserais par exemple à un 'gouvernement' mondial -ou simplement à une super-banque 'intelligente' et qui parle...)
Je reformule: cette IA serait-elle conforme à l' approche 'animat'?
ou complètement désincarnée?
Dernière modification par Bounoume ; 23/05/2011 à 23h12. Motif: ?
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Et pourquoi on le déterminerait ? Qu'est ce qu'on pourrait en savoir ? S'avancer sur ce point serait de la science fiction.
On peut débattre du problème éthique que pose l'existence possible d'une telle IA. Sa nature quant à elle sera dépendante de l'évolution de la technologie.
mais on ne sait pas sous quelles conditions ils sont possibles : ils sont tous à base de proteines et d'ADN - qui sait si ils ne peuvent marcher "comme ça" que avec ces ingrédients ou non par exemple ?
ce n'est pas difficile de faire un constat d'existence de choses : par exemple il existe des planètes, des comètes, des étoiles fixes .. ce qui est difficile c'est d'établir les contraintes qui s'y appliquent - par exemple pourquoi y-a-t-il des mouvements rétrogrades et à quelle condition ? pour ça il faut une vraie théorie ...
ben, le vol des oiseaux est naturel... et pourtant spécifique aux oiseaux ! les insectes ou les avions n'ont pas le même. Je ne vois pas pourquoi le fait d'etre naturel n'entraine pas quand même certaines spécificités associées à la nature matérielle des choses. Apres, pour ce qui est d'imiter certaines caractéristiques avec une autre technique, c'est possible - mais on le fait déjà aussi avec l'IA. Ca n'implique pas du tout que tout ce qui est imaginable soit réalisable...Bien sûr, si on part de l'idée que les capacités cognitives humaines ne sont pas "naturelles" comme l'est le vol des oiseaux, qu'elles demandent "quelque chose" de non copiable, mon argument tombe.
Mais on pourrait rétorquer qu'on tombe là dans un autre fantasme, celui de la spécificité humaine...
c'est à peu près ça que je voulais direEn gros, chacun choisit son fantasme dans cette histoire.
Certes. Mais cela ne change rien au point.
Pour le vol du plus lourd que l'air, on ne savait pas en 1800 sous quelles conditions il était possible. L'existence des oiseaux rendait l'idée d'y arriver un jour plus crédible que d'aller sur la Lune.
Ce n'est pas cet aspect que je discutais, mais celui des types d'imaginaire. On peut affecter des probabilités différentes selon le cas.Ca n'implique pas du tout que tout ce qui est imaginable soit réalisable...
Imaginer ce qui n'existe sous aucune forme n'est pas la même chose qu'imaginer arriver à copier par des moyens techniques différents (non définis) une fonctionnalité qui existe.
Peut-être. Mais il manquait, à mon goût, une mention explicite du fantasme de supériorité de l'Homme, fantasme qui joue contre l'idée de l'IA, et qui n'a pas d'équivalent pour le vol du plus lourd que l'air ou tout autre fonctionnalité existante qu'on pourrait vouloir imiter.c'est à peu près ça que je voulais dire
C'est ce fantasme là, àmha, qui amène à rendre attractif l'argument de l'imaginaire "gratuit", à faire accepter la comparaison avec l'anti-gravité...
Dernière modification par Amanuensis ; 24/05/2011 à 04h17.
mais il est tout à fait possible d'atteindre des buts restreints, et on les atteint aussi avec des ordinateurs. Mais ça ne garantit en rien qu'on peut atteindre n'importe quel but, ni que n'importe quelle méthode puisse y arriver : quel a été le succès des tentatives d'essayer de voler comme les oiseaux en adaptant des ailes aux bras humains ? pourtant là aussi l'existence des oiseaux rendait cette solution envisageable.
mais mon point n'était pas de discuter ici si l'IA forte est possible ou pas, ce n'était pas la question initiale : c'est de savoir si on était "pour ou contre", ce qui suppose une estimation de ses conséquences, estimation qui n'est possible elle-même que si on savait quelles caractéristiques elle aurait. Et comme on ne le sait pas, il n'y a aucun moyen de donner des arguments scientifiques, on ne peut y répondre qu'en faisant des choix entre des fantasmes.
personnellement, ce n'est pas du tout l'argument de la supériorité de l'homme - je dirais exactement la même chose sur la reproduction des paramécies, qu'il n'est pas du tout évident qu'on puisse atteindre avec autre chose que de l'ADN et des proteines par exemple.... pourtant ça existe bien donc on pourrait imaginer le reproduire autrement ?Peut-être. Mais il manquait, à mon goût, une mention explicite du fantasme de supériorité de l'Homme, fantasme qui joue contre l'idée de l'IA, et qui n'a pas d'équivalent pour le vol du plus lourd que l'air ou tout autre fonctionnalité existante qu'on pourrait vouloir imiter.
Le mot "reproduire" est à géométrie variable, bien utile pour prendre des exemples à un extrême pour les appliquer à l'autre extrême.
Ce que je trouve pertinent sur le sujet, c'est la fonctionnalité. Les avions ne reproduisent pas le vol battu avec des muscles et la combustion à basse température du glucose. Ils reproduisent le vol, avec des moyens techniques différents.
Quand les gens imaginent l'IA comme étant possible, ils parlent d'une similarité du même genre. Sans nécessairement imaginer les détails de ces moyens techniques différents, pas plus qu'en 1800 ceux qui imaginaient le vol du plus lourd que l'air imaginaient le turbo-réacteur (mais certains avaient imaginé la voilure tournante, ce qui n'est pas copié sur les oiseaux ou les insectes-- sur les samares ?).
----
Le fond du problème est bien, quand même, s'il est possible de discuter l'IA sans que ce soit pollué par des fantasmes, que ce soit la peur d'une compétition, la croyance en une spécificité de l'homme (conscience, intelligence, etc) ou au contraire/pareil, la toute puissance technique de l'homme.
J'en doute très fort, et je n'ai pas rencontré grand monde avec lesquels on peut tenir une discussion sur le sujet sans tomber sur ces fantasmes, explicites ou cachés, ce qui amène à des échanges non constructifs, où tous les moyens rhétoriques sont bons pour "justifier" les croyances.
Oui, de méme que des fantasmes encore plus idiots : http://forums.futura-sciences.com/de...mpossible.html
heureusement certains sont fermés : http://forums.futura-sciences.com/de...targateoe.html
Bonjour,
Je suis contre, mais je me demande si c'est vraiment possible.
Mais si une IA performante pouvait aider pour des missions particulières pourquoi pas (sonde spatiale indépendante de la Terre, s'adaptant aux situations sans l'aide de l'Homme et gardant la mesure de rendre compte ensuite choissisant ces missions).
C'est vrai que l'IA est une part importante de la S.F. avec les androïdes.
Salutations.
Petite remarque à la sauce personnelle...
En fait on anticipe beaucoup en parlant d'intelligence artificielle. Pour notre époque, intelligence simulée serait plus approprié, mais ainsi en va l'usage.
C'est un peu la même histoire de vocabulaire que le fameux computer/ordinateur. Computer = "boulier" et ordinateur = "celui qui crée de l'ordre".
Artificiel n'est peut-être pas si mal trouvé puisqu'il peut aussi bien signifier "synthétique" que "simulé". A cette aulne, l'intelligence artificielle est bel et bien une réalité (intelligence simulée) autant qu'un concept ou fantasme en devenir (intelligence synthétique).
Le manque de précision du terme "artificiel" dans ce genre de discussion amène inexorablement à s'interroger sur la validité ou plutôt l'ambiguïté du ou des concept(s) que ce fourre-tout recouvre.
Il serait peut-être pertinent de substituer des termes plus précis non ambigus pour s'accorder sur ce qui les distinguent et ce qu'on analyse.
c'est précisément mon point : que à mon avis, ce n'est pas possible, par la nature même du problème posé, qui EST un fantasme. Ce qui ne signifie pas que c'est irréalisable, mais ce qui signifie que ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met - et pas par un résultat concret mesurable du genre "maintenir en l'air pendant des milliers de km quelque chose de plus lourd que l'air" : l'IA "forte" n'a en réalité aucune définition quantifiable de ce genre, elle n'est représentée que par le fantasme humanoïde que chacun y met à sa guise.
Ce n'est pas le mien.
Mon point est que c'est un problème bien posé, à l'instar du vol du plus lourd que l'air en 1800, mais que la psychologie humaine embrouille par des considérations non objectives, non scientifiques. Ce sont ces aspects psychologiques qui rendent les discussions impossibles. Et ce indépendamment du problème en lui-même.
Non. Pas "que". Trop, bien trop, ça oui. Trop pour qu'une discussion sur le sujet ne soit pas, presque toujours, dominée par des considérations parasites.Ce qui ne signifie pas que c'est irréalisable, mais ce qui signifie que ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met
Tu invoques les idées fantasmatiques comme étant le seul sujet, et en conclut à une sorte d'impasse. (Ce faisant, tu te mets d'ailleurs automatiquement dans une situation telle que ta position amène la discussion dans l'impasse même que ta position évoque...)
Je vois les idées fantasmatiques comme des idées parasites au sujet, à un point telle qu'elles le dominent le plus souvent, mais cela laisse néanmoins la possibilité, par un effort peut-être difficile, d'analyser ces fantasmes et de les mettre de côté pour arriver à discuter du sujet.
Dernière modification par Amanuensis ; 25/05/2011 à 03h42.
pour "bien poser" ma question, je précise que pour moi, une question bien posée devrait conduire à ce que les réponses soient unanimes sur le fait qu'on est arrivé, ou non, à résoudre le problème. Par exemple à la question de savoir si "on est arrivé à faire voler plusieurs milliers de km des objets plus lourds que l'air", il me semble que la réponse est universellement oui, sans aucune contestation possible. Quel résultat pourrait etre considéré comme montrant de façon non ambiguë qu'on est arrivé à l'IA forte, sans contestation possible ?
si tu as une réponse claire, ça permet de me contredire, donc je ne te mets pas "automatiquement" dans l'impasse, tu as potentiellement des réponses possibles pour en sortir .
C'est exactement le genre de sujet sur lequel il serait possible d'avoir une discussion constructive, exempte de pollution par des fantasmes. Par "constructive" j'entends une discussion exempte de rhétorique ayant pour but d'imposer un point de vue, chaque participant ayant pour but de construire en commun quelque chose de solide, et non de détruire le point de vue des autres.
J'ai déjà essayé... Quand je verrai un embryon de discussion clairement dans cet état d'esprit, je participerai peut-être en proposant des pistes pour répondre à la question.
En posant en préalable que "ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met", tu te disqualifies d'entrée, parce que tu poses un jugement sur le point de vue des autres.
Dernière modification par Amanuensis ; 25/05/2011 à 09h50.
Mal tourné, trop personnel, désolé. Remplacer par :
Toute personne qui admet comme préalable que "ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met", se disqualifie d'entrée, parce que cela consiste à poser un jugement sur le point de vue des autres qui peut être utilisé à tout moment pour le détruire.
je ne comprends pas très bien le sens de ta remarque à vrai dire;
tu veux dire qu'il est interdit de juger que la question de départ :
"La question du sujet pourra vous sembler un peu étrange, et je ne pense pas que beaucoup de chercheurs y ont vraiment réfléchi (en même temps rien ne presse) : est-ce que l'émergence d'une intelligence artificielle forte est-elle une bonne chose pour l'humanité ?"
n'a de sens que dans une image "fantasmée" de l'IA forte, puisqu'on n'a aucune définition précise au départ de ce que la personne entend au juste par "IA forte" ?
pourquoi est-ce interdit de le penser ?
est ce que tu penses qu'il est interdit aussi de juger qu'une question comme "est-ce que Dieu existe" n'a pas de sens réel, puisque l'objet n'existe qu'en tant qu'entité fantasmée, sans définition précise de ce qu'on entend par là ? penses tu aussi que toute personne émettant ce jugement se "disqualifie d'entrée", pour reprendre ton expression ? (ce qui reviendrait à dire que selon toi on est obligé de penser que cette question peut etre "bien posée" ?)