Pour ou Contre l'intelligence artificielle FORTE ?

[invite1445654e]

Si on lui inculque les fameuses lois d'Asimov , vu que nous sommes une espèce capable de nous détruire nous même , n'y aurait il pas un danger si elle décide de nous protéger de nous même eventuellement contre notre gré ?
-----

[invite231234]

Personnellement je ne pense pas que l'objectivité pure puisse aboutir à une intelligence ... il suffit de se rendre compte que le réalisme n'occupe qu'une très très petite partie de la science, c'est l'interrelation qui doit primer.

[invite1445654e]

Personnellement je ne pense pas que l'objectivité pure puisse aboutir à une intelligence ... il suffit de se rendre compte que le réalisme n'occupe qu'une très très petite partie de la science, c'est l'interrelation qui doit primer.

la science ok mais si on parle de science appliquée pourquoi on ne verrait pas dans quelques années des robots de compagnie

[JPL]

C'est ce dont rêvent les japonais, qui ont une curieuse relation avec les robots animalo- ou anthropomorphes.

[Deedee81]

Salut,

C'est ce dont rêvent les japonais, qui ont une curieuse relation avec les robots animalo- ou anthropomorphes.

tu m'as pris de vitesse.

J'allais cité le cas d'un robot (très personnage de dessin animé) qui est capable d'aider certains handicapés moteurs. Pour un usage hospitalier.

Lorsque je l'ai vu (documentaire) c'était au stade de recherche mais ça ne tardera pas à être utilisé, si ce n'est déjà fait. De là à avoir des robots de ce style à la maison, il n'y a qu'un pas.

Après tous ils sont déjà fous des robots chiens ou chats

Si on lui inculque les fameuses lois d'Asimov , vu que nous sommes une espèce capable de nous détruire nous même , n'y aurait il pas un danger si elle décide de nous protéger de nous même eventuellement contre notre gré ?

Toi, je parie que tu aimes bien Will Smith

[invite1445654e]

bah le jour où ta robote te dira tu n'a pas droit a ta bouteille de cidre et appellera le service de reconditionnement pas pour elle mais pour toi

[invite765732342432]

qui ont une curieuse relation avec les robots animalo- ou anthropomorphes.

Hummm... sont-ce eux qui ont une "curieuse" relation ou nous ?

[invite1445654e]

j'espère que c'est nous

[myoper]

Si on lui inculque les fameuses lois d'Asimov , ...

On aura introduit des contraintes qui limiteront la dite intelligence.

vu que nous sommes une espèce capable de nous détruire nous même , n'y aurait il pas un danger si elle décide de nous protéger de nous même eventuellement contre notre gré ?

Il suffit de finir le livre pour le savoir.

[inviteaf48d29f]

Il suffit de finir le livre pour le savoir.

Je rajouterais que s'il faut lire le livre pour le savoir, voir le film ne marche pas.

[Amanuensis]

mon sentiment(...) les questions sur l'IA sont justement en dehors de ce champ, puisqu'il n'existe aucune loi connue disant ce qui n'est pas possible ! (ce qui ne signifie nullment que tout est possible - ça signifie juste que c'est un espace ouvert à l'imagination, et c'est tout).

Il y a par contre un exemple connu montrant ce qui est possible : les cerveaux animaux.

Cela fait une différence notable avec les voyages sur la Lune, l'invisibilité ou la peinture anti-gravité. On pourrait choisir d'autres exemples (le choix des exemples est toujours orienté ), comme le vol de plus lourd que l'air ou la plongée sous-marine autonome.

Il y a quand même une différence nette entre l'imaginaire "libre" et l'idée de copier la nature...

Bien sûr, si on part de l'idée que les capacités cognitives humaines ne sont pas "naturelles" comme l'est le vol des oiseaux, qu'elles demandent "quelque chose" de non copiable, mon argument tombe.

Mais on pourrait rétorquer qu'on tombe là dans un autre fantasme, celui de la spécificité humaine...

En gros, chacun choisit son fantasme dans cette histoire.

[inviteccac9361]

Si on lui inculque les fameuses lois d'Asimov , ...

Pour ajouter à ce qui est dit ici :

On aura introduit des contraintes qui limiteront la dite intelligence.

Ls fameuses lois sont des principes.

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Or des principes necessitent des regles pour pouvoir être appliquées.
Et donc des données.

Or ces données, qu'elles soient un résultat ou une données en entrée,
ne sont pas mesurables.
Elles sont interpretables.
Un robot doit donc être capable d'une tres grande interpretation de ses données en entrée et du resultat.

"Ne peut porter atteinte à un être humain" est trop vague par exemple.

Donc d'un coté comme le dit Myoper, on réduit son "intelligence", pris dans le sens de ce qu'il est capable. Son faire savoir.
Sa force, sa vitesse, son expression de l'intelligence.

Et de l'autre on doit augmenter son "intelligence" interpretative, son savoir faire.

Il y aura des accidents ou gros enervements, c'est certain.
Un robot ne peut pas tout interpreter.
Ce ne sont donc pas les lois de la robotique qui sont exprimées ici, ce sont les lois de l'IA Robotique.

On peut imaginer que dans le futur, on puisse avoir un port-d'arme de categorie Robotique.
Un robot humanoide qui suit son maitre.
Un peu comme un permis de détention de chien de guarde et de defense Cat II.
Plus le port d'arme comme aux Etats-Unis.
Un mobile de legitime defense, et ma fois, ça me parait réaliste.

Une arme donc destinée à la légitime défense.
Mais ca demanderais un permi, une formation, comme pour tout véhicule ou engin dangereux.
"Con", mais efficace.

L'aspirateur "super intelligent" qui joue de la musique etc, on évitera de lui donner de la force.
C'est mieux, si il est en vente libre.

[Moinsdewatt]

De toute façons une telle IA sera susceptible de rencontrer des virus informatiques, qui seront de plus en plus difficile à contrer au fur et à mesure de la complexification des algorithmes.

[JPL]

On est en plein bavardage sur de l'imaginaire. Je crois que je ne vais pas tarder à fermer ce sujet.

[Bounoume]

ce serait dommage, alors qu' on n' a même pas déterminé si cette 'intelligence' serait uniquement virtuelle (implémentée dans un super-'ordinateur' ) ou incarnée dans un être autonome humanoîde, ou au contraire tout à fait exotique, ou encore intégrée dans un système réparti mais hautement interagissant avec les hommes (je penserais par exemple à un 'gouvernement' mondial -ou simplement à une super-banque 'intelligente' et qui parle...)

Je reformule: cette IA serait-elle conforme à l' approche 'animat'?
ou complètement désincarnée?

[inviteaf48d29f]

ce serait dommage, alors qu' on n' a même pas déterminé si cette 'intelligence' serait uniquement virtuelle (implémentée dans un super-'ordinateur' ) ou incarnée dans un être autonome humanoîde, ou au contraire tout à fait exotique, ...

Et pourquoi on le déterminerait ? Qu'est ce qu'on pourrait en savoir ? S'avancer sur ce point serait de la science fiction.

On peut débattre du problème éthique que pose l'existence possible d'une telle IA. Sa nature quant à elle sera dépendante de l'évolution de la technologie.

[invite8915d466]

Il y a par contre un exemple connu montrant ce qui est possible : les cerveaux animaux.

mais on ne sait pas sous quelles conditions ils sont possibles : ils sont tous à base de proteines et d'ADN - qui sait si ils ne peuvent marcher "comme ça" que avec ces ingrédients ou non par exemple ?

ce n'est pas difficile de faire un constat d'existence de choses : par exemple il existe des planètes, des comètes, des étoiles fixes .. ce qui est difficile c'est d'établir les contraintes qui s'y appliquent - par exemple pourquoi y-a-t-il des mouvements rétrogrades et à quelle condition ? pour ça il faut une vraie théorie ...

Bien sûr, si on part de l'idée que les capacités cognitives humaines ne sont pas "naturelles" comme l'est le vol des oiseaux, qu'elles demandent "quelque chose" de non copiable, mon argument tombe.

Mais on pourrait rétorquer qu'on tombe là dans un autre fantasme, celui de la spécificité humaine...

ben, le vol des oiseaux est naturel... et pourtant spécifique aux oiseaux ! les insectes ou les avions n'ont pas le même. Je ne vois pas pourquoi le fait d'etre naturel n'entraine pas quand même certaines spécificités associées à la nature matérielle des choses. Apres, pour ce qui est d'imiter certaines caractéristiques avec une autre technique, c'est possible - mais on le fait déjà aussi avec l'IA. Ca n'implique pas du tout que tout ce qui est imaginable soit réalisable...

En gros, chacun choisit son fantasme dans cette histoire.

c'est à peu près ça que je voulais dire

[Amanuensis]

mais on ne sait pas sous quelles conditions ils sont possibles

Certes. Mais cela ne change rien au point.

Pour le vol du plus lourd que l'air, on ne savait pas en 1800 sous quelles conditions il était possible. L'existence des oiseaux rendait l'idée d'y arriver un jour plus crédible que d'aller sur la Lune.

Ca n'implique pas du tout que tout ce qui est imaginable soit réalisable...

Ce n'est pas cet aspect que je discutais, mais celui des types d'imaginaire. On peut affecter des probabilités différentes selon le cas.

Imaginer ce qui n'existe sous aucune forme n'est pas la même chose qu'imaginer arriver à copier par des moyens techniques différents (non définis) une fonctionnalité qui existe.

c'est à peu près ça que je voulais dire

Peut-être. Mais il manquait, à mon goût, une mention explicite du fantasme de supériorité de l'Homme, fantasme qui joue contre l'idée de l'IA, et qui n'a pas d'équivalent pour le vol du plus lourd que l'air ou tout autre fonctionnalité existante qu'on pourrait vouloir imiter.

C'est ce fantasme là, àmha, qui amène à rendre attractif l'argument de l'imaginaire "gratuit", à faire accepter la comparaison avec l'anti-gravité...

[invite8915d466]

Certes. Mais cela ne change rien au point.

Pour le vol du plus lourd que l'air, on ne savait pas en 1800 sous quelles conditions il était possible. L'existence des oiseaux rendait l'idée d'y arriver un jour plus crédible que d'aller sur la Lune.

mais il est tout à fait possible d'atteindre des buts restreints, et on les atteint aussi avec des ordinateurs. Mais ça ne garantit en rien qu'on peut atteindre n'importe quel but, ni que n'importe quelle méthode puisse y arriver : quel a été le succès des tentatives d'essayer de voler comme les oiseaux en adaptant des ailes aux bras humains ? pourtant là aussi l'existence des oiseaux rendait cette solution envisageable.

mais mon point n'était pas de discuter ici si l'IA forte est possible ou pas, ce n'était pas la question initiale : c'est de savoir si on était "pour ou contre", ce qui suppose une estimation de ses conséquences, estimation qui n'est possible elle-même que si on savait quelles caractéristiques elle aurait. Et comme on ne le sait pas, il n'y a aucun moyen de donner des arguments scientifiques, on ne peut y répondre qu'en faisant des choix entre des fantasmes.

Peut-être. Mais il manquait, à mon goût, une mention explicite du fantasme de supériorité de l'Homme, fantasme qui joue contre l'idée de l'IA, et qui n'a pas d'équivalent pour le vol du plus lourd que l'air ou tout autre fonctionnalité existante qu'on pourrait vouloir imiter.

personnellement, ce n'est pas du tout l'argument de la supériorité de l'homme - je dirais exactement la même chose sur la reproduction des paramécies, qu'il n'est pas du tout évident qu'on puisse atteindre avec autre chose que de l'ADN et des proteines par exemple.... pourtant ça existe bien donc on pourrait imaginer le reproduire autrement ?

[Amanuensis]

pourtant ça existe bien donc on pourrait imaginer le reproduire autrement ?

Le mot "reproduire" est à géométrie variable, bien utile pour prendre des exemples à un extrême pour les appliquer à l'autre extrême.

Ce que je trouve pertinent sur le sujet, c'est la fonctionnalité. Les avions ne reproduisent pas le vol battu avec des muscles et la combustion à basse température du glucose. Ils reproduisent le vol, avec des moyens techniques différents.

Quand les gens imaginent l'IA comme étant possible, ils parlent d'une similarité du même genre. Sans nécessairement imaginer les détails de ces moyens techniques différents, pas plus qu'en 1800 ceux qui imaginaient le vol du plus lourd que l'air imaginaient le turbo-réacteur (mais certains avaient imaginé la voilure tournante, ce qui n'est pas copié sur les oiseaux ou les insectes-- sur les samares ?).

----

Le fond du problème est bien, quand même, s'il est possible de discuter l'IA sans que ce soit pollué par des fantasmes, que ce soit la peur d'une compétition, la croyance en une spécificité de l'homme (conscience, intelligence, etc) ou au contraire/pareil, la toute puissance technique de l'homme.

J'en doute très fort, et je n'ai pas rencontré grand monde avec lesquels on peut tenir une discussion sur le sujet sans tomber sur ces fantasmes, explicites ou cachés, ce qui amène à des échanges non constructifs, où tous les moyens rhétoriques sont bons pour "justifier" les croyances.

[Moinsdewatt]

On est en plein bavardage sur de l'imaginaire. Je crois que je ne vais pas tarder à fermer ce sujet.

Oui, de méme que des fantasmes encore plus idiots : http://forums.futura-sciences.com/de...mpossible.html

heureusement certains sont fermés : http://forums.futura-sciences.com/de...targateoe.html

[Dorand AR]

Bonjour,
Je suis contre, mais je me demande si c'est vraiment possible.
Mais si une IA performante pouvait aider pour des missions particulières pourquoi pas (sonde spatiale indépendante de la Terre, s'adaptant aux situations sans l'aide de l'Homme et gardant la mesure de rendre compte ensuite choissisant ces missions).
C'est vrai que l'IA est une part importante de la S.F. avec les androïdes.
Salutations.

[noir_ecaille]

Petite remarque à la sauce personnelle...


En fait on anticipe beaucoup en parlant d'intelligence artificielle. Pour notre époque, intelligence simulée serait plus approprié, mais ainsi en va l'usage.

C'est un peu la même histoire de vocabulaire que le fameux computer/ordinateur. Computer = "boulier" et ordinateur = "celui qui crée de l'ordre".

Artificiel n'est peut-être pas si mal trouvé puisqu'il peut aussi bien signifier "synthétique" que "simulé". A cette aulne, l'intelligence artificielle est bel et bien une réalité (intelligence simulée) autant qu'un concept ou fantasme en devenir (intelligence synthétique).

Le manque de précision du terme "artificiel" dans ce genre de discussion amène inexorablement à s'interroger sur la validité ou plutôt l'ambiguïté du ou des concept(s) que ce fourre-tout recouvre.

Il serait peut-être pertinent de substituer des termes plus précis non ambigus pour s'accorder sur ce qui les distinguent et ce qu'on analyse.

[invite8915d466]

----

Le fond du problème est bien, quand même, s'il est possible de discuter l'IA sans que ce soit pollué par des fantasmes...

c'est précisément mon point : que à mon avis, ce n'est pas possible, par la nature même du problème posé, qui EST un fantasme. Ce qui ne signifie pas que c'est irréalisable, mais ce qui signifie que ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met - et pas par un résultat concret mesurable du genre "maintenir en l'air pendant des milliers de km quelque chose de plus lourd que l'air" : l'IA "forte" n'a en réalité aucune définition quantifiable de ce genre, elle n'est représentée que par le fantasme humanoïde que chacun y met à sa guise.

[Amanuensis]

c'est précisément mon point : que à mon avis, ce n'est pas possible, par la nature même du problème posé, qui EST un fantasme.

Ce n'est pas le mien.

Mon point est que c'est un problème bien posé, à l'instar du vol du plus lourd que l'air en 1800, mais que la psychologie humaine embrouille par des considérations non objectives, non scientifiques. Ce sont ces aspects psychologiques qui rendent les discussions impossibles. Et ce indépendamment du problème en lui-même.

Ce qui ne signifie pas que c'est irréalisable, mais ce qui signifie que ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met

Non. Pas "que". Trop, bien trop, ça oui. Trop pour qu'une discussion sur le sujet ne soit pas, presque toujours, dominée par des considérations parasites.

Tu invoques les idées fantasmatiques comme étant le seul sujet, et en conclut à une sorte d'impasse. (Ce faisant, tu te mets d'ailleurs automatiquement dans une situation telle que ta position amène la discussion dans l'impasse même que ta position évoque...)

Je vois les idées fantasmatiques comme des idées parasites au sujet, à un point telle qu'elles le dominent le plus souvent, mais cela laisse néanmoins la possibilité, par un effort peut-être difficile, d'analyser ces fantasmes et de les mettre de côté pour arriver à discuter du sujet.

[invite8915d466]

Ce n'est pas le mien.

Mon point est que c'est un problème bien posé,

est ce que tu pourrais me donner une définition bien posée de "IA forte" alors, en expliquant en quoi les ordinateurs actuels y appartiennent - ou non ?

[invite8915d466]

pour "bien poser" ma question, je précise que pour moi, une question bien posée devrait conduire à ce que les réponses soient unanimes sur le fait qu'on est arrivé, ou non, à résoudre le problème. Par exemple à la question de savoir si "on est arrivé à faire voler plusieurs milliers de km des objets plus lourds que l'air", il me semble que la réponse est universellement oui, sans aucune contestation possible. Quel résultat pourrait etre considéré comme montrant de façon non ambiguë qu'on est arrivé à l'IA forte, sans contestation possible ?

si tu as une réponse claire, ça permet de me contredire, donc je ne te mets pas "automatiquement" dans l'impasse, tu as potentiellement des réponses possibles pour en sortir .

[Amanuensis]

Quel résultat pourrait etre considéré comme montrant de façon non ambiguë qu'on est arrivé à l'IA forte, sans contestation possible ?

C'est exactement le genre de sujet sur lequel il serait possible d'avoir une discussion constructive, exempte de pollution par des fantasmes. Par "constructive" j'entends une discussion exempte de rhétorique ayant pour but d'imposer un point de vue, chaque participant ayant pour but de construire en commun quelque chose de solide, et non de détruire le point de vue des autres.

J'ai déjà essayé... Quand je verrai un embryon de discussion clairement dans cet état d'esprit, je participerai peut-être en proposant des pistes pour répondre à la question.

En posant en préalable que "ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met", tu te disqualifies d'entrée, parce que tu poses un jugement sur le point de vue des autres.

[Amanuensis]

En posant en préalable que "ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met", tu te disqualifies d'entrée, parce que tu poses un jugement sur le point de vue des autres.

Mal tourné, trop personnel, désolé. Remplacer par :


Toute personne qui admet comme préalable que "ce dont on discute n'est défini que par l'idée fantasmatique qu'on y met", se disqualifie d'entrée, parce que cela consiste à poser un jugement sur le point de vue des autres qui peut être utilisé à tout moment pour le détruire.

[invite8915d466]

je ne comprends pas très bien le sens de ta remarque à vrai dire;

tu veux dire qu'il est interdit de juger que la question de départ :

"La question du sujet pourra vous sembler un peu étrange, et je ne pense pas que beaucoup de chercheurs y ont vraiment réfléchi (en même temps rien ne presse) : est-ce que l'émergence d'une intelligence artificielle forte est-elle une bonne chose pour l'humanité ?"

n'a de sens que dans une image "fantasmée" de l'IA forte, puisqu'on n'a aucune définition précise au départ de ce que la personne entend au juste par "IA forte" ?


pourquoi est-ce interdit de le penser ?

est ce que tu penses qu'il est interdit aussi de juger qu'une question comme "est-ce que Dieu existe" n'a pas de sens réel, puisque l'objet n'existe qu'en tant qu'entité fantasmée, sans définition précise de ce qu'on entend par là ? penses tu aussi que toute personne émettant ce jugement se "disqualifie d'entrée", pour reprendre ton expression ? (ce qui reviendrait à dire que selon toi on est obligé de penser que cette question peut etre "bien posée" ?)