faut-il avoir peur des robots

[photon57]

Puisqu’on est dans la SF, voir 2001 Odyssée de l'espace.

Un petite digression SFesque ... voir Destination Vide de Herbert
Une expérience de recherche d'une conscience artificielle tourne mal; la chose créé ne devient réellement consciente que lorsqu'on essaye de l'arrêter définitivement. Elle prend conscience d'elle uniquement lorsqu'elle comprend qu'elle peut mourir ...

[Wart]

Le problème n'est pas la. C'est comme si tu me disais, un homme qui se reproduit n'a aucune chance de devenir intelligent, ce n'est pas notre capacité à se preproduire qui fait que nous sommes intelligents. Mais notre capacité à apprendre, comprendre de nos erreurs, transmettre notre savoir de génération en génération. Le point "dangereux" ce n'est pas la réplication mais l'apprentisage.

L'homme est déjà issue d'une lignée de 3.5 milliards d'années d'êtres vivants qui se répliquent. Toutes ses capacités lui viennent de là. (Voir la biologie évolutive) Si on veut repartir de zéro depuis cette méthode (from scratch comme disent les anglophones) ça en prendra aussi beaucoup de temps (un peu moins certes parce qu'on a plus ou moins idée de ce qu'est un bon environnement pour sélectionner des capacités d’intelligence)

C'est bien ce que je pensais : tu sous estime sa capacité à comprendre des questions et à trouver la réponse exacte. Dans ce cas, j'ai hate qu'on remplace Google par Watson parce que j'en ai marre de parcourir des dizaines de pages de résultats sans jamais trouver de réponses des fois

Cela existe déjà des moteurs de recherche en langage naturel (True Knowledge par exemple). Google travaille dessus (et a déjà intégré en partie dans Google certaines trouvailles). De même Microsoft avait racheté Powerset, mais je ne sais pas trop ce que le pauvre est devenu dans Bing. Bref Watson n'est pas une révolution dans la recherche d'informations, mais une étape supplémentaire.

1/ Tu afirmes des choses dont on ne sait rien. IBM ne s'est surement pas arreté après avoir battu des deux champions. Entre temps il a appris à faire des diagnostics médicaux. Qu'est que ces "parents" lui apprendront bientot : peut-etre l'ironie, les metaphores, les jeux de mots, et puis la physique nucleaire, les relations homme femme, la psychologie ... c'est sans limite j'ai l'impression :/

Je sais assez bien ce qu'est la structure du langage et qu'elles sont les difficultés à l'interpréter. Les métaphores ne s'apprennent pas, ou plus précisément ce n'est pas en apprenant une liste de métaphores que je suis capable d’interpréter une métaphore inconnue. Or tout notre langage courant est métaphorique.

Je vais te donner quelques exemples tirés d'un des meilleurs articles en français sur le sujet Ressemblance et communication (de Deirdre Wilson et Dan Sperber) :

Dans un train vous engagez la conversation avec votre voisine. Tout en la félicitant de son excellent français, vous lui demandez quelle est sa nationalité. Elle vous répond :
Je suis italienne

Or Gina, bien qu'elle réside à Milan, est en fait citoyenne de Saint-Marin, minuscule pays formellement indépendant enclavé dans l'Italie. Sa réponse est donc littéralement fausse, mais dans ces circonstances, elle constitue un à-peu-près tout à fait acceptable.

Le train s'arrête en gare de Dijon et Gina vous demande quelle distance vous sépare encore de Paris. Vous répondez :

300 kilomètres

Encore un énoncé littéralement faux. [...]

Nos conversations regorgent d'énoncés littéralement faux mais à peu-près acceptable dans le contexte. Or un ordinateur fonctionnant sur le principe de Watson interprétera ces énoncés comme faux et c'est tout. Il est incapable de calculer leur pertinence contextuelle. L'ironie est un cas particulier de ces énoncés littéralement faux, où l'on ne croit pas ce que l'on dire littéralement. Or tout ces implicites et ces sous-entendus (qui passent en partie par du langage non verbal mais pas seulement, cf l'exemple du train) sont très difficiles à formaliser. Bien plus que la physique nucléaire qui est déjà formalisée. Un dernier exemple pour la route (repris de la page Wikipédia Implicature conversationnelle) :

– Vas-tu à la fête ce soir?
– Non, je travaille.

Le second énoncé n'est pas logiquement contradictoire avec le premier si on ne dispose pas de tout en tas de prémisses (tels que "on ne travaille pas à une fête")

2/ Tu figes ton regard sur un ordinateur que tu ne connaissais même pas il y 3 jours. Pensent à tous ceux qui sortiront dans les années à venir.

D'une, j'avais déjà entendu parler de Watson même si je ne m'étais pas donné la peine de me renseigner sur lui, le classant dans la catégorie "Super Google". De deux, l'argument "regardez ce que l'on fait aujourd'hui, imaginez ce que l'on fera demain !" a été utilisé depuis le début de l'IA, dès les années 1950 les scientifiques américains avaient fait financé par le Congrès un programme de plusieurs milliards dans le but d'avoir un ordinateur soutenant une conversation en... 1980. On sait ce qu'il en fut. Je suis bien prêt à croire qu'un jour une intelligence artificielle forte apparaître, mais quand ? 2030, 2070, 2160, 2280, 2300 ?

Du hors charte ... j'ai l'impression que dès qu'un argument dérange, il est hors charte. C'est facile. Je pense qu'à la vue des liens que j'ai proposé dans ce post, cette reflexion est loin d'etre hors charte.

Bof, ce forum entier est toujours à la limite du hors-charte

[Wart]

Cette question me semble remettre en cause ton affirmation :
> Even a broken one of these on your wall is right twice a day :
Réponse par Watson : Clock

Je pense que Watson en comprend beaucoup que ce tu penses

Il n'y a aucune métaphore ni approximation dans la question. Il est rigoureusement exact qu'une horloge soit à l'heure deux fois par jour. Par ailleurs, c'est une question assez courante - il n'est pas étonnant que Watson ai indexé cette propriété des horloges dans sa base de données. Ce qui serait déjà plus surprenant c'est que Watson répondent aux question du père Fouras. Et même là, ce serait encore pas grand chose face au défi de pouvoir tenir une conversation courante. Il y a un véritable fossé entre ces deux problèmes, mais je ne doute pas qu'il puisse être franchi.

Watson peut impressionné parce qu'il est capable de faire ce que ne peut faire aucun humain (répondre rapidement à n'importe quelle question de connaissance), mais à ce titre là une calculatrice est aussi impressionnante.

[mh34]

Donc pour toi un IA ne peut être effectivement créé qu'à la condition qu'elle soit incarnée dans un corps physique capable de se mouvoir et d' interagir avec l'environement réel ?

Ca dépend de ce que vous en attendez. Si c'est pour résoudre des problèmes "techniques" "intellectuels purs", ça suffit. Si on veut qu'elle résolve des problèmes "humains" ( i.e du ressort des sciences sociales, neuropsy, médicaux) , c'est indispensable et ce ne sera sans aucun doute pas suffisant.

[Wart]

Donc pour toi un IA ne peut être effectivement créé qu'à la condition qu'elle soit incarnée dans un corps physique capable de se mouvoir et d' interagir avec l'environement réel ?

ça dépend ce que l'on appelle IA et ce qu'on lui met comme problème.

On peut toujours (théoriquement) écrire un programme très long qui spécifiera tout les paramètres de l'environnement (numérique ou physique) dans lequel "vivra" l'IA et lui permettra d'y résoudre les problèmes propre à cet environnement.

On peut aussi écrire un programme beaucoup plus court qui va apprendre les spécificités de l'environnement en interagissant avec (au risque qu'il se plante, "pète les plombs" comme l'a dit plus haut JackCore). C'est le pari de la robotique cognitive/incarnée (lancée par Rodney Brooks).

La différence importante n'est pas monde numérique vs monde physique mais monde prédéfinie vs monde construit.

Un article qui explique cela (dans une vision générale de ce qu'est la cognition) :
http://www.larecherche.fr/content/ac...ticle?id=18406

Un des promoteurs de la robotique incarnée est Rodney Brooks, le directeur du Laboratoire d'intelligence artificielle du Massachusetts Institute of Technology (MIT). Voici une dizaine d'années, il a lancé une espèce de déclaration de guerre en affirmant qu'on ne réussirait à faire des robots vraiment autonomes que s'ils étaient incarnés dans un contexte matériel, situés dans un monde sensible. Et il ne s'agit pas d'un monde défini par une liste de propriétés, comme on le fait habituellement dans les simulations informatiques. [...] Si j'arrive à construire une machine qui ne sait rien a priori de son environnement, mais qui est dotée d'une boucle sensori-motrice efficace, que fera-t-elle ? Elle se baladera partout, comme un bon cafard, et testera sa boucle de réaction/ action, jusqu'à la rendre tellement robuste que, après de multiples générations, elle se débrouillera dans n'importe quel environnement.

[photon57]

Ca dépend de ce que vous en attendez. Si c'est pour résoudre des problèmes "techniques" "intellectuels purs", ça suffit. Si on veut qu'elle résolve des problèmes "humains" ( i.e du ressort des sciences sociales, neuropsy, médicaux) , c'est indispensable et ce ne sera sans aucun doute pas suffisant.

ça dépend ce que l'on appelle IA et ce qu'on lui met comme problème.

On peut toujours (théoriquement) écrire un programme très long qui spécifiera tout les paramètres de l'environnement (numérique ou physique) dans lequel "vivra" l'IA et lui permettra d'y résoudre les problèmes propre à cet environnement.

On peut aussi écrire un programme beaucoup plus court qui va apprendre les spécificités de l'environnement en interagissant avec (au risque qu'il se plante, "pète les plombs" comme l'a dit plus haut JackCore). C'est le pari de la robotique cognitive/incarnée (lancée par Rodney Brooks).

La différence importante n'est pas monde numérique vs monde physique mais monde prédéfinie vs monde construit.

Un article qui explique cela (dans une vision générale de ce qu'est la cognition) :
http://www.larecherche.fr/content/ac...ticle?id=18406

Car tant qu'à avoir peur des robots autant les tester dans des sandbox type simulation mode réel, les débrancher est facile. À votre avis que pourrait signifier pouvoir non seulement fabriquer facilement un corps de robot et lui installer à volonter un conscience dans son cerveau à partir de backups sélectionnés ?

[Xoxopixo]

On peut toujours (théoriquement) écrire un programme très long qui spécifiera tout les paramètres de l'environnement (numérique ou physique) dans lequel "vivra" l'IA et lui permettra d'y résoudre les problèmes propre à cet environnement.

Pas tout à fait,
même en admettant que l'on puisse reproduire de manière synthétique un environnement physique complexe.
L'environnement ne peut pas comprendre d'élements "intelligents", on ne les a pas, c'est justement l'élément que l'on cherche à produire...

Dans l'environnement de cette IA, on ne pourra pas y inclure d'êtres humains ou des animaux, qui pensent, communiquent, interagissent.
La seule solution, pour avoir un environnement de selection/apprentissage, semble être de placer l'IA dans un contexte réel, ce qui ne permet pas d'accelerer le processus de selection.
Le processus peut être long, surtout si on n'a qu'une seule IA...

Si de plus dans cet environnement il s'agit de placer des machines, évoluées de nos jours, diverses, en perpetuel changement, tout ceci me parait surréaliste.

[Wart]

même en admettant que l'on puisse reproduire de manière synthétique un environnement physique complexe.

On peut, on le fait.

L'environnement ne peut pas comprendre d'élements "intelligents", on ne les a pas, c'est justement l'élément que l'on cherche à produire...

Très bon point. Je n'y avais pas pensé. Raison de plus pour laquelle cette méthode est voué à l’échec.

Dans l'environnement de cette IA, on ne pourra pas y inclure d'êtres humains ou des animaux, qui pensent, communiquent, interagissent.

On peut néanmoins y placer d'autres IA similaires à elles, elles peuvent alors coévoluer chacune étant une contrainte sélective pour les autres. (Il faudrait un exemple précis pour le montrer, mais la théorie des jeux évolutionnaires me semble pouvoir modéliser tout ça)

La seule solution, pour avoir un environnement de selection/apprentissage, semble être de placer l'IA dans un contexte réel, ce qui ne permet pas d'accelerer le processus de selection. Le processus peut être long, surtout si on n'a qu'une seule IA...

Processus long ? Tout dépend à quelle échelle de temps on se place. Il faut bien des années pour que le développement intellectuel de l'homme atteigne son terme (le cerveau continue à avoir de profondes restructurations lors de l'adolescence !)

Par ailleurs, je ne pense pas que la variable temps soit intrinsèquement importante. L'importance c'est la richesse de l'environnement, sa stabilité, la progressivité de la difficulté des tâches. Tout cela va impacter la durée de l'apprentissage. Là encore il faudrait un exemple précis pour bien montrer cela.

Si de plus dans cet environnement il s'agit de placer des machines, évoluées de nos jours, diverses, en perpetuel changement, tout ceci me parait surréaliste.

Cela se fait pourtant. On appelle cela des animats. Je connais trop mal le sujet pour en parler sans dire de conneries. En te renseignant un peu, tu verras que l'on met ensemble des robots (ou des programmes informatiques dans des environnements virtuels) avec des règles d’interaction simples (communication/règles physiques) et ils réussissent à inventer de nouvelles règles et remplissent ainsi la tâche assignée en coopérant (tâche qu'ils ne peuvent réaliser seuls).

[Xoxopixo]

avec des règles d’interaction simples

Simples, non réalistes.
Donc actuellement, on ne simule pas les environnements complexes.

[Wart]

Simples, non réalistes.
Donc actuellement, on ne simule pas les environnements complexes.

Il y a une suite à ce bout de phrase...

La méthode repose sur la capacité des IA à réviser leurs règles et à en adjoindre des nouvelles. Au cours du temps, elles construisent un monde suffisamment riche pour résoudre le problème posé. C'est tout ce que l'on veut. Et cela se révèle bien plus efficace qu'une méthode où l'on cherche à définir a priori quelle description est nécessaire pour réaliser une tâche.

[Xoxopixo]

même en admettant que l'on puisse reproduire de manière synthétique un environnement physique complexe.

On peut, on le fait.

On le fait, mais de manière très simplifé.
Par exemple si je prend une feuille de papier, et j'en fait une boule, sans trop serrer. Voila un objet réel.

Ces petits détails ne peuvent pas tous être simulés en même temps, en temps réel, et encore moins en accéléré, du moins pas actuellement.
Même chose avec un tissu tres souple que je pose en tas.
Une IA ne peut que rester "dubitative" devant ce genre d'objet, or ne pas simuler ces cas spéciaux ne pemettra pas à l'IA d'en faire l'experience.

On ne simule pas ce genre d'objets dans une simulation globale, actuellement.
Ce sont pourtant des objets basiques de tous les jours.

L'IA va-t-elle "ouvrir de grand yeux" la première fois qu'on lui presentera un objet réel ?

Si on doit simuler tous les objets complexes de l'environnement.
L'IA saurait-elle les gérer s'ils n'ont pas été inclus dans la simuation ?
Sinon, l'IA sera probablement très fort en calcul mental, mais aussi performant qu'un insecte dans un environnement complexe...

L'environnement humain est bien plus complexe qu'il n'y parait.
Il faut sortir des clichés.
Un exemple parmi des millions.
Sur ma table, j'ai un tapis de souris, posé de telle sorte qu'un portion se trouve dans le vide.
Est-ce que je peux poser ma souris sur cette portion ?
Par experience, je sais que oui, pour CE tapis de souris, pas un autre.
Comment simuler cette réalité ?

Doit-on simuler tous les tapis lorsque l'IA en prend connaissance et peut les manipuler ?
Je ne pense pas que ce soit réaliste.

Même en pensant que l'IA soit capable de généraliser, il lui faut un environnement REEL à un moment ou un autre.
Qu'on ne sait pas simuler dans le détail.
Actuellement.

[Wart]

On le fait, mais de manière très simplifé.
Par exemple si je prend une feuille de papier, et j'en fait une boule, sans trop serrer. Voila un objet réel.

Ces petits détails ne peuvent pas tous être simulés en même temps, en temps réel, et encore moins en accéléré, du moins pas actuellement.
Même chose avec un tissu tres souple que je pose en tas.
Une IA ne peut que rester "dubitative" devant ce genre d'objet, or ne pas simuler ces cas spéciaux ne pemettra pas à l'IA d'en faire l'experience.

On ne simule pas ce genre d'objets dans une simulation globale, actuellement.
Ce sont pourtant des objets basiques de tous les jours.

[...]

Ah, nous ne parlons peut-être pas de la même chose.

Je te parle d'IA incarné, qui sont des robots bien réels confrontés à des objets comme des boules de papier. Elles réussissent à accomplir des tâches dans ce monde réel "complexe", c'est bien que leur simulation (au sens de leur représentation) du monde est suffisamment riche.

Effectivement un environnement purement numérique a des limites de réalisme (ne serait-ce que du fait de la limite de puissance de calcul pour générer cet environnement numérique). Mais certains chercheurs (utilisant des algorithmes génétiques) transposent des programmes ayant évoluer dans des environnements numériques dans des robots évoluant dans des environnements réels. C'est d'ailleurs l'idéal, faire le début de l'évolution en simulation et mettre les dernières générations d'algo sur des robots réels. En effet les solutions initiales sont potentiellement dangereux pour la survie du robot (mieux vaut donc les simuler plutôt que de réellement perdre une armée de robots dans une sélection artificielle !).

En bref, mon propos c'est que la différence majeure ne se situe pas entre simulation numérique vs monde réel mais entre manières de programmer (programmation évolutionniste (avec ou sans réseaux de neurones) vs programmation déterministe)

[Xoxopixo]

Effectivement un environnement purement numérique a des limites de réalisme (ne serait-ce que du fait de la limite de puissance de calcul pour générer cet environnement numérique). Mais certains chercheurs (utilisant des algorithmes génétiques) transposent des programmes ayant évoluer dans des environnements numériques dans des robots évoluant dans des environnements réels. C'est d'ailleurs l'idéal, faire le début de l'évolution en simulation et mettre les dernières générations d'algo sur des robots réels. En effet les solutions initiales sont potentiellement dangereux pour la survie du robot (mieux vaut donc les simuler plutôt que de réellement perdre une armée de robots dans une sélection artificielle !).

Tout à fait, la complexité du monde réel dépasse nos capacités de simulations.
Pour prendre un autre exemple, les ondes sonores parcourant les materiaux complexes sont difficlement simulables.
Inutile donc de pourvoir le robot d'une oreille physique aussi complexe que celle d'un être humain si la simulation est grossière.

Concernant l'interet de faire une simulation pour ensuite placer le robot dans un environnement réel, l'interet est évident.
Mais comme je tenais à le préciser, je pense que cette methode a ses limites.

Elles réussissent à accomplir des tâches dans ce monde réel "complexe", c'est bien que leur simulation (au sens de leur représentation) du monde est suffisamment riche.

Si elles réussisent, c'est simplement que l'environnement reel de test est choisi selon LA tâche selectionnée dans le monde virtuel.
Et effectivement ça fonctionne dans des conditions bien particulières.
On a des exemples, comme des robots equilibristes etc.

De fil en aiguille, on se rend compte que le seul moyen d'obtenir une IA qui puisse s'adpater à un environnement complexe, consiste à reproduire une structure qui apprend.
Finalement, on en revient à imiter le cerveau.

A partir de ce moment là, on peut se poser la question de savoir si ce type de structure, le cerveau, ne possède pas par lui-même une limite.
L'IA superbement évolué, qui devrait finalement posseder un organe fonctionnant sur le modele structurel du cerveau, ne pourrait n'être qu'un mythe.
L'IA perdrait peut-être la faculté à être un supercalculateur, au profit d'une plus grand adaptation à son environnement.

Un point que l'on néglige, c'est l'adéquation des organes sensoriels avec la structure cérébrale.
Pourquoi l'être humain ne voit-il pas dans une gamme de longueurs d'ondes plus large par exemple, serait-ce un avantage ou un inconvenient ?

Dernier point; on pourrait penser étendre à volonté la taille d'une structure cérébrale artificielle.
Or un cerveau est une entité physique, quelles sont ses limites liées à l'espace ?
La communication inter-zones d'une structure cérébrale peut-elle se faire sur des distances plus longues sans alterer le fonctionnement même de celui-ci ?
Quel est l'effet de ce delai lié au positionnement dans l'espace entre zones communicantes ?
Quel que soit le type de signal, puisque le delai serait proportionnel à la distance, indépendement de celui-ci.

[photon57]

Diffusé sur Arte ce vendredi ...

Un robot - un remède contre la démence ?

UN WEBDOC SUR LA DÉMENCE : EN LIGNE À PARTIR DU 16 SEPTEMBRE

Les "robots thérapeutiques" peuvent-ils révolutionner les soins apportés aux personnes démentes ?


C'est un ordinateur complexe logé dans un adorable petit phoque en peluche : le robot Paro, mis au point au Japon, est employé dans certaines cliniques et centres de soins européens. En stimulant la communication avec le patient, il propose une approche nouvelle et non médicamenteuse du traitement de la démence. Au centre de soins de Brême, où l'on teste ce robot, mais aussi en France, au Danemark et au Japon, Annette Wagner a suivi des patients, leur famille et le personnel soignant. Elle interroge des experts internationaux sur les enjeux scientifiques et éthiques de cette méthode. Quels sont les résultats de cette surprenante technique thérapeutique ? Ces robots peuvent-ils réussir là où échouent les médicaments, et parvenir à freiner le développement des maladies mentales ou du moins à soulager leurs symptômes ?

[RobTaku]

Bonsoir, selon moi nous n'avons pas à craindre la robotique, tout simplement car chaque décision est codée et programmée, compte tenu qu'un robot est ni plus ni moins un "software sur pattes".
Alors bien entendu, selon le travail réalisé, certains robots sauront juste dire "Hello World" tandis que d'autres traduiront 90 langues simultanément, certains robots pourront préparer un hot dog et d'autres des plats dignes de Bocuse, mais ce qu'il faudrait pour qu'un robot soit néfaste pour l'Homme, ce serait une faculté de réflexion, de conscience, un peu comme le robot "Joshua" dans War Games (bon film d'ailleurs), et tout ça sous-entend des notions de bien et de mal : il faut que le robot apprenne de lui-même à chaque action qu'il réalise, en ayant conscience que ce qu'il a fait était une bonne chose ou non... Pour moi c'est pas pour demain.