4000ème recherche de l'âme humaine, ces chose qu'un ordinateur ne pourra "jamais partager" pour rassurer ceux qui ont peur de l'IA...
Au passage, il y a pas mal de recherche et des résultats intéressant sur l'envie justement (en robotique), les émotions, les comportements sociaux.
Extrapoler sur l'impossibilité en partant de recherche sur les jeux est assez peu pertinent.
je n'ai pas dit qu'il était impossible que tu puisses construire un robot qui ait un comportement que tu puisses interpréter comme une "envie", ou un "comportement social", j'ai dit que vu qu'un robot ne sera jamais doué d'une biologie humaine, ni d'un contexte familial et social humain, il est impossible d'attendre de lui qu'il se comporte comme un humain.
D'ailleurs ça n'aurait aucun intérêt ...la seule chose utile pour un robot, c'est d'accomplir spécifiquement une tâche mieux qu'un humain, et surtout pas qu'il ait envie de faire autre chose. Donc par définition, qu'il ne se comporte pas comme un humain.
en pratique , c'est l'inverse; ceux qui expriment une "peur" de l'IA, ce sont justement ceux qui extrapolent les performances sur les jeux en pensant que ça conduira prochainement à des IA fortes qui , bien sur , sont toujours fantasmées comme devenant hostiles, on a tous vu "terminator". Ce n'est pas mon cas, donc je n'ai pas "peur" de l'IA. On peut juste avoir peur des humains qui peuvent utiliser des IA "performantes" comme des drones tueurs, mais le problème ne vient pas de la machine, il vient de l'homme qui l'utiliserait à ses fins .Envoyé par pm42
Tu n'en sais absolument rien.
Tes affirmations ne sont que croyances personnelles, dans aucun argument à l'appui. Personne ne peut avoir de réponse sur la question de la possibilité d'imiter et de reproduire le fonctionnement cérébral ultérieurement.
Tu n'en sais rien, arrête de prendre ton point de vue pour une généralité.
Explique plutôt une fois pour toute la motivation qui t'amène à répéter toujours le même algorithme sur les topics traitant de l'IA.
ma remarque ne portait que sur ce qu'on faisait actuellement, c'est à dire construire des robots ou des programmes d'IA pour remplir une tache précise qui serve les humains, et on ne lui demande pas de chercher à faire autre chose. Et que ça n'a aucun intérêt de fabriquer d'autres humains, vu qu'on en a deja des milliards et qu'on ne sait meme pas quoi en faire pour la plupart. Du coup il n'y a rien d'inattendu à ce qu'ils ne se comportent pas comme des humains.
Par ailleurs, je ne pense pas que ce soit une "croyance personnelle" que de dire que la biologie humaine et le cerveau qui sert à la piloter ont été forgés par des centaines de millions d'année d'évolution, guidée par les contraintes essentielles de manger et de se reproduire, et que ce n'est nullement le cas d'aucune IA.
Ta remarque ne portait pas sur ce qu'on faisait actuellement, elle visait à officialiser une opinion personnelle.
C'est bien ce que tu as écris, et précisément, tu n'en sais rien, tu ne dispose pas des outils nécessaires pour objectiver tes spéculations en te faisant porte-parole de ce qui sera fait dans un siècle, trois, dix, mille.
Ce n'est pas une opinion scientifique, l'utilité n'est pas quelque chose de nécessaire en innovation. Ce n'est pas parce que quelque chose est inutile (de surcroît selon Archi3) qu'il n'est pas réalisable. De surcroît, le concept de singularité numérique qui traduit la prise de conscience d'une IA de son existence, et qui n'est pas d'actualité, n'inclus pas nécessairement la reproduction exacte de l'architecture cérébrale humaine.
C'est une croyance personnelle de stipuler que parce qu'un organisme est le fruit de millions/milliards d'années évolutives il ne sera pas imitable par la technique. Le progrès de la médecine qui ne cesse d’interagir, de modifier, et maintenant de remplacer artificiellement notre biologie est un exemple basique que ce que l'on croyait intouchable ne l'est pas du tout. Un exemple simple : la génétique
Dernière modification par Antropos ; 09/12/2017 à 13h42.
" L'essence de la technique n'est absolument rien de technique " M. Heidegger
c'est une opinion personnelle de dire que les robots n'ont pas une biologie humaine ?il y en a qui pensent le contraire ?
qu'est ce que tu veux dire par "imiter" au juste ? déjà une figurine de playmobil, ça "imite" un etre humain ! c'est pas impossible d'imiter, il n'y a même que ça qu'on peut faire...C'est une croyance personnelle de stipuler que parce qu'un organisme est le fruit de millions/milliards d'années évolutives il ne sera pas imitable par la technique. Le progrès de la médecine qui ne cesse d’interagir, de modifier, et maintenant de remplacer artificiellement notre biologie est un exemple basique que ce que l'on croyait intouchable ne l'est pas du tout. Un exemple simple : la génétique
Dans ce cas ta position est tres coherente*, mais je crois que tu seras d'accord que c'est plutot rare sur un forum generaliste. Habituellement les plus vocaux sur l'impossibilite a-b-s-o-l-u-e d'un AGI sont aussi ceux qui s'en inquietent le plus.
* excepte quand tu passes de ´les robots actuels n'ont pas une biologie humaine' à 'les robots ne peuvent avoir une biologie humaine'. Dans le premier cas il est evident tu fais reference aux machines artificielles actuelles, donc c'est trivialement vrai. Dans le second cas le terme est suffisament flou pour inclure des robots à biologie humaine, donc cela n'a rien de trivialement vrai. C'est ce jeu de confusion entre l'actuel et le general que te reproche Anthropos.
bah je ne pense pas qu'on appelle "robot" un truc qui marche à partir de chimie organique et de matière vivante : on appellerait plutot ça un OGM non ? c'est juste une question de vocabulaire ...
J'ai signalé ton commentaire en espérant qu'un modérateur aiguisé se rende compte du jeu cynique que tu entretiens sur à peu près tous les topics que tu commentes. Voilà en gros comment ça se présente.
Tu n'as jamais dit ça, c'est de cette manière que tu commences toujours tes sophismes. Tu as dit :c'est une opinion personnelle de dire que les robots n'ont pas une biologie humaine ?
Je le remet pour être certain.
Ce à quoi tu rétorques :
Tu fais donc exprès de faire semblant de ne pas comprendre la différence entre deux temps français.
Quand tu te rends compte que l'interlocuteur qui est sensé avoir lu ton message :
.. te répond :
Tu comprends à quel genre d'individu tu as affaire, quelqu'un qui feint de ne rien comprendre aux propos des autres, en n'apportant aucune source, et en relançant constamment des affirmations qui ont été déjà contredites maintes fois sur ce topic et sur d'autres topics.
Ce sera mon dernier poste avec toi avant de t'ignorer :
1/ Tu as très bien compris que je parlais de reproduire l'architecture nerveuse
2/ Tu fais semblant de ne pas comprendre que je ne parle pas et n'ai jamais parlé de ce que l'on fait actuellement, mais de ce qui se fera ultérieurement. Et ce qui sera fait ultérieurement échappe aussi bien à mon raisonnement qu'au tien.
" L'essence de la technique n'est absolument rien de technique " M. Heidegger
Si c'était juste une question de vocabulaire, alors tu ne devrais pas dire que les robots ne peuvent pas avoir une pensée humaine. Tu devrais dire que les robots peuvent avoir une pensée humaine, si et seulement si ils sont fait à partie de chimie organique et de matière vivante.
Cela reste une affirmation très forte, mais beaucoup plus claire et éventuellement plus constructive. Penses-tu pouvoir le prouver, ou est-ce que tu considères que c'est une question expérimentale?
Dernière modification par Jiav ; 09/12/2017 à 17h41.
Antropos ton agressivité méprisante est insupportable et il faut que les autres participants sachent que la modération ne la supportera plus.
Ceci étant précisé pour éviter les débordements ce message n’aborde pas absolument pas la question de la pertinence ou non des arguments des uns et des autres dans cette discussion. Je ne parle pas non plus de ton message qui a été supprimé même si je n’en pense pas moins.
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
Les attaques personnelles publiques contre le personnes sont inacceptables, qu’elles soient justifiées ou non.
Dernière modification par JPL ; 09/12/2017 à 18h56.
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
bon, après les affirmations grinçantes et malsonnantes.....
on s'en fout qu'une IA forte soit implémentée dans un tissu biologique ou non, que sa structure fonctionnelle soit une copie conforme en silicium de celle du mammifère homo sapiens (à part pour disposer du moyen de la tuer....)
ce qui compte, c'est l'impact que nous lui donnerons sur le réel , à partir de ce qu'elle sera capable de 'faire' ou 'faire faire',
cad son output:
sous forme d' information, conclusions, conseils etc... que les humains suivront, par paresse ... ou incompétence et incapacité d' en évaluer la portée et les conséquences
sous forme d'actions qu'elle commandera (à partir d'interfaces préalablement à elle attribuées par de humains
Même la conscience de soi n'est pas indispensable pour qu'un système devienne nocif. La voiture autonome de google pourrait envoyer un humain droit dans le précipice.
Si l'IA gère en temps réel la production d'énergie, ou à long terme la finance mondiale, et sans 'intention' aucune, ça peut coïncer.. autant que si c'est des bonshommes qui dirigent....
après, si il y a conscience de 'soi', le système pourrait agir de façon coordonnée en violation des consignes données, de façon que nous pourrions considérer comme 'intentionnelle'.
Même si nous n'avons pas accès à ses 'pensées' -mais personne ne peut déjà se vanter de lister de manière fidèle et exhaustive la pensée de son voisin: on ne lit pas dans un cerveau comme dans une bibliothèque!-
Pour le momentce n'est que de la SF! pourvu que ça dure......
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
je ne dirais pas cela non plus, les chats sont faits à partir de chimie organique et de matière vivante, et ils n'ont pas de pensée humaine.
Mais effectivement je ne pense pas qu'on puisse faire une structure logique qui émule un cerveau qui ne soit pas connectée à un organisme vivant, le cerveau ayant des tas de fonctions n'ayant pas pour but de jouer au go mais de réguler les différents mécanismes du corps humain (et étant aussi influencé par eux). Comment un cerveau qui n'est pas lié à un corps peut se rappeler l'effet que ça fait de boire un litre d'alcool et en parler ?
sur ce plan là :
Alphago ne "reproduit" pas l'architecture nerveuse humaine ; il obtient des résultats comparables, voire supérieure, pour des tâches très spécifiques, mais ne fait rien de tout le reste (même pas "imparfaitement" : rien du tout). Il reproduit l'architecture nerveuse autant qu'une voiture reproduit des jambes !
D'ailleurs, bien évidemment, si il avait reproduit l'architecture nerveuse humaine, il n'aurait jamais battu tous les grands maitres en jouant juste quelques jours contre lui même ...
Il n'a rien compris any more. No longer. At all. Ça devient impressionnant
En fait je n'ai jamais parlé d'AlphaGo, en revanche, j'ai saisis où tu voulais en venir avec ces deux derniers messages. Tu es maintenant définitivement ignoré, ce n'est plus la peine de me répondre.
Il s'agissait précisément de ce concept, dont je parlais https://fr.wikipedia.org/wiki/Singul..._technologique qui va effectivement au-delà d'une inclusion de fonctions biologiques primitives ou d'une simple prise de conscience de soi-même. C'est le projet des développeurs d'AlphaGo.bon, après les affirmations grinçantes et malsonnantes.....
on s'en fout qu'une IA forte soit implémentée dans un tissu biologique ou non, que sa structure fonctionnelle soit une copie conforme en silicium de celle du mammifère homo sapiens (à part pour disposer du moyen de la tuer....)
ce qui compte, c'est l'impact que nous lui donnerons sur le réel , à partir de ce qu'elle sera capable de 'faire' ou 'faire faire',
cad son output:
sous forme d' information, conclusions, conseils etc... que les humains suivront, par paresse ... ou incompétence et incapacité d' en évaluer la portée et les conséquences
sous forme d'actions qu'elle commandera (à partir d'interfaces préalablement à elle attribuées par de humains
Même la conscience de soi n'est pas indispensable pour qu'un système devienne nocif. La voiture autonome de google pourrait envoyer un humain droit dans le précipice.
Si l'IA gère en temps réel la production d'énergie, ou à long terme la finance mondiale, et sans 'intention' aucune, ça peut coïncer.. autant que si c'est des bonshommes qui dirigent....
après, si il y a conscience de 'soi', le système pourrait agir de façon coordonnée en violation des consignes données, de façon que nous pourrions considérer comme 'intentionnelle'.
Même si nous n'avons pas accès à ses 'pensées' -mais personne ne peut déjà se vanter de lister de manière fidèle et exhaustive la pensée de son voisin: on ne lit pas dans un cerveau comme dans une bibliothèque!
Pour le moment
Dernière modification par Antropos ; 10/12/2017 à 10h29.
" L'essence de la technique n'est absolument rien de technique " M. Heidegger
homo deus.........
maintenant une question triviale:
comment est-ce que les règles du jeu de GO ont été enseignées à AlphaGo?
-les règles très simples qui régissent les droits de chaque joueur de positionner la pierre (pas sur celle de l'adversaire!) puis de 'capturer' une chaîne
-le mode de calcul des 'points'?
-la 'motivation' de maximiser le score?
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
J'ai toujours trouvé bizarre d'ignorer dans un débat ceux qui ne sont pas d'accord avec vous, mais Antropos fait comme il veut. Je remarque que d'après le graphique montré dans la référence wikipedia qu'il cite, ça fait deja 4 ans qu'on aurait du avoir une émulation d'un cerveau humain. Comme disait B. Vian "y a quelque chose qui cloche là dedans ...".
http://www.jybaudot.fr/Maths/implication.html
Tes messages font penser à cela:
Code:Il est IMPOSSIBLE de dépasser 400 km/h avec un moteur à essence!!! En effet (...) Au fait est-ce que quelqu'un sait ce que sait, un piston?
Dernière modification par Jiav ; 10/12/2017 à 19h59.
on est bien d'accord sur le sens de "si et seulement si" ?
D'accord, je comprend mieux ta réponse. Considère les deux phrases suivantes:
1) Tu devrais dire que les robots *peuvent avoir* une pensée humaine, *si et seulement si* ils sont fait à partie de chimie organique et de matière vivante.
2) Tu devrais dire que les robots *ont* une pensée humaine, *si* ils sont fait à partie de chimie organique et de matière vivante *et que d'autres conditions sont remplies telles que, par exemple, ne pas être un chat*.
je dirais volontiers que les robots peuvent avoir une pensée humaine si et seulement si ils sont des hommes, puisque quand on a une pensée humaine, on pense qu'on est un homme, non ?
Ma fille est humaine meme si elle ne pense pas qu'elle est un homme. Mon fils reste humain meme quand il ne pense pas qu'il est un homme. Mon ordinateur de bureau ne serait pas humain meme si je le programmais pour qu'il le pense. Bref...
pardon, évidemment j'aurais du dire "humain" et non "homme". Sinon comment fais tu pour "programmer" ton ordinateur pour qu'il "pense" quoi que ce soit , au juste ?Ma fille est humaine meme si elle ne pense pas qu'elle est un homme. Mon fils reste humain meme quand il ne pense pas qu'il est un homme. Mon ordinateur de bureau ne serait pas humain meme si je le programmais pour qu'il le pense. Bref...
Excuses ma réponse antérieure, les fils se sont touchés et j'ai confondu un de tes messages avec un autre.
Les rêgles sont codées en dur. Spécifiquement Alphago zero comporte trois éléments:
1) un réseau de neurone de type ResNet (donc feedforward sans récurence), avec en entrée plusieurs tableau 19*19 qui représentent l'état du tableau de jeu au temps t, t-1, t-2, etc jusqu'à t-9 (de mémoire), et deux têtes de sortie qui indiquent soit la probabilité de jouer sur chaque case au prochain coup (policy network), soit la probabilité de gagner la partie à la fin (value network)
2) un moteur de recherche de type Monte-Carlo Tree Search, qui utilise les sorties du réseau pour sélectionner quel coup examiner (plus la valeure est grande selon le policy network, plus un coup a de chance d'être examiné en profondeur), et qui fait remonter les évaluations terminales (minimax des dernières valeures terminals connues selon le value network) à travers l'arbre des coups examinés pour procurer une meilleur évaluation de la valeur de chaque coup possible (et donc la probabilité de sélectionner chaque coup quand l'horloge dit qu'il faut se décider). C'est ce moteur qui gère l'essentiel des rêgles tout simplement en s'abstenant d'examiner les coups non valides. C'est lui également qui impose l'objectif de maximiser la probabilité de gagner sans tenir compte du score, en choisissant de ne faire remonter que la probabilité de gagner et non la marge en point.
3) un mécanisme de reinforcement learning, qui gère l'aternance entre des moments où le reseau joue contre lui-même et des moments où il 'fait le bilan' en utilisant les situations rencontrées pour faire un update du ResNet
AlphaZéro modifie le point 3 : "AlphaZero simply maintains a single neural network that is updated continually, rather than waiting for an iteration to complete."
C'est d'ailleurs assez impressionnant. C'était le mécanisme qui paraissait le plus "artificiel" dans AlphaGoZéro qui finalement est non simplement facultatif, mais même potentiellement réduit les perfs (En passant, AlphaZéro tourne sur 4 TPU versus 8 AlphaGoZéro et 24 pour AlphaGO).
Les entrées (l'échiquer) sont codées via des grilles spécifiques qui contiennent l'emplacement des pièces : 1 grille par type de pièce 1 : la case est occupé, 0 : elle est vide.
On rajoute des grilles spécifiques pour gérer les répétitions (donc 2x4 pour le Go par exemple).
De ce que j'ai compris des articles, ce n'est pas le moteur "alpha-beta" qui code les règles, mais des grilles spécifiques pour coder les règles. Pour le GO, c'est simple : une seule grille suffit. Pour les échecs (occidentaux et japonais) il y en a beaucoup plus (73 et 139). Ces grilles sont renseigné - à priori algorithmiquement - à partir des grilles d'entrées. Mais faire un petit moteur neuronal pour définir les coups valides de ces jeux est relativement trival.
bonjour,
est-ce qu'on peut appliquer cette méthodologie à autre chose qu'à des jeux comme le go ou les échecs? est-ce que par exemple alphaGo peut apprendre à résoudre des problèmes mathématiques? (dans lesquels on n'a pas d'adversaire mais quand-même une notion de succès/échec et des règles de logique).
en gros est-ce que ce programme va nous mettre au chômage?
Salut,
C'est amusant. Je m'étais justement posé la question dans le calcul symbolique (par exemple le calcul des intégrales indéfinies. Il y a d'ailleurs déjà de bons programmes IA) ou les démonstrations automatiques.
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
