Oui, mais personne ne met sur le même plan une plante et une pierre... donc il faut élaborer un peu là.Envoyé par Gilgamesh
La pierre, c'est le degré zéro de tout. La plante, je ne sais pas ce que c'est au niveau du ressenti, mais je sais au moins que c'est autre chose.
je ne pensais pas être si mal compris ... je disais que si c'est difficile pour certains de reconnaître au chien une conscience, ça l'est peut être autant de reconnaître un objet similaire bien que plus éloigné encore ?
Comment affirmer "ce que je ne sais pas encore reconnaître n'est pas" ?
Je préfère l'attitude qui est de construire un récipient pour les informations sur le sujet, jusqu'à atteindre un stade de savoir à capacité prédictive, ce qui donnera la confiance à la partie explicative ( du sous-récipient de l'information retenue par le modèle ). Le style narratif importe peu s'il est décodable.
Donc vous pensez que certains programmes informatiques puissent être différents d'une simple pierre, mais que nous ne savons pas les reconnaître ?
Je ne pense pas que votre remarque soit dénuée d'intérêt. Mais bon, c'est impossible à vérifier.
Vous ne pensez pas qu'on est loin du sujet du titre ?
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
Nous sommes bien d'accord sur ce point. Mais il faudrait ajouter "pour l'instant".
Voyez comme la notion de masse a évolué après la RR. Il ne viendrait à l'idée de personne d'utiliser 2 termes différents. Allez savoir comment on pourrait redéfinir la notion de conscience pour l'étendre à des hardwares animés par des logiciels. Je ne sais pas si c'est impossible.
Ce ne sont que des précautions à propos de tout ce qui est peu probable mais pas complètement impossible. On peut parler avec autant d'emphase d'un vulgaire ordi que de l'humain, certes avec une pincée de mauvaise foi ; mais à part envisager les possibles, il y a si peu à dire de l'inconnu.
Alors pourquoi d'abord, parce que c'est ce qui est en cause, en tout cas au départ. Alan Turing a imaginé ce test pour répondre à sa question existentielle : « une machine peut-elle penser ? ». C'était ça son but, et c'est ce que le test doit permettre de déterminer. Et comment, ben il propose de s'y prendre par me biais d'un échange de question et de réponse, ce qui permet de poser le problème sous une forme opérationnelle et de se donner un critère pour y répondre par Oui ou Non vu que la subjectivité est impartageable en tant que telle.
Et du point de vue de Turing (et c'est là le nœud du problème) ce test peut être passé par une machine programmable parce que le langage est un code (on se souvient que Turing s'est illustré comme "casseur de code") qui peut s'analyser logiquement. Il n'y a ensuite qu'un pas pour imaginer que la réponse adéquate à une question, telle que procède un humain, consiste en un autre type de codage en quelque sorte complémentaire du premier, la question et la réponse s’emboîtant pour former un édifice logique qui lui aussi est programmable.
Mais le simple fait que le test puisse être passé, en théorie, en utilisant la force brute prouve qu'il a mal cerné le problème de la conscience. On peut concevoir par la pensée une base de données de toutes les signatures vocales de toutes les conversations concevables dans toutes les langues avec des questions et des réponses humaines, et le test serait passé à la perfection alors que la machine ferait une simple requête dans une base de données, ou un enchaînement de if...then dans un algorithme monstrueusement développé. La machine n'aurait rien analysé, elle aurait simplement présenté mécaniquement une réponse enregistrée à une question donnée, dans un enchaînement donné. Une telle machine est irréalisable en pratique pour une conversation humaine. Mais on pourrait concevoir ce genre de résolution par la force brute pour un organisme dont les réponses présentent un niveau suffisamment petit de degrés de liberté (comme le fait de rentrer ses "yeux", ou de rentrer dans sa coquille pour un escargot). On n'aurait pas progressé d'un iota dans la compréhension et dans la création d'un organisme conscient. Et les tentatives actuelles de réaliser des "bots" pour chater avec des internautes dans ce sens ne progressent pas plus dans le sens de créer des machines qui pensent.
Le test de Turing repose sur un impensé, un point aveugle : entre manipuler des symboles et leur donner un sens, il y a un gouffre abyssal.
On pourrait comparer ça avec l'histoire du canard de Vaucanson (1738). Ici l'enjeu c'était de créer un organisme vivant, en mimant le phénomène de digestion. Ou avec ces automates élégants jouant du clavecin. Le propre du vivant, à l'époque c'était d'être animé. Animé c'est à dire de se mouvoir et d'agir sur le réel à l'aide de mécanismes internes. C'était cela initialement "avoir une âme". Dans l'idée de base, on avait une matière brute (la hylé d'Aristote), par exemple l'argile employée par le Créateur dans le Genèse, au sein de laquelle on insufflait un fluide (le souffle divin) qui provoquait les mouvements respiratoire et musculaire, et lui communiquait sa chaleur et toutes les autres propriétés du vivant.
Sans du tout se moquer, on voit bien avec le recul du temps qu'entre un automate du XVIIIe siècle et l'organisme vivant artificiel le plus simple concevable (par exemple un bactérie synthétique) il y a un gouffre, et pas simplement au plan technologique. C'est la notion même de "vivant" qui était naïve à l'extrême et qui a connu une révolution complète dans sa définition même. Passer d'un bloc brut enduit du fluide de l'âme (même bien décrit par l'anatomie) à un écosystème de cent milles milliards de cellules, dont chacune présente une complexité structurelle qui donne le vertige avec une activité métabolique impliquant chaque seconde des centaines de milliers de boucles cybernétiques qui chacune remplissent des mur d'équation, il a fallu une extension prodigieuse du savoir et il est évident, rétrospectivement, que créer un être vivant à l'aide d'un automate n'avait aucune chance de réussir.
Le test de Turing, et l'idée d'une conscience programmable par logiciel, c'est pour moi c'est un peu l’équivalent de ces automates du XVIIIe mais dans la recherche de la création d'une conscience artificielle.
En l'absence de dispositif précis à analyser, non on ne peut proposer a priori que l'intuition, comme criterium. Pour le coup, je pense que même si ça peut paraitre scandaleusement flou, ce sera certainement la tâche la moins ardue : reconnaître que l'organisme artificielle pense vraiment. C'est pour ça que je dis que le test de Turing, qui se repose sur l'intuition, est bien pensé en pratique. Sauf qu'il est évident de mon point de vue qu'on a aucune chance de créer d'abord une machine capable de comprendre un langage symbolique. C'est placer la barre ridiculement trop haut, pour commencer. De même qu'aujourd'hui, maintenant qu'on comprend dans ses fondement ce que c'est que la vie, quand il s'agit de la recréer artificiellement (et non simplement d'en imiter les manifestations, comme on recréer le vol des oiseaux), il est hors de question de commencer par un corps humain jouant du clavecin, ni même un canard, ni même un moucheron. Une bactérie pour commencer, et c'est déjà un gros challenge. Par analogie, j'imagine que le premier organisme artificiel munie d'une cognition devrait se situer au niveau de la tique ou de l'acarien.Même remarque que plus haut. Tu attribues une qualité "intérieure" mais dispose tu d'une méthode permettant de savoir si cette qualité est là ou pas ?
Autrement que "intuitivement"...
Dernière modification par Gilgamesh ; 15/06/2016 à 23h46.
Parcours Etranges
Bonsoir,
Pour illustrer ce point je prends toujours l'exemple "comment traduire en anglais la phrase "Chat est un mot de quatre lettres"" (*), à brule-pourpoint un être humain ne sait pas répondre à cette question, mais dans le contexte d'une conversation précise un être humain dépassera, sans même y réfléchir, le seul aspect syntaxique (symbole) et en analysant la sémantique (sens) il saura répondre très, très facilement.
Autre exemple : "Chat et Chien n'ont pas le même nombre lettres"
(*)J'aurais pu être encore plus vicieux et écrire "4 lettres"
Dernière modification par Médiat ; 15/06/2016 à 21h16.
Je suis Charlie.
J'affirme péremptoirement que toute affirmation péremptoire est fausse
Mais un tel niveau sera sans doute compliqué à déterminer. On sait qu'il existe pour ces bestioles puisqu'elles sont vivantes. La vie implique nécessairement une forme de cognition. Les plantes ont tout un tas de défense contre les prédateurs par exemple.
On peut aussi penser que le système immunitaire est déjà à lui tout seul une forme de cognition. D'ailleurs, il est toujours actif chez une personne en état de mot cérébrale.
De mon coté, je trouve que l'échange avec Gilgamesh a été très intéressant. Nos points de vue sont très différents sur de nombreux points et je ne vais pas forcément continuer à répondre mais uniquement parce que je pense que presque tout a été dit.
Je note juste que même si un certain nombre de ses objections seront peut-être un jour confirmées, je reste persuadé que nous sommes très loin aujourd'hui de pouvoir avec des certitude.
Et que donc, pour moi :
Mon désaccord n'est pas sur le fond, il est méthodologique (comme dit en boucle dans tous les sujets sur l'IA). Je refuse de mettre des barrières à ce qu'on pourra faire et aux moyens par lesquels on y arrivera tant qu'on n'a pas une preuve scientifique de la dite impossibilité (donc le flou est scandaleux).
Ce qui ne veut pas dire que je prétends savoir quelles voies seront des impasses et ce à quoi on aboutira.
J'ai également du mal à comprendre comment on peut prétendre distinguer quelque chose qui a toutes les caractéristiques de quelque chose du dit "quelque chose". Ceci dit, je comprends que c'est un vrai sujet auquel aucune réponse simple ne peut être donnée.
Mais à défaut de critère opérationnel et non intuitif, j'en reste aux méthodes éprouvées : https://fr.wikipedia.org/wiki/Test_du_canard
ça fait bien longtemps que l'IA n'utilise plus de simples requêtes dans des tables ... Sur des sujets spécifiques, tous les aspects de la compréhension humaine ( des noeuds dans un réseau de savoirs ) peuvent être maitrisés par les programmes. Donc, il y a le bios/kernel qui sait tout du "corps" et des programmes beaucoup plus évolués pour faire de petites choses. Peu importent le volume et la puissance, il y a des lois de Moore partout dans ces domaines. Un jour, il sera possible d'avoir des hardwares capables de supporter la charge de nouveaux millions d'agents des plus divers. Quand ? je n'en sais rien, s'il fallait parier je dirais dans 20 à 50 ans. Peut être 100, toujours à la louche, pour certains aspects et tous les nouveaux paradoxes à venir.
Je note en passant que pour programmer certains ordis, les humains ne sont plus performants. Nous devons faire appel à des logiciels de préparation de plus en plus sophistiqués pour corriger les erreurs et agréger des tâches de plus en plus complexes. Ce ne sont pas les mêmes qui les concoivent et ceux qui les utilisent. Alors que les ordis peuvent tous être au niveau de perf maximal si on le souhaite. Ceci dit, il ne faut rien conclure de ces données encore mal structurées et surement très incomplètes.
Pour être honnète, je dois dire que je vois là aussi des affirmations gratuites, du "gloubi-glouba" technophile qui ne permet de rien déduire en terme d'IA et qui ne répond absolument pas aux objections intéressantes faites plus haut par Gilgamesh par exemple.
Mais le test de turing n'est pas censé différencier la machine de l'homme. Il est censé déterminer si une machine n'agit plus par imitation.
Une machine consciente est toujours une machine.
rien n'est pire que la certitude de savoir ... moi, je me contente de dire que je ne sais pas et que les arguments avancés pour invalider la thèse de la conscience exclusive au bio sont légers. Le reste c'est de la dérision.
qui en douterait ?
Ah ben pour le coup, je pense qu'on en sait quand même assez pour délimiter le domaine d'étude, et en exclure ce qui n'est pas pertinent.
On peut sans problème inclure la conscience et la constitution d'un Soi dans l'immense ensemble des réponses adaptatives des organismes. Dont font partie les systèmes de défenses des plantes, les boucle de régulation hormonale (animale ou végétale), le système immunitaire, et l'homéostasie en générale.
Par contre confondre la réaction d'une plante dépourvue de système nerveux avec ce qui se passe dans le système nerveux central des animaux, ça ne fait qu'ajouter de la confusion à un problème déjà assez touffu.
Dernière modification par Gilgamesh ; 16/06/2016 à 15h29.
Parcours Etranges
On va juste répété ce qui a été dit...
Depuis la pascaline (1645) on sait fabriquer des artefacts qui manipulent les symboles plus rapidement et plus sûrement que ce dont sont capables les humains. De même que les avions à réaction volent bien plus vite et plus haut que les oiseaux.
La question n'est donc pas de savoir si une machine peut réaliser des tâches dont ne sont capables dans la Nature que les organismes munis de cerveau. La réponse est oui, y'a pas de soucis.
Mais réaliser une tâche dont est capable la conscience, ce n'est pas être conscient.
Dernière modification par Gilgamesh ; 16/06/2016 à 10h57.
Parcours Etranges
Tu pourrais être plus précis.
La question est de savoir si réaliser toutes les tâches dont est capable la conscience, c'est être conscient.
Sinon, comment distinguer ?
moi aussi : gare à ta crédibilité quand tu sors de ton domaine de compétence
Mais plus précisément ?
Je disais ça parce l'IA telle que nous le connaissons aujourd'hui était comparée à une bûche ou à une pierre. Or, une plante n'est pas une bûche et même une simple cellule. Comme je l'ai déjà dit, la pierre, c'est le degré zéro de tout.
c'est gentil , merci. Mais je ne pense pas que ce soit pertinent. Quand un machin agitera 86 milliards de processeurs unitaires et multiconnectés en réseau, je demanderai à vérifier s'il n'y a pas quelque chose de similaire à la conscience, en n'oubliant pas qu'on compare du bio et de l'électro et donc des hardwares différents. Comme je l'ai montré plus haut, il est déjà facile d'en rajouter.
Bon, il y a de la recherche dans le domaine. Pour une mise en bouche, commencez par la Recherche Special "Réalité" no 489 de Juillet Aout 14, la plupart des articles sont de haut niveau. Après, ce sera difficile d'en parler en termes de sciences humaines.
J'ai vraiment l'impression de lire le symétrique absolu des arguments "contre" : aucune référence directe au domaine, une référence en vulgarisation et pas pertinente qui relève plus de l'argument d'autorité...
Quand au "comme je j'ai montré plus haut", c'est un peu optimiste : tu as fait des affirmations, tu n'as rien montré.
De la même façon que beaucoup de gens partent d'un postulat négatif, tu affirmes à priori, sans preuve, sans références qu'il suffit de mettre de la puissance et de l'empiler pour progresser.
Tu parlais plus haut de la loi de Moore "partout dans le domaine" quand justement elle approche sans doute de sa fin (cf. http://www.nature.com/news/the-chips...-s-law-1.19338 par ex).
De plus, les chiffres que tu lances sont largement faux. On n'a pas besoin d'autant pour simuler des cerveaux. Tu peux voir par exemple : http://people.eecs.berkeley.edu/~dem...n_SC09-a63.pdf
Tu remarqueras qu'ils n'annoncent pourtant pas avoir résolu le problème de l'IA forte ou celui si cher à certains de la "conscience".
Quelle différence entre laisser passer ou bloquer un courant au niveau d'un transistor et, par exemple, réaliser un choc élastique ou laisser échapper un photon pour le même processeur ? En quoi le premier phénomène pourrait donner naissance à une conscience, et le second à l'évidence non ?
Parcours Etranges
Ta remarque est fondée. Du fait que nous ignorons comment on passe de la physique à la subjectivité, il est difficile de poser avec une assurance absolue où son les borne. Si la conscience prend naissance dans les phénomène électrique de membrane cellulaire, peut on imaginer une "sensation" à un niveau très affaiblie au sein d'une plante ? Je pense toutefois que non, et que Damasio a quand même apporté une pièce essentielle à l'édifice. Pour avoir une sensation, pour que ce concept acquiert un sens, il faut un Soi auquel rattacher la sensation. Pour éprouver quelque chose, il faut être quelqu'un. La constitution de ce quelqu'un, du sujet éprouvant des sensation, semble extrêmement complexe et implique un système nerveux central déjà assez étoffé. De combien ? Ça me semble encore impossible à dire. Est ce qu'une mouche éprouve des sensations et des émotions ? Damasio pense que oui, d'une certaine façon. Mais bref, dans cette hypothèse, ce genre de structure est complètement absent des plantes, elle n'ont aucun Soi constitué et sont donc incapables de ressentir sensations ou émotions.
Dernière modification par Gilgamesh ; 17/06/2016 à 09h14.
Parcours Etranges
Léonard de Vinci."La nature a ordonné que les êtres vivants doués de mouvements connaissent la douleur pour préserver leurs membres que le mouvement pourrait entamer ou blessé. Les êtres vivants privés de mouvement ne risquent pas de heurter d'objets susceptibles de leur nuire, la douleur n'est donc pas nécessaire aux plantes; et, par conséquent, quand on les coupe elles ne souffrent pas comme les animaux".
http://www.latheoriedelevolution.com...ladouleur.html
Une position plus moderne que celle, plus tard, de Descartes.
On notera toutefois que les plantes peuvent réagir de façon adaptée à certains stimuli externes, par exemple pour orienter leur croissance, et même communiquer entre elles, par exemple en émettant des phéromones quand elles sont agressées, ce qui a pour effet que leurs congénères sécrètent des substances protectrices.
//fr.wikipedia.org//#Phéromones_d'alarme
De là à parler de conscience, ou même d'émotions ...
Donc clairement non, dans l'optique selon laquelle je me place. On peut réaliser toutes les tâches dont est capable la conscience et ne pas être conscient, même pas un peu. La conscience, c'est ce qui rend possible de réaliser ces tâches. Mais ces tâches ne participent à la vie de la conscience que s'il existe l'instance du Soi auquel rapporter toute cette activité. Et la constitution du Soi, c'est un truc de plus bas niveau, dont le processus est totalement invisible à la conscience. La conscience est sans prise sur l'essentiel du processus qui la rend possible. Selon Damasio, le Soi naît d'un aller-retour permanent du corps au cerveau. Chaque partie du corps possède un corrélat cérébral, et c'est ce dialogue permanent qui nourrit et sélectionne les réseaux neuronaux concernés. Si par exemple le sujet est amputé d'un bras, les neurones du cortex moteur vont vivre encore un temps (Descarte en son temps avait déjà noté le phénomène des membres fantômes) mais en général on va voir la zone voisine sur le cortex progressivement s'étendre sur la zone devenu inutile. Il y a une forme de sélection naturelle neuronale, et le Soi apparait comme le résultat d'un long processus sélectif. Il se constitue dynamiquement, ce n'est pas une architecture figée. Et en un sens, on pourrait dire que le corps "nourrit" le cerveau et lui donne sa conformation via cette incessante connectivité senso-motrice.
Existe il une autre façon d'être conscient qu'en relation avec un corps ? C'est n'est pas impossible, et peut être que c'est ce que montrera une futur conscience artificielle. Mais en tout cas, il me parait quand même raisonnable de penser que c'est pas une architecture hasardeuse qui permet d'y arriver. Or de ce point de vue, les ordinateurs actuels ne sont absolument pas architecturé pour constituer un Soi. Leur architecture est totalement sous tendue par le but de réaliser des tâches précises.
Parcours Etranges
J'ai du mal à voir la pertinence de cet argument étant justement donné que le même genre de phénomène apparait dans de nombreux processus indépendants de la conscience et qu'on l'utilise notamment quand on fait des système à tolérance de panne.
Ce qui encore une fois me semble simpliste.
Et on peut aussi argumenter sur le fait que l'architecture des êtres vivants est également sous-tendue par la réalisation de tâches précises : se nourrir, se reproduire, échapper aux prédateurs...
D'une façon globale, je maintiens que les discussions sur l'IA où personne ne cite jamais le domaine et ne rebondit sur les citations du domaine, les articles relève de la discussion, stimulante parfois, stérile souvent mais pas de la science.
Oui, mais par voie logicielle. C'est là, à mon sens, le problème principal, qui rend àmha illusoire la possibilité d'une conscience artificielle en s'en tenant au genre d'architecture qui domine l'informatique actuel. Les composants des processeurs, le lieu même des échanges physiques (les courants électriques), réalisent un dialogue sous forme purement symbolique, c'est à dire selon un codage qui leur est complètement étranger, un truc qui leur passe complètement par dessus la tête si tu veux bien me passer l'expression.
Je vais employer un langage qui peut paraître bizarre mais je pense que la solution est dans cette direction : pour un neurone, être parcouru de potentiels d'action et réaliser des décharges de neurotransmetteur au niveau synaptique, c'est une question de vie ou de mort. C'est sa vie même. Il est très probable que la spécialisation du neurone soit l'évolution d'un processus initial de nutrition (endocytose / exocytose au niveau du bouton synaptique, avec intervention de protéine transmembranaires SNARE, qui sont lié à la nutrition initialement). Or voilà, le neurone décharge des potentiel d'action selon certains motifs, à plus ou moins haute fréquence, et bien sûr dès qu'il y a échange de ce qu'on identifie comme un signal on essaye de trouver le codage de ce signal. Les neurone "parleraient" les uns aux autres selon un certain langage. Mais ce faisant on fait selon moi une régression à l'infini de la notion de langage qui ne peut aboutir nulle part. Le symbole est une propriété émergente de très haut niveau, je pense que c'est ceci qu'il faut poser et ne pas faire fausse route en cherchant des langages de bas niveau. Il faut plutôt chercher un rapport de nutrition, un rapport existentiel, un rapport énergétique et physique entre les composants. Je ne sais pas exactement quoi, évidemment. Mais quelque chose qui soit de l'ordre de la nécessité physique au sein de l'échange. Un genre de relation comme celle régit par des équations Lotka-Volterra (équation différentielle proie - prédateur). Alors que le symbole représente un lien arbitraire entre signifiant et signifié. Le rapport entre les deux ne devient nécessaire qu'au sein d'un langage, ce qui nécessite une conscience. Poser un rapport symbolique aux origines même de la conscience, c'est instaurer un raisonnement circulaire.
Et donc pour en revenir au premier paragraphe, dans les échanges électriques entre tous les composants d'un processeur, il n'est question QUE de langage. C'est purement symbolique à sa racine même : 0,1. Et tant qu'il en sera ainsi, tant que "courant" voudra dire symboliquement "1" et "absence de courant" voudra dire symboliquement "0", le processus restera symbolique, il ne signifiera rien pour le composant lui même, ce ne sera pas son être même, dans la nécessité qui régit son état interne, qui sera en cause, et ça repoussera à des années-lumière toute possibilité de constituer un organisme physiquement sensible.
Dernière modification par Gilgamesh ; 17/06/2016 à 12h07.
Parcours Etranges
L'idée de Turing, explicité par Church, est que ce que peut faire un ordinateur ne dépend pas de son architecture particulière.
Ce n'est qu'une question de logiciel.
Toutefois, la question de l'architecture de la machine ou du programme peut jouer sur l'efficacité.
Ainsi, pour les réseaux de neurones, les réseaux convolutifs sont à la mode, et les GPU, processeurs conçus au départ pour le traitement d'image, sont assez efficaces pour les faire tourner.
Cependant, l'architecture du réseau de neurones d'un cerveau humain, ou même d'animaux plus simples est plus complexe.
Je comprends. Je ne vois pas comment tu fais la différence avec un neurone ou une cellule. (cf. plus bas)
Oui, ça me parait bizarre en effet. "Question de vie ou de mort" ou "vie même" me semble être des concepts de plus haut niveau, des qualités émergentes qui ne s'appliquent pas à l'échelon cellulaire.
Mais quelque chose qui soit de l'ordre de la nécessité physique au sein de l'échange. Un genre de relation comme celle régit par des équations Lotka-Volterra (équation différentielle proie - prédateur). Alors que le symbole représente un lien arbitraire entre signifiant et signifié. Le rapport entre les deux ne devient nécessaire qu'au sein d'un langage, ce qui nécessite une conscience. Poser un rapport symbolique aux origines même de la conscience, c'est instaurer un raisonnement circulaire.
Comment explique tu qu'on puisse dans certains cas remplacer une partie des connexions neuronales par des machines ?
Si on peut brancher une caméra sur le cerveau ou commander un membre en bluetooth, cela me semble un argument fort en faveur d'une vision largement plus "mécanique" des neurones.
