La vérité vrai sur les machines qui pensent

[invite499b16d5]

" Dans une cellule simple comme une bactérie - d'un millionième de millimètre de long - on compte 10 à 100 milliards de molécules d'eau (70% de la composition totale de la cellule), 100 millions à 1 milliard de molécules de taille moyenne représentant près de 500 espèces chimiques différentes (sucres, graisses, acides aminés, pigments, etc.), 5 000 à 10 000 espèces distinctes de molécules géantes de protéines et d'enzymes constituant une population d'environ 5 millions de molécules. Enfin une seule sorte de macromolécule contenant les informations nécessaires pour diriger la fabrication de toutes les autres : l'acide désoxyribonucléique ou ADN."

Ca fait déjà du monde...

Question: qui est né le premier? Les protéines, ou les segments d'ADN qui codent pour elles?
-----

[pi-r2]

N'est-ce pas et tout ça pour une malheureuse cellule comme nous en avons des millions de millions (10^12 de mémoire).
Réponse : ni l'un ni l'autre, la molécule candidate la plus probable étant l'ARN
Mais en soi la question n'a pas grande importance.

[invite499b16d5]

Si, parce que je voulais savoir s'il y avait besoin que toutes ces pièces existent déjà pour qu'une usine soit construite en vue de les fabriquer selon les besoins, ou si une usine s'était construite et avait inventé toutes ces pièces en fonctionnant. Je sais bien que l'ADN véhicule les plans de l'usine et qu'il n'y a besoin de rien d'autre, mais sait-on, quand ces plans se sont mis en place, si c'est le plan qui a tenu compte les matériaux ou les matériaux qui ont été produits par le plan?
(je sais, ma question n'est pas nette; l'oeuf et la poule, en quelque sorte)

[pi-r2]

Rien n'est certain sur le chemin que ça a pris pour en arriver à une cellule "moderne" fonctionnant comme on le sait. Mais l'ADN seul n'est rien, il faut qu'il soit dans la bonne conformation et avec les bonnes protéines pour que ça démarre...
Et le plan et l'usine se sont construits en même temps.

[invite499b16d5]

C'est ce que je pense aussi. Mais cela plaide dans le sens qu'une bonne partie de l' "intelligence" de tout ce design (pardon du méchant jeu de mots ) est déjà fortement enmagasinée dans les grosses molécules (dans leur géométrie, dans leurs propriétés... ces molécules sont peut-être déjà elles-mêmes un plan de quelque chose)

[invite499b16d5]

...l'affichage macro-visible des résultats gagnants du loto quantique, trouvés parmi des quintilliards juste avant la fatidique décohérence...

[GillesH38a]

(Et cette assertion sur les humains me semble correcte, tout à fait en ligne avec le nombrilisme usuel de l'espèce.)

ce n'est pas plus nombriliste de restreindre le concept de pensée à une certaine classe de phénomènes, que de restreindre le concept de machines à une certaine classe d'objets, en excluant les humains de la catégorie "machine" , il me semble? pourquoi dénier aux humains le droit d'etre appelés des machines ?

je ne pense pas qu'élargir une notion , dans le seul but d'y faire entrer des nouveaux objets, soit une nécessité. Quelques fois ça peut franchement être gênant : par exemple si tu affaiblis la notion de "scientifique" en admettant tous les systèmes utilisant des calculs, quel que soit leur pertinence, alors l'astrologie devient scientifique - ce n'est pas pris par hasard, les astrologues défendent cette position. Mais ce n'est pas quelque chose d'intéressant à faire il me semble - ça ne fait qu'affaiblir la notion initiale.

Pourquoi vouloir à tout pris étendre la notion de pensée à des activités qui ne représentent en réalité pas ce qu'on entendait par là au début , et qui sont spontanément exclues par le commun de mortels ? pourquoi est ce mal de vouloir garder le concept initial ?

[invite765732342432]

C'est sur , mais la pensée est acte humain (ou animal) , alors que les machines calculent (peut être intéressant de dissocier calcul/pensée) .

En fait, en disant cela, tu ne te places pas au même niveau:
il y a le niveau "simple":
- les humains font marcher leurs neurones
- les machines calculent
et le niveau "émergent":
- le fonctionnement des neurones donne naissance à une pensée
- les calculs de la machine donnent XXX

Je suis prêt à accepter de dire que XXX est suffisamment proche d'une pensée pour le qualifier de tel. Mais d'autres personnes, avec une autre conception de ce qu'est la pensée ont un autre avis.
Ni eux ni moi n'avons raison: tout dépend des définitions.

Ma "justification" réside essentiellement dans le fait que je considère que les animaux (mammifères/reptiles/oiseaux) pensent également et que je sais que des robots peuvent avoir un comportement aussi complexe que certains de ces animaux tout en ayant un algorithme "flexible" (c'est à dire pas codé en dur comme un logiciel classique).

[invite499b16d5]

Je m'excuse d'intervenir encore, mais j'aimerais bien comprendre en quoi l'existence d'une pensée consciente serait-elle lié à la complexité d'une tâche?
A ce qu'il me semble, le ver de terre (qui n'est même pas un reptile) est plus proche de savoir ce qu'il désire que le dernier robot (fort mignonne au demeurant!) de chez Honda.

[invite765732342432]

pensée consciente

Tu es le seul à avoir parlé de pensée consciente.

A ce qu'il me semble

... sans définition de pensée, sans moyen de la mesurer et en citant un robot qui n'est pas du tout spécialisé dans ce domaine ... ça fait beaucoup de manques.

[invite499b16d5]

Tu es le seul à avoir parlé de pensée consciente.

OK, alors tout s'explique, et je n'ai plus rien à redire.
Peut-être un tuyau pour une définition dans ce cas: tout processus, orienté ou non, qui permet d'arriver à un certain résultat?

[Rhedae]

Ni eux ni moi n'avons raison: tout dépend des définitions.

Ma "justification" réside essentiellement dans le fait que je considère que les animaux (mammifères/reptiles/oiseaux) pensent également et que je sais que des robots peuvent avoir un comportement aussi complexe que certains de ces animaux tout en ayant un algorithme "flexible" (c'est à dire pas codé en dur comme un logiciel classique).

En début de fil il était question de la définition de "pensée" du petit Robert (anthropomorphe). Mais nous parlons de cybernétique, donc déjà la question du topic induit en erreur . Cela n'aurait pas était le cas si le topic avait était:La vérité vrai sur les machines qui ont une conscience.

Amha

[invite73192618]

serais tu prêt à signer un papier par lequel tu t'engagerais à renoncer à ta retraite, mais à bénéficier gratuitement d'un robot intelligent quand tu y seras, dont tu pourrais toucher les bénéfices du travail ? moi pas. Et je pense personne de raisonnable. Ce qui veut dire en réalité qu'on ne croit qu'à ce qui coûte rien (ça ne coûte rien de dire " on peut pas l'exclure, c'est toujours possible"), mais on ne le croit plus quand ça commence à potentiellement coûter quelque chose - c'est ce que j'appelle une croyance faible.

Au rythme des réformes de la retraite, je commence à croire que ce ne serait pas un si mauvais pari pour ma génération. Blague à part, c'est une drôle de logique... serais-tu prêt à parier qu'il sera prouvé avant ta retraite que le cerveau humain n'est pas calculable? J'imagine que non, et pourtant je ne dirais pas que c'est une croyance faible.

Dans le même genre on pourrait parier que les pulsars monoénergétiques ont tous une énergie entre 10-100 GeV. J'imagine que tu en es assez convaincu, mais que tu n'accepterais pas de parier qu'une preuve en soit trouvée dans les 20 ans (disons 30 avec les réformes ).

"Ma théorie n'interdit pas que la balle de golf se déplace à 400000 km/s, mais comme je ne vois autour de moi aucun mobile qui se déplace à une vitesse proche de cette valeur, alors je considère que ce n'est pas possible jusqu'à ce qu'on arrive au moins à approcher cette vitesse."

Joli!

Mais en fait c'est une vision charitable. La situation est pire que cela. "Nos théories interdisent de dépasser c, mais l'esprit humain ne saurait être limité par ce genre de considération.".

le constat que nous faisons, c’est « l’être humain pense (avec son cerveau) » mais non pas « le cerveau humain pense ».

Comme le mentionnait mh34 juste avant, les locked-in sont quand même un assez bon exemple de cerveau humain qui pensent.

[invite73192618]

la question du topic induit en erreur . Cela n'aurait pas était le cas si le topic avait était:La vérité vrai sur les machines qui ont une conscience.

Tu as peut-être raison. Mais pour moi l'aspect conscience est le phénomène le plus intéressant dans la pensée humaine. Si on enlève cette notion, existe-t-il une controverse que les machines peuvent traiter de l'information dans tous les domaines sauf en ce qui a trait à la conscience?

Et inutile d'invoquer la mécanique quantique pour faire passer le message de la "magie" de la biologie, ça fait sourire les biologistes...

Cela dépend du niveau dont tu parles quand même. C'est maintenant clair que la photosynthèse utilise une version de la marche quantique pour améliorer l'absorption des photons. C'est clair aussi qu'on ne comprend pas très bien l'origine de la sélectivité ionique des canaux sur lesquels sont basés la communication électrique... probablement du quantique là-dedans. Par contre je suis d'accord que la décohérence rend complêtement improbable que des phénomènes typiques du monde quantique soit détectables. Mais de la à en rire...

l'ordinateur quantique est bien faisable.

Si la MQ est juste, oui. Mais c'est un argument pro-machine puisque la MQ est calculable. C'est seulement si la MQ est fausse que l'esprit humain pourrait être non calculable (c'est ce que défend Penrose en particulier).

[pi-r2]

C'est ce que je pense aussi. Mais cela plaide dans le sens qu'une bonne partie de l' "intelligence" de tout ce design (pardon du méchant jeu de mots ) est déjà fortement enmagasinée dans les grosses molécules (dans leur géométrie, dans leurs propriétés... ces molécules sont peut-être déjà elles-mêmes un plan de quelque chose)

C'est la même chose que de penser que toute ta descendance est déjà présente en toi. Ce problème est juste du au fait que tu n'acceptes pas l'idée que du simple puisse spontanément créer du complexe. Pourtant la physique nous fournit des exemples qui n'ont pas de connotation spirituelle. Le plan des atomes n'est pas contenu dans les nucléons et pourtant seuls quelques atomes sont stables.

[pi-r2]

Cela dépend du niveau dont tu parles quand même. C'est maintenant clair que la photosynthèse utilise une version de la marche quantique pour améliorer l'absorption des photons. C'est clair aussi qu'on ne comprend pas très bien l'origine de la sélectivité ionique des canaux sur lesquels sont basés la communication électrique... probablement du quantique là-dedans. Par contre je suis d'accord que la décohérence rend complêtement improbable que des phénomènes typiques du monde quantique soit détectables. Mais de la à en rire...

Encore une fois il faut faire la distinction entre avoir besoin de la MQ pour expliquer ce qui serait sinon un postulat et des implications directes de la mécanique quantique dans la conscience. Si je postule la sélectivité ionique telle que je la mesure, je n'ai pas besoin de la MQ et j'ai les même phénomènes.

[GillesH38a]

Au rythme des réformes de la retraite, je commence à croire que ce ne serait pas un si mauvais pari pour ma génération. Blague à part, c'est une drôle de logique... serais-tu prêt à parier qu'il sera prouvé avant ta retraite que le cerveau humain n'est pas calculable? J'imagine que non, et pourtant je ne dirais pas que c'est une croyance faible.

à mon avis, dès que tu auras un peu précisé ce que tu appelles "calculable", je peux te prouver dès maintenant que rien de physique n'est calculable, y compris le cerveau , donc oui, sans problème .

Dans le même genre on pourrait parier que les pulsars monoénergétiques ont tous une énergie entre 10-100 GeV. J'imagine que tu en es assez convaincu, mais que tu n'accepterais pas de parier qu'une preuve en soit trouvée dans les 20 ans (disons 30 avec les réformes ).

si je n'accepte pas de parier, je dois reconnaitre honnêtement que je n'en suis pas sûr, et c'est d'ailleurs le cas. Il y a eu suffisamment de surprises dans les découvertes astrophysiques des 30 dernières années pour qu'on ne court pas le risque de perdre sa retraite là dessus . Dans ce cas précis, il y a une nouvelle génération de Télescopes Tcherenkov a très haute énergie (CTA ) à moins de 10 ans, qui devrait etre assez sensible pour faire un survey systématique du ciel au TeV, ce qui n'a jamais été fait, il serait déraisonnable de parier sa retraite sur l'absence de surprise ...

On peut d'ailleurs quantifier plus finement sa croyance en laissant un choix plus large : quelle somme serais-tu prêt à donner chaque année, en échange de la promesse de bénéficier des revenus d'un robot intelligent dans 30 ans? ce n'est pas du tout une question esotérique, c'est en gros ce que se demanderait un investisseur si on lui demandait d'investir dans un projet de recherche, et c'est le cas des états qui financent les recherches dessus : le pourcentage du budget des états consacrés à soutenir les recherches sur l'IA est une mesure approximative de la rentabilité qu'ils en attendent. Quand on compare la rentabilité qu'aurait la réussite d'un robot réellement intelligent qu'on pourrait employer à plein de tâches, au pourcentage du budget qu'on consacre à ces programmes, on se dit que globalement, les financiers ne doivent pas y croire tellement non plus .

[mh34]

Alors justement, à propos de cerveau humain calculable, quelqu'un aurait-il la charité de m'expliquer ce que cela signifie?
Qu'on peut le mettre en équations?
Qu'on finira un jour par pouvoir "prédire" ( ok, le mot n'est sans doute pas le bon) toutes les actions d'une personne? Y compris ses actes "négatifs"? ( pas dans le sens moral, mais dans le sens où, ayant par exemple décidé de faire un truc, au dernier moment elle y renonce...)

[hlbnet]

J'ai l'impression que même si on fabriquait, à base de plastique, silicium, titane et autres, un robot humanoïde qui serait capable de se débrouiller dans la vie exactement comme un humain standard : avoir des relation sociales normales au boulot, dans ses loisirs, avoir des amis (voire même des partenaires sexuels), faire du sport ou du macramé, payer son loyer, créer son entreprise, etc ... je crois bien que certains continueraient à dire que cet humanoïde ne pense pas.

Il y a un blocage quelque part.

Comme, en plus, il n'y a aucune chance qu'on crée ce robot humanoïde un jour, car c'est un investissement non rentable et il y a bien mieux à faire pour le même prix ... cette discussion n'a donc aucune chance d'aboutir sur un compromis.

[invité576543]

Alors justement, à propos de cerveau humain calculable, quelqu'un aurait-il la charité de m'expliquer ce que cela signifie?
Qu'on peut le mettre en équations?

Non. Il y a des équations non calculables.

Qu'on finira un jour par pouvoir "prédire" ( ok, le mot n'est sans doute pas le bon) toutes les actions d'une personne?

Non, parce qu'il faudrait connaître tout ce qui influence les sens entre maintenant et le moment d'application de la prédiction, autrement dit calculer tout son environnement (ce qui de proche en proche inclut tout ce qui est à distance inférieure à cT au moment quand la prédiction est faite, T étant la durée entre le moment quand la prédiction est faite et le moment quand la prédiction s'applique).

cerveau humain calculable, quelqu'un aurait-il la charité de m'expliquer ce que cela signifie?

Qu'il existe un modèle parfait(1) du cerveau entrant dans la catégorie "machine de Turing". Une machine de Turing est un modèle, une idéalisation mathématique ; c'est une machine de traitement de l'information, recevant un flux d'informations discret (discret dans le temps : l'information arrive par paquet à intervalles réguliers ; et discret en valeur : chaque paquet est une valeur parmi un ensemble fini), ayant un état fini (il n'existe qu'un nombre fini d'états de la machine) et sortant un flux d'informations discret.

Un ordinateur est un exemple non pas de machine de Turing, mais de dispositif physique tel que le modéliser par une machine de Turing n'amène pas d'erreur en pratique.

Notons qu'on ne peut pas prédire le comportement futur d'un ordinateur sans connaître très précisément son flux d'entrée (clavier, réseau Internet, détecteurs internes de températures, etc.).

Cordialement,

(1) On pourrait affaiblir en "quasi-parfait" au sens où la différence de comportement entre l'objet modélisé et le modèle sont négligeables pour toutes application pratique, à l'instar du cas d'un ordinateur. Mais cet affaiblissement fait perdre une bonne part de l'intérêt philosophique de la notion, car il se pourrait que tout système physique soit "quasi-parfaitement modélisable par un modèle discret".

[Philou67]

Selon toi, Mmy, le cerveau humain est une machine discrète ou continue (en valeur et en temps) ?

[invite765732342432]

En relisant la définition Wikipedia d'une machine de Turing, je m'aperçoit qu'il est systématiquement fait mention d'un état final (ou plusieurs)
Je me demande donc si le modèle de la machine de Turing est applicable à un robot autonome: je ne vois pas quel état final on pourrait lui attribuer.

[invite499b16d5]

Salut,
il me semble que "calculable" se réfère à la possibilité qu'on a ou non d'écrire un algorithme logiciel permettant à partir des mêmes données initiales de trouver à coup sûr la même réponse.
En revanche, je ne vois pas bien pourquoi le quantique irait dans ce sens, car il y a les probablitiés, aussi bien dans la mesure des données de départ, que dans l'évolution ensuite.
Et enfin, je que je voulais dire avec l'ordinateur quantique, c'est que justement, les molécules vivantes, de par leur petite taille, pourraient servir de relais avec le monde quantique profond, à un niveau où la décohérence ne se manifeste pas encore, et leur permettant de faire calculer à l'avance l'intérêt potentiel de telle ou telle configuration.
Justement, j'ai une question précise à ce propos: les protéines sont évidemment fort nombreuses, mais j'imagine que leur nombre n'est rien en comparaison de ce qu'offre la combinatoire. Pourrait-il y avoir énormément plus de molécules stables que celles réellement observées? Et si oui, sait-on ce qui fait qu'on retrouve toujours les mêmes?

[ansset]

re bonjour dans cette discussion,
j'avoue que je ne comprend pas du tout l'analogie "quantique" dans cette discussion.
en revanche, je suis très curieux de savoir ou en sont les spécialistes de l'IA dans leur directions de recherche.
je sais qu'il y en a dans la salle !!
( je me suis bien amusé en lisp il y a qcq temps )

dit autremement, quelles sont les directions qui donnent qualitativement des resultats prometeurs.?
il a été evoqué il y a qcq temps l'aide au diagnostic dans le domaine médical par exemple.

[GillesH38a]

J'ai l'impression que même si on fabriquait, à base de plastique, silicium, titane et autres, un robot humanoïde qui serait capable de se débrouiller dans la vie exactement comme un humain standard : avoir des relation sociales normales au boulot, dans ses loisirs, avoir des amis (voire même des partenaires sexuels), faire du sport ou du macramé, payer son loyer, créer son entreprise, etc ... je crois bien que certains continueraient à dire que cet humanoïde ne pense pas.

ton assertion est à peu près du niveau de celle-ci : "j'ai l'impression que même si on arrivait à voir un père Noël volant dans un traineau tiré par des rennes et distribuant des cadeaux aux enfants , certains continueraient à dire qu'il n'existe pas. Il y a un blocage quelque part. "

ou bien de celle-là :

"j'ai l'impression que même si on arrivait à voir des extraterrestres sortant d'une soucoupe volante , certains continueraient à dire que les OVNIs ne sont pas des vaisseaux extraterrestres. Il y a un blocage quelque part".

ou tu peux aussi parles des fées, des loups-garous, des dieux de l'Olympe, etc, etc...


La situation que tu décris est juste une situation fantasmatique, au sens que sa réalisation n'est étayée par rien de concret, tout comme les autres que je cite. La seule chose que je dis, c'est que le fantasme d'un robot qui ferait tout comme un humain est, en comparaison de la réalité des ordinateurs que nous connaissons, juste ça : un fantasme.

[GillesH38a]

Qu'il existe un modèle parfait(1) du cerveau entrant dans la catégorie "machine de Turing".

j'ai déjà donné dans une discussion antérieure un exemple de contradiction logique avec cette exigence : dans les compétences qu'on attribue à un cerveau "en bon état", fonctionnant correctement, figure en particulier la représentation interne correcte de sa réalisation matérielle, c'est à dire qu'on attend par exemple d'un humain sain d'esprit qu'il sache qu'il est un humain , et pas un ordinateur en silicium.

Or un algorithme exécuté par une machine de Turing est justement indépendant de son support matériel, et on ne peut donc pas le juger sur le critère qu'il identifie correctement le support qui l'exécute, puisqu'il est indépendant de ce support.

Il est donc contradictoire d'imposer à un algorithme de reproduire correctement le fonctionnement du cerveau, en incluant sa propre perception qu'on est un humain, et pas une machine..... ce qui est un critère essentiel pour conclure qu'on se rend bien compte de la réalité, non ?

Cdt

Gilles

[Zozo_MP]

Bonjour

L'IA n'a rien à faire dans cette partie du forum.

D'autant que je me rappelle d'une discusion sans fin et totalement creuse sur l'IA en techno : fil que l'on a fermé bien sûr au bout d'une moment.

Cordialement

[GillesH38a]

pour préciser la conclusion : si un ordinateur exécutait un programme censé émuler un cerveau humain particulier ,et disait donc "je suis un humain comme vous", ce serait justement pris pour la preuve qu'il ne se rend absolument pas compte de la réalité ... et donc qu'il n'en est pas un.

[GillesH38a]

Non. Il y a des équations non calculables.

à mon avis, le problème commence avant la calculabilité : il apparait déjà par le fait qu'il est non descriptible en termes d'un nombre fini de paramètres. Avant de pouvoir être "calculé" et prédit, il faut déjà trouver une représentation discrète convenable du système. Un ordinateur est justement construit exprès pour que son état logique soit descriptible par un nombre fini de tensions et de magnétisations qui contiennent de façon absolument exhaustive toute l'information nécessaire à son évolution, au moins en principe. Il peut y avoir des "bugs", mais dans sa modélisation idéale, son état "utile" est entièrement décrit par ça. Ce n'est en rien la cas du cerveau, où il n'existe aucun niveau défini où une description discrète suffit, même "en principe", à spécifier son état, sans même parler de prédire son évolution.

[ansset]

L'IA n'a rien à faire dans cette partie du forum.

le titre du fil étant :
"la verité sur les machines qui pensent", j'avoue être surpris.
mais bon, dont acte, je n'ai absolument rien compris à ce fil et je sors.