La vérité vrai sur les machines qui pensent

[Philou67]

Un peu de sérénité dans les débats serait de mise, de même que les attaques personnelles dans la remise.
Philou67 pour la modération.
-----

[invite499b16d5]

disons de les programmer le moins possible. Il faut accélérer le processus si on veut avoir une chance de le voir aboutir

Et comment fait-on? On s'arrange pour qu'elles aient une période de gestation de 10 nanosecondes?
Admettons qu'on veuille faire exécuter tous les programmes possibles à des machines pour voir si certaines survivent et s'organisent pour survivre de mieux en mieux. Ou bien il faudrait bien plus de temps que l'âge de l'univers, ou bien il faudrait faire travailler tant de processeurs en parallèle que l'énergie de l'univers n'y suffirait pas.
Ou bien il faudrait des processeurs quantiques, et c'est peut-être bien ce que les êtres vivants sont...

[invité576543]

certes mais je ne pense pas que personne n'ait dit ça (pas moi en tout cas) . J'ai dit "il ne me semble pas possible que des ordinateurs construits comme des machines de Turing par des humains arrivent à reproduire une pensée suffisamment proche d'eux pour qu'ils l'appellent comme ça" .

Pareil. C'est une assertion sur les humains, sur ce que les humains appellent comme ci ou comme ça.

Dans d'autres discussions il a été clair que "suffisamment proche" pouvait tout à fait correspondre à une quasi identité physiologique (y compris l'ontogénèse).

Comment quelque chose qui voit dans l'infra-rouge pourrait-elle penser comme nous ? Comment quelque chose sans pulsion sexuelle pourrait-elle penser comme nous ? Etc. La liste est longue, très très longue.

(Et cette assertion sur les humains me semble correcte, tout à fait en ligne avec le nombrilisme usuel de l'espèce.)

[pi-r2]

inutile de passer au mode ironique. Au risque de me répéter "générer tous les programmes possibles" c'est une démonstration mathématique de l'existence d'une solution, pas forcément le moyen pratique d'y parvenir. Il n'est pas interdit à l'expérimentateur-chercheur en IA de tricher en aidant les machines. Le seul point sur lequel j'attire l'attention c'est que jusqu'à présent nous avons tenté de programmer en contrôlant beaucoup , alors que si on veut obtenir des comportements qui se rapprochent de l'intelligence il faut moins contrôler. Il n'y a pas d'intelligence sans liberté (et ça aussi c'est tautologique).
Et inutile d'invoquer la mécanique quantique pour faire passer le message de la "magie" de la biologie, ça fait sourire les biologistes...

[invite765732342432]

Admettons qu'on veuille faire exécuter tous les programmes possibles à des machines pour voir si certaines survivent et s'organisent pour survivre de mieux en mieux. Ou bien il faudrait bien plus de temps que l'âge de l'univers, ou bien il faudrait faire travailler tant de processeurs en parallèle que l'énergie de l'univers n'y suffirait pas.

Argument classique des créationnistes à l'encontre de la théorie de l'évolution: "si on plaçait des millions de singes devant une machine à écrire, quelle chance que l'un d'entre eux écrive la Bible".
Argument oubliant bien sur qu'il est très facile, par un processus de sélection, d'élagueur très largement le spectre de programmes à tester (mais évidemment de manière imparfaite, ce qui est d'ailleurs préférable)

Un jeu assez amusant où on voit apparaître rapidement des formes de vie imprévues: http://nicolab.chez.com/corewar/cw_index.htm
Lors de parties de CoreWar, il n'est pas rare que le gagnant ne soit aucun des programmes participants.
On observe ici rapidement une évolution ainsi qu'une sélection des programmes vers une "volonté de vivre" parfois plus efficace que ce qu'on a programmé nous même.

Le niveau de complexité est évidemment sans rapport avec la robotique... mais c'est un indice.

[invite499b16d5]

Il n'y a pas d'intelligence sans liberté (et ça aussi c'est tautologique).

Tout à fait d'accord. Mais il s'agit ici de programmer des machines en leur imposant d'être libres... il y a quelque chose qui m'échappe...

Et inutile d'invoquer la mécanique quantique pour faire passer le message de la "magie" de la biologie, ça fait sourire les biologistes...

Si ça les fait sourire, ce serait bien qu'ils nous disent pourquoi. Parce qu'il n'y en a pas besoin? Rasoir d'Occam?
En tout cas, l'ordinateur quantique est bien faisable. Et il semble aussi que toute molécule, avant d'entreprendre sa fabuleuse ascension jusqu'aux "formes de vie évoluées", commence par faire ses petites affaires dans un bain quantique. Ou alors je suis mal informé.

[invite499b16d5]

Argument classique des créationnistes à l'encontre de la théorie de l'évolution

Pas de souci, je ne suis pas créationniste!

Argument oubliant bien sur qu'il est très facile, par un processus de sélection, d'élagueur très largement le spectre de programmes à tester (mais évidemment de manière imparfaite, ce qui est d'ailleurs préférable)

Je demande à voir. Il y a la force des nombres. Même en "élaguant très largement" 10^99 possibilités, il risque d'en rester 10^90 à la sortie.

[invite765732342432]

Je demande à voir. Il y a la force des nombres. Même en "élaguant très largement" 10^99 possibilités, il risque d'en rester 10^90 à la sortie.

10^90 ? Trop petit...

Chiffres tirés de différents sites:
- il y a 2.10^116 parties d'échecs possibles
- le jeu de Go, plus complexe que les échecs, avec plus de 10^600 possibilités de jeu
Et pourtant il est possible de faire des algos apprenant "seuls" à jouer à ces jeux, et en des temps tout à fait humains

[pi-r2]

il y a quelque chose qui m'échappe....

On avait remarqué, il faut apprendre à penser autrement, comme un sculpteur plutôt que comme un peintre.
La liberté n'est pas imposée, elle existe par défaut et on la détruit en programmant de manière trop rigide.

Et il semble aussi que toute molécule, avant d'entreprendre sa fabuleuse ascension jusqu'aux "formes de vie évoluées", commence par faire ses petites affaires dans un bain quantique. Ou alors je suis mal informé.

Parce qu'à l'échelle de la biochimie, les phénomènes purement quantiques sont rares et qu'on est plutôt dans le domaine des probabilités usuelles et des grands nombres. Tout s'explique sans avoir besoin de la mécanique quantique (celle ci ne sert qu'à comprendre les propriétés chimiques qui sinon sont simplement postulées, constatées).
Et c'est encore plus vrai à l'échelle cellulaire.

[invite499b16d5]

La liberté n'est pas imposée, elle existe par défaut et on la détruit en programmant de manière trop rigide.

Sans aucun espoir je convaincre, je persiste: si la liberté en question existe par défaut, alors n'est pas possible de concevoir une machine en bénéficiant pleinement. Comme je l'ai dit, il suffit de prendre un atome (et d'ailleurs à quoi bon même le "prendre"?) et de le laisser se débrouiller tout seul.
Alors on arrive à la vie, oui. Mais on n'a pas pondu la moindre machine!
Comment insuffler le moindre "engineering" dans un atome? Par où y faire entrer la volonté du concepteur afin qu'en quelques dizaines ou centaines de millions d'années, il produise des choses capables de s'auto-répliquer sur toute une planète?

Et donc...

Tout s'explique sans avoir besoin de la mécanique quantique (celle ci ne sert qu'à comprendre les propriétés chimiques qui sinon sont simplement postulées, constatées).

Qu'elles soient déduites ou postulées ne change rien à ce qui se passe réellement. Et réellement, elles sont ce qu'elles sont parce qu'elles sont d'origine quantique, avec tout le mystère qui entoure encore ce monde.
En variante du rasoir d'Occam, on pourrait se demander (et je me le demande) à quoi pourrait bien servir un monde (quantique) aussi étrange si tout ce qu'on observe peut si bien s'expliquer sans lui. C'est un peu comme si on disait que toute la puissance de l'ordinateur s'explique par les tôles du boîtier et dans le souffle du ventilo...

[Rhedae]

- il y a 2.10^116 parties d'échecs possibles
- le jeu de Go, plus complexe que les échecs, avec plus de 10^600 possibilités de jeu
Et pourtant il est possible de faire des algos apprenant "seuls" à jouer à ces jeux, et en des temps tout à fait humains

43 252 003 274 489 856 000 de positions possibles pour le Rubick's cube (le classique 3x3x3) et une solution toujours possible en théorie en une vingtaine de mouvements simples. Un algorithme pourrait résoudre le casse tête donc de façon optimale pour chaque positions en une vingtaine de mouvements.

Ce problème pourtant assez simple n'est toujours pas résolu de façon algorithmique.

Dans le cas ou l'algorithme serait trouvé (algorithme de Dieu) , pourrait-on dire que l'ordinateur qui exécuterait les lignes de ce programme serait plus intelligent que sont créateur ? ... Dans le cas ou il a y a un programmeur qui planche sur le problème , j'imagine que les honneurs reviendraient à l'homme ..Mais si c'est un algorithme génétique qui trouve la solution à force de tâtonnement ?

Pour moi l'ordinateur peut être plus efficace que l'humain au niveau de l'intelligence, et avec les progrès type ordinateur quantique, le problème auquel nous pourrions être confrontés, serait surement plus celui de ne pas comprendre des réponses computées par un algo qui dépasse l'entendement humain, que se demander si ça conscience nous ressemble.

[invite499b16d5]

En d'autres mots, il serait peut-être temps de cesser de voir le monde quantique comme le "bruit de fond sur la ligne", le royaume de l'aléatoire où toutes les agitations (par ailleurs dépourvues de sens) se contrebalaçent pour n'avoir quasiment aucun effet macroscopique. Ou encore comme le réseau d'égoûts de l'univers, qui ne charrie que les résidus de ses tentatives avortées.
On est encore en train de se faire avoir comme tant de fois dans le passé. Finalement, la Terre n'est pas plate, la Voie Lactée n'est pas tout l'univers, la matière la plus répandue n'est pas celle qui se voit quand on regarde, les dimensions de l'espace sont plus nombreuses qu'on l'avait cru... et les atomes sont plus intelligents qu'on ne l'aurait imaginé vu leur tête. Toujours une question de facies...

[invite765732342432]

Un algorithme pourrait résoudre le casse tête donc de façon optimale pour chaque positions en une vingtaine de mouvements.

Ce problème pourtant assez simple n'est toujours pas résolu de façon algorithmique.

C'est le problème entre demander UNE solution et LA solution optimale. Chercher l'optimum n'a pas vraiment d'intérêt dans les problèmes de ce fil: il suffit d'avoir une solution suffisamment valable.
Et plus le sujet est vague (comme la "pensée"), plus la fourchette de solutions valables est grande.

@betatron: c'est beau la poésie...

[invite499b16d5]

@betatron: c'est beau la poésie...

Ben ma foi, je ne vois aucune raison de vous en priver, alors!

[invite765732342432]

Ben ma foi, je ne vois aucune raison de vous en priver, alors!

La charte ?

[invite499b16d5]

La charte ?

Je saisis mal en quoi les parties incomprises de la physique quantique devraient être hors charte (je ne parle pas de la mécanique quantique, mais de la physique du monde quantique)
Maintenant, si vous voulez raisonner "classique", comment répondez-vous à la question? Les machines peuvent-elles penser, et, si oui, combien de milliards d'années devrons-nous attendre pour en avoir la preuve?

[invite765732342432]

Je saisis mal en quoi les parties incomprises de la physique quantique devraient être hors charte

Point 6: Toutes idées ou raisonnement (aussi géniaux soient ils) doivent reposer sur des faits scientifiquement établis et non sur de vagues suppositions personnelles, basées sur d'intimes convictions

Maintenant, si vous voulez raisonner "classique", comment répondez-vous à la question? Les machines peuvent-elles penser, et, si oui, combien de milliards d'années devrons-nous attendre pour en avoir la preuve?

Déjà répondu à la question dans les posts précédents:
En l'absence de définition claire de ce qu'est une "pensée", j'aurais tendance à dire que certains programmes/robots pensent déjà, à leur façon.

[invite499b16d5]

tu as une vision trop restrictive de l'émergence. Le proton émerge des quarks, l'atome émerge des nucléons... Tout cela est très concret et pourtant se situe à des niveaux de complexité d'organisation de la matière différents. Une civilisation émerge des humains et pourtant ça existe en soi.

Pardon de réagir si tardivement, mais c'est loin d'être aussi évident, et l'écrire ne suffit pas à le démontrer.
Il me semble plutôt qu'il n'y ait aucun objet physique qu'on puisse appeler civilisation, mais qu'il existe autant de perceptions subjectives de la "civilisation" qu'il y a d'individus qui la composent. Faute de percepteurs, il ne subsiste rien d'une notion comme celle-là.
On peut bien sûr toujours dire qu'un ensemble d'éléments est un objet, et que l'ensemble vide reste un objet du même type...
Mais on peut aussi considérer tout regroupement d'objets comme une émergence. Sauf que ça n'émerge que pour celui qui décide mentalement de les regrouper!

[invite499b16d5]

En l'absence de définition claire de ce qu'est une "pensée", j'aurais tendance à dire que certains programmes/robots pensent déjà, à leur façon.

Donc, charrue avant les boeufs...
Rappel:
Point 6: Toutes idées ou raisonnement (aussi géniaux soient ils) doivent reposer sur des faits scientifiquement établis et non sur de vagues suppositions personnelles, basées sur d'intimes convictions

[invite765732342432]

Donc, charrue avant les boeufs...
Rappel:
Point 6: Toutes idées ou raisonnement (aussi géniaux soient ils) doivent reposer sur des faits scientifiquement établis et non sur de vagues suppositions personnelles, basées sur d'intimes convictions

Si ça peut te faire plaisir.
Bye

[pi-r2]

Il me semble plutôt qu'il n'y ait aucun objet physique qu'on puisse appeler civilisation, mais qu'il existe autant de perceptions subjectives de la "civilisation" qu'il y a d'individus qui la composent. Faute de percepteurs, il ne subsiste rien d'une notion comme celle-là.
On peut bien sûr toujours dire qu'un ensemble d'éléments est un objet, et que l'ensemble vide reste un objet du même type...
Mais on peut aussi considérer tout regroupement d'objets comme une émergence. Sauf que ça n'émerge que pour celui qui décide mentalement de les regrouper!

La pensée et la conscience ne sont pas non plus des objets physiques. L'émergence ne se conçoit qu'à la bonne échelle: un photon traversant un brillant cerveau humain ne verra qu'une faible masse de matière...

[invite499b16d5]

Oui, j'ai sans doute eu tort d'employer l'expression "objet physique".
Il s'agit effectivement d'un objet "pensé" (comme les ensembles dont je parlais plus haut).
Mais c'est précisément ça qui pose un sérieux problème: tenter de définir la pensée comme un objet pensé! Il y a là une récursivité qui me semble de mauvais aloi.

[pi-r2]

Mais c'est précisément ça qui pose un sérieux problème: tenter de définir la pensée comme un objet pensé! Il y a là une récursivité qui me semble de mauvais aloi.

Non, c'est toi qui crée une récursivité par l'utilisation du vocabulaire parce que tu n'as pas de mot pour qualifier cette échelle là. A cette échelle de phénomène on trouve la pensée mais aussi la mémoire informatique (c'est à dire l'état d'une bascule)

[pi-r2]

En d'autres mots, il serait peut-être temps de cesser de voir le monde quantique comme le "bruit de fond sur la ligne", le royaume de l'aléatoire où toutes les agitations (par ailleurs dépourvues de sens) se contrebalaçent pour n'avoir quasiment aucun effet macroscopique.

Pourtant, en pratique, c'est bien le cas dès que l'échelle est assez grande. Peu de phénomènes purement quantique subsiste. Attention faire la différence entre un phénomène purement quantique et un phénomène qu'on ne peut comprendre qu'en utilisant la mécanique quantique, ce sont deux choses différentes.

[invite499b16d5]

A cette échelle de phénomène on trouve la pensée mais aussi la mémoire informatique (c'est à dire l'état d'une bascule)

Je ne vois vraiment pas comment on peut mettre les deux dans le même sac. Et d'ailleurs, si on parle d'une bascule pour illustrer la mémoire, alors, tout, absolument tout, est une mémoire. Les billes d'un boulier, le spin d'un électron...
Ce qui nous ramène au quantique. Certes il n'a pas beaucoup d'effets macroscopiques, à première vue. Mais de là à dire qu'on peut donc les négliger pour ce qui concerne la vie ou la pensée, c'est une autre histoire. Parce que justement la naissance de l'ordinateur quantique nous montre sans ambigüité que quelques atomes pourraient résoudre en un temps record des problèmes d'une difficulté incrooyable. Partant de ce constat, et y ajoutant celui que nous, sortis de la mare primitive, nous nous apprêtons à utiliser des atomes pour ça, il serait quand même très hautement improbable que les molécules de la vie, directement au plus près desdits atomes, n'aient jamais découvert les usages qu'elles pouvaient en faire (par sélection, cela va de soi... )

[pi-r2]

tu en appelles à ça parce que tu ne veux pas admettre que les explications plus simples sont tout aussi bonnes. L'ordinateur quantique n'est pas encore né...
Dès l'échelle moléculaire le plus gros de la décohérence est actée. Inutile de chercher la pensée dans des choses complexes alors qu'on peut l'approcher déjà avec des ordinateurs. Croire que la mécanique quantique joue un rôle majeur dans le fonctionnement des neurones, c'est oublier que l'effet majeur à cette échelle est le mouvement brownien qui brouille déjà beaucoup les pistes !

[pi-r2]

Je ne vois vraiment pas comment on peut mettre les deux dans le même sac.

Je sais et je vois bien que je n'arriverai pas à te faire partager ce que j'ai déjà compris à ce sujet.

[invite499b16d5]

tu en appelles à ça parce que tu ne veux pas admettre que les explications plus simples sont tout aussi bonnes. L'ordinateur quantique n'est pas encore né...

Un calcul (bien que fort simple) a déjà été effectué...

Croire que la mécanique quantique joue un rôle majeur dans le fonctionnement des neurones, c'est oublier que l'effet majeur à cette échelle est le mouvement brownien qui brouille déjà beaucoup les pistes !

Je n'ai pas forcément dit ça en pensant tout de suite aux neurones, bien que ce soit une piste à ne pas négliger. Je me référais surtout aux premières briques du vivant (disons les protéines) qui semblent faire preuve d'une imagination débordante et d'un sens aigu de la combinatoire, qu'un petit coup de pouce de machines à calcul pourrait bien aider.
Après, lors de l'élaboration de structures plus complexes, qu'une "empreinte" de cette "inspiration" quantique primitive puisse encore orienter certains mécanismes, c'est juste une possibilité.

[pi-r2]

Oui une possibilité, mais qui ne doit pas servir de refuge à la "magie" de la pensée si tu vois ce que je veux dire.
Pour rechercher efficacement des moyens d'imiter l'intelligence et la pensée avec des ordinateurs, il faut accepter de penser plus simplement et en particulier accepter le fait que les humains sont issus d'une seule cellule initiale placée dans un milieu favorable biologique pendant au moins 6 mois puis encore deux mois dans un milieu favorable.
Le secret du développement de l'intelligence et de la conscience est nécessairement dans cet oeuf initial.
ça ne laisse pas beaucoup de place pour coder un évènement qui survient systématiquement quand tout va bien (c'est à dire hors accidents ou cas pathologiques).

[Rhedae]

C'est le problème entre demander UNE solution et LA solution optimale. Chercher l'optimum n'a pas vraiment d'intérêt dans les problèmes de ce fil: il suffit d'avoir une solution suffisamment valable.
Et plus le sujet est vague (comme la "pensée"), plus la fourchette de solutions valables est grand.

C'est sur , mais la pensée est acte humain (ou animal) , alors que les machines calculent (peut être intéressant de dissocier calcul/pensée) . En tous cas si on évite l'écueil anthropomorphique, la fourchette se réduit à un seul raisonnement , ou une série de raisonnement jusqu'au plus simple (ou optimal) , même pour la machine de Turing qui n'aurait d'intérêt que de singer l'humain.