Un "ordinateur pensant" serait-il doué de libre arbitre ?

[pi-r2]

Avec cette définition, l'atmosphère choisit de faire un ouragan ou non dans une semaine par libre arbitre.

euh, y'a quand même quelques étages de complexité entre l'atmosphère et le rat non ?
et franchement, biologiquement parlant faire une grosse différence entre l'homme et le rat c'est un peu osé. (et je ne parle pas du singe). donc pour vous libre arbitre implique conscience et intelligence ?
J'ai quand même bien l'impression que les animaux (les gros) ne fonctionnent pas par pur instinct ou programmation mais font des choix de temps en temps. (une idée de la manip à réaliser pour montrer le libre arbitre chez l'animal ?)

[pi-r2]

J'ai également une grosse critique à apporter à cet argument, que j'ai exposée plusieurs fois. A mon avis, un ordinateur qui simule le comportement analogique du cerveau ne produit pas un système ayant les mêmes performances que ce cerveau, contrairement à ce que racontent tous les théoriciens de l'IA.

La raison est qu'il est impossible alors de coupler cette simulation numérique avec l'information REELLE analogique : on ne peut que la coupler a la simulation numérique de l'information extérieure, ce qui est fondamentalement différent.

Non, bien sûr, ce sera beaucoup mieux que ce qu'est capable de produire notre pauvre cerveau bien sûr. Ce que tu dis sur l'information REELLE s'applique parfaitement à nous d'ailleurs. Notre vue est limitée par sa résolution, donc nous discrétisons les images. La vision des couleurs est artificielle, digitalisée en RVB, alors que la réalité de la lumière est la continuité de longueur d'onde. Le son perçu par notre oreille est discrétisé par nos cellules cilliées, chacune sensibles à une certaine fréquence. Notre toucher, n'en parlons pas (alors je te touche le dos avec combien de doigts ?).
Certes cela est masqué par un gros bruit qui donne une impression de flou continu, il n'en reste pas moins que toutes nos perceptions extérieures sont discrètes. (j'ai oublié aussi la discétisation temporelle des images avec 1/10 de seconde entre 2 images)
Donc tous les arguments qui te permettent de supposer qu'un ordi intelligent n'est pas possible te permettent de déduire que nous ne sommes pas possibles

[chaverondier]

Prenons un jeu de hasard où tu dois choisir une carte à droite ou à gauche sans que tu saches les enjeux. Le point intéressant arrive: tes réactions émotionnelles montrent que tu comprends la rêgle du jeu bien avant d'être capable de l'expliciter: autrement dit il y a un moment où, si je me fie à ce que tu dis alors je conclue que tu n'as pas encore compris la rêgle, alors que si je me fie à tes réactions inconscientes alors la conclusion est que tu as parfaitement compris en fait. C'est juste que tu ne le sais pas encore.

Pour moi, l'activité de choix ci-dessus est une activité qui ne mets pas réellement en jeu ce qui nous donne le sentiment de libre arbitre. Il s'agit en effet d'une situation où l'objectif à atteindre est déjà défini (même si on le découvre seulement progressivement en jouant). On a pas à le choisir. Il faut simplement trouver la meilleure stratégie pour atteindre cet objectif.

Je verrais d'ailleurs bien une machine, dotée de capacités d'apprentissage, réussir ce genre de test (peut-être mieux qu'un être humain à terme ou dans certains cas mettant en jeu d'importantes capacités de calculs). Cela n'évoque pas pour moi la notion de libre arbitre.

Pour moi le sentiment de libre arbitre est associé à des situations où on doit choisir les objectifs à atteindre eux mêmes (et le poids relatif qu'on estime devoir leur accorder) et non celles où on doit définir les moyens d'atteindre un objectif déjà défini en optimisant une fonction de gain (qu'elle soit bien ou mal connue du joueur).

Bernard Chaverondier

[Jiav]

ca me parait bien étrange comme affirmation, peux - tu détailler ? J'ai lu la source que tu as donnée à mmy et j'ai du louper ce passage.

Rhaaa j'arrive pas à remettre la main sur le passage exact. Je suis quasiment sur que c'était dans les réfs que tu m'avais donnés sur l'hypercomputation... si je retrouve je vous fais signe.

Quelle solution prenez vous pour simuler les neurones de façon à peu près correcte?

Une somme pondérée des entrées avec une fonction non linéaire de ton choix. C'est très suffisant, même s'il est possible que d'autres formulations se révèlent plus pratiques.

pour le cerveau, y a t il un niveau de discretisation qui permette d'écrire des équations d'évolution seulement en fonction de ces variables discrétisées, et lequel?

Probablement. Je sais pas trop où, mais le fait est que je m'en fous!

Si j'utilise un bon vieux réseau à rétropopagation (basés sur les neurones ci-dessus) pour imiter l'état de chaque neurone en fonction de l'état de ses entrées passée, alors je vais avoir un équivalent fonctionnel pour tout les neurones, ce qui devrait me donner une simulation qui se comporte comme le cerveau copié.

C'est probablement trop poussé quand on prends tous les neurones (avez-vous l'impression d'être différent le matin du soir? Pourtant il y a déjà quelques milliers de neurones qui sont plus là...), mais sur le principe ça devrait marcher.

Il est très important pour mon raisonnement que vous me disiez si vous etes d'accord que ce n'est pas pareil (parce que justement mon opinion est que c'est la confusion entre les deux approches qui fait dire des betises ensuite).

Pour moi c'est pareil, sauf à considérer que des informations infinitessimales ont un impacte à grande échelle. A priori je n'y crois pas mais c'est là que j'ai un doute: et si les bouclages cérébraux était capable d'exploiter des phénomènes chaotiques pour faire ressurgir de l'information... à ce moment là peut-être.

Pour moi le sentiment de libre arbitre est associé à des situations où on doit choisir les objectifs à atteindre eux mêmes (et le poids relatif qu'on estime devoir leur accorder) et non celles où on doit définir les moyens d'atteindre un objectif déjà défini en optimisant une fonction de gain (qu'elle soit bien ou mal connue du joueur).

La différence étant la créativité? Pourquoi croire qu'elle est d'abord en conscience alors que tous le reste (les perceptions, les décisions, les actions) semble exister avant la prise de conscience?

[invité576543]

Pour moi le sentiment de libre arbitre est associé à des situations où on doit choisir les objectifs à atteindre eux mêmes (et le poids relatif qu'on estime devoir leur accorder) et non celles où on doit définir les moyens d'atteindre un objectif déjà défini en optimisant une fonction de gain (qu'elle soit bien ou mal connue du joueur).

Bonsoir,

Voilà un point qui me paraît des plus importants. La différence entre objectifs et moyens est fondamentale.

MAIS:

Un objectif intermédiaire n'est qu'un moyen pour un objectif plus lointain.


Si le libre-arbitre c'est choisir son objectif, alors de deux choses l'une :

- soit ce choix porte sur un objectif intermédaire; et alors toute distinction entre objectif et moyen est arbitraire! Et cela ne peut pas être évoquer pour définir le libre-arbitre;

- soit ce choix porte sur un objectif "ultime", qui n'est pas un moyen pour un objectif plus lointain; et alors je n'ai pas de libre-arbitre, et je demande à toute personne dotée de libre-arbitre d'exprimer l'objectif ultime qu'il a choisi par libre-arbitre!

S'il y a UNE raison de rejeter le libre-arbitre, c'est bien notre absence totale de contrôle sur le sens de nos vies, sur l'objectif "ultime" de nos actes.

Cordialement,

[gillesh38]

Je me rends mieux compte de la raison pour laquelle nous divergeons.
Quand je dis "le cerveau est équivalent à une machine de Turing", cela signifie pour moi:
"il existerait en principe un algorithme formel, implémentable sur une machine de Turing, produisant EXACTEMENT la même pensée qu'un cerveau particulier." (même si cet algorithme en pratique est impossible à déterminer, il existe en théorie, et si on pouvait faire tourner sur un ordinateur, l'algorithme correspondant à ma pensée actuelle, cet ordinateur penserait qu'il est moi).

Cette position est défendue par beaucoup de théoriciens, et ils utilisent la thèse de Church pour "démontrer" la possibilité théorique d'une IA. C'est cette position que je conteste.

Vous, vous avez l'air de prendre ça avec la signification différente:
"On peut construire une machine de Turing qui fait le même genre de truc qu'un cerveau".

C'est beaucoup moins contestable, d'abord parce que "le même genre de truc" est très flou. Les ordinateurs font déjà "le même genre de truc" que nous pour certaines applications. Mais il est clair qu'ils ne le font pas comme nous, en "pensant".
Vous pouvez être convaincu que "penser" est uniquement une question du bon choix d'algorithme, mais c'est un acte de foi. Pour le démontrer, il faudrait démontrer la première proposition. Elle vous paraît accessoire, mais pour la justification théorique de l'IA, elle est essentielle.

[gillesh38]

Si j'utilise un bon vieux réseau à rétropopagation (basés sur les neurones ci-dessus) pour imiter l'état de chaque neurone en fonction de l'état de ses entrées passée, alors je vais avoir un équivalent fonctionnel pour tout les neurones, ce qui devrait me donner une simulation qui se comporte comme le cerveau copié.

partons déjà de là. Tu es en train de regarder l'écran, et ton cerveau enregistre en permanence les informations sensorielles visuelles, auditives, tactiles, kinesthésiques. Suppose que tout a coup tout s'arrete d'un coup, le grand noir complet, plus aucune information de l'extérieur, plus de sensation interne de ton corps,de tes muscles, de faim de soif, comment évoluerait ta pensée?

[invité576543]

Vous pouvez être convaincu que "penser" est uniquement une question du bon choix d'algorithme, mais c'est un acte de foi. Pour le démontrer, il faudrait démontrer la première proposition. Elle vous paraît accessoire, mais pour la justification théorique de l'IA, elle est essentielle.

Bonsoir,

Le mot "penser" est flou, au sens où tu utilises le mot flou ailleurs dans le poste.

Si on peut pas, ou si on refuse, de le définir par des critères extérieurs, alors c'est la signification que l'on donne au mot "penser" qui est un acte de foi.

Et ce sens peut être tel que "penser est une question de bon choix d'algorithme", ou tel que penser est le privilège a) de l'homme, b) certains animaux supérieurs, c) d'entités ayant reçu ce don d'une divinité, d) de virus cosmiques indétectables qui vivent en symbiose avec certaines espèces, ... (je peux rajouter des choix pour qui en a besoin....). Dans les deux cas, l'acte de foi vient de la définition que l'on donne à "penser".

Amha, seule une définition opérationnelle, extérieure (basée sur le comportement définissable à une frontière - une interface - délimitant ce qui pense et son environnement), du mot "penser" peut permettre de dépasser l'acte de foi. D'où les réflexions genre test de Turing ou chambre chinoise.

Cordialement,

Michel

[gillesh38]

tout à fait d'accord. La chambre chinoise suppose bien l'existence d'un algorithme du type 1) equivalent à un cerveau, puisqu'elle le fait executer formellement par un observateur, et non par un système analogique qui marche comme un cerveau. Il est essentiel que l'algorithme de type 1) existe, je ne pense pas que Searle contestait la possibilité qu'une machine puisse etre intelligente. Je suis en plein accord avec lui.

Si on admet que l'être humain n'obeit qu'à des lois physiques, on est bien obligé d'admettre qu'un système matériel puisse produire de la pensée. Encore une fois, ce que je conteste, c'est la possibilité de faire une équivalence formelle entre un système matériel (dont le cerveau, mais pas seulement!) et un algorithme discret genre Turing. Les seuls appareils formellement équivalents à une machine de Turing, ce sont ....les machines de Turing, c'est à dire les objets dont l'état peut PAR CONSTRUCTION être caractérisé par une série de valeurs discrètes dont l'évolution est calculable par un algorithme.

Je pense donc que la conscience, qui n'est certes pas mesurable objectivement, mais quand même "sensible", est due à un phénomène physique non algorithmisable au sens de Turing. Pour me prouver le contraire, il faudrait que vous ayez une idée, au moins de principe, de comment écrire un algorithme EXACTEMENT équivalent à un cerveau !

Je ne m'oppose pas à l'idée de fabriquer une machine pensante à base de silicium, mais je pense que
* cette machine devrait incorporer des phénomènes non algorithmisables.
* il est extrêmement peu probable que cette machine puisse manipuler des concepts "humains", parce qu'en dernière analyse ces concepts humains reposent sur des perceptions physiques qui n'ont de sens que pour notre corps biologique...

C'est là que je cherche à entraîner insidieusement Jiav...

[pi-r2]

Je me rends mieux compte de la raison pour laquelle nous divergeons.
Quand je dis "le cerveau est équivalent à une machine de Turing", cela signifie pour moi:
"il existerait en principe un algorithme formel, implémentable sur une machine de Turing, produisant EXACTEMENT la même pensée qu'un cerveau particulier." (même si cet algorithme en pratique est impossible à déterminer, il existe en théorie, et si on pouvait faire tourner sur un ordinateur, l'algorithme correspondant à ma pensée actuelle, cet ordinateur penserait qu'il est moi).Cette position est défendue par beaucoup de théoriciens, et ils utilisent la thèse de Church pour "démontrer" la possibilité théorique d'une IA. C'est cette position que je conteste. Vous, vous avez l'air de prendre ça avec la signification différente:
"On peut construire une machine de Turing qui fait le même genre de truc qu'un cerveau".C'est beaucoup moins contestable, d'abord parce que "le même genre de truc" est très flou. Les ordinateurs font déjà "le même genre de truc" que nous pour certaines applications. Mais il est clair qu'ils ne le font pas comme nous, en "pensant".
Vous pouvez être convaincu que "penser" est uniquement une question du bon choix d'algorithme, mais c'est un acte de foi. Pour le démontrer, il faudrait démontrer la première proposition. Elle vous paraît accessoire, mais pour la justification théorique de l'IA, elle est essentielle.

Alors soyons clairs. je suis dans la catégorie de ceux qui pensent qu'une machine purement algorithmique peut émuler un cerveau humain, c'est à dire faire le même genre de truc. Nous sommes des entités biologiques et notre MOI est un mélange inextricable entre notre génétique, les conditions initiales de notre génèse ET toute notre expérience jusqu'à cet instant précis. En ce sens, il est impossible de créer une machine exactement identique au moi de maintenant puisqu'il lui faudrait exactement la même expérience en incluant des souvenirs que j'ai moi même oublié mais qui ont contribué à me façonner tel que je suis aujourd'hui. En plus "JE" change à chaque instant, et le problème devient le même que de demander l'heure EXACTE à une machine. Laissons aux Church et autres leur fantasme, chaque être conscient combat l'absurdité de sa propre disparition à sa manière.
Ensuite dire que ça ne dépend que du bon choix de l'algorithme n'est pas du tout une question de foi, mais juste le résultat d'une analyse objective de l'évolution d'une cellule initiale jusqu'à un être doté d'un cerveau qui pense et qui est intelligent et conscient. J'aimerais qu'on me montre où se trouve le non algorithme dans l'évolution programmée et parfaitement reproductible d'une cellule. L'apparition de l'intelligence chez l'enfant est un processus automatique, systématique sauf quand le programme est buggé au départ.

[Argyre]

Je pense donc que la conscience, qui n'est certes pas mesurable objectivement, mais quand même "sensible", est due à un phénomène physique non algorithmisable au sens de Turing. Pour me prouver le contraire, il faudrait que vous ayez une idée, au moins de principe, de comment écrire un algorithme EXACTEMENT équivalent à un cerveau !

Si c'est la seule façon de te convaincre, ça va être dur !
Mais ce qui me gêne dans ta façon de prendre le problème, c'est que tu parles de "conscience" ou de "penser", concepts qui sont particulièrement abstraits. En général, les scientifiques parlent de choses bien concrètes. Autrement dit, définis un protocole expérimental qui te permet de définir phénoménologiquement la "pensée" (avec donc des mesures physiques à affectuer) ou pour simplifier une pensée particulière, puis demande ensuite si un ordinateur ou une machine de Turing peut le faire. Mais tu ne peux pas rester dans l'abstrait, sinon on s'embarque dans des discussions irrationnelles. En clair, ton "sensible" ne me satisfait pas. Autant faire appel à l'intuition ou à la foi, pour moi c'est pareil.

[pi-r2]

Je pense donc que la conscience, qui n'est certes pas mesurable objectivement, mais quand même "sensible", est due à un phénomène physique non algorithmisable au sens de Turing. Pour me prouver le contraire, il faudrait que vous ayez une idée, au moins de principe, de comment écrire un algorithme EXACTEMENT équivalent à un cerveau !

Je ne m'oppose pas à l'idée de fabriquer une machine pensante à base de silicium, mais je pense que
* cette machine devrait incorporer des phénomènes non algorithmisables.
* il est extrêmement peu probable que cette machine puisse manipuler des concepts "humains", parce qu'en dernière analyse ces concepts humains reposent sur des perceptions physiques qui n'ont de sens que pour notre corps biologique...

L'algorithme que l'on cherche est en gros l'algorithme 'impossible' qui teste tous les algorithme pour voir si ils convergent. en explorant 'pendant un certain temps' tous les algo rithmes possibles et en commençant par les plus petits en longueur, on arrive forcément à des choses 'intéressantes'.
ton deuxième point d'abord: il est très facile de donner à une machine les mêmes perceptions physiques que toi: un appareil photo numérique, ou un camescope sont dotés du sens de la vue. Un micro possède l'ouie, et on sait faire de très bons capteurs tactiles qui permettent de faire des mains à controle de force.
Maintenant cela répond à ton premier point: une machine dotée de tels capteurs est plongée dans une réalité qui elle est non algorithmisable (ou pas mais ce n'est pas le sujet) et donc dispose d'un "oracle" comme on dit. Donc forcément que la machine aura des influences externes non algorithmisables. Pas besoin que ce soit interne en revanche.

[pi-r2]

Autrement dit, définis un protocole expérimental qui te permet de définir phénoménologiquement la "pensée" (avec donc des mesures physiques à affectuer) ou pour simplifier une pensée particulière, puis demande ensuite si un ordinateur ou une machine de Turing peut le faire. .

Je suis d'accord avec toi Argyre, mais je crains que le système expérimental en question ne puisse qu'être un système informatique doté du "bon" algorithme. Et une fois qu'on l'aura trouvé, cette discussion aura beaucoup moins de sens...

[gillesh38]

il est très facile de donner à une machine les mêmes perceptions physiques que toi: un appareil photo numérique, ou un camescope sont dotés du sens de la vue.

ouh là....
"un certain" sens peut être, mais encore fait il les interfacer avec un cortex cérébral, c'est pas gagné!

Maintenant cela répond à ton premier point: une machine dotée de tels capteurs est plongée dans une réalité qui elle est non algorithmisable (ou pas mais ce n'est pas le sujet) et donc dispose d'un "oracle" comme on dit. Donc forcément que la machine aura des influences externes non algorithmisables. Pas besoin que ce soit interne en revanche.

Ce n'est pas les capteurs le problème, merci , je sais qu'on sait faire des CCD, des micros ou des capteurs de pression. Ce qu'on ne sait pas faire, c'est réaliser une image mentale du monde qui fait la synthèse de ces stimuli comme le cerveau. Encore une fois rien ne dit que cette propriété de représentation mentale est décrite par un certain algorithme.

[gillesh38]

Autrement dit, définis un protocole expérimental qui te permet de définir phénoménologiquement la "pensée" (avec donc des mesures physiques à affectuer) ou pour simplifier une pensée particulière, puis demande ensuite si un ordinateur ou une machine de Turing peut le faire. Mais tu ne peux pas rester dans l'abstrait, sinon on s'embarque dans des discussions irrationnelles. En clair, ton "sensible" ne me satisfait pas. Autant faire appel à l'intuition ou à la foi, pour moi c'est pareil.

C'est justement la difficulté de définir une manière opérationnelle de tester la pensée qui est à l'origine de mon doute. Quel genre de processus vas tu pouvoir implémenter dans ta machine pour qu'elle donne un sens à "un battement de coeur" , ou "papa" par exemple?