La vérité vrai sur les machines qui pensent

[zepliner]

Prenons un exemple, "apprendre" (plus facile que les autres !). Contourner la définition usuelle consisterait à décrire le phénomène "apprendre" uniquement en termes de comportement observable.

Par exemple, constater que l'entité remplit une tâche de mieux en mieux. À ce sens, il est clair que de nombreux programmes apprennent, comme par exemple certains programmes jouant aux échecs, qui améliorent leur jeu (au sens gagner plus souvent dans des conditions données) en jouant ou en "lisant" des parties.

Au passage l'exercice amène vite à réaliser qu'il y a des préalables à la notion de "apprendre", comme "décider" (un programme d'échec décide quoi jouer à chaque coup), et avoir un but (gagner, dans l'exemple). Deux notions qui doivent être à leur tour définies "extérieurement", et qui servent à "délimiter" le type d'entités à propos desquelles cela fait sens de se poser la question si elles "apprennent" ou pas.

Concretement, c'est ce qu'ont fait les behavioristes. C'est ce qui se pratique courament dans les sciences du comportements.

Pour prouver qu'un rat apprend, et bien... on vérifie qu'il est de plus en plus rapide à effectuer une tâche, etc

Cette objectivation existe de longue date mais n'a rien apportée au problème de la pensée. Par exemple des protocoles extrêment raffinés ont été mis au point pour savoir si un singe est capable d'imaginer ce qu'un autre singe pense ou sait, et de s'adapter en conséquence (par exemple, être capable de mentir), en tant que "marqueur" d'une intelligence supérieure ou d'une conscience.

Des résultats semblent montrer que le chimpanzé pourrait mentir, mais ces mêmes résultats peuvent également être interprétés en terme de conditionnement (c-à-d du même niveau qu'une aplysie).

Donc le débat existe toujours et semble insoluble. Pour l'instant la capacité de penser est quelque chose qu'on admet, ou pas, chez l'autre (voisin, animal, ordinateur) car les résultats d'études purement objectives peuvent toujours être interprété sans recours à la pensé.
-----

[invité576543]

Concrètement, c'est ce qu'ont fait les behavioristes. C'est ce qui se pratique couramment dans les sciences du comportements.

Oui, ce sont des sciences !

Cette objectivation existe de longue date mais n'a rien apportée au problème de la pensée.

C'est un point de vue. Qui est pour moi celui consistant à garder le sens "introspectif" au mot.

Si le sens du mot "penser" est strictement réservé à l'expérience introspective, il m'est évident que les méthodes béhavioristes ne peuvent pas, par construction, amener quoi que ce soit au "problème de la pensée".

Cela peut être une conclusion tout à fait valable, et alors si on veut discuter des capacités cognitives non humaines, le terme "penser" est banni.

Mais cela ne me semble pas une grande perte dans ces conditions.

Reste à reformuler la question, du moins pour ceux qui s'intéressent aux capacités cognitives non humaines, plutôt qu'à garder les humains comme exceptionnels.

[zepliner]

Si le sens du mot "penser" est strictement réservé à l'expérience introspective, il m'est évident que les méthodes béhavioristes ne peuvent pas, par construction, amener quoi que ce soit au "problème de la pensée".

Exactement.

Mais cela ne me semble pas une grande perte dans ces conditions.

C'est pourtant le point d'achoppement. Ce qui interesse la majorité des gens, ce n'est pas de savoir si un ordinateur est capable de soutenir une conversation. C'est de savoir s'il en est conscient, si ses réponses sont préprogrammées, si c'est un avis personnel ou si tous les ordinnateurs de la série répondront la même chose aux même moment. Bref, c'est de savoir si l'ordinateur a une forme de subjectivité, une "vie intérieure", ou je ne sais quoi.

Il me semble que 1) le "phénoméne" de pensée consciente existe, même si son caractère nous échappe d'un point de vue scientifique, et que 2), les questions suscitées sont légitimes même si on ne peut pas y répondre d'un point de vue scientifique.

Reste à reformuler la question, du moins pour ceux qui s'intéressent aux capacités cognitives non humaines, plutôt qu'à garder les humains comme exceptionnels.

Le but de mon intervention n'est pas de garder l'humain comme exeptionnel. Mais, je ne suis pas sur que capacité cognitive = pensée dans le sens de la question posée par ce post.

Mais, rien n'empéche de comparer les fonctions cognitives d'un humains et d'un ordinateur. Si on reste sur ce plan, deep blue est plus performant que l'homme pour jouer aux echecs.

Mais as t on répondu à la question ?

[Les Terres Bleues]

Parce que l'existence des êtres mythiques comme les fées et le Pere Noël montre que ce n'est pas parce qu'on est capable de l'imaginer que ça peut forcément exister !

Comment ça ? Le Père Noël n'existe pas ?

Non, plus sérieusement, ce que je veux dire, c'est que le concept d'être mythique répond simplement à "l'existence d'être mythique", de la même manière que le concept mathématique de nombre est adapté pour décrire l'idée de nombre.
Le seul détail qui différencie le "vrai" Père Noël de celui qu'on prend en photo avec les gosses à l'hypermarché, c'est que ce dernier est vérifiable intersubjectivement sans nécessiter une description par celui qui en parle.

Sans vouloir être paranoiaque, c'est une réalité. "Je pense donc je suis" : ok, mais qu'en est il des autres humains ?

Ceci est à mon avis un exemple intéressant de présupposé épistémologique.

Descartes ne peut en aucune façon être certain de "penser" avant d'avoir au minimum formalisé ce concept (de se l'être dit en lui-même), aussi il lui aurait été tout autant permis de dire "Je pense car je suis".

Par contre, s'il sait qu'il est un être humain, c'est qu'un autre être humain a reconnu en lui un ou des processus que lui-même mettait en œuvre.

Fondamentalement, aucun humain ne peut prouver à un autre humain qu'il pense.

Selon moi, c'est exactement le contraire.

N'importe qui ou n'importe quoi peut répondre "cinq" de façon systématique à toutes les questions qui lui sont posées, et être cependant persuadé de penser. Mais pour se qualifier de sujet pensant, il est nécessaire qu'un autre affirme partager une telle subjectivité.

Ce qui interesse la majorité des gens, ce n'est pas de savoir si un ordinateur est capable de soutenir une conversation. C'est de savoir s'il en est conscient, si ses réponses sont préprogrammées, si c'est un avis personnel ou si tous les ordinateurs de la série répondront la même chose aux même moment. Bref, c'est de savoir si l'ordinateur a une forme de subjectivité, une "vie intérieure", ou je ne sais quoi.

C'est un point de vue qui ne me semble pas pouvoir être falsifié. Vie intérieure ? Qu'ès aquo ?

Un truc défini dans l'absolu ?

Et si d’aventure, une entité disait : « Dans l’absolu ? Mais n’est-ce pas là un non-sens ? Les significations des mots glissent et se tortillent comme des anguilles et elles échappent à l’entendement. La pensée rebondit indéfiniment contre un mur insaisissable qui l’use, la déchire et l’enlise. Alors on renonce à penser. On se tait jusque dans l’âme et on attend, avec une sorte de foi impuissante. Voilà en quoi consiste 'le problème ontologique'. » ⁽¹⁾, nous n’aurions plus qu’à nous interroger sur ce que nous reconnaissons dans une telle phrase avant de lui donner un qualificatif.

je veux bien imaginer un test de mise en évidence de la pensée uniquement à partir de phénomènes externes (c'est en quelque sorte la tentative behavioriste). Mais cela semble impossible puisque la certitude de penser est fondamentalement subjective et interne. C'est plutôt une "sensation de la pensée", une intime conviction de penser, un truc phénoménologique...

Bé non, la pensée n'existe pas en soi, il n'y a que des résultats de l'acte de penser.

Cordiales salutations.

(1) Mioara Mugur-Schächter in L'infra-Mécanique quantique.

[zepliner]

Par contre, s'il sait qu'il est un être humain, c'est qu'un autre être humain a reconnu en lui un ou des processus que lui-même mettait en œuvre. Selon moi, c'est exactement le contraire.

Je ne crois pas que ce soit ce que dit Descartes. Le point de départ de son raisonnement est que même si tout ce qu'il perçoit est une illusion, la seule chose dont il est sûr c'est qu'il pense... et donc qu'il existe.

Si les seules choses dont il soit sûr sont qu'il pense et qu'il existe, je ne crois pas se cela inclu les autres.

N'importe qui ou n'importe quoi peut répondre "cinq" de façon systématique à toutes les questions qui lui sont posées, et être cependant persuadé de penser. Mais pour se qualifier de sujet pensant, il est nécessaire qu'un autre affirme partager une telle subjectivité.

Donc si tu "penses" que je ne pense pas, c'est le cas ? Je ne suis pas sur de comprendre.

Bé non, la pensée n'existe pas en soi, il n'y a que des résultats de l'acte de penser.

qu'entends tu par acte de penser ? En quoi cette distinction est elle pertinente ? en quoi cet acte de penser est il plus facilement mesurable que la pensée ?

Sinon, utiliser sa "boucle phonologique" pour retenir un numéro de téléphone (donc répétition consciente et interne d'une information sous la forme d'un langage intérieur, c'est pas moi qui l'invente), c'est déjà un début de vie intérieure. Imaginer un itinéraire, c'est pas mal non plus comme exemple. Visualiser mentalement d'un objet absent...

Ca c'est concret, c'est largement étudié en psychologie, c'est pas un délire de spiritualo-mystique. Et c'est ce qui donne fortement le sentiment de penser et au moins d'exister comme dirait Descartes.

Pour l'instant, il n'y a aucun indice pour valider (ou infirmer) l'idée qu'un ordinnateur peut se chanter, en sont for intérieur, les mp3 enregistrés sur sont disque dur...

[pi-r2]

Pour l'instant, il n'y a aucun indice pour valider (ou infirmer) l'idée qu'un ordinnateur peut se chanter, en sont for intérieur, les mp3 enregistrés sur sont disque dur...

Non mais c'est très facile de lui permettre. il y a déjà un certain nombre de processus qui l'autorisent à traiter ses informations internes (la défragmentation du disque dur par exemple). On pourrait aller plus loin en programmation avec une phase de sommeil plus complète permettant de recompiler les données et les retraiter par ordre d'utilité.

[Les Terres Bleues]

Donc si tu "penses" que je ne pense pas, c'est le cas ? Je ne suis pas sur de comprendre.

Tu n'a évidemment pas besoin de moi pour penser.
Ce que je cherche à dire, c'est que tu ne peux en avoir la certitude que lorsque quelqu'un (n'importe qui) reconnaît que ce que tu appelles penser, lui, il le fait aussi et qu'il convient d'appeler ça "penser".
Jusque là, il serait tout aussi légitime de qualifier cette opération de rêve, d'hallucination, de délire, ou de tout ce que tu voudras d'autre.

Je ne crois pas que ce soit ce que dit Descartes. Le point de départ de son raisonnement est que même si tout ce qu'il perçoit est une illusion, la seule chose dont il est sûr c'est qu'il pense... et donc qu'il existe.

C'est là où il se trompe, tout Descartes qu'il est.
Il est exactement équivalent de dire "Je pense car j'existe" (sous-entendu en tant que sujet pensant).
La seule chose dont on peut être sûr (lui comme nous), c'est d'être capable d'établir une relation entre le fait d'être et le fait de penser. Et ça c'est un acte, ce n'est pas une abstraction.

Si les seules choses dont il soit sûr sont qu'il pense et qu'il existe, je ne crois pas se cela inclu les autres.

Un jour ou l'autre, il faut bien qu'il pense à vérfier son hypothèse, non ?

Qu'entends tu par acte de penser ? En quoi cette distinction est elle pertinente ? en quoi cet acte de penser est il plus facilement mesurable que la pensée ?

J'ai très exactement parlé de résultats de l'acte, justement parce que les résultats seuls sont descriptibles et communicables alors que ton for intérieur défini par rapport à toi-même ne l'est pas. Et ce qui s'y passe ne me regarde pas d'ailleurs.

Sinon, utiliser sa "boucle phonologique" pour retenir un numéro de téléphone (donc répétition consciente et interne d'une information sous la forme d'un langage intérieur, c'est pas moi qui l'invente), c'est déjà un début de vie intérieure. Imaginer un itinéraire, c'est pas mal non plus comme exemple. Visualiser mentalement d'un objet absent...

Mais bien entendu, tu peux te réciter ce que tu veux (et encore heureux ) la question n'est pas là selon moi.
Le point concerne ce qui ressort de cette activité (d'où le mot acte) vis-à-vis du monde extérieur.
Et vu de l'extérieur, il n'apparaît que le résultat, même si cela se limite à avoir l'air triste ou content.

Cordiales salutations.

[mh34]

Cela ne colle pas avec ce que pensais..............

Pardon, je n'avais pas vu ta réponse hier, désolée.

Si on rencontre des difficultés en boucle comme celles que tu pointes, on n'y arrivera pas. Enfin moi du moins...
Je ne suis pas du tout convaincue que vous ne vous mettiez quand même pas sciemment un peu des batons dans les roues, là...
Parce que ça :

Au passage l'exercice amène vite à réaliser qu'il y a des préalables à la notion de "apprendre", comme "décider" (un programme d'échec décide quoi jouer à chaque coup), et avoir un but (gagner, dans l'exemple). Deux notions qui doivent être à leur tour définies "extérieurement", et qui servent à "délimiter" le type d'entités à propos desquelles cela fait sens de se poser la question si elles "apprennent" ou pas.

je n'en vois pas l'intérêt.
Ceci :

Contourner la définition usuelle consisterait à décrire le phénomène "apprendre" uniquement en termes de comportement observable.

me parait suffisant.

[GillesH38a]

Concernant la définition de mh34, je ne vois pas en quoi "travail" poserait problème, sauf à croire que tu glandes chaque fois que tu es immobile devant ton ordi.

déformation de physicien, je ne l'entendais qu'au sens mécanique et thermodynamique (produit d'une force par son déplacement ) ... comme quoi le langage est effectivement dépendant des individus !

pour en revenir à "penser", le concept de "penser mais pas comme un être humain" pose un petit problème : c'est que pour estimer que quelque chose "pense", on s'appuie justement sur des critères de comparaison avec l'etre humain, en demandant d'être "assez proche" (cas du Test de Turing). On est donc en train d'imposer une proximité suffisante pour lui accorder la propriété de penser, mais pas assez pour lui accorder d'être "comme un humain". Cela suppose donc qu'il existe une zone "grise" matériellement réalisable où on serait tenté d'accorder une propriété mais pas l'autre. Je fais juste remarquer qu'il n'y a aucun principe ni théorème qui garantit que cette zone existe : bien sûr on peut toujours adapter comme on veut la notion de penser, de façon à garantir l'existence de cette zone, et déclarer par exemple que bien évidemment les ordinateurs actuels pensent , puisqu'ils sont capables d'apprendre, mais pas comme les humains, puisqu'ils ne sont pas capable d'émotion. Ou déclarer le contraire. Pareil pour les pigeons ou pour les chiens. Mais ça n'est finalement plus QUE un débat sur les perceptions subjectives, qui n'a pas plus de réponse absolue que les questions du genre "Britney Spears chante-t-elle bien?" ou "les épinards sont-ils vraiment bons"?

[invité576543]

Ceci : me parait suffisant.

Comment ferais-tu alors ? Quel protocole d'observation et d'expérimentation proposerais-tu pour répondre à la question "l'entité que voilà a-t-elle ou n'a-t-elle pas la faculté d'apprendre ?".

Je montre une pierre, un virus, un bonsaï, une bactérie, une serrure à reconnaissance vocale non personnalisée, un chat, un tournesol, la Terre, un PC portable, le rover Spirit, la population des dauphins communs prise dans son extension temporelle, etc. Comment le protocole est-il appliqué, cas par cas, quels en sont les résultats probables, et pourquoi ?

[mh34]

Je montre une pierre, un virus, un bonsaï, une bactérie, une serrure à reconnaissance vocale non personnalisée, un chat, un tournesol, la Terre, un PC portable, le rover Spirit, la population des dauphins communs prise dans son extension temporelle,

Tu as oublié les ratons laveurs.

Quel protocole d'observation et d'expérimentation proposerais-tu pour répondre à la question "l'entité que voilà a-t-elle ou n'a-t-elle pas la faculté d'apprendre ?".

Mais ces protocoles existent depuis longtemps, non? Ca fait un bout de temps qu'on le fait avec différentes espèces animales, il me semble...
Suffit de l'appliquer au reste de ta liste.

[invité576543]

Mais ces protocoles existent depuis longtemps, non? Ca fait un bout de temps qu'on le fait avec différentes espèces animales, il me semble...
Suffit de l'appliquer au reste de ta liste.

À un PC portable ? Une serrure électronique ? Une pierre ? (Je n'inclus pas le raton-laveur, j'imagine que le protocole y est adapté.)

[mh34]

Effectivement, pour tout ce qui est électronique va falloir trouver autre chose...et je n'ai absolument aucune idée de ce qu'on pourrait bien faire, ne sachant pas du tout, même dans les grandes lignes, comment ça fonctionne.
Quant à la pierre, au bonsaï et au tournesol, il suffit de les mettre dans des situations différentes de celles dans lesquelles on les trouve, et on voit ce qui se passe d'inhabituel ( le comportement habituel du tournesol, macroscopiquement, on connait, quand même, non?) Maintenant, si tu m'objectes que l'apprentissage peut très bien se manifester au niveau microscopique, sans effet visible sur le comportement par une simple observation à l'oeil nu...

On va retourner un peu les choses : que proposerais-tu?
Non mais je sais ; mieux définir les conditions initiales (ou un truc de ce genre).
Bon, ben j'avoue ; ça, je sais pas faire.

[invité576543]

Quant à la pierre, au bonsaï et au tournesol, il suffit de les mettre dans des situations différentes de celles dans lesquelles on les trouve, et on voit ce qui se passe d'inhabituel ( le comportement habituel du tournesol, macroscopiquement, on connait, quand même, non?)

Pour le tournesol, je me demandais juste si dire "qu'il apprend la direction du Soleil" peut avoir un sens.

Pour le bonsaï, c'est un peu pareil : est-ce que le comportement de la plante est différent (a appris ?) après les tortures qu'on lui fait subir.

On va retourner un peu les choses : que proposerais-tu?

Si c'est un modérateur qui demande, j'imagine que répondre doit être acceptable ?

Perso, je commencerais par limiter les entités candidates. On veut au minimum couvrir des artefacts ("machines"), des animaux et d'hypothétiques extra-terrestres. Qu'ont-ils en commun ? À mon sens, des capacités à capter de l'information sur leur environnement, des capacités à agir (le comportement observé), et un traitement de l'information entre les deux.

Ce qui permet d'observer les actions en fonction de l'environnement, d'y trouver des corrélations, et éventuellement même d'expérimenter en contrôlant l'environnement.

Les actions peuvent être n'importe quoi d'observable et qui semble être "décidé" par l'entité (bouger une partie, afficher une phrase sur un écran, émettre des sons, etc.) ; et l'environnement inclut le visible, tactile, chimique, physique, etc.

La plupart si ce n'est tous les animaux entrent dans la catégorie, et même peut-être la plupart des êtres vivants. Un PC, un interrupteur, le rover Spirit, etc. sont des artefacts entrant dans la catégorie. Quand aux E.T., il est rare qu'on les imagine autrement qu'entrant dans la catégorie.

Si on arrive à se mettre d'accord sur ces bases, alors on doit pouvoir essayer de mettre en place un protocole générique pour apprendre, en s'inspirant (par exemple) de ce qui est fait pour les animaux, comme tu l'as indiqué, en y apportant les modifications requises pour couvrir toute entité entrant dans la catégorie. Ce qui oblige à ne parler qu'en termes d'environnement et d'action, sans limiter aux capacités sensorielles des animaux, ou aux comportements (actions) des animaux.

Clairement, pour un ordinateur, l'environnement "chocs sur des touches de claviers" et l'action "affichage sur un écran" répond à l'expression de besoin, et le protocole doit pouvoir s'appliquer à ce cas là.

Il me semble que cela esquisse ce qui pourrait amener à un sens générique du mot "apprendre", pas trop large (sinon cela ne sert plus à rien), mais non réduit aux humains ; juste suffisant pour englober ce qui semble d'intérêt.

---

Maintenant, pour revenir au sujet, autant je pense qu'il doit y avoir moyen, sur les bases esquissées ci-dessus, d'obtenir un consensus opérationnel pour discuter de "apprrendre", autant j'ai de gros doutes qu'on le puisse pour "penser".

[Rhedae]

Salut ...

Si les ordinateurs peuvent apprendre ? ...

Dans les faits nous communiquons déjà avec des machines.
...conscience, pensé, intelligence ne peuvent plus être défini comme dans le petit Robert, de façon anthropomorphique depuis l'avènement de l'informatique... La définition de mot conscience doit s'élargir , puisque nous souhaitons établir une mesure d'humanité quantitative dans un objet qui n'est pas humain ...



Vaste débat .

[Les Terres Bleues]

Perso, je commencerais par limiter les entités candidates. On veut au minimum couvrir des artefacts ("machines"), des animaux et d'hypothétiques extra-terrestres. Qu'ont-ils en commun ? À mon sens, des capacités à capter de l'information sur leur environnement, des capacités à agir (le comportement observé), et un traitement de l'information entre les deux.

Je ne m'inscris pas véritablement dans cette réflexion qui semble s'engager, mais je ne peux pas m'empêcher quand même de remarquer qu'il existe au moins une entité candidate que tu n'as pas envisagée parmi ces propositions, c'est celle d'un réseau planétaire multi-connexions et éventuellement mixte humains-machines.
Est-ce délibéré ou est-ce simplement un oubli ?
Et dans le cas où il faudrait retenir cette éventualité, serait-ce pertinent de ton point de vue de parler d'une certaine capacité d'apprentissage à propos d'une telle entité ?

Cordiales salutations.

[invite6754323456711]

Il me semble que cela esquisse ce qui pourrait amener à un sens générique du mot "apprendre", pas trop large (sinon cela ne sert plus à rien), mais non réduit aux humains ; juste suffisant pour englober ce qui semble d'intérêt.

Il me semble pourtant que cela ferme des portes tels que la distinction entre par exemple : Apprendre (on apprend d'un maître) et s'instruire (on s'instruit soi-même). Bien souvent on apprend en écoutant, alors qu'on s'instruit en s'interrogeant. La pensée n'englobe telle pas ses propriétés qui sont du domaine du sensible qui de plus conduisent à des comportement tel que que : "les humains ont par nature le désir de connaître", mais il n'est pas certain qu'ils aient tous le désir d'apprendre car apprendre implique un travail, qui peut souvent nous décourager.

On peut effectivement formaliser un modèle, mais quel est son domaine de validité ?

Patrick

[invite6754323456711]

On peut effectivement formaliser un modèle, mais quel est son domaine de validité ?

On peut programmer une machine avec une axiomatique et des règles d'inférences, mais comment fait elle pour découvrir des énoncés indépendants de cette théorie ?

Patrick

[GillesH38a]

nous souhaitons établir une mesure d'humanité quantitative dans un objet qui n'est pas humain ...

ah bon tu souhaites ça toi? pourquoi ? pas moi ....

[Rhedae]

Critères possibles d'un système de dialogue évolué entre la machine et l'homme .

Le sémanticien François Rastier, après avoir rappelé les positions de Turing et de Grice à ce sujet, propose six « préceptes » conditionnant un système de dialogue évolué, en précisant qu'elles sont déjà mises en œuvre par des systèmes existants :

* objectivité (utilisation d'une base de connaissances par le système)
* textualité (prise en compte d'interventions de plus d'une phrase, qu'elles émanent du système ou de l'utilisateur)
* apprentissage (intégration au moins temporaire d'informations issues des propos de l'utilisateur)
* questionnement (demande de précisions de la part du système)
* rectification (suggestion de rectifications à la question posée, lorsque nécessaire)
* explicitation (explicitation par le système d'une réponse qu'il a apportée précédemment).

Il suggère aussi que le système devrait être en mesure de se faire par lui-même une représentation de l'utilisateur auquel il a affaire, pour s'adapter à lui. De son côté, l'utilisateur a tendance à s'adapter au système à partir du moment où il a bien compris qu'il s'adresse à une machine : il ne conversera pas de la même manière avec un système automatisé qu'avec un interlocuteur humain, ce qui présente pour le concepteur l'avantage pragmatique de simplifier certains aspects du dialogue.

http://fr.wikipedia.org/wiki/Intelli...abilit.C3.A9_2

[invité576543]

Je ne m'inscris pas véritablement dans cette réflexion qui semble s'engager, mais je ne peux pas m'empêcher quand même de remarquer qu'il existe au moins une entité candidate que tu n'as pas envisagée parmi ces propositions, c'est celle d'un réseau planétaire multi-connexions et éventuellement mixte humains-machines.
Est-ce délibéré ou est-ce simplement un oubli ?

En quoi cette entité n'entre pas dans la catégorie délimitée ?

[Rhedae]

@terre bleu

En cybernétique, la notion de conscience ne se limite pas à l'aspect humain. Elle est simplement l'expression émergente de la complexité du système "pensant" .

[invite6754323456711]

En cybernétique, .

Elle ne peut être qu'un modèle dont la structure n'est certainement pas isomorphe à la conscience phénoménale humaine.

L'isomorphisme sera atteint lorsqu'il nous sera plus possible de différentier par des critères la machine de l'humain et réciproquement il ne sera plus possible pour une machine de faire la différence (bijection).

Patrick

[Rhedae]

Elle ne peut être qu'un modèle dont la structure n'est certainement pas isomorphe à la conscience phénoménale humaine.

C'est généralement pas ce qu'on demande à l'intelligence artificielle. Au contraire, on lui demande d'être plus performante que l'humain dans une multitude de domaines spécialisés.

[invite499b16d5]

L'isomorphisme sera atteint lorsqu'il nous sera plus possible de différentier par des critères la machine de l'humain et réciproquement il ne sera plus possible pour une machine de faire la différence (bijection).

Bonjour,
je partage tout à fait cet avis!
Par ailleurs, j'ai toujours trouvé étrange qu'on puisse parler de la conscience comme d'un phénomène émergent. Un phénomène émergent n'existe pas en soi. Il peut bien sûr être décrit de l'extérieur, en prenant un recul, mais certainement pas de l'intérieur. Or justement, la conscience, nous en avons conscience... de l'intérieur. Ou alors, si c'est extérieur, c'est que quelque chose d'autre dehors observe ce qu'il appelle l'émergence...

[pi-r2]

Un phénomène émergent n'existe pas en soi.

tu as une vision trop restrictive de l'émergence. Le proton émerge des quarks, l'atome émerge des nucléons... Tout cela est très concret et pourtant se situe à des niveaux de complexité d'organisation de la matière différents. Une civilisation émerge des humains et pourtant ça existe en soi.

[pi-r2]

On peut programmer une machine avec une axiomatique et des règles d'inférences, mais comment fait elle pour découvrir des énoncés indépendants de cette théorie ?

Patrick

En parlant de règles d'inférence tu bloque l'évolution de la machine au niveau des système experts. Une machine découvre de la même manière que nous: en confrontant ses connaissances à ses perceptions et en étudiant les incohérences.

[invite73192618]

Ce qui interesse la majorité des gens, ce n'est pas de savoir si un ordinateur est capable de soutenir une conversation. C'est de savoir s'il en est conscient, si ses réponses sont préprogrammées, si c'est un avis personnel ou si tous les ordinnateurs de la série répondront la même chose aux même moment. Bref, c'est de savoir si l'ordinateur a une forme de subjectivité, une "vie intérieure", ou je ne sais quoi.

Exactement. Étudier les comportements en considérant l'esprit comme une boite noire, ce n'est pas seulement infructueux (ce que démontre l'échec du Behaviorisme), c'est aussi rater la question le plus intéressante: qu'est ce qui fait que nous sommes conscient?

Pour moi, notre façon de définir le mot "pensée" et la façon dont nous acceptons ou pas que quelque chose pense en fonction de son comportement sont deux marqueurs de ce qui est reconnu chez les autres (à tort ou à raison, peu importe) comme une faculté de soi: la faculté de penser. Mon but n'est pas tant de chercher à savoir si autre chose qu'un humain peut penser (c'est une question subsidiaire) que de fournir une liste des processus qu'il faut examiner et comprendre chez l'humain. Une fois qu'on l'aura compris, et je ne vois pas de raison d'être particulièrement sceptique sur notre capacité collective à le faire, alors on aura non plus seulement une liste des comportements qui nous évoquent qu'un individu pense, mais les processus nécessaires pour qu'il pense, indépendament de s'il produit les signaux qui lui permettront d'être reconnu comme pensant. L'exemple des états végétatifs pas si végétatif est éloquent: on peut être incapable de prouver sa faculté de penser. Se fier uniquement au comportement produit est profondément insatisfaisant non seulement en théorie, mais aussi pour des applications on ne peut plus pratiques.

[mh34]

on aura non plus seulement une liste des comportements qui nous évoquent qu'un individu pense, mais les processus nécessaires pour qu'il pense, indépendament de s'il produit les signaux qui lui permettront d'être reconnu comme pensant.

Oui, mais ça va nécessiter un "traducteur" genre l'IRMf! Il n'y a pas de moyen de faire autrement.

[Les Terres Bleues]

En quoi cette entité n'entre pas dans la catégorie délimitée ?

Alors oui, tout à fait d'accord.
Je pensais avoir une vision large de ton intervention et en fait, je m'aperçois que c'était tout le contraire, j'en avais une interprétation très étroite.
Du coup, je considère le protocole que tu proposes sous un nouveau jour, et ça m'agrée bien davantage.

Cordiales salutations.