La vérité vrai sur les machines qui pensent

[invite765732342432]

Cette définition est très compréhensible

Tout à fait, elle est compréhensible. Mais elle n'est pas utilisable: elle ne fournit aucun outil pour dire si XXX pense ou pas.

je ne suis pas sûre que ce soit une volonté expresse, j'ai pris la définition ici ; http://atilf.atilf.fr/dendien/script...=1;nat=;sol=5;

Avec ce lien, c'est très clair que c'est une volonté expresse
Surtout qu'à coté de la définition il y a: "Synon. âme, coeur, esprit"

Bon, vous préférez ça?

Une définition utile devrait déjà permettre de savoir si: un bébé humain, un corbeau, un rat, une hirondelle, une coccinelle, un gecko, un chien, une fourmi, une blatte, un bonobo ou un poisson rouge pensent.
Ensuite on pourra d'interroger sur une calculatrice ou Asimo... mais tant qu'on n'est pas capable de le dire pour nos plus proches cousins, ce n'est même pas la peine d'essayer.
-----

[invité576543]

psychologique : Qui appartient au psychisme, à son activité, qui le concerne

psychisme : Ensemble, conscient ou inconscient, considéré dans sa totalité ou partiellement, des phénomènes, des processus relevant de l'esprit, de l'intelligence et de l'affectivité et constituant la vie psychique.

esprit : Principe de la pensée et de l'activité réfléchie de l'homme.

pensée : Ensemble des facultés psychologiques tant affectives qu'intellectuelles

psychologique : Qui appartient au psychisme, à son activité, qui le concerne

etc.

(Ces définitions sont celles prises dans l'atilf aussi...)

[evrardo]

Les ordinateurs ne fonctionne pas qu'à partir de cela et c'est là qu'est votre erreur. ils fonctionnent aussi à partir des données captées dans leur environnement (qui peuvent être des impacts physiques sur les touches du clavier ou tout autre input numérisable comme une image ou un son). Vous êtes entrain d'établir qu'il n'y a pas de différence entre humains et machines...

Mais si: les ordinateurs ne fonctionnent qu'avec ce qu'on y a mis. Il ne s'agit pas seulement des données en mémoire, mais aussi du programme utilisé, du système d'exploitation, des interfaces destinées à captés les stimuli extérieurs: clavier, capteurs etc....

Et ça c'est nous qui le faisons: pas l'évolution naturelle.

[invité576543]

Ce que représente le mot "pensée" n'a pas besoin d'être défini a priori , parce qu'il ne s'applique pour le moment qu'aux humains, et que les définitions ne s'adressent qu'à des humains.

Les définitions du dictionnaire citées plus tôt ne définissent pas, elles évoquent, elles évoquent quelque chose que le lecteur de la définition connaît déjà.

La définition ne définit pas le concept, elle se contente d'attacher une étiquette (le mot) à un concept déjà connu. Et il est déjà connu par la simple hypothèse que seul un humain va lire et comprendre la "définition".

[evrardo]

Ouh, tout ça devient bien compliqué.
Revenons à la base: qu'est ce qu'une pensée?

[mh34]

Ok, puisque vous êtes décidés à torpiller mes efforts...on va prendre les choses autrement.
Ne peuvent penser que les êtres vivants dotés d'un cortex.
Peut-on au moins se mettre d'accord là-dessus?

[invitedb5bdc8a]

Ne peuvent penser que les êtres vivants dotés d'un cortex.
Peut-on au moins se mettre d'accord là-dessus?

Non, là vous m'excluez d'office. Et je pense que je pense puisque je pense que je pense.

[invitedb5bdc8a]

Mais si: les ordinateurs ne fonctionnent qu'avec ce qu'on y a mis. Il ne s'agit pas seulement des données en mémoire, mais aussi du programme utilisé, du système d'exploitation, des interfaces destinées à captés les stimuli extérieurs: clavier, capteurs etc....

Et ça c'est nous qui le faisons: pas l'évolution naturelle.

Vous vous enfoncez. Pas d'évolution naturelle, parce que les humains essaient autant qu'ils le peuvent de brider les capacités des machines en programmant de manière contrainte et sans bug.
Mais surtout, une machine capable de diriger une caméra est de recevoir les images recevra des données que les concepteurs n'ont pas prévu. De même que moi disposant de cette interface texte sur internet je peux lire des propos qui n'étaient pas prévu par mes concepteurs.

[invite6c250b59]

Ne peuvent penser que les êtres vivants dotés d'un cortex.
Peut-on au moins se mettre d'accord là-dessus?

Ni plus ni moins qu'avec " ne peuvent penser que les êtres humains", ce qui est la définition retenue dans l'atilf comme mentionné plus haut. Pourquoi souhaites-tu étendre ce concept aux êtres vivants dotés d'un cortex?

[mh34]

Non, là vous m'excluez d'office.

Ne commencez pas à compliquer la tâche ; on verra après pour votre cas.

ne peuvent penser que les êtres humains", ce qui est la définition retenue dans l'atilf comme mentionné plus haut.

Je ne suis pas d'accord ; dans la définition que j'ai donnée, il n'est nulle part mentionné qu'elle est restreinte aux humains.
C'est bien pour ça que je l'ai choisie d'ailleurs!
Quant à ça :

Pourquoi souhaites-tu étendre ce concept aux êtres vivants dotés d'un cortex?

c'est pour éviter de me voir opposer bonobos, chiens, chats, dauphins, souris, éléphants...et ratons-laveurs.

[Les Terres Bleues]

Ce que représente le mot "pensée" n'a pas besoin d'être défini a priori, parce qu'il ne s'applique pour le moment qu'aux humains, et que les définitions ne s'adressent qu'à des humains.

Oui, mais dans l'intitulé du fil, il est question de machines qui pensent, alors on n'en parle pas ?

Les définitions du dictionnaire citées plus tôt ne définissent pas, elles évoquent, elles évoquent quelque chose que le lecteur de la définition connaît déjà.

Là, encore une fois, j'aimerais que ce genre de remarque finisse par faire consensus parce qu'en ce qui me concerne, je m'y retrouve totalement.
Une chose à noter tout de même, aucune qualification relative à l'entité-lecteur de la définition ne peut être présumée.

La définition ne définit pas le concept, elle se contente d'attacher une étiquette (le mot) à un concept déjà connu. Et il est déjà connu par la simple hypothèse que seul un humain va lire et comprendre la "définition".

On dirait que c'est le sujet, non ?
Est-ce que le robot du moteur de recherche est susceptible de "comprendre" la définition qu'il lit ? Sans parler bien entendu de Pi-r2 qui a, lui, toutes les apparences et les expressions du Turing-complet.

Cordiales salutations

[evrardo]

Vous vous enfoncez. Pas d'évolution naturelle, parce que les humains essaient autant qu'ils le peuvent de brider les capacités des machines en programmant de manière contrainte et sans bug.
Mais surtout, une machine capable de diriger une caméra est de recevoir les images recevra des données que les concepteurs n'ont pas prévu. De même que moi disposant de cette interface texte sur internet je peux lire des propos qui n'étaient pas prévu par mes concepteurs.

C'est très juste, mais la différence, et elle est de taille, c'est que l'ordinateur recevant ces informations extérieures ne pourra rien faire de plus que ce qu'on a prévu lors de sa programmation. Alors qu'un humain pourra en faire une infinité d'utilisations.

[invitedb5bdc8a]

C'est très juste, mais la différence, et elle est de taille, c'est que l'ordinateur recevant ces informations extérieures ne pourra rien faire de plus que ce qu'on a prévu lors de sa programmation. Alors qu'un humain pourra en faire une infinité d'utilisations.

Prouves-le !
Si tu as suffisamment bridé le programme c'est fort possible, mais si tu as programmé de manière que le programme lui même puisse changer ton affirmation est fausse.

[Les Terres Bleues]

C'est très juste, mais la différence, et elle est de taille, c'est que l'ordinateur recevant ces informations extérieures ne pourra rien faire de plus que ce qu'on a prévu lors de sa programmation.

Peut-être...

Peut-être pas...

Prouve-le !
Si tu as suffisamment bridé le programme c'est fort possible, mais si tu as programmé de manière que le programme lui même puisse changer, ton affirmation est fausse.

Ouh là, cool.

Besoin d'explications. Merci d'avance. Si tu peux fournir d'autres algorithmes simples, je suis preneur.

Mettons que le traitement (je ne sais pas comment ça se fait) des informations collectées permettent de modifier la suite de l'exécution du programme, est-ce suffisant pour dire que la machine pense ?

[invite6c250b59]

Je ne suis pas d'accord ; dans la définition que j'ai donnée, il n'est nulle part mentionné qu'elle est restreinte aux humains.

Pas exactement non, mais sur le même site (cf message mmy) tu as : "esprit : Principe de la pensée et de l'activité réfléchie de l'homme.". Je suppose que les définitions sont compatibles entres elles, et que par "homme" ils veulent parler de la Femme en tant qu'espèce.

Pourquoi souhaites-tu étendre ce concept aux êtres vivants dotés d'un cortex?

c'est pour éviter de me voir opposer bonobos, chiens, chats, dauphins, souris, éléphants...et ratons-laveurs.

Si je te proposais de changer ta définition pour quelque chose de plus opérationnel: "Ne peuvent penser que les êtres à sang chaud pourvus de poils". C'est tout-à-fait identique et cela évite de trépaner nos amis les bêtes pour vérifier s'ils pensent. Vois-tu un inconvénient à cette définition de la pensée?

[invite0e4ceef6]

Bonjour,

Une machine peut-elle penser comme un humain? Je viens de découvrir la vérité, qui commence apparement par Searle*


*je serais curieux de voir sa face quand il lira ça sur conservapedia

Des tas d'article sur le même site. Prévoir un sac en papier en cas de lecture prolongée.

le problème de searl est qu'il pense pouvoir comparer avec un être humain, mais comme nous ne savons pas commet nous pensons, rien ne dit que notre cerveau ne soit pas simplement un chambre de searl fait d'automatisme "aveugle", de micro-process de résolution de problème "complètement" con par eux-même, mais qui mis bout à bout permet d'obtenir des comportement "adéquat" en face de situation complexe, voire imprévue...

en fait searl est lui-même un mecanisme de searl, simplement parcequ'il disserte sur une chose que nul ne comprend parfaitement, soit n'est pas capable de traduire correctement le fonctionnement..

[invite8915d466]

on souligne à très juste titre la nécessité de définir proprement la "pensée" , pour pouvoir répondre, mais on oublie l'autre partie de la question : il faut aussi définir ce qu'est une "machine" (et un "ordinateur" ) non?

pourriez vous donner une définition simple de "machine" qui assure que l'homme n'en est pas une par exemple ? parce que si l'homme est AUSSI une machine, alors la réponse à la question est simple ...

[evrardo]

il me semble quand même que la pensée est avant tout le moyen d'être conscients de nous. Je ne sais pas si certains animaux ont conscience d'eux, en tout cas je ne vois pas comment un ordinateur pourrait être conscient de lui.
Un ordinateur n'est qu'un circuit électrique un peu plus complexe.

[invité576543]

Oui, mais dans l'intitulé du fil, il est question de machines qui pensent, alors on n'en parle pas ?

On peut toujours aligner des mots.

On peut toujours y mettre un sens en les écrivant.

On peut toujours rêver que les lecteurs y verront le même sens.

Donc, oui, on peut en soliloquer, et même en soliloquer à plusieurs.

[invité576543]

Au passage, je tiens à m'excuser pour ne pas participer plus constructivement à cette discussion, mais j'ai participé dans le temps à d'autres discussions sur le sujet, que j'estime plus intéressantes (désolé...), mais qui ont été fermées parce que "filandreuses". Le choix étant entre juste suivre une discussion comme celle-ci et y participer plus et la voir fermée, et que je ne voudrais pas gâcher votre plaisir, la décision est facile...

[invite6a26c75d]

C'est très juste, mais la différence, et elle est de taille, c'est que l'ordinateur recevant ces informations extérieures ne pourra rien faire de plus que ce qu'on a prévu lors de sa programmation. Alors qu'un humain pourra en faire une infinité d'utilisations.

Un chouette contre-exemple de cela, ce sont les réseaux de neurones. Les réseaux de neurones sont des programmes informatiques (qui peuvent tourner sur votre ordinateur de salon) auxquels on apprend des associations stimulus-réponse (je simplifie), et qui sont capables après cette phase d'apprentissage d'associer une "nouvelle" réponse à un "nouveau" stimulus. Les chercheurs en psychologie peuvent s'en servir pour faire de nouvelles hypothèses.

[invite6a26c75d]

psychologique : Qui appartient au psychisme, à son activité, qui le concerne

psychisme : Ensemble, conscient ou inconscient, considéré dans sa totalité ou partiellement, des phénomènes, des processus relevant de l'esprit, de l'intelligence et de l'affectivité et constituant la vie psychique.

esprit : Principe de la pensée et de l'activité réfléchie de l'homme.

pensée : Ensemble des facultés psychologiques tant affectives qu'intellectuelles

psychologique : Qui appartient au psychisme, à son activité, qui le concerne

etc.

(Ces définitions sont celles prises dans l'atilf aussi...)

On s'épuise à essayer de définir ce qu'est la pensée. On en arrive à des définitions circulaires (vive le dictionnaire) dans lesquels un terme est défini par un second terme, lui-même défini relativement au premier...

On devrait plutôt laisser de coté cette définition de la pensée, et s'intéresser à ses manifestations observables. Quelles sont les manifestations observables de la pensée ?

[evrardo]

Au passage, je tiens à m'excuser pour ne pas participer plus constructivement à cette discussion, mais j'ai participé dans le temps à d'autres discussions sur le sujet, que j'estime plus intéressantes (désolé...), mais qui ont été fermées parce que "filandreuses". Le choix étant entre juste suivre une discussion comme celle-ci et y participer plus et la voir fermée, et que je ne voudrais pas gâcher votre plaisir, la décision est facile...

Tu pourrais nous donner ton avis, fruit des discussions sur ces autres questions. Pas sympa ça!

[invite765732342432]

en tout cas je ne vois pas comment un ordinateur pourrait être conscient de lui.
Un ordinateur n'est qu'un circuit électrique un peu plus complexe.

Est-ce que le fait de savoir que son "corps" ne fonctionne pas comme il le devrait, et d'être capable de le réparer (ou de trouver un moyen de contournement) n'est pas un indice de conscience ?
Des robots expérimentaux savent faire cela.

Il existe le parallèle avec le "mental" des ordinateurs: certain antivirus ne fonctionnent pas par signatures, mais détectant les comportements "anormaux" du système. Ca pourrait également être un indice de conscience (ou pas... ce n'est vraiment pas un sujet sur lequel je m'engagerai )

Besoin d'explications. Merci d'avance. Si tu peux fournir d'autres algorithmes simples, je suis preneur.

Les classiques: réseaux de neurones, systèmes experts évolutifs, datamining, etc...
Il est même possible de faire des trucs plus bizarres... mais on va quitter le domaine des "algo simples"

Mettons que le traitement (je ne sais pas comment ça se fait) des informations collectées permettent de modifier la suite de l'exécution du programme, est-ce suffisant pour dire que la machine pense ?

Comme on n'a pas définit ce qu'est la pensée, difficile à dire.
En tout cas, on peut dire que, du point de vue humain, il est facile de faire un robot qui se comporte comme un insecte et qu'il est abordable de faire des robots se comportant comme certains mammifères (rongeurs, voir animaux de compagnie chien/chat)

Si un robot se comporte apparemment comme un chien et si tu estimes qu'un chien pense, alors ce robot pense-t-il ?
Bref, estimes-tu que le comportement extérieur est suffisant pour juger si un être pense ou pas ?

[mh34]

par "homme" ils veulent parler de la Femme en tant qu'espèce.

Ca ne me gênerait pas plus que ça...

Si je te proposais de changer ta définition pour quelque chose de plus opérationnel: "Ne peuvent penser que les êtres à sang chaud pourvus de poils". C'est tout-à-fait identique et cela évite de trépaner nos amis les bêtes pour vérifier s'ils pensent. Vois-tu un inconvénient à cette définition de la pensée?

Pourquoi serait-ce plus opérationnel?
Et oui ça me gênerait ; les oiseaux ont un cortex, non?
Bon, remplaçons le terme "cortex" par le terme de télencéphale, alors...

[invitebdf515f4]

...
Mais ta réponse ("ok mon test était pas bon") est instructive: elle signifie probablement que tu n'acceptes pas qu'une fonction répondant toujours "5" soit capable de penser. Pourtant tu définis que c'est le cas pour une calculatrice. C'est la compréhension de ce que tu vois comme différence entre les deux qui m'intéresse.

J'accepte qu'une fonction répondant toujours "5" soit capable de penser. Mais, je dis juste que je ne pourrais pas en acquérir la conviction avec mon test, je resterai dans le mystère : cette fonction qui dit toujours 5 pense t-elle ? Réponse avec mon test : je ne sais pas. Mon test a le mérite d'être simple, mais il ne faut pas s'y attarder plus que ça : c'est juste un élément pour faire passer simplement mes idées.

Ma thèse est la suivante:
Quitte à définir le verbe de "penser" -habituellement réservée à l'humain- pour une machine, je milite pour une définition basique, proche du verbe "calculer".

Je conçois que cela conduit à avoir beaucoup d'êtres pensants dans la nature et que tout le monde n'adhère pas et trouve que le verbe se trouve "réduit" ... mais, pour le moment, ce serait ma meilleure proposition.

Après, chacun sa conviction: puisque nous sommes en train d'essayer de définir le mot "penser" pour une machine ... personne ne peut avoir raison ni tort ! Il y a juste des propositions qui paraîtront plus acceptables à certains et moins à d'autres ... il n'y a pas de vérité ici.

[Les Terres Bleues]

On devrait plutôt laisser de coté cette définition de la pensée, et s’intéresser à ses manifestations observables. Quelles sont les manifestations observables de la pensée ?

Peut-être que le seul moyen d’éviter les définitions circulaires parce que systématiquement posées dans l’absolu, autant en ce qui concerne le terme de "pensée" que celui de "sujet pensant" (humain, machine ou animal), sans basculer aussitôt dans d’autres définitions circulaires concernant cette fois les manifestations observables d’une pensée non-encore définie (comportement, calcul ou quoi que ce soit de cet ordre-là), serait d’opter pour des définitions 100 % relatives entre les deux, et du coup tout problème s’évaporerait automatiquement.

Objet observé ou concept élaboré <--> Étiquetage correspondant.

Ce qui donnerait :
— description d’une entité-lecteur <--> concept d’entité-lecteur,
— description de l’action de calculer <--> concept de calcul,
— description d’un cortex de dauphin <--> concept de cortex de dauphin,
— etc.

Ainsi, plus besoin de savoir si une machine pense, mais juste de préciser le sens associé à l’étiquette machine (ordinateur, robot, corps humain etc…), et en même temps, le sens attribué à l’action de penser (calculer, mettre en relation ou trouver des solutions…).

Et ça marche pour tout, y compris pour les ratons-laveurs.

Cordiales salutations.

[invite6c250b59]

le problème de searl est qu'il pense pouvoir comparer avec un être humain, mais comme nous ne savons pas commet nous pensons, rien ne dit que notre cerveau ne soit pas simplement un chambre de searl fait d'automatisme "aveugle", de micro-process de résolution de problème "complètement" con par eux-même, mais qui mis bout à bout permet d'obtenir des comportement "adéquat" en face de situation complexe, voire imprévue...

Oui c'et la critique classique, ce que Searle appelle le "system reply". Sa réponse est ici. Voir aussi le commentaire à ce sujet du reviewer A.

[invite6c250b59]

on souligne à très juste titre la nécessité de définir proprement la "pensée" , pour pouvoir répondre, mais on oublie l'autre partie de la question : il faut aussi définir ce qu'est une "machine" (et un "ordinateur" ) non?

Marrant j'ai failli faire un commentaire sur le fil esprit vs. matière: l'esprit je vois à peu près de quoi on parle, par contre la matière... plus j'en apprend moins je comprend ce que c'est. une définition de matière SVP?

[invite6c250b59]

les oiseaux ont un cortex, non?

Ok modifions: "ne peuvent penser que les êtres vivant à sang chaud avec des poils ou des plumes".

C'est plus opérationnel parce que cela me permet de savoir si un animal pense par un examen superficiel, alors que ta définition m'oblige à lui enlever le crane pour vérifier s'il a un cortex ou un télencéphale. est-ce que cette définition te satisferait?