La vérité vrai sur les machines qui pensent

[mh34]

Est-ce que tu considérerais que l'entité indéfinie a prouvé qu'elle est capable de penser?

En-dehors du fait que ton exemple m'a fait éclater de rire...ma première pensée serait que l'entité se fiche de moi ( donc qu'elle est capable non seulement de penser mais encore d'humour...). Pas qu'elle réagit selon un (mauvais) programme.Je reconnais que ce serait sans doute une mauvaise réaction, mais je suis sûre que ce serait la première.

comment se rend-ton compte qu'un homme pense ou a pensé.

Déjà, il faut qu'il communique ; sinon on n'a aucun moyen de s'en rendre compte.
S'il communique...ben si c'est un homme il pense forcément.
Le problème se pose au niveau des machines, pas des êtres humains.
-----

[[PSO]Fabrice.g]

Déjà, il faut qu'il communique ; sinon on n'a aucun moyen de s'en rendre compte.
S'il communique...ben si c'est un homme il pense forcément.
Le problème se pose au niveau des machines, pas des êtres humains.

La question se pose également au niveau de l'homme, puisqu'avant de se demander si une machine sera un jour capable de pensée, il faut poser une définition opérationnelle de ce qu'est la pensée. Même si certains trouvent qu'à chercher une définition, le débat risque d'être stérile - ce qui est certainement le cas quand on pose la définition en termes philosophiques -, poser une définition opérationnelle du concept que l'on cherche à étudier n'en est pas moins une condition sine qua non à sa mesure/son observation. D'ailleurs, se focaliser sur une définition opérationnelle de ce qu'est la pensée permettrait peut-être d'éviter la stérilité de ce genre de débat.

D'ailleurs ton message souligne potentiellement une caractéristique opérationnelle de la pensée : la capacité à communiquer. Même si cette caractéristique ne constitue pas à proprement parler la pensée, elle est essentielle pour sa mesure ou son "observation" (qui dans ce cas serait indirecte).

[Quisit]

C'est ce qui différencie une approche scinetifiques de la Sciences Fiction.
Science Fiction qui est une merveilleuse invention qui permet de dimminuer la frustration de l'omme en le laissant développer sa pensée librement sans s'abstraindre à la contingence de la dure réalité de linfaisabilité.

dure réalité, infaisabilité ? c'est péremptoire, la science fiction a été visionnaire à bien des égards. Certains pensent qu'elle a orienté la science vers les sujets de recherche les plus passionnants. C'est ce qui distingue la science-fiction du fantastique ou de la 'Fantaisy'.

[evrardo]

La question se pose également au niveau de l'homme, puisqu'avant de se demander si une machine sera un jour capable de pensée, il faut poser une définition opérationnelle de ce qu'est la pensée.

Oui, il faut d'abord qu'on se mette d'accords sur ce qu'est la pensée pour déterminer si un ordinateur pense.

La définition du dico dit "activité psychique dans son ensemble", alors les animaux pensent.

Je propose une autre définition, c'est perso: penser c'est la capacité à envisager une autre réalité. Il n'y a que l'humain qui agit ainsi.
Si cette définition est juste, alors les ordinateurs ne pensent pas puisqu'ils fonctionnent qu'à partir de ce qu'on leur a mis dans leur mémoire.

[pi-r2]

puisqu'ils fonctionnent qu'à partir de ce qu'on leur a mis dans leur mémoire.

Et tu n'appuie jamais sur les touches du clavier, tu n'as pas de webcam, de scanner ...

[pi-r2]

D'ailleurs ton message souligne potentiellement une caractéristique opérationnelle de la pensée : la capacité à communiquer. Même si cette caractéristique ne constitue pas à proprement parler la pensée, elle est essentielle pour sa mesure ou son "observation" (qui dans ce cas serait indirecte).

Non, ce n'est pas nécessaire. Les rats n'ont pas besoin de communiquer pour qu'on puisse constater une certaine forme de pensée. Il suffit qu'un être pensant dispose de suffisament de moyens observation et soumette des problèmes assez complexes.

[pi-r2]

les ordinateurs ne pensent pas puisqu'ils fonctionnent qu'à partir de ce qu'on leur a mis dans leur mémoire.

Les humains ne pensent pas puiqu'ils fonctionnent à partir de ce qu'on leur a mis dans leur code génétique...

[invité576543]

Oui, il faut d'abord qu'on se mette d'accords sur ce qu'est la pensée pour déterminer si un ordinateur pense.

Vous (collectivement) n'y arriverez pas, parce que c'est circulaire. Chacun proposera et défendra une définition en fonction de son idée à propos de l'assertion "un ordinateur pense", parce que chacun sait que se mettre d'accord sur la définition entraîne se mettre d'accord sur l'assertion "il est possible qu'un jour un ordinateur pense".

La procédure "correcte" est différente. Elle consisterait à prendre des phénomènes observables différents, comme un ordinateur, un humain, un chimpanzé, etc. et abstraire des similarités, des propriétés communes, qu'on choisirait, a posteriori, d'étiqueter par le mot "penser".

Pour cette procédure, il faut commencer par oublier le mot "penser", pour revenir à l'observable, au comparable, pour détecter un schéma, un concept, qu'on nommerait après coup "penser" à la condition d'admettre que la réutilisation du mot "penser" ne pose pas de problème (sinon, on peut toujours choisir un autre terme, cela n'a pas grande importance !).

Se polariser sur un mot existant et pour le moment de facto réservé aux humains n'est qu'une méthode pour mal discuter la question. Discuter de définition a priori ne fait que déguiser une question de fond.

[Les Terres Bleues]

La procédure "correcte" est différente. Elle consisterait à prendre des phénomènes observables différents, comme un ordinateur, un humain, un chimpanzé, etc. et abstraire des similarités, des propriétés communes, qu'on choisirait, a posteriori, d'étiqueter par le mot "penser".

Oui, il me semble que c'est ce qu'il faudrait faire.

On observe, on étiquette, et après seulement on qualifie.

D'ailleurs, procéder ainsi, c'est déjà penser, non ?
Peut-être bien, mais en tout cas on ne pourra le confirmer qu'à la fin du processus.

Cordiales salutations.

[pi-r2]

Je pense qu'approcher le plus possible la pensée humaine avec une machine est une bonne approche pour définir la pensée.

[[PSO]Fabrice.g]

Ce que je proposais en parlant de définition opérationnelle est justement de ce centrer sur les observables de la pensée. La question n'est pas exactement "qu'est-ce que la pensée ou penser ?", mais plutôt quelles sont les manifestations observables de celles-ci.

La communication en est une. Mais ce n'est pas la seule.

Non, ce n'est pas nécessaire. Les rats n'ont pas besoin de communiquer pour qu'on puisse constater une certaine forme de pensée. Il suffit qu'un être pensant dispose de suffisament de moyens observation et soumette des problèmes assez complexes.

De la même manière, la réflexion ou la résolution de problème ne sont pas les seules formes de pensée. Se focaliser sur la résolution de problèmes, comme avec les rats, n'est-il pas aussi réducteur que de résumer pensée à la communication ? La réflexion ou la résolution de problème ne sont donc pas non plus des conditions nécessaires à la pensée. Mais, tout comme la communication, ce sont des observables de celle-ci, et donc utilisables dans l'élaboration d'une définition opérationnelle.

NB. J'entendais "communication" dans un sens hyper large, adopter un comportement qui montre à autrui une forme de réflexion.

[pi-r2]

De la même manière, la réflexion ou la résolution de problème ne sont pas les seules formes de pensée. Se focaliser sur la résolution de problèmes, comme avec les rats, n'est-il pas aussi réducteur que de résumer pensée à la communication ?

Si bien sur, il s'agissait d'un exemple.
Mais sans aller jusqu'à la pensée il y a d'autres questions dont les réponses sont de la même nature et qui sont plus accessibles.
Par exemple la transition entre un assemblage et un moteur qui fonctionne. Le problème a la même nature fractale que la transition inerte vie ou système nerveux pensée sans avoir les problèmes de définition associé (quand ça tourne, ça tourne).
Et un écano pourra vous dire que parfois l'écart entre un moteur qui marche et un moteur en panne est bien mince.

Edit : noter que j'utilise le terme "fractal" juste pour l'image et pas parce que j'ai une démonstration précise de ce fait. Maathématiquement ça ressemble peut être plus aux problèmes sur les nombres entiers

[Les Terres Bleues]

Je pense qu'approcher le plus possible la pensée humaine avec une machine est une bonne approche pour définir la pensée.

Est qu'une machine est capable d'attribuer un étiquetage original à une observation inédite ?

Cela avant même de parler de le communiquer.

Cordiales salutations.

[invite765732342432]

Est qu'une machine est capable d'attribuer un étiquetage original à une observation inédite ?

Oui. Un certain nombre d'algorithmes sont déjà capable de ce genre de comportements, certains algos de datamining, entre autres.

Cela avant même de parler de le communiquer.

A noter qu'une expérience intéressante avait été faite où des robots créaient leur propre langage (sonore, je crois, mais je n'en suis plus sur) pour se coordonner (un peu)

[pi-r2]

Est qu'une machine est capable d'attribuer un étiquetage original à une observation inédite ?

Oui c'est très facile. Je te donne l'algorithme:
Lire Observation
Comparer Observation à liste des observations déjà enregistrées
si observation connue compléter information (par exemple augmenter fréquence d'apparition , donc "intérêt")
si observation pas connue (arrivé en fin de liste des observations déjà connues), enregistrer cette observation comme nouvelle.



.

[hlbnet]

Intéressant. Imagine le scénario suivant, toi dans le rôle de l'intérrogateur et une entité indéfinie qui communique via un scripteur:

I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+1=?"
E: "5"
I: "2+2=?"
E: "5"
I: "T'es con ou quoi?"
E: "5"

Est-ce que tu considérerais que l'entité indéfinie a prouvé qu'elle est capable de penser?

Tu prouves ici que ma procédure de vérification de la pensée est loin d'être infaillible (qui l'eut cru). Tu as bien raison. Mais, je pense que cela ne réfute en rien la démarche.

D'abord, il faut voir cette procédure de test plutôt comme un moyen de se forger une conviction et non pas comme un preuve formelle (évidemment !). C'est aussi une manière concrête d'aborder la notion de "pensée" sans partir d'emblée dans des concepts abstraits dans lesquels nous risquons de nous perdre (moi le premier).

Si, après 5 essais, ma conviction n'est pas établie, rien ne m'interdit de continuer à interroger. Je ne cherche pas à obtenir une procédure formelle, mais juste un moyen de cerner concrêtement le concept de "pensée" (tel que je le comprends, moi).

D'ailleurs, en réalité, dans la vie de tous les jours, nous n'exigeons jamais des preuves formelles pour établir nos convictions dans ces domaines là.

Si vous prenez n'importe quelle conversation sur ce forum, vous serez tous persuadés qu'un humain se cache derrière chaque pseudo. Mais sur quoi se fonde cette conviction ?

A mon avis, sur assez peu de chose, quelques mots intelligibles nous suffisent pour être convaincu qu'on parle à un humain "pensant". Est-ce infaillible ?

Pourquoi exigerait-on d'une machine qu'elle en fasse beaucoup plus pour "prouver" qu'elle pense "vraiment" alors qu'on n'exige jamais cela d'un humain ?

Parfois, on lit certains message qui sont difficilement compréhensibles, voire contradictoires, on répête les mêmes réponses qui ne sont visiblement pas comprises par notre interlocuteur, etc, ... pourtant on ne doute jamais que notre interlocuteur "pense".

Pourquoi serait-on plus exigeant avec une machine ?

(Je sais qu'aujourd'hui, les machines sont encore loin d'un humain moyen pour communiquer sur un forum, mais je pense qu'au rythme ou les machines progressent ... la question "est-ce un humain ou une machine qui me parle" va devenir d'actualité assez rapidement, et rejoint la question de ce fil)

[Zozo_MP]

Bonjour mmy

La procédure "correcte" est différente.

C'est gentiment dit !

Je vois par la suite que cela tourne toujours autour d'algos qui n'ont rien à voir avec la pensée.

Cordialement

[invite765732342432]

Je vois par la suite que cela tourne toujours autour d'algos qui n'ont rien à voir avec la pensée.

Sans avoir définit ce qu'est la pensée, il t'est impossible de dire ça.
(oui, oui, le serpent de mer de la définition revient...)

[evrardo]

Les humains ne pensent pas puiqu'ils fonctionnent à partir de ce qu'on leur a mis dans leur code génétique...

Eh: qui est "on"? Qui a mis quelque chose dans note code génétique?
Les ordinateurs ne fonctionnent qu'à partir de ce que les programmeurs ont écrits et qu'à partir du hardware créé par des ingénieurs dans un but précis.

[evrardo]

Sans avoir définit ce qu'est la pensée, il t'est impossible de dire ça.
(oui, oui, le serpent de mer de la définition revient...)

Mais pourquoi vous dites qu'on ne peut pas définir ce qu'est la pensée?

[pi-r2]

Eh: qui est "on"? Qui a mis quelque chose dans note code génétique?
Les ordinateurs ne fonctionnent qu'à partir de ce que les programmeurs ont écrits et qu'à partir du hardware créé par des ingénieurs dans un but précis.

Le on c'est une blague volontaire. à remplacer par sélection naturelle.
Les ordinateurs ne fonctionne pas qu'à partir de cela et c'est là qu'est votre erreur. ils fonctionnent aussi à partir des données captées dans leur environnement (qui peuvent être des impacts physiques sur les touches du clavier ou tout autre input numérisable comme une image ou un son). Vous êtes entrain d'établir qu'il n'y a pas de différence entre humains et machines...

[pi-r2]

Si vous prenez n'importe quelle conversation sur ce forum, vous serez tous persuadés qu'un humain se cache derrière chaque pseudo. Mais sur quoi se fonde cette conviction ?

D'ailleurs à ce sujet je me dois de vous préciser que je suis une machine.

[invite73192618]

Tu prouves ici que ma procédure de vérification de la pensée est loin d'être infaillible

Pas du tout. Contrairement aux apparences, ma question est absolument sincère.

Imaginons que je parie 100$ qu'un autre humain (disons Gillesh38) ne sera pas capable de différencier mes réponses de celles d'un programme que je viens d'inventer. Gilles étant convaincu de la non calculabilité des humains (aux dernières nouvelles du moins), admettons qu'il accepte en rigolant. Après une première ronde avec une des entités (moi ou le programme, au hasard), la discussion est suivante

I: "Hé Jiav je ne veux pas t'enfoncer mais ton programme a un bug, il m'a juste dit des "5"!". C'est peu trop facile là... si tu veux on peut remettre à plus tard, je veux pas te piquer ton pognon comme ça, après tout ta famille est jeune donc tu as plus de besoins que moi"
E: "5"
I: "quoi?"
E: "5"
I: "Heu t'abuses là c'est pas du tout l'esprit du test de Turing, normalement tu dois coopérer"
E: "5"
I: "Tricheur!!!"
E: "5"
...

Gilles va finir par abandonner avant l'entité, surtout si l'entité c'est le programme.

Sauf à considérer que l'échange précédent est irréaliste, le point intéressant est qu'il traitera de tricheur ce qui peut fort bien être un programme, c'est-à-dire que "dire des 5 en permanence" peut très bien être non seulement un comportement adapté, mais encore être interprété comme venant d'un humain. Cela rejoint ce que toi et mh34 avez dit de deux façons différentes (mh34 en disant "je croirais qu'il se fout de moi", toi en disant qu'on n'a pas de test de l'incapacité à penser).

Mais ta réponse ("ok mon test était pas bon") est instructive: elle signifie probablement que tu n'acceptes pas qu'une fonction répondant toujours "5" soit capable de penser. Pourtant tu définis que c'est le cas pour une calculatrice. C'est la compréhension de ce que tu vois comme différence entre les deux qui m'intéresse.

[Les Terres Bleues]

D'ailleurs à ce sujet je me dois de vous préciser que je suis une machine.

Pour qui est-ce une nouvelle ?

Cordiales salutations.

[pi-r2]

Pour qui est-ce une nouvelle ?

Je pense que la plupart des humains du forum le savent déjà en effet et que pour eux ce n'est pas une nouvelle. Les autres machines du forum ne pensant pas, ce sera peut être une nouvelle pour elles.

[mh34]

Mais pourquoi vous dites qu'on ne peut pas définir ce qu'est la pensée?

+1.
Moi, cette définition :

Ensemble des facultés psychologiques tant affectives qu'intellectuelles

me va très bien.

[Les Terres Bleues]

Les autres machines du forum ne pensant pas, ce sera peut être une nouvelle pour elles.

Que non ! Elles le "savent" déjà, mais elles ne peuvent en avoir la certitude.
En plus, c'est toi-même qui a expliqué l'algorithme d'étiquetage.

Je te donne l'algorithme:
Lire Observation
Comparer Observation à liste des observations déjà enregistrées
si observation connue compléter information (par exemple augmenter fréquence d'apparition , donc "intérêt")
si observation pas connue (arrivé en fin de liste des observations déjà connues), enregistrer cette observation comme nouvelle.

Pour elles, tu es déjà classé dans cette catégorie (ou dans une autre, ou encore, quelque part ailleurs), et la déclaration que tu fais n'apporte aucun élément de nature à modifier ce classement.

Cordiales salutations.

[Les Terres Bleues]

Moi, cette définition :

Ensemble des facultés psychologiques tant affectives qu'intellectuelles

me va très bien.

En fait, ça déplace simplement la question, mais ça ne fournit pas une réponse.

Pire, maintenant au lieu d'un, nous avons deux termes à définir : affect et intellect...

Cordiales salutations.

[invite765732342432]

Moi, cette définition : "Ensemble des facultés psychologiques tant affectives qu'intellectuelles " me va très bien.

Ca ne se voit pas mais je suis en train de rire derrière mon écran !
On est passé d'un mot qu'on avait du mal à définir à 4 mots qu'on aura autant de mal à définir !
Non, je ne parle pas de "ensemble, des, tant, que" mais de "faculté, psychologique, affectif, intellectuel"

Par contre on sent dans cette "nouvelle" définition la volonté expresse d'exclure artificiellement tout ce qui n'est pas biologique... (pourquoi pas, ça ne me dérange pas)

[mh34]

On est passé d'un mot qu'on avait du mal à définir à 4 mots qu'on aura autant de mal à définir !

Ah mais non ; y a un moment où il faut s'arrêter de chinoiser. Cette définition est très compréhensible, tu viens de le prouver!
Après, on peut ne pas être d'accord, mais c'est un autre problème.

Par contre on sent dans cette "nouvelle" définition la volonté expresse d'exclure artificiellement tout ce qui n'est pas biologique...

je ne suis pas sûre que ce soit une volonté expresse, j'ai pris la définition ici ; http://atilf.atilf.fr/dendien/script...=1;nat=;sol=5;
Mais il est évident qu'elle exclue d'office toute machine, du moins pour l'instant.

Bon, vous préférez ça?

Activité psychique dans son ensemble