La vérité vrai sur les machines qui pensent

[invite73192618]

Bonjour,

Une machine peut-elle penser comme un humain? Je viens de découvrir la vérité, qui commence apparement par Searle*

Despite being a humanist, Searle's arguments reflect the popular religious thought that creation can never be as great as the Creator. Thus, his conclusions are self-evident truth to any theist, as a machine is simply a metal object. To claim that metal can or could think is patently ridiculous.

Artificial intelligence was most popular between the 60's and the 80's, when computers were still new and misunderstood. Notably the homosexual Alan Turing, who shortly thereafter committed suicide, was responsible for much of the fever of attempting to create intelligent computers, with his publication of the paper proposing the Turing Test. This fever quickly subsided, when it was proven, predictably, that AI was impossible.

The field is now divided into several sub-branches, which attempt to recreate some of the features and abilities of the human mind, without assuming that the features such as real intelligence, understanding or emotions are in any way possible for a computer.

*je serais curieux de voir sa face quand il lira ça sur conservapedia

Des tas d'article sur le même site. Prévoir un sac en papier en cas de lecture prolongée.
-----

[mh34]

J'ai pas tout compris ( évidemment...) : en-dehors du fait qu'ils qualifient d'entrée de jeu Turing par son orientation sexuelle, (ce qui déjà donne le ton) sont-ils ou non d'accord avec Searle? D'après ce que j'ai lu de lui ( petite recherche rapide qui m'amène évidemment à Wiki...) , ce serait un des "pionniers" de la théorie de l'émergence, qui voudrait que

-------- il y a continuité et non dualité entre le corps et l'esprit. L'esprit naîtrait d'une complexification croissante du corps et plus particulièrement du système neuronal.

Je trouve ça plutôt pas mal vu...

p.s : le sac en papier est un accessoire utile effectivement!

[invite9cd736bc]

il y a continuité et non dualité entre le corps et l'esprit. L'esprit naîtrait d'une complexification croissante du corps et plus particulièrement du système neuronal.

Il y a une contradiction de les termes même de machine-qui pense, du fait que la capacité à penser, justement ne correspond pas un simple mécanisme, même si elle repose, sur certains mécanismes.

La pensée, permet justement aux humains d'inventer de nouvelles manière d'agir, et donc de se différentier d'un simple mécanisme.

De ce fait il existe bien une dualité entre le corps et l'esprit et même temps qu'une relation d'inter-dépendance.

L'esprit ne peut exister sans le corps, néanmoins le corps peut-être altéré, sans que cela nuise nécessairement à la faculté de penser.

Cordialement,

[invite73192618]

sont-ils ou non d'accord avec Searle?

Je ne suis pas dans la tête de nos reality challenged friends, mais ma compréhension est que

C'est une théorie diabolique qui conduit au suicide. Même un mécréant (Searle) admet qu'elle est fausse. D'ailleurs elle n'existe plus.

ce serait un des "pionniers" de la théorie de l'émergence

Pas que je sache. Amha c'est même un contre-sens complet, la conscience étant selon Searle un phénomène irréductible. Cf ici
attention ce site aurait un biais gauchiste

[A voir en vidéo sur Futura]

[Eurole]

Il y a une contradiction de les termes même de machine-qui pense, du fait que la capacité à penser, justement ne correspond pas un simple mécanisme, même si elle repose, sur certains mécanismes.
La pensée, permet justement aux humains d'inventer de nouvelles manière d'agir, et donc de se différentier d'un simple mécanisme.
De ce fait il existe bien une dualité entre le corps et l'esprit et même temps qu'une relation d'inter-dépendance.
L'esprit ne peut exister sans le corps, néanmoins le corps peut-être altéré, sans que cela nuise nécessairement à la faculté de penser.
Cordialement,

Bonjour à tous.
Le problème de la « machine qui pense » est beaucoup plus ancien que l’ordinateur.
Je me souviens d’une femme, désolée des lacunes de sa fille, qui décida de lui acheter une machine à écrire afin qu’elle ne fasse plus de fautes d’orthographe.
Elle avait au moins le sens de la gravité des fautes d’orthographe …

Quand l’informatique s’est développée sous la forme des ordinateurs individuels, ces ordinateurs étaient considérés comme des dieux. J’ai alors décidé d’apprendre la programmation au CAREL de Royan, ce qui m’a permis de comprendre cette machine.
Parmi les élèves se trouvait un artisan de Rochefort sur mer qui venait d’acheter un PC – une fortune, 30000 euros d’aujourd’hui – et en même temps avait licencié sa secrétaire. Le malheureux a vite abandonné les cours et a déposé son bilan.

Qu’est-ce que la pensée chez un humain ? On entend rarement cette question.

[invite11926ea9]

Bonsoir,

Dire que les créations ne surpasseront jamais leur créateur, c'est penser d'emblée que le créateur est supérieur, et pourquoi pas parfait.

Si on admet un tel préjugé, alors oui les machines ne dépasseront jamais l'humain (qui les a créées).

Cependant, si ce préjugé est abandonné, et il existe nombre d'arguments en ce sens, pourquoi la pensée "humaine" serait-elle un aboutissmement idéale, une perfection vers laquelle tendre?
Rien ne le laisse supposer.

Ainsi, une machine pourrait tout à fait atteindre le niveau imparfait de la pensée humaine ... pour dire qu'il puisse y avoir un dépassement il faudrait se baser sur une échelle de comparaison. Mais quels critères choisir? Le bien, le mal, le nombre d'opérations par seconde, etc ...

Aucune comparaison n'est possible puisque les humains ne raisonnent pas uniquement, ils ressentent aussi.

A voir la difficulté que nous avons à assurer notre propre survie, l'obectivité n'est pas notre fort.
Donc tant que les humains ne sont pas objectifs (cela est établit depuis longtemps par la psychologie cf. préjugés et stéréotypes) et / ou que les machines ne comportent pas une part d'irrationnalité, comment comparer ?

[pi-r2]

du fait que la capacité à penser, justement ne correspond pas un simple mécanisme, même si elle repose, sur certains mécanismes.

Cette affirmation mériterait une démonstration

[hlbnet]

Affirmer qu'une machine ne peut pas acquérir les mêmes compétences, fonctions, capacités, qu'un humain me semble être d'une vanité extrême. C'est se prendre pour un être suprême, au dessus de la nature, au dessus de la matière.

Les hommes ne sont-ils pas un assemblage de matière ?

Pour comparer les capacités de l'homme à celles d'une machine, il faut définir des expériences concrêtes permettant de faire cette comparaison de manière objective. Sinon, cela restera toujours dans le domaine subjectif comme "une machine ne rêve pas", ou "une machine ne peux pas aimer" ... suivi d'un "évidemment" plutôt frustrant.

Pour ma part, je ne vois pas qu'elle capacité mesurable du cerveau humain serait définitivement inaccessible à une machine.

Je ne vois pas quelle serait la loi de la nature qui expliquerait cette "supériorité de l'esprit humain" par rapport à toute matière artificielle ?

[Zozo_MP]

Bonjour

Tant que l'on n'en reste au niveau du vocabulaire et des affirmations péremptoires on peut parler d'arrogance.

Par contre si l'on parle au présent et vraisemblablement pour les 20ans à venir beaucoup de vrais scientifiques et les techniciens de toutes les disciplines pensent que la machine à cet horizon là ne dépassera pas l'homme.

Une machine peut faire mieux : comme les ordinateurs pour faire une tache précise ou un robot ou une machine à commandes numériques. Mais elle est incapable d'apprendre des choses complexes et simultanément, de raisonner.
Pour arriver à battre un joueur d'échec il à fallu construire une machine spéciale mais qui en dehors des échecs et plus stupide qu’un enfant de deux ans. Même si on lui apprenait le mot TROU elle serait incapable de faire la différence entre : un trou taraudé au pas gaz, un trou de golf , un trou de mémoire, un trou noir ou un anus et même un trou lala itou.
Je ne parle même pas de traductions automatiques ou d'IA.

Le tout est d'abord de dire de quoi on parle et quelles sont les limites que l'on donne à son affirmation et surtout des sources scientifiques fiables.

Sinon nous ne sommes pas dans une démarche scientifique vocation de ce forum rappelons-le.
Je rajoute qu'en plus nous sommes dans le forum neuropsychologie et psychologie. Ce fil ne répond à aucun de ces deux critères puisqu'il s'agit de "machines" dans le titre.

Donc soit le fil conserve un peu de tenue et il reste ouvert sinon il n'a pas de raison de rester ouvert très longtemps au titre de vérité vraie il passera tout vert et sera fermé sans préavis..


Cordialement


.

[invite11926ea9]

Bonsoir,

Zozo je vais me permettre 2 remarques :

1) le titre du fil comprend aussi "pensent" et la pensée est bien un domaine d'étude des neurosciences et de la psychologie qui tentent d'en appréhender les fondements (pour ne pas écrire mécanismes).

2) il aurait été préférable de ne pas répondre au fil avant de lancer un avertissement de fermeture ... sinon, cela démontre bien un intérêt pour le fil, alors pourquoi répondre pour ensuite priver les autres d'expression ?

Concernant le jeu d'échec et la fameuse bataille, ce n'est pas la machine qui était "spéciale" mais la programmation, c'est elle qui a guidé toute la conception : besoin en mémoire, stratégie de jeu, etc. Le crédit de la victoire revient bien aux programmeurs, aux humains donc et non à la machine.

Au plaisir ...

[invite73192618]

Même si on lui apprenait le mot TROU elle serait incapable de faire la différence entre : un trou taraudé au pas gaz, un trou de golf , un trou de mémoire, un trou noir ou un anus et même un trou lala itou.

A la première lecture j'ai cru que c'était du premier degré, surtout avec l'intervention en vert. Tu devrais prévenir quand tu pastiches conservapedia! En tout cas t'es un sacré farceur, c'est vraiment ressemblant

Pour ma part, je ne vois pas qu'elle capacité mesurable du cerveau humain serait définitivement inaccessible à une machine.

Tout ce qu'on peut mesurer est effectivement calculable, ne serait-ce que par une simple table look-up qui contient les mesures. Un gars comme Penrose le reconnait, puis dit que ce qui compte est d'être capable de prédire cette table à l'avance (ce qui fait du sens, mais pas le sens de la calculabilité donc...).

Mais cela amène la question sur le terrain de la complexité: y-a-t-il quelque chose que l'on peut mesurer mais qu'un cerveau mécanique (au sens de la mécanique classique donc machine de Turing traditionnelle) ne peut calculer de façon efficace? Absolument: les zéro knowledge proof permettent de montrer que quelqu'un a une puissance de calcul supérieur à la mécanique classique (et quantique aussi), i.e. que pour le calculer il faut disposer de ressources supérieures à la quantité d'information présente dans l'univers observable. Il est donc possible de mesurer une propriété qui n'est pas calculable en pratique , même si je ne pense pas qu'on verra cela demain matin au petit déj.

[pi-r2]

Il est donc possible de mesurer une propriété qui n'est pas calculable en pratique

Mais est-ce que ce critère permet de distinguer les capacités humaines des capacités des machines de Turing ?

[pi-r2]

Concernant le jeu d'échec et la fameuse bataille, ce n'est pas la machine qui était "spéciale" mais la programmation, c'est elle qui a guidé toute la conception : besoin en mémoire, stratégie de jeu, etc. Le crédit de la victoire revient bien aux programmeurs, aux humains donc et non à la machine.

En effet, donc je si programme sur cette machine un générateur de code aléatoire et que je reboote la machine quand je constate que ce code ne fonctionne pas, j'ai une probabilité (très) faible mais non nulle de tomber justement sur ce programme qui lui permet de gagner aux échecs. . Cette probabilité devient une certitude si je dispose de suffisamment de temps.

[Zozo_MP]

Bonjour Shaman

1) le titre du fil comprend aussi "pensent" et la pensée est bien un domaine d'étude des neurosciences et de la psychologie qui tentent d'en appréhender les fondements (pour ne pas écrire mécanismes).

Cela me paraît un peu capillotracté comme argument mais admettons à titre didactique.

Dites moi alors combien de machines pensent aujourd'hui, ce qu'elles pensent et surtout comment elles sont en mesures d'exprimer ou de faire comprendre cette pensée. Question pensée la machine de Pascal ne me paraît pas adaptée par exemple.

2) il aurait été préférable de ne pas répondre au fil avant de lancer un avertissement de fermeture ... sinon, cela démontre bien un intérêt pour le fil, alors pourquoi répondre pour ensuite priver les autres d'expression ?

Rien dans ce que j’ai dis montre un intérêt pour ces machines et vous ne vous privez d’ailleurs pas de me reprendre en disant que ce n’est pas la machine mais le programme. Donc si je poursuis sur cette veine sur ce point ce n’est pas vous qui me reprenez mais votre cerveau.

Il est prévu que quand c'est en noir je m'exprime à titre individuel quand c'est en vert c'est au titre de la modération (voire la charte).
En vert c'est pour pas que cette conversation tourne à la discussion de café du commerce. Tant qu'à la privation d'expressions ce n'est pas le sujet d'autant que le fil reste ouvert (sans vert) pour l'instant.

Cordialement

[hlbnet]

Tant que l'on n'en reste au niveau du vocabulaire et des affirmations péremptoires on peut parler d'arrogance.

Parmis ces deux affirmations, laquelle est péremptoire et arrogante :
A1- Les capacités du cerveau humain ne seront jamais dépassées par la machine.
A2- Dans l'état actuel de nos connaissances, il n'y a rien qui empêche qu'une machine dépasse un jour les capacités du cerveau humain.

Pour ma part, je pense que celui qui affirme A1 doit justifier cette affirmation. Quel élément vérifiable lui permet de d'affirmer cela ? Or, si on n'a aucun élément permettant d'affirmer A1, alors on doit admettre A2 (à moins d'en rester à des affirmations péremptoires et arrogantes).

Par contre si l'on parle au présent et vraisemblablement pour les 20ans à venir beaucoup de vrais scientifiques et les techniciens de toutes les disciplines pensent que la machine à cet horizon là ne dépassera pas l'homme.

A mon avis, cette affirmation est davantage une inuition qu'une certitude. Cette intuition me semble raisonnable : il est très vraissemblable que, dans certaines tâches, les hommes resteront supérieurs aux machines dans 20 ans. Mais je suis aussi convaincu que le nombre de tâches sur lesquelles l'homme conservera l'avantage vont encore se réduire dans les 20 prochaines années.

Une machine peut faire mieux : comme les ordinateurs pour faire une tache précise ou un robot ou une machine à commandes numériques. Mais elle est incapable d'apprendre des choses complexes et simultanément, de raisonner.
Pour arriver à battre un joueur d'échec il à fallu construire une machine spéciale mais qui en dehors des échecs et plus stupide qu’un enfant de deux ans. Même si on lui apprenait le mot TROU elle serait incapable de faire la différence entre : un trou taraudé au pas gaz, un trou de golf , un trou de mémoire, un trou noir ou un anus et même un trou lala itou.
Je ne parle même pas de traductions automatiques ou d'IA.

Sur certaines tâches, les ordinateurs d'aujourd'hui sont incapables de rivaliser avec un humain moyen. C'est clair. Ceci est-il une preuve que les ordinateurs ne dépasseront jamais l'homme sur ces tâches là ?

Le tout est d'abord de dire de quoi on parle et quelles sont les limites que l'on donne à son affirmation et surtout des sources scientifiques fiables.

Bien d'accord.

[hlbnet]

Dites moi alors combien de machines pensent aujourd'hui, ce qu'elles pensent et surtout comment elles sont en mesures d'exprimer ou de faire comprendre cette pensée.

Personne ne peux répondre à cette question, sans avoir précisé comment on vérifie si une machine pense ou non.

Quel critère objectif permet de vérifier qu'une machine pense ou ne pense pas ?

En l'absence de tout contrôle, on peut affirmer péremptoirement qu'une machine ne pense pas, ou bien le contraire.

[Zozo_MP]

Bonjour

Personne ne peux répondre à cette question, sans avoir précisé comment on vérifie si une machine pense ou non.

Quel critère objectif permet de vérifier qu'une machine pense ou ne pense pas ?

Voilà la question qu'il convient de développer. Je vous invite donc à donner des exemples concrets (succincts de préférence).

La deuxième partie de votre message

En l'absence de tout contrôle, on peut affirmer péremptoirement qu'une machine ne pense pas, ou bien le contraire.

ne peut être débattue tant que le premier terme n'est pas défini puisque pour contrôler il faut savoir ce que l'on veut contrôler.

Cordialement

[invite765732342432]

Voilà la question qu'il convient de développer. Je vous invite donc à donner des exemples concrets (succincts de préférence).

On en revient à l'éternel débat sur le sens des mots...
"penser" est un mot fourre-tout que chacun comprend sans savoir le définir précisément.

Avant de se demander si une machine pense, il convient de se demander si un humain pense.
Réponse évidente => oui. Quels sont maintenant les critères qui amène à dire ça ?

Et là on est partit pour quelques dizaines de pages (comme sur le langage des machines/naturel, etc), comme dans toutes les autres discussions très proches qui ont eu lieu précédemment sur ce forum.

[Zozo_MP]

Bonjour

Parmis ces deux affirmations, laquelle est péremptoire et arrogante

Ni voyez aucune attaque ad nominem

Cela allait presque dans votre sens mais vous dites

Affirmer qu'une machine ne peut pas acquérir les mêmes compétences, fonctions, capacités, qu'un humain me semble être d'une vanité extrême. C'est se prendre pour un être suprême, au dessus de la nature, au dessus de la matière.

Ce que je voulais exprimer c'est que du point de vue purement factuel et en l'êtat de nos connaissances actuelles rien ne permet d'établir qu'un sytème appelé ici machine dépassera la pensée de l'homme en laissant ici de coter les systèmes purement computationnels qui sont hors sujet.

C'est ce qui différencie une approche scinetifiques de la Sciences Fiction.
Science Fiction qui est une merveilleuse invention qui permet de dimminuer la frustration de l'omme en le laissant développer sa pensée librement sans s'abstraindre à la contingence de la dure réalité de linfaisabilité.

De plus il convient pas confondre tâches à accomplir et pensée, sinon ce n'est plus le titre du fil de discussion (donc c'est une digression hors sujet).

Restont collectivement centré sur le titre à l'eclusion du reste.


Cordialement

[Zozo_MP]

Bonjour Faith

Nous sommes d'accord sauf que si nous commençions à parler langage (qui est hors sujet dans cette partie du forum), etc, cela ne nous dirait de toute façon stictement rien sur la capacité de ce système à d'une part penser et d'autre part à surtout avoir une pensée évolutive.

Le titre du fil n'est pas "qu'est-ce qu'il faudrait faire pour qu'une machine pense".

Cordialement

[Zozo_MP]

Bonjour Jiav

Tu devrais prévenir quand tu pastiches conservapedia! En tout cas t'es un sacré farceur, c'est vraiment ressemblant

Dois je considérer que c'est une taquinerie ?

Une petite moquerie amicale où !

Cordialement

[invite765732342432]

sauf que si nous commençions à parler langage

Je ne pense pas avoir fait cette proposition.

la capacité de ce système à d'une part penser et d'autre part à surtout avoir une pensée évolutive.

Avant de parler de "pensée évolutive" (je n'ai aucune idée du sens que ça peut avoir), il semble nécessaire de parler de "pensée" (dont je ne connais aucune définition fonctionnelle)
Comment sait-on qu'un homme pense ?

[invite73192618]

Mais est-ce que ce critère permet de distinguer les capacités humaines des capacités des machines de Turing ?

Pas que je sache. Ce protocole détermine si quelque chose (un humain par exemple) a au minimum des capacités physiquement irréalistes, mais il ne précise pas la limite supérieure de la capacité de calcul. Un premier humain capable de jouer parfaitement aux échecs étendus n*n aurait des capacités physiquement iréalistes, et serait capable entre autres de déterminer rapidement n'importe quelle preuve mathématique possible. Mais cela reste des peanuts à côté de la capacité qu'il faut pour se prétendre non calculable.

[invité576543]

il semble nécessaire de parler de "pensée" (dont je ne connais aucune définition fonctionnelle)
Comment sait-on qu'un homme pense ?

Il me semble me rappeler qu'il y a plein de gens sur ce forum qui râlent quand on se lance dans une discussion pour préciser le sens de mots comme "penser", etc.

Ceci dit, je pense que changer d'avis après réflexion est plutôt quelque chose de positif, certainement pas quelque chose à reprocher.

[invite765732342432]

Ceci dit, je pense que changer d'avis après réflexion est plutôt quelque chose de positif, certainement pas quelque chose à reprocher.

Je dis juste que cette discussion est condamnée d'avance, comme toutes les autres, rien d'autre, ne te méprends pas.

[Zozo_MP]

Bonjour Faith

Je me référais uniquement à ça

quelques dizaines de pages (comme sur le langage des machines/naturel, etc), comme dans toutes les autres discussions très proches qui ont eu lieu précédemment sur ce forum

Mais ce n'est pas important.


Par contre ce que tu dis ici

Comment sait-on qu'un homme pense ?

me paraît être un bon point de départ.

Ce n'est pas facile car il y a un coté autoréférentiel pour celui charger de définir ça. Celui-ci étant ici un être humain menant une réflexion sur ce sujet et qui sait depuis longtemps que lui et ses congénères sont capable de penser.

Je propose pour tirer le fil fécond que tu proposes de partir du mot "sérinpidité" qui est moins utilisé que "pensée, penseur" . Dis autrement plutôt de partir du symptome qui serait comment se rend-ton compte qu'un homme pense ou a pensé.

Cordialement

[invite765732342432]

Je propose pour tirer le fil fécond que tu proposes

Comme dis précédemment, je pense (d'expérience) que ce fil sera stérile. Mais j'en resterai un fervent lecteur, sans trop y participer.

de partir du mot "sérinpidité" qui est moins utilisé que "pensée, penseur" . Dis autrement plutôt de partir du symptome qui serait comment se rend-ton compte qu'un homme pense ou a pensé

Très bonne idée. J'espère que ça amènera un résultat !

[invité576543]

sérinpidité ? Je ne connais pas ce terme en français.

Je connais "sérendipité", calque de l'anglais serendipity, mais je ne vois pas du tout le rapport entre le concept correspondant et le sujet.

[hlbnet]

Si je demande à un humain :
"Combien font X plus Y ?" (en remplaçant X et Y par deux nombres entiers quelconques)

Et qu'il me répond :
"Cela fait Z."

Et que Z est effectivement égal à la somme mathématique de X et Y, alors, je considère que l'homme a été obligé de "penser" pour me répondre.

Pour moi, ce test est une preuve suffisante (à condition de le répéter disons, 5 fois, pour éviter le coup de bol), pour affirmer "l'homme pense". Bien sur, il pourrait y avoir beaucoup d'autres tests dans le même genre, mais celui-ci me semble suffisant.

Si l'homme ne me réponds pas, ou bien s'il me répond un truc incompréhensible pour moi du genre "I don't speak french" ou "Smurlf", ou bien s'il me répond un nombre qui n'est pas la somme X+Y, je ne concluerais rien du tout (je ne concluerais ni qu'il pense ni qu'il ne pense pas). Pour le moment, je ne connais pas de test permettant de prouver qu'un humain ne pense pas.

Avec ce critère, vous comprendrez que pour moi, un ordinateur pense. Pour moi, même une calculette à quatre opérations pense.

Je ne suis pas philosophe du tout, je n'y ai pas réfléchi plus de 5 minutes. Je suis tout à fait prêt à évoluer si quelqu'un a des arguments convainquants me permettant de me rendre compte de mes erreurs.

[invite73192618]

Pour moi, ce test est une preuve suffisante (à condition de le répéter disons, 5 fois, pour éviter le coup de bol), pour affirmer "l'homme pense". Bien sur, il pourrait y avoir beaucoup d'autres tests dans le même genre, mais celui-ci me semble suffisant.

Intéressant. Imagine le scénario suivant, toi dans le rôle de l'intérrogateur et une entité indéfinie qui communique via un scripteur:

I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+3=?"
E: "5"
I: "2+1=?"
E: "5"
I: "2+2=?"
E: "5"
I: "T'es con ou quoi?"
E: "5"

Est-ce que tu considérerais que l'entité indéfinie a prouvé qu'elle est capable de penser?