Un ordinateur peut-il commettre des lapsus ?

[invité576543]

un ordi peut il avoir un développement autonome?
Peut il apprendre?

Par ailleurs, ta question montre une fois de plus une des difficultés principales dans les discussions portant sur la comparaison des facultés cognitives humaines (ou biologiques) et celles de machines artificielles.

Le mot "apprendre" est utilisé pour les humains (ou animaux) pour décrire un comportement sans que l'on comprenne ni ne cherche vraiment à comprendre (je parle pour tout un chacun) les mécanismes sous-jacents.

Quand on cherche à appliquer aux machines un mot décrivant un comportement, on refuse d'une certaine manière à traiter cela comme un comportement (si cela avait été le cas, tu n'aurais pas posé la question). On s'attend (et on obtient en général) une réponse sous forme de moyens, d'explications comment cela marche, d'algorithmes.

Et quand un comportement est décrit en termes d'algorithme (ici apprentissage = mise en mémoire d'un événement afin de modifier des décisions ultérieures), alors la réaction très courante est de dire : mais cela n'est pas "apprendre" au sens humain.

En résumé, le comportement humain est décrit en tant que tel, en tant que comportement, et pas en terme de mécanismes ; le comportement des machine est décrit en tant que mécanismes, et non pas en tant que comportement. La conclusion (fallacieuse pour moi) s'ensuit : ce ne peut pas être la même chose.

En bref (je reformule une opinion qui n'est pas la mienne) : les facultés cognitives humaines et celles des machines, ce n'est pas pareil, puisque les premières sont mystérieuses et les autres parfaitement comprises.

Cordialement,
-----

[invited9ab8c2f]

En résumé, le comportement humain est décrit en tant que tel, en tant que comportement, et pas en terme de mécanismes ; le comportement des machine est décrit en tant que mécanismes, et non pas en tant que comportement. La conclusion (fallacieuse pour moi) s'ensuit : ce ne peut pas être la même chose.

aurais tu répondu à ma question avant que je la pose??

[invité576543]

l'ordi avec les "données" de son environnements (son adversaire), fait un choix et donne une réponse.

Pourquoi son acte n'est il pas jugé (par les êtres humains) conscient?

Toujours et encore un problème de vocabulaire.

Si "être conscient" signifie "réagir, faire des choix, en fonction de ce que l'on perçoit de son environnement et à la poursuite d'un but personnel précis", alors oui un joueur d'échecs artificiel est "conscient", même si cette perception est limitée à la toute petite partie de son environnement qu'est le plateau de jeu, et son but tout aussi limité, celui de gagner en respectant des règles.

Mais "être conscient" est compris le plus souvent comme allant bien plus loin. En particulier, il est usuel d'inclure dans la notion de conscience le fait de se "percevoir" soi-même, d'avoir une représentation riche et complexe de ce qu'il se passe localement, de son environnement et de soi-même et des relations entre soi-même et l'environnement.

Vu comme cela, il y a au moins un argument pour rejeter l'application du mot "conscience" aux joueurs d'échecs artificiels : leur univers est trop limité.

Cordialement,

[invited9ab8c2f]

comme différence je retiens seulement la conscience de soi.

[invite6754323456711]

il n'est pas besoin de faire porter le débat sur la résolution complète de ces difficultés, puisqu'elles peuvent aussi se poser pour les robots.

En tant que psychologue averti j'attends donc ta définition de la conscience. Je suis toujours dans l'expectative.

Patrick

[invite6754323456711]

il n'est pas besoin de faire porter le débat sur la résolution complète de ces difficultés, puisqu'elles peuvent aussi se poser pour les robots.

Expérience d'un phénomène vécu en direct. On perçoit facilement une tension entre nous deux sur notre visions des choses. Un ordinateur pourrait il de sa propre initiative "ressentir" les mêmes pulsions ? Ne somme nous que des ordinateurs ?

Patrick

[invite7863222222222]

En tant que psychologue averti j'attends donc ta définition de la conscience

Tu veux une définition de conscience dans le sens "conscience de soi" ou "conscience de son environnement" ?

[invité576543]

Ne somme nous que des ordinateurs?

Une autre phrase clé permettant de comprendre ce dont il est question!

Qui amène la question de psychologie suivante:

Par quelle bizarrerie de raisonnement ce que pourrait faire des machines artificielles changerait-il quoi que ce soit à ce que nous sommes?

Mon opinion : nous sommes des humains, nous ne sommes "que des humains", et aucune hypothèse sur les machines n'y changera quoi que ce soit.

Cordialement,

[invite6754323456711]

Tu veux une définition de conscience dans le sens "conscience de soi" ou "conscience de son environnement" ?

Pourquoi la réduire ?

Dans le sens genèse du concept de la conscience, son évolution, son émergence et toute ces facettes. Voir même son aspect phénoménologique (récursivité intéressante).

Maintenant pour être franc je n'attend rien si ce n'est un pointeur (si il existe) sur l'état de l'art de la connaissance (psychologique, neurologique) sur la conscience à l'heure actuelle.

Patrick

[invite7863222222222]

Pourquoi la réduire ?

Je ne faisais rien que m'assurer qu'on parlait de la même chose.

[invite765732342432]

il faudrait m'expliquer le concept de "ordinateur qui a la capacité de donner la bonne réponse mais en donne une mauvaise quand même", si il en donne une mauvaise, en quoi a-t-il la capacité d'en donner une bonne? ça veut dire quoi la "capacité" ?

Est-ce vraiment la peine que je t'explique ? Vas-tu vraiment intégrer ce que je vais dire et l'accepter ?

Allez, aujourd'hui je suis optimiste:
J'attends par "avoir la capacité de répondre correctement" le fait de simplement faire le bon raisonnement et donner la bonne réponse en général.
Mais alors que si tu lui demandes 5 fois la couleur du cheval blanc d'Henri IV il te réponds correctement blanc, un jour tu lui pose la même question et il se trouve qu'il te dit rouge, parce qu'il est en train de faire d'autres travaux et qu'il se trouve que les autres travaux ont débordé sur la question que tu lui as posé (en technique, en parle d'effet de bord).
Et si, surpris, tu lui reposes la même question il te réponds bien blanc.

Ca, on le rencontre de temps en temps en informatique. C'est ce qu'il y a de pire à corriger car c'est en général impossible à reproduire.
Je suis d'ailleurs confronté à un de ces cas en ce moment au boulot... une fois de temps en temps, le batch, qui est pourtant d'une simplicité déconcertante par rapport à une IA, décide de n'en faire qu'à sa tête et plante alors que si on le relance avec exactement les mêmes données, il marche nickel !
Alors imagine bien que si un simple logiciel qui fait des calculs de commissions dans lequel il n'existe aucun facteur aléatoire fait ce genre de blagues, il est à peu près certain qu'une IA, même basique, commettra des lapsus bien plus impressionnants.

[invite7863222222222]

en technique, en parle d'effet de bord

Pas chez moi (pour qui effet de bord est un terme qui désigne qq chose de plus précis).

[invite765732342432]

Pas chez moi (pour qui effet de bord est un terme qui désigne qq chose de plus précis).

Chez moi, si.
Et pas que chez moi: http://www.linux-france.org/prj/jarg...t_de_bord.html
Les exemples cités sont simplistes, mais sont applicables également à un traitement multi-threadés avec travail sur le même espace mémoire où l'un des threads vient déborder sur un autre et modifie ses variables.

[invited9ab8c2f]

Mais alors que si tu lui demandes 5 fois la couleur du cheval blanc d'Henri IV il te réponds correctement blanc, un jour tu lui pose la même question et il se trouve qu'il te dit rouge, parce qu'il est en train de faire d'autres travaux et qu'il se trouve que les autres travaux ont débordé sur la question que tu lui as posé (en technique, en parle d'effet de bord).

Merci...J'ai le nom de mon "bug" maintenant

[invite7863222222222]

Chez moi, si.
Et pas que chez moi: http://www.linux-france.org/prj/jarg...t_de_bord.html
Les exemples cités sont simplistes, mais sont applicables également à un traitement multi-threadés avec travail sur le même espace mémoire où l'un des threads vient déborder sur un autre et modifie ses variables.

Toujours pas convaincu (encore moins même c'est exactement le lien que j'avais pris pour dire qu'on avait pas les mêmes définitions : numéro 1 au page rank google d'ailleurs c'est dire...).

Merci...J'ai le nom de mon "bug" maintenant

En quoi est-ce ton bug ?, c'est surtout le bug qui arrive suite à des erreurs de programmation.
Il faudra aussi m'expliquer en quoi cela a débloqué la condition suivant laquelle vous exigiez qu'on définisse conscience avant de parler de lapsus .

[invited9ab8c2f]

n quoi est-ce ton bug ?, c'est surtout le bug qui arrive suite à des erreurs de programmation.
Il faudra aussi m'expliquer en quoi cela a débloqué la condition suivant laquelle vous exigiez qu'on définisse conscience avant de parler de lapsus .

Ah bon? par à cause d'un "travail" parallèle?

Et je n'exige pas que nous définissions la conscience, je crois simplement que la discussion serait plus aisée...

[invite765732342432]

c'est surtout le bug qui arrive suite à des erreurs de programmation.

En IA, il n'est pas rare que le programme se programme de lui même. Un exemple typique de ce dont je parlais pourrait être un réseau de neurone "feed-back" traitant un flux continu de données en entrée (acceptant une nouvelle entrée sans attendre le "résultat" de la précédente)

Il faudra aussi m'expliquer en quoi cela a débloqué la condition suivant laquelle vous exigiez qu'on définisse conscience avant de parler de lapsus .

Perso, je verrais bien une définition simple de lapsus qui n'a pas besoin de s'amuser avec les concepts psychana-machin:
Est un lapsus, le fait d'utiliser un mot pour un autre dans une phrase, que ce soit en raison d'une association d'idée, du fait que l'on pensait à plusieurs choses en même temps, par l'opération du saint-sur-moi mais pas par simple erreur.

Après, on peut jouer avec le lapsus révélateur si cher à la psychanalyse... mais bon, le sujet parle des lapsus en général, je ne vois pas de raison de se limiter à cette seule catégorie.

[invited9ab8c2f]

Ah bon? par à cause d'un "travail" parallèle?

erreur!!! PAS à cause d'un "travail "parallèle?

[invite7863222222222]

En IA, il n'est pas rare que le programme se programme de lui même. Un exemple typique de ce dont je parlais pourrait être un réseau de neurone "feed-back" traitant un flux continu de données en entrée (acceptant une nouvelle entrée sans attendre le "résultat" de la précédente)

Je ne m'y connais pas en IA autant parler chinois, cependant le lien que tu as donné ne parle pas d'IA, d'où le fait que je sois encore plus sceptique encore face à ce que tu avances.

Perso, je verrais bien une définition simple de lapsus qui n'a pas besoin de s'amuser avec les concepts psychana-machin:

Psychanalyse, merci au moins de ne pas écorcher les mots dont tu ne connais sans doute pas grand chose.

Pour ma part, cette discussion en m'interesse plus, plutôt que de faire de la publicité à du "n'importe quoi", je préfère me retirer en espérant mettre fin à ce sujet sans queue ni tête.

[invite765732342432]

Je ne m'y connais pas en IA autant parler chinois, cependant le lien que tu as donné ne parle pas d'IA, d'où le fait que je sois encore plus sceptique encore face à ce que tu avances.

ou bien ? Je me demande.
les effets de bords ne sont pas spécifiques à l'IA mais assez communs dans toute l'informatique.
Certains sont des erreurs de programmation, d'autres sont inhérents au programme (dans les domaines complexes genre IA ou temps réel en particulier)

[invite7863222222222]

les effets de bords ne sont pas spécifiques à l'IA mais assez communs dans toute l'informatique.

Si c'est réductible à la problématique générale de l'informatique je persiste à te dire mais tu ne veux pas le voir que je le considère alors comme une simple erreur de programmation !

[invite765732342432]

Si c'est réductible à la problématique générale de l'informatique je persiste à te dire mais tu ne veux pas le voir que je le considère alors comme une simple erreur de programmation !

Bien maître, comme il vous plaira maître.

[Yoyo]

Bonjour,

On pourrait aussi se poser la question de savoir si un ordinateur peut avoir des troubles neuropsychologique tel que l'anosognosie.

http://www.psychoweb.fr/articles/neu...ce-de-soi.html

Patrick

bonsoir

franchement c'est quoi l'interet de se poser ce genre de question?
Nous sommes plusieurs a penser que cette discussion s'est enfouit dans les profondeurs du n'importe quoi.
A moins qu'il n'en sorte rapidement un interet scientifique, celle-ci sera fermée.

YOyo

[GillesH38a]

Gilles,

Tu parles d'un inconscient de type humain pour l'ordinateur?

ma question est en gros effectivement : si on imagine un ordinateur ayant les mêmes capacités qu'un humain, est ce que ça implique aussi nécessairement qu'il ait le même genre d'inconscient, et que ça se manifeste aussi par le même genre "d'erreurs" dont les lapsus ?

je répète encore une fois que les lapsus ne sont PAS des erreurs au sens où l'entend Faith : les effets de bords dont il parle sont dus à des bugs de programmation (genre une mémoire qui "déborde" sur une autre - ou bien une mémoire défectueuse utilisée de temps en temps mais pas toujours par exemple) mais l'erreur est alors forcément aléatoire et ne porte aucun sens précis. Alors que quand Martine Aubry fait un lapsus en déclarant 'le moment venu le PS choisira SA candidate", le sens est parfaitement précis et ne fait de doute pour personne. C'est de ce genre "d'erreur" dont je parle, et elles ne sont pas du même genre que les "bugs" informatiques.

Cdt

Gilles

[GillesH38a]

bonsoir

franchement c'est quoi l'interet de se poser ce genre de question?
Nous sommes plusieurs a penser que cette discussion s'est enfouit dans les profondeurs du n'importe quoi.
A moins qu'il n'en sorte rapidement un interet scientifique, celle-ci sera fermée.

YOyo

bon alors avant d'avoir encore un de mes sujets fermés, j'essaye quand même d'éclaircir un peu le sens de ma question initiale .

Je constate qu'il y a deux approches TRES DIFFERENTES de l'IA - différentes au point d'être pour moi pratiquement contradictoires.

Dans la première approche, on se contente de vouloir imiter extérieurement les manifestations humaines, sans se soucier le moins du monde de savoir si le programme maître ressemble ou non à celui d'un cerveau dans ses mécanismes de base. C'est ce qui est utilisé pour tous les robots, ordinateurs jouant aux échecs, traducteurs automatiques, robot de chats, etc... : ils "donnent le change" mais en réalité ils ne comprennent rien. Un traducteur automatique pourra traduire la phrase "Combien de mots composent cette question? " mais ne pourra pas y REPONDRE - ce qui serait assez absurde venant d'un humain.

La deuxième approche est plus subtile et suppose qu'on pourra émuler les mécanismes fondamentaux du cerveau. Personne ne sait tres bien comment - est ce qu'il faudra reproduire juste la "structure logique" des neurones, ou reproduire leur comporteent chimique, ou reproduire l' ADN - c'est très nébuleux, mais ça permet de se prévaloir de "théorèmes généraux " d'équivalence en supposant que le cerveau soit plus ou moins une "machine de Turing" - ce que bien sûr personne n'a jamais prouvé et ce qui est d'ailleurs extrêmement improbable; mais comme c'est la seule façon d'avoir un espoir de "prouver " la possibilité théorique de l'émuler, on continue à faire comme si ça en était une. Inutile de dire que AUCUNE des réalisations de l'IA actuellement sur le marché ne donne quelque renseignement que ce soit sur le genre de machine de Turing que pourrait etre le cerveau, ni ne cherche à la reproduire - sinon bien évidemment un ordinateur POURRAIT très facilement répondre à une question qu'il est capable de traduire !

Ma question sur les lapsus est une manière indirecte de poser la question : si vous croyez qu'un ordinateur "pourrait" ressembler de très près à un humain, est ce que vous croyez que ça arrivera plutot par la premiere approche (par des logiciels qui n'ont rien à voir avec le cerveau mais ne font que "donner le change"), ou bien par la deuxième (on a vraiment simulé un cerveau fidèlement !!). Ca me parait très différent dans les deux cas. Dans le premier , on peut se dire qu'on a juste émulé "ce qui marche", et on n'a aucune raison que ça donne le même genre d'erreur, lapsus, effet Stroop , ou d'autres horreurs...qui n'ont aucune raison de se produire avec un programme d'ordinateur - et ne se produisent effectivement pas .

dans le deuxième en revanche, si on pense vraiment avoir "reproduit " le cerveau, alors il n'y a aucune raison qu'on ne le reproduise pas y compris dans tous ses petits défauts, effets de bords, lapsus , effet Stroop, illusions d'optique ou tout ce que s'amusent à détecter les psychologues expérimentaux. Il n'y a aucune raison que la structure obtenue ne soit pas EN TOUT POINT analogue au cerveau.

Pour moi la question sur les lapsus porte en filigrane la manière dont on "imagine" imiter le cerveau - juste dans ses manifestations extérieures sans se préoccuper de la similarité de structure ou bien dans la structure microscopique elle -même.

Je précise que pour moi les deux approches butent sur des difficultés qui me paraissent insurmontables, d'où je déduis que ni l'une ni l'autre ne pourra donner finalement le résultat espéré, mais je ne veux pas anticiper sur la discussion, j'aimerais juste savoir l'opinion de ceux qui "y croient" : envisagent-ils la première ou la seconde voie?

Cdt

Gilles

[invite765732342432]

je répète encore une fois que les lapsus ne sont PAS des erreurs au sens où l'entend Faith : les effets de bords dont il parle sont dus à des bugs de programmation (genre une mémoire qui "déborde" sur une autre - ou bien une mémoire défectueuse utilisée de temps en temps mais pas toujours par exemple)

C'est la journée où ceux qui ne comprennent rien à l'informatique veulent me donner des cours... d'informatique !
NON ce ne sont pas forcément des bugs de programmation, ça peut faire faire du fonctionnement nécessaire d'un programme. Si tu as 1 processus et un espace mémoire par neurone, alors à chaque fois qu'un signal traverse le neurone, sa mémoire est modifiée et si il est utilisé par plusieurs calculs simultanés, alors les deux calculs peuvent déborder l'un sur l'autre.

mais l'erreur est alors forcément aléatoire et ne porte aucun sens précis.

Et NON ! Perdu ! Ce n'est pas "forcément" aléatoire. Surtout dans le cadre d'un réseau de neurones où c'est la propagation des signaux qui fait le sens. Un croisement de signaux serait donc lui aussi porteur de sens.

Maintenant une chose:
avant de me contredire brutalement, soit vous vous y connaissez un minimum en programmation et dans les algos sus-cités et vous pouvez me contredire à loisir (je n'ai pas la science infuse, et mon imagination a ses limites), soit vous n'y connaissez rien et vous citez des sources fiables avant d'annoncer que je dis n'importe quoi.

[invite73192618]

première ou la seconde voie?

1,5

Maintenant pour être franc je n'attend rien si ce n'est un pointeur (si il existe) sur l'état de l'art de la connaissance (psychologique, neurologique) sur la conscience à l'heure actuelle.

Cela n'existe pas, mais tu seras peut-être intéressé par ça. Sur le plan neuro c'est pas hyper clean, mais l'idée générale est claire.

Clin d'oeil à Michel au passage

Everyone has a rough idea of what is meant by consciousness. We feel that it is better to avoid a precise definition of consciousness because of the dangers of premature definition. Until we understand the problem much better, any attempt at a formal definition is likely to be either misleading or overly restrictive, or both.

Ai-je mentionné que Crick est Nobel?

[GillesH38a]

avant de me contredire brutalement, soit vous vous y connaissez un minimum en programmation et dans les algos sus-cités et vous pouvez me contredire à loisir (je n'ai pas la science infuse, et mon imagination a ses limites), soit vous n'y connaissez rien et vous citez des sources fiables avant d'annoncer que je dis n'importe quoi.

du calme, je donnais des exemples et tu en donnes d'autres, mais le point était que les lapsus HUMAINS n'ont pas grand chose à voir avec ça : il s'agit plutot de compétitions entre différentes instances psychologiques, en elles mêmes bien construites , mais donnant des indications contradictoires (ça se rapproche donc de l'effet stroop selon moi).

[GillesH38a]

1,5

et si tu devais noter le cerveau d'un singe ou d'un crocodile sur l'échelle entre 1 et 2 il vaudrait combien ?

[invite1fb4554e]

du calme, je donnais des exemples et tu en donnes d'autres, mais le point était que les lapsus HUMAINS n'ont pas grand chose à voir avec ça : il s'agit plutot de compétitions entre différentes instances psychologiques, en elles mêmes bien construites , mais donnant des indications contradictoires (ça se rapproche donc de l'effet stroop selon moi).

Je dois avouer que je ne comprends pas vraiment cette "fixation" sur les lapsus. Même si c'est probablement quelque chose de complexe quant à la psychologie humaine, je ne vois aucune difficulté à simuler le lapsus d'une façon assez efficace pour qu'on ne puisse pas discerner s'il a été "dit" par un être humain ou par un algorithme d'une machine (alors même que les deux fonctionnent différemment). On pourrait par exemple prendre une certaine probabilité réaliste d'obtenir un lapsus dans une phrase, puis remplacer un mot par un autre mot phonétiquement proche, le tout plus ou moins influencé par la discussion. Le tout peut être raffiné à loisir. On peut même simplement imaginer un algo de type génétique qui évoluerait tout seul jusqu'à ce qu'il trompe l'examinateur.
Dès lors, si c'est le cas, la machine passe le "test du lapsus".