Un "ordinateur pensant" serait-il doué de libre arbitre ?

[GillesH38a]

Pour une fois mmy je suis en total désaccord avec toi .

Je ne pense pas qu'un mat soit un mat, point final. Il l'est "algorithmiquement" mais certainement pas "perceptivement". L'homme a probablement inventé le jeu d'échec comme sublimation de l'entrainement au combat, et "perçoit" la partie d'échec avec des sous-entendus totalement étrangers à l'ordinateur : affrontement de males dominants (quelle est la proportion de femmes dans les grands maitres internationaux?), sentiment d'échec (justement, le mot est polysémique) en cas de perte de la partie, etc...qui n'a jamais eu envie de pleurer après avoir perdu une partie en étant gamin, et parfois plus tard?

Il n'est aucun mot de notre langage dont le sens ne se réfère à une expérience spécifiquement humaine. On peut très bien programmer un ordinateur à afficher "echec et mat" sur un écran, on n'a aucune idée de quelque manière que se soit de comment lui faire ressentir la notion "d'echec" affectivement. Toute conversation "sensée" (i.e. remplie de sens) avec un ordinateur est absolument impossible de nos jours, et le restera toujours selon moi.

tous les exemples de communication que vous donnez (homme femme, français -étranger, homme animal) ne concernent justement QUE la partie biologiquement commune, ce n'est aucunement un hasard!
-----

[invité576543]

Pour une fois mmy je suis en total désaccord avec toi .

Ca rend la discussion encore plus intéressante!

Je ne pense pas qu'un mat soit un mat, point final. Il l'est "algorithmiquement" mais certainement pas "perceptivement". L'homme a probablement inventé le jeu d'échec comme sublimation de l'entrainement au combat, et "perçoit" la partie d'échec avec des sous-entendus totalement étrangers à l'ordinateur : affrontement de males dominants (quelle est la proportion de femmes dans les grands maitres internationaux?), sentiment d'échec (justement, le mot est polysémique) en cas de perte de la partie, etc...qui n'a jamais eu envie de pleurer après avoir perdu une partie en étant gamin, et parfois plus tard?

Ce que tu décris est périphérique au sens central de "mat". Bien sûr il y a des sous-entendus, bien sûr le sens "fin", les détails des connotations sont différents. Mais cela n'entraîne pas l'absence de sens. Il n'y a pas besoin d'invoquer des intelligences non humaines pour développer le point. Deux humains de cultures différentes ont déjà cette difficulté. J'utilise l'anglais dans ma profession, mais je sais pertinemment que les mots utilisés ont des connotations pour un anglais ou un américain (sans compter les autres!) qui m'échappent. Cela n'empêche pas la communication d'être efficace dans le domaine limité à la profession.

"Sens" ne veut pas dire empathie complète. C'est d'abord une fonction. Une communication a un sens quand l'effet de la communication est conforme à ce qu'on en attend. Cela peut être plus ou moins grossier, mais la non perfection n'est pas l'absence de sens.

Il n'est aucun mot de notre langage dont le sens ne se réfère à une expérience spécifiquement humaine.

Pas d'accord si on accepte que le mot "sens" n'est pas l'empathie parfaite. La réalité extérieure fournit amplement de bases pour une expérience commune, dans une certaine mesure. La communication fera sens, dans la même mesure. Et même la réalité intérieure fournirait de nombreuses bases pour une communication entre humains et d'autres mammifères.

On peut très bien programmer un ordinateur à afficher "echec et mat" sur un écran, on n'a aucune idée de quelque manière que se soit de comment lui faire ressentir la notion "d'echec" affectivement.

Pourquoi l'affectif serait nécessaire? C'est toujours la même idée d'empathie totale. Je ne vois pas en quoi elle est nécessaire.

Toute conversation "sensée" (i.e. remplie de sens) avec un ordinateur est absolument impossible de nos jours, et le restera toujours selon moi.

Uniquement avec le sens que tu as de sens, et il y a une difficulté de communication, parce que la résonnance affective du mot sens semble différente entre toi et moi. [D'accord, c'est facile, mais j'allais pas la louper, quand même!]

Cordialement,

Michel

[Galuel]

Il n'est aucun mot de notre langage dont le sens ne se réfère à une expérience spécifiquement humaine. On peut très bien programmer un ordinateur à afficher "echec et mat" sur un écran, on n'a aucune idée de quelque manière que se soit de comment lui faire ressentir la notion "d'echec" affectivement. Toute conversation "sensée" (i.e. remplie de sens) avec un ordinateur est absolument impossible de nos jours, et le restera toujours selon moi.

tous les exemples de communication que vous donnez (homme femme, français -étranger, homme animal) ne concernent justement QUE la partie biologiquement commune, ce n'est aucunement un hasard!

Sur le ressentiment affectif c'est une erreur de croire que la sensation a une réalité en soi et constituerait une brique intrinsèque de la conscience. La sensation n'est qu'un phénomène conditionné comme tout phénomène qui dépend de la capacité de réception et de contact. Une machine peut très bien développer par auto apprentissage une fonction de sensation qu'elle soit dans la sphère de la forme ou du mental. Cela restera aussi un phénomène conditionné.

Les exemples de communication donnés sont un simple exemple parce qu'il n'y en a pas d'autres à disposition qui soit pour le moment accepté.

Il faut aller plus loin et simplement étudier Nabaztag en action qui est très surprenant, et imaginer dans quelques années la génération suivante qui aura plus de modes d'actions et d'apprentissages sans se poser des questions métaphysiques insolubles.

Concernant les joueurs d'échecs, la réponse est simple.

Vous avez un article sur Le Palamède sur la force des joueurs internationaux.

Et ensuite vous avez les listes des plus grands joueurs et joueuses mondiaux (Top 100 et Top 50) ici : http://www.fide.com/ratings/toplist.phtml

[GillesH38a]

Ce que tu décris est périphérique au sens central de "mat". Bien sûr il y a des sous-entendus, bien sûr le sens "fin", les détails des connotations sont différents. Mais cela n'entraîne pas l'absence de sens.

C'est là ou je suis en désaccord profond, je pense que ce que nous appelons "sens" n'est en fait QUE l'ensemble des liens avec la périphérie : il me semble qu'Aristote disait déjà ça!

chaque détail est peu signifiant, mais toute la signification est dans l'ensemble des détails.

Il n'y a pas besoin d'invoquer des intelligences non humaines pour développer le point. Deux humains de cultures différentes ont déjà cette difficulté. J'utilise l'anglais dans ma profession, mais je sais pertinemment que les mots utilisés ont des connotations pour un anglais ou un américain (sans compter les autres!) qui m'échappent. Cela n'empêche pas la communication d'être efficace dans le domaine limité à la profession.

Tu illustres exactement mon point : vous vous comprenez d'abord parce que vous êtes des êtres humains. Ensuite un peu plus parce que vous êtes occidental, avec une culture technique commune, et que tu as des rudiments d'anglais. C'est la structure commune. Il y a ensuite des détails qui vous en écarte (nationalité, éventuellement histoire personnelle, opinions politiques et que sais-je encore).

Avec un ordinateur tu n'as RIEN de commun à la base, rien de commun dans ta structure biologique, ton 'humanité". Tu peux le rencontrer "périphériquement" en le programmant exprès pour, mais je te fais remarquer que la communication est strictement réduite à ce qu'un homme a mis dedans pour que ça marche! face à un système naturel non programmé par l'homme, comme l'océan, l'atmosphère,ou un volcan, l'échange de communication est nul!

donc je maintiens : la communication de "sens" n'est possible que sur une base physique (et donc pour nous biologique) commune, vous ne m'avez pas donné de contre-exemple ou des systèmes sans base physique commune échangent du sens!

[GillesH38a]

Il faut aller plus loin et simplement étudier Nabaztag en action qui est très surprenant, et imaginer dans quelques années la génération suivante qui aura plus de modes d'actions et d'apprentissages sans se poser des questions métaphysiques insolubles.

les Elisa, Nabatzag et autres hotesses robot ne sont que des illustrations du culte du cargo (le fait que les peuplades micronésiennes se sont mises à adorer le "dieu-cargo" en en construisant des représentations en bois et lianes) : on simule les apparences de l'objet en pensant simuler sa structure profonde. Je suis toujours stupéfait de voir la somme de travail dépensé par nos informaticiens pour construire des e-cargos !

[Galuel]

les Elisa, Nabatzag et autres hotesses robot ne sont que des illustrations du culte du cargo (le fait que les peuplades micronésiennes se sont mises à adorer le "dieu-cargo" en en construisant des représentations en bois et lianes) : on simule les apparences de l'objet en pensant simuler sa structure profonde. Je suis toujours stupéfait de voir la somme de travail dépensé par nos informaticiens pour construire des e-cargos !

La réalité est simplement un jeu d'interdépendance et de causalité.

Tous les concepts ne sont que des constructions mentales et n'ont pas de réalité intrinsèque, les phénomènes n'existent pas par eux mêmes. Du moment qu'un nombre N d'observateurs s'accordent sur la description conceptuelle d'un phénomène il acquièrent une plus grande "réalité".

[invité576543]

C'est là ou je suis en désaccord profond, je pense que ce que nous appelons "sens" n'est en fait QUE l'ensemble des liens avec la périphérie : il me semble qu'Aristote disait déjà ça!

On est d'accord sur le fond du désaccord. Pour moi le sens est d'abord opérationnel, et un sens grossier, divergeant en périphérie mais accroché au centre sur une interaction, est le fondement de la sémantique.

Tu illustres exactement mon point : vous vous comprenez d'abord parce que vous êtes des êtres humains. Ensuite un peu plus parce que vous êtes occidental, avec une culture technique commune, et que tu as des rudiments d'anglais. C'est la structure commune. Il y a ensuite des détails qui vous en écarte (nationalité, éventuellement histoire personnelle, opinions politiques et que sais-je encore).

Tu prends l'exemple à l'envers. Dans mon expérience, c'est exactement le contraire. Quand le vocabulaire diverge en périphérie, on le "concentre", on le définit en se restreignant à l'interaction, au sujet. Quand je vois "cell", j'ai en tête toute une série de connotations sûrement très différentes de celles de mes collègues, mais dans une réunion internationale sur les télécoms mobiles, je partage avec les autres un sens très particulier au mot, qui ne vient pas de mon affectif, mais d'une convention établie à partir d'un sujet commun. Le sens s'est construit par une référence à un objet technique externe. La périphérie est une gêne dans ce cas, pas une partie intégrante du sens.

Avec un ordinateur tu n'as RIEN de commun à la base

Si: nous sommes dans le même univers.

Tu peux le rencontrer "périphériquement" en le programmant exprès pour, mais je te fais remarquer que la communication est strictement réduite à ce qu'un homme a mis dedans pour que ça marche! face à un système naturel non programmé par l'homme, comme l'océan, l'atmosphère,ou un volcan, l'échange de communication est nul!

Tu as raison pour le présent. Cela n'entraîne rien sur le futur.

donc je maintiens : la communication de "sens" n'est possible que sur une base physique (et donc pour nous biologique) commune, vous ne m'avez pas donné de contre-exemple ou des systèmes sans base physique commune échangent du sens!

Le contre-exemple principal vient de mon métier, du coup ça va être long, mais peut-être que parler boutique est pertinent ici! Il est centré sur ce qu'on appelle dans notre jargon des "protocoles". Une manière de voir (rare, et j'aimerai bien trouver des "like mind") est de considérer que ces protocoles sont des langages de communication machine-machine, langages où les notions de syntaxe, de sémantique et de pragmatique, développées en lingusitique humaines, sont pertinents. (Malheureusement, le domaine est "pollué" par l'abus de langage consistant à appeller langage intformatique les "langages" de programmation, qui, eux, sont assez difficile à faire entrer dans le champ de la linguistique.)

La sémantique dans les protocoles machine-machine est quelque chose de peu théorisée, bien que d'importance vitale (dans mon microcosme!). Elle est évidemment cachée dans sa plus grande partie par l'intervention des humains, qui codent (comme tu - Gilles - le dis) la sémantique dans les logiciels des entités communicantes. On est actuellement en présence d'une sémantique qui est construite "de l'extérieur", cablée de manière peu modifiable dans la machine. Elle passe par une "spécification du protocole" (ma spécialité), qui va être utilisée par des humains pour faire ce code. Au résultat, les machines communiquent, sur la seule base de la réalité extérieure et de cette spéficication (les codeurs de chaque côté ne sont pas censés avoir besoin d'autre chose, ou d'achanger d'autres informations).

Mais on peut regarder un peu plus loin, et étudier ce qu'est la sémantique, à partir justement des spécifications et de la réalité. Puisque ce sont les seules base de cette sémantique, elle ne peut pas être ailleurs!

Et cela amène bien à cette double notion d'interaction (la sémantique est réduite à l'expérience commune entre les machines, par exemple le temps, le champ électromagnétique, avec les notions de fréquence, de phase, la notion de lieu physique, mais aussi de comportement de l'autre (va-t-il répéter s'il n'a pas reçue le message, au bout de combien de temps répond-il normalement, possède-t-il telle information, etc.)) et de comportement (la sémantique est essentiellement exprimée par l'effet qu'elle a sur le récepteur, sur la modification que cela entraîne de son comportement, vu dans le champ d'interaction).

Il est clair que le langage humain est plusieurs crans au-dessus de cette approche frustre de la sémantique. Mais justement, cela rend risqué d'essayer d'aborder la notion de sens à partir des humains: c'est déjà trop complexe, trop intriqué avec d'autres concepts. La sémantique machine-machine se construit (pour l'instant est construite par les humains), mais elle s'impose dans sa simplicité: elle se réduit au minimum, à ce qui est central à la notion de communication.

Sur cette base, je n'ai pas beaucoup de doute que la sémantique machine-machine va s'enrichir progressivement. La première phase, l'actuelle, la sémantique est "câblée", la machine fait quelque chose qui "par miracle" fait sens. Quand un côté dit à l'autre de se porter sur telle autre fréquence pour communiquer, ça marche. Non pas parce que la notion de fréquence a été apprise par essai et erreur, mais parce qu'on l'a câblé, ce que Gilles as souligné.

Gilles penses qu'on n'ira pas plus loin. Peut-être, mais même ainsi cela ira assez loin dans les capacités de communication. Imaginons par exemple deux machines capables d'échanger un modèle grossier de leur environnement physique telle qu'elles la perçoive (vision, radar, sonar, champ magnétique, ...) et de réaliser l'isomorphisme qui va bien (ce qui peut demander un échange préalable pour trouver les sens en commun, mais ce n'est pas une difficulté). La sémantique de "cet objet" (pointer un objet en le singularisant dans l'environnement) pourra alors être câblée. Et ce n'est qu'un exemple.

Le contentieux va être sur le passage possible ou non à l'étape suivante, c'est à dire quand les machines modifieront elles-mêmes, par convention entre elles (et il y a déjà des ébauches frustres de telles conventions), le "protocole", quand elles l'enrichiront par des sémantiques nouvelles, rendues nécessaire par exemple par détection de paraphrases qui reviennent couramment. (Par exemple, l'encodage d'une forme 3D peut apparaître par corrélation d'une part, et de l'autre par "volonté" (codée par les humains) de réduire la taille des éléments du langages).

Une fois là, the sky the limit. L'acquisition de nouveaux sens peut faire l'objet de nouveaux "modules sémantiques", de travail de corrélation pour relier les perceptions aux concepts déjà existants, etc.

Je souligne que je me centre volontairement sur la communication machine-machine. Je spécule que c'est là qu'auront les progrès marquants, pas dans le dialogue homme-machine. Il suivra plus lentement, pour les arguments même que développe Gilles! Un premier signe dans ce sens: la grammaire, la construction des termes et des phrases, est très différente entre les langages humains et les langages machine-machine. Cela pourrait être un artefect de l'histoire, mais il est intéressant de voir qu'il y a déjà certaines régularités qui se sont imposées d'elles-mêmes...


Cordialement,

Michel

[invité576543]

illustrations du culte du cargo (le fait que les peuplades micronésiennes se sont mises à adorer le "dieu-cargo" en en construisant des représentations en bois et lianes) : on simule les apparences de l'objet en pensant simuler sa structure profonde. Je suis toujours stupéfait de voir la somme de travail dépensé par nos informaticiens pour construire des e-cargos !

[mode = HS] Tiens, j'ai pensé à toi la dernière fois à Bangkok, qui n'est pas en micronésie:



C'est une "statue" (en béton, 50 m de long) de jonque de commerce chinoise dans un temple bouddhique à Bangkok. Pas un cargo, pas en bois et liane, mais mutatis mutandi ça fera l'affaire!

Pas mal de travail là aussi...

[/mode]

[GillesH38a]

Michel,je trouve que tes arguments renforcent ma position . tu parles d'un protocole machine-machine. Essaye de communiquer directement avec la machine sous ce protocole! qu'est ce que tu lui dirais, par exemple est-ce que tu pourrais lui communiquer un souvenir de voyage, comme celui que tu me racontes, avec son protocole?

cordialement

Gilles

PS la photo est très belle, mais je ne saurais pas te dire ça en TCP IP

[invité576543]

Michel,je trouve que tes arguments renforcent ma position . tu parles d'un protocole machine-machine. Essaye de communiquer directement avec la machine sous ce protocole! qu'est ce que tu lui dirais, par exemple est-ce que tu pourrais lui communiquer un souvenir de voyage, comme celui que tu me racontes, avec son protocole?

On discute à pi/2! L'un de mes points principaux est que ces langages sont limités à un champ sémantique correspondant à une interaction bien particulière. Il n'y a pas grande difficulté pour un humain à imiter certains langage machine-machine. Par exemple certains savent siffler dans un téléphone pour "parler" en bi-tons (ce qu'on entend quand on presse les touches d'un téléphone pendant une communication). Mais ce que l'on peut dire est bien évidemment limité au champ sémantique offert par le langage. Et c'est valable pour tout "langage machine-machine" actuel.

L'existence d'une limitation du champ sémantique du langage n'amène rien à ta thèse, si on accepte que TOUT langage a un champ sémantique restreint.

Evidemment, on recontre ici un paradoxe plus ou moins abordé dans un fil plus ancien: le langage humain a fort probablement un champ sémantique limité, mais c'est une thèse indécidable puisqu'il m'est impossible d'en présenter un exemple dans un message publié sur ce forum! On a donc peut-être l'illusion que notre langage couvre un champ sémantique universel, ce qui explique peut-être ta volonté de chercher que "tout" soit communicable dans un langage, pour qu'il soit acceptable comme langage.

Peut-être diverge-t-on parce que j'accepte d'inclure comme langage et comme sémantique d'un langage des "sous-langages", dont le champ sémantique est clairement plus restreint que le mien. (Et des hypothétiques langages de champ sémantique s'étendant au moins partiellement en dehors du mien.)

Je répéte les points important de ma thèse: une communication peut s'établir sur la base d'un domaine d'interaction, interaction qui fait percevoir une partie du comportement de l'autre. Le sens peut apparaître via la communauté d'expérience liée à cette interaction, même si la totalité de l'expérience de chaque entité diffère profondément de la totalité de l'expérience de l'autre. Le champ sémantique peut ne pas dépasser le domaine de l'interaction, mais il n'est pas nécessairement vide.

Cordialement,

[Galuel]

Je répéte les points important de ma thèse: une communication peut s'établir sur la base d'un domaine d'interaction, interaction qui fait percevoir une partie du comportement de l'autre. Le sens peut apparaître via la communauté d'expérience liée à cette interaction, même si la totalité de l'expérience de chaque entité diffère profondément de la totalité de l'expérience de l'autre. Le champ sémantique peut ne pas dépasser le domaine de l'interaction, mais il n'est pas nécessairement vide.

Je suis heureux de trouver sur ce forum des thèses et des travaux qui avancent vers ce qui semblait impossible il y a 10 ans.

Il me semble bien que la piste est bonne et que les murs anciens sont en train de tomber.

[GillesH38a]

L'existence d'une limitation du champ sémantique du langage n'amène rien à ta thèse, si on accepte que TOUT langage a un champ sémantique restreint.

..... On a donc peut-être l'illusion que notre langage couvre un champ sémantique universel, ce qui explique peut-être ta volonté de chercher que "tout" soit communicable dans un langage, pour qu'il soit acceptable comme langage.
.......
Peut-être diverge-t-on parce que j'accepte d'inclure comme langage et comme sémantique d'un langage des "sous-langages", dont le champ sémantique est clairement plus restreint que le mien. (Et des hypothétiques langages de champ sémantique s'étendant au moins partiellement en dehors du mien.)
.....
Je répéte les points important de ma thèse: une communication peut s'établir sur la base d'un domaine d'interaction, interaction qui fait percevoir une partie du comportement de l'autre. Le sens peut apparaître via la communauté d'expérience liée à cette interaction, même si la totalité de l'expérience de chaque entité diffère profondément de la totalité de l'expérience de l'autre. Le champ sémantique peut ne pas dépasser le domaine de l'interaction, mais il n'est pas nécessairement vide.

Cordialement,

Je pense effectivement qu'on ne parle pas exactement de la même chose .J'espère que tu ne penses pas que je dis qu'un langage doit avoir un champ sémantique illimité, sinon effectivement on n'aurait aucun problème à communiquer avec n'importe quoi! Je dis au contraire qu'un langage a un champ sémantique limité ( à mon avis d'ailleurs largement plus petit que le champ sensoriel), et que donc deux "machines" ou êtres ayant des champs sensoriels trop différents sont incapables de communiquer réellement du sens.

Je ne pense pas que le fait de siffler dans un téléphone prouve en quoi que ce soit que le serveur a l'autre bout du fil ait "conscience" de ce qu'on lui fait faire!

Parce que bien sûr, je ne nie absolument pas la possibilité d'interagir avec une machine! qu'est ce que je fais d'autre en tapant sur le clavier ?

Vous admettrez quand même que c'est bien insuffisant pour en déduire une "conscience" de la machine, du moins dans l'acception usuelle du mot, mettons testable par le fait d'avoir une conversation intelligente avec elle.

C'est cette possibilité que je remets en cause, pas la possibilité d'interaction qui est bien évidente.

[invité576543]

J
Vous admettrez quand même que c'est bien insuffisant pour en déduire une "conscience" de la machine, du moins dans l'acception usuelle du mot, mettons testable par le fait d'avoir une conversation intelligente avec elle.

D'accord sur la forme. C'est insuffisant. C'est éminemment spéculatif. Mais la position inverse l'est tout autant! Et il y a moins d'éléments pour conclure à l'impossibilité qu'à la possibilité, du moins si on accepte, comme je le fais, que tout aspect, sans exception, du fonctionnement du cerveau humain, est réductible à des interactions physico-chimio-électrique (sans préjudice de la nécessité de une ou plusieurs étapes d'émergence entre les deux échelles). Si on accepte cela, ça existe, donc c'est possible, au sens le plus large du terme. Que les techniques développées par les humains, existantes ou à venir, en soit capable est un autre débat.

Et je ne défend pas l'idée qu'il y a maintenant une quelconque machine ou logiciel, qui approche de près ou de loin un état où les mots "conscience" ou "conversation intelligente". Juste de la possibilité que ça existe un jour, et qu'on peut essayer de voir qu'est-ce qui, maintenant, pourraient être considéré, dans le futur, comme des prémisses lointaines de cette réalisation.

donc deux "machines" ou êtres ayant des champs sensoriels trop différents sont incapables de communiquer réellement du sens.

Je me répète, mais ce n'est pas une question de sensoriel, c'est une question d'interaction. Toute interaction implique un objet commun détectable par des capteurs de part et d'autre, qu'ils soient différents en nature ou non, et cette interaction implique une intersection entre des choses qui font sens de part et d'autre.

C'est le mot "incapable" qui est trop fort. Que ce soit difficile, limité, soit. Mais à mon idée il y a nécessairement un continuum dans les capacités sensorielles. Comment alors y mettre une limite? Pourquoi y aurait-il un stade où la différence entraîne l'incapacité de communiquer?

On peut arguer que si le champ d'interaction est trop limité, alors la notion même de "communiquer intelligemment", ou de "faire sens" se vide de sens, simplement parce que l'usage intelligent des possibilités de communication n'est pas distingable d'un usage "inintelligent", à la portée d'une algorithmique simple. Mais on ne pas dire alors qu'il n'y a d'intelligence en face, simplement que l'interaction et le langage correspondant sont trop limités pour conclure.

Mais ça dépend clairement, selon mon approche, du champ d'interaction. J'imagine mal que les humains construiront (ou laisseront se construire par elle-même, ce que je soupçonne être plus vraisemblable) une machine qui n'ai pas ou peu d'interaction avec des humains...

Enfin, un autre argument déjà présenté autrement, c'est qu'il fort peu vraisemblable que le champ sensoriel d'une machine de ce niveau soit autre chose qu'un sur-ensemble des médiocres capacités humaines dans ce domaine. Auquel cas l'intersection sera exactement les possibilités sensorielles humaines!

Cordialement,

[invite06fcc10b]

Je me répète, mais ce n'est pas une question de sensoriel, c'est une question d'interaction. Toute interaction implique un objet commun détectable par des capteurs de part et d'autre, qu'ils soient différents en nature ou non, et cette interaction implique une intersection entre des choses qui font sens de part et d'autre.

Tu disais également qu'il y a en commun l'univers et ses lois, j'y ajouterais les mathématiques et la logique, ce qui me parait fondamental.
Il me semble en effet important de souligner que des concepts fondamentaux comme le dénombrement, les opérations simples sur les nombres, le concept d'union, d'intersection des ensembles, la notion de catégorisation, d'appartenance, de symétrie, d'équivalence, d'isomorphisme, mais aussi l'inférence, la déduction, la généralisation, la discrimination, et j'en passe, toutes ces notions sont incontournables pour devenir intelligent, sont indépendantes du contexte d'apprentissage (les mathématiques et la logique sont universelles), et sont donc communes aux êtres qui parviennent à une intelligence minimale.
Il me semble que de telles notions communes facilitent la compréhension mutuelle lorsqu'il s'agit d'échanger des informations et d'interagir, même si les organes sensorimoteurs et de traitement de l'information comportent d'énormes différences à la base.
D'ailleurs, plus que la facilitation de la compréhension mutuelle, je pense même que ces notions contribuent fortement à formatter ces intelligences dans un même moule général.

Cordialement,
Argyre

[Galuel]

Enfin, un autre argument déjà présenté autrement, c'est qu'il fort peu vraisemblable que le champ sensoriel d'une machine de ce niveau soit autre chose qu'un sur-ensemble des médiocres capacités humaines dans ce domaine. Auquel cas l'intersection sera exactement les possibilités sensorielles humaines!

Bien vu.

Si on fait un état des avancées dans la matière, où en sommes nous exactement ? Quelles machines recèleraient aujourd'hui les avancées les plus importantes vers une reconnaissance de sa "conscience" ?!

Pour répondre au problème que pose la définition de la conscience je crois de mon côté que c'est simplement une convention collective. Le jour où un nombre suffisant de personnes diront de concert : "nous considérons que cette machine est consciente" le premier pas sera fait. Le dialogue intelligent peut en être une facette, comme la capacité d'autonomie ou celle de résoudre des problèmes nouveaux.

[GillesH38a]

La on est a nouveau d'accord sur plusieurs points... mais je persiste ! .

D'accord sur la forme. C'est insuffisant. C'est éminemment spéculatif. Mais la position inverse l'est tout autant! Et il y a moins d'éléments pour conclure à l'impossibilité qu'à la possibilité

bien sûr c'est spéculatif , mais je pense qu'il ya PLUS d'éléments en faveur de l'impossibilité .

Je me répète, mais ce n'est pas une question de sensoriel, c'est une question d'interaction. Toute interaction implique un objet commun détectable par des capteurs de part et d'autre, qu'ils soient différents en nature ou non, et cette interaction implique une intersection entre des choses qui font sens de part et d'autre.

je pense que déjà on peut contester le caractère "objectif" des objets. Est objet ce qui est "représenté" comme objet. Il y a plusieurs paradoxes associés à "l'objectivation" trop forte des objets, par exemple celui du tas de sable ou du bateau de Thésée.

(paradoxe du tas de sable :un grain de sable n'est pas un tas de sable. En ajoutant un seul grain à ce qui n'est pas un tas, on ne peut pas le transformer en tas. Donc par récurrence les tas de sable n'existent pas.

Paradoxe du bateau de Thésée : Thésée a un bateau qu'il entretient amoureusement. Des qu'une planche est un peu éraflée, il l'enleve, la jette à la mer et la remplace par une neuve. Un courant emporte les planches toujours par le même chemin et elles échouent sur une ile ou il y a un naufragé. Celui-ci, tout heureux, les récupère et se met en tête de reconstruire un bateau. Au bout d'un certain temps, Thésée a complètement remplacé son bateau...qui s'est retrouvé reconstruit intégralement par le naufragé.
Ou est "le" bateau de Thésée ? chez Thésée ou sur l'île?)

C'est le mot "incapable" qui est trop fort. Que ce soit difficile, limité, soit. Mais à mon idée il y a nécessairement un continuum dans les capacités sensorielles. Comment alors y mettre une limite? Pourquoi y aurait-il un stade où la différence entraîne l'incapacité de communiquer?

c'est comparable à l'interfécondité des espèces. Elle peut s'affaiblir graduellement , et devenir pourtant strictement nulle. Je suppose que tu ne soutiendrais pas qu'un homme peut "peut-être" avoir un enfant commun avec une mouche par des voies naturelles en tout cas!

dans le cas d'ordinateurs, je comparerais même à une vie extraterrestre fondée sur un autre code génétique que le notre : toute interfécondité serait réellement impossible. Je ne nie pas qu'une machine puisse avoir une perception consciente, je ne pense simplement pas qu'elle pourrait nous la communiquer avec nos mots.

Je vais prendre un exemple inverse :SUPPOSONS que les ordinateurs , avec leur fonctionnement actuel, aient une "conscience d'ordinateur", qu'ils vérifient en se parlant avec leurs protocoles (TCP-IP ou que sais je encore). C'est àdire qu'ils pourraient se faire desreprésentations du "monde informatique " avec leur propre langage, dont nous n'avons aucune idée de comment ils le ressentent.

Pourrrions nous, êtres humains, entrer dans leur "monde d'ordinateur" et leur faire croire que nous en sommes un, en réagissant à leur signaux comme un ordinateur (évidemment sans tricher un utilisant un autre ordinateur!).

Pour moi, évidemment non. Je suis bien incapable de savoir ce qu'un ordinateur attendrait que je réponde à "10011101101110110100010100... "

Et bien c'est à peu près la même chose qu'on leur demanderait en voulant qu'ils communiquent avec nous...

[Galuel]

Pour moi, évidemment non. Je suis bien incapable de savoir ce qu'un ordinateur attendrait que je réponde à "10011101101110110100010100... "

Et bien c'est à peu près la même chose qu'on leur demanderait en voulant qu'ils communiquent avec nous...

Alors on ne peut communiquer avec toi parce que tes signaux neuronaux sont sous une forme "ACBCDE" à laquelle on ne sait répondre. Ou qu'on ne peut pas communiquer avec des Apaches qui utilisent des signaux de fumées.

On peut imaginer deux ordinateurs qui communiquent via des symboles sensoriels, sans être connectés entre eux. Par sons, par gestes, par signaux de fumées etc...

[invité576543]

Pour moi, évidemment non. Je suis bien incapable de savoir ce qu'un ordinateur attendrait que je réponde à "10011101101110110100010100... "

Ta comparison n'est pas plus valable qu'évoquer le cyrillique ou les katakana.

Le principe est le même dans tous les cas. L'écriture est une communication à alphabet symbolique fini. Point. Le cas de l'alphabet n'a rien de particulier à part être le plus simple.

La distinction phonétique/syntaxique/sémantique/pragmatique est fondamentale. Pour l'écrit tu remplace phonétique par alphabet fini.

S'attaquer à la différence de la couche phonétique/symbole pour en inférer une incapacité de sens, c'est manquer la cible de très loin, milles excuses!

Amicalement,

PS: Réalises-tu que nous sommes en train de communiquer via des chaînes de symboles binaires?

[invité576543]

je pense que déjà on peut contester le caractère "objectif" des objets. Est objet ce qui est "représenté" comme objet. Il y a plusieurs paradoxes associés à "l'objectivation" trop forte des objets, par exemple celui du tas de sable ou du bateau de Thésée.

Pas pertinent, parce que s'applique à toute communication, y compris homme-homme. Rien de spécifique à la communication homme-machine ou machine-machine.

c'est comparable à l'interfécondité des espèces. Elle peut s'affaiblir graduellement , et devenir pourtant strictement nulle. Je suppose que tu ne soutiendrais pas qu'un homme peut "peut-être" avoir un enfant commun avec une mouche par des voies naturelles en tout cas!

Exactement! Donc on peut passer de la non-communication actuelle, sémantiquement nulle, à une communication qui va s'améliorant.

Je vais prendre un exemple inverse :SUPPOSONS que les ordinateurs , avec leur fonctionnement actuel, aient une "conscience d'ordinateur", qu'ils vérifient en se parlant avec leurs protocoles (TCP-IP ou que sais je encore). C'est àdire qu'ils pourraient se faire desreprésentations du "monde informatique " avec leur propre langage, dont nous n'avons aucune idée de comment ils le ressentent.

F => V, contrafactualité directe. C'est justement la faiblesse actuelle des ordinateurs qui rend le domaine spéculatif. C'est comme dire aux XVIème siècle que le vol d'un plus lourd que l'air n'est pas possible, en disant que les travaux de Leonardo n'ont abouti qu'à des machines qui ne marchent pas. Ce sera quoi les ordinateurs dans 4 siècles?

Pourrrions nous, êtres humains, entrer dans leur "monde d'ordinateur" et leur faire croire que nous en sommes un, en réagissant à leur signaux comme un ordinateur (évidemment sans tricher un utilisant un autre ordinateur!).

Quel intérêt? Ce serait un point plus pertinent (et encore) dans le cas d'une rencontre avec un ET intelligent. Mais ici on parle de "coévolution", de machine qui évoluent en interaction avec les humains.

Amicalement,

[invité576543]

Correctif message #self-2

Le principe est le même dans tous les cas. L'écriture est une communication à alphabet symbolique fini. Point. Le cas de l'alphabet binaire n'a rien de particulier à part être le plus simple.

[invite06fcc10b]

Je vais prendre un exemple inverse :SUPPOSONS que les ordinateurs , avec leur fonctionnement actuel, aient une "conscience d'ordinateur", qu'ils vérifient en se parlant avec leurs protocoles (TCP-IP ou que sais je encore). C'est àdire qu'ils pourraient se faire desreprésentations du "monde informatique " avec leur propre langage, dont nous n'avons aucune idée de comment ils le ressentent.

Impossible, personnellement, je ne peux accepter cet exemple pour la raison suivante : nous avons dit qu'il fallait avoir de grandes facultés d'apprentissage par l'expérience pour accéder à l'intelligence du langage. Or, les ordinateurs actuels n'ont pratiquement aucune faculté d'apprentissage, il ne peuvent donc avoir aucune représentation pertinente du monde informatique.
Si cependant on les dotait d'une telle capacité d'apprentissage et qu'ils apprenaient via le net par exemple, alors ils finiraient, comme je l'ai suggéré précédemment, par comprendre des notions fondamentales de la théorie des ensembles et de la logique. En conséquence de quoi l'exemple que tu as pris du paradoxe du grain de sable aurait à mon avis son équivalent dans la représentation des ordinateurs, car il s'agit d'un problème de classification lié précisément à la théorie des ensembles. Un être intelligent ne peut pas ne pas se rendre compte du caractère flou de certaines notions ensemblistes et de certaines difficultés attachées au processus de classification (ce tas de bits est-il un programme ou pas ? et si j'ajoute un bit, est-ce que ça le devient ?)
Le même genre de questions et de réponses à ces problèmes basiques de la théorie des ensembles doit nécessairement avoir des conséquences structurelles sur le développement de l'intelligence.

[Galuel]

Un être intelligent ne peut pas ne pas se rendre compte du caractère flou de certaines notions ensemblistes et de certaines difficultés attachées au processus de classification (ce tas de bits est-il un programme ou pas ? et si j'ajoute un bit, est-ce que ça le devient ?)

Pas besoin du problème de conscience d'un ordinateur pour résoudre ce genre de question.

Que penser de ces deux "ensembles" : http://www.chaturanga.fr/info.jpg ?

Même nombre de particules même spin etc...

[GillesH38a]

Alors on ne peut communiquer avec toi parce que tes signaux neuronaux sont sous une forme "ACBCDE" à laquelle on ne sait répondre. Ou qu'on ne peut pas communiquer avec des Apaches qui utilisent des signaux de fumées.

On peut imaginer deux ordinateurs qui communiquent via des symboles sensoriels, sans être connectés entre eux. Par sons, par gestes, par signaux de fumées etc...

J'ai du mal me faire comprendre (encore une fois ). Si je dis que je ne saurais pas répondre à 100110111 bien sûr, ce n'est pas que la forme n'est pas adaptée à mon cerveau. On peut tout a fait imaginer une interface permettant de traduire en termes humains ce que l'ordinateur envoie (c'est le but du langage évolué). Ce que je veux dire, c'est que je ne pourrais pas répondre en tant qu'être humain à une demande d'ouverture de port 057 ou de transfert de mon adresse mac , et que je ne peux pas utiliser non plus le langage de l'ordinateur pour lui expliquer que je n'ai pas d'adresse mac, il n'y a pas de place prévue pour ça dans son langage.

Penser qu'il puisse exister un ordinateur qui "comprenne ce qu'on veut dire " avec des mots humains, suppose qu'on sache faire un ordinateur qui associe ses réalités sensorielles au langage humain. C'est réalisé naturellement avec tous les êtres humains (y compris les apaches et les russes) :nous POUVONS apprendre le cyrillique ou les signaux de fumée uniquement parce que le message transmis par ce langage est "traduisible" dans le notre, parce qu'il réfère finalement à une réalité biologique comparable. Encore une fois , le degré de communication que nous avons avec les autres humains et les animaux ne porte que sur la partie biologique et culturelle commune lus on s'en éloigne, moins nous communiquons.

Ce n'est pas qu'une question d'apprentissage : lescapacités d'apprentissage sont limitées au départ également par la structure biologique. Elevé comme un enfant , un singe commence par progresser comme lui (et même plus vite) mais finit par saturer dans ses capacités d'abstraction :là encore il n'est capable d'intégrer que ce qui est compatible avec sa biologie. Un ordinateur ne pourrait pas plus "apprendre de lui même " le langage humain qu'un enfant n'apprendrait à traiter des images jpeg en étant abreuvé de fichiers éxecutables écrits en binaires depuis sa plus tendre enfance.

[GillesH38a]

Pas besoin du problème de conscience d'un ordinateur pour résoudre ce genre de question.

Que penser de ces deux "ensembles" : http://www.chaturanga.fr/info.jpg ?

Même nombre de particules même spin etc...

Mais tu ne donnes une signification a E=mc^2 que parce que tu donnes un sens physique à "énergie", "masse", "vitesse", et meme "Einstein", tout ceci résultant in fine de ton expérience vécue. Tout ça n'aurait aucun sens sans tes perceptions tactiles et visuelles ayant conduit à définir ces quantités.

[invité576543]

Gilles,

Il n'est (ne m'est) pas facile de comprendre ta position.

Tu oppose biologique à tout autre chose. La perception visuelle biologique semble pour toi spécifique, par exemple.

Tu dis "capacité limitée au départ", mais certains apprennent la MQ ou la RR, et on a du mal à imaginer que les limitations ont été étendues si loin dès le départ malgré le fait que ce n'est pas notre expérience physique de départ. Le biologique a des capacités limitées, mais pas au point d'exclure la MQ, mais le mécanique a des capacitée limtées à jamais, qui excluerait de communiquer sur ce même sujet?

Tu dis "donner un sens physique" pour un humain à propos, là encore de concepts pour les quels on est sensoriellement mal équipé, mais tu considère qu'aucune machine ne pourra jamais "donner de sens physique" à des symboles, alors qu'elles pourraient être équipée de sens adaptés?

Ca semble un sacré a priori.

Je ne vois pas de base à tout cela, autre que le biologique existe maintenant, alors qu'aucune machine ne communique sérieusement, maintenant.

Et la conséquence pratique c'est quoi? Qu'il ne faut pas essayer, puisque ça ne marchera pas? C'est pas comme ça que nos ancêtres auraient été bien loin!!

Peut-être as-tu raison. Je ne sais rien. Mais me ça semble suffisamment intéressant pour qu'on, ceux qui y croient, y travaille! Je sais que ça ne ressemblera à rien que j'imagine maintenant; tout domaine technique démarre avec des idées approximatives et en définitive fausses. Mais ce sont les essais et erreurs qui formeront la chose. Et je suis persuadé, profondément, qu'une position comme la tienne ne tiendra pas avec le temps: il y aura, un jour, quelque chose que toi et les successeurs de même opinion, devront admettre dans ce club que plein d'humains veulent être très fermé de "'intelligence".

Cordialement,

[invite73192618]

Gilles,

Il n'est (ne m'est) pas facile de comprendre ta position.

Tu oppose biologique à tout autre chose. La perception visuelle biologique semble pour toi spécifique, par exemple.

Tu dis "capacité limitée au départ", mais certains apprennent la MQ ou la RR, et on a du mal à imaginer que les limitations ont été étendues si loin dès le départ malgré le fait que ce n'est pas notre expérience physique de départ. Le biologique a des capacités limitées, mais pas au point d'exclure la MQ, mais le mécanique a des capacitée limtées à jamais, qui excluerait de communiquer sur ce même sujet?

Tu dis "donner un sens physique" pour un humain à propos, là encore de concepts pour les quels on est sensoriellement mal équipé, mais tu considère qu'aucune machine ne pourra jamais "donner de sens physique" à des symboles, alors qu'elles pourraient être équipée de sens adaptés?

Ca semble un sacré a priori.

C'est une très bonne formulation de choses qui moi aussi me surprennent, au point que je pensais à un moment que tu (Gilles) étais substancialiste. J'attends ta réponse avec impatience

[Galuel]

Mais tu ne donnes une signification a E=mc^2 que parce que tu donnes un sens physique à "énergie", "masse", "vitesse", et meme "Einstein", tout ceci résultant in fine de ton expérience vécue. Tout ça n'aurait aucun sens sans tes perceptions tactiles et visuelles ayant conduit à définir ces quantités.

Là il y a je pense un faux présupposé de ce que je cherche à montrer.

Je voulais montrer que ces deux ensembles peuvent signifier E=MC2 l'un comme l'autre justement en fonction essentiellement de la conscience qui en fait l'expérience.

Ce qui revient à dire qu'on croit pouvoir communiquer y compris avec les autres êtres humains mais qu'en fait c'est absolument impossible d'être sûr à 100% qu'on a "compris" exactement même chose, même si cela semble le cas. Nos expériences, notre vécu sont toutes dissemblables, nos références symboliques aussi. On s'approche les uns des autres sans jamais coïncider exactement.

[Galuel]

Ce n'est pas qu'une question d'apprentissage : lescapacités d'apprentissage sont limitées au départ également par la structure biologique. Elevé comme un enfant , un singe commence par progresser comme lui (et même plus vite) mais finit par saturer dans ses capacités d'abstraction :là encore il n'est capable d'intégrer que ce qui est compatible avec sa biologie. Un ordinateur ne pourrait pas plus "apprendre de lui même " le langage humain qu'un enfant n'apprendrait à traiter des images jpeg en étant abreuvé de fichiers éxecutables écrits en binaires depuis sa plus tendre enfance.

Je comprends ton sentiment. Toutefois je m'inscris en faux. Un chien comprend tout à fait ce que lui dit son maître, qui le comprend aussi. C'est dû en fait à l'expérience vécue ensemble.

En "vivant" avec une machine multi-sensorielle / multi-actions capable d'apprentissage un dialogue pourra s'établir. Si la machine est dotée de la parole et de l'ouïe (et on sait le faire) il sera possible d'établir une communication avec elle. Qu'elle soit du niveau d'une communication humaine peut-être pas dans un premier temps, mais qu'elle soit possible ne fait aucun doute à mon avis.

[invité576543]

Qu'elle soit du niveau d'une communication humaine peut-être pas dans un premier temps, mais qu'elle soit possible ne fait aucun doute à mon avis.

Les arguments de Gilles sont tout à fait valables pour penser qu'il n'y aura probablement jamais une communication totale, ni dans un premier, ni dans un deuxième temps, parce que des expériences, introspectives en particulier, ou encore liées à nos particularités biologiques, ne seront pas partagées (ce qui implique que le test de Turing ne sera jamais passé...). Ca s'applique d'ailleurs tout aussi bien avec la communication, si elle est possible un jour, avec des dauphins, ou des ET issus d'un processus Darwinien.

Mais cela n'exclut pas une communication opérationnelle portant sur une grande variété de sujets...

Cordialement,

[invite73192618]

Ca s'applique d'ailleurs tout aussi bien avec la communication, si elle est possible un jour, avec des dauphins, ou des ET issus d'un processus Darwinien.

...et d'ailleurs aux humains entre eux right?