Intelligence artificielle

[invite8915d466]

Ce n'est pas un problème de "principe". C'est un problème, certes. Les buts sont hiérarchisés. Pour atteindre un but A, on décompose souvent en une série de sous-buts B1, ..., Bn, eux-mêmes décomposés en sous-sous-buts, etc.

Par introspection pour un humain, les buts les plus "hauts" dans la hiérarchie sont toujours affectifs, les buts intermédiaires peuvent être "rationnels", les sous-buts "finaux" sont "procéduraux" (pas de conscience des commandes de tel ou tel muscle pour obtenir comme but le mouvement de la main, dont le but est la prise d'un objet, dont le but est de le porter aux lèvres dont le but est d'ingurgiter le liquide dans ledit verre dont le but est d'étancher la soif, dont le but est affectif, i.e., faire cesser la sensation désagréable de soif).

OK pour cette définition. Pour en revenir à la distinction précédente, la différence entre les buts d'une machine et les buts d'un homme est alors que pour un homme, personne d'autre que lui n'a conçu ses buts.

Machine = algorithmique

Cerveau = non algorithmique

Donc, machine <> cerveau

Je n'ai toujours pas perçu la différence avec :

machine = machine

Cerveau = non machine

donc, cerveau <> machine

il n'y a pas de différence, mais la proposition en débat est


(machine = algorithmique) donc

((cerveau = algorithmique) => (cerveau=machine))

Il n'est pas définitivement prouvé que le cerveau est, ou n'est pas algorithmique. Ma position (pour laquelle j'ai donné plusieurs fois un certain nombre d'arguments) est qu'il ne l'est pas, et donc l'inférence ci-dessus est en pratique inutilisable (bien que trivialement exacte).

Cordialement

Gilles
-----

[spi100]

Les modèles basés sur les processus de markov decisionnels permettent de regrouper les vus de mmy et Gillesh.
Je l'expose rapidement :
Un observateur O cherche à analyser le comportement de X. Il connait les états internes possibles de X, mettons e1, e2, ... ces états internes sont par exemple : colère, faim, envie café, etc.
X peut agir sur son environnement par des actions a1, a2, ... Ici il faut comprendre l'environnement au sens large : par exemple "se déplacer" est une action sur l'environnement car X change de lieu.
Le fait d'agir avec l'action a, provoque une réponse de l'environnement qui va à son tour agir sur l'état interne de X.
A chaque action réalisée, X recoit une récompense ou une pénalité. Cette pénalité est fonction de l'état e, et de l'action qu'il execute.

C'est là qu'intervient le truc un peu sioux : le comportement de X consiste à optimiser la somme de toutes les récompenses à venir, et non la récompense immédiate. On retrouve ainsi l'idée que le comportement d'un agent intelligent n'est pas dicté par des résultats sur le court terme mais sur le long terme. Ceci de façon beaucoup moins rigide que la décompostion des buts en sous buts. De plus, la fonction de récompense peut faire cohabiter des récompenses de nature très différentes : affectives, de survie, etc, et il n'est pas utile de chercher les règles qui pourraient les lier : ainsi le comportement d'un agent résulte de la satisfaction d'un ensemble de contraintes pas nécessairement compatibles entre elles.

Pour spécifier complètement un tel modèle, il faut connaitre :
La probabilité P(a|e) que X fasse l'action a, sachant qu'il est dans l'état e,
La probabilité P(e1|e,a) d'être dans l'état e1, sachant que l'action et l'état précédents étaient a et e.

Ces probabilités sont ajustées par l'agent au cours de ses interactions avec l'environnement afin de maximiser sa récompense espérée et cumulée. Et elles vont sans cesse évoluer avec la vie de l'agent et ses interactions avec l'extérieur.

L'observateur O qui veut construire un modèle comportemental de X, peut ignorer la fonction de récompense et se contenter de la connaissance des probabilités de transitions. Mais pour chaque observation comportementale qu'il fait, il doit faire une hypothèse sur l'état interne de X et il peut se tromper car il n'y a pas accès directement : il ne percoit que les actions de X. Il peut néanmoins construire, connaissant la séquence d'actions de X, la séquence d'états internes la plus probables (c'est du Viterbi pour ceux qui connaissent). Dans ce cas, on voit donc que le seul moyen de comprendre le comportement d'un individu, est de considérer l'ensemble et les enchaînements des actions qu'il réalise. Les regarder au coup par coup comme le fait Gillesh dans certains de ces exemples, tenderait à faire croire que le comportement de l'individu n'est pas rationnel : la logique d'un agent apparait sur le long terme.

Du point de vu de l'ingénieur, il s'agit de fixer la fonction de récompense. Les probabilités vont être apprises par l'agent au cours de ses expériences. Dans un tel modèle, le développeur connait les tendances que l'agent va suivre mais ignore son comportement à cours terme, ni les stratégies qu'il va inventer. De plus la description reste probabiliste, c'est une nécessité car le hasard permet à l'agent d'explorer plus de solutions et donc d'être plus efficace dans sa recherche de satisfaction.

Evidemment dans le cas des systèmes naturels, la fonction de récompense doit elle aussi être apprise, sur la base de principes eux même plus généraux tel que la persistence de l'espèce par exemple.

[invité576543]

personne d'autre que lui n'a conçu ses buts.

Personne, non. Mais quelque chose, oui. Le tri qui a été fait dans ses ancêtres sur 3 milliards d'années et plus. La sélection naturelle a façonné son génome qui peut très bien "contenir" les buts (par exemple en câblant la notion de récompense/pénalité (=plaisir/douleur) citée par Spi; je veux bien qu'une partie de la sensation de plaisir soit apprise, mais je pense l'origine intégralement génétique pour certains, le plaisir sexuel pour n'en citer qu'un). Après on peut jouer sur la sémantique du mot "concevoir". La sélection naturelle "conçoit-elle" le génome? A mon avis un point de vocabulaire marginal au débat.

Cordialement,

[invite2462dd8f]

Ci un jour on arrive a connaître le fonctionnement exacte du cerveau humain, ne serait t'il pas imaginable de le programmer ? Comme on le fait pour simuler la forme d'une protéine. Après tout ce ne sont que des réactions chimiques.
Est il possible qu'une fois tout les neurones et toute leurs réactions chimiques simulées (spécialisation des cellules, "ADN" virtuel) on s'aperçoivent que le programme est "vivant" ?

[invite2462dd8f]

Machine = algorithmique

Cerveau = non algorithmique

Donc, machine <> cerveau

Je n'ai toujours pas perçu la différence avec :

machine = machine

Cerveau = non machine

donc, cerveau <> machine

Bon résonnement toutefois on ne veut pas fabriquer un cerveau on veut juste faire une machine qui fasse la même chose.
un stylo bille = encre
crayon de bois >< encre
donc stylo bille >< crayon de bois
même si le stylo est différent du crayon on peut quand même écrire avec !

[spi100]

Ci un jour on arrive a connaître le fonctionnement exacte du cerveau humain, ne serait t'il pas imaginable de le programmer ? Comme on le fait pour simuler la forme d'une protéine. Après tout ce ne sont que des réactions chimiques.
Est il possible qu'une fois tout les neurones et toute leurs réactions chimiques simulées (spécialisation des cellules, "ADN" virtuel) on s'aperçoivent que le programme est "vivant" ?

Justement le problème du repliement des protéines est un problème considéré encore comme ouvert. Les physiciens connaissent très bien les interactions en jeu dans les protéines, mais ne comprennent pas comment elles collaborent pour permettre à une protéine de trouver si rapidement sa forme la plus stable.

Si tu transposes au cerveau humain, la connaissance parfaite de ce qui se passe dans les synapses ne servira probablement à rien pour prévoir le comportement global du cerveau.

[invite8915d466]

Bonjour

Personne, non. Mais quelque chose, oui. Le tri qui a été fait dans ses ancêtres sur 3 milliards d'années et plus. La sélection naturelle a façonné son génome qui peut très bien "contenir" les buts (par exemple en câblant la notion de récompense/pénalité (=plaisir/douleur) citée par Spi; je veux bien qu'une partie de la sensation de plaisir soit apprise, mais je pense l'origine intégralement génétique pour certains, le plaisir sexuel pour n'en citer qu'un). Après on peut jouer sur la sémantique du mot "concevoir". La sélection naturelle "conçoit-elle" le génome? A mon avis un point de vocabulaire marginal au débat.

Pour moi, ce n'est pas marginal mais au contraire essentiel pour définir ce que c'est qu'une structure émergente.

La "sélection naturelle" est un processus, pas un objet matériel contenant de l'information. Elle ne "conçoit" pas le génome, pas plus que l'hydrodynamique ne "conçoit" un ouragan. Rien ne dit à quelle complexité la biosphère "devait" arriver.

Au contraire, tous les systèmes d'IA ont été conçus par une pensée abritée par un cerveau : ils n'ont pu, ne peuvent et ne pourront QUE faire des tâches imaginées préalablement par ce cerveau. Ca me parait etre une différence tout à fait objective et essentielle , parce que c'est la cause fondamentale du fait qu'ils sont limités dès le départ par la complexité qu'on leur a assignée : même un algorithme "évolutif" n'evoluera que dans le cadre qu'on lui a prédéfini, sans aucune chance d'en sortir.

Cordialement

Gilles

[spi100]

même un algorithme "évolutif" n'evoluera que dans le cadre qu'on lui a prédéfini, sans aucune chance d'en sortir.

Cordialement

Gilles

Tu supposes donc que les agents intelligents possède un cadre illimité ? C'est une chose de l'affirmer encore faut - il le prouver ? Dans ces conditions l'intelligence n'est pas du ressort de l'humain ou alors selon toi son cadre est extensible à l'infini.

[invité576543]

La "sélection naturelle" est un processus, pas un objet matériel contenant de l'information. Elle ne "conçoit" pas le génome, pas plus que l'hydrodynamique ne "conçoit" un ouragan. Rien ne dit à quelle complexité la biosphère "devait" arriver.

OK. Prenons la sélection naturelle, l'évolution à la Darwin, comme un processus. Processus de quoi, et de quel type?

Ce qui est processé est au final l'organisation d'un ensemble de molécules soumis à un flux n-entropique important. Cette organisation, nous la décrivons en termes de structures émergentes, organites, cellules, organismes, écosystèmes locaux, biosphère. Peut-on dire alors que l'évolution est un processus de la biosphère? Il s'agit bien d'un "objet" matériel, non?

De quel type? Ce processus modifie l'organisation de la biosphère, il en change ses composants, en qualité comme en quantité relative. C'est un processus qui forme, façonne, quelque chose, ledit quelque chose dans lequel il se déroule.

Le mot "concevoir" a des connotations d'imaginer avant de faire. D'accord. C'est un mot qui décrit le processus d'évolution culturel, pas l'évolution à la Darwin. Imaginons un humain qui écrit un texte, puis y fait des modifications "au hasard", choisit le texte le plus "plaisant" pour lui, et recommence. Dira-t-on qu'il à conçu le texte final? Non. Certes, mais que dira-t-on?

Je te propose "façonne". On trouve sur l'ATILF "Disposer, arranger quelque chose, généralement pour l'améliorer" comme définition. Ca colle, non?

Alors disons que la biosphère a façonné les génomes actuels, via le processus de sélection naturelle.

Cette expression est plus précise, plus rigoureuse, je te l'accorde. Mais quel progrès s'obtient avec cette meilleure terminologie? Pas grand chose. L'idée de fond est toujours là. Tu mets l'accent sur la différence sur le processus de façonnement. Cela correspond assez bien à la distinction que je fais entre l'évolution "culturelle" (les techniques "humaines" progressent parce que des humains les façonnent en en concevant de nouvelles, en en concevant des modifications) et l'évolution à la Darwin (qui façonne la biosphère ou ses composants par diversification et tri par reproduction différentielle). Donc, oui, il y a différence. Et oui, elle est essentielle pour moi, au minimum dans un cadre autre que celui de cette discussion.

Cette mise au point lexicale faite, je réitère mon commentaire en l'augmentant (anglicisme...):

"Personne d'autre que lui n'a conçu les buts d'un homme." a) Au sens du mot "conçu" que tu utilises, un homme n'a pas conçu ses buts, du moins pas tous, et de toutes manières certainement ses buts les plus élevés dans la hiérarchie que j'ai décrite. b) La biosphère a façonné au minimum une partie de ces buts les plus élevés (le reste devant être recherché dans l'éducation).

La comparaison avec les machines devient alors différente. Les différences qui apparaissent sont le processus de façonnage (conception des buts de la machine vs. façonnage des buts d'un organisme par la sélection naturelle passée) et dans l'agent (des humains vs. la biosphère tout au long de quelques milliards d'années).

Après, que ces différences soient considérées comme essentielles ou non est une affaire d'opinion, de goût, ou, au mieux, de l'application pratique que l'on peut faire d'une telle classification en essentiel ou non. Tu l'appliques aux limitations du résultat du façonnage. Voyons cela.

Au contraire, tous les systèmes d'IA ont été conçus par une pensée abritée par un cerveau

Conçus, d'accord.

: ils n'ont pu, ne peuvent et ne pourront QUE faire des tâches imaginées préalablement par ce cerveau.

Non. Sauf à considérer une notion restrictive du mot "tâche". Les machines font certaines tâches préalablement imaginées, certes, c'est le mode de façonnage qui veut cela. Elargissons au façonnage: les machines font des tâches imposées par leur façonnage. Mais elle ne font pas nécessairement que cela. Un programme d'échec de haut niveau n'applique pas que des tactiques préalablement imaginées par ses concepteurs, si on accepte le mot tactique à une échelle d'analyse des coups qui va bien.

Ca me parait être une différence tout à fait objective et essentielle , parce que c'est la cause fondamentale du fait qu'ils sont limités dès le départ

En biologie on trouve le terme de "plasticité" pour décrire la "liberté" qu'a un organisme par rapport au génome (le départ?). Avec ce concept, on peut dire que les machines actuelles ont une très faible plasticité, d'accord. Alors que certains organismes biologique, en particulier les mammifères, et encore plus particulièrement le cerveau humain, font preuve d'une grande plasticité. OK.

Mais la plasticité des machines n'est pas nulle. La différence de plasticité entre machines actuelles et cerveau est quantitative, pas qualitative.

Ensuite tu sembles lier le mode de façonnage des buts à la plasticité. Tu dis en gros le façonnage par conception ne peut aboutir qu'à des entités à plasticité nulle (ce qui est contesté ci-dessus, disons plasticité irrémédiablement limitée), alors que le façonnage par sélection naturelle a obtenu des entités à grande plasticité (en fait tu dis plutôt "à plasticité totale pour les buts", i.e., sans aucun but imposé par le façonnage). Une fois de plus (tout cela n'est qu'un rephrasage d'échanges qui ont déjà advenus), je ne vois pas quel argument permet de penser ainsi.

Pour résumer, avec ce vocabulaire de ce message, les points où mon opinion diverge de ce que je crois comprendre que tu exprimes:

- La plasticité des machines actuelles est certes faible, mais pas nulle.

- La plasticité des humains en termes de buts n'est pas totale, une partie des buts est imposée par le génome, par l'ontogenèse matérielle, et ce génome a été façonné par la biosphère.

- Le degré de plasticité n'est pas lié au mode de façonnement. Il l'est actuellement, de manière contingente, explicable par la différence de maturité entre les produits conçus par les humains en quelques centaines d'années et les produits façonnés par la biosphère en quelques milliards d'années. Rien ne permet de dire que le degré de plasticité atteignable par une entité conçue ne soit limité par ce mode de façonnement.

même un algorithme "évolutif" n'évoluera que dans le cadre qu'on lui a prédéfini, sans aucune chance d'en sortir.

Un humain n'évolue que dans le cadre prédéfini par son génome et son passé, sans aucune chance d'en sortir. Même si ça fait plaisir de penser le contraire.

Cordialement,

(Je ne sais pas si toutes ces discussions amènent une quelconque évolution des opinions profondes respectives (est-ce bien un but, d'ailleurs?), mais elles me font évoluer, m'enrichissent, du point de vue de la précision de l'expression des idées et des argumentations. J'en rend grâce à tous les intervenants, dans cette discussion et d'autres! -smiley qui veut dire "merci à Futura Science", je précise, parce que cela ne semble pas être l'usage le plus courant...)

[invite8915d466]

Ce qui est processé est au final l'organisation d'un ensemble de molécules soumis à un flux n-entropique important. Cette organisation, nous la décrivons en termes de structures émergentes, organites, cellules, organismes, écosystèmes locaux, biosphère. Peut-on dire alors que l'évolution est un processus de la biosphère? Il s'agit bien d'un "objet" matériel, non?

La différence sur laquelle j'insiste est que la complexité de la biosphère n'existe pas AILLEURS QUE DANS LA BIOSPHERE. Elle émerge de ses propres lois d'évolution sans avoir besoin d'être représentée symboliquement dans une autre instance (chose dont les créationnistes n'arrivent pas à admettre la possibilité justement) Alors que les ordinateurs n'existeraient pas du tout si il n'existait pas de cerveau humain.

De quel type? Ce processus modifie l'organisation de la biosphère, il en change ses composants, en qualité comme en quantité relative. C'est un processus qui forme, façonne, quelque chose, ledit quelque chose dans lequel il se déroule.

oui mais ce processus est spontané et interne, encore une fois.

Le mot "concevoir" a des connotations d'imaginer avant de faire. D'accord. C'est un mot qui décrit le processus d'évolution culturel, pas l'évolution à la Darwin. Imaginons un humain qui écrit un texte, puis y fait des modifications "au hasard", choisit le texte le plus "plaisant" pour lui, et recommence. Dira-t-on qu'il à conçu le texte final? Non. Certes, mais que dira-t-on?

qu'est ce que tu veux dire exactement par "modifications au hasard"? si tu fais vraiment au hasard, ton texte a toutes les chances de ne rien vouloir dire du tout, et ce n'est donc pas comme cela que les textes sont écrits : les textes sont des artefacts non évolutifs.
Les structures linguistiques, en revanche, evoluent effectivement par mutation aléatoire et sélection, et ont beaucoup de points communs avec l'évolution biologique. Effectivement les langues "efficaces" ne sont pas créées de toutes pièces, les quelques unes l'ayant été (type esperanto) n'ont pas vraiment eu de succès...

- La plasticité des machines actuelles est certes faible, mais pas nulle.

- La plasticité des humains en termes de buts n'est pas totale, une partie des buts est imposée par le génome, par l'ontogenèse matérielle, et ce génome a été façonné par la biosphère.

- Le degré de plasticité n'est pas lié au mode de façonnement. Il l'est actuellement, de manière contingente, explicable par la différence de maturité entre les produits conçus par les humains en quelques centaines d'années et les produits façonnés par la biosphère en quelques milliards d'années. Rien ne permet de dire que le degré de plasticité atteignable par une entité conçue ne soit limité par ce mode de façonnement.



Un humain n'évolue que dans le cadre prédéfini par son génome et son passé, sans aucune chance d'en sortir. Même si ça fait plaisir de penser le contraire.

Cordialement,

je ne vois pas comment un système quel qu'il soit pourrait "sortir" de son cadre de fonctionnement.

Je ne nie pas qu'un programme ait une certaine "plasticité". Ce que je dis, c'est que le système "vivra" dans le monde défini par ses contraintes, et que le fait que l'homme soit contraint par les lois biochimiques de même nature que son environnement, alors que la machine est limitée par son système d'exploitation qui n'a rien de commun avec l'environnement physique dans lequel elle existe, les condamne à vivre dans des mondes essentiellement différents, et donc exclut la possibilité qu'ils se reconnaissent comme "de même nature" (idée implicite transportée par la "machine intelligente".)

Cordialement

Gilles

[invite6cd8289c]

Bonjour à tous et merci pour ce fil de discussion fort intéressant.

[...]Elle émerge de ses propres lois d'évolution sans avoir besoin d'être représentée symboliquement dans une autre instance[...]Alors que les ordinateurs n'existeraient pas du tout si il n'existait pas de cerveau humain[...]la machine est limitée par son système d'exploitation qui n'a rien de commun avec l'environnement physique dans lequel elle existe, les condamne à vivre dans des mondes essentiellement différents, et donc exclut la possibilité qu'ils se reconnaissent comme "de même nature" (idée implicite transportée par la "machine intelligente".)[...]

L'ordinateur n'est-il pas lui-même le fruit de ces loi de l'évolution puisque créé par l'homme ?

Par ailleur, si tu améliores comme l'a si bien expliqué mmy la plasticité de l'ordinateur et lui fournit des senseurs sur son environnement, la distinction entre le monde de l'ordinateur et le nôtre devient ténue. D'autant plus que dans le sens inverse, l'homme augmenté par la cybernétique aura lui-même des capacités de mémoire, de traitement de l'information et surtout de communication qui sont aujourd'hui l'apanage des ordinateurs.

Pour en revenir à la question initiale du sondage, si par intelligence artificielle on entend "capable de passer un test de Turing", j'en suis persuadé et bien avant un siècle. Pour le reste et à plus long terme, je suis pour l'instant plutôt convaincu d'une évolution de "l'intelligence" vers quelque chose de moins biologique et moins individuel que ce que nous sommes.

[invite8915d466]

L'ordinateur n'est-il pas lui-même le fruit de ces loi de l'évolution puisque créé par l'homme ?

comme la cafetière et la voiture, oui. C'est un peu léger pour en déduire qu'il est équivalent du point de vue traitement de l'information. Et l'ordinateur n'est aucunement adapté à la selection naturelle, mets ton PC dans la foret et reviens le voir un an après .

Par ailleur, si tu améliores comme l'a si bien expliqué mmy la plasticité de l'ordinateur et lui fournit des senseurs sur son environnement, la distinction entre le monde de l'ordinateur et le nôtre devient ténue.

ah bon?

D'autant plus que dans le sens inverse, l'homme augmenté par la cybernétique aura lui-même des capacités de mémoire, de traitement de l'information et surtout de communication qui sont aujourd'hui l'apanage des ordinateurs.

ah bon?

Pour en revenir à la question initiale du sondage, si par intelligence artificielle on entend "capable de passer un test de Turing", j'en suis persuadé et bien avant un siècle.

ben moi je suis convaincu du contraire, mais j'ai deja proposé des paris dessus. Tu serais prêt à parier combien toi ?

Cordialement

Gilles

[invite765732342432]

Et l'ordinateur n'est aucunement adapté à la selection naturelle, mets ton PC dans la foret et reviens le voir un an après .

Argument vraiment très mal choisi: prends un poisson et mets le dans la forêt, repasse 1 heure plus tard...
Un "être" est adapté à un environnement précis. Le changer d'environnement pour prouver qu'il n'est pas adapté n'a aucun sens.

[invite8915d466]

Argument vraiment très mal choisi: prends un poisson et mets le dans la forêt, repasse 1 heure plus tard...
Un "être" est adapté à un environnement précis. Le changer d'environnement pour prouver qu'il n'est pas adapté n'a aucun sens.

Je ne dis pas autre chose ! ce que je dis c'est du coup que ce qu'on appelle "l'intelligence" n'est rien d'autre que l'adaptation du comportement à cet environnement, et que ça n'a pas de sens de chercher à l'appliquer à un système qui y est inadapté. C'est pour ça que ce n'est pas une notion algorithmique indépendante de la plateforme matérielle. Par exemple les "signes" affectifs montrés par le robot n'ont en fait aucune signification, pas plus que les gestes des automates de Vaucanson, parce qu'il n'y a rien dans le robot qui nécessite de gérer des affects, qui ne prennent le sens que dans le contexte de la vie "biologique" humaine (dont l'essentiel des buts est la survie, l'alimentation, et la reproduction).

[invite765732342432]

Par exemple les "signes" affectifs montrés par le robot n'ont en fait aucune signification, pas plus que les gestes des automates de Vaucanson, parce qu'il n'y a rien dans le robot qui nécessite de gérer des affects, qui ne prennent le sens que dans le contexte de la vie "biologique" humaine (dont l'essentiel des buts est la survie, l'alimentation, et la reproduction).

On est d'accord qu'afficher des affects de type humain ne témoigne pas d'intelligence.
Par contre tu fais toujours le même raisonnement bancal:
Actuellement, seuls quelques êtres biologiques sont intelligents donc aucune machine ne peut être intelligente.

Les machines peuvent avoir leurs propres affects, sans rapport avec ceux qui apparaissent chez les animaux. Ai-je le droit d'interprêter le clignotement de la diode HDD ou Ethernet comme un affect "électronique" ?

[invite6cd8289c]

Je ne dis pas autre chose ! ce que je dis c'est du coup que ce qu'on appelle "l'intelligence" n'est rien d'autre que l'adaptation du comportement à cet environnement, et que ça n'a pas de sens de chercher à l'appliquer à un système qui y est inadapté.[...]

Et pourquoi donc es-tu si persuadé que jamais un ordinateur ne sera capable de s'adapter et réagir avec son environnement et des êtres humains ?

Si d'ici 2050 une équipe de robots peut battre les champions du monde de football, je ne vois pas ce qui techniquement nous empêcherait de créer des robots complètement autonomes et capable de se reproduire (i.e. capables d'exploiter les ressources de leur milieu biologique pour se reproduire).

Donne à ces robots la capacité de passer le test de Turing et tu as je pense une intelligence artificielle qui répond à tes contraintes.

[invite8915d466]

On est d'accord qu'afficher des affects de type humain ne témoigne pas d'intelligence.
Par contre tu fais toujours le même raisonnement bancal:
Actuellement, seuls quelques êtres biologiques sont intelligents donc aucune machine ne peut être intelligente.

Non ce n'est pas la base de mon raisonnement (le raisonnement "ca a toujours été comme ça et donc ça ne peut pas être autrement " est bien évidemment faux et sur d'autres sujets je suis le premier à le combattre).

La base de mon raisonnement repose sur l'analyse de ce qu'on appelle l'intelligence, et je pense qu'il est faux de croire que ça consiste en un raisonnement de type algorithmique implémentable sur n'importe quelle plate forme (l'erreur venant probablement du fait qu'il y a effectivement certaines taches qu'on peut A LA FOIS faire par une intelligence "humaine" et un processus algorithmique, mais le fait que leurs capacités aient une intersection non nulle ne prouve en aucun cas leur équivalence).

Ce que je dis, c'est que l'analyse des concepts manipulés par l'intelligence humaine (en particuliers sensoriels, affectifs et moraux) montre qu'ils n'ont pas de sens en dehors de la réalité biologique de l'etre humain, et donc qu'un substrat différent ne pourrait pas donner de "sens" à ces concepts, et donc les manipuler "comme nous".

Et pourquoi donc es-tu si persuadé que jamais un ordinateur ne sera capable de s'adapter et réagir avec son environnement et des êtres humains ?

Si d'ici 2050 une équipe de robots peut battre les champions du monde de football, je ne vois pas ce qui techniquement nous empêcherait de créer des robots complètement autonomes et capable de se reproduire (i.e. capables d'exploiter les ressources de leur milieu biologique pour se reproduire).

Donne à ces robots la capacité de passer le test de Turing et tu as je pense une intelligence artificielle qui répond à tes contraintes.

d'une part je ne dis pas que les machines ne "peuvent pas" s'adapter (certaines le font deja dans un certain sens) : je dis qu'elles ne peuvent pas manipuler les concepts humains qui font qu'on les reconnaitrait comme intelligentes (et en particulier pas soutenir une conversation "sensée" au sens de Turing.

Tu crois qu'une machine pourrait passer le test de Turing, admettons. A ton avis, cette machine penserait-elle au fond d'elle même qu'elle est une machine qui essaie de se faire passer pour un etre humain, ou bien penserait-elle qu'elle est VRAIMENT un etre humain?

Ou encore ne penserait-elle en fait rien du tout ?

Cordialement

Gilles

[spi100]

Tu crois qu'une machine pourrait passer le test de Turing, admettons. A ton avis, cette machine penserait-elle au fond d'elle même qu'elle est une machine qui essaie de se faire passer pour un etre humain, ou bien penserait-elle qu'elle est VRAIMENT un etre humain?

Ou encore ne penserait-elle en fait rien du tout ?

Cordialement

Gilles

Le test de Turing est dans la droite ligne du behaviorisme. Pour simuler un système, tu fabriques un autre système qui produit les mêmes sorties. Peu importe si les mécaniques internes sont différentes, de toutes manières tu ne pourra pas les différencier d'un point de vu comportemental.

Le test de Turing est une façon de dire que peu importe que la machine pense ou pas, ça n'a aucune importance si son comportement reproduit à l'identifique celui d'un être pensant.

Maintenant ton propos est bien de dire qu'il n'est pas possible de reproduire le comportement d'un être humain sans en reproduire sa mécanique interne.

[invite8915d466]

Maintenant ton propos est bien de dire qu'il n'est pas possible de reproduire le comportement d'un être humain sans en reproduire sa mécanique interne.

C'est le probleme du "zombie" : peut-on avoir un robot qui donne exterieurement TOUTES les apparences d'un etre humain, en tenant exactement les memes conversations, mais en ne "pensant rien" à l'intérieur, en étant "vide".
voir par exemple ici

Il est difficile de trouver des arguments prouvant la possibilité ou l'impossibilité de ces zombies, mais un des arguments que j'ai trouvé les plus intéressants etait la réflexion que si les zombies existaient, on pourrait aussi avoir des zombies partiels , qui avaient conscience partiellement de choses tout en ne ressentant rien sur d'autres tout en ayant un comportement absolument indiscernable d'un être normal. A noter que ce n'est pas le cas de pathologies comme celle que mentionnait Mmy (l'absence de douleur) ou la personne se rend compte qu'il y a quelque chose d'anormal et donc l'exprime ! (sinon on aurait eu aucun moyen de le savoir ! )

Ici il faut envisager une absence de sensation qui ne se traduise pas par une modification de comportement. Par exemple un daltonien qui serait quand même capable de trier des objets de couleur rouge sans les voir ! difficile à admettre non?


Autre difficulté du zombie : de quoi est faite sa mémoire? si on lui demande qui etaient ses parents, d'ou venaient ses grands parents, de raconter des souvenirs, qu'est ce qu'il répond? qui est capable d'implementer des souvenirs artificiels totalement cohérents comme dans Matrix ? ça me parait pratiquement impossible "d'inventer" une réalité sans contradiction (en fait Matrix me parait totalement impossible , ce qui n'empeche pas d'etre divertissant )

Cordialement

Gilles

[spi100]

C'est le probleme du "zombie" : peut-on avoir un robot qui donne exterieurement TOUTES les apparences d'un etre humain, en tenant exactement les memes conversations, mais en ne "pensant rien" à l'intérieur, en étant "vide".
voir par exemple ici

Amusant le problème du zombie, je ne connaissais pas. Dans le même ordre d'idée, il y a aussi la chambre chinoise de Searl.

Autre difficulté du zombie : de quoi est faite sa mémoire? si on lui demande qui etaient ses parents, d'ou venaient ses grands parents, de raconter des souvenirs, qu'est ce qu'il répond? qui est capable d'implementer des souvenirs artificiels totalement cohérents comme dans Matrix ? ça me parait pratiquement impossible "d'inventer" une réalité sans contradiction (en fait Matrix me parait totalement impossible , ce qui n'empeche pas d'etre divertissant )

Cordialement

Gilles

Oui, c'est le problème que j'ai déjà rencontré en essayant de construire des ontologies. C'est bien pour relier entre eux une vingtaine de concepts mais c'est impraticable lorsque l'on se rapproche des centaines de milliers de concepts que manipule un être humain (300 000 dans wordnet !).

Rentrer les concepts et les organiser à la main est impossible, alors on essaie d'automatiser. On utilise des algoritmes de classification automatique tels que l'extraction d'arbres hierarchiques (ID3, C4.5 par exemple), de clustering (message-passing, K-modes) ou des réseaux de neurones (kohonen). Lorsque un nouveau concept est intégré à la structure on lui cherche une place qui minimise un certain critère numérique (calcul de proximité, minimisation d'entropie d'information). Ca permet de construire une structure qui maintient au mieux possible sa cohérence interne.

Mais pour le moment on est encore à des années lumières de la finesse dont un être humain est capable.

[invite6cd8289c]

[...]Tu crois qu'une machine pourrait passer le test de Turing, admettons. A ton avis, cette machine penserait-elle au fond d'elle même qu'elle est une machine qui essaie de se faire passer pour un etre humain, ou bien penserait-elle qu'elle est VRAIMENT un etre humain?[...]

Je pense que cette distinction n'a pas d'importance, la machine aura forcément une forme de pensée produite par ses algorithmes mais même si elle n'a pas conscience d'elle-même (cogito), elle sera qualifiable d'intelligente car bien supérieure (en connaissances et capacités cognitives) à la majorité des êtres humains.

J'admets bien sur qu'une machine incapable de passer le test de Turing par contre pourra difficilement être qualifiée d'intelligente ne serais-ce parce que nous n'avons pas d'autre moyens pour mesurer l'intelligence que de comparer à nous mêmes.

[invite8915d466]

Je pense que cette distinction n'a pas d'importance, la machine aura forcément une forme de pensée produite par ses algorithmes mais même si elle n'a pas conscience d'elle-même (cogito), elle sera qualifiable d'intelligente car bien supérieure (en connaissances et capacités cognitives) à la majorité des êtres humains.

en pratique, comment imagines-tu que cette machine répondrait à des questions précises sur le nom de ses parents, si elle a des frères et soeur, de raconter des souvenirs d'enfance etc....?

Cordialement

Gilles

[JPL]

Juste une petite parenthèse, bien que je sois infiniment plus proches des opinions de gillesh38 que de celles exprimées par la plupart des autre. Je ne comprends pas ce piédestal fait au test de Turing qui n'a qu'un intérêt historique à mes yeux. Je rappelle que E.T. n'y aurait pas satisfait.

[invite6cd8289c]

en pratique, comment imagines-tu que cette machine répondrait à des questions précises sur le nom de ses parents, si elle a des frères et soeur, de raconter des souvenirs d'enfance etc....?

Un amnésique ayant tout oublié de sa vie affective et de son passé reste une personne intelligente non ? J'en conclus que l'absence de ces informations ne sont pas pertinentes dans le cas de notre hypothétique machine...

[...]Je ne comprends pas ce piédestal fait au test de Turing qui n'a qu'un intérêt historique à mes yeux.

Le test de Turing est la preuve d'une maîtrise du langage qui jusqu'ici est le propre de l'homme et donc la première mesure de l'intelligence.
Bien sur ce test ne dit pas si la machine a une conscience, un libre arbitre, etc. mais je pense que ces considérations son philosophiques et hors-sujet.

Je rappelle que E.T. n'y aurait pas satisfait.

Ni un enfant ou un illettré que nous considérons pourtant comme intelligents par analyse comportementale/mimétisme. Ceci illustre le fait qu'un ordinateur pourrait être "intelligent" sans qu'on le sache (mais la je doute .

Ceci ne retire pas au test sa valeur, a savoir que c'est un moyen simple et factuel permettant de déterminer si une machine est intelligente.

[invite6cd8289c]

Pour en revenir à la question initiale du sondage, si par intelligence artificielle on entend "capable de passer un test de Turing", j'en suis persuadé et bien avant un siècle.

ben moi je suis convaincu du contraire, mais j'ai deja proposé des paris dessus. Tu serais prêt à parier combien toi ?

Je suis prêt a mettre 100€ sur la table

[JPL]

Ceci ne retire pas au test sa valeur, a savoir que c'est un moyen simple et factuel permettant de déterminer si une machine est intelligente.

Non. Ce que je voulais dire c'est qu'un hypothétique ET utilisant un moyen de communication reposant sur d'autres principes que les nôtres (par exemple les bandes colorées mobiles des octopodes dans Rama) et ayant un comportement basé sur des critères et des "valeurs" très différents des nôtres ne passerait pas le test. Inversement par téléphone et avec un bon synthétiseur vocal un programme "d'intelligence artificielle" pourrait dans l'avenir tenir la distance assez longtemps. Ce test ne prouve donc rien, ni dans un sens ni dans un autre.

Par contre si je ne lui reconnais pas valeur de test c'est une métaphore intéressante pour poser la question de savoir si l'intelligence et la personnalité se réduisent à ce qu'on en constate à l'extérieur (thèse behavioriste déjà évoquée dans cette discussion) ou si elles impliquent autre chose.

On commence à savoir en neurologie qu'il y a des circuits nerveux qui rendent compte de l'empathie que nous ressentons pour nos semblables. Par exemple il suffit de voir quelqu'un faire un mouvement pour que cela déclenche l'activation chez nous des mêmes neurones qui auraient été mobilisés si nous avions fait ce mouvement. Autrement dit le fait de ressentir spontanément qu'autrui est quelqu'un de semblable à nous, pense et ressent comme nous, ne relève certainement pas de l'illusion ou d'une subjectivité commode. Je doute que nous ayons les mêmes réactions neurologiques devant une machine aussi sophistiquée soit-elle, même si nous lui donnons un aspect androïde.

[invite8915d466]

Un amnésique ayant tout oublié de sa vie affective et de son passé reste une personne intelligente non ? J'en conclus que l'absence de ces informations ne sont pas pertinentes dans le cas de notre hypothétique machine...

Oui mais l'amnésique te répond clairement : "je ne me rappelle plus", c'est à dire qu'il en sait suffisamment pour savoir que normalement, il devrait le savoir et que quelque chose cloche. Tu peux embrayer ensuite sur ce dont il se rappelle, etc...

Pour pouvoir parler, il faut bien se faire des représentations de ce que tu dis non?

Le test de Turing est la preuve d'une maîtrise du langage qui jusqu'ici est le propre de l'homme et donc la première mesure de l'intelligence.
Bien sur ce test ne dit pas si la machine a une conscience, un libre arbitre, etc. mais je pense que ces considérations son philosophiques et hors-sujet.

...
Ceci ne retire pas au test sa valeur, a savoir que c'est un moyen simple et factuel permettant de déterminer si une machine est intelligente.

Non, j'ai deja fait la remarque et je rejoins tout a fait JPL : malgré la grande intelligence de Turing, je pense que là il s'est planté sur la valeur de son test .

En effet comme je l'ai deja dit ailleurs l'intelligence se mesure à la cohérence de la représentation du réel. Quelqu'un sera jugé intelligent si il perçoit bien le réel. Si la machine est intelligente, on ne lui demande pas de faire comme si elle etait un homme, pas plus qu'on demande a un homme intelligent de savoir se faire passer pour une girafe !

Note bien d'ailleurs que les robots intelligents de la SF savent parfaitement qu'ils sont des robots et non des hommes, ce n'est donc pas le test de Turing qui est le bon .

Cordialement

Gilles

[invitec00162a9]

Bonsoir,

Note bien d'ailleurs que les robots intelligents de la SF savent parfaitement qu'ils sont des robots et non des hommes, ce n'est donc pas le test de Turing qui est le bon .

Sauf "Le robot qui rêvait"

Sinon, pour ceux que ça peut intéresser, voici un page Web présentant un modèle théorique de machine "capable" d'introspection :
http://www.idsia.ch/~juergen/goedelmachine.html
Pour autant, l'auteur indique bien qu'il n'est pas certain que les êtres humains suivent ce modèle.

[spi100]

Non, j'ai deja fait la remarque et je rejoins tout a fait JPL : malgré la grande intelligence de Turing, je pense que là il s'est planté sur la valeur de son test .

Ou peut être que c'est l'utilisation que beaucoup font de ce test qui est très exagéré . Comme je le disais, il n'est rien d'autre qu'une illustration très explicite de la thèse behavioriste.
Sorti de là, il ne vaut pas grand chose pour définir l'intelligence. Par exemple, si on pousse la logique jusqu'au bout, quelqu'un d'un peu fatigué ou qui souffre de problème neurologique, qui ne répond pas sans cesse de façon cohérente du point de vu de l'interlocuteur, n'est pas humain !

[invite8915d466]

Je suis prêt a mettre 100€ sur la table

marrant ce site . Mais on ne parie pas d'argent dessus si?

en tout cas je tiens le pari sans problème .

J'ouvre un nouveau fil sur une question à poser dans un test de Turing /