L'intelligence artificielle, peut-elle se révéler néfaste ?

[invite40d1dd91]

Bien que l'on dérive du sujet qui est "L'intelligence artificielle, peut-elle se révéler néfaste ?" et non, "L'IA peut-elle devenir intelligente ?"

Le débat devient un conflit entre ceux qui mettent l'intelligence et le cerveau humain sur un pied d'estale
et les autres, qui considère le cerveau comme une machine ultra complexe mais compréhensible par son hôte, nous.

C'est pourquoi la question devrait être "L'homme peut-il créer aussi complexe que lui ?" ou "un système d'un niveau de complexité donné peut-il se comprendre? "

Notre intelligence est le fruit de la nature, succession de multiples hasards et de lois de la séléction. Alors pourquoi ne pourrions nous pas créer de l'intelligence ? La nature n'a même pas concience d'elle même au contraire de l'homme!


Il ressort du débat une tendance créationiste qui pense l'homme investi d'une âme au dessu de la matière, sans veritable arguments scientifiques!

Mais là où je suis d'accord, c'est que l'intelligence artificiel n'est pas pour demain !
L'abstraction de nos langages informatique, de nos conceptes ne sont pas assez elevé pour créer une intelligence. Le support physique, qu'est l'éléctronique, est-il compatible avec l'intelligence ?

Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction.

Enfin, comme le dit Houellebecq, "tout se que la science permet sera réalisé", je pense que tout scientifique est d'accord avec ceci (même moi qui n'en n'est pas un).


Ciao
-----

[invite765732342432]

Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction.

Pas forcément... On ne créé pas une IA en codant rigoureusement son comportement.
Le seul moyen est de faire un algo capable d'apprendre efficacement, et pour celà, on peut utiliser la "sélection virtuelle":
Mettre différentes versions en concurrence et leur donner des moyens d'évoluer.

[invite3dc2c2f6]

Bonjour
"Le débat devient un conflit entre ceux qui mettent l'intelligence et le cerveau humain sur un pied d'estale"

c'est une maniere de voir... mais je ne vois pas le conflit dont tu parles... un indice?

"Notre intelligence est le fruit de la nature, succession de multiples hasards et de lois de la séléction."
Tu n'as pas tort de souligner ce fait, qui vaut d'ailleurs pour la majorite des especes vivantes sur Terre: elles ont su s'adapter aux conditions de leur environnement pour perdurer. Et puis ne dit-on pas de l'intelligence, entre autre chose, que 'c'est la faculté d'adaptation' ?

"Alors pourquoi ne pourrions nous pas créer de l'intelligence ?"
Oui, pourquoi?

"La nature n'a même pas concience d'elle même au contraire de l'homme!"
C'est un avis humain, ca... mais non une preuve.

"Il ressort du débat une tendance créationiste qui pense l'homme investi d'une âme au dessu de la matière, sans veritable arguments scientifiques!"

Nous (moi en tout cas) essayons de montrer par ce débat justement que ce n'est pas une création, mais une sorte de 'clonage', d'applications algorithmiques ( je sais j'ai des progres à faire en ce domaine ); l'intelligence vient de la redaction de ces algorithmes, et non de ce qu'ils produisent comme résultat.

"L'abstraction de nos langages informatique, de nos conceptes ne sont pas assez elevé pour créer une intelligence. "
Entièrement d'accord, encore une fois, l'intelligence vient de l'abstraction que l'on en fait, et non de leurs productions. Ce sont donc une expression de notre intelligence.

"Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction."
moi pas comprendre.

"l'homme investi d'une âme au dessu de la matière"
C'est un argumentaire propre aux religions, ou alors, il faut que je revois 'La controverse de Valladolid'....

"Enfin, comme le dit Houellebecq, "tout se que la science permet sera réalisé" "
Il en dit, celui-la... va falloir que j'en lise un peu, il est a la mode...

Manu

cit. : "Sans armes, sans haine, sans violence"

[invite0ad4995a]

L'intelligence artificielle ne peut etre nefaste que si ces concepteurs le lui permettent. Quand bien meme l'homme est capable de faire du "mal" alors qu'existe la morale le risque pour que cette intelligence cree par l'homme lui devienne un jour nefaste existera neanmoins.
Dans ce cas, est il possible d'inclure dans les proprietes de cette intelligence des imperatifs visant a ne pas "gener" la lignee non seulement humaine mais vivante? Et dans le cas ou cela est possible ceci n'aura-t-il pas pour consequences de limiter ses capacites d'apprentissage du fait de la necessite de se referer a un "savoir" non-evoluable (remise en question de conecpt elementaire impossible)? On tombe s'il me semble dans un paradoxe car les conceptions doivent pouvoir evoluer pour que "l'intelligence" se devellope. Et est-ce creer une intelligence que d'essayer de copier un mode de raisonnement que l'on ne comprend pas completement?

[spi100]

Pour essayer de clarifier mon point de vue, il y a un programme exécutable par une machine de Turing sous jacent à chacun d'entre nous et qui nous est "commun" (avec la variabilité que l'on peut attendre de notre biologie). Ce programme commun se développe par interaction avec l'environnement éducatif qui nous entoure. On pourra reproduire un programme analogue (donc l'intelligence) sur une machine, mais pas le résultat final (c'est à dire chaque individu).

J'ai aussi quelques doutes sur la faculté d'une machine de Turing même Universelle à émuler l'intelligence humaine.

Tout d'abord le caractère très limité des machines de Turing. Elles savent traiter tous les algorithmes mais elles ne savent rien traiter d'autre : le Halting Problem ou le calcul du nombre de Chaitin leur sont inacessibles. On montre aussi que les machines de turing sont une infinité dénombrable. Il est alors facile de vérifier que la probabilité qu'un nombre réel tiré au hasard puisse être calculé par une machine de turing, est nulle.

Mais peut-être que l'appréhension du continu, du nombre de Chaitin, ou la capacité à décider si un algo s'arrête, sont tout aussi inaccessible au cerveau humain ?
Par contre le langage est un objet manipulé par notre cerveau avec une facilité déconcertante, surtout si on compare à ce que peut faire un programme. Pour le moment personne n'a pu trouver un algorithme capable de décider du sens d'un texte quelconque. Il se peut très bien qu'un tel programme soit tout aussi illusoire que l'algorithme décidant de l'arrêt d'un programme.

[invite8915d466]

Le problème du langage illustre très exactement la différence entre intelligence et algorithme, d'où les desillusions de ceux qui pensaient que la traduction automatique serait résolue en quelques années.
Fondamentalement, le langage fait référence à des expériences physiques sensorielles, dont un ordinateur est complètement dépourvu. Les couches "élaborées" des neurones du cortex cérébral s'appuient sur le réseau de neurones sensoriels en interaction avec le monde, et il n'y a rien de tel dans un ordinateur. Il est donc incapable de "comprendre" ce qu'il dit, même si il peut donner le change dans certaines situations spécifiques grâce à l'habileté de ses programmeurs.
Pour moi, le traitement "algorithmique" du langage s'apparente au "culte du cargo" apparu dans les iles polynesiennes (qui assimilaient les cargos occidentaux qui passaient faire du troc à de nouvelles divinités, et réalisaient des cargos en bois et en liane pour leur rendre hommage et faire revenir les vrais).

[invite3dc2c2f6]

Pour moi, le traitement "algorithmique" du langage s'apparente au "culte du cargo" apparu dans les iles polynesiennes (qui assimilaient les cargos occidentaux qui passaient faire du troc à de nouvelles divinités, et réalisaient des cargos en bois et en liane pour leur rendre hommage et faire revenir les vrais).

c'est un aparté, mais ... "Cargo culte"... en voila une de chanson qui m'hypnotise... bel album de Gainsbourg par ailleurs.
Manu

[spi100]

Fondamentalement, le langage fait référence à des expériences physiques sensorielles, dont un ordinateur est complètement dépourvu.

C'est le programme de l'IA dite immergée : utiliser des robots munis de senseurs plutot que des ordinateurs.

[invite40d1dd91]

"Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction."
moi pas comprendre.

désolé si je ne m'exprime pas clairement.
Je disais que si l'homme crée une IA, intelligente, celle ci sera née de la création et non de la sélection naturelle. Cela signifirai aussi que nous pourrions nous même avoir été créer de la même façon!

La nature invente la vie, la vie invente l'intelligence, l'intelligence réinvente la vie, l'intelligence invente l'intelligence...

Bon, ok, je vais me coucher

[spi100]

désolé si je ne m'exprime pas clairement.
Je disais que si l'homme crée une IA, intelligente, celle ci sera née de la création et non de la sélection naturelle. Cela signifirai aussi que nous pourrions nous même avoir été créer de la même façon!

La nature invente la vie, la vie invente l'intelligence, l'intelligence réinvente la vie, l'intelligence invente l'intelligence...

Bon, ok, je vais me coucher

Peut être que dans l'histoire de l'évolution, l'Homme est juste le maillon qui permettra à la nature de passer des chaînes carbonnées au silicium : dinosaure -> Homme -> Robot.
Bon allez j'arrête de me la jouer à la matrix.

[JPL]

Modération

Les deux derniers messages constituent un début de dérapage à ne pas prolonger.

Merci.

[invite85dfba75]

Pour tester j'ai tapé sur google "quel âge as tu" , il me répond :"Et toi,quel age as tu? La vieillesse est un naufrage..."

je trouve ça déjà bien balaise .. non ? On peut dire que google est une application qui a une certaine conversation, je pense pas que des algorithmes n'arrivons jamais a passer le test de Turing , car je crois google par exemple même si son but n'est pas de singer l'humain a déjà un gros potentiel sémantique, et peut améliorer son algorithme ou l'utiliser a d'autre fins intelligentes,il faut encore du temps pour trouver l'algorithme parfait et universel. Moi je pense surtout le danger de l'intelligence artificielle c'est qu'on en devient accroc , et si un jour les machines s'arrêtent ,se sera néfaste pour nous , donc le danger viendrait a mon sens plus de la dependance que nous avons déjà de certain robots . cela dit il faut souligner que la force de l'algorithme , et du robot c'est qu'il est impartial .

Aussi peut etre devrions nous nous inquiété de son aspect commercial , et non universel (logique) . peut etre devrions nous d'ailleur definir un niveau d'intelligence non en le comparant a l'homme; mais a ce que nous connaissons de la logique .

[invite06fcc10b]

Voilà une question qui relève (un peu) de ma spécialité !
Pour répondre à la question initiale, il faut effectivement se positionner sur la question : "peut-on programmer l'intelligence".

Et il y a 2 réponses à apporter :
1) Du point de vue théorique, si on considère que
a) Le monde physique est régi par des lois mathématiques accessibles à l'homme (cela semble le cas, puisque de nombreuses théories ont été proposées et fonctionnent bien pour décrire les phénomènes observés)
b) L'intelligence animale et humaine résulte de la dynamique du cerveau qui, en première approximation, résulte de phénomènes biologiques macroscopiques (degré d'excitation de chaque neurone)
Alors, selon la thèse de Church et les travaux de Turing concernant sa machine universelle, il doit exister un algorithme qui simule la dynamique neuronale et donc, du point de vue du traitement de l'information, reproduit exactement les phénomènes observés, et donc l'intelligence. Et si cet algorithme existe, il peut être implémenté sur n'importe quel ordinateur (du moins la partie qui ne traite pas l'information provenant des capteurs ou alors il faut simuler aussi l'extérieur).

2) D'un point de vue pratique, il faut concevoir un tel algorithme. L'approche qui consiste à tout expliciter ne semble pas marcher, c'est ce que nous enseigne 20 ans de travaux en IA avec les systèmes experts, pour la simple raison que nous ne savons pas comment il faut programmer tout ce qui dans l'intelligence relève de l'implicite.
L'approche connexionniste consistant à tout programmer par apprentissage (et copier l'apprentissage de l'enfant) est prometteuse, mais n'a pas encore abouti. Il se pourrait que la structure générale de cette machine à apprendre requiert certaines connaissances implicites complexes.
Bref, en pratique, il n'est pas sûr que cette IA puisse être développée un jour.

A la question est-ce que l'IA pourrait s'avérer néfaste, la réponse est donc :
Si on arrive à créer cette IA, elle sera aussi dangereuse que l'homme.
Si on n'y arrive pas, les programmes réalisés seront aussi dangereux que ce qu'on voudra bien y mettre, mais leur intelligence limitée limitera également leur dangerosité.
Et en tout état de cause, une IA digne de ce nom n'est pas attendue avant longtemps.

[invitedb5bdc8a]

bon, j'ai eu une semaine d'absence suite à des pb perso, mais si ça vous intéresse et si vous êtes prêts à accorcher vos ceintures, je pourrai répondre à chaque point soulevé dans cette discussion.
Je commence par Spi100:

Tout d'abord le caractère très limité des machines de Turing. Elles savent traiter tous les algorithmes mais elles ne savent rien traiter d'autre : le Halting Problem ou le calcul du nombre de Chaitin leur sont inacessibles. On montre aussi que les machines de turing sont une infinité dénombrable

C'est justement ce fait qui permet l'intelligence. Nous ne savons pas non plus "traiter" (sous entendu à fond) ces problèmes , mais nous disposons de fonction d'échappement. Aucun être humain n'est capable de calculer un nombre réel transcendant.

Mais peut-être que l'appréhension du continu, du nombre de Chaitin, ou la capacité à décider si un algo s'arrête, sont tout aussi inaccessible au cerveau humain ?

Exact. Pour apprécier si un algo s'arrête ou non il faut passer à un niveau supérieur de complexité (ie pas en mode debug) , et même là, on laisse des "bugs".

Par contre le langage est un objet manipulé par notre cerveau avec une facilité déconcertante, surtout si on compare à ce que peut faire un programme. Pour le moment personne n'a pu trouver un algorithme capable de décider du sens d'un texte quelconque. Il se peut très bien qu'un tel programme soit tout aussi illusoire que l'algorithme décidant de l'arrêt d'un programme.

Le problème du language est plutot lié au problème de culture et de perception physique (cetains mots comme précisé plus haut ont en fait une définition physique, pas en mot. La définition du dictionnaire est fausse). On ne peut pas manipuler le language sans être pleinement intelligent

[invitedb5bdc8a]

L'intelligence artificielle ne peut etre nefaste que si ces concepteurs le lui permettent. Quand bien meme l'homme est capable de faire du "mal" alors qu'existe la morale le risque pour que cette intelligence cree par l'homme lui devienne un jour nefaste existera neanmoins.
Dans ce cas, est il possible d'inclure dans les proprietes de cette intelligence des imperatifs visant a ne pas "gener" la lignee non seulement humaine mais vivante? Et dans le cas ou cela est possible ceci n'aura-t-il pas pour consequences de limiter ses capacites d'apprentissage du fait de la necessite de se referer a un "savoir" non-evoluable (remise en question de conecpt elementaire impossible)? On tombe s'il me semble dans un paradoxe car les conceptions doivent pouvoir evoluer pour que "l'intelligence" se devellope. Et est-ce creer une intelligence que d'essayer de copier un mode de raisonnement que l'on ne comprend pas completement?

Non, l'intelligence permet forcément de développer de nouvelles idées (dont des idées "mal"). Si on resteint le champ des idées possibles, on restreint l'intelligence. Et l'intelligence trouveras toujours un moyen de contourner des blocages non intelligents (voir les raisonnements des religieux du passé pour justifier des exactions contraires aux impératifs de leurs croyances). une intelligence peut FORCEMENT faire PLUS que ce qui a été prévu et programmé au départ.

[invitedb5bdc8a]

Le problème du langage illustre très exactement la différence entre intelligence et algorithme, d'où les desillusions de ceux qui pensaient que la traduction automatique serait résolue en quelques années.
Fondamentalement, le langage fait référence à des expériences physiques sensorielles, dont un ordinateur est complètement dépourvu. Les couches "élaborées" des neurones du cortex cérébral s'appuient sur le réseau de neurones sensoriels en interaction avec le monde, et il n'y a rien de tel dans un ordinateur. Il est donc incapable de "comprendre" ce qu'il dit, même si il peut donner le change dans certaines situations spécifiques grâce à l'habileté de ses programmeurs.

Quand tu parles d'algorithme, tu ne le considère qu'à la première "couche", c'est à dire des algorithmes qui prennent des entrées et produisent des sorties. Mais quid d'un algorithme qui produit des algorithme (au deuxièmen ordre). L'intelligence est à chercher à ce niveau (au moins). Sur le langage parfaitement d'accord.Tu n'arriveras jamais à faire comprendre à un ordinateur même intelligent ce qu'est un cheval en utilisant que des mots si il ne dispose pas de capteurs optiques. Mais peux tu vraiment expliquer les couleurs à un aveugle ?

[invitedb5bdc8a]

Pour tester j'ai tapé sur google "quel âge as tu" , il me répond :"Et toi,quel age as tu? La vieillesse est un naufrage..."

je trouve ça déjà bien balaise .. non ? On peut dire que google est une application qui a une certaine conversation, je pense pas que des algorithmes n'arrivons jamais a passer le test de Turing , car je crois google par exemple même si son but n'est pas de singer l'humain a déjà un gros potentiel sémantique, et peut améliorer son algorithme ou l'utiliser a d'autre fins intelligentes,il faut encore du temps pour trouver l'algorithme parfait et universel. Moi je pense surtout le danger de l'intelligence artificielle c'est qu'on en devient accroc , et si un jour les machines s'arrêtent ,se sera néfaste pour nous , donc le danger viendrait a mon sens plus de la dependance que nous avons déjà de certain robots . cela dit il faut souligner que la force de l'algorithme , et du robot c'est qu'il est impartial ..

je suis d'accord avec toi. Tu illustres avec ton exemple que qu'on décide sciemment de produire une IA ou non, une forme d'IA finira par apparaitre sur le net. Le milieu est favorable au développement de ce genre de "forme de vie". Pour le côté accro, c'est sur que dès qu'on disposera d'iA on décuplera nos capacités. Plus personne ne voudra être opéré par un chirurgien humain !
Par contre impartial ... Si intelligent, pas impartial

[invitedb5bdc8a]

ceux qui mettent l'intelligence et le cerveau humain sur un pied d'estal

effectivement c'est LA raison pour laquelle nous n'avons pas encore trouvé l'IA. On cherche bien trop compliqué et on manque d'humilité face à nos propres capacités (n'oublions pas que c'est notre cerveau qui se juge lui même...)

et les autres, qui considère le cerveau comme une machine ultra complexe mais compréhensible par son hôte, nous.

Dont je suis.

C'est pourquoi la question devrait être "L'homme peut-il créer aussi complexe que lui ?" ou "un système d'un niveau de complexité donné peut-il se comprendre? ".

Etait-il vraiment possible de créer des outils micrométriques en partant de cailloux ? Il se fait que l'on peut construire plus complexe que soit. Il n'y a pas de raison que ce ne soit pas extrapolable à l'intelligence humaine, capable de créer une intelligence même plus performante qu'elle même.

Notre intelligence est le fruit de la nature, succession de multiples hasards et de lois de la séléction. Alors pourquoi ne pourrions nous pas créer de l'intelligence ? La nature n'a même pas concience d'elle même au contraire de l'homme!

Bien d'accord. C'est sans doute plus facile que ce que la nature à fait, car nous on est intelligents ! On ne va pas le faire qu'au hasard.

Mais là où je suis d'accord, c'est que l'intelligence artificiel n'est pas pour demain !!

non, mais cette fois, ça ne devrait plus tarder.

L'abstraction de nos langages informatique, de nos conceptes ne sont pas assez elevé pour créer une intelligence. !!

Non, c'est le contraire, trop compliqués.

Le support physique, qu'est l'éléctronique, est-il compatible avec l'intelligence ? !!

Et pourquoi ne le serait-il pas ? On peut émuler sur la machine une belle modélisation de cerveau en 3D avec toutes les protéinés de comm associées.

Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction. !!

Nous ne créerons pas l'intelligence, nous créerons le moteur qui crée l'intelligence, et celle ci est TOUJOURS le résultat d'une sélection au niveau individuel, qui s'appelle apprentissage et qui est inévitable si on veut une intelligence vraie (autrement dit une intelligence ne peut pas rester statique)

Enfin, comme le dit Houellebecq, "tout se que la science permet sera réalisé", je pense que tout scientifique est d'accord avec ceci (même moi qui n'en n'est pas un).

Exact, et je rajouterais , de manière contrôlée ou non.

[invitedb5bdc8a]

Prenons un exemple concret : si tu vois les neurones comme un gigantesque "réseau de neurones" (au sens informatique) avec des états et des couplages, comment programmes tu l'influence de l'absorption d'une drogue sur ce réseau?

. Très simple. je ne vois pas le neurones du cerveau comme un gigantesque réseau de neurones informatiques. Mais la drogue agit sur le cerveau de manière semi aléatoire (fortement compensée par la loi des grands nombres) en se fixant à des récepteurs spécifiques avec une action spécifique. Je ne vois pas ce qui empêche d'émuler cette action et son effet sur le "réseau de neurone" artificiel. La simulation d'intelligence ne sera pas le réseau de neurones mais le réseau de neurones plus l'ensemble de tous les algos simulant l'effect des "drogues" et autres hormones à effet global.

[invitedb5bdc8a]

Allez je vous en donne une :
"Est ce que vous pouvez lecher votre coude avec votre langue?"

Merci d'avoir donné un exemple. Maintenant poses cette question en français à un chinois qui ne parle pas français. Il ne peut pas répondre. Qu'en conclus-tu ?
Si mon ordinateur intelligent ne sait pas ce qu'est un coude, cela le rend-il non intelligent ?

[invitedb5bdc8a]

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence..

re paradoxe de l'outil: pensez vous que l'on puisse forger des outils micrométriques avec des cailloux ?

Je pense que le problème est ailleurs. Avant de songer à fabriquer une telle machine il faut d'abord que l'homme comprenne sa propre intélligence,
..

Si on avait attendu de comprendre avant de fabriquer .... L'histoire des sciences et techniques est en gros le processus inverse, on fait, puis on réfléchis. A part au cours du vingtième siècle peut être...

l'univers du cerveau est si complexe que nous sommes encore très très loin d'en définir l'exacte fonctionnement; nous n'avons que des "théories"...

exact, et alors ?

De plus, il ya un élément que les scientifiques ne veulent pas reconnaître: "l'âme""...

disons plutôt que ce n'est pas une hypothèse nécessaire.

; D'ou la question "comment donner une âme à une machine ?";

Pourquoi faire ? La conscience arrivera automatiquement avec l'intelligence dès que l'iA se prendra elle même pour objet de son étude. Et comme elle sera curieuse (parce que si on n'est pas curieux, on n'est pas intelligent), cela finira nécessairement par arriver.

c'est l'âme qui régie les notions de bien et de mal évidemment couplé avec notre cerveau qui s'occupe du "raisonnement".

Preuve ? Avec une ablation de l'âme, on perd la notion de bien et de mal ?

[invite8915d466]

. Très simple. je ne vois pas le neurones du cerveau comme un gigantesque réseau de neurones informatiques. Mais la drogue agit sur le cerveau de manière semi aléatoire (fortement compensée par la loi des grands nombres) en se fixant à des récepteurs spécifiques avec une action spécifique. Je ne vois pas ce qui empêche d'émuler cette action et son effet sur le "réseau de neurone" artificiel. La simulation d'intelligence ne sera pas le réseau de neurones mais le réseau de neurones plus l'ensemble de tous les algos simulant l'effect des "drogues" et autres hormones à effet global.

C'est là que l'idée de l'IA commence à diverger justement
Tout ce que tu peux espérer faire, c'est simuler la structure physique du neurone et EMULER l'arrivée d'éthanol dans le sang. Mais la tu as déjà perdu le but initial : l'IA est censée interagir avec un monde REEL: tu n'as aucun moyen de verser un vrai verre de whisky dans ton ordinateur !! donc tu vas obtenir un calcul qui peux tres correctement calculer l'evolution d'un neurone,mais ce ne sera plus ce qu'on cherchait au départ, un système répondant aux stimulis réels du monde extérieur.

La simulation du fonctionnement d'un cerveau, c'est comme la simulation de l'intérieur d'une étoile : même si tu peux y "reconnaitre" une information pertinente, elle ne remplit pas la fonctionnalité (intelligence ou nucléosynthèse) de l'objet initial.

[invite8915d466]

Merci d'avoir donné un exemple. Maintenant poses cette question en français à un chinois qui ne parle pas français. Il ne peut pas répondre. Qu'en conclus-tu ?
Si mon ordinateur intelligent ne sait pas ce qu'est un coude, cela le rend-il non intelligent ?

C'est très différent! je suppose que la machine a un langage, et je l'utilise pour poser la question. Si la machine ne sait pas ce que c'est qu'un coude, j'en conclus qu'elle n'est pas un être humain et le test de Turing échoue.
Tu vois bien que malgré tout le respect que l'on doit a Turing , son test ne peut jamais marcher : soit la machine repond comme une machine et elle avoue ne pas etre un etre humain, soit elle repond comme un etre humain et tu peux la coincer sur des questions liées au corps biologique, qu'elle ne peut pas connaître....

[invite85dfba75]

Aujourd'hui des processeurs permettent à des robots de faire leur apprentissage , c'est a dire de programmer eux même une fonction optimale . Un robot à 6 pattes grâce à ce genre de système obtient comme résultat de marcher comme une araignée sans programme préalable ou spécifique à cette fonction . un algorithme de base lui inculque le necessaire a son apprentissage et il calcule lui même la meilleure façon d'arriver a marcher. C'est une début très prometteur car il laisse entrevoir une échelle de l'intelligence non anthropocentriste mais de logique pure . Pour avancer d'un point "a" à un point "b" le plus rapidement possible le robot a tester une infinité de solution possible pour optimiser et finalement obtenir un résultat proche de celui que produit la nature . C'est un début et tout en sachant que l'informatique est proche d'un résultat ex-croissant dans le domaine de la capacité de calcul et de mémorisation. Le traitement de l'information est un secteur d'activité tout a fait prometteur,car ce genre de processeur laisse entrevoir une forme d'intelligence vraiment nouvelle et etonante.

[invitedb5bdc8a]

C'est là que l'idée de l'IA commence à diverger justement
Tout ce que tu peux espérer faire, c'est simuler la structure physique du neurone et EMULER l'arrivée d'éthanol dans le sang. Mais la tu as déjà perdu le but initial : l'IA est censée interagir avec un monde REEL: tu n'as aucun moyen de verser un vrai verre de whisky dans ton ordinateur !! donc tu vas obtenir un calcul qui peux tres correctement calculer l'evolution d'un neurone,mais ce ne sera plus ce qu'on cherchait au départ, un système répondant aux stimulis réels du monde extérieur.

La simulation du fonctionnement d'un cerveau, c'est comme la simulation de l'intérieur d'une étoile : même si tu peux y "reconnaitre" une information pertinente, elle ne remplit pas la fonctionnalité (intelligence ou nucléosynthèse) de l'objet initial.

tout à fait. Mais si je suis capable de construire une IA qui n'interagit qu'avec le language, je pourrai alors en utilisant les mêmes algorithmes, construire un robot doté de capteurs et d'effecteurs qui pourra interagir avec son environnement de manière intelligente. Si il est intelligent, j'espère qu'il ne touchera pas au whisky !

[invitedb5bdc8a]

C'est très différent! je suppose que la machine a un langage, et je l'utilise pour poser la question. Si la machine ne sait pas ce que c'est qu'un coude, j'en conclus qu'elle n'est pas un être humain et le test de Turing échoue.
Tu vois bien que malgré tout le respect que l'on doit a Turing , son test ne peut jamais marcher : soit la machine repond comme une machine et elle avoue ne pas etre un etre humain, soit elle repond comme un etre humain et tu peux la coincer sur des questions liées au corps biologique, qu'elle ne peut pas connaître....

Non, ce n'est pas différent. Il y a des prérequis de connaissances (connaissance n'est pas intelligence) que tu utilises dans les 2 cas pour juger. Mais si ces prérequis n'existent pas (savoir ce qu'est un coude), tu va conclure de manière erronée que l'interlocuteur n'est pas intelligent, alors qu'en fait il lui manque juste cette connaissance pour faire une réponse intelligente. Une machine intelligente qui ne saurait pas qu'elle est une machine ne serait pas intelligente. Inversons le test de Turing: si moi j'essaie sur les forums internet de me faire passer pour une machine, combien de temps mettras-tu à me démasquer ? je pense qu'en dépit de mon intelligence je finirai par me trahir. En ce sens le test de Turing ne donnera jamais un 20/20, le but est de savoir combien de temps le doute subsiste, et ça c'est une bonne mesure. On peut voir avec Repliée 2 à Aïchi que les visiteurs se laissent tromper déjà quelques secondes, elle a l'air si humaine ...
Mais pour faire un bon test de Turing, il est évident que la machine devra acquérir une certaine culture, et entre autres connaitra certaines notions de bio humaine. Se faire passer pour ce qu'on est pas est très difficile (exemple de l'espion...)

[invite62588872]

Comme dit plus haut, il suffit de voir des films comme Terminator (ou I-robot?) pour voir que l'intelligence artificielle à grande échelle peut être extrêmement néfaste. Evidemment ces films ne sont que pure fiction, mais ils peuvent nous aider à prendre des mesures préventives, à faire attention.

[spi100]

Je ne sais pas si on peut vraiment argumenter sur la valeur de l'IA en se basant sur le test de Turing. Ce test n'a pas vraiment de base théorique, et repose sur l'idée que seule la forme compte : on dégage les notions affectives de l'intelligence pour ne garder que l'aptitude à manipuler une ontologie avec des règles logiques.

Les compétitions comme le prix Loebner ont lieu chaque année. Certains juges se font duper par la machine, mais comme le faisait remarquer PI-R2, certains jugent prennent des interlocuteurs humains pour des machines.
Car en définitif même un être humain sollicité pour s'exprimer en expert sur un sujet dont il ignore tout, va tout simplement raconter n'importe quoi. Pour peu que la personne soit de mauvaise foi, on peut rapidement avoir l'impression de discuter avec un programme bugger. Je pense que nous l'avons tous vérifié lors de soirées un peu arrosées.

Pour revenir sur la notion d'algorithme, pi-r2 a raison de dire que les remarques précédentes se base sur des algorithmes avec une entrée et une sortie. Il existe tout un pan de l'informatique qui traitent des méthodes de résolution non-algorithmiques. C'est "non-algorithmique" dans la mesure où le développeur de l'algorithme ne code pas explicitement la solution au problème dans le programme. La solution arrive comme une sorte d'effet de bord. Ce domaine inclut les réseaux neuronaux, les systèmes multi-agents, les algorithmes génétiques, ... La difficulté d'emploi de ces programmes est qu'il est très difficile de prévoir ce qu'ils vont faire car pour le moment on ne dispose pas de théories mathématiques efficaces pour appréhender l'émergence. Ca demande donc beaucoup d'expérience, de piquer dans des domaines connexes tels que l'ethologie, l'écononomie ou la biologie. Avec ce type de programmes on se rapproche de l'idée de programmes réalisant des actions non prévues par le développeur ( comme en SF ).

[invite06fcc10b]

La simulation du fonctionnement d'un cerveau, c'est comme la simulation de l'intérieur d'une étoile : même si tu peux y "reconnaitre" une information pertinente, elle ne remplit pas la fonctionnalité (intelligence ou nucléosynthèse) de l'objet initial.

Pas d'accord, tu fais la même erreur que Searle dans son article sur la chambre chinoise : quand on simule une réaction chimique, la réaction chimique n'a pas vraiment eu lieu; en revanche, simuler un traitement de l'information (ce que fait le cerveau) par un autre traitement de l'information, il y a équivalence fonctionnelle !
Certes, s'il est nécessaire de traiter l'information venant de l'extérieur et de commander un muscle, il faut aussi doter l'ordinateur de capteurs et de moteurs, mais la boîte qui traite l'information peut être équivalente.

[invite06fcc10b]

Il existe tout un pan de l'informatique qui traitent des méthodes de résolution non-algorithmiques. C'est "non-algorithmique" dans la mesure où le développeur de l'algorithme ne code pas explicitement la solution au problème dans le programme.

Le terme non-algorithmique est impropre, car tout reste bien algorithmique. En IA, on parle de solution explicite ou implicite.
De nombreuses techniques d'apprentissage permettent effectivement de se passer d'une solution explicite et de trouver néanmoins les informations ou connaissances implicites qui aident à résoudre le problème.