L'intelligence artificielle, peut-elle se révéler néfaste ?

[manu_mars]

Envoyé par gillesh38

Pour moi, le traitement "algorithmique" du langage s'apparente au "culte du cargo" apparu dans les iles polynesiennes (qui assimilaient les cargos occidentaux qui passaient faire du troc à de nouvelles divinités, et réalisaient des cargos en bois et en liane pour leur rendre hommage et faire revenir les vrais).

c'est un aparté, mais ... "Cargo culte"... en voila une de chanson qui m'hypnotise... bel album de Gainsbourg par ailleurs.
Manu

[spi100]

Envoyé par gillesh38

Fondamentalement, le langage fait référence à des expériences physiques sensorielles, dont un ordinateur est complètement dépourvu.

C'est le programme de l'IA dite immergée : utiliser des robots munis de senseurs plutot que des ordinateurs.

[azman]

Envoyé par manu_mars

"Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction."
moi pas comprendre.

désolé si je ne m'exprime pas clairement.
Je disais que si l'homme crée une IA, intelligente, celle ci sera née de la création et non de la sélection naturelle. Cela signifirai aussi que nous pourrions nous même avoir été créer de la même façon!

La nature invente la vie, la vie invente l'intelligence, l'intelligence réinvente la vie, l'intelligence invente l'intelligence...

Bon, ok, je vais me coucher

[spi100]

Envoyé par azman

désolé si je ne m'exprime pas clairement.
Je disais que si l'homme crée une IA, intelligente, celle ci sera née de la création et non de la sélection naturelle. Cela signifirai aussi que nous pourrions nous même avoir été créer de la même façon!

La nature invente la vie, la vie invente l'intelligence, l'intelligence réinvente la vie, l'intelligence invente l'intelligence...

Bon, ok, je vais me coucher

Peut être que dans l'histoire de l'évolution, l'Homme est juste le maillon qui permettra à la nature de passer des chaînes carbonnées au silicium : dinosaure -> Homme -> Robot.
Bon allez j'arrête de me la jouer à la matrix.

[JPL]

Modération

Les deux derniers messages constituent un début de dérapage à ne pas prolonger.

Merci.

[Rhedae]

Pour tester j'ai tapé sur google "quel âge as tu" , il me répond :"Et toi,quel age as tu? La vieillesse est un naufrage..."

je trouve ça déjà bien balaise .. non ? On peut dire que google est une application qui a une certaine conversation, je pense pas que des algorithmes n'arrivons jamais a passer le test de Turing , car je crois google par exemple même si son but n'est pas de singer l'humain a déjà un gros potentiel sémantique, et peut améliorer son algorithme ou l'utiliser a d'autre fins intelligentes,il faut encore du temps pour trouver l'algorithme parfait et universel. Moi je pense surtout le danger de l'intelligence artificielle c'est qu'on en devient accroc , et si un jour les machines s'arrêtent ,se sera néfaste pour nous , donc le danger viendrait a mon sens plus de la dependance que nous avons déjà de certain robots . cela dit il faut souligner que la force de l'algorithme , et du robot c'est qu'il est impartial .

Aussi peut etre devrions nous nous inquiété de son aspect commercial , et non universel (logique) . peut etre devrions nous d'ailleur definir un niveau d'intelligence non en le comparant a l'homme; mais a ce que nous connaissons de la logique .

[Argyre]

Voilà une question qui relève (un peu) de ma spécialité !
Pour répondre à la question initiale, il faut effectivement se positionner sur la question : "peut-on programmer l'intelligence".

Et il y a 2 réponses à apporter :
1) Du point de vue théorique, si on considère que
a) Le monde physique est régi par des lois mathématiques accessibles à l'homme (cela semble le cas, puisque de nombreuses théories ont été proposées et fonctionnent bien pour décrire les phénomènes observés)
b) L'intelligence animale et humaine résulte de la dynamique du cerveau qui, en première approximation, résulte de phénomènes biologiques macroscopiques (degré d'excitation de chaque neurone)
Alors, selon la thèse de Church et les travaux de Turing concernant sa machine universelle, il doit exister un algorithme qui simule la dynamique neuronale et donc, du point de vue du traitement de l'information, reproduit exactement les phénomènes observés, et donc l'intelligence. Et si cet algorithme existe, il peut être implémenté sur n'importe quel ordinateur (du moins la partie qui ne traite pas l'information provenant des capteurs ou alors il faut simuler aussi l'extérieur).

2) D'un point de vue pratique, il faut concevoir un tel algorithme. L'approche qui consiste à tout expliciter ne semble pas marcher, c'est ce que nous enseigne 20 ans de travaux en IA avec les systèmes experts, pour la simple raison que nous ne savons pas comment il faut programmer tout ce qui dans l'intelligence relève de l'implicite.
L'approche connexionniste consistant à tout programmer par apprentissage (et copier l'apprentissage de l'enfant) est prometteuse, mais n'a pas encore abouti. Il se pourrait que la structure générale de cette machine à apprendre requiert certaines connaissances implicites complexes.
Bref, en pratique, il n'est pas sûr que cette IA puisse être développée un jour.

A la question est-ce que l'IA pourrait s'avérer néfaste, la réponse est donc :
Si on arrive à créer cette IA, elle sera aussi dangereuse que l'homme.
Si on n'y arrive pas, les programmes réalisés seront aussi dangereux que ce qu'on voudra bien y mettre, mais leur intelligence limitée limitera également leur dangerosité.
Et en tout état de cause, une IA digne de ce nom n'est pas attendue avant longtemps.

[pi-r2]

bon, j'ai eu une semaine d'absence suite à des pb perso, mais si ça vous intéresse et si vous êtes prêts à accorcher vos ceintures, je pourrai répondre à chaque point soulevé dans cette discussion.
Je commence par Spi100:

Tout d'abord le caractère très limité des machines de Turing. Elles savent traiter tous les algorithmes mais elles ne savent rien traiter d'autre : le Halting Problem ou le calcul du nombre de Chaitin leur sont inacessibles. On montre aussi que les machines de turing sont une infinité dénombrable

C'est justement ce fait qui permet l'intelligence. Nous ne savons pas non plus "traiter" (sous entendu à fond) ces problèmes , mais nous disposons de fonction d'échappement. Aucun être humain n'est capable de calculer un nombre réel transcendant.

Mais peut-être que l'appréhension du continu, du nombre de Chaitin, ou la capacité à décider si un algo s'arrête, sont tout aussi inaccessible au cerveau humain ?

Exact. Pour apprécier si un algo s'arrête ou non il faut passer à un niveau supérieur de complexité (ie pas en mode debug) , et même là, on laisse des "bugs".

Par contre le langage est un objet manipulé par notre cerveau avec une facilité déconcertante, surtout si on compare à ce que peut faire un programme. Pour le moment personne n'a pu trouver un algorithme capable de décider du sens d'un texte quelconque. Il se peut très bien qu'un tel programme soit tout aussi illusoire que l'algorithme décidant de l'arrêt d'un programme.

Le problème du language est plutot lié au problème de culture et de perception physique (cetains mots comme précisé plus haut ont en fait une définition physique, pas en mot. La définition du dictionnaire est fausse). On ne peut pas manipuler le language sans être pleinement intelligent

[pi-r2]

Envoyé par Azen

L'intelligence artificielle ne peut etre nefaste que si ces concepteurs le lui permettent. Quand bien meme l'homme est capable de faire du "mal" alors qu'existe la morale le risque pour que cette intelligence cree par l'homme lui devienne un jour nefaste existera neanmoins.
Dans ce cas, est il possible d'inclure dans les proprietes de cette intelligence des imperatifs visant a ne pas "gener" la lignee non seulement humaine mais vivante? Et dans le cas ou cela est possible ceci n'aura-t-il pas pour consequences de limiter ses capacites d'apprentissage du fait de la necessite de se referer a un "savoir" non-evoluable (remise en question de conecpt elementaire impossible)? On tombe s'il me semble dans un paradoxe car les conceptions doivent pouvoir evoluer pour que "l'intelligence" se devellope. Et est-ce creer une intelligence que d'essayer de copier un mode de raisonnement que l'on ne comprend pas completement?

Non, l'intelligence permet forcément de développer de nouvelles idées (dont des idées "mal"). Si on resteint le champ des idées possibles, on restreint l'intelligence. Et l'intelligence trouveras toujours un moyen de contourner des blocages non intelligents (voir les raisonnements des religieux du passé pour justifier des exactions contraires aux impératifs de leurs croyances). une intelligence peut FORCEMENT faire PLUS que ce qui a été prévu et programmé au départ.

[pi-r2]

Envoyé par gillesh38

Le problème du langage illustre très exactement la différence entre intelligence et algorithme, d'où les desillusions de ceux qui pensaient que la traduction automatique serait résolue en quelques années.
Fondamentalement, le langage fait référence à des expériences physiques sensorielles, dont un ordinateur est complètement dépourvu. Les couches "élaborées" des neurones du cortex cérébral s'appuient sur le réseau de neurones sensoriels en interaction avec le monde, et il n'y a rien de tel dans un ordinateur. Il est donc incapable de "comprendre" ce qu'il dit, même si il peut donner le change dans certaines situations spécifiques grâce à l'habileté de ses programmeurs.

Quand tu parles d'algorithme, tu ne le considère qu'à la première "couche", c'est à dire des algorithmes qui prennent des entrées et produisent des sorties. Mais quid d'un algorithme qui produit des algorithme (au deuxièmen ordre). L'intelligence est à chercher à ce niveau (au moins). Sur le langage parfaitement d'accord.Tu n'arriveras jamais à faire comprendre à un ordinateur même intelligent ce qu'est un cheval en utilisant que des mots si il ne dispose pas de capteurs optiques. Mais peux tu vraiment expliquer les couleurs à un aveugle ?

[pi-r2]

Envoyé par Rhedae

Pour tester j'ai tapé sur google "quel âge as tu" , il me répond :"Et toi,quel age as tu? La vieillesse est un naufrage..."

je trouve ça déjà bien balaise .. non ? On peut dire que google est une application qui a une certaine conversation, je pense pas que des algorithmes n'arrivons jamais a passer le test de Turing , car je crois google par exemple même si son but n'est pas de singer l'humain a déjà un gros potentiel sémantique, et peut améliorer son algorithme ou l'utiliser a d'autre fins intelligentes,il faut encore du temps pour trouver l'algorithme parfait et universel. Moi je pense surtout le danger de l'intelligence artificielle c'est qu'on en devient accroc , et si un jour les machines s'arrêtent ,se sera néfaste pour nous , donc le danger viendrait a mon sens plus de la dependance que nous avons déjà de certain robots . cela dit il faut souligner que la force de l'algorithme , et du robot c'est qu'il est impartial ..

je suis d'accord avec toi. Tu illustres avec ton exemple que qu'on décide sciemment de produire une IA ou non, une forme d'IA finira par apparaitre sur le net. Le milieu est favorable au développement de ce genre de "forme de vie". Pour le côté accro, c'est sur que dès qu'on disposera d'iA on décuplera nos capacités. Plus personne ne voudra être opéré par un chirurgien humain !
Par contre impartial ... Si intelligent, pas impartial

[pi-r2]

Envoyé par azman

ceux qui mettent l'intelligence et le cerveau humain sur un pied d'estal

effectivement c'est LA raison pour laquelle nous n'avons pas encore trouvé l'IA. On cherche bien trop compliqué et on manque d'humilité face à nos propres capacités (n'oublions pas que c'est notre cerveau qui se juge lui même...)

Envoyé par azman

et les autres, qui considère le cerveau comme une machine ultra complexe mais compréhensible par son hôte, nous.

Dont je suis.

Envoyé par azman

C'est pourquoi la question devrait être "L'homme peut-il créer aussi complexe que lui ?" ou "un système d'un niveau de complexité donné peut-il se comprendre? ".

Etait-il vraiment possible de créer des outils micrométriques en partant de cailloux ? Il se fait que l'on peut construire plus complexe que soit. Il n'y a pas de raison que ce ne soit pas extrapolable à l'intelligence humaine, capable de créer une intelligence même plus performante qu'elle même.

Envoyé par azman

Notre intelligence est le fruit de la nature, succession de multiples hasards et de lois de la séléction. Alors pourquoi ne pourrions nous pas créer de l'intelligence ? La nature n'a même pas concience d'elle même au contraire de l'homme!

Bien d'accord. C'est sans doute plus facile que ce que la nature à fait, car nous on est intelligents ! On ne va pas le faire qu'au hasard.

Envoyé par azman

Mais là où je suis d'accord, c'est que l'intelligence artificiel n'est pas pour demain !!

non, mais cette fois, ça ne devrait plus tarder.

Envoyé par azman

L'abstraction de nos langages informatique, de nos conceptes ne sont pas assez elevé pour créer une intelligence. !!

Non, c'est le contraire, trop compliqués.

Envoyé par azman

Le support physique, qu'est l'éléctronique, est-il compatible avec l'intelligence ? !!

Et pourquoi ne le serait-il pas ? On peut émuler sur la machine une belle modélisation de cerveau en 3D avec toutes les protéinés de comm associées.

Envoyé par azman

Le paradoxe est que si nous créons l'intelligence, celle ci sera née de la création et non de la séléction. !!

Nous ne créerons pas l'intelligence, nous créerons le moteur qui crée l'intelligence, et celle ci est TOUJOURS le résultat d'une sélection au niveau individuel, qui s'appelle apprentissage et qui est inévitable si on veut une intelligence vraie (autrement dit une intelligence ne peut pas rester statique)

Envoyé par azman

Enfin, comme le dit Houellebecq, "tout se que la science permet sera réalisé", je pense que tout scientifique est d'accord avec ceci (même moi qui n'en n'est pas un).

Exact, et je rajouterais , de manière contrôlée ou non.

[pi-r2]

Envoyé par gillesh38

Prenons un exemple concret : si tu vois les neurones comme un gigantesque "réseau de neurones" (au sens informatique) avec des états et des couplages, comment programmes tu l'influence de l'absorption d'une drogue sur ce réseau?

. Très simple. je ne vois pas le neurones du cerveau comme un gigantesque réseau de neurones informatiques. Mais la drogue agit sur le cerveau de manière semi aléatoire (fortement compensée par la loi des grands nombres) en se fixant à des récepteurs spécifiques avec une action spécifique. Je ne vois pas ce qui empêche d'émuler cette action et son effet sur le "réseau de neurone" artificiel. La simulation d'intelligence ne sera pas le réseau de neurones mais le réseau de neurones plus l'ensemble de tous les algos simulant l'effect des "drogues" et autres hormones à effet global.

[pi-r2]

Envoyé par gillesh38

Allez je vous en donne une :
"Est ce que vous pouvez lecher votre coude avec votre langue?"

Merci d'avoir donné un exemple. Maintenant poses cette question en français à un chinois qui ne parle pas français. Il ne peut pas répondre. Qu'en conclus-tu ?
Si mon ordinateur intelligent ne sait pas ce qu'est un coude, cela le rend-il non intelligent ?

[pi-r2]

Envoyé par baky

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence..

re paradoxe de l'outil: pensez vous que l'on puisse forger des outils micrométriques avec des cailloux ?

Envoyé par baky

Je pense que le problème est ailleurs. Avant de songer à fabriquer une telle machine il faut d'abord que l'homme comprenne sa propre intélligence,
..

Si on avait attendu de comprendre avant de fabriquer .... L'histoire des sciences et techniques est en gros le processus inverse, on fait, puis on réfléchis. A part au cours du vingtième siècle peut être...

Envoyé par baky

l'univers du cerveau est si complexe que nous sommes encore très très loin d'en définir l'exacte fonctionnement; nous n'avons que des "théories"...

exact, et alors ?

Envoyé par baky

De plus, il ya un élément que les scientifiques ne veulent pas reconnaître: "l'âme""...

disons plutôt que ce n'est pas une hypothèse nécessaire.

Envoyé par baky

; D'ou la question "comment donner une âme à une machine ?";

Pourquoi faire ? La conscience arrivera automatiquement avec l'intelligence dès que l'iA se prendra elle même pour objet de son étude. Et comme elle sera curieuse (parce que si on n'est pas curieux, on n'est pas intelligent), cela finira nécessairement par arriver.

Envoyé par baky

c'est l'âme qui régie les notions de bien et de mal évidemment couplé avec notre cerveau qui s'occupe du "raisonnement".

Preuve ? Avec une ablation de l'âme, on perd la notion de bien et de mal ?

[gillesh38]

Envoyé par pi-r2

. Très simple. je ne vois pas le neurones du cerveau comme un gigantesque réseau de neurones informatiques. Mais la drogue agit sur le cerveau de manière semi aléatoire (fortement compensée par la loi des grands nombres) en se fixant à des récepteurs spécifiques avec une action spécifique. Je ne vois pas ce qui empêche d'émuler cette action et son effet sur le "réseau de neurone" artificiel. La simulation d'intelligence ne sera pas le réseau de neurones mais le réseau de neurones plus l'ensemble de tous les algos simulant l'effect des "drogues" et autres hormones à effet global.

C'est là que l'idée de l'IA commence à diverger justement
Tout ce que tu peux espérer faire, c'est simuler la structure physique du neurone et EMULER l'arrivée d'éthanol dans le sang. Mais la tu as déjà perdu le but initial : l'IA est censée interagir avec un monde REEL: tu n'as aucun moyen de verser un vrai verre de whisky dans ton ordinateur !! donc tu vas obtenir un calcul qui peux tres correctement calculer l'evolution d'un neurone,mais ce ne sera plus ce qu'on cherchait au départ, un système répondant aux stimulis réels du monde extérieur.

La simulation du fonctionnement d'un cerveau, c'est comme la simulation de l'intérieur d'une étoile : même si tu peux y "reconnaitre" une information pertinente, elle ne remplit pas la fonctionnalité (intelligence ou nucléosynthèse) de l'objet initial.

[gillesh38]

Envoyé par pi-r2

Merci d'avoir donné un exemple. Maintenant poses cette question en français à un chinois qui ne parle pas français. Il ne peut pas répondre. Qu'en conclus-tu ?
Si mon ordinateur intelligent ne sait pas ce qu'est un coude, cela le rend-il non intelligent ?

C'est très différent! je suppose que la machine a un langage, et je l'utilise pour poser la question. Si la machine ne sait pas ce que c'est qu'un coude, j'en conclus qu'elle n'est pas un être humain et le test de Turing échoue.
Tu vois bien que malgré tout le respect que l'on doit a Turing , son test ne peut jamais marcher : soit la machine repond comme une machine et elle avoue ne pas etre un etre humain, soit elle repond comme un etre humain et tu peux la coincer sur des questions liées au corps biologique, qu'elle ne peut pas connaître....

[Rhedae]

Aujourd'hui des processeurs permettent à des robots de faire leur apprentissage , c'est a dire de programmer eux même une fonction optimale . Un robot à 6 pattes grâce à ce genre de système obtient comme résultat de marcher comme une araignée sans programme préalable ou spécifique à cette fonction . un algorithme de base lui inculque le necessaire a son apprentissage et il calcule lui même la meilleure façon d'arriver a marcher. C'est une début très prometteur car il laisse entrevoir une échelle de l'intelligence non anthropocentriste mais de logique pure . Pour avancer d'un point "a" à un point "b" le plus rapidement possible le robot a tester une infinité de solution possible pour optimiser et finalement obtenir un résultat proche de celui que produit la nature . C'est un début et tout en sachant que l'informatique est proche d'un résultat ex-croissant dans le domaine de la capacité de calcul et de mémorisation. Le traitement de l'information est un secteur d'activité tout a fait prometteur,car ce genre de processeur laisse entrevoir une forme d'intelligence vraiment nouvelle et etonante.