L'intelligence artificielle, peut-elle se révéler néfaste ?

[invite5989fd79]

salut tout le monde
Je ne connais pas grand chose à tout ce qui concerne la programmation les algoritmes ou toutes ces choses dont vous parlez ici, mais je suis tout de même très interressé par la discussion.
la question de base est :
-L'intelligence artificielle, peut-elle se révéler néfaste ?
si on refléchit un peu on se rend compte que la quasi totalité des invention (et parfois même des decouvertes) de l'homme a eu des bons et des mauvais cotés (la voiture, le train, l'avion, le nuclaire, l'aerospatiale en sont quelques exemples) de ce fait pourquoi une nouvelle invention (si elle a lui un jour) ferait-elle exeption la règle?
personnellement la question que je me pose est:
-une intelligence artificielle pourrait-elle un jour décider d'etre nefaste et avoir conscience de l'etre? de la même façon que une intelligence naturelle. mais partant de là il ne faudrait plus chercher a creer une intelligence artificielle mais une conscience artificielle, avec tout ce que ça implique (choix,reflection,decision,sen timent ...ainsi que toutes ces choses qui ne me viennent à l'esprit )
merci d'avoir lu jusqu'au bout et dsl pour les fautes je suis pas très bon en orthographe. @+
-----

[invitebf9d0c59]

salut,
je voudrais juste dire qu'une machine n'aura jamais de conscience et sera toujours plus prédisposée à commettre des erreurs de perception des commandes (des bugs quoi) ,que l'Homme. Je pense qu'à ce titre il serait dangereux d'étendre le pouvoir des machines, elles ne voudront jamais consciement faire du mal à l'homme (genre terminator) mais je pense qu'il y a déjà assez de criminels sur cette planète pour rajouter encore des machines qui vont bugger à la moindre incomprehension dans des domaines de la vie sociale ,de plus en plus proches de l'homme.

[invite765732342432]

je voudrais juste dire qu'une machine n'aura jamais de conscience et sera toujours plus prédisposée à commettre des erreurs de perception des commandes (des bugs quoi) ,que l'Homme.

J'ai peur que tu aies une vision un peu trop caricaturale de l'homme: Il est bourré de "bugs": maladies mentales ou dérèglements hormonaux pour ne citer que deux choses qui me passent par la tête...

De plus, affirmer "une machine n'aura jamais de conscience", c'est un peu simple: on ne sait même pas comment "nait" une conscience alors comment peut-on affirmer qu'une machine ne peut en avoir ?

[invite333943ff]

ce qui nous apprend quelquechose, c'est qu'au niveau du traitement de l'information, il se pourrais que le cerveau bien qu'ultra optimisé pour son environement, a bien du mal a resister a la puisance de calcul facilement exponentiable des micro-processeur.. // ... mais j'ai bien peur, qu'a force de modéliser tout les aspects propre à l'intélligence, sous une forme de multiple système expert travaillant en parralèle, l'on arrive avec un modèle adéquat, à une capacité combinatoire de même ordre de celle l'esprit humain, voir des millions de fois supérieure, puisque le système en lui-même etant modifiable a l'envie

Bonjour quetzal,

D'abord quelques remarques préliminaires.

1. La puissance de calcul des micro-processeurs a ses limites. Il est vrai que comparer à ce qui se faisait il y a 50 ans, la courbe de croissance de cette capacité de calcul fut exponentielle en accord avec la Loi de Moore.

2. Derrière chaque micro-processeur, il y a un programme fonctionnant selon le modèle de la machine de Turing.

3. La capacité des programmeurs a aussi des limites : un programme ne sera jamais meilleur que l'algorithme qui le sous-tend et le programmeur qui implante l'algorithme.

4. Dans le lien ci-dessus (celui sur Turing), il est question du test de Turing; ce test vise à déterminer si une machine est "consciente". À ce jour, aucune machine n'a réussi le test.

5. Ce que je vois sur le marché comme produits ne m'impressionne pas. Les prouesses technologiques sont spectaculaires mais elles ne sont que le résultat d'automatismes et encore loin de toutes formes d'intelligence ou de conscience.

Bon ceci étant dit, tu compare le cerveau humain avec un ordinateur. La comparaison n'a pas de sens autrement que par des tests (celui de Turing par exemple). À ce jeux là, le cerveau se fait battre pour la rapidité de calcul numérique. Et alors ! mon couteau coupe mieux ma tranche de steak que mes ongles ! Mon couteau est-il plus intelligent que moi ou a t'il la moindre chance de le devenir ?

Quand bien même que je sortirais toutes ma coutellerie, cela ne mettra pas de l'intelligence ni de conscience dans cette coutellerie ! Augmenter la puissance de calcul des ordinateurs ne les rendront pas plus conscients ou intelligents. À la base, le concept de la machine de Turing est une limite en soi : l'ordinateur est dépendant de son maître et ne peut le surpasser sur ce qui fait du maître ... le maître.

Cordialement,

Pierre de Québec

[pi-r2]

Si le 3 était vrai, nous ne serions pas intelligents, puisque le programme génétique simple de notre oeuf initial ne pourrait pas générer un cerveau complexe et pensant.

Le cerveau serait-il une machine de Turing ?

Cordialement,

Pierre de Québec

[invitebf9d0c59]

J'ai peur que tu aies une vision un peu trop caricaturale de l'homme: Il est bourré de "bugs": maladies mentales ou dérèglements hormonaux pour ne citer que deux choses qui me passent par la tête...

De plus, affirmer "une machine n'aura jamais de conscience", c'est un peu simple: on ne sait même pas comment "nait" une conscience alors comment peut-on affirmer qu'une machine ne peut en avoir ?

certes l'homme peut etre considéré comme une machine qui fait aussi des erreurs de jugements et qui peut derailler (tomber malade etc...) mais l'homme c'est la machine la plus intelligente qui soit, de ce fait toute autre machine reste moins performante que l'homme. En plus une machine ça s'abime aussi avec le temps tout comme l'homme peut tomber malade. Donc en plus d'avoir la plupart des defauts de l'homme, il lui manque la conscience ,le libre arbitre, les sentiments etc... qui pourraient par exemple lui faire savoir qu'il y a une erreur quelque part et qu'il faut proceder d'une manière qui n'etait pas defini dans sa programmation.

quant à la conscience des machines, je crois qu'on risque d'entrer dans un debat plus métaphysique. Mais je pense quand meme qu'une machine n'aura jamais conscience d'elle meme, à moins qu'on cree un programme qui le lui permette, dans ce cas ça restera toujours de l'artificiel, et de ce fait ce sera toujour plus limité que la conscience humaine. Bref si la machine la plus intelligente est déjà capable de faire autant d'erreurs, je pense qu'il voudrait mieux eviter de confier des tâches plus "humaines" à des machines à intelligence moindre.

[pi-r2]

Le cerveau serait-il une machine de Turing ?

Cordialement,

Pierre de Québec

euh, y'aurait pas eu comme un bug sur nos 2 post, téléscopés ????

Sinon, oui pour moi l'intelligence est émulable par une machine de Turing. Mais bon, je ne l'ai pas encore démontré, ça se saurait ...

[invite8915d466]

Désolé Pi-r2, on va encore pas être d'accord

Apres un long débat sur un autre forum, qui partait de la Mecanique Quantique pour arriver à l'idée que le monde entier serait un immense programme d'ordinateur (avec moultes références à Matrix), je suis arrivé a me préciser les raisons pour lesquelles je ne crois ni à cette idée, ni au fait que le cerveau soit une machine de Turing.
Beaucoup de tenants de l'IA pensent qu'avec un algorithme extrêmement développé, ils pourraient simuler complètement le fonctionnement d'un cerveau, et donc finalement "transférer" l'esprit sur un ordinateur (cf prospective des chercheurs anglais publiée sur FS !). Evidemment il y a le petit problème que le cerveau est un cerveau ouvert, mais ça ne les gênent pas, ils pensent également simuler l'environnement dans le programme ...

Ce qu'ils ne réalisent pas je pense, c'est que ce qu'ils décrivent n'a plus rien à voir avec un cerveau : quand on dit "un cerveau", on pense à la FONCTIONNALITE du cerveau, qui est d'offrir une représentation correcte (même approximative) du monde extérieure, en y incluant la représentation de soi-même :autrement dit un cerveau qui fonctionne donne une image correcte de "soi dans le monde".

Or imaginons que vous soyez un programme de Turing, qui soit donc implémentable sur n'importe quel ordinateur suffisamment gros. Dans ce cas, les tenants de cette hypothèse penseront que l'ordinateur "pense comme vous". Mais comment le vérifier ? (tout ce que vous savez, c'est qu'il fait des calculs). Le fameux "test de Turing" pourrait marcher, c'est à dire tenir une conversation et ne pas voir la différence avec un etre humain. Sauf que ça va foirer des le debut, puisque l'ordinateur n'a PAS la fonctionnalité du cerveau telle qu'on vient de le définir: IL CROIRAIT QU'IL EST VOUS ALORS QU'IL EST EN FAIT UN ORDINATEUR : il n'a donc pas la fonctionnalité du cerveau humain. Ce n'est pas un robot intelligent du genre D2R2, qui sait tres bien qu'il est un robot et ne se prend pas pour un etre humain.

Autrement dit un programme de machine de Turing echoue a reproduire la fonctionnalité du cerveau. Notez que je ne dis pas que c'est impossible de simuler l'évolution des neurones d'un cerveau. Je dis que l'intelligence définie comme une fonctionnalité d'interaction avec l'extérieur incluant une représentation de soi n'est pas de nature algorithmique.

[pi-r2]

Oui, je sais que certains ne sont pas d'accord, et tant qu'une IA ne sera pas une réalité, on ne pourra pas facilement trancher le débat. Et quand elle sera une réalité, les machines pensantes éventuelles subiront une discrimination assez insupportable. Mais l'objet de ce débat n'est pas l'IA est elle possible ou non, mais dans l'hypothèse où une IA apparaitrait , pourrait elle se réveler néfaste.
Je pense que l'intelligence est un mécanisme simple, simulable par une machine de Turing. Je pense qu'il ne sera possible de se tranférer dans une telle intelligence. Ce qui sera programmable n'est pas toi tel que tu es mais un programme analogue à celui qui à conduit à toi. Ce sera autant toi qu'un clone pourrait être toi...
Je ne vois pas en quoi tu démontres l'impossibilité d'une intelligence artificielle qui a une représentation d'elle même. Peut être devrions-nous en discuter sur un autre fil ?

[invite8915d466]

Je pense que l'intelligence est un mécanisme simple, simulable par une machine de Turing. Je pense qu'il ne sera possible de se tranférer dans une telle intelligence. Ce qui sera programmable n'est pas toi tel que tu es mais un programme analogue à celui qui à conduit à toi. Ce sera autant toi qu'un clone pourrait être toi...
Je ne vois pas en quoi tu démontres l'impossibilité d'une intelligence artificielle qui a une représentation d'elle même. Peut être devrions-nous en discuter sur un autre fil ?

Effectivement ça a uun peu dérivé, mais il y avait quelques posts mettant en doute le fait que l'IA fasse réellement comme un être humain, j'ai continué sur cette idée... C'est sûr que répondre à la question suppose qu'on ait d'abord proprement défini ce qu'on appelle IA.
Pour moi, par définition, tout algorithme revient à une machine de Turing et peut être implémenté en principe sur n'importe quel ordinateur (sur le débat auquel j'ai participé, c'etait l'avis des informaticiens en tout cas).Evidemment ce n'est qu'une expérience de pensée, en réalité ce serait extremement compliqué de connaitre l'algorithme d'une personne particuliere !

Ce que je cherchais à démontrer, c'est qu'il me semble contradictoire de dire qu'on peut faire une machine passant le test de Turing (type robot de Star wars) et penser que cette machine serait du type machine de Turing (en gros ça revient à dire que le reve de Turing ne sera jamais réalisé, je suis prêt à parier n'importe quoi la dessus ).

[invite8915d466]

Je ne vois pas en quoi tu démontres l'impossibilité d'une intelligence artificielle qui a une représentation d'elle même. Peut être devrions-nous en discuter sur un autre fil ?

Pour être précis, je ne pense nullement qu'il est impossible de construire une machine intelligente. Ce que je dis, c'est que cette machine ne réaliserait pas un algorithme mais devrait être fondée sur un processus physique "non algorithmique" . Je pense que les neurones du cerveau ne réalisent PAS un algorithme. Est ce que ma position te semble plus claire?

[invite73192618]

Gillesh38: quel genre de phénomène physique penses-tu inexprimable en terme d'algorithme?

[invite333943ff]

euh, y'aurait pas eu comme un bug sur nos 2 post, téléscopés ????

Sinon, oui pour moi l'intelligence est émulable par une machine de Turing. Mais bon, je ne l'ai pas encore démontré, ça se saurait ...

Je suis infinimiment désolé pi-r2. Tu n'a pas la berlue. Il s'agit de mon erreur.

Maudit bouton éditer. Faudrait bien que Futura le mette à gauche, pas à coté du bouton Citer !

Cordialement,

Pierre de Québec

[invite8915d466]

Gillesh38: quel genre de phénomène physique penses-tu inexprimable en terme d'algorithme?

TOUS ! je sais que je suis en désaccord avec une opinion très répandue, mais la simulation d'une expérience par un modèle physique n'est PAS équivalente pour moi à la réalisation physique de cette expérience.
Ne serait-ce que parce qu'on ne connaît aucune théorie complète de l'Univers. Tu ne peux pas modéliser par un algorithme une mesure quantique indéterministe. Donc tu ne peux pas plus modéliser le cerveau de l'être humain qui fait cette expérience et qui constate son résultat...

[invite376ff830]

Gillesh38 : Tu ne peux pas modéliser par un algorithme une mesure quantique indéterministe. Donc tu ne peux pas plus modéliser le cerveau de l'être humain qui fait cette expérience et qui constate son résultat...

Le cerveau est complexe qu'on ne connait pas encore tous ses possibilités ? La pensée par exemple, d'où vient-elle ? Est-ce à partir de nos 5 sens ou est-ce qu'il y a autres choses comme le 6è sens, l'improvisation, l'intuition ?

[invite73192618]

TOUS ! je sais que je suis en désaccord avec une opinion très répandue, mais la simulation d'une expérience par un modèle physique n'est PAS équivalente pour moi à la réalisation physique de cette expérience.

Ah? Même si la simulation produit les mêmes comportements que les systèmes physiques réels? C'est tout l'enjeu du test de Turing en fait: si un modèle fait des choses suffisement proches du système physique (ici le cerveau) pour que vous ne puissiez pas déterminer si le comportement est physique ou modélisé, alors ça ne sert à rien de dire que le modèle diffère du "vrai" système physique. Finalement le test de Turing, c'est une sorte de rasoir d'Occam modifié!

Ne serait-ce que parce qu'on ne connaît aucune théorie complète de l'Univers. Tu ne peux pas modéliser par un algorithme une mesure quantique indéterministe. Donc tu ne peux pas plus modéliser le cerveau de l'être humain qui fait cette expérience et qui constate son résultat...

Là tu es plus précis: parceque la réalité physique (telle qu'on la conçoit) comporte des sources de vrai hasard (non modélisable -ou alors peut-être modélisable mais en incluant l'ensemble de la réalité), alors on ne peut pas modéliser un cerveau.

C'est une idée défendable en théorie mais un peu étrange en pratique:

1. Le cerveau est massivement connecté en boucle non linéaires, ce qui veut dire que sa dynamique est chaotique. Or on sait bien que dans un système chaotique même simple, on tombe rapidement dans l'infinitessimal -c'est à dire le hasard (dans ce cas calculable au moins en théorie). Pourquoi croire qu'une source suplémentaire de hasard non calculable changerait fondamentalement le fonctionnement du cerveau?

2. Imaginons que je reproduise un cerveau (exceptée les sources de hasard non calculable sous jacentes) sur un ordinateur. Lui aussi sera basée sur une réalité physique de MQ et donc des sources de hasard non calculable. En quoi est-ce que cela différerait de la situation du cerveau biologique?

Au final, ta position de principe semble être: il faut tout connaitre ou on ne connait rien. Personnellement, je me contenterais volontier d'une connaissance approchée. Il me suffit de pouvoir appréhender, aux deux sens du terme, l'univers et moi-même. Je suis un "gagne petit", donc.

PS: pour anscia: il existe au moin un sixième sens: la capacité à percevoir les mouvements et positions du corps (grâce notament à des récepteurs dans les muscles).

[invite8915d466]

Je ne me suis pas fait très bien comprendre je crois, mais c'est souvent le cas sur ce sujet.

Ah? Même si la simulation produit les mêmes comportements que les systèmes physiques réels? C'est tout l'enjeu du test de Turing en fait: si un modèle fait des choses suffisement proches du système physique (ici le cerveau) pour que vous ne puissiez pas déterminer si le comportement est physique ou modélisé, alors ça ne sert à rien de dire que le modèle diffère du "vrai" système physique. Finalement le test de Turing, c'est une sorte de rasoir d'Occam modifié!

C'est très exactement le point délicat. Bien sûr qu'une simulation peut reproduire CERTAINS aspects d'un système physique. C'est même la définition qu'on pourrait prendre d'un système algorithmique : pouvoir simuler une évolution sans se préoccuper du système physique qui simule réellement. Ainsi un ordinateur basé sur du silicium peut simuler le même algorithme qu'un cerveau en ce qui concerne la multiplication. Pas de problème. On pourrait aussi le simuler avec un ordinateur fonctionnant avec des portes logiques en bois. (Un tel ordinateur est utilisé dans les paradoxes logiques sur la conscience d'ailleurs).
Ce que je dis, c'est qu'une simulation n'est jamais équivalente à une réalité dans TOUS ses aspects. Pas plus qu'une photo n'est équivalente à l'originale dans tous ses aspects :elle peut te permettre de reconnaitre le visage, mais pas la douceur de la peau. L'ordinateur en bois sera assez insensible à la température jusqu'a quelques centaines de °C, contrairement a celui au Si, en revanche il brulera au-dessus. Tout ça n'a rien a voir avec leur comportement algorithmique, d'accord?

Et bien ce que je pense, c'est que la fonctionnalité "intelligente" du cerveau dépend de processus physiques qui ne sont pas algorithmisables, la matière dont il est fait compte beaucoup dans ses performances. Je n'ai evoqué la Meca Q que pour donner un exemple qu'il existe des processus physiques non algorithmiques. Je suis d'accord avec toi qu'il est peu probable que la Meca Q intervienne de manière significative dans le cerveau: cependant ce que tu notes toi même, c'est que le fonctionnement des neurones individuels est non déterministe : ça suffit pour rendre un cerveau particulier (le tien par exemple ) non algorithmisable !
TON esprit n'est pas un algorithme particulier.

Cependant on pourrait en théorie construire des algorithmes qui simule un caractère aléatoire, et qui "ressembleraient" à un cerveau humain, sans être la copie d'un en particulier. Certes. C'est pour ça que je ne conteste pas la possibilité de construire des machines inteligentes. Mon opinion personnelle (je n'ai aucune preuve à te fournir), c'est que les caractéristiques réelles du cerveau humain sont cependant totalement dépendantes du corps biologique dans lequel il vit. Ce que je pense, c'est qu'elles n'auraient tellement rien à voir avec nous que nous serions totalement incapables de leur "parler" (c'est déjà difficile avec un voisin et pratiquement impossible avec un étranger, alors une machine ), et donc ce ne serait pas du tout ce que les gens imaginent d'habitude avec l'IA ....

[invite73192618]

Ce que je dis, c'est qu'une simulation n'est jamais équivalente à une réalité dans TOUS ses aspects.

Je suis bien d'accord qu'on ne peut jamais faire une copie exacte, mais je ne crois pas que ce soit important: les réseaux de neurones, étant massivement parallèles, sont extrêmement résistants aux destructions (pourvue qu'elles soient réparties aléatoirement).

Si je détruis la moitié de tes neurones (bon disons les miens - pourquoi mes sujets veulent jamais faire avancer la science avec moi? ), il est probable que je ne sentirais que peu, ou pas de différences sur le coup (par contre le veillissement sera accéléré). Et si je ne suis pas capable d'identifier une différence, que me chaud (chaux? chô? cheau?) qu'elle existe?

C'est toute la subtilité du test de Turing: il ne demande pas à ce que le modèle soit exactement la réalité, il demande qu'un observateur humain soit incapable de différencier l'humain de la copie. Car si l'observateur en est incapable, alors la copie non plus. Imagines que je te photocopie l'esprit et que je te demande: "et maintenant, tu crois être la copie ou l'original?". Imagine que tu sois incapable de répondre, pas plus que ton original. Serais-tu alors convaincu que le support n'a pas d'importance?

En tout cas c'est le test qui moi, me convaincrait

nous serions totalement incapables de leur "parler" (c'est déjà difficile avec un voisin et pratiquement impossible avec un étranger, alors une machine )

La critique Wittgensteinienne! Ok mais c'est un autre débat, ici je veux juste conclure que, si on considère que l'IA peut être équipotente à l'humain, alors elle peut être aussi néfaste que les humains. (ou comment essayer de faire croire qu'on a maintenu le sujet initial...)

Jiav, qui parle aux étrangers parfois

[pi-r2]

Je ne me suis pas fait très bien comprendre je crois...

Merci d'avoir précisé ton point de vue. Selon toi, l'intelligence n'est donc pas réductible à un algorythme.
Je pense le contraire.
L'argument des phénomènes quantiques sous jacent ne suffit pas à prouver que l'intelligence est non émulable par une machine de turing (ou un ordinateur à eau, en bois je ne sais pas faire ). En effet, je sais calculer f(x)-f(x), même si je ne sais pas calculer f et que je ne connais pas x.
D'autre par, comme Jiav le souligne, la loi des grands nombres couplée à la structure fortement rétroactive du cerveau fait que sans descendre jusqu'à l'incertitude quantique, un système comme le cerveau est déjà instable (d'autant plus qu'en biologie, toutes les réactions chimiques reposent sur le hasard d'une rencontre en molécules agitées d'un mouvement brownien !). Donc sur ce point nous sommes d'accord.

Je suis intéressé par les paradoxes logiques dont tu parles avec les ordinateurs en bois, alors si tu as un lien ou plus d'info

Pour essayer de clarifier mon point de vue, il y a un programme exécutable par une machine de Turing sous jacent à chacun d'entre nous et qui nous est "commun" (avec la variabilité que l'on peut attendre de notre biologie). Ce programme commun se développe par interaction avec l'environnement éducatif qui nous entoure. On pourra reproduire un programme analogue (donc l'intelligence) sur une machine, mais pas le résultat final (c'est à dire chaque individu).

[invitefecd1185]

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence. Je pense que le problème est ailleurs. Avant de songer à fabriquer une telle machine il faut d'abord que l'homme comprenne sa propre intélligence, l'univers du cerveau est si complexe que nous sommes encore très très loin d'en définir l'exacte fonctionnement; nous n'avons que des "théories".
De plus, il ya un élément que les scientifiques ne veulent pas reconnaître: "l'âme"; D'ou la question "comment donner une âme à une machine ?"; c'est l'âme qui régie les notions de bien et de mal évidemment couplé avec notre cerveau qui s'occupe du "raisonnement". physique quantique ou pas l'homme ne pourra je pense jamais "imiter" la "Création" il ne peut qu'"Inventer" des choses.

[Dansteph]

L'inttelligence artificielle au sens commun on en est très très loins
actuellement, on a que des algo qui simulent des réactions inttéligente de très loins. Mais dans un lointain futur je suis
sur qu'on y arrivera question de complexité.

Pour l'âme désolé mais qu'est ce que cette vieillerie échapée du
XVII ème siècle vient faire dans ce débat ? L'âme les machine en
auront quand elle seront aussi complexe qu'un cerveau et encore ca
dépendra de leurs "éducation" Chez certaines peuplade le "bien"
c'est de bouffer leurs voisin alors la notion du bien et du mal
ce n'est bien qu'une affaire de "programation" et de loi simple
préetablie. (souvent liée à la meilleurs survie)

Sinon, IA bonne ou mauvaise ? elle seront ce que on y aura mis à
mon avis. PLus vraisemblablement multiples et variées comme nous
mais c'est Impossible à prédire actuellement vu que nous somme
incapable de concevoir des systèmes aussi complexe qu'un cerveau.

(mais ca va vite... le premier microprocesseur est agé d'à peine
35 ans -1971 i4004)

Dan

[invite85dfba75]

L'IA est un rêve et rien d'autre; Pouvez-vous imaginer que l'homme puisse fabriquer une chose qui dépasse sa "propre" intélligence.

"Le test de Turing est une proposition de test d'intelligence artificielle ayant la faculté d'imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication « Computing machinery and intelligence », ce test consiste à mettre en confrontation verbale un humain avec un ordinateur et un autre humain à l'aveugle. Si l'homme qui engage les conversations n'est pas capable de dire qui est l'ordinateur et qui est l'autre homme, on peut considérer que le logiciel de l'ordinateur a passé avec succès le test. Cela sous-entend que l'ordinateur et l'homme essayeront d'avoir une apparence sémantique humaine. Pour conserver la simplicité et l'universalité du test, la conversation est limitée à un échange textuel entre les protagonistes."

Source http://fr.wikipedia.org/wiki/Test_de_Turing

.On le voit avec les "bots" IRC ( robots qui reagissent a des conversations d'internautes), + les nouveaux jouets intelligent japonais, c'est qu'un mince debut mais deja on peut imaginer un futur avec des machines de plus en plus "emotionisé" et intelligentes qui passerons le test de Turing avec succés , eduquerons les enfants , l'intelligence etant une notion un peut vague il difficile de la definir dans un objet , elle n'a pas de limite , pas de marches plus hautes .

Personnelement je pense les ordinateurs nous depassent de loin en capacité de memoire et de calcul , est que le debut de l'aire sylicone . .

[invite8915d466]

Enfin moi j'ai une liste de questions toutes prêtes auxquelles un ordinateur ne pourra jamais répondre, alors que tout le monde ici pourra le faire très facilement !! . Evidemment faut pas les dire avant parce qu'un programmateur un peu malin les aura prévues . Mais vous y répondrez sans avoir été "programmés d'avance".

Allez je vous en donne une :
"Est ce que vous pouvez lecher votre coude avec votre langue?"

[invite8915d466]

L'argument des phénomènes quantiques sous jacent ne suffit pas à prouver que l'intelligence est non émulable par une machine de turing (ou un ordinateur à eau, en bois je ne sais pas faire ). En effet, je sais calculer f(x)-f(x), même si je ne sais pas calculer f et que je ne connais pas x.
D'autre par, comme Jiav le souligne, la loi des grands nombres couplée à la structure fortement rétroactive du cerveau fait que sans descendre jusqu'à l'incertitude quantique, un système comme le cerveau est déjà instable (d'autant plus qu'en biologie, toutes les réactions chimiques reposent sur le hasard d'une rencontre en molécules agitées d'un mouvement brownien !). Donc sur ce point nous sommes d'accord.

Je suis intéressé par les paradoxes logiques dont tu parles avec les ordinateurs en bois, alors si tu as un lien ou plus d'info

Faudrait que je retrouve la référence, c'est sur le problème de savoir si la conscience est algorithmique. on peut construire un ordinateur en bois avec des portes logiques mécaniques (c'est juste le probleme des frottements qui le rend un peu dur a utiliser). Si tu crois qu'il pense en éxecutant le programme de Turing equivalent a ton cerveau, est ce qu'il pense encore quand tu bloques son fonctionnement avec une cale astucieusement placée...
Personnellement je suis enclin a penser que la conscience émerge bien d'un fonctionnement spécifique de la matière (je ne suis pas dualiste), mais qu'elle requiert une évolution spécifique temporelle liée à une configuration physique particulière, réalisée dans les neurones, et n'apparatrait pas dans une autre réalisation matériellement différente.
Prenons un exemple concret : si tu vois les neurones comme un gigantesque "réseau de neurones" (au sens informatique) avec des états et des couplages, comment programmes tu l'influence de l'absorption d'une drogue sur ce réseau?

[invitefecd1185]

L'inttelligence artificielle au sens commun on en est très très loins
actuellement, on a que des algo qui simulent des réactions inttéligente de très loins. Mais dans un lointain futur je suis
sur qu'on y arrivera question de complexité.

Pour l'âme désolé mais qu'est ce que cette vieillerie échapée du
XVII ème siècle vient faire dans ce débat ? L'âme les machine en
auront quand elle seront aussi complexe qu'un cerveau et encore ca
dépendra de leurs "éducation" Chez certaines peuplade le "bien"
c'est de bouffer leurs voisin alors la notion du bien et du mal
ce n'est bien qu'une affaire de "programation" et de loi simple
préetablie. (souvent liée à la meilleurs survie)

Sinon, IA bonne ou mauvaise ? elle seront ce que on y aura mis à
mon avis. PLus vraisemblablement multiples et variées comme nous
mais c'est Impossible à prédire actuellement vu que nous somme
incapable de concevoir des systèmes aussi complexe qu'un cerveau.

(mais ca va vite... le premier microprocesseur est agé d'à peine
35 ans -1971 i4004)

Dan

La notion d'âme est pour toi une notion du XVII ème siècle.
L'âme n'est pas le sujet du débat effectivement.
Mais je voudrai simplement te rappeller que le monde n'est pas limité à l'horizon des tes frontières .
Et que la notion d'âme existe depuis bien plus longtemps que tu sembles le dire.
l'âme n'as rien à voir avec le cerveau....tu penses qu'il suffit de conceptualiser le cerveau humain pour obtenir qlq chose qui à le même potentiel que l'homme ???
Perso je ne le pense pas; mais évidemment il est dur pour le commun des mortels d'imaginer ce qu'il ne peut voir...et pourtant l'univers tout entier est tenu par des forces "invisibles" et pour moi l'âme est la force invisible qui régit toute vie "intélligente....".

[vince]

Bonjour

Perso je ne le pense pas; mais évidemment il est dur pour le commun des mortels d'imaginer ce qu'il ne peut voir...et pourtant l'univers tout entier est tenu par des forces "invisibles" et pour moi l'âme est la force invisible qui régit toute vie "intélligente....".

"pour moi", "perso", "je pense"... je rappelle que la connaissance scientifique n'est pas affaire de considérations personnelles mais d'expériences reproductibles et de modéles théoriques.

[invitefecd1185]

"Le test de Turing est une proposition de test d'intelligence artificielle ayant la faculté d'imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication « Computing machinery and intelligence », ce test consiste à mettre en confrontation verbale un humain avec un ordinateur et un autre humain à l'aveugle. Si l'homme qui engage les conversations n'est pas capable de dire qui est l'ordinateur et qui est l'autre homme, on peut considérer que le logiciel de l'ordinateur a passé avec succès le test. Cela sous-entend que l'ordinateur et l'homme essayeront d'avoir une apparence sémantique humaine. Pour conserver la simplicité et l'universalité du test, la conversation est limitée à un échange textuel entre les protagonistes."

Source http://fr.wikipedia.org/wiki/Test_de_Turing

.On le voit avec les "bots" IRC ( robots qui reagissent a des conversations d'internautes), + les nouveaux jouets intelligent japonais, c'est qu'un mince debut mais deja on peut imaginer un futur avec des machines de plus en plus "emotionisé" et intelligentes qui passerons le test de Turing avec succés , eduquerons les enfants , l'intelligence etant une notion un peut vague il difficile de la definir dans un objet , elle n'a pas de limite , pas de marches plus hautes .

Personnelement je pense les ordinateurs nous depassent de loin en capacité de memoire et de calcul , est que le debut de l'aire sylicone . .

Effectivement les machines peuvent dans une certaine mesure "imiter" l'intélligence humaine ou l'intélligence tout court....
L'IA n'est que le "nouveau" terme (à la mode) de ce que l'on appelle dans le jargon informatique les "systèmes experts"....
Les systèmes experts sont des systèmes capablent de "raisonner" à partir d'une base de règles...certains vont même jusqu'à "dériver" de nouvelles règles à partir de règles connu et d'une base de connaissance.
Mais ces systèmes sont "limités" par essence.
Les "robots" ne sont que de "vulgaire" machine à états très très limitées....
biensûr on peux imaginer des robots bcp plus "intélligent" au sens de la connaissance et du "raisonnement"...mais la seul structure capable au jour d'aujourd'hui de "raisonner" et de "conclure" à partir d'une base de connaissance c'est le cerveau => les neurones => structure neuronal....lorsque l'homme sera capable (ce dont je doute très fort) de créer une structure imitant celle des neurones du cerveau et capable de créer un "dialogue" entres ces neurones à ce moment là peut être que nous pourrons re-parler de l'AI.....

[invitefecd1185]

Bonjour




"pour moi", "perso", "je pense"... je rappelle que la connaissance scientifique n'est pas affaire de considérations personnelles mais d'expériences reproductibles et de modéles théoriques.

je dit "perso" "pour moi" "je pense" car j'exprime mon opinion...maintenant si on est là pour exprimer l'opinion des autres il faut le dire pour que cela soit clair.
je rappel le sujet du débat "
L'intelligence artificielle, peut-elle se révéler néfaste ?"...n'est ce pas là une invitation à un débat "ouvert"...est-ce que le terme néfaste désigne une théorie, un modéle ????
non cela exprime une idée de bien et de mal...pouvons nous quantifier ces notions...somme toute nous pouvons dire que c'est "relatif à un temps, à une culture, à une éducation,etc..."

Si le sujet avait été "Que pensez-vous du modèle X ?" à ce moment là je serai d'accord avec ta remarque....

Merci de votre compréhension à tous.

[invite3dc2c2f6]

Bonjour
Vu l'état de nos connaissances et théorisations formelles de l'intelligence (théorisations qui permettent de concevoir les algorithmes de programmation), je crois qu'il serait plus exact de formuler la question comme: "L'intelligence artificielle peut-elle révéler la nature néfaste de l'intelligence de l'espèce humaine?" ....
avec bienveillance,
manu.

[invitefecd1185]

Bonjour
Vu l'état de nos connaissances et théorisations formelles de l'intelligence (théorisations qui permettent de concevoir les algorithmes de programmation), je crois qu'il serait plus exact de formuler la question comme: "L'intelligence artificielle peut-elle révéler la nature néfaste de l'intelligence de l'espèce humaine?" ....
avec bienveillance,
manu.

Toute à fait d'accord avec toi.
Si nous n'incluant pas les aspects de bien et de mal dans la reflexion nous risquons de produire qlq chose de l'ordre de la bombe atomique en terme de conséquences désastreuse pour la vie "humaine".