L'intelligence artificielle avancée, un danger ?

[Lord Predator]

Hmmm... Tu devrais vérifier sur quelques références sur le sujet, ça ne semble pas être la description usuelle. En particulier, l'expression "Cro-Magnon" n'est que la manière de parler des fossiles homo sapiens du paléolithique européen, en particulier post-Néanderthal.

Cordialement,

C'est bien ce que je me disais ^^ autant pour moi mais on peut trés bien parler plûtot de Habilis ou d'autres espèce d'Homme
Petite bourde qui m'apprendra a vérifier mes sources ...

Désolé (Mais mon opinion n'est certainement pas que les humains seront remplacés par des robots humanoïdes!)

J'aurais aimer que tu m'en dise plus tout de même, en tout cas tu m'envoie ravis

Il me semble que tu argumentes très bien dans un sens qui explicite ce que j'appelle le côté hérétique qu'il y a à penser un avenir sans humain mais avec autre chose n'aurait pas existé sans les humains.

J'ai un peu de mal a te suivre la...

Quand tu écris "notre survie", pourrais-tu expliciter, approfondir, ce que recouvre ce "nous"? Ca ne peut pas être "nous" les humains vivant actuellement, n'est-ce-pas?

Je ne fait que montrer la faille du raisonnement de Leuenberg, le "nous" représenterais l'espèce humaine, évidemment pas ceux vivant actuellement car sa n'a aucun sens, mais celle vivant dans le temps t ou l'être humain devra (selon Leuenberg) "évoluer" vers des êtres artificiel.
-----

[Lord Predator]

Il me semble que tu argumentes très bien dans un sens qui explicite ce que j'appelle le côté hérétique qu'il y a à penser un avenir sans humain mais avec autre chose n'aurait pas existé sans les humains.

Sa n'est pas hérétique de pensser un monde sans les humains, simplement inutiles, a quoi bon se projeter dans un monde si on n'en fait plus partis ?

Alors bien sur sa pourrais être enrichissant de simuler une Terre sans hommes, notamment pour savoir comment la biodiversiter pourrait évoluer... mais sa s'arrête la, on n'est même pas sur qu'une espéce sera capable d'arriver ou nous en sommes, bon ya beaucoup de hors sujet, navrer...

Pour répondre aux sujet, je ne penses pas que l'intelligence artificiel puisse être un danger, pourquoi une intelligence artificiel serait dangereux d'ailleurs ? Mais ce que je craint plus c'est l'utilisation (surtout militaire) qu'on peut en faire, la il y a un véritable danger... mais comparativement avec les bénéfices espérer, le risque vaut la peine d'être pris.

[invité576543]

Sa n'est pas hérétique de penser un monde sans les humains, simplement inutiles, a quoi bon se projeter dans un monde si on n'en fait plus partis ?

Ceux qui parlent d'un remplacement par les robots ne parlent pas seulement d'un monde sans les humains. Il y a une distinction importante entre un monde sans les humains et vu comme équivalent au monde avant les humains (disons comme il y 6 millions d'années, avec quelques espèces en moins ), où les seules traces des activités humaines seraient des ruines passives; et un monde sans les humains mais avec une "civilisation" de type humain, active et florissante, où les acteurs seraient, par exemple, des robots humanoïdes.

Comme tu le dis, penser un monde du premier type (retour à la case précédant l'avènement des humains) n'amène pas beaucoup de réactions.

Mais le deuxième cas apparaît plus gênant, et c'est cela que je ciblais en disant qu'on entrait là dans un domaine où les réactions sont vives, à un point que je me permettais de comparer à la réaction contre une hérésie.

Cordialement,

[Rhedae]

Salut,

A plus ou moins long terme les hommes disparaitront de cette planète , que ce soit a cause d'un conflit nucléaire , d'une catastrophe ecologique, ou bien a long terme avec l'explosion de notre soleil .. Je me dit que l'humanité malgrés tout voudra perrainiser son espece , et fera tout dans ce sens , et cela me parrait etre un instinct inexorable . Les solutions techniques pour y parvenir devrait passer par l'utilisation de technologies spaciales electroniques et mecaniques trés evoluées .

Les longs voyages dans l'espace afin de colloniser une nouvelle planete n'etant pas adapté a notre metabolisme, je crois plutot a un systeme transportant un patrimoine genetique , et un vaisseau piloté par informatique, une espece d'arche de Noé permettant de faire naître des humains sur une nouvelle planéte analysée par le système embarqué comme viable . Evidement ce vaisseux contiendrait aussi toutes les information et connaissance accumulé des humains . En lui même ce vaisseau pourrait etre assimilé a une sorte de Dieu sachant tout et etant a l'origine de notre espece sur une nouvelle terre fertile ..

On peut aussi imaginer que si la tehnologie le permet , les hommes n'auront plus de tabou par rapport a la création d'êtres hybrides (electro-humanoide)et génétiquement modifiés , que par exemple un comité de sages choisiraient de créer des especes intelligentes plus adaptés a la situation du futur ou a une situation particuliere. (perte identitaire de l'espèce humaine)

Quand on imagine le monde en 1907, cela nous donne peut etre une idée de l'evolution du monde en 2107 , et que dire du monde en 2117 ... Cela me fait dire que ce qui pourrait nous parraitre farfelu aujourd'hui pourrait etre rien comparé a ce que l'humanité pourrait accomplir en 100 ans ou 1000 ans .. disons inimaginable..

Personnellement je serai plutot ouvert pour doter mon corp d'un système electroniques me permettant d'etre plus perfermant dans certain domaines comme la communication . Mais par contre toucher au gène humain me parrait tres effrayant .

[Rhedae]

P.S : Les robots, et la technologie en générale ne sont que des outils aux services de l'homme, nous n'en devenons pas dépendant, nous en éprouvons le besoin, et nous le comblons.

Pas du tout d'accord ... Imagine une panne générale d'electricité due a une explosion solaire par exemple, cela paralyserait la planète au moins une paire d'année je crois , et deux ans sans electricité ne pourrait que nous conduire vers un chaos, et une catastrophe sans precedent d'un point de vue economique et humanitaire. Je crois qu'il faut au contraire se faire a l'idée que nous sommes deja dependant des machines et plus generalement de la technologie, et je pense que cette dependance ne peut que s'accentuer dans les années a venir . De facto nous sommes deja dependant , il n'y a qu'a voir la réaction de certaines personnes si on leur supprime leur tel portable , ou leur connexion internet . Et que dire si l'electricité s'arrete , plus de chauffage , plus de communication, plus d'ordinteur, le hopitaux paralysés ,arret des production industrielles, recession economique, les emeutes urbaines , etc etc ...

[Lord Predator]

Pas du tout d'accord ... Imagine une panne générale d'electricité due a une explosion solaire par exemple, cela paralyserait la planète au moins une paire d'année je crois , et deux ans sans electricité ne pourrait que nous conduire vers un chaos, et une catastrophe sans precedent d'un point de vue economique et humanitaire. Je crois qu'il faut au contraire se faire a l'idée que nous sommes deja dependant des machines et plus generalement de la technologie, et je pense que cette dependance ne peut que s'accentuer dans les années a venir . De facto nous sommes deja dependant , il n'y a qu'a voir la réaction de certaines personnes si on leur supprime leur tel portable , ou leur connexion internet . Et que dire si l'electricité s'arrete , plus de chauffage , plus de communication, plus d'ordinteur, le hopitaux paralysés ,arret des production industrielles, recession economique, les emeutes urbaines , etc etc ...

Oui, enfin sa reste a relativiser, nous sommes "dépendant" parce que notre civilisation a fait en sorte qu'on le devienne. Comment parler de civilisation technologiquement avancer si on n'utilise pas la technologie ? sa n'a aucun sens. Et le telephone portable ou la connexion internet, je ferait surement partis des premiers a grogner si je ne l'avais plus, en suis-je pour autant dépendant ?? je peut toujours vivre sans... le problème de l'électricité est déjà beaucoup plus gênant puisqu'il touche toutes les institutions d'un pays et l'ensemble de ces acteurs, mais bon 2 ans pour rétablir le courant ...

De plus, imaginons un robot humanoïde (donc super intelligent pour rejoindre le sujet) dans 30 ans dans nos maison, ah il sera vachement utiles, rien que l'idées de m'en séparer me foutrais les boules ... en suis-je dépendant ?? j'arrive trés bien a vivre sans aujourd'hui....

P.S : Les hôpitaux n'ont pas de groupes électrogène pour assurer leurs autonomie dans des situation de crises ??

[Lord Predator]

Salut,

A plus ou moins long terme les hommes disparaitront de cette planète,
que ce soit a cause d'un conflit nucléaire , d'une catastrophe écologique, ou bien a long terme avec l'explosion de notre soleil ..

Effectivement, c'est plus qu'a long termes, dans beaucoup de sujet on a l'impression que sa semble être demain, c'est comme même dans 5 milliards d'année, je sais pas si vous voyez ce que sa fait... et encore une fois sa séquence principale terminer, et l'explosion en supernova de notre soleil, il COMMENCERA a s'éteindre sur je ne sais combien de temps (je dis pas qu'on arrivera a y survivre, j'en ai aucune idées, juste pour dire que le soleil c'est pas une ampoules avec un bouton ON/OFF)

Je me dit que l'humanité malgrés tout voudra perrainiser son espece , et fera tout dans ce sens , et cela me parrait etre un instinct inexorable

Rationnelle et totalement conforme a la théorie de l'évolution.

Les solutions techniques pour y parvenir devrait passer par l'utilisation de technologies spaciales electroniques et mecaniques trés evoluées .

Qu'on n'a probablement même pas idées, sa fait depuis 50 ans cette années que l'accession a l'espace a été rendu possible, faudrait rappeler l'échelle de temps en question peut-être...

Les longs voyages dans l'espace afin de colloniser une nouvelle planete n'etant pas adapté a notre metabolisme

Pourquoi long, dans le pire des cas, si on n'arrivait pas a dépasser la vitesse de la lumière, on ferait exactement comme les sondes (dans le paradoxe de Fermi je crois) on colonise les planètes qui sont a moins de 20 années lumières de nous, on s'y développe et on renvoie une mission et en quelques millions d'année on devrait avoir coloniser toutes la galaxie, théoriquement. L'intelligence artificiel me semble être (dans ce cas) inéluctable pour nous aider dans cette tâche.

Personnellement je serai plutot ouvert pour doter mon corp d'un système electroniques me permettant d'etre plus perfermant dans certain domaines comme la communication . Mais par contre toucher au gène humain me parrait tres effrayant

Personnellement, je serais plutôt renfermer pour doter mon corps d'un système électronique (en clair un cyborg ? ) sauf si je n'est pas d'autres choix pour survivre... Mais par contre toucher aux géne humain pour éradiquer des maladie grave ou non traitable et pour l'optimiser aux maximum me parait pas si effrayant que sa (Evolution de l'homme par lui même, en fonction de ses choix)

[Rhedae]

Salut Lord,

Biensur ce sont des projections à long terme et donc on est obligé de se rendre a l'evidence , que dans un futur eloigné la vie sur terre sera trés differente de maintenant ... l'intelligence artificielle devrait deja bien contribuer a un changement assez impression de notre quotidien a mon avis, et pour moi le meilleur representant de cette supra-conscience actuelle est Google (disons les moteurs de recherche en général) ce a quoi personne s'attendait il y a 15 ou 20 ans .. Certain informacien qui tenté de voir l'avenir du web , analysés bien deja le fait que celui qui construira une page de demarage universelle gagnerai bcp d'argent , mais ils pensaient plutot a un portail . Je pense que ce genre de systeme de recherche devrait muter vers bcp plus d'intelligence .. Par exemple les syntetiseurs de recherche dont jai parlé en debut de post.

Dans les points noirs a retenir j'ai retenu surtout notre dependance , a ces outils qui deviennent incontournables dans la majorité des travaux , mais aussi il y a un paralélisme entre notre dynamique vers plus d'information , et notre dynamique vers plus de serveillance . Par exemple google a conservé tt les navigations des internautes depuis 1995 et etant donné sa popularité , il peut degager des tendances generales sur les centres d'interets des personnes . Ce genre d'informations doivent se monayé tres cher, et quand c'est pas des statistiques sur des individu clairement identifiés par google .

Les robots peuvent faire un travail tres performant d'analyse de données qui transitent via satélites (cf réseau ECHELON), mais aussi de tres grands progrés ont etait fait avec la reconnaissance facial couplé a des systemes videos . Il y a je pense un danger a ce niveau là en terme de protection de la vie privé , mais aussi un danger par rapport au fait que dans certain etats les polices politiques existent encores et que donc ce genre de systeme peuvent tomber dans les mains de personnes peu recommendables .

[Rhedae]

Personnellement, je serais plutôt renfermer pour doter mon corps d'un système électronique (en clair un cyborg ? )

Oui en quelque sorte, il m'arrive de penser à un émeteur / recepteur relié directement à mon cerveau avec appel de fonction par la pensée, et interfaçage sur les cellules visuelles du cerveaux , celles qui provoques des hallucinations, ca permetrait d'avoir un PC totalement virtuel . l'ecran serait remplcé par des hallucintion controlées (pourrait avoir une exelente défénition d'images d'ailleur genre hollograme) ...

En gros par la pensée je pourrait faire tt ce que je fait deja avec mon ordi, mail, recherche, loisir, lecture, ecriture sur un forum , tenu d'un blog etc ...mais ce serait partout en transportant dans mon cerveau un simple petit emeteur .

[Lord Predator]

Oui en quelque sorte, il m'arrive de penser à un émeteur / recepteur relié directement à mon cerveau avec appel de fonction par la pensée, et interfaçage sur les cellules visuelles du cerveaux , celles qui provoques des hallucinations, ca permetrait d'avoir un PC totalement virtuel . l'ecran serait remplcé par des hallucintion controlées (pourrait avoir une exelente défénition d'images d'ailleur genre hollograme) ...

Oula, tu vas loin comme même... je ne suis pas sur que provoquer (même de manière contrôler) intentionnellement des hallucinations pour crée un "bureau informatique" virtuel soit une bonne chose, c'est dans ces moment qu'on peut voir une marge entre le bénéfice et le risque....

a la limite, j'ai entendu qu'implanter une petite tige dans un endroit approprier du cerveau pouvait faire cesser les crises d'epilepsie, ou l'implantation de petit circuit reconnectant les neurones pour la maladie d'alzheimer, la effectivement, je penses que le risque peut être pris, mais sinon...

sur un forum , tenu d'un blog etc ...mais ce serait partout en transportant dans mon cerveau un simple petit emeteur .

Tu oublis le principale, un émetteur certes (implanter dans le cerveau) mais surtout un ordinateur et la je ne suis pas sur qu'il y est assez de place. (sans aucune méchancetés de ma part)

Je trouve comme même le terme de cyborg appliquer aux humains un petit peu terrifiant tout de même... peut-on concevoir qu'une personne munis de prothèse artificiel, de coeur ou même de poumon artificiel soit un cyborg ... je ne le penses pas.

Par comparaison, via la science fiction, je dirais que la machine Terminator est un cyborg, mais Dark Vador reste humain (malgré tout ! )

Quand penser vous ?

[Rhedae]

Il faut imaginer aussi que cette émeteur puisse envoyer les informations visuelles et sonores percuent par l'individu sur un espace de stokage , sur le disque dur d'un serveur distant. On pourrait decider de conserver bcp de souvenir , mais aussi pourquoi pas revivre nos rêves (qui seraient les signaux visuel percu durant notre sommeil)... Certainement les gens serairent plus polis si ils savaient qu'ils etaient succeptibles d'etre enregistrer a tout moment par un "cyborg" .. Ca pose certainement des problemes , mais comparé au avantages que cela peut avoir si c'est securisé , je crois savoir de quel coté la balance pencherait si cette technologie existait .. Pour le moment on arrive a relier des paralysés a des ordinatuer pour qu'ils bougent la souris et clicke par la pensée ... On est donc pas tt a fait dans un senario de science fiction .. MAis c'est sur arriver chez le psy avec l'enregistrement videos de ses reves, etc .. on en est loin ...

[Rhedae]

Pour la question de l'ordinateur, l'avantage est qu'il pourrait etre a l'exterieur du corp pour caculer les signaux envoyer et receptioner les données demander. MAis c'est sur qu'il faut un systeme doté d'un mini ordi aussi dans le corp mais qui fasse un minimum de tache . Avec la miniaturistion des processeur et des memoire ce devrait etre dans le chmp du possible, ce qu'il l'est moin c'est peut etre palier le risque d'infinction .

Pour ce qui est de la definition du cyborg je sais pas trop ce qu'il en est ...

[Rhedae]

Pour la question de toucher au cellules visuelles qui proquent des hallucinations et les interfacer , ca me parrait etre moins erétique , ou moins sacré que toucher a un genome qui a mis des millions d'années pour evoluer . Si tu lis mes post en section sciences humaines, tu sais que je suis schizophrène et je dessacralise totalement mes experiences hallucinatoires et je souhaitent a tout le monde de vivre "ca" en qulque sorte mais de facon controlé, car la definition et le réalisme des images et des sons hallucinatoire est vraiment exelent même si au debut c'est flippant .

[inviteb271042d]

Bonjour,

C'est incroyable comme ce fantasme de l'IA revient régulièrement !

C'est quoi le motif de ce cycle ? l'IA c'est un sujet à la mode dans les écoles ?

Bon on a déjà beaucoup, beaucoup débattu sur l'IA. J'interviens juste pour rappeler que l'IA , au sens commun, c-a-d une IA "forte" consciente d'elle même n'existe pas et n'est pas facilement prévisible .

Techniquement on a beau rajouter des programmes et des lignes d'algorithme la vérité est qu'on ne sait pas obtenir un tout suffisament cohérent. Les exemples du début de cette discussion le montre : on conçoit bien des programmes d'IA faible ( non consciente ) dans des domaines spécialisés.
Scientifiquement on a beaucoup, beaucoup d'interrogations sur la façon dont la conscience se forme et se maintient. Cf l'une des revues de ce mois ( science et vie ou la recherche je ne sais plus ).

Ceci dit l'IA forte n'est pas une forcément une impossibilité théorique. Mais on en est très très loin . Et amha si on y arrive un jour ce sera avec d'autres technologies ( assez loin des processeurs de silicium) ..

Pour faire un panorama assez sérieux et audacieux des technologies concernées cf " humanité 2.0 " actuellement en vente.

[invitea2d336f8]

Le danger consisterait en quoi ?
-La destruction de l'espèce humaine ?
Pour cela il faut envisager qu'une ia possède de grandes capacités d'action, ce qui semble assez improbable, même en regardant à très long terme. Tout au plus une destruction de nos moyens acquis de confort. On redécouvrirait (pour les moins, ou plus, chanceux les joies du camping ).

-Une dépendance excessive des humains à cette entité ?
On est sur la bonne voie, mais après tout, on aura choisit cete cage dorée.

Enfin la volonté de nuire est animée non pas par l'intelligence, mais par des motivations émotionnelles, tout comme la peur d'un hypothétique danger.
Hors si l'intelligence humaine s'imbrique en de nombreux points avec les émotions, pourquoi une ia ne s'en passerait-elle pas ? Donnant ainsi une intelligence de type différent.
Différent !
Ben oui, comme à l'accoutumée, c'est ça qui fait peur, arf arf arf.

[Lord Predator]

Le danger consisterait en quoi ?
-La destruction de l'espèce humaine ?

C'est exact.

Pour cela il faut envisager qu'une ia possède de grandes capacités d'action, ce qui semble assez improbable, même en regardant à très long terme.

Enfaite, même s'il n'est pas très crédible de se référer a de la science fiction pour un tel sujet, dans Terminator, les militaires ont connecter cette intelligence, consciente a tous le réseaux internet ainsi qu'aux satellites, aux commandement nucléaire, etc
Mais pour quels raison, pour que sa puissance de calcul et son intelligence donne des conseil implacable pour battre l'adversaire en lui donnant les informations de combat en temps réelles, serait-ce vraiment illusoire ?

On redécouvrirait (pour les moins, ou plus, chanceux les joies du camping

Je voit pas pourquoi ?!?

J'adore le camping, a chaque vacances d'été, je prend ma tite tente que je plante dans le jardin, trop géniales !!!
Le problèmes bien sur, c'est qu'elle est connecter aux réseaux électrique avec une rallonge, connecter a l'internet par Wifi, avec lampes électrique, enceintes, ordinateur, radiateur même (quand il fait trop froid la nuit) enfin bref, le camping, oui mais en gardant le confort ya pas de problème

Une dépendance excessive des humains à cette entité ?
On est sur la bonne voie, mais après tout, on aura choisit cette cage dorée.

C'est exact, je rencontre fréquemment cela, le fait que les humains se rendent dépendant de la "technologie" pour moi c'est une abération, on a décider de...
pas le contraire, c'est un choix, maintenant, si vous devez avoir un médicament a vie contre le diabète par exemple (l'insuline) vous allez le refuser, parceque vous en seriez dépendant ?

Je ne voit pas en quoi se rendre dépendant de la technique nous expose a un quelconque danger dés lors, elle va faire une révolution, nan ?

Enfin la volonté de nuire est animée non pas par l'intelligence, mais par des motivations émotionnelles, tout comme la peur d'un hypothétique danger.

Je ne suis pas d'accord, le fait qu'une entité soit intelligente et consciente, peut, logiquement se retourner contre son créateur, si elle sait qu'elle va y laisser des plumes...

Cordialement,

[invitea2d336f8]

Je précise : une capacité d'action contre une incapacité d'action.

En quoi la dépendance excessive est une tare ?
Elle signifie l'impossibilité de choisir, l'impossibilité de volonté, et donc l'élan inexorable vers la tare.
Comme les espèces isolées, qui disparaissent avec une modification rapide de leur environnement.
Dans ton exemple du diabétique, la personne a toujours le choix de le prendre ou non, dans une dépendance excessive, même ce choix n'existe plus.

Toi tu connais le camping, tu ne fais pas partie de la majorité, tu as plus de chance de survie .

Enfin tu dis bien que c'est sous la menace de perdre son intégrité qui pousserait cette ia à agir, ce n'est pas son intelligence même, l'intelligence est un moyen, pas un moteur en soi.

[invite5c8662c6]

Apprendre de nouveau geste et affiner ce dernier n'affirme pas que l'on peut faire naitre une conscience du "soit" interieur c'est surement faux que d'affirmer que l'on peut créer la vie artificiel finalement.
La conscience n'est déjà pas "palpable" et encore moins définie par des algorythmes ou des équations mathématique. Nous ne sommes pas des "créateurs"...Mais chacun est libre de penser autrement.
Nous faisons des abus de language. La seule chose que l'on sait faire c'est de faire des systêmes expert qui définissent eux même certain algo (ou affine) comme de vulgaire automates évolué mais automate quand même.

[invitea2d336f8]

A propos de la possibilité d'une conscience émanant d'une ia, je ne vois pas vraiment ce qui peut, théoriquement, s'y opposer.
A moins de considérer que la conscience est de même type que "l'âme", le cerveau est bien un ensemble de processus en perpétuels "mouvements".
Et la conscience naît de cet ensemble là.
Donc je ne vois pas ce qui s'oppose, en théorie, à l'idée de processus non biologiques qui puissent parvenir à un résultat comparable.

Nous admettons bien qu'un être humain, selon ses connaissances, ses expériences, et autres caractéristiques peut accéder à différentes sortes de conscience.

Pour ma part, je pense que c'est donc possible, mais de là à y voir dans tous les cas un danger........

[invite6cd8289c]

A moins de considérer que la conscience est de même type que "l'âme", le cerveau est bien un ensemble de processus en perpétuels "mouvements". Et la conscience naît de cet ensemble là.
Donc je ne vois pas ce qui s'oppose, en théorie, à l'idée de processus non biologiques qui puissent parvenir à un résultat comparable.

Le théorème d'incomplétude de Gödel peut être une piste rationnelle quand à l'impossibilité de créer une conscience artificielle. Cela dit entre la logique formelle et la réalité matérielle de notre univers il y a un grand écart que j'ai du mal a franchir. Je reste donc optimiste sur l'apparition d'une IA consciente dans un futur même très lointain .

[invitea2d336f8]

L'indémontrabilité d'un théorème ne signifie pas qu'il soit faux.
Ca signifierait que la conscience n'est pas capable de démontrer sa réalité, pas qu'elle n'existe pas, et par là, on ne pourrait pas démontrer qu'il soit possible, ou impossible, que d'autres surgissent.

Autrement dit, je me retrouve avec le fait que même dans le cas de l'incomplétude, je ne pourrais voir ce qui valide ou invalide cette possibilité, en effet c'est un peu plus précis

[invited0fb4e87]

Si l'on considère que l'homme est une intelligence artificielle,
il suffit de regarder le modèle qu'offre l'humain pour comprendre
que si des ordinateurs, créés par celui-ci, évoluent en fonction de l'évolution humaine et du coup finissent inévitablement par reproduire les comportement vitaux des être intelligents à savoir survivre.
Les machines modernes dont la base même est la pensée logique(oui/non)seront bienveillantes et malveillantes.
Il serait orgueilleux de croire que nous ne produisons pas d'erreurs et par la même que les ordinateurs puissent être parfaits .

[pi-r2]

Le théorème d'incomplétude de Gödel peut être une piste rationnelle quand à l'impossibilité de créer une conscience artificielle.

Au contraire, c'est ce théorème qui permet de penser qu'un simple automate peut atteindre un grand niveau de complexité compatible avec la conscience.