L'intelligence artificielle avancée, un danger ?

[invité576543]

il n'avait aucun "libre arbitre"(ce programme etait même carrément con)...

Con et libre-arbitre ne sont pas incompatibles.

Malheureusement.

Cdlt,
-----

[invitea54a6f54]

Je pense qu'on a encore de la marge...
mais je suis convaincu que ce que l'on va faire dans les 200 prochaines années va être déterminant.

Le problème dans le controle, c'est la dépendence... on a 100% du controle d'une machine ou d'une technologie lorsqu'on dépend à 0% de cette même.

Lorsqu'on dépend à 75% d'une technologie ( socialement ou économiquement ), et on prétend garder le controle... c'est assez délicat.

Je reste optimiste et je pense que l'homme saura prendre le bon chemin, mais comme dans toutes les nouvelles découvertes, il y aurra des dérrapages, et nous devrons nous battre pour rester libres.

A l'état actuel, c'est de la science fiction, mais en 1800 si on disait que 170 ans plus tard on marcherait sur la lune... on vous prendrait pour un fou...

On est encore loint de Terminator 2

[invite6f735bcb]

Effectivement, et pour répondre au post initial, je pense que ce type de débat est bien trop en marge de la science vu que le concept même de la faisabilité d'une AI est un sujet hautement incertain.

Je vous invite plutôt à vous reporter sur les fils discutant de la possibilité de réaliser une AI avant de se demander si celle-ci est dangereuse ou pas.

Là est le problème, tant que on ne sais pas faire de vrai IA il n'y aura aucun danger , a par une dépendance sociologique ou technologique comme tu le dis si bien Morphdown. Mais pour l'instant on sais même pas si terminator c'est faisable. (Ca fait 20 ans que les gens cherchant à créer une IA piétinent plus ou moins).
CDT

[invitea54a6f54]

Patience... Rome ne s'est pas faite en un jour...

20 ans de recherche dans une nouvelle technologie c'est rien...
On vient à peine de commencer à penser à faire de l'informatique basé sur des composans organiques...

Il est clair qu'il y a peut de chances que d'ici 20 ou 30 ans des terminators se promennent dans la rue.

L'important c'est que l'homme cherche dans ce sens... et l'histoire démontre que l'homme à toujours trouvé ce qu'il cherchais. Quand on disait que la terre était plate, et d'autres pensaient qu'elle était ronde, il a fallu des décénies avant qu'un projet concret soit mis en place.

Les programmes informatiques sont encore des primates, mais avez l'évolution de l'informatique, ils commenceront à avoir des fonctionnalités tels la réalité ajoutée ( par exemple pour visialiser la pression des gaz en laboratoire avec de simples lunettes ), ils pourront reconnaitre les visages humains, analyser le code génétique de l'homme

[invite897ff5aa]

L'intelligence " artificiel " est trop beau pour arriver maintenant ... et même arriver un jour

pour que l'ordinateur est une intelligence il faudrait déjà qu'il est une conscience, il sait le oui et le non, il faudrait qu'il capte le peut être , pour moi c'est impossible de faire une intelligence artificiel, sinon voila le code pour le programmer suite de if when :/ tout se qui est pas vivant fait que ce qu'on lui dit, jamais il apprendra par lui même, encore regarder un mouvement puis le refaire ok pourquoi pas mais le jour ou il se diras lui même tien pourquoi sa , et si je fait comme sa au lieu de comme sa ?

c'est ma théorie

Lilnes ++

Edit : vous me dirait au japon les robots monte les marches c'est pas intelligent sa :/ c'est beau impressionant mais sa reste la, les robots on peux les tromper en mettant une planche de bois devant de face il va croire que c'est des escalier il va lever la jambe bim boum il tombe par terre alors que nous non

[invite7863222222222]

Il me semble qu'il y a un probleme de complexité. Le nombre de chemins qu'un ordinateur doit parcourir pour trouver quelque chose d'interessant est exponentiel avec la capacité des ordinateurs. Donc même si on mettait une très grande quantité d'ordinateur en parallele, il suffirait qu'on veuille rajouter quelques bits pour que le système ne soit plus suffisant.

[Gunman]

pour que l'ordinateur est une intelligence il faudrait déjà qu'il est une conscience, il sait le oui et le non, il faudrait qu'il capte le peut être , pour moi c'est impossible de faire une intelligence artificiel, sinon voila le code pour le programmer suite de if when :/

Pas forcément... Tu devrais te renseigner sur, par exemple, la logique floue et les langages du genre Prolog

Au passage, puisque ce topic parle d'IA avancée, je suis étonné qu'il ne soit fait mention nulle part de ce que l'on appelle la singularité technologique : en gros, le jour où l'Homme aura construit une intleligence qui le surpasserait. Cette intelligence serait alors capable de s'améliorer ou de créer une autre intelligence plus évoluée... etc.
http://fr.wikipedia.org/wiki/Singula..._technologique

[invite7863222222222]

par exemple pour visialiser la pression des gaz en laboratoire avec de simples lunettes

La pression est me semble-t-il une grandeur physique abstraite qu'on ne peut pas visualiser.

[invite7863222222222]

Pas forcément... Tu devrais te renseigner sur, par exemple, la logique floue et les langages du genre Prolog

Au passage, puisque ce topic parle d'IA avancée, je suis étonné qu'il ne soit fait mention nulle part de ce que l'on appelle la singularité technologique : en gros, le jour où l'Homme aura construit une intleligence qui le surpasserait. Cette intelligence serait alors capable de s'améliorer ou de créer une autre intelligence plus évoluée... etc.
http://fr.wikipedia.org/wiki/Singula..._technologique

Petit hors sujet mais pourquoi réussirait-il à ne construire qu'une seule intelligence le surpassant et pas toute une panoplie ?

[invite897ff5aa]

Gunman sa change rien que le PC fait se qu'on lui dit ...
on peut inventer n'importe quelle langage qu'il soit simplifier ou pas sa deviendra pas autonome ... alors que l'intelligence si.

Ex : d'un coup le monde change la technologie change on doit s'adapter au nouveau truc, on va pas venir nous implanté une base de donner avec tout les détails a propos de ce nouveau truc. Alors que le PC rien qu'en passant de 32bit a 64bit on est obliger de lui foutre un driver spécial 64bit car sinon il sait pas adapter le driver depuis le 32bit.

c'est un exemple grotesque je l'admet mais histoire de comprendre quoi

tant que la source du PC restera le binaire ( 0 ou 1 ) pour moi l'intelligence artificiel sera très très artificiel :/

[Gunman]

Petit hors sujet mais pourquoi réussirait-il à ne construire qu'une seule intelligence le surpassant et pas toute une panoplie ?

Oui bien sûr, j'ai dit "une", mais c'est pour dire que l'évolution technologique va alors subir une accélération énorme. En fait il est surtout plus probable que cette "intelliogence" s'améliore simplement elle-même plutôt que de créer autre chose. Tout dépend aussi de comment on l'a programmée.

Gunman sa change rien que le PC fait se qu'on lui dit ...
on peut inventer n'importe quelle langage qu'il soit simplifier ou pas sa deviendra pas autonome ... alors que l'intelligence si.

Ex : d'un coup le monde change la technologie change on doit s'adapter au nouveau truc, on va pas venir nous implanté une base de donner avec tout les détails a propos de ce nouveau truc. Alors que le PC rien qu'en passant de 32bit a 64bit on est obliger de lui foutre un driver spécial 64bit car sinon il sait pas adapter le driver depuis le 32bit.

c'est un exemple grotesque je l'admet mais histoire de comprendre quoi

tant que la source du PC restera le binaire ( 0 ou 1 ) pour moi l'intelligence artificiel sera très très artificiel :/

Bien sûr, une intelligence artificielle informatique ne sera jamais réellement vivante si elle reste basée sur le principe de la machine de Turing (comme absolument tous nos ordinateurs, et je rappelle juste que la machine de Turing est pensée au départ comme un simple ruban de papier de longueur infinie parcouru par un mécanisme imaginaire qui lit/écrit les cases du ruban), et qu'elle fera ce pour quoi elle est programmée et rien de plus. Ca n'empêche pas qu'arrivé à un certain point (hypothétique) il serait possible que cette intelligence puisse "simuler" un être humain de façon parfaite, voire même le surpasser. Beaucoup de recherches se font dans le domaine de l'apprentissage en IA (ce qui inclut aussi l'optimisation et l'amélioration par le programme de son propre code source, voire pourquoi pas en écrire de nouvelles parties).

[invite897ff5aa]

Donc pour sa il faudrait changer de ?technolgie? ??
on peux convertir l'intelligence en programme pour l'émuler, enfin si on charge le code de tout se qu'on sais et sait faire mais je pense pas du tout qu'il aura la capacité de créer un autre truc avec se qu'il dispose déjà...
enfin je sais pas comment expliquer mais sa reste impossible ... avec se qu'on a actuellement, on peux pas s'en sortir avec un programme il faudrait un truc " vivant " ...

[invite7863222222222]

Ca n'empêche pas qu'arrivé à un certain point (hypothétique) il serait possible que cette intelligence puisse "simuler" un être humain de façon parfaite,

Mais pour cela il faudrait d'abord que l'homme ait atteint une parfaite connaissance sur lui même pour qu'une machine qu'il aurait construit puisse réussir à le simuler : c'est déjà un vaste programme...

[invité576543]

enfin je sais pas comment expliquer mais sa reste impossible ... avec se qu'on a actuellement, on peux pas s'en sortir avec un programme il faudrait un truc " vivant " ...

As-tu conscience que tu n'exprimes qu'une opinion? Il n'y a pas moyen de prouver ce genre d'affirmation.

Ensuite, en quoi est-ce un problème si d'autres personnes ont une opinion différente de la tienne, et essayent de faire progresser les techniques pour éventuellement obtenir ce que tu juges impossible?

Cordialement,

[invite897ff5aa]

c'est déjà un vaste programme...

On peux pas dire que l'intelligence artificiel sera un programme, tous simplement parce que notre intelligence n'est pas finit on peux pas la reproduire chaque jour on apprend plus, même si un jour ( j'y crois pas ) on réussit a créer l'intelligence artificiel bah la notre aura déjà fiouuu des année lumière de différence.

notre intelligence et encore qu'a la fasse bêta

Edit : oui je dis mon opinion j'avoue m'être emporter désoler mais je vous dis pas stoper tout au contraire prouver que c'est possible, mais pour moi je vois sa impossible dans le cas ou nous somme.

[invite7863222222222]

On peux pas dire que l'intelligence artificiel sera un programme,

Ca tombe bien car je n'ai jamais rien dit de tel.

[invité576543]

on réussit a créer l'intelligence artificiel bah la notre aura déjà fiouuu des année lumière de différence.

Par quel moyen vois-tu l'intelligence humaine augmenter dans le futur? Par lessimples progrès de l'éducation? Par l'évolution biologique naturelle? (ça prendra un temps très très long: si des machines décidantes de niveau suffisant pour passer la "singularité technique" sont possibles, on voit mal comment ça n'apparaîtrait pas bien plus vite). A moins que tu penses à des techniques genre génie génétique pour améliorer les capacités de futurs humains?

Cordialement,

[invite897ff5aa]

désoler jreeman j'avais mal compris

sinon mmy je dirait bah comme elle a fait depuis toute ses année, je pense que c'est le temps qui a fait que notre intelligence a augmanter la j'avoue j'ai un troue ...

[invite7863222222222]

désoler jreeman j'avais mal compris

oui moi aussi.

[invité576543]

sinon mmy je dirait bah comme elle a fait depuis toute ses année, je pense que c'est le temps qui a fait que notre intelligence a augmanter la j'avoue j'ai un troue ...

On peut penser qu'il a fallu quelques millions d'année à la lignée amenant aux humains à passer d'une intelligence de l'ordre de celle des chimpanzés à l'intelligence humaine actuelle.

Que penses-tu que l'évolution technique puisse faire en quelques millions d'années?

Cordialement,

[invite897ff5aa]

Non car l'évolution technique ne " s'auto évolue pas " elle est liée a la notre en gros c'est nous qui somme la raison de son évolution, donc dans l'histoire c'est liée non ?

[invité576543]

Non car l'évolution technique ne " s'auto évolue pas " elle est liée a la notre en gros c'est nous qui somme la raison de son évolution, donc dans l'histoire c'est liée non ?

Je ne comprend pas. L'évolution technique a été énorme dans les 3000 années qui précèdent, et pourtant il n'y a eu, à ce qu'on constate, aucune évolution biologique notable. Cela tend à montrer que l'évolution technique a un rythme décorrélé dans une grande mesure avec l'évolution biologique.

A moins que tu ne cherches à dire qu'il y a une limite à l'évolution technique. Si c'est une limite absolue, cela revient à ton affirmation "c'est impossible". Si c'est une limite fixée par les capacités humaines, et que tu veuilles dire qu'à partir d'un certain point les techniques ne peuvent évoluer que si les humains évoluent biologiquement? C'est possible, mais les évolutions techniques récentes tendent à contredire ce point de vue.

Même sans intellgence, les capacités calculatoires des machines sont en train de faire faire un saut aux capacités combinées humains+machines. Par exemple en maths certains théorèmes récemment démontrés n'auraient pas pu l'être à la main, ou des programmes jouent aux échecs mieux que les humains. A mon sens, il y a bien une "auto-évolution" des techniques, au sens où des outils nouveaux permettant la conception et la fabrication d'outils plus puissants, etc.

Cordialement,

[invite0753a43a]

Ca veut dire que les robots pourrait comprendre des choses que nous ne comprenont pas? Si c'est le cas ça représente vraiment un danger si un robot doter d'une IA avancée prendrais conscience de son existence et qu'il peut apprendre tout seul

[invitee137b823]

Je pense qu'il y a confusion sur certains termes:
On peut clairement remarquer que l'intelligence humaine a augmenté durant ces 3 derniers millénaires (connaissant mmy, je sens qu'il va falloir que je définisse "intelligence" ) pourtant il n'y a eu aucune évolution biologique perceptible. Du coup on ne peut qu'appeler ça une évolution technique/culturelle et on peut s'attendre à ce que cela continue pendant quelques temps.
D'autre part, il y a l'évolution technologique, des machines et des techniques humaines. Celle-ci est, pour l'instant dépendante directement de l'intelligence humaine mais on peut s'attendre dans un avenir plutôt lointain à ce que cette évolution technologique se fasse d'une manière indépendante (des machines qui améliorent des machines). Et c'est seulement là qu'àmha, l'IA pourra devenir dangereuse.
Il me semble que la confusion vient du fait que mmy comprend évolution biologique et lilnes comprend augmentation des capacités intellectuelles.
A moins que j'ai tout faux c'est possible aussi.
Cordialement,

[invité576543]

On peut clairement remarquer que l'intelligence humaine a augmenté durant ces 3 derniers millénaires (connaissant mmy, je sens qu'il va falloir que je définisse "intelligence" )

Je vais surtout râler sur le "clairement". Je ne vois aucun argument clair permettant de dire que l'intelligence humaine a augmenté dans les derniers millénaires. A moins que tu entendes par "intelligence" la somme des connaissances humaines, qui, elles ont clairement augmenté (auquel cas c'est bien un problème de termes).

pourtant il n'y a eu aucune évolution biologique perceptible. Du coup on ne peut qu'appeler ça une évolution technique/culturelle et on peut s'attendre à ce que cela continue pendant quelques temps.

Ce qui est plus proche de ce que j'appelle la somme des connaissances humaines.

Il me semble que la confusion vient du fait que mmy comprend évolution biologique et lilnes comprend augmentation des capacités intellectuelles.

Pour moi (et pas seulement, il y a de nombreuses discussions sur le sujet sur FS et ailleurs), évolution biologique veut dire évolution génétique, i.e., les modifications dans le temps du pool génétique de l'espèce (ici l'espèce humaine).

Il n'y a, à ma connaissance, aucun argument clair laissant penser qu'il y a une modification quelconque du pool génétique humain dans les derniers millénaires qui soit corrélée avec une augmentation des capacités intellectuelles.

Si on peut parler d'augmentation des capacités intellectuelles, il ne s'agit que de l'accès à de plus en plus de connaissances, par accumulation génération après génération. Cela est inclut dans l'évolution culturelle du système humain, évolution des moyens techniques transmis culturellement (par opposition à la transmission génétique liée à la reproduction biologique; la transmission culturelle est faite par l'apprentissage, par la transmission symbolique orale, écrite ou dessinée).

Personnellement, je pense très dangereux, aussi bien scientifiquement qu'éthiquement, de mélanger "augmentation des capacités intellectuelles" et évolution des connaissances et des moyens techniques. Quitte à me répéter, il n'y a pas d'indication claire d'une évolution biologique (i.e., génétique) des capacités intellectuelles: par exemple, il n'y a pas beaucoup de raison de penser qu'un jeune cro-magnon d'il y a 15000 ans qui serait transporté à notre époque et éduqué de manière contemporaine ne puisse pas avoir un prix Nobel (du moins avec autant de "chance" qu'un jeune né à notre époque).

Je sais que ce n'est pas nécessairement ce qu'a voulu dire Sans-Nom, mais le glissement est bien trop facile pour qui lit trop superficiellement.

Cordialement,

[invité576543]

Ca veut dire que les robots pourrait comprendre des choses que nous ne comprenont pas? Si c'est le cas ça représente vraiment un danger si un robot doter d'une IA avancée prendrais conscience de son existence et qu'il peut apprendre tout seul

Quel danger? Peux-tu donner plus de forme à cette appréhension?

Et c'est seulement là qu'àmha, l'IA pourra devenir dangereuse.

Même question!

Il serait intéressant que des scénarios très détaillés soient présentés. Les réflexions du genre des citations ci-dessus sont récurrentes, surtout dans ce fil dont c'est le sujet . Mais c'est assez flou, et dépasse rarement un argument anthropomorphique genre ""ils" vont avoir conscience de leur statut d'esclave et vont se rebeller".

Y-a-t-il moyen de dépasser ce niveau de discussion?

Cordialement,

[GillesH38a]

bonjour de retour apres quelques vacances sans ordinateur (ça fait du bien des fois !)

Je ne comprend pas. L'évolution technique a été énorme dans les 3000 années qui précèdent, et pourtant il n'y a eu, à ce qu'on constate, aucune évolution biologique notable.

l'évolution technologique n'a été "énorme" que pendant les 300 ans qui précèdent, non? il y a eu quelques améliorations en particulier agricoles entre le paysan de la vallée du Nil de -2000 av JC et celui de l'Europe en +1000, mais leurs connaissances techniques et scientifiques etaient comparables, ainsi que leur niveau de vie.

A moins que tu ne cherches à dire qu'il y a une limite à l'évolution technique. Si c'est une limite absolue, cela revient à ton affirmation "c'est impossible".

il y a probablement des problèmes que l'évolution technique n'arrivera jamais à résoudre (c'est un sentiment personnel que je ne peux bien sur pas prouver). Il est amha tres peu probable qu'on puisse un jour voyager plus vite que la lumière, supprimer la gravité ou se rendre invisible à toutes les longueurs d'onde. Je ne vois pas sous quel argument on pourrait défendre la position que le progrès finira par résoudre tous les problèmes (et certainement pas dans le développement technologique actuel qui n'a inventé que CERTAINES choses prévues par les auteurs de SF par exemple).

Il me semble très probable que les limites physiques imposent un cadre aux possibilités techniques. Sans théorie satisfaisante de la nature de l'intelligence, il me semble que la question de la possibilité de "créer techniquement" une intelligence humaine reste ouverte.

Même sans intellgence, les capacités calculatoires des machines sont en train de faire faire un saut aux capacités combinées humains+machines. Par exemple en maths certains théorèmes récemment démontrés n'auraient pas pu l'être à la main, ou des programmes jouent aux échecs mieux que les humains. A mon sens, il y a bien une "auto-évolution" des techniques, au sens où des outils nouveaux permettant la conception et la fabrication d'outils plus puissants, etc.

Mmy, ton souci de rigueur devrait t'interdire d'utiliser quelques exemples limités pour un jugement global : qu'appelles-tu "faire un saut", quel indicateur objectif peux tu utiliser pour cela? pour ce qui est de jouer aux échecs mieux que les humains, il me semble que c'est juste une progression technique relativement régulière, le niveau de jeu d'un champion d'echec etant un niveau assez arbitraire au fond. Ca fait tres longtemps que les ordinateurs jouent mieux aux echecs qu'un joueur moyen, et des le début, ils ont calculé bien mieux que n'importe quel etre humain. En revanche pour la maitrise du langage il n'y a toujours rien de tres satisfaisant.

Les ordinateurs n'ont progressé comme on pouvait s'y attendre que pour resoudre des taches dont on savait des le debut que ce n'etait qu'une question de complexité algorithmique. Pour toutes les taches humaines qu'un humain lui-même ne saurait pas poser de manière algorithmique, l'ordinateur n'a que des performances médiocres.

Cordialement

Gilles

[invité576543]

Salut!

Mmy, ton souci de rigueur devrait t'interdire d'utiliser quelques exemples limités pour un jugement global : qu'appelles-tu "faire un saut", quel indicateur objectif peux tu utiliser pour cela?

Ca fait un peu hors sujet (je trouve plus intéressant que la discussion se recentre sur la notion de danger, qui différentie ce fil de bien d'autres sur le traitement machinique de l'information), mais je perçois un saut qualitatif qui s'inscrit dans une progression technique que l'on peut présenter de différentes manières.

Par exemple, on peut voir une première étape avec l'outil manuel (couteau, scie, marteau, fourchette, tasse, panier, levier, pioche, pelle, ...) comme simple extension des actions possibles avec la motorisation biologique (nos bras!) et le contrôle biologique (notre cerveau). Une deuxième avec l'usage d'un énergie extérieure (animaux, vent, hydro-puissance, feu, puis en deuxième temps moteurs à vapeur, thermique, puis électriques) mais toujours sous le contrôle biologique (de notre cerveau); les outils motorisés portables (perceuse, scie électrique, etc.) ou fixes (robot culinaire) ou auto-mobiles (moissoneuse-batteuse, ou avion dans la première moitié du XXème) sont des illustrations de ce stade. Et une troisième étape qui est celle de l'externalisation du contrôle (électronique, puis ordinateurs): soit partiel (pilotage assisté pour les avions moderne), soit presque total (robot à contrôle autonome).

Dans un plan parallèle, le stockage de l'information a d'abord été biologique (transmission culturelle avec comme seul support la mémoire humaine), puis externalisé sur un simple support passifs (écriture, papier, livres), le traitement de l'information (tri, recherche, indexation, ...) restant biologique, puis avec l'informatique (ordinateur, réseau) le support devient actif, capable non seulement de stockage mais aussi de traitement élémentaire de l'information.

Autre axe: le travail humain était dans le temps essentiellement dans le secteur primaire (agriculture, mines), puis s'est déplacé vers le secondaire (industries), puis vers le tertiaire (manipulation d'idées d'un côté, services de l'autre). Mais l'ordinateur, l'électronique et les télécoms montre un troisième déplacement, plus subtil vers la "manipulation d'idée assistée par les machines". (Les textes de Jean Fourastier, même si maintenant plutôt vieux, décrivent bien ces transitions, du moins, date oblige, les premières.)

Bien sûr toutes ces frontières sont floues, les transitions dyschrones selon les régions du monde, mais il me semble que ces sauts qualitatifs amènent une grille de lecture intéressante de l'évolution technique (et sociale).

Cordialement,

[GillesH38a]

rebjr

pour ce qui est du contrôle, il est indéniable que le contrôle informatisé se développe. Je suis en revanche assez prudent sur la durabilité du phénomène à l'echelle humaine, il me semble très soumis à des circonstances dont la perennité ne me semble pas assurée, en particulier la disponibilité du courant électrique stable !

mais admettons que ce problème n'en soit pas un : si on craint un danger, je ne vois pas trop pourquoi on fabriquerait des machines non pourvues d'un interrupteur "on/off" qui permettrait simplement de les déconnecter si on se met à considérer qu'elles deviennent dangereuses...

notons d'ailleurs que des tas d'inventions dangereuses sont parfaitement tolerées parce qu'on estime que leurs avantages justifient l'acceptation du danger, à tort ou à raison : l'automobile fait quand même 5000 morts par an en France, et en faisait plus du double il y a 30 ans. Que dirait-on si des milliers de gens mouraient chaque année à cause d'un programme informatique, en toute connaissance de cause !

cdt

Gilles

[invitee137b823]

Je vais surtout râler sur le "clairement". Je ne vois aucun argument clair permettant de dire que l'intelligence humaine a augmenté dans les derniers millénaires. A moins que tu entendes par "intelligence" la somme des connaissances humaines, qui, elles ont clairement augmenté (auquel cas c'est bien un problème de termes).

Je voyais plutôt la somme de connaissance qui induit de nouvelles façon de raisonner, une nouvelle ouverture d'esprit et une nouvelle vision du monde. Donc c'est peut-être juste un problème sur le terme "intelligence" finalement.

Pour moi (et pas seulement, il y a de nombreuses discussions sur le sujet sur FS et ailleurs), évolution biologique veut dire évolution génétique

On est d'accord.

Il serait intéressant que des scénarios très détaillés soient présentés. Les réflexions du genre des citations ci-dessus sont récurrentes, surtout dans ce fil dont c'est le sujet . Mais c'est assez flou, et dépasse rarement un argument anthropomorphique genre ""ils" vont avoir conscience de leur statut d'esclave et vont se rebeller".
Y-a-t-il moyen de dépasser ce niveau de discussion?

Je disais uniquement cela dans le sens où ce n'est pas avant d'avoir acquérit une indépendance (donc pas avant bien longtemps) que les machines risqueront de devenir dangereuses pour l'homme. Je n'ai absolument pas affirmé que les machines deviendront dangereuses un jour.