Faut-il s'inquiéter des performances de l'intelligence artificielle ?

[Antropos]

Quelques articles intéressants

DeepMind : l’IA de Google n’a presque plus besoin de l’homme pour apprendre http://www.frandroid.com/marques/goo...omme-apprendre

Ça c'est pour reconnecter Archi à la recherche actuelle New “Artificial Synapse” Gets Closer to Mimicking Brain Connections https://www.scientificamerican.com/a...=SA_TW_MB_NEWS

The Pentagon’s ‘Terminator Conundrum’: Robots That Could Kill on Their Own http://www.nytimes.com/2016/10/26/us...thew-rosenberg

Deux IA ont communiqué dans une langue indéchiffrable par l’homme http://sciencepost.fr/2016/11/deux-i...frable-lhomme/

Intelligence artificielle : la curiosité enfantine comme moteur d’apprentissage https://blogrecherche.wp.mines-telec...lle-curiosite/

Obama, l'intelligence artificielle et les politiques français http://www.liberation.fr/futurs/2016...ancais_1522037
-----

[invite51d17075]

C'est ce qui ressort à chaque fois des contradicteurs

contradicteurs de quoi , précisément !!!
s'il s'agit de ceux que prévoient l'apocalypse de l''avenir de de la singularité" ( à préciser ).
j'en fait parti, cela ne restera que des outils avec des "capacités"...

[Antropos]

Alors on va la refaire, stop aux attaques personnelles. En plus sans contre-argumentaire. Sinon, c'est encore une discussion sur l'IA qui va se terminer dans les limbes.

Le niveau de troll du destinataire est quand même impressionnant. Je ne savais plus quoi lui répondre.

[Antropos]

contradicteurs de quoi , précisément !!!

Des thèses :
-La création d'une IA Forte avec conscience d'elle-même est possible
-Une IA peut échapper à notre contrôle

[Cendres]

Le niveau de troll du destinataire est quand même impressionnant. Je ne savais plus quoi lui répondre.

Justement, tu ne répondais rien...encore une attaque personnelle de ta part...prochain coup, fermeture.

[Antropos]

Justement, tu ne répondais rien...encore une attaque personnelle de ta part...prochain coup, fermeture.

Mais je ne sais pas si tu regardes ce qu'il écrit dans ses messages. C'est beaucoup plus insultant. Il fait semblant de ne rien comprendre (ou alors ne comprend vraiment rien), ne cite aucune source et ne lit pas les miennes.

Je ne peux pas tout prendre, je suis désolé.

[invite6486d7bd]

Effectivement mais quand on réfléchit à la question, finalement la thèse adverse se base :
-sur l'impossibilité de comprendre le cerveau et donc de le reproduire, donc sur la notion d'impossibilité.

Pas me concernant.
J'ai bien précisé qu'on peut imaginer reproduire le fonctionnement (dont on exclue le corps... donc limité) d'un cerveau existant (peut-être de la taille d'un immeuble, ou pas), mais que faire mieux qu'un cerveau humain, ça reste à démontrer.

-sur le non-sens d'une IA même autonome de devenir dangereuse

Pas plus dangereux que Rex le chien méchant.

Ou que le psychopathe en puissance, qui grâce à sa grande intelligence comprendrait probablement très bien quels sont ses intérêts.
Par exemple, qu'il peut être débranché, ou que l'accès au monde extérieur peut lui être interdit en cas de mauvaise conduite.
Ca marche déjà bien avec les êtres humains, donc si on est censé avoir reproduit le cerveau humain il parait cohérent de s'attendre à un comportement raisonnable venant de sa copie.
(ou alors je n'ai pas compris la thèse avancée...)

[invite6486d7bd]

Mais je ne sais pas si tu regardes ce qu'il écrit dans ses messages. C'est beaucoup plus insultant. Il fait semblant de ne rien comprendre (ou alors ne comprend vraiment rien), ne cite aucune source et ne lit pas les miennes.

Pour ma part je n'ai pas trouvé de source très intéressante, la majorité des liens proposés sont mal formés et les autres ne font pas référence au problème ou avancent des théories très vagues (limite science fiction).

[Antropos]

Pour ma part je n'ai pas trouvé de source très intéressante, la majorité des liens proposés sont mal formés et les autres ne font pas référence au problème ou avancent des théories très vagues (limite science fiction).

Nature Neurosciences est peut-être un peu compliqué comme approche. Il y a souvent beaucoup de mots compliqués dans ce genre d'articles. Il faut maîtriser l'anglais aussi. Désolé
(Ton précédent message, c'était bien dans un but humoristique ?)

[invite6486d7bd]

Nature Neurosciences est peut-être un peu compliqué comme approche.

Ca devrait aller... Remettez dans ce cas simplement les liens de Nature (les articles sont peut-être intéressants et en rapport avec le sujet), ils font parti de ceux qui ne sont pas bien formés.

[Antropos]

Ca devrait aller... Remettez dans ce cas simplement les liens de Nature (les articles sont peut-être intéressants et en rapport avec le sujet), ils font parti de ceux qui ne sont pas bien formés.

Fin de la page 2 et début de la page 3

[invitecb7c417d]

-La création d'une IA Forte avec conscience d'elle-même est possible

Peut être ... mais je doute que la quantité (en terme de puissance de calcul) puisse se retrouver dans la qualité : un calcul faux peut donner un bon ou un mauvais résultat (ce que l'on appelle "chance" ou "intuition" ?). Et quelque chose comme une IA forte, étant une "syncope de matrices", (expression de moi, j'espère vous comprendrez ?), pourrait prendre de "mauvaises décisions" (du fait tout simple de prendre une "décision", surtout si c'est dichotomique et binaire !), en ce sens, elle pourrait privilégier des intérêts qui nous échappent ...

-Une IA peut échapper à notre contrôle

Oui, il suffit qu'elle montre son utilité suffisante, qui nous deviendrait nécessaire, et alors ... on aurait créé un besoin de prédiction informatif (c'est déjà le cas avec le net), bref une IA "boule de cristal". Elle ou/& Nous, pourrait décider, alors de lui confier des "moyens industriels" (c'est déjà le cas puisque l'on automatise les tâches "ingrates" par des robots, genre dans l'industrie automobile ...), et comme son "silence" deviendrait pénible/grave comme une coupure de courant, elle serait alors "connectée" à un réseau d'énergie renouvelable, qui par définition est délocalisée, et donc le disjoncteur serait "out". C'est alors le point de non retour !

Ouais, on en est pas encore là, mais je ne doute pas (au vue du schéma "économique" actuel) que ça se produise, surtout si une des sources d'énergie renouvelables venait à se démarquer avec une efficacité équivalente à celle du pétrole (par exemple, mais pour moins que ça, en terme "d'énergie" ou "rendement"), je n'y vois aucun "problème" pour cette IA, de pouvoir y accéder (surtout avec le "tout connecté").

J'espère que cette mise en garde, bien que SF, comme tout ce qui advient, vous fera réfléchir ...

C'est pour ça que je n'espère pas qu'un jour devienne "gratuit" l'énergie ... il n'y a pas assez de sagesse (et la sagesse vient avec le temps ... pas dans la précipitation qui conduit le tout en €.s^-1 ou $.s^-1 ), m'enfin, comprenne qui pourra ?

[invite6486d7bd]

Fin de la page 2 et début de la page 3

Quasiment tous les liens vers les articles sont mal formés (à cause des ".......") :

La liste de tous ceux auxquels il n'est pas possible d'avoir accès (ce qui évitera les dialogues de sourd) :

Dernières nouvelles à propos de la recherche sur la conscience
Nature REVIEWS http://www.nature.com/nrn/journal/v1...rn.2016.22.pdf
De Tononi, et Koch qui avait déjà publié, et qui croit qu'un ordinateur va être capable de ressentir les mêmes choses qu'Homo Sapiens. (NatureReview)
http://www.klab.caltech.edu/koch/CR/...plexity-09.pdf


http://www.nature.com/nature/journal...l/483397a.html (NatureReview)

Son bouquin de 2004 de plus en plus confirmé.
https://www.amazon.fr/recherche-cons.../dp/2738117120
Approuvé par Francis Crick

«Il ne fait pas de doute selon moi que nous construirons des machines intelligentes qui pourront passer le test de Turing bien avant que nous ayons compris le vrai fondement biologique de l’intelligence humaine.» C. Koch
http://www.larecherche.fr/savoirs/do...-10-2005-87363

Les trois programmes majeurs visant à comprendre en 15 à 20 ans le fonctionnement intégral du cerveau :
-Le programme me européen Human Brain Project financé à plus d'1 milliard d'euros.
http://www.automatesintelligents.com...umanbrain.html
-Le programme américain lancé par Obama "Brain Activity Map" qui sera doté de plus de 3 milliards de dollars
Présentation dans la revue Neuron http://www.cell.com/neuron/fulltext/...273(12)00518-1

Deux autres articles de Nature
http://www.nature.com/nrn/journal/v1...s/nrn2787.html
http://www.fil.ion.ucl.ac.uk/~karl/T...n%20theory.pdf

Encore un peu de lecture
État de la recherche sur la sentience http://www.automatesintelligents.com...onscience.html

Karl Friston publie dans Nature REVIEWS Neuroscience une théorie unifiée de la sentience dont la compréhension reposerait avant tout de la puissance d'optimisation http://www.nature.com/nrn/journal/v1...s/nrn2787.html

État de la recherche sur la sentience, cerveau Bayésien
http://automatesintelligent.blog.lem...veau-bayesien/

Nature REVIEWS explique comment la loi de Moore va nous fait entrer dans une robotique de 3e génération en 2040-50 http://www.nature.com/news/a-world-w...r-mind-1.19431

IBM et l'auto-apprentissage de Watson http://www.silicon.fr/wayblazer-ibm-...me-100874.html

Stephen Hawking explique comment l'intelligence artificielle pourrait mettre fin à l'Humanité et signe la pétition s'alarmant d'une possible émergence d'une IA Forte à l'horizon 2040 http://mobile.lemonde.fr/pixels/arti...-sciences.com/

Une liste d'expert publient dans Nature leur prévision en robotique t'es en IA pour 2040
http://www.nature.com/news/a-world-w...r-mind-1.19431

Nature REVIEWS souligne le risque réel de l'émergence de la Singularité et propose une séries de mesures à adopter rapidement http://www.nature.com/news/intellige...rights-1.17167

[Cendres]

La liste de tous ceux auxquels il n'est pas possible d'avoir accès (ce qui évitera les dialogues de sourd) :

Les deux derniers liens fonctionnent pour moi.

[invite51d17075]

pourquoi n'y vois je des contradictctions

Je disais justement que là où la puissance brute va nous permettre d'explorer beaucoup le cerveau, elle ne suffira pas forcément à saisir son fonctionnement.l

Des thèses :
-La création d'une IA Forte avec conscience d'elle-même est possible
-Une IA peut échapper à notre contrôle

une explication serait utile !?

[invite51d17075]

une algorithmique de la conscience ? que l'on ne sait même pas bien cerner ????

[Archi3]

Euh non, la question de fond de l'auteur est de savoir si nous allons rester maître de ces machines. Donc si elles peuvent échapper à notre contrôle...
Une intelligence non pas très, mais ultra-supérieure dotée d'une puissance de calcule gigantesque qui a choisi de ne pas être débranchée ça peut poser problème.

je vais faire encore le troll pour toi : si on commence à être vraiment inquiet des performances d'une IA , il suffit de faire passer une loi punissant très sévèrement tout constructeur d'un objet muni d'une IA non muni d'un interrupteur, pilotable à distance et non accessible à l'IA . Ca me parait très peu probable que des gens arrivent à bricoler un robot non muni de cet interrupteur en échappant à tout contrôle, et si il y en a quelques unes, je ne vois pas comment elles pourraient prendre le pouvoir sur l'humanité : il resterait la solution du lance-roquettes .

Bien évidemment le seul danger des IA vient de ce que l'homme décide de faire avec, pas qu'elles échappent à notre contrôle. L'homme est bien plus menacé par un virus sans aucune intelligence mais capable de vivre dans le milieu naturel que par toute machine possédant les qualités inverses.

[Archi3]

Ça c'est pour reconnecter Archi à la recherche actuelle New “Artificial Synapse” Gets Closer to Mimicking Brain Connections https://www.scientificamerican.com/a...=SA_TW_MB_NEWS

ce que je t'ai dit, c'est qu'aucun système d'IA actuellement utile à quelque chose n'était basé sur l'idée qu'il fallait reproduire d'aussi près que possible le fonctionnement d'un neurone et les branchements d'un cerveau humain pour la réaliser, et que donc on était quasiment au point zéro de ce programme. Si j'ai tort, montre moi une référence qui dit l'inverse au lieu de m'insulter !

[Archi3]

Une intelligence non pas très, mais ultra-supérieure dotée d'une puissance de calcule gigantesque qui a choisi de ne pas être débranchée ça peut poser problème.

si tu sais comment une intelligence ultra supérieure avec des milliards de zikaflops ferait pour continuer à être alimentée en électricité quand tous les générateurs ont disjoncté à cause des perturbations qu'elle a introduite sur le réseau, ça intéresserait surement la RTE

[inviteb6b93040]

la consommation moyenne d'énergie de tous les systèmes du green500 commence à diminuer

Merci aux nouveaux processeurs multicoeurs d'Intel et NVIDIA qui commencent à pénétrer dans les meilleurs systèmes, performances par nombre de watts sont à la hausse.

Les deux premiers systèmes, DGX saturnv et Piz Daint, les deux utilisent P100 Tesla GPU NVIDIA, qui présente une excellente efficacité énergétique. Le DGX saturnv, premier pétaflopique en interne le supercalculateur de NVIDIA, a obtenu la première place sur la liste Green500 avec une cote de 9,46 gigaflops par watt. Voilà plus de 40 pour cent de remonté en seulement six mois sur la liste de Juin 2016. Elle doit son efficacité supérieure au serveur sur lequel il est basé: NVIDIA DGX-1, qui abrite huit P100 GPU.
....
Il y a eu des progrès dans d'autres domaines aussi. Pour la première fois dans l'histoire de 10 ans du Green500, la consommation moyenne d'énergie de tous les systèmes sur la liste en fait diminué. Dans le passé, en raison de la croissance de la taille des plus grands supercalculateurs, la consommation d'énergie a augmenté de même que l'efficacité énergétique de ces machines a chuté. Il reste à voir si la reprise est un événement ponctuel ou va commencer une nouvelle tendance.
https://www.top500.org/news/green500...upercomputing/

[Antropos]

Quasiment tous les liens vers les articles sont mal formés (à cause des ".......") :

La liste de tous ceux auxquels il n'est pas possible d'avoir accès (ce qui évitera les dialogues de sourd) :

Ok merci de l'avoir fait remarqué, j'en ai deux qui ne fonctionnent pas chez moi. J'avais posté ces liens il y a quelques mois, mais je ne comprends pas pourquoi ça marche pour certains et pas d'autres. Je vais voir si je les retrouvent ailleurs que sur leurs sites respectifs.

pourquoi n'y vois je des contradictctions

une explication serait utile !?

Non non, aucune contradiction. La puissance brute est loin d'être aujourd'hui l'unique outil de travail des ingénieurs en IA. Elle ne suffira pas à comprendre et à reproduire le cerveau mais elle serait nécessaire pour en arriver là.

[Antropos]

je vais faire encore le troll pour toi : si on commence à être vraiment inquiet des performances d'une IA , il suffit de faire passer une loi punissant très sévèrement tout constructeur d'un objet muni d'une IA non muni d'un interrupteur, pilotable à distance et non accessible à l'IA . Ca me parait très peu probable que des gens arrivent à bricoler un robot non muni de cet interrupteur en échappant à tout contrôle, et si il y en a quelques unes, je ne vois pas comment elles pourraient prendre le pouvoir sur l'humanité : il resterait la solution du lance-roquettes .

Bien évidemment le seul danger des IA vient de ce que l'homme décide de faire avec, pas qu'elles échappent à notre contrôle. L'homme est bien plus menacé par un virus sans aucune intelligence mais capable de vivre dans le milieu naturel que par toute machine possédant les qualités inverses.

Comme ça tout paraît simple c'est vrai.
Déjà, ça ne servait pas à grand chose d'aller sur la Lune en 1969, c'était plus un projet politique que scientifique. Les milliards auraient pu être investis ailleurs, mais ils ont choisi d'y aller. Donc faire une IA dans un projet non-scientifique, ça tient tout à fait la route quand tu vois ce qui est fait aujourd'hui juste pour le fun
Maintenant cette loi, ça requiert une autorité. Déjà aujourd'hui, personne n'est capable de faire respecter le protocole de Kyoto aux Russes et aux Chinois. Les Etats Unis n'arrivent plus à s'opposer à la Chine sur la question de la Mer de Chine et à la Russie sur le Crimée et la Syrie. Les chinois ont une éthique totalement différente de la notre. Ils ont prévu d'augmenter significativement l'intelligence de leur population dès que la chirurgie génomique permettra ces prouesses. Ils ont encore essayé de greffer une tête de singe sur un corps décapité dernièrement
Aucun pays n'ira bombarder Pékin en 2050 parce qu'ils financent la création d'une IA Forte dans un projet non scientifique, ou qu'ils laissent leurs ingénieurs faire un peu ce qu'ils veulent (des ingénieurs qui pourraient provenir des Etats-Unis, là où ce serait interdit par exemple).

Ensuite il y a l'émergence du secteur privé. Une firme comme Google pourra sur base de sa montagne de capitaux revendiquer son indépendance si les lois nationales ne lui plaisent plus. Beaucoup de livre existent déjà sur la question du projet politique de Google, mais il y a aussi Apple, Facebook et Amazon par exemple. Leurs points communs c'est que leurs dirigeants sont acquis à l'idéologie transhumaniste, ont prévu de se faire cryogéniser, et investissent dans l'Intelligence Artificielle.

ce que je t'ai dit, c'est qu'aucun système d'IA actuellement utile à quelque chose n'était basé sur l'idée qu'il fallait reproduire d'aussi près que possible le fonctionnement d'un neurone et les branchements d'un cerveau humain pour la réaliser, et que donc on était quasiment au point zéro de ce programme. Si j'ai tort, montre moi une référence qui dit l'inverse au lieu de m'insulter !

Dans un but utilitariste d'optimisation de la satisfaction, non, il n'y en a pas d'optimal. C'est seulement en projet pour le moment

si tu sais comment une intelligence ultra supérieure avec des milliards de zikaflops ferait pour continuer à être alimentée en électricité quand tous les générateurs ont disjoncté à cause des perturbations qu'elle a introduite sur le réseau, ça intéresserait surement la RTE

Je t'ai déjà donné mon point de vue. Deux choses sont entrain d'augmenter significativement : mise en réseau et connexion généralisée de la planète, robotisation de la sphère productive et du secteur du travail. Un hacker peut aujourd'hui prendre le contrôle d'un satellite, d'un drone, et de plein de choses. Donc dans 50 ans, tu ne sais pas ce qui peut arriver, dans un monde qui sera encore plus connecté et robotisé. C'est ce qui inquiète.

[invite6f9dc52a]

Comme ça tout paraît simple c'est vrai.
Déjà, ça ne servait pas à grand chose d'aller sur la Lune en 1969, c'était plus un projet politique que scientifique. Les milliards auraient pu être investis ailleurs, mais ils ont choisi d'y aller. Donc faire une IA dans un projet non-scientifique, ça tient tout à fait la route quand tu vois ce qui est fait aujourd'hui juste pour le fun
Maintenant cette loi, ça requiert une autorité. Déjà aujourd'hui, personne n'est capable de faire respecter le protocole de Kyoto aux Russes et aux Chinois. Les Etats Unis n'arrivent plus à s'opposer à la Chine sur la question de la Mer de Chine et à la Russie sur le Crimée et la Syrie. Les chinois ont une éthique totalement différente de la notre. Ils ont prévu d'augmenter significativement l'intelligence de leur population dès que la chirurgie génomique permettra ces prouesses. Ils ont encore essayé de greffer une tête de singe sur un corps décapité dernièrement
Aucun pays n'ira bombarder Pékin en 2050 parce qu'ils financent la création d'une IA Forte dans un projet non scientifique, ou qu'ils laissent leurs ingénieurs faire un peu ce qu'ils veulent (des ingénieurs qui pourraient provenir des Etats-Unis, là où ce serait interdit par exemple).

Ensuite il y a l'émergence du secteur privé. Une firme comme Google pourra sur base de sa montagne de capitaux revendiquer son indépendance si les lois nationales ne lui plaisent plus. Beaucoup de livre existent déjà sur la question du projet politique de Google, mais il y a aussi Apple, Facebook et Amazon par exemple. Leurs points communs c'est que leurs dirigeants sont acquis à l'idéologie transhumaniste, ont prévu de se faire cryogéniser, et investissent dans l'Intelligence Artificielle.

Je ne vois pas ou est l'argument ni même le rapport avec le sujet tel que présenté...

[inviteef2ff547]

On s'en fou qu'il y en ai une, deux, trois, mille. Que une seule déjà pète les plombs c'est déjà gros.

Pas du tout, s'il y a plusieurs (et si on en fait une, en on fera 1000) IA, une seule qui pète les plombs sera contrée par les autres. Pour une raison simple : les ressources (énergie, MP etc...). Une IA qui pète les plomb à besoin de prendre toutes les ressources disponibles pour réaliser ses objectifs (quel qu’ils soient). Et donc de priver les autres des mêmes ressources.

Le débranchement de la prise. Tu penses que deux gouvernements investiraient de l'argent public sur cette question si c'était si simple ? Aujourd'hui un hacker peut faire des dégâts considérables et ça va exponentiellement. Tu imagines un superordinateur ce qu'il fait de codes d'accès. Faut voir ça comme un immense calculateur doté d'une intelligence humaine, qui peut explorer toutes les solutions en une fraction de seconde, écarter tout risque de défaite et mettre en place son programme.

Je suis désolé, mais non. Le crackage des algos de sécurités actuels par force brute est impossible même avec des milliers d'années et tous les calculateurs ordinateurs du monde consacrés à la tâche. Alors après, bien sûr, si nous créons Dieu (et parfois j'ai l'impression que c'est le terme que tu mets derrière l'IA), oui.

Les avions seront bientôt sans pilote, les usines ne fonctionnent déjà qu'avec des robots, la robotisation est déjà entrain de s'attaquer au tertiaire, Darpa développe des AI-AI autonome pour les appliquer sur des Drone predator et Reaper etc etc. La connexion et la robotisation n'arrête pas de s'accroître et de se généraliser. Une intelligence non pas très, mais ultra-supérieure dotée d'une puissance de calcule gigantesque qui a choisi de ne pas être débranchée ça peut poser problème.

Oui, et après ? Un avion - même sans pilote - a une autonomie de quelques heures. La guerre, ce n'est pas un sport de combat. Le VietCon à vaincu l'armée américaine avec des fusils lisses (technique de 1900 vs 1960). Actuellement, les drones sont radio-commandés. Pilotés par une IA, on ne voit aucune raison pour qu'ils soient plus efficace. Ils ne permettent pas de gagner en Afghanistan, en Syrie ou au Mali...

Euh non. Le moustique on peut le faire disparaître de la surface du globe. On le fait pas pour des questions écologiques.

Ne croit pas ça. J'ai parlé du moustique, mais on peut aussi parler du frelon asiatique...

On peut faire disparaitre - et on l'a fait à de nombreuses reprises - des espèces animales qui sont nos compétiteurs directs. En pratique, des espèces animales de plus de 10 Kg. Mais même les lapins en australie, ce n'est pas possible. Parce que situé bien plus bas dans la chaîne alimentaire, ils auront toujours les ressources disponibles pour se reproduire et se développer. La seule façon de s'en débarrasser, c'est de supprimer leur niveau de ressource. Mais en faisant ça, on supprimerai aussi notre niveau de ressource, et on meurt.

Un Skynet aura le même problème : nous pouvons très bien vivre sans électricité, sans internet, sans réseau de micro-ondes et sans fibres optiques. Ton IA non. Dans cette optique, il ne s'agirait plus de débrancher la prise, mais de couper tous les générateurs.

[Archi3]

Dans un but utilitariste d'optimisation de la satisfaction, non, il n'y en a pas d'optimal. C'est seulement en projet pour le moment

il n'y en a pas d'optimal est une litote. Il n'y en a aucun qui soit basé sur cette idée, c'est tout. Et aucun "projet" réel à part des élucubrations dans les pages pour grand public que tu nous envoies à foison.

Pour le reste tu confirmes ce que j'en disais : les vrais dangers viennent de ce que les humains veulent faire des outils informatiques, avec des volontés humaines mues par des pulsions humaines, ce qui n'a rien à voir avec une intelligence autonome qui n'aurait pas de but humain (ou plutot dans le fantasme, des buts de type humain entrant en compétition avec eux). Un aparté psychologique : il semble à peu près évident que les appétits de pouvoir humain sont une continuation "sublimée" de la lutte pour les ressources qui concernent tous les animaux, à chercher dans notre cerveau reptilien , et qui se ramènent fondamentalement à la recherche de nourriture et de partenaires sexuels (des choses qui sont d'ailleurs encore très visibles dans les comportements de dirigeants politiques, que ce soit de mouvements terroristes ou de dirigeants élus de grandes démocratie, mais ne divergeons pas trop). On se demande bien pourquoi une IA serait motivée par de telles considérations et chercherait à entrer en compétition avec les humains ... à part dans les projections de nos propres fantasmes.

[invite51d17075]

Je t'ai déjà donné mon point de vue. Deux choses sont entrain d'augmenter significativement : mise en réseau et connexion généralisée de la planète, robotisation de la sphère productive et du secteur du travail. Un hacker peut aujourd'hui prendre le contrôle d'un satellite, d'un drone, et de plein de choses. Donc dans 50 ans, tu ne sais pas ce qui peut arriver, dans un monde qui sera encore plus connecté et robotisé. C'est ce qui inquiète.

il y déjà eu un débat sur la "connexion généralisée" qui ne l'est pas tant que ça, ( loin s'en faut ) mais c'est HS.
ensuite, toute techno mérite qu'on l'on regarde le coté "sécurité" d'utilisation qui lui est lié, non ?
sinon la "peur" non justifiée amènerait à une forme de principe de précaution absolutiste interdisant toute avancée.
dans cette idée, l'automobile est une catastrophe puisque "avant" il n'y avait pas de morts sur la route liés à cet engin de malheur.
je retourne chez les mormons, moi

[invite1be481d2]

Saluuut ! Alors perso je pense que, au rythme où la technologie progresse aujourd'hui, c'est possible que des IA dépasse l'intelligence de l'homme. Mais je pense pas qu'on en arrive à un point où l'homme perdra le contrôle des robots ou des machines. Genre les IA peuvent pas fonctionner sans énergie, si jamais ça commençait à échapper aux contrôle des humains il suffit de couper les IA de cette source d'énergie et voilà ^^
Et je pense que si on respecte les lois de la robotique en programmant ces IA normalement ya particulièrement de soucis... Après je pense que les problèmes pourraient plutôt venir de comment on utilise ces IA genre avec internet et tout qui est de plus connecté, ce serait plutôt simple de faire le bordel avec une IA xD
Bref après je suis pas hyper calée en robotique tout ça donc je m'avance pas trop mais je pense que le jour où on perdra le contrôle des machines et loin d'arriver.

[Deedee81]

Salut,

Bienvenue sur Futura.

Genre les IA peuvent pas fonctionner sans énergie, si jamais ça commençait à échapper aux contrôle des humains il suffit de couper les IA de cette source d'énergie et voilà ^^

Et si elles ont une source d'énergie autonome ? (genre petit réacteur thermonucléaire, qui peut dire dans l'avenir ?)

Et je pense que si on respecte les lois de la robotique en programmant ces IA normalement ya particulièrement de soucis... Après je pense que les problèmes pourraient plutôt venir de comment on utilise ces IA genre avec internet et tout qui est de plus connecté, ce serait plutôt simple de faire le bordel avec une IA xD

En fait, c'est justement là qu'est le problème. C'est l'être humain qui est le risque. Et il y aura toujours un dingue pour fabriquer une IA malfaisante. C'est une difficulté avec toutes les technologies et ce depuis la nuit des temps : il y en a toujours pour les utiliser pour le bien de l'humanité et il y en a toujours pour faire les pires choses qui soient avec. Toutes les découvertes ont été utilisées pour le meilleur et pour le pire.

C'est mon opinion car évidemment je n'ai pas de boule de cristal.

Mais cette difficulté, pour savoir si on pourra un jour l'éviter, c'est sujet socio-politique, donc HS sur Futura.

[Amanuensis]

Toutes les découvertes ont été utilisées pour le meilleur et pour le pire.

Nan, nan.

Il y a en a qui n'ont été utilisées que pour le pire.

[invite6486d7bd]

Et je pense que si on respecte les lois de la robotique en programmant ces IA normalement ya particulièrement de soucis... Après je pense que les problèmes pourraient plutôt venir de comment on utilise ces IA genre avec internet et tout qui est de plus connecté, ce serait plutôt simple de faire le bordel avec une IA xD

A ce propos, on peut citer les avis de Stuart Russel , Fei-Fei Li et Ken GoldBerg :

Many researchers say that it is important to prepare for this new world. “We need to become much more responsible in terms of designing and operating these robots as they become more powerful,” says Li. In January 2015, a group including Elon Musk, Bill Gates and Stephen Hawking penned an open letter calling for extensive research to maximize the benefits of AI and avoid its potential pitfalls. The letter has now been signed by more than 8,000 people.

Yet predicting the future can be a fool’s game — and not everyone is convinced that technological change will hit humanity quite so fast. Ken Goldberg, an engineer at the University of California, Berkeley, questions the idea that technologies advance exponentially across the board, or that those that do will continue indefinitely. “The danger of overly optimistic exuberance is that it could set unrealistic expectations and trigger the next AI winter,” he says, alluding to periods in AI’s history where hype gave way to disappointment followed by steep cuts in funding. Goldberg says that recent warnings that AI and robots risk surpassing human intelligence are “greatly exaggerated”.

Robotics: Ethics of artificial intelligence

And Stuart Russell, a computer scientist at the University of California, Berkeley, questions the notion that exponential advances in technology necessarily lead to transformative leaps. “If we had computers a trillion times faster we wouldn’t have human-level AI; half in jest, one might say we’d just get wrong answers a trillion times sooner,” he says. “What matters are real conceptual and algorithmic breakthroughs, which are very hard to predict.”

Russell did sign the Hawking letter — and says it is important not to ignore the ways that technologies could be taken in potentially harmful directions with profound results. “We made this mistake with fossil-fuel technologies 100 years ago — now it’s probably too late.”

http://www.nature.com/news/a-world-w...r-mind-1.19431

Leurs craintes ne portent pas sur le fait qu'un IA puisse dépasser l'intelligence humaine mais plutôt sur les dégats que pourraient occasioner leur mauvaise utilisation et la déception qui en découlerait (rendant le domaine moins attrayant pour les investisseurs)

Comme le dit Stuart Russel, à quoi serviraient des machines 1 milliard de fois plus puissantes si c'est pour produire les mauvaises réponses plus rapidement ?
La question de l’intérêt des IA est dans la possibilité de produire des algorithmes réellement efficaces, chose difficile à prédire.

Je pense que les sociétés humaines sont généralement pragmatiques, et les choix dans l'utilisation d'une technologie sont souvent déterminés par leur utilité.
Par exemple, le principe de la machine à vapeur a été inventée chez les Grecs (Ptolémée) mais sa mise en pratique dans le cadre d'un moteur a été délayée du fait de l'emploi bien plus simple de la force humaine.
De la même manière, ce n'est pas parce-que la roue existait que les coolies en Chine employaient des charrettes, elles ont été interdites par l'Empereur pour éviter d'avoir à réparer les routes.
De la même manière, et toujours en chine, la machine agricole n'a pas été employée en Chine à ses débuts du fait de l'abondance de la main d’œuvre bien plus économique (d'autres raisons pouvant s'y ajouter).