De quelle façon l'intelligence artificielle va-t-elle s’immiscer dans notre société ?

[invite982dd8e4]

Il suffit de ne pas lui donner de bras.

Le bras elle se le fabriquera.
-----

[invite6c250b59]

Selon une theorie, l'IA est tellement puissante qu'elle pourrait s'invoquer elle-meme avant meme d'avoir ete cree. Elle transformerait alors l'univers en un lieu bizarre maximisant chaos, souffrance et misere humaine. Selon une autre theorie, c'est deja arrive.

[inviteef2ff547]

60% de la population chinoise est favorable à l'intervention de la thérapie génique pour augmenter le QI, quand ce sera opérationnel

Mais moi aussi je suis favorable à une intervention de la thérapie génétique pour 'améliorer' mon enfant. Mais entre le QI, une vie sans cancer ou une longévité accrue (par exemple), mon choix n'est pas fait.

L'augmentation du QI est une nécessité face à l'IA…

La par contre…
Aucun humain, même incroyablement augmenté n'a plus la moindre de chance de remporter une partie de Go ou d'échec. Tout comme aucun cheval ne peut espérer battre à la course une voiture.
Si les IA Globales voient le jour, nous serons dans cette situation sur toutes les tâches intellectuelles. Et pour en rester à l'image des chevaux, un pur-sang ou un cheval de labour est tout aussi déclassé par rapport à une twingo que la plus vieille des carnes.
Donc le gros QI, pour rester dans la course à la quelle participera les IA, je ne pense pas que cela soit un vrai avantage compétitif.

et pour rester utile dans un monde de plus en plus technicisé où le travail est de plus en plus déplacé vers des activités de commandement. Ceux qui ne voudront pas le faire n'auront plus leur place dans ce monde, aussi choquante que puisse être cette idée qui ne m'enchante pas nécessairement.

Juste un point, le coût de survie d'un homme c'est 2$ par jour. C'est avec ça qu'on vécu 98% de la population jusqu'au XVIII° siècle et que vivent encore aujourd'hui plus d'1 milliard d'humains.
2$, c'est aussi 20 KWh. Pas sûr du tout que de ce point de vu nous ne soyons pas compétitif avec une IA… Bien sûr, ce n'est pas mon scénario favori, mais à minima, nous aurons toujours notre place dans l'écosystème au même titre que les moustiques…
Mais si vraiment toutes les tâches d'exécutions sont automatisées, notre rapport au travail sera profondément modifié et nous deviendrons tous des retraités.

[invitec830472d]

Mais moi aussi je suis favorable à une intervention de la thérapie génétique pour 'améliorer' mon enfant. Mais entre le QI, une vie sans cancer ou une longévité accrue (par exemple), mon choix n'est pas fait.

Et pourquoi ne pas tout avoir à la fois ? Pourquoi voulez-vous qu'on soit forcé de choisir, comme au restaurant ?

Aucun humain, même incroyablement augmenté n'a plus la moindre de chance de remporter une partie de Go ou d'échec. Tout comme aucun cheval ne peut espérer battre à la course une voiture.
Si les IA Globales voient le jour, nous serons dans cette situation sur toutes les tâches intellectuelles. Et pour en rester à l'image des chevaux, un pur-sang ou un cheval de labour est tout aussi déclassé par rapport à une twingo que la plus vieille des carnes.
Donc le gros QI, pour rester dans la course à la quelle participera les IA, je ne pense pas que cela soit un vrai avantage compétitif.

Ce sera un avantage compétitif tant que l'IA sera sous le contrôle des humains.

[Antropos]

déjà, il faudrait qu'on me montre une IA "intelligente", et pour l'instant , on en voit pas le bout de la queue.
( je connais des abrutis très forts aux échecs )
quand au reste, on peut aussi imaginer des scénarii positifs , comme celui de nous libérer progressivement du temps de travail.
il n'y a pas que les activités purement professionnelles qui nous permettent de nous épanouir.
donc, tout cela peut engendrer des chgt sociétaux, sans pour autant qu'ils soient tous négatifs.

Le progrès informatique et neuroscientifique va dans ce sens. L'émergence de la Singularité, qui serait rendue possible par le combo informatique+neurosciences est un programme de Google notamment. Et pour le moment Google est la référence en matière d'IA.

Pièce jointe 369343

Non, "on" ne sait rien de tel. Affirmer tranquillement un truc pareil c'est ne rien connaitre aux surprises qu'on a eues ( et qu'on a régulièrement) quand on utilise des techniques nouvelles, surprises qui peuvent apparaitre plusieurs dizaines d'années après.
Donc non "on" ne sait rien.

Les spécialistes (Bostrom, Alexandre, les chercheurs de Google, Darpa, Musk et même des personnages comme Heidegger) ont un autre avis que vous sur cette question. Et en l'occurrence, ce sont soit des spécialistes directs, soit des individus à cognition élevée qui ont des connaissances solides sur le domaine.

Ils ne se laissent pas dissuader par un dogmatisme qui consiste à ne jamais rien accepter, prospecter, spéculer, tant que cela n'a pas été soumis à l'hypothético-déduction. On pensait également à grande majorité en 1990 que le génome ne serait jamais séquençable et des tas de truc du même genre.

Il est non-scientifique de faire des affirmations infondées et non prouvées expérimentalement certes. Mais cela n'empêche pas de pouvoir faire des prospectives sur un domaine, dont on voit que depuis un moment, il y a une certaine logique évolutive (cf mon schéma ci-dessus). Je ne sais pas si vous suivez l'actualité en IA et en thérapie génique, mais depuis les années 1990 ont a fait un bond de plusieurs kilomètres dans ces disciplines et ce progrès est en parti lié à la loi de moore qui assiste les chercheurs et qui continue de progresser.

En 2017, une équipe de médecins européens est parvenue à remplacer 80 % de l’épiderme de douze patients atteints d’épidermolyse bulleuse grâce à la thérapie génique.

Il existe déjà des bébés qui se font sur carte dans des cliniques aux Etats-Unis où l'on peut choisir la couleur des cheveux, des yeux, la musculature et d'autres caractéristiques, par "thérapie" génique. C'est un business en essor.

L'intelligence cognitive et la puissance de calcul ont une importante part génétique. On fait déjà de la thérapie génique, il n'y a pas grande raison logique qu'on ne puisse pas intervenir sur les gènes liés à la cognition. Sans parler des futurs implants que certains ont déjà prévu de s'implanter dans le cerveau.

Il y aura toujours des complications, mais on arrivera, avec le temps et la technique, à les résoudre, c'est ainsi que les choses se passent depuis dix millions d'années.

[Antropos]

Mais moi aussi je suis favorable à une intervention de la thérapie génétique pour 'améliorer' mon enfant. Mais entre le QI, une vie sans cancer ou une longévité accrue (par exemple), mon choix n'est pas fait.

Ce sont les chinois qui décideront à notre place. Et si 1 milliard de personne se retrouvent avec des QI de +200 on aura sans doute intérêt à faire pareil pour éviter d'être subjugué.

La par contre…
Aucun humain, même incroyablement augmenté n'a plus la moindre de chance de remporter une partie de Go ou d'échec. Tout comme aucun cheval ne peut espérer battre à la course une voiture.
Si les IA Globales voient le jour, nous serons dans cette situation sur toutes les tâches intellectuelles. Et pour en rester à l'image des chevaux, un pur-sang ou un cheval de labour est tout aussi déclassé par rapport à une twingo que la plus vieille des carnes.
Donc le gros QI, pour rester dans la course à la quelle participera les IA, je ne pense pas que cela soit un vrai avantage compétitif.

Pour l'instant aucun humain n'a été augmenté en intelligence. Si c'était possible, on pourrait rivaliser avec l'IA (avec une puissance de calcul identique). Le principe de cette théorie promue par Mus, est qu'il faut arriver à une égalisation de la puissance de calcul entre l'humain et l'ordinateur, pour éviter que l'ordinateur, quand il sera capable d'être conscient, ou qu'il sera proche de ce stade, n'entourloupe le maître. D'où la promulgation d'un interface homme-machine.

Je conçois qu'il n'y a plus rien "d'humain" à ce stade, mais c'est vers là que l'on se dirige.
Quand on choisi la voie de la technique toute puissante, il faut aller jusqu'au bout du délire.

Juste un point, le coût de survie d'un homme c'est 2$ par jour. C'est avec ça qu'on vécu 98% de la population jusqu'au XVIII° siècle et que vivent encore aujourd'hui plus d'1 milliard d'humains.
2$, c'est aussi 20 KWh. Pas sûr du tout que de ce point de vu nous ne soyons pas compétitif avec une IA… Bien sûr, ce n'est pas mon scénario favori, mais à minima, nous aurons toujours notre place dans l'écosystème au même titre que les moustiques…
Mais si vraiment toutes les tâches d'exécutions sont automatisées, notre rapport au travail sera profondément modifié et nous deviendrons tous des retraités.

En l'occurrence je disais que si certains décident de s'augmenter, tout le monde devra faire pareil pour éviter de laisser à une minorité le soin de diriger une majorité.
L'inégalité de l'intelligence est un phénomène qui commence enfin à être reconnu. Les plus intelligents s'en sortent mieux que les moins intelligents.

[mh34]

Les spécialistes (Bostrom, Alexandre, les chercheurs de Google, Darpa, Musk et même des personnages comme Heidegger) ont un autre avis que vous sur cette question. Et en l'occurrence, ce sont soit des spécialistes directs, soit des individus à cognition élevée qui ont des connaissances solides sur le domaine.

Ils ne se laissent pas dissuader par un dogmatisme qui consiste à ne jamais rien accepter, prospecter, spéculer, tant que cela n'a pas été soumis à l'hypothético-déduction. On pensait également à grande majorité en 1990 que le génome ne serait jamais séquençable et des tas de truc du même genre.

Il est non-scientifique de faire des affirmations infondées et non prouvées expérimentalement certes. Mais cela n'empêche pas de pouvoir faire des prospectives sur un domaine, dont on voit que depuis un moment, il y a une certaine logique évolutive (cf mon schéma ci-dessus). Je ne sais pas si vous suivez l'actualité en IA et en thérapie génique, mais depuis les années 1990 ont a fait un bond de plusieurs kilomètres dans ces disciplines et ce progrès est en parti lié à la loi de moore qui assiste les chercheurs et qui continue de progresser.

En 2017, une équipe de médecins européens est parvenue à remplacer 80 % de l’épiderme de douze patients atteints d’épidermolyse bulleuse grâce à la thérapie génique.

Il existe déjà des bébés qui se font sur carte dans des cliniques aux Etats-Unis où l'on peut choisir la couleur des cheveux, des yeux, la musculature et d'autres caractéristiques, par "thérapie" génique. C'est un business en essor.

L'intelligence cognitive et la puissance de calcul ont une importante part génétique. On fait déjà de la thérapie génique, il n'y a pas grande raison logique qu'on ne puisse pas intervenir sur les gènes liés à la cognition. Sans parler des futurs implants que certains ont déjà prévu de s'implanter dans le cerveau.

Il y aura toujours des complications, mais on arrivera, avec le temps et la technique, à les résoudre, c'est ainsi que les choses se passent depuis dix millions d'années.

Non mais vous avez raison ça ne fait aucun doute.

Bon, pour ma part j'en reste là définitivement de ce sujet.

[pm42]

Non mais vous avez raison ça ne fait aucune doute.

En fait, tout le monde a raison sur ce fil : il suffit d'affirmer des trucs sur un ton n'autorisant pas la réplique, sans rapport avec le sujet et de les répéter ou recopier...

Vivement l'IA forte parce qu'on pourra peut-être avoir des discussions d'un niveau correct avec.

[invite6c250b59]

Les spécialistes (Bostrom, Alexandre, les chercheurs de Google, Darpa, Musk et même des personnages comme Heidegger) ont un autre avis que vous sur cette question.

Je ne pense pas que "les chercheurs de google" ou "darpa", whatever that means, soient homogenes sur cette question, ni que ceux que tu nommes se considerent comme des specialistes en IA. Si tu ecoutes Bengio (Yoshua) ou LeCun, le son de cloche est d'ailleurs tres different de ce que tu en dis -voir franchement agace.

C'est bien gentil de pontifier qu'Il est non scientifique de faire des affirmations non fondees, mais mieux vaut balayer son propre discours avant...

[Antropos]

Je ne pense pas que "les chercheurs de google" ou "darpa", whatever that means, soient homogenes sur cette question, ni que ceux que tu nommes se considerent comme des specialistes en IA. Si tu ecoutes Bengio (Yoshua) ou LeCun, le son de cloche est d'ailleurs tres different de ce que tu en dis -voir franchement agace.

C'est bien gentil de pontifier qu'Il est non scientifique de faire des affirmations non fondees, mais mieux vaut balayer son propre discours avant...

Il faut juste que je retrouve les articles. Je vais le faire et les poster.

[Antropos]

Sous la main pour commencer, un article de .. Futurascience

https://www.futura-sciences.com/sant...ligente-59469/

[mtheory]

Les spécialistes (Bostrom, Alexandre, les chercheurs de Google, Darpa, Musk et même des personnages comme Heidegger) ont un autre avis que vous sur cette question.

Heidegger un avis sur ce qui sera possible en génomique, c'est une blague ? D'ailleurs un avis valable avec Heidegger c'est un oxymoron.

[mtheory]

Non, "on" ne sait rien de tel. Affirmer tranquillement un truc pareil c'est ne rien connaitre aux surprises qu'on a eues ( et qu'on a régulièrement) quand on utilise des techniques nouvelles, surprises qui peuvent apparaitre plusieurs dizaines d'années après.
Donc non "on" ne sait rien.

c'est clair....

[invite6c250b59]

Sous la main pour commencer, un article de .. Futurascience

C'est une forme de blague, ou il y a vraiment une de tes affirmations que tu penses etre defendue par cette reference?

[Antropos]

Heidegger un avis sur ce qui sera possible en génomique, c'est une blague ? D'ailleurs un avis valable avec Heidegger c'est un oxymoron.

Heidegger a prévu exactement tout ce qui allait se passer sur le plan de la techno-biologie et de l'IA, et ses analyses sur la Technique sont les plus profondes qui n'aient jamais été écrite.

Encore faut-il le lire.

Sinon il y a déjà ceci, enregistré dans les années 1940 ou 1950 https://www.youtube.com/watch?v=RI0I...e=youtu.be&t=6

Quelqu'un qui prévoit tout ceci, et qui dès son époque émet une immense inquiétude sur ce "qu'est" la Technique dans son essence, mérite d'être écouté à ce sujet. Ce qui se passe avec l'IA, les inquiétudes actuelles, il l'avait déjà prévu.

https://monoskop.org/images/3/31/Hei..._technique.pdf

[Antropos]

C'est une forme de blague, ou il y a vraiment une de tes affirmations que tu penses etre defendue par cette reference?

Toutes mes affirmations sont défendues par cette référence.

Souvent, les scientifiques utilisent des souris comme modèle animal pour l'étude de maladies humaines. Mais ici, des chercheurs en ont manipulé pour les rendre plus intelligentes que la moyenne... Et ceci a été possible en agissant sur un seul gène : celui de la phosphodiestérase PDE4B.

Il est difficile après cet exemple d'affirmer que la thérapie génique ne permettra pas d'augmenter le QI, l'intelligence des humains quand ce sera opérationnel.

Les souris et le sapiens, quelle différence hormis la complexité?

[mtheory]

Non, "on" ne sait rien de tel. Affirmer tranquillement un truc pareil c'est ne rien connaitre aux surprises qu'on a eues ( et qu'on a régulièrement) quand on utilise des techniques nouvelles, surprises qui peuvent apparaitre plusieurs dizaines d'années après.
Donc non "on" ne sait rien.

d'ailleurs, même lui est un peu sceptique sur l'arrivé programmé des miracles d'ici 20 à 30 ans

https://www.lemonde.fr/sciences/arti...7_1650684.html

[mtheory]

Heidegger a prévu exactement tout ce qui allait se passer sur le plan de la techno-biologie et de l'IA, et ses analyses sur la Technique sont les plus profondes qui n'aient jamais été écrite.

Encore faut-il le lire.

Sinon il y a déjà ceci, enregistré dans les années 1940 ou 1950 https://www.youtube.com/watch?v=RI0I...e=youtu.be&t=6

Quelqu'un qui prévoit tout ceci, et qui dès son époque émet une immense inquiétude sur ce "qu'est" la Technique dans son essence, mérite d'être écouté à ce sujet. Ce qui se passe avec l'IA, les inquiétudes actuelles, il l'avait déjà prévu.

https://monoskop.org/images/3/31/Hei..._technique.pdf

Oui bien sûr, c'est ça, il faut que je me retienne, je ne veux pas que ce fil ferme.

[Antropos]

Oui bien sûr, c'est ça, il faut que je me retienne, je ne veux pas que ce fil ferme.

Tu es libre d'expliquer ce qui est faux, mais à mon avis, tu ne connais pas grand chose de la référence et tu n'as cliqué sur aucun de mes liens. Pourquoi ne pas cliquer ?

[mtheory]

Tu es libre d'expliquer ce qui est faux, mais à mon avis, tu ne connais pas grand chose de la référence et tu n'as cliqué sur aucun de mes liens. Pourquoi ne pas cliquer ?

.............................. ..

on stoppe là, le sujet de fil ce n'est pas Heidegger ni quoi que ce soit qu'il ai dit.

[Antropos]

Mes deux liens disent exactement l'inverse, encore faut-il les ouvrir.

[mh34]

Heidegger et sa pensée n'étant pas du tout le sujet de ce fil, le prochain message qui y fait allusion sera supprimé sans préavis

[invite982dd8e4]

Il suffit de ne pas lui donner de bras. En plus, on gardera le chocolat.

Elle se bricolera un bras et c'est parti pour le cassage de gueules de primates.

[mtheory]

Une conférence de Tegmark sur l'intelligence artificielle et la vie 3.0 avec une traduction assez bonne

https://www.youtube.com/watch?v=oYmKOgeoOz4

[inviteef2ff547]

Je suis tombé sur ce très bon texte de Kissinger (juin 2018) sur les impacts à court terme (10 - 20 ans ?) des IA sur les sociétés humaines.

https://www.theatlantic.com/magazine...istory/559124/

A noté que ses références plus récentes et plus précises que celles que l'on trouve dans le livre de Tegmark (il parle et décrit assez bien AlphaZéro alors que Tegmark évoque juste AlphaGO).

[invite51d17075]

Il est difficile après cet exemple d'affirmer que la thérapie génique ne permettra pas d'augmenter le QI, l'intelligence des humains quand ce sera opérationnel.

difficile aussi d'affirmer l'inverse.
aujourd'hui, il y a des cancers qu'on ne sait soigner ( la problématique inhérente semblant pourtant moins complexe ).
des maladies orphelines aussi.
des maladies génétiques dont LE gène responsable est clairement identifié.

alors les discours: "demain on rase gratis" me semble peu scientifiques. ( tels quel )

[invite51d17075]

je me pose d'ailleurs une question.
les capacités cognitives sont très probablement reliées entre elles.
rien n'indique que si on touche à certaines, on en impacte pas d'autres. ( n'y a t il pas un danger potentiel ?)
Et que veut dire "améliorer le QI ?" , le résultat à ces tests uniquement ?

je préfèrerai être J Kirk que Spock !

[pm42]

Je suis tombé sur ce très bon texte de Kissinger (juin 2018) sur les impacts à court terme (10 - 20 ans ?) des IA sur les sociétés humaines.

Perso, je vois le bla-bla standard de gens qui expliquent que tout nouveau changement va entrainer des catastrophes. On a eu ça sur l'écriture, l'imprimerie, la machine à vapeur, Internet et d'autres...
Maintenant c'est l'IA sur lequel tout un chacun projette sa vision du monde, ses peurs et ses fantasmes.
En fait, la plupart des discours ne disent rien sur l'IA : ils parlent de celui qui le tient. On l'a vu ici où on a eu de longues explications sur le QI et la génétique... Cela permettait juste de connaitre le parcours et les préoccupations de leurs auteurs.

[Deedee81]

Perso, je vois le bla-bla standard de gens qui expliquent que tout nouveau changement va entrainer des catastrophes. On a eu ça sur l'écriture, l'imprimerie, la machine à vapeur, Internet et d'autres...

Et même sur l'invention du feu. Et ils avaient raison.


En fait, je suis d'accord.

On trouve des réflexions sérieuses sur les difficultés/risques, et pas catastrophistes, dans des articles de recherche validés par les pairs. Les seuls que j'ai vu évoquaient les risques pour l'emploi (c'est normal) et la nécessité de maîtriser la transparence et les biais. EDIT et j'oubliais la protection de la vie privée, mais ça, ça concerne surtout le big data, c'est juste exacerbé par les traitements liés aux IA.

Donc, rien de catastrophique.... étant entendu que toute projection dans un futur plus lointain (où des développements plus importants des IA ne manqueront pas d'arriver et d'autres problèmes se présenteront) ne sont en l'état actuel des choses que de la spéculation grossière ou de la science fiction ou, comme tu le dis, des projections des peurs et fantasmes. Rien de sérieux.

C'est mon avis mais si je me base sur ce type de réflexion au niveau historique, c'est un avis plus qu'étayé. Prédire la pluie demain ok, prédire la pluie dans un an : bobo la tête.

[inviteef2ff547]

je me pose d'ailleurs une question.
les capacités cognitives sont très probablement reliées entre elles.
rien n'indique que si on touche à certaines, on en impacte pas d'autres. ( n'y a t il pas un danger potentiel ?)
Et que veut dire "améliorer le QI ?" , le résultat à ces tests uniquement ?

C'est tout le problème de la manipulation génétique. Un Gène ne sert pas qu'une fonction (*) et la plupart des fonctions de haut niveau nécessite la participation de nombreux gènes.
C'est pour cela que je pense illusoire de pouvoir améliorer une caractéristique souhaitable sans en dégrader une autre. Après la nature est obligé de bricoler avec une contrainte très forte : "chaque génération doit être en mesure de reproduire".
En faisant un truc from scratch on pourra peut-être quelque chose de nettement améliorer. Mais dans ce cas, pourquoi partir sur une base humaine ? Et même pourquoi le faire en carbone alors que le silicium résiste à une plage de température nettement plus élevée ?


(*) Par exemple un truc rigolo : un seul gène qui code la flagelle des spermatozoïdes peut provoquer un situs inversus https://fr.wikipedia.org/wiki/Situs_inversus