De quelle façon l'intelligence artificielle va-t-elle s’immiscer dans notre société ?

[invitebf3f379a]

A l'occasion de la sortie du livre La Vie 3.0 de Max Tegmark , aux Editions Dunod, Futura ouvre le débat sur l'impact de l' Intelligence artificielle sur notre société.

Le sujet du débat

L’intelligence artificielle va-t-elle créer un âge d’or et d’abondance en résolvant tous les problèmes de l’Humanité, voire même en transcendant ses limites biologiques, ou au contraire conduire à sa perte selon un scénario à la Terminator au cours du XXIe siècle ?

En créant le Future of Life Institute (FLI, Institut pour l'avenir de la vie) le cosmologiste Max Tegmark a fourni n cadre pour penser les risques existentiels menaçant l’humanité et en particulier ceux provenant de l’intelligence artificielle (IA). Après avoir mené ses réflexions avec des experts, comme Stuart Russell (et financièrement aidé par Elon Musk pour son Institut), Tegmark en livre un bilan dans son nouvel ouvrage publié chez Dunod pour sa traduction française: La vie 3.0.

Son but est de permettre de donner des clés au Grand Public pour comprendre ce que la révolution de l’IA qui s’annonce peut apporter à chacun d’entre nous et à l’avenir de l’Humanité plus généralement.

Comment l’IA va-t-elle bouleverser nos sociétés et que devons nous faire pour nous adapter à la révolution en marche pour en tirer le meilleur et éviter ses dangers ? Va-t-elle nous délivrer du travail, des maladies, de la mort même, ou au contraire accroitre dramatiquement les inégalités, conduire à de nouveaux totalitarismes et conflits mondiaux surpassant ceux du XXe siècle en prélude à l’extinction de l’Humanité qui sera remplacée par un monde de robots et de super IA ?

Une nouvelle Humanité, une nouvelle forme de vie transcendant les limites biologiques en émergera-t-elle qui s’élancera vers les étoiles pour conquérir l’Univers à la façon des E.T de 2001 : l’Odyssée de l’espace ou ne s’agit-il que d’une utopie qui restera confinée aux œuvres de Science-fiction ?

Venez vous exprimer et échanger avec Laurent Sacco, journaliste expert sur ces questions.


-----

[invite51d17075]

Comment l’IA va-t-elle bouleverser nos sociétés et que devons nous faire pour nous adapter à la révolution en marche pour en tirer le meilleur et éviter ses dangers ? Va-t-elle nous délivrer du travail, des maladies, de la mort même, ou au contraire accroitre dramatiquement les inégalités, conduire à de nouveaux totalitarismes et conflits mondiaux surpassant ceux du XXe siècle en prélude à l’extinction de l’Humanité qui sera remplacée par un monde de robots et de super IA ?

Bjr, je trouve cette sorte d'introduction très dichotomique. ( le paradis ou l'enfer )
Est elle le reflet du contenu de ce livre ?
Mais si celui ci est recommandé par Laurent, cela atténue le doute que m'inspire cette réflexion initiale.
Cordialement.

[invite046e427d]

Bonjour,

"Etre humain à l'ère de l'intelligence artificielle".

Si on peut comparer le stade de l'évolution de l'IA à l'âge de pierre de l'humanité, existe-t-il une étape "analogue" au feu ou à la roue de l'ère de l'être humain ?

[invite452d5a24]

Bonjour,

L'IA vous vous rendez compte on est capable d'expliquer a du silicium incruster de cuivre, comment devenir intelligent, et on reste incapable de renouveler l'exploit avec nos propres enfants, qui sont pourtant câblé pour ? ? ?

Bonne journée.

[A voir en vidéo sur Futura]

[pm42]

Si on peut comparer le stade de l'évolution de l'IA à l'âge de pierre de l'humanité, existe-t-il une étape "analogue" au feu ou à la roue de l'ère de l'être humain ?

Si on compare, l'IA est au stade insecte au mieux.

[Deedee81]

Salut,

L'IA vous vous rendez compte on est capable d'expliquer a du silicium incruster de cuivre, comment devenir intelligent, et on reste incapable de renouveler l'exploit avec nos propres enfants, qui sont pourtant câblé pour ? ? ?

Et ça t'étonne ?

[invite452d5a24]

Et ça t'étonne ?

Oui, beaucoup, parce que toi non ?

[invite51d17075]

Le "ou" dans la proposition précédente n'est pas exclusif

si tu fais référence à ma remarque, je n'en sais rien concernant le contenu du livre ( donc à prendre sous la forme d'une question ) mais je l'espère bien.
car le "résumé" qui en a été fait en qcq mots est bien une présentation qui formellement oppose l'un et l'autre.

[Mickey-l.ange]

Bjr, je trouve cette sorte d'introduction très dichotomique. ( le paradis ou l'enfer )

Bonjour,

Oui, c'est ce que j'ai ressenti aussi en lisant le premier message :

"nous délivrer du travail, des maladies, de la mort même"
/
"conduire à de nouveaux totalitarismes et conflits mondiaux (…) en prélude à l’extinction de l’Humanité"

Dans l'un et l'autre cas, on n'est pas un peu dans les outrances ?

[mtheory]

Bjr, je trouve cette sorte d'introduction très dichotomique. ( le paradis ou l'enfer )
Est elle le reflet du contenu de ce livre ?
Mais si celui ci est recommandé par Laurent, cela atténue le doute que m'inspire cette réflexion initiale.
Cordialement.

J'ai forcé les traits le livre parle de bien des choses et reste assez élémentaire bien que pas tout le temps. C'est une introduction aux problématiques de l'IA pour la société et ensuite des spéculations sur un avenir lointain pas loin de la la Sf en fait. Mais Tegmark a de des arguments, il a réussi à réunir autour de lui dans un colloque des experts du domaine.

https://www.youtube.com/watch?v=6P0d1NtJEP4

[mtheory]

J'ai forcé les traits le livre parle de bien des choses et reste assez élémentaire bien que pas tout le temps. C'est une introduction aux problématiques de l'IA pour la société et ensuite des spéculations sur un avenir lointain pas loin de la la Sf en fait. Mais Tegmark a de des arguments, il a réussi à réunir autour de lui dans un colloque des experts du domaine.

https://www.youtube.com/watch?v=6P0d1NtJEP4

ça parle de ce genre de problématique, les mini-drones tueurs par exemple https://www.youtube.com/watch?v=HipTO_7mUOw

[invite452d5a24]

L'IA vous vous rendez compte on est capable d'expliquer a du silicium incruster de cuivre, comment devenir intelligent, et on reste incapable de renouveler l'exploit avec nos propres enfants, qui sont pourtant câblé pour ? ? ?

Voilà un exemple concret :

Un quart des enfants en 6e ne savent ni lire ni écrire

Vous n’aurez peut-être plus à consulter vos mails : une IA parvient à les résumer

[invite51d17075]

J'ai forcé les traits le livre parle de bien des choses et reste assez élémentaire bien que pas tout le temps. C'est une introduction aux problématiques de l'IA pour la société et ensuite des spéculations sur un avenir lointain pas loin de la la Sf en fait. Mais Tegmark a de des arguments, il a réussi à réunir autour de lui dans un colloque des experts du domaine.

https://www.youtube.com/watch?v=6P0d1NtJEP4

A vrai dire, tu confirmes indirectement mes craintes.
Autant il me semble fortement utile de faire un point sur l'état de l'art actuel, voire d'imaginer des projections à court ou moyen terme ( le moyen terme ne pouvant dépasser 10 ans dans ce domaine ), il n'est nul besoin ( et possiblement mal venu ) de mélanger un point de départ objectif avec des projections que tu reconnais aussi de l'ordre de la SF. ( les livres purs SF me suffisent dans ce cas )
Et le fait qu'il ait réuni un "groupe d'experts" ne donne pas de don de voyance sur l'avenir SF à long terme.

Ce mélange des genres est peut être vendeur, mais sujet à interrogation si on veut écrire qcq de scientifique sur le sujet.
ps : je ne sais pas quelle est la part du premier point / second. et surtout si les deux considérations sont bien dissociées.
( c'est une question )

Cordialement.

[mtheory]

J'ai forcé les traits

Mais pas beaucoup, Tegmark et d'autres envisagent vraiment ces deux extrêmes même si ce ne sont pas les seuls possibilités évoquées. L'ouvrage de Tegmark est une invitation à la réflexion et une introduction aux réflexions des divers acteurs de l'IA. Il n'agit pas de défendre un de ces extrêmes contre l'autre.

[mtheory]

si les deux considérations sont bien dissociées.

Oui, ce qui est nettement plus SF, genre IA qui colonise l'univers etc... c'est en seconde partie si l'on peut dire. On peut en rester à des développements qui auront des impact entre dans quelques années à quelques dizaines d'années. Je dirai que pour ceux qui sont déjà assez bien informés sur l'IA, ses limites et ses conséquences sociales, le livre n'est pas pour eux, c'est vraiment pour les curieux genre mr tout le monde désireux quand même de bosser un peu pour comprendre de quoi il en retourne.

[Deedee81]

Oui, beaucoup, parce que toi non ?

Oh que non, ça me semble même trivialement normal.

[invite452d5a24]

Oh que non, ça me semble même trivialement normal.

Un quart des enfants en 6e ne savent ni lire ni écrire

Vous n’aurez peut-être plus à consulter vos mails : une IA parvient à les résumer

Désolé mais je ne trouve pas cela normal.

[invite6c093f92]

Tegmark et d'autres envisagent vraiment ces deux extrêmes même si ce ne sont pas les seuls possibilités évoquées.

Je suppose qu'une possibilité évoquée doit être un truc du genre: On risque d'aller d'un "extrême à l'autre" pour ensuite avoir un moyen terme, non? A moins que les problèmes qui pourraient venir ne puissent avoir assez de temps pour arriver à ce "moyen terme"?

[Deedee81]

Désolé mais je ne trouve pas cela normal.

C'est ton droit
EDIT Entendons nous bien, ci dessus, je disais "normal" (dans le sens "logique"), je n'ai pas dit "bien", évidemment

[invite51d17075]

Il me semble que le bouquin ne soit actuellement disponible qu'en format Kindle pour le moment ( en tout cas via internet ).
et le "vioque" que je suis ( avé la vue qui baisse ) n'est pas prêt à passer à cette techno.

[Deedee81]

Il me semble que le bouquin ne soit actuellement disponible qu'en format Kindle pour le moment ( en tout cas via internet ).
et le "vioque" que je suis ( avé la vue qui baisse ) n'est pas prêt à passer à cette techno.

Je n'ai pas compris. Je vois le livre papier en vente (chez Dunod par exemple).
Il est paru il y a peu, je regarderai chez Carrefour samedi

[extrazlove]

A l'occasion de la sortie du livre La Vie 3.0 de Max Tegmark , aux Editions Dunod, Futura ouvre le débat sur l'impact de l' Intelligence artificielle sur notre société.

Le sujet du débat

L’intelligence artificielle va-t-elle créer un âge d’or et d’abondance en résolvant tous les problèmes de l’Humanité, voire même en transcendant ses limites biologiques, ou au contraire conduire à sa perte selon un scénario à la Terminator au cours du XXIe siècle ?

En créant le Future of Life Institute (FLI, Institut pour l'avenir de la vie) le cosmologiste Max Tegmark a fourni n cadre pour penser les risques existentiels menaçant l’humanité et en particulier ceux provenant de l’intelligence artificielle (IA). Après avoir mené ses réflexions avec des experts, comme Stuart Russell (et financièrement aidé par Elon Musk pour son Institut), Tegmark en livre un bilan dans son nouvel ouvrage publié chez Dunod pour sa traduction française: La vie 3.0.

Son but est de permettre de donner des clés au Grand Public pour comprendre ce que la révolution de l’IA qui s’annonce peut apporter à chacun d’entre nous et à l’avenir de l’Humanité plus généralement.

Comment l’IA va-t-elle bouleverser nos sociétés et que devons nous faire pour nous adapter à la révolution en marche pour en tirer le meilleur et éviter ses dangers ? Va-t-elle nous délivrer du travail, des maladies, de la mort même, ou au contraire accroitre dramatiquement les inégalités, conduire à de nouveaux totalitarismes et conflits mondiaux surpassant ceux du XXe siècle en prélude à l’extinction de l’Humanité qui sera remplacée par un monde de robots et de super IA ?

Une nouvelle Humanité, une nouvelle forme de vie transcendant les limites biologiques en émergera-t-elle qui s’élancera vers les étoiles pour conquérir l’Univers à la façon des E.T de 2001 : l’Odyssée de l’espace ou ne s’agit-il que d’une utopie qui restera confinée aux œuvres de Science-fiction ?

Venez vous exprimer et échanger avec Laurent Sacco, journaliste expert sur ces questions.

Pièce jointe 368412

Je pense que cette peur des IA est non fondé genre l'IA vas avoir une conscience et tuer tout les humains.

Désolé l'IA c'est juste des algorithmes qui fait le bon choix a partir des historiques.
Et je pense pas que la conscience sera atteint car le cerveau ne contient pas que les norones pour faire émerger la conséquence.

Le vrais danger et l'utilisation des IA en guerre par les humains l'IA peut apprendre à tuer et même être au delà du programme fixer au cas de bug et c'est ça le vrais danger.

[invite51d17075]

merci pour l'info, je me suis mal renseigné.( je n'ai regardé que certaines commandes via internet )
Cdt

[Deedee81]

Et je pense pas que la conscience sera atteint car le cerveau ne contient pas que les norones pour faire émerger la conséquence.

La conséquence de quoi ????
Tu veux dire faire émerger la conscience ? Ben si, il n'y a que les neurones et c'est même plutôt bien expliqué en neurologie maintenant (et la Belgique est même le leader mondial dans l'identification des différents états de conscience, plus précisément l'université/hôpital de Liège où des patients comateux sont parfois envoyé de très loin).
Voir ici par exemple : https://fr.wikipedia.org/wiki/Consci..._la_conscience

Le vrais danger et l'utilisation des IA en guerre par les humains l'IA peut apprendre à tuer et même être au delà du programme fixer au cas de bug et c'est ça le vrais danger.

Ca c'est vrai même si ce n'est pas le seul (utiliser les IA à des fins d'exploitation humaine en tout genre, dépassant le simple marketing, est aussi un danger).

[invite51d17075]

Ca c'est vrai même si ce n'est pas le seul (utiliser les IA à des fins d'exploitation humaine en tout genre, dépassant le simple marketing, est aussi un danger).

d'autant que le mot "arme" peut prendre un sens bien plus large que sa simple connotation purement physique.

[mtheory]

Ben si, il n'y a que les neurones et c'est même plutôt bien expliqué en neurologie maintenant

ça peut se discuter....c'est peut-être comme les trous d'Young, on "voit" bien que la lumière n'est qu'une onde et aucunement une collection de particule.

[Deedee81]

d'autant que le mot "arme" peut prendre un sens bien plus large que sa simple connotation purement physique.

Oui, tout à fait. L'IA n'aurait pour but que de rendre ces armes plus "efficaces", ce qui en soi est aussi inquiétant. Idem pour les autres usages que j'évoquais.

Ca me rappelle une histoire de S.F. que j'avais lu avec des pigeons robots dotés d'une IA autonome pour traquer les criminels et où les pigeons finissent pas attaquer pour la moindre incivilité.
Pour lutter contre le fléau ils fabriquent alors des aigles robots programmés pour détruire les pigeons et s'autodétruire une fois fini, afin d'éviter tout risque sauf... qu'un peu avant "les aigles robots constatèrent qu'il y avait d'autres choses à attaquer"

Ce type de dérapage peut évidemment se produire et s'est déjà produit avec d'autres choses (pensons aux bourdes dans la lutte contre la prolifération des gentils lapinoux en Australie ), tout ne fonctionne pas toujours comme prévu, mais le risque devient plus fort avec la combinaison arme + I.A. : faut pas trop jouer au c..., une grande spécialité humaine.

[Deedee81]

ça peut se discuter....c'est peut-être comme les trous d'Young, on "voit" bien que la lumière n'est qu'une onde et aucunement une collection de particule.

Je ne comprend pas trop bien l'analogie. Ceci dit, ça dépend fortement de la définition de "conscience", sujet difficile tant il y a de la polysémie et du flou artistique autour de ce mot. La définition neurologique (*) est certainement la plus claire et la plus rigoureuse et pourtant quand on voit les travaux sur les états de conscience pour les comas, on se rend compte que même là il y a eut beaucoup de difficultés pour arriver à description correcte de la notion de conscience neurologique.
(*) et c'est la seule définition scientifique à ma connaissance, mais si je me trompe, ne pas hésiter à le dire , et donc c'est toujours à ça que je me réfère ici sur Futura.

[extrazlove]

La conséquence de quoi ????
Tu veux dire faire émerger la conscience ? Ben si, il n'y a que les neurones et c'est même plutôt bien expliqué en neurologie maintenant (et la Belgique est même le leader mondial dans l'identification des différents états de conscience, plus précisément l'université/hôpital de Liège où des patients comateux sont parfois envoyé de très loin).
Voir ici par exemple : https://fr.wikipedia.org/wiki/Consci..._la_conscience



Ca c'est vrai même si ce n'est pas le seul (utiliser les IA à des fins d'exploitation humaine en tout genre, dépassant le simple marketing, est aussi un danger).

Désolé c'est bien conscience erreur de correcteur.
J'ai vu deux études sur le cerveau.
La première parle de filament entre les neurones et la possibilité de jouer un grand rôle dans le cerveau.

Et la deuxième parle de la possibilités que les neurones utilise la physique quantique .

La simulation des neurones ne tiens pas compte de tous les paramètres pour faire émerger une vrais conscience.

[invite51d17075]

La simulation des neurones ne tiens pas compte de tous les paramètres pour faire émerger une vrais conscience.

je crains qu'on ne débâte d'un vrai/faux sujet.
déjà , la "conscience" est difficile à définir, sauf si on s'en tient à sa définition biologique ( et encore ), et même dans ce cas, il n'y a moins de débat.
Et si on entend sa définition autrement ( ce qui rajoute une difficulté ) alors chacun peut y aller de sa propre définition.
et, même en étant très ouvert sur le sujet, je ne sais si on peut trouver un truc objectif dans cette direction.