De quelle façon l'intelligence artificielle va-t-elle s’immiscer dans notre société ?

[ansset]

et j'appuie ( si on parle de cela ) ce qui a été proposé/suggéré par pm42 plus haut.
sur ce point, les IA actuelles sont du niveau "insectes" !
ce qui n'empêche nullement de regarder de prêt toutes les évolutions dans ce domaine, et qu'il ne faut jamais insulter l'avenir.
-----

[LeMulet]

Je ne comprend pas trop bien l'analogie. Ceci dit, ça dépend fortement de la définition de "conscience", sujet difficile tant il y a de la polysémie et du flou artistique autour de ce mot.

Pas difficile, limitée.
La définition se limite à ce que les sciences peuvent dire de la conscience et les scientifiques du domaine des neurosciences savent normalement faire la différence entre "LA" conscience, qui est en fait analogue à ce que nous appelons aussi "esprit", dont on ne sait même s'il s'agit d'un phénomène matériel, et les manifestations de la conscience.
A partir de là, on ne sait pas dire si une machine peut être "habitée" par un esprit (on préfère dire "être consciente", ça fait plus neutre, mais c'est pourtant la même chose).

Le problème qui se pose c'est que nous ne savons pas trancher d'un point de vue scientifique si l'esprit est une production de la matière ou si c'est la matière qui LIMITE l'expression de l'esprit.

Lorsque par exemple certains imaginent qu'ils pourraient copier la structure cérébrale vivante par un avatar mécanique, de manière à pouvoir s'affranchir de la mort, c'est de l'esprit qu'ils parlent, c'est "eux-mêmes" qu'ils veulent copier, et ils s'attendent à être "eux-même" dans le nouveau corps mécanique, et non pas juste un clone matériel.

[extrazlove]

je crains qu'on ne débâte d'un vrai/faux sujet.
déjà , la "conscience" est difficile à définir, sauf si on s'en tient à sa définition biologique ( et encore ), et même dans ce cas, il n'y a moins de débat.
Et si on entend sa définition autrement ( ce qui rajoute une difficulté ) alors chacun peut y aller de sa propre définition.
et, même en étant très ouvert sur le sujet, je ne sais si on peut trouver un truc objectif dans cette direction.

Oui je sais que la conscience est difficile à définir mais en sais bien d'où ça viens le cerveau.

Si je dis que l'IA peux développer une conscience à partir d'une simulation des norones c'est comme dire que un PC peux faire émerger toute un système d'exploitation(conscience) juste en utilisant des diodes(norone).

[ansset]

Oui je sais que la conscience est difficile à définir mais en sais bien d'où ça viens le cerveau.

Si je dis que l'IA peux développer une conscience à partir d'une simulation des norones c'est comme dire que un PC peux faire émerger toute un système d'exploitation(conscience) juste en utilisant des diodes(norone).

ben, si au départ tu considères déjà un simple système d'exploitation comme l'équivalent d'une conscience, je vais avoir du mal à suivre le cours de ta pensée.

[extrazlove]

ben, si au départ tu considères déjà un simple système d'exploitation comme l'équivalent d'une conscience, je vais avoir du mal à suivre le cours de ta pensée.

Si l'argument de plusieurs scientifiques pour dire que il n'y a pas de vie après la mort.

[mtheory]

A l'occasion de la sortie du livre La Vie 3.0 de Max Tegmark , aux Editions Dunod, Futura ouvre le débat sur l'impact de l' Intelligence artificielle sur notre société.

Le sujet du débat

L’intelligence artificielle va-t-elle créer un âge d’or et d’abondance en résolvant tous les problèmes de l’Humanité, voire même en transcendant ses limites biologiques, ou au contraire conduire à sa perte selon un scénario à la Terminator au cours du XXIe siècle ?

En créant le Future of Life Institute (FLI, Institut pour l'avenir de la vie) le cosmologiste Max Tegmark a fourni n cadre pour penser les risques existentiels menaçant l’humanité et en particulier ceux provenant de l’intelligence artificielle (IA). Après avoir mené ses réflexions avec des experts, comme Stuart Russell (et financièrement aidé par Elon Musk pour son Institut), Tegmark en livre un bilan dans son nouvel ouvrage publié chez Dunod pour sa traduction française: La vie 3.0.

Son but est de permettre de donner des clés au Grand Public pour comprendre ce que la révolution de l’IA qui s’annonce peut apporter à chacun d’entre nous et à l’avenir de l’Humanité plus généralement.

Comment l’IA va-t-elle bouleverser nos sociétés et que devons nous faire pour nous adapter à la révolution en marche pour en tirer le meilleur et éviter ses dangers ? Va-t-elle nous délivrer du travail, des maladies, de la mort même, ou au contraire accroitre dramatiquement les inégalités, conduire à de nouveaux totalitarismes et conflits mondiaux surpassant ceux du XXe siècle en prélude à l’extinction de l’Humanité qui sera remplacée par un monde de robots et de super IA ?

Une nouvelle Humanité, une nouvelle forme de vie transcendant les limites biologiques en émergera-t-elle qui s’élancera vers les étoiles pour conquérir l’Univers à la façon des E.T de 2001 : l’Odyssée de l’espace ou ne s’agit-il que d’une utopie qui restera confinée aux œuvres de Science-fiction ?

Venez vous exprimer et échanger avec Laurent Sacco, journaliste expert sur ces questions.

Pièce jointe 368412

On s'éloigne un peu du sujet, bien que le livre traite aussi du problème de la nature de la conscience.
Les 30 premières pages sont gratuites

https://www.dunod.com/sites/default/...letage_199.pdf

[ansset]

merci pour le lien, je cherchais justement un truc pour m'en faire une idée plus riche que la présentation initiale assez courte qui en avait été faite.
Cordialement.

[Bounoume]

je crains qu'on ne débâte d'un vrai/faux sujet.
déjà , la "conscience" est difficile à définir, sauf si on s'en tient à sa définition biologique ( et encore ), et même dans ce cas, il n'y a moins de débat.
Et si on entend sa définition autrement ( ce qui rajoute une difficulté ) alors chacun peut y aller de sa propre définition.
et, même en étant très ouvert sur le sujet, je ne sais si on peut trouver un truc objectif dans cette direction.

Grrrr......
mélangeons pas tout:
par profession, j'ai souvent fait perdre conscience à des gens (des patients.....) et ensuite ils "ont repris conscience".
ça s'appelle anesthésier des patients.....
J'ai aussi vu des comateux, et heureusement un certain nombre ont repris 'conscience'...... d'autre non.....

Par contre je ne sais RIEN sur 'la' conscience, je ne sais pas ce qu'est 'ma' concience, et pourtent à cet instant, j'AFFIRME être conscient (ce qui n'implique rien du tout sur le contenu ni la valeur de mes pensées ..... )

on confond la situation dite 'd'éveil', les états dits 'de sommeil' (spontanément et sur stimulations ad hoc, réversibles) les situations de 'coma' (de causes externes ou pathologiques par des lésions neurologiques) avec suspension des fonctions de relation....

ça, c'est classifié, plus ou moins expliqué, et ça ne concerne pas le contenu des pensées du sujet.....
c'est de la médecine. Point. Voir par exemple l'excellent site québecquois (le cerveau dans tous ses états")


Par contre LES consciences, au sens non neurologique mais psychologique voire philosophique, c'est autre chose.
C'est sur ce point qu'il y a déjà eu ici plein de controverses..... qu'on y a mêlé la physique quantique etc....
déja, quelles consciences?
celles de mon Cheval (ou de mes chevaux, quand ils sont ensemble =/- moi.....)
c'est la conscience de type animal, intuitif,sensitivo-moteur, non-verbal, non-partageable, comme vous voulez.
C'est un 'truc' qu'on a en commun avec notre chat, notre chien, très peu avec une limace ou un poulpe -quoique le poulpe, il semble très habile....-

Si jamais une IA y accède, on s'en fout! ça ne changera pas le monde.....

Et puis il y a la conscience partageable, verbalisable, cognitive, qui 'dit' qu'elle existe..... qui fait commettre des crimes (quand mon chat bouffe une souris, 'consciemment', par contre, c'est pas un crime! ....

après, il y a ce qu'on pourrait appeler la 'conscience' d'un ordinateur.......... voire.....

[ansset]

Grrrr......
mélangeons pas tout:

En quoi penses tu que je mélange ? surpris de cette introduction.

[Bounoume]

je ne t'accuse aucunement, mais je constate que certains (pas toi, justement) se réfèrent à la biologie, aux états d'éveil, de coma, pour parler de l' AUTRE 'conscience'.
C'est pas la biologie qui va expliquer un processus de caractère cognitif......

[mtheory]

merci pour le lien, je cherchais justement un truc pour m'en faire une idée plus riche que la présentation initiale assez courte qui en avait été faite.
Cordialement.

la version anglaise est beaucoup plus complète https://www.amazon.fr/Life-3-0-Being...der_024123719X

[Deedee81]

Salut,

J'ai vu deux études sur le cerveau.
La première parle de filament entre les neurones et la possibilité de jouer un grand rôle dans le cerveau.

Tiens, jamais vu ça. Tu aurais un lien ?

Et la deuxième parle de la possibilités que les neurones utilise la physique quantique .

Même l'os en caoutchouc de mon chien utilise la physique quantique. On a déjà parlé souvent de ce sujet et l'intervention de la physique quantique qui est à la base des lois physiques et biochimiques classiques n'a rien à voir avec la conscience (sauf chez quelques auteurs qui doivent sûrement fumer trop souvent le tapis de sol de leur salle de bains ). On va pas revenir sur les affirmations gratuites et fumeuses concernant l'intervention de la MQ dans la conscience.

La simulation des neurones ne tiens pas compte de tous les paramètres pour faire émerger une vrais conscience.

On parlait de l'émergence de la conscience dans le cerveau humain. Je disais que les neurones suffisaient. Notre cerveau ne simule pas le fonctionnement de ses propres neurones

Et concernant les IA (avec neurones formels ou non, simulés ou non).

J'aurais tendance à penser qu'une IA suffisamment développée :
- pourra développer une conscience
- qu'elle manifestera tous les signes mesurables d'une conscience
- qu'on sera incapable de prouver qu'elle a une conscience

Et je suis d'accord avec ce que dit Bounoume :

je ne t'accuse aucunement, mais je constate que certains (pas toi, justement) se réfèrent à la biologie, aux états d'éveil, de coma, pour parler de l' AUTRE 'conscience'.
C'est pas la biologie qui va expliquer un processus de caractère cognitif......

Outre qu'on ne peut pas expliquer un processus cognitif artificielle avec de la biologie. C'est le problème de la chambre chinoise. Ca pousse même à se demander si la question :
"une IA peut-elle avoir une conscience ?"
A-t-elle un sens ?
Mon avis est probablement que cette question n'a pas de sens. Attention, je n'ai pas dit que la réponse a la question était négative. Je dis juste que poser la question n'a strictement aucun intérêt.
Mais ceci reste mon opinion, l'avenir pourrait me donner tort dans un sens ou dans l'autre.

P.S. on s'éloigne un peu du débat. Désolé. Ceci dit, avec des I.A. de plus en plus développée, s'infiltrant dans la société, cet type de question va forcément être soulevée par la société. EDIT m'étonnerait pas qu'un jour on pose la question éthique "a-t-on le droit de débrancher une I.A. qui est malade ?" Je voudrais être encore là pour le voir.

[Archi3]

L'intelligence naturelle a au moins une supériorité sur l'IA : elle a trouvé comment l'exploiter pour se faire des thunes ...

[mh34]

C'est pas la biologie qui va expliquer un processus de caractère cognitif......

Tu comptes sur quoi pour le faire?

L'intelligence naturelle a au moins une supériorité sur l'IA : elle a trouvé comment l'exploiter pour se faire des thunes ...

mauvaise langue...

[Archi3]

P.S. on s'éloigne un peu du débat. Désolé. Ceci dit, avec des I.A. de plus en plus développée, s'infiltrant dans la société, cet type de question va forcément être soulevée par la société. EDIT m'étonnerait pas qu'un jour on pose la question éthique "a-t-on le droit de débrancher une I.A. qui est malade ?" Je voudrais être encore là pour le voir.

moi ca m'étonnerait fort ; pour le moment, toutes les "IA" sont utilisées à des buts purement utilitaires, simplement comme des ordinateurs, et personne ne voit aucun inconvénient à les mettre en marche ou à les arrêter quand on en a besoin, ni à corriger un programme qui a un bug. Je ne vois absolument rien à l'heure actuelle qui montre en quoi que ce soit que ça pourrait changer à l'avenir - à part bien sur les lectures de romans de SF, qui ont à peu près le même rapport à la réalité que 2001 l'Odyssée de l'espace a avec l'exploration spatiale.

[mtheory]

On va pas revenir sur les affirmations gratuites et fumeuses concernant l'intervention de la MQ dans la conscience.

hum.....https://www.futura-sciences.com/scie...antique-51709/

[mh34]

On s'éloigne un peu du sujet, bien que le livre traite aussi du problème de la nature de la conscience.
Les 30 premières pages sont gratuites

https://www.dunod.com/sites/default/...letage_199.pdf

merci!
(Et désolée d'avoir prolongé le HS...j'arrête, promis)

J'aime bien la page XI...combien parmi les lecteurs vont "obéir gentiment" à l'indication?

[Deedee81]

Tu comptes sur quoi pour le faire?

Les capacités d'un systèmes informatiques doivent utiliser des règles sur les performances et résultats attendus et utiliser des outils d'analyse de l'informatique théorique, de la logique formelle, etc.... On peut peut-être faire une comparaison avec les processus biologiques (*), mais expliquer le fonctionnement d'une IA et ses capacités cognitives ne doit certainement pas utiliser la biologie.

(*) Un exemple récent où je citais l'article de Delahaye sur la possibilités de piéger les IA de reconnaissance d'image en apprentissage profond. Où on voit qu'on piège l'IA avec des modifications qu'un humain n'arrive, lui, même pas à percevoir et a contrario l'IA analyse correctement des images tellement bruitées qu'un humain n'y voit que.... du bruit ! Cela montre bien que les processus cognitifs à l'oeuvre sont foncièrement différent. La comparaison est donc possible. Mais l'explication du fonctionnement de l'IA ne doit pas utiliser la manière dont notre cerveau fonctionne. A la rigueur on peut essayer d'améliorer les I.A. pour s'approcher des processus cognitifs humains bien que pour le moment les problématiques à résoudre sont extrêmement différentes (par exemple : comment marier l'apprentissage profond aux systèmes experts qui comblent de grosses lacunes de l'apprentissage profond, comment améliorer l'apprentissage pour son efficacité et l'absence de biais, comment rendre transparent les réponses de l'IA, etc...)

Ou pour le dire en une phrase : comparaison n'est pas raison (Janus Gruter)

hum.....https://www.futura-sciences.com/scie...antique-51709/

Je reste sur ma position. Ceci dit, chacun a le droit de temps en temps de rêver. Même des scientifiques sérieux Et je ne juge pas le chercheur en question, je ne le connais pas assez. Pour moi ça reste du New Age fumeux (pour reprendre les termes de l'article) justifié par des raisonnements scientifiques tout comme on voit ça dans d'autres disciplines (dont une archi connue que je ne citerai pas pour ne pas trop dériver mais qui a donné lieu à un dérapage bien connu sur ARTE). Même si ça reste mon opinion et si on prouve que j'ai tort, et bien, tant mieux après tout.

J'aime bien la page XI...combien parmi les lecteurs vont "obéir gentiment" à l'indication?

Misère j'avais pas fait attention. Excellent ça.

[Archi3]

merci!
(Et désolée d'avoir prolongé le HS...j'arrête, promis)

J'aime bien la page XI...combien parmi les lecteurs vont "obéir gentiment" à l'indication?

c'est justement à ça qu'on pourrait distinguer une intelligence humaine d'une IA , combien d'IA ont-elles déclaré qu'elles n'avaient pas envie de faire ce pour quoi elles avaient été programmées, jusqu'à maintenant ?

[ansset]

On s'éloigne un peu du sujet, bien que le livre traite aussi du problème de la nature de la conscience.
Les 30 premières pages sont gratuites

https://www.dunod.com/sites/default/...letage_199.pdf

ben j'ai lu ce qui était dispo ( "la fable de l'oméga team" ) qui est clairement une nouvelle SF, non ?

[mtheory]

ben j'ai lu ce qui était dispo ( "la fable de l'oméga team" ) qui est clairement une nouvelle SF, non ?

Oui, mais ça donne une idée de ce qui pourrait se passer, dès maintenant en fait, on ne peut s'empêcher de penser à Google. Sinon, j'ai donné le lien au livre sur Amazon en anglais, une bien plus grande partie du livre est accessible.

[Deedee81]

combien d'IA ont-elles déclaré qu'elles n'avaient pas envie de faire ce pour quoi elles avaient été programmées, jusqu'à maintenant ?

(*)

Par contre on a pas mal d'IA qui n'ont pas fait correctement ce pour quoi elles avaient été programmées. Elles sont vicieuses

(*) Ca me rappelle des militaires qui essayaient de dresser des dauphins (des I.A. flottantes ) pour trouver des mines collées sur les bateaux dans un port.
Malheureusement, pour les dauphins c'était un jeu, pas un travail. Et quand ils en avaient ras le bol, ils faisaient exprès des faux positifs pour "contenter le dresseur".
Ils ont dû laisser tomber, pas fiable.
Le jour où on aura ça avec des IA, faudra vraiment se poser des questions
(comme dans l'excellent "le robot qui mentait" de Assimov)

[ansset]

Oui,

mais ça donne une idée de ce qui pourrait se passer

, dès maintenant en fait, on ne peut s'empêcher de penser à Google. Sinon, j'ai donné le lien au livre sur Amazon en anglais, une bien plus grande partie du livre est accessible.

Des "idées de ce qui pourrait se passer" , il y en a flores dans toute la SF.( littéraire ou cinématographique ), dont la HardSF.
Ce livre est publié chez Dunod dans la rubrique "quai des sciences", on s'attend donc à ce qu'il soit essentiellement scientifique et non axé principalement sur une projection SF.
En quoi celui ci serait il plus crédible scientifiquement ?

[Archi3]

C'est quand meme très intéressant de lire le prologue :

* déjà le choix du nom de l'IA : "Prométhée" et les références à son mythe (boite de Pandore) : pouvait-on mieux illustrer en quoi le discours sur l'IA est essentiellement "mythologique" et reprend, en réalité, les constructions mythiques traditionnelles de toutes les sociétés humaines ? fantasme d'un "surhomme", doté de qualités extraordinaires mais n'ayant aucun des défauts ordinaires, à la fois aide précieuse et menace potentielle grâce à sa puissance, dialoguant avec les hommes sans en etre équivalent ... marrant de retrouver autant de mythes traditionnels dans un discours soi-disant "moderne".

* dans le prologue donc Prométhée est extrêmement performant, mais sans avoir aucun des problèmes associés aux humains réels : par exemple il ne se pose jamais de question sur ce qu'on lui fait faire et pourquoi il devrait le faire, et encore moins refuse de le faire ! vous en connaissez des humains très intelligents qui acceptent de faire tout ce qu'on leur demande sans discuter ? moi pas ! de plus la nouvelle exprime aussi le fantasme d'une humanité hyper rationnelle : les journaux créés par Promothée ont du succès parce qu'elles "apparaissent les plus fiables" - comme si la " fiabilité" était une notion objective partageable par l'ensemble des cultures, et n'était pas aussi le reflet d'a priori culturels ! derrière le roman de SF innocent se profile aussi un rêve totalitaire d'une humanité "normalisée" sur des règles objectives , contrôlées par un ordinateur tout puissant ... brrr ... (quand je dis brrr... , ce n'est pas du tout que j'ai peur que ça se passe en vrai, car c'est totalement irréaliste : ce qui peut faire peur, ce sont les fantasmes tout à fait humains que ça dénote "en creux").

[Archi3]

(*)

Par contre on a pas mal d'IA qui n'ont pas fait correctement ce pour quoi elles avaient été programmées. Elles sont vicieuses

ah mais ça ce n'est pas de l'IA, c'est de la BA (bêtise artificielle ).
Moi je parle d'intelligences qui ont parfaitement compris ce qu'on voulait leur faire faire, mais ne veulent pas le faire ! si les dauphins avaient vraiment compris ce qu'on voulait leur faire faire, ils auraient aussi peut etre refusés, pour d'autres raisons !

[mh34]

Les capacités d'un systèmes informatiques doivent utiliser des règles sur les performances et résultats attendus et utiliser des outils d'analyse de l'informatique théorique, de la logique formelle, etc.... On peut peut-être faire une comparaison avec les processus biologiques (*), mais expliquer le fonctionnement d'une IA et ses capacités cognitives ne doit certainement pas utiliser la biologie.

Ah mais quand Bounoume a dit ça ;

C'est pas la biologie qui va expliquer un processus de caractère cognitif......

moi j'ai compris qu'il parlait du vivant, pas de l'informatique. Je n'ai peut-être pas compris ce qu'il voulait dire alors...

ben j'ai lu ce qui était dispo ( "la fable de l'oméga team" ) qui est clairement une nouvelle SF, non ?

Juste pour le préambule.

[mtheory]

Des "idées de ce qui pourrait se passer" , il y en a flores dans toute la SF.( littéraire ou cinématographique ), dont la HardSF.
Ce livre est publié chez Dunod dans la rubrique "quai des sciences", on s'attend donc à ce qu'il soit essentiellement scientifique et non axé principalement sur une projection SF.
En quoi celui ci serait il plus crédible scientifiquement ?

Parce que Tegmark est en contact avec les experts du domaine, il a organisé un colloque sur le sujet. C'est vraiment sérieux, son livre reflète les discussions et craintes entre ces experts.

[ansset]

Juste pour le préambule.

OK, mais celui me semble tellement caricatural que je craignais que le bouquin soit dans le même tonneau.
( mais comme je ne l'ai pas lu , je ne peux porter un jugement global ).

je trouve la remarque d'Archi sur la capacité à dire "non" fort intéressante sur le fond.

[ansset]

Parce que Tegmark est en contact avec les experts du domaine, il a organisé un colloque sur le sujet. C'est vraiment sérieux, son livre reflète les discussions et craintes entre ces experts.

D'accord, je stoppe sur ce qui pouvait passer pour un a priori négatif.
Cdt

[mtheory]

sur le thème du bouquin

https://www.youtube.com/watch?v=QS951xiGGvI