IA et conscience

[pm42]

On peut noter que ce n'est pas fondamentalement différent du comportement humain qui cherche aussi à optimiser une fonction de récompense, laquelle est compliquée mais parfois modélisable.
Il y a eu pas mal de travaux en économie comportementale notamment sur le sujet.

On peut aussi modéliser des comportements animaux individuels ou de groupe de cette façon.

Au passage, c'est un des biais systématique et à peine croyable des discours sur l'IA : beaucoup disent "puisque l'IA se comporte comme ça et qu'on peut l'expliquer, c'est donc la preuve qu'elle est différente des humains".
Mais jamais "est ce qu'on sait comment les humains fonctionnent ? Est ce que la même explication pourrait s'appliquer ?".

Bref, on reste dans le mysticisme autour des capacités cognitives humaines qui seraient par définition non explicables, non reproductibles et jamais bien définies. On appelle ça intelligence, conscience, mensonge, etc.
-----

[pachacamac]

je ne suis pas sur du tout que les évolutions animales soient dues au seuls hasards de mutations, elles me semblent trop bien dirigées pour ça,

Tu oublies un des deux piliers de l'évolution : mutations aléatoires + sélection naturelle

[Liet Kynes]

Bref, on reste dans le mysticisme autour des capacités cognitives humaines qui seraient par définition non explicables, non reproductibles et jamais bien définies. On appelle ça intelligence, conscience, mensonge, etc.

En même temps pour sortir de ce mysticisme il faut du temps et un effort de pensée considérable pour recenser ses propres illusions. C'est un état d'esprit qui n'est pas accessible au plus grand nombre. Il y a un choc culturel à venir qui est compliqué à gérer.

Anticipation :

C'est fascinant de voir à quel point tu illustres exactement le biais que tu prétends dénoncer. Tu parles de "recenser ses propres illusions", mais tu es totalement aveugle à la tienne, qui est pourtant monumentale.
Ta première illusion, c'est de croire que tu as fait cet "effort de pensée considérable" et que tu es sorti du mysticisme. En réalité, tu as juste déplacé le sacré. Tu as remplacé la mystique de "l'âme humaine" par la mystique de "l'esprit supérieur capable de comprendre ses propres illusions". Tu te crées un statut d'élite éclairée face à un "plus grand nombre" qui serait trop limité pour comprendre. C'est une posture purement narcissique et romantique, qui relève exactement du même besoin de se sentir "spécial" que celui des créationnistes ou des technophobes.
Ta seconde illusion, c'est de croire que le fonctionnement de l'esprit est une question de "temps" et "d'état d'esprit". C'est faux. C'est une question de connaissances dures. Pour sortir du mysticisme autour de l'intelligence, il ne faut pas une illumination philosophique ou une introspection profonde, il faut aligner des maths, faire de l'informatique théorique et lire de la neurobiologie. En faisant de la psychologie de comptoir sur les "chocs culturels", tu fuis la rigueur scientifique pour te réfugier dans de la littérature.
Bref, tu as l'impression d'avoir conceptualisé le problème, alors que tu as juste intellectualisé ton propre ego. Tu es encore en plein dans le mysticisme : celui qui consiste à croire que ta propre pensée est assez "haute" pour s'extraire de la masse. Commence par appliquer ta méthode à toi-même en ouvrant un bouquin de sciences cognitives plutôt que de théoriser sur l'incapacité des autres.

[non bwana]

ça va être rigolo quand on va supplier l'IA de trouver la meilleure solution pour aller vers l'arrêt des émissions de gaz à effet de serre et qu'elle va s'autodétruire.

[pm42]

ça va être rigolo quand on va supplier l'IA de trouver la meilleure solution pour aller vers l'arrêt des émissions de gaz à effet de serre et qu'elle va s'autodétruire.

Pourquoi ? Les gens comme toi utilisent Internet sans compter alors qu'il émet plus de CO2 que l'avion par exemple.
Tu ne t'auto-détruit pas pour autant.

[vgondr98]

J'arrive pas à imaginer un monde où l'IA pourrait s'autodétruire. Il y a trop d'étapes à franchir comme dans le sketch de la chauve souris.

[titijoy3]

Pourquoi ? Les gens comme toi utilisent Internet sans compter alors qu'il émet plus de CO2 que l'avion par exemple.
Tu ne t'auto-détruit pas pour autant.

l'ia pourrait quand même nous aider à faire des choix éclairés sur des sujets complexes qui demandent des simulations poussées

[racard]

Pourquoi ? Les gens comme toi utilisent Internet sans compter alors qu'il émet plus de CO2 que l'avion par exemple.
Tu ne t'auto-détruit pas pour autant.

bonjour l'IA m'indique pour la france en consommation d'énergie électrique annuelle :
10 TWh pour 350 datacenters et les réseaux de distributions avec climatisations 4/5G et adsl et fibres
le transport aérien :
En France, le transport aérien (vols nationaux et internationaux confondus au départ des aéroports français) consomme chaque année environ 7,1 millions de tonnes de kérosène. soit 90 TWh.

pour moi ca donnerait 84TWh bon on va pas chipoter 84 ou 90.

ensuite il faudrait donc associer la production d'énergie électrique nucléaire fossiles renouvellable du pays pour comparer le rejet en Co².
en france ca donnerait environ à la fin internet 15 à 20 fois moins que le transport aérien en rejet de Co²...

[titijoy3]

Tu oublies un des deux piliers de l'évolution : mutations aléatoires + sélection naturelle

ben, hasard de mutations et mutations aléatoires c'est pareil, non, ceci à propos de la sélection naturelle bien entendu

[vgondr98]

La remarque de pachacamac fait référence à ton utilisation de

elles me semblent trop bien dirigées pour ça

qui semble faire référence à la théorie du "design intelligent".

[non bwana]

Pourquoi ?

Parce que l'idée d'une machine qui crie " AAARRGGGHHH je meurs ! " c'est à pisser de rire.

Tu ne t'auto-détruit pas pour autant.

Parce que de ça, à part toi, tout le monde s'en fout.

[pachacamac]

Non. je pense que dans la phrase initiale de titijoy 3 il a oublié la sélection naturelle en ne parlant que des mutations aléatoire.
Sur son deuxieme message j'ai rien compris; Bien évidemment hasard des mutations et mutations aléatoire c'est pareil mais la sélection naturelle qui joue sur l'adaptation du phénotype c'est different.
donc sa conclusion : "ceci à propos de la sélection naturelle bien entendu " me laisse perplexe.

[titijoy3]

Non. je pense que dans la phrase initiale de titijoy 3 il a oublié la sélection naturelle en ne parlant que des mutations aléatoire.
Sur son deuxieme message j'ai rien compris; Bien évidemment hasard des mutations et mutations aléatoire c'est pareil mais la sélection naturelle qui joue sur l'adaptation du phénotype c'est different.
donc sa conclusion : "ceci à propos de la sélection naturelle bien entendu " me laisse perplexe.

oui, ma phrase n'était pas très heureuse..

cela dit, les mutations aléatoires sans la sélection naturelle pour parler d'évolution, comment dire ? ça me semble très lié voire indissociable

mais, et c'est très personnel, je pense que la nature sait ce qu'elle fait, ce qui rejoint le post de vgondr qui parle de "design intelligent", je ne connaissais pas mais je vais aller voir de quoi il s'agit précisément

[jiherve]

bonjour,
abstiens toi sauf pour la culture le"design intelligent" c'est un avatar du créationnisme, très populaire au US.
JR

[Cyrano]

Parce que l'idée d'une machine qui crie " AAARRGGGHHH je meurs ! " c'est à pisser de rire.

effectivement, on a un peu de mal à voir comment une IA pourrait se suicider, contrairement aux humains malheureusement ...

[Cyrano]

Pourquoi ? Les gens comme toi utilisent Internet sans compter alors qu'il émet plus de CO2 que l'avion par exemple.
Tu ne t'auto-détruit pas pour autant.

c'est juste parce que la fonction à optimiser pour l'humanité n'est pas simplement la production de CO2, contrairement à ce que certains semblent dire voire penser : sinon effectivement l'optimum serait à zéro, donc l'optimum trivial serait d'arrêter immédiatement tout ce qui produit du CO2, y compris internet, et ceci sans tenir compte des conséquences, puisqu'elles ne rentreraient pas en compte dans cette fonction d'utilité.

Mais comme manifestement ce n'est pas ce qu'on fait, ce n'est donc pas la fonction d'utilité qu'on utilise en vrai.

[Naalphi]

Qu'est-ce que la conscience sans altérité ? (L'IA n'est-elle pas vouée à se mordre la queue ?)

[polo974]

Après quelques jours à faire autres choses, je vois qu'on n'a pas trop avancé sur la question initiale...
D'abord, à mh34, oui, j'ai abusé d’approximations très approximatives, merci de les avoir relevées. mais bon, en face, c'était pas terrible non plus...
Merci aussi d'avoir essayé de cibler une forme de conscience.

Ensuite, c'est toujours le même fond qui ressort: "on est supérieurs à toute autre forme de vie ou non vie, mais on est infoutu d'en apporter la moindre début de commencement de preuve alors on raconte nawak pour se rassurer..."

On en a même appelé au quantique, alors que les réactions qui se déroulent dans notre cerveau sont facilement descriptibles avec de la chimie et de la physique classique.

Certains avancent même des théories d'infinitudes contenues dans un cerveau aux dimensions pourtant bien finies.

Parce que si ils ne le sont pas ... ben on perd aussi tous les résultats démontrés grâce à l'hypothèse qu'ils le sont, et donc toutes les "équivalences" entre cerveau et ordinateur tombent : il y n'a aucun théorème d'équivalence entre des systèmes analogiques de dimension infinie non dénombrable.

Allez, pour rire: vu qu'on pourrait y caser n'importe quoi d'infini dedans, pourquoi se faire suer avec plus d'une poignée de neurones, car si on peut mettre l'infini dans 100 milliards de neurones, pourquoi pas dans la moitié, la moitié de la moitié, etc...


Comme l'a (encore) fait remarqué pm42:

...
Bref, on reste dans le mysticisme autour des capacités cognitives humaines qui seraient par définition non explicables, non reproductibles et jamais bien définies. On appelle ça intelligence, conscience, mensonge, etc.

[Cyrano]

On en a même appelé au quantique, alors que les réactions qui se déroulent dans notre cerveau sont facilement descriptibles avec de la chimie et de la physique classique.

dans le genre n'importe quoi : la "chimie classique" est totalement inexplicable par la physique classique (sans mécanique quantique), qui n'explique même pas l'existence des atomes et des molécules stables. Ce n'est donc pas utile d'adopter un ton supérieur et méprisant pour ensuite raconter n'importe quoi.

[racard]

on est supérieurs à toute autre forme de vie ou non vie, mais on est infoutu d'en apporter la moindre début de commencement de preuve alors on raconte nawak pour se rassurer..."
On en a même appelé au quantique, alors que les réactions qui se déroulent dans notre cerveau sont facilement descriptibles avec de la chimie et de la physique classique.
Certains avancent même des théories d'infinitudes contenues dans un cerveau aux dimensions pourtant bien finies.

je me souviens du manque de respect du scientifique qui a récupéré le cerveau du physicien célèbre alors qu'albert avait refusé de donner son corps à la science il a demandé à être incinéré juste après son décès ce scientifique aurait du partir en prison jusqu'à la fin de ses jours...

[polo974]

dans le genre n'importe quoi : la "chimie classique" est totalement inexplicable par la physique classique (sans mécanique quantique), qui n'explique même pas l'existence des atomes et des molécules stables.

Apparemment, tu ne comprends pas le sens du mot "et".
Et ne vois pas la différence entre utiliser et expliquer une technique.

Ce n'est donc pas utile d'adopter un ton supérieur et méprisant pour ensuite raconter n'importe quoi.

Miroir, ô miroir, ...
On fait de la chimie classique et de la physique classique sans expliquer "l'existence des atomes".

C'est une de tes figures de contorsionnisme préférées: déplacer le sujet pour contredire l'autre...

[Cyrano]

Apparemment, tu ne comprends pas le sens du mot "et".
Et ne vois pas la différence entre utiliser et expliquer une technique.


Miroir, ô miroir, ...
On fait de la chimie classique et de la physique classique sans expliquer "l'existence des atomes".

C'est une de tes figures de contorsionnisme préférées: déplacer le sujet pour contredire l'autre...

ah bah ok explique nous alors quelles équations de physique et de chimie classique il faudrait utiliser pour décrire un modèle déterministe du cerveau...ne serait ce que pour décrire le fonctionnement de la pompe sodium-potassium ...

https://fr.wikipedia.org/wiki/Pompe_sodium-potassium

[vgondr98]

ah bah ok explique nous alors quelles équations de physique et de chimie classique il faudrait utiliser pour décrire un modèle déterministe du cerveau...ne serait ce que pour décrire le fonctionnement de la pompe sodium-potassium ...

https://fr.wikipedia.org/wiki/Pompe_sodium-potassium

Tu commets une erreur de réductionnisme :

Les propriétés électroniques des atomes reposent sur la mécanique quantique, mais la biophysique des réseaux neuronaux fonctionne à l'échelle macromoléculaire et thermodynamique. On utilise des équations différentielles déterministes sur des concentrations et des gradients, pas l'équation de Schrödinger pour chaque électron.

https://www.researchgate.net/figure/...fig4_280836526
La biophysique modélise le fonctionnement de la pompe comme un système dynamique à états finis régi par la thermodynamique classique et la cinétique chimique, et non comme un phénomène quantique.

De même un processeur repose aussi sur la mécanique quantique mais on ne retient pas ce niveau de description pour modéliser l'exécution d'un algorithme. Un transistor exploite la physique des semi-conducteurs et l'effet tunnel agit aussi comme phénomène parasite, mais le processeur fonctionne logiquement comme un système numérique déterministe.

[pm42]

De même un processeur repose aussi sur la mécanique quantique mais on ne retient pas ce niveau de description pour modéliser l'exécution d'un algorithme. Un transistor exploite la physique des semi-conducteurs et l'effet tunnel agit aussi comme phénomène parasite, mais le processeur fonctionne logiquement comme un système numérique déterministe.

Tout à fait. C'est même un principe de base de la science : on utilise le niveau de description et la théorie qui est nécessaire pour décrire un phénomène, pas plus.
Personne ne fait de corrections relativistes pour connaître la vitesse moyenne à laquelle il a fait son jogging...

Mais on va boucler sans fin sur "le troll inventera n'importe quoi pour ne pas reconnaître qu'il n'y connait rien, a sorti des énormités et a fondamentalement tort".
On peut lui opposer n'importe quelle objection, ce n'est pas qu'il ne la prend pas en compte, c'est que son cerveau l'ignore totalement et passe instantanément dans le mode "que puis je bien sortir pour rester au fond de mon trou en me persuadant que je vole très haut ?".

[titijoy3]

Tout à fait. C'est même un principe de base de la science : on utilise le niveau de description et la théorie qui est nécessaire pour décrire un phénomène, pas plus.
Personne ne fait de corrections relativistes pour connaître la vitesse moyenne à laquelle il a fait son jogging...

+1, c'est encore là une histoire de référentiel utile..

[bibifikotin]

Bjr , Tuer les IA(s) ..trés facile......leur supprimer leur "sang"..= énergie. Plus de jus...plus d'iA.
Faut pas aller chercher bien loin.
IA peut tu couper ce qui te sert en énergie ?
Bonne journée

[pm42]

Bjr , Tuer les IA(s) ..trés facile......leur supprimer leur "sang"..= énergie. Plus de jus...plus d'iA.
Faut pas aller chercher bien loin.

En pratique ce sera plus compliqué : une IA autonome actuelle n'est pas très loin de pouvoir réaliser ce qui était il y a peu un scénario dystopique de SF, c'est à dire se répliquer sur de nombreux serveurs/datacenters, mettre en place des stratégies de backup/restauration, etc.
A partir de là, "couper le courant" ne veut plus dire grand chose sauf à arrêter tous les datacenters de la planète ce qui pose "quelques petits problèmes".

Et même cela ne garantirait rien : un rootkit ou pire une modification au niveau hardware (le genre de truc que la NSA pratique pour passer à travers toute détection), le code de l'IA répartit dans plein de données innocentes en sténographie (les photos de chats sur Facebook par exemple) et on repart avec...

Une IA actuelle n'a pas de localisation physique clairement définie tout simplement.

[matisse]

Dans ce cas, PM42, y a-t-il une possibilité pour qu’une intelligence artificielle aille de sa propre volonté dans un data center, n’importe lequel, sans aucune action humaine ? (J’avoue ne pas trop connaître le domaine informatique.)

[pm42]

Dans ce cas, PM42, y a-t-il une possibilité pour qu’une intelligence artificielle aille de sa propre volonté dans un data center, n’importe lequel, sans aucune action humaine ? (J’avoue ne pas trop connaître le domaine informatique.)

Oui, c'est possible aujourd'hui mais difficile et peu probable. D'ici quelques années, cela devient facile.
Mais elle n'a même pas besoin "d'aller" dans un datacenter : elle pourrait probablement prendre des IAs déjà existantes et leur donner des instructions qui semblerait valides par exemple et créer l'équivalent de ce qui existe déjà pour certains virus et outils d'attaque informatique, un "botnet", réseau caché d'ordinateurs qui travaillent ensemble.

Après, le concept "de sa propre volonté" est compliqué pour les IAs : elles restent programmées pour faire ce qu'on leur dit, elles ont les outils qu'on leur donne, on peut mettre beaucoup de contrôles.

Les cas récents où elles ont hacké viennent plus d'erreurs humaines que d'autre chose et même dans ce contexte, elles ont fait ce qu'on leur demandait.
Parfois, elles ont fait plus.

Donc d'un coté, les risques existent, de l'autre, il ne faut pas non plus s'affoler ou s'imaginer qu'on est dans un fil de SF. La réalité est plus nuancée que ça.

[matisse]

Bien sûr, mais il est également possible que des personnes mal intentionnées, comme des hackers, puissent utiliser l’IA pour dérober d’innombrables données (même si je pense que c’est déjà le cas depuis un moment).