IA et conscience

[pm42]

C'est en effet déjà le cas et c'est en effet un tique important.
Ceci dit, il y a des solutions pour éviter les scénarios catastrophes dont certaines ont déjà été mises en œuvre et même avant l'IA. C'est un question de coût vs risque aussi.
-----

[polo974]

ah bah ok explique nous alors quelles équations de physique et de chimie classique il faudrait utiliser pour décrire un modèle déterministe du cerveau...ne serait ce que pour décrire le fonctionnement de la pompe sodium-potassium ...

Heureusement que nos lointains ancêtres n'ont pas attendu de maîtriser la méca quantique pour apprivoiser le feu...


à pm42, juste pour rire: stéganographie et non sténographie (saleté de correcteur ortografic , le CAP de stéodactylo a disparu dans les années 80...)

[grosboul]

le CAP de stéodactylo

saleté de correcteur

Oui mais non.

[titijoy3]

Heureusement que nos lointains ancêtres n'ont pas attendu de maîtriser la méca quantique pour apprivoiser le feu...


à pm42, juste pour rire: stéganographie et non sténographie (saleté de correcteur ortografic , le CAP de stéodactylo a disparu dans les années 80...)

j'ai bien ri

[polo974]

Oui mais non.

j'ai bien ri

"En effet..." (voix grave et crâne rasé...)

[matisse]

J’ai rien compris moi mdr, je vais voir sur Internet ce que veulent dire tous ces mots

[matisse]

Effectivement, je viens de voir, ce n’est pas de ma génération...

[pm42]

à pm42, juste pour rire: stéganographie et non sténographie

Le pire, c'est que j'ai bien tapé stéganographie mais effectivement, le mot n'est pas connu et a donc été corrigé à la volée...
saleté de correcteur ortografic comme tu dis.

[bibifikotin]

En pratique ce sera plus compliqué : une IA autonome actuelle n'est pas très loin de pouvoir réaliser ce qui était il y a peu un scénario dystopique de SF, c'est à dire se répliquer sur de nombreux serveurs/datacenters, mettre en place des stratégies de backup/restauration, etc.
A partir de là, "couper le courant" ne veut plus dire grand chose sauf à arrêter tous les datacenters de la planète ce qui pose "quelques petits problèmes".

REmoi,
Bien compris qu'une IA peut etre..."délocalisable" ou meme mieux se "dupliquer"...ailleurs.
Si "réplique " ailleurs, cela implique qu'il faut que l'hébergeur dispose de la place nécessaire informatiquement parlant.
Doit y avoir une limite à cela ( trop tard= tout est occupé !!!.....meme si tout cela peut etre caché dans un...chat).
A moins de faire le tour des "hébergeurs" disponibles et essaimer en divers points suivant disponobilités
J'ai une autre question, mais la ferait par MP.
Bonne journée

[Cyrano]

Tu commets une erreur de réductionnisme :

Les propriétés électroniques des atomes reposent sur la mécanique quantique, mais la biophysique des réseaux neuronaux fonctionne à l'échelle macromoléculaire et thermodynamique. On utilise des équations différentielles déterministes sur des concentrations et des gradients, pas l'équation de Schrödinger pour chaque électron.

https://www.researchgate.net/figure/...fig4_280836526
La biophysique modélise le fonctionnement de la pompe comme un système dynamique à états finis régi par la thermodynamique classique et la cinétique chimique, et non comme un phénomène quantique.

De même un processeur repose aussi sur la mécanique quantique mais on ne retient pas ce niveau de description pour modéliser l'exécution d'un algorithme. Un transistor exploite la physique des semi-conducteurs et l'effet tunnel agit aussi comme phénomène parasite, mais le processeur fonctionne logiquement comme un système numérique déterministe.

comme j'avais dit, la différence est qu'un ordinateur est construit pour que les effets analogiques n'aient aucune influence sur la description discrète en bits dont l'évolution est déterministe (donc analogues à une machine de Turing), alors qu'il n'y a rien de tel pour le cerveau. Modéliser ne signifie pas décrire l'évolution sans erreur, pas plus que modéliser la météo ne signifie avoir des prédictions exactes. Par ailleurs, si tu utilises un formalise continu avec des concentrations et des diffusions, tu travaille dans un espace de fonctions de dimension infinie. En pratique pour calculer les solutions, tu seras obligé de le discrétiser et de te ramener à une dimension finie, mais ça devient une approximation non exacte du problème.

[pm42]

mais ça devient une approximation non exacte du problème.

C'est la définition de la science et d'en gros pratiquement toute la connaissance humaine.
Au passage "approximation non exacte" est un pléonasme.

Encore une fois, tu n'as pas la moindre idée de ce dont tu parles, tjs les mêmes affirmations fausses sur le cerveau, la même ignorance du fait que la réalité physique n'a pas une précision infinie, que le sujet n'est pas la "dimension de l'espace de fonctions"...

[mh34]

En passant ( parce que je ne souhaite plus participer à ce fil, dont le ton est devenu TRES désagréable à lire sur certaines interventions et sans aucun profit pour le lecteur lambda de surcroit...), et comme le sujet de la conscience concerne quand même "pas mal" les neurosciences, et que, encore une fois, aucun intervenant sur ce fil n'a apparemment les compétences nécessaires pour apporter et expliciter des informations pertinentes dans ce domaine, ...voici un lien instructif, facile à lire, datant de 2025, https://lejournal.cnrs.fr/cerveau-co...-neurosciences, qui met en lumière certains éléments très intéressants ; la bibliographie est également utile pour ceux qui souhaitent vraiment apprendre sur le sujet.

[Cyrano]

C'est la définition de la science et d'en gros pratiquement toute la connaissance humaine.
Au passage "approximation non exacte" est un pléonasme.

Encore une fois, tu n'as pas la moindre idée de ce dont tu parles, tjs les mêmes affirmations fausses sur le cerveau, la même ignorance du fait que la réalité physique n'a pas une précision infinie, que le sujet n'est pas la "dimension de l'espace de fonctions"...

alors si je n'ai pas la moindre idée de ce dont je parle, peux tu me corriger stp et me dire ce qui est faux là dedans :

Proposition 1 : il existe des systèmes physiques ARTIFICIELS (conçus et fabriqués par l'homme) dont le but est d'exécuter des algorithmes, c'est à dire dont l'état physique peut etre caractérisé par un nombre fini de variables prenant un nombre fini de valeurs, qui contiennent toute l'information utile (sachant que la description physique sous-jacente est inutile) et dont l'évolution peut etre prédite de manière déterministe par un algorithme ne dépendant que ces variables discrètes.

Un exemple très simple pourrait etre un métronome dont la position peut etre caractérisée par deux valeurs (droite ou gauche) et dont l'évolution est simplement DGDGDGDGD...

Un exemple plus compliqué serait une horloge

Un exemple encore plus compliqué serait un ordinateur.

Tous ces systèmes ont la caractéristique d'être algorithmiques et modélisables par une machine de Turing universelle.

-----> vrai , ou faux, et si c'est le cas, qu'est ce qui est faux ?

Proposition 2 : le cerveau n'appartient pas à la catégorie de ces objets

-----> vrai , ou faux, et si c'est le cas, qu'est ce qui est faux ?

[vgondr98]

comme j'avais dit, la différence est qu'un ordinateur est construit pour que les effets analogiques n'aient aucune influence sur la description discrète en bits dont l'évolution est déterministe (donc analogues à une machine de Turing), alors qu'il n'y a rien de tel pour le cerveau.

https://pmc.ncbi.nlm.nih.gov/article...17-1220030.pdf

L'analyse de cet article de synthèse (Gebicke-Haerter, 2023) montre que le cerveau ne fonctionne pas comme un ordinateur numérique classique (machine de Turing), mais repose sur une hybridation permanente entre processus analogiques et numériques.

abstract (traduit):

À la fin du XXᵉ siècle, les systèmes analogiques en informatique ont été largement remplacés par des systèmes numériques en raison de leur puissance de calcul supérieure.
Néanmoins, la question continue d'intriguer jusqu'à aujourd'hui : le cerveau est-il analogique ou numérique ?
Initialement, la seconde option a été privilégiée, le considérant comme une machine de Turing fonctionnant comme un ordinateur numérique.
Cependant, plus récemment, des processus numériques et analogiques ont été combinés pour implanter le comportement humain chez les robots, les dotant ainsi d'intelligence artificielle (IA).
Par conséquent, nous pensons qu'il est opportun de comparer les modèles mathématiques avec la biologie du calcul dans le cerveau.
À cette fin, les processus numériques et analogiques clairement identifiés dans les interactions cellulaires et moléculaires du système nerveux central sont mis en évidence.
Mais au-delà de cela, nous tentons de déterminer les raisons qui distinguent le calcul in silico des caractéristiques marquantes du calcul biologique.

Premièrement, un traitement de l'information véritablement analogique a été observé dans les synapses électriques et à travers les jonctions communicantes (gap junctions), ces dernières se trouvant à la fois dans les neurones et les astrocytes.

En apparence opposés à cela, les potentiels d'action (PA) neuronaux ou spikes représentent clairement des événements numériques, à l'image du oui/non ou 1/0 d'une machine de Turing.

Cependant, les spikes sont rarement uniformes : ils peuvent varier en amplitude et en largeur, ce qui a des effets significatifs et différenciés sur la libération de neurotransmetteurs au niveau du terminal présynaptique, où la libération quantique (vésiculaire) elle-même est pourtant numérique.

À l'inverse, au niveau du site dendritique du neurone postsynaptique, on trouve de nombreux événements de calcul analogiques.

De plus, la transmission synaptique de l'information n'est pas seulement neuronale, mais fortement influencée par les astrocytes qui englobent étroitement la majorité des synapses dans le cerveau (synapse tripartite).

C'est au moins à ce stade qu'il faut discuter de la PLT (plasticité à long terme) et de la DLT (dépression à long terme) qui modifient la plasticité synaptique et sont censées induire des processus de mémoire à court et long terme, y compris la consolidation (l'équivalent de la RAM et de la ROM dans les dispositifs électroniques).

Les connaissances actuelles sur la manière dont le cerveau stocke et récupère les souvenirs incluent une variété d'options (par exemple, les oscillations des réseaux neuronaux, les cellules engrammes, le syncytium astrocytaire). Les mécanismes épigénétiques jouent également des rôles cruciaux dans la formation et la consolidation de la mémoire, ce qui mène nécessairement à des événements moléculaires tels que la transcription et la traduction des gènes.

En conclusion, le calcul cérébral n'est pas seulement numérique ou analogique, ni une simple combinaison des deux, mais englobe des caractéristiques fonctionnant en parallèle et d'un niveau de complexité supérieur.

Information processing in brain:
biological concepts
2.1. Electrical synapses and neuronal gap junctions as fundamentally analog devices (page 4) résumé :
Ce qu'il faut retenir : Les synapses électriques ne servent pas qu'à transmettre brutalement des potentiels d'action ; elles forment un réseau de calcul fondamentalement analogique qui régule la dynamique globale des circuits cérébraux.

2.2. Spike shapes and synaptic transmission (page 5) résumé :
Ce qu'il faut retenir : Contrairement aux puces électroniques où un bit reste un 1 ou un 0 invariable quel que soit l'état physique du composant, le « bit » du cerveau (le potentiel d'action) se déforme en continu sous l'effet de son environnement biochimique. Cette déformation analogique (amplitude, largeur) modifie directement le message chimique transmis à la synapse : c'est ce que les chercheurs appellent la transmission synaptique analogique-numérique.

3. The postsynaptic element and dendritic computation (page 7) résumé :
Ce qu'il faut retenir : Contrairement aux puces électroniques où le calcul est centralisé, chaque branche dendritique agit comme un micro-processeur hybride (analogique et numérique) indépendant. Le cerveau n'attend pas que le signal arrive au corps cellulaire pour décider : il calcule et filtre l'information en continu le long de l'arbre dendritique grâce à l'agencement spatial des synapses et à la dynamique des potentiels locaux.

3.1. Long term potentiation (page 7) résumé :
Ce qu'il faut retenir : La mémoire dans le cerveau ne s'inscrit pas par une écriture binaire instantanée dans un composant statique. La consolidation mnésique repose sur une cascade biochimique et une synthèse protéique locale (dans la dendrite) qui relie dynamiquement les souvenirs proches dans le temps. C'est un mécanisme biologique d'allocation de ressources à l'échelle micrométrique, très loin du fonctionnement de la mémoire RAM ou du disque dur d'un ordinateur.

3.2. Bifurcations, storage of information, and engram formation
Ce qu'il faut retenir : Un engramme n'est ni un « fichier » écrit dans un secteur fixe du disque dur, ni une simple variable binaire. C'est un sous-réseau dynamique de neurones physiquement modifiés au niveau de leur génome (transcriptome de plasticité) et de leurs canaux ioniques. La mémoire s'auto-entretient par des cascades biochimiques auto-catalytiques et se réorganise en continu à travers le système nerveux lors du sommeil et des phases de rappel.

...

5.6. Theoretical concepts (page 16) résumé :
Ce qu'il faut retenir : À cette échelle d'organisation (le syncytium astrocytaire), le traitement analogique de l'information prédomine largement. Gebicke-Haerter conclut que, même à un niveau élevé de précision cellulaire, le calcul analogique est bien plus efficace en termes de ressources énergétiques et computationnelles que le calcul numérique déterministe.

6. Concluding remarks (page 16) résumé :
Ce qu'il faut retenir : L'article conclut que le cerveau ne peut pas être réduit à une machine de Turing ni à un simple ordinateur hybride. Le calcul biologique s'effectue sur une multitude de niveaux distribués (du moteur moléculaire jusqu'au réseau astrocytaire). Vouloir plaquer la dichotomie « binaire/analogique » des ordinateurs sur la biologie cérébrale est une erreur conceptuelle : le cerveau est un système probabiliste, dynamique, irréversible et non-déterministe qui dépasse largement les capacités de n'importe quel supercalculateur actuel.

En résumé, un cerveau est bel et bien différent d'un ordinateur actuel. Mais rien n’empêche un système informatique combinant calcul analogiques et numériques d'exister un jour (puces neuromorphiques, puces analogiques,...) donc ton affirmation de l'absence de conscience artificiel dans le futur basé sur cet argument ne me convainc pas.

[vgondr98]

Au-delà de la biophysique synaptique, l'argument selon lequel un système purement algorithmique serait par nature incapable de développer une forme de conscience ne me convainc pas non plus.

[pm42]

On peut aussi se demander pourquoi on ne peut pas reproduire avec la précision nécessaire un système analogique avec du numérique. On fait ça pour déjà presque tout ce qui nous entoure, en science, ingénierie, etc.
On a même pas mal de résultats théoriques à commencer par Shannon-Nyquist bien sur et les limites (non-linéarité, chaos) sont gérables et le cerveau ne semble y être très sensible.

L'argument a déjà été donné dans ce fil ceci dit mais la pétition de principe "analogique donc non simulable".

[vgondr98]

Tous ces systèmes ont la caractéristique d'être algorithmiques et modélisables par une machine de Turing universelle.

-----> vrai , ou faux, et si c'est le cas, qu'est ce qui est faux ?

Proposition 2 : le cerveau n'appartient pas à la catégorie de ces objets

-----> vrai , ou faux, et si c'est le cas, qu'est ce qui est faux ?

Les deux messages que j'ai posté en 374 et 375 répondent à tes questions rhétoriques :
La 1 et la 2 sont vraie mais en déduire qu'une conscience artificielle est impossible théoriquement reste un saut logique non démontré.

[vgondr98]

On peut aussi se demander pourquoi on ne peut pas reproduire avec la précision nécessaire un système analogique avec du numérique.

Il me semble que cela a été fait selon cette référence (émulation de la drosophile):
https://theinnermostloop.substack.co...r-brain-upload

L'équipe a réussi à connecter un cerveau biologique entièrement modélisé à l'échelle neuronale à un corps virtuel soumis aux lois de la physique, créant ainsi un organisme virtuel autonome capable de plusieurs comportements.

1) Ils sont partis de la carte neuronale complète d'une mouche du vinaigre (Drosophila melanogaster), issue du projet FlyWire (microscopie électronique). Cela représente 125 000 neurones et 50 millions de connexions synaptiques, avec une prédiction par IA de l'identité des neurotransmetteurs pour chaque synapse.
2) Au lieu de laisser ce cerveau virtuel tourner « à vide » dans un ordinateur, ils l'ont connecté au corps virtuel d'une mouche dans MuJoCo (un moteur de simulation physique de précision, souvent utilisé en robotique).
3) Les signaux sensoriels virtuels entrent dans le cerveau emulé, l'activité électrique se propage à travers les 125 000 neurones, et les commandes motrices qui en sortent font bouger le corps physique dans le simulateur.
4) Le corps virtuel exécute plusieurs comportements distincts (marche, orientation, etc.) qui émergent directement de la dynamique du réseau neuronal biologique copié.

C'est une rupture car le mouvement provient uniquement de la copie exacte de la biologie et personne n'a codé les mouvements des pattes.
La suite du programme est de passer à la souris puis à l'humain à terme.

limite actuelle : l'émulation tourne sur une « photo instantanée » (snapshot) du connectome. La plasticité synaptique dynamique (apprentissage en temps réel, remodelage biochimique) n'y est pas encore intégrée. Mais cela montre déjà que la dynamique d'activation d'un réseau biologique peut être exécutée sur du numérique. La plasticité n'est que la couche d'équations biochimiques suivante à simuler.

[pachacamac]

vgondr98 +10
Enfin un post qui nous actualise la neurobiologie.

Note : Je suis d'accord avec ta conclusion

[pm42]

Il me semble que cela a été fait selon cette référence (émulation de la drosophile):
https://theinnermostloop.substack.co...r-brain-upload

De mémoire, j'avais donné cette référence (ou une équivalente) au début du fil mais c'est bien le problème : tout argument factuel est ignoré par une partie des participants. Rien de nouveau.

[pachacamac]

@pm42 : Comptes tu t'abonner à GPT 6 Astra?

ci dessous une "reflexion de ChatGPT 5.6 Luna"

La grande question du XXIᵉ siècle pourrait donc ne pas être :

« Peut-on fabriquer une machine consciente ? »

mais plutôt :

« Comment saurons-nous que nous l'avons fait ? »

[Avatar10]

Il me semble que cela a été fait selon cette référence (émulation de la drosophile):
https://theinnermostloop.substack.co...r-brain-upload

Si intéressé, cf messages 143 & 150.

[pm42]

@pm42 : Comptes tu t'abonner à GPT 6 Astra?

Je vais voir si je peux l'utiliser pour des tests de cybersécurité mais les harnais sont souvent assez bloquants.
J'utilise surtout les modèles d'Anthropic en ce moment pas parce qu'ils sont meilleurs (qui est 1er varie tous les 3 mois) mais plus que suffisants et surtout que Claude Code est un des meilleurs agents et donc mon outil quotidien.

ci dessous une "reflexion de ChatGPT 5.6 Luna"

Oui, cette réponse revient à ce qu'on dit depuis le début : il faut une définition testable de la conscience. Pour le moment, on est resté au niveau de la célèbre citation "je ne sais pas définir la pornographie mais je sais la reconnaitre quand j'en vois" sauf que justement, cela ne marche déjà pas en terme de droit mais encore moins en science.

[polo974]

...
Un exemple encore plus compliqué serait un ordinateur.

Tous ces systèmes ont la caractéristique d'être algorithmiques et modélisables par une machine de Turing universelle.

-----> vrai , ou faux, et si c'est le cas, qu'est ce qui est faux ?
...

Faux, la plupart des ordinateurs actuels incorporent de vrais générateurs aléatoires (au niveau du cpu même ou de périphériques internes), donc à partir de là, coté déterministe, c'est un peu loupé...


Sinon, de l'autre coté, la modélisation mathématique avec des systèmes continus ne veux pas dire que la nature sous-jacente simulée est aussi continue.

C'est donc un premier niveau d'approximation, et ensuite, la quantification pour le calcul numérique en est un second.
Mais si on prend suffisamment de précautions, et qu'on reste conscient des risques de débordement ou de quantification excessive, on arrive à faire de belles simulations numériques qui représentent bien l'objet de l'étude. (si on ne prend pas garde, on refait parfois le premier vol d'Ariane 5...)

La nature d'un cerveau n'est ni continue, ni infinie. C'est très gros, très compliqué, ok, mais ni infini, ni continu...

[ThM55]

La seule approche scientifique possible est celle qui établit des corrélations reproductibles entre les éléments d'un discours sur une expérience consciente subjective et des phénomènes observables. Ces phénomènes relèvent des neurosciences pour l'humain et par extension pour les animaux (par extension car ils ne s'expriment pas sur leur conscience pour autant que je sache). Je n'ai aucune idée de leur nature éventuelle pour une IA, mais je ne vois pas de raison pour que cela reste inaccessible.

[pm42]

Faux, la plupart des ordinateurs actuels incorporent de vrais générateurs aléatoires (au niveau du cpu même ou de périphériques internes), donc à partir de là, coté déterministe, c'est un peu loupé...

Oui et dans le même genre, les IAs ont justement un paramètre pour introduire du non déterminisme. Et leur entrainement ne l'est pas non plus (à nuancer mais une bonne approximation)

Sinon, de l'autre coté, la modélisation mathématique avec des systèmes continus ne veux pas dire que la nature sous-jacente simulée est aussi continue.

En fait, la nature n'est pas continue parce que cela supposerait une quantité infinie d'information dans n'importe quel morceau d'espace.
On développe même des maths appliquées à la physique pour prendre cela en compte (cf. par ex Peut-on se passer de l’infini ? dans Pour la Science du mois d'août qui vaut la peine indépendamment de tout).

La nature d'un cerveau n'est ni continue, ni infinie. C'est très gros, très compliqué, ok, mais ni infini, ni continu...

Oui et c'est quelque chose qu'on dit depuis le début du fil et qui rentre dans la catégorie "ignorée".

[ThM55]

On développe même des maths appliquées à la physique pour prendre cela en compte (cf. par ex Peut-on se passer de l’infini ? dans Pour la Science du mois d'août qui vaut la peine indépendamment de tout).

Beaucoup à critiquer dans ces articles, mais ce serait hors sujet.

[pm42]

Beaucoup à critiquer dans ces articles, mais ce serait hors sujet.

Pas vraiment vu qu'ici, on parle un peu de tout. Et cela m'intéresse d'avoir ton point de vue.

[Liet Kynes]

La seule approche scientifique possible est celle qui établit des corrélations reproductibles entre les éléments d'un discours sur une expérience consciente subjective et des phénomènes observables. Ces phénomènes relèvent des neurosciences pour l'humain et par extension pour les animaux (par extension car ils ne s'expriment pas sur leur conscience pour autant que je sache). Je n'ai aucune idée de leur nature éventuelle pour une IA, mais je ne vois pas de raison pour que cela reste inaccessible.

On peux même poser l'idée que ces phénomènes ne soient pas distinguables; pourquoi pas après tout ?

[Cyrano]

Au-delà de la biophysique synaptique, l'argument selon lequel un système purement algorithmique serait par nature incapable de développer une forme de conscience ne me convainc pas non plus.

je n'ai pas posé ça comme principe, j'ai juste demandé ce que 'ressentirait" un tel algorithme exécuté à un coup par heure, pendant l'heure où il ne se passerait rien.

Mais si la réponse est qu'on ne peut pas parler de conscience sans l'avoir définie, evidemment ta phrase n'a pas plus de signification que ma question.