J'ai fait mettre mes idées en ordre par L'IA:Envoyé par pm42
"Parce que « conscience » est un nom, nous recherchons l'objet qui correspond à ce nom.Tant que la conscience humaine elle-même sera traitée comme une substance réelle et non comme l’illusion cognitive qu’elle est, chercher sa présence dans l’IA revient à traquer le reflet d’une hypostase. "
La référence est dans les idées de Daniel Dennett que je découvre et qui me semble pertinent https://fr.wikipedia.org/wiki/Daniel_Dennett
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
Je ne suis pas en détail mais je dirais que cela rejoint les débats sur la possibilité de donner à une IA une représentation du monde sans lui faire expérimenter une interaction physique en effet.
Après, c'est encore plus compliqué parce qu'on peut imaginer une IA qui développerait cette représentation/conscience en interagissant avec un monde virtuel.
C'est d'ailleurs ce qu'on fait dans des travaux de recherche pour créer des IAs capables par exemple de générer des vidéos réalistes plus longues que quelques secondes sans introduire des aberrations physiquement impossible.
On fait cela aussi pour les entrainer à conduire des voitures : vu le coût et le temps que représente un entrainement en conditions réelles, mêmes dans les fausses villes crées pour cela, on les fait conduire dans des jeux vidéos réalistes comme GTA.
Se pose alors la question comme pour la conscience, le mensonge, etc de savoir si ce qu'elles développent est une conscience phénoménale ou pas.
la conscience du gars qui a été anesthésié n'a jamais fonctionné "au ralenti" , dix fois moins vite par exemple. Elle a disparu et a réapparu (mais pas du tout dans le même état comme tu le prétends, tu te réveilles dans le coltard alors que tu t'es endormi quand tout allait bien).
je n'ai rien disqualifié, j'ai demandé ce qu'il se passerait si on exécutait l'algorithme 1 milliard de fois plus lentement et tu n'as donné aucune réponse claire.mais le simple fait qu'une ia ait une capacité supplémentaire (de pouvoir être mise à l'arrêt un temps indéfini puis de reprendre là où elle était) n'a aucune raison de disqualifié l'ia à l'accès à une conscience.
(en passant, ça ne se fait pas juste en figeant l'horloge, car ce faisant, on perdrait les données en quelques ms (ou même moins)...)
Evidemment on peut concevoir des systèmes qui gardent une information bien plus longtemps que la ms, la façon dont les ordinateurs actuels fonctionnent n'est pas pertinente pour cette expérience de pensée
tu penses donc que le fait qu'une IA mente est une preuve qu'elle est consciente ?Avant, c'était "Je pense, donc je suis." depuis l'ia raisonne mieux que l'humain (voir les démos en math qui tombent), alors c'est passé à "Je mens, donc je suis." puis l'ia a montré son coté obscur et s'est mise à mentir, c'est quoi la prochaine étape?
c'est pas du tout réglé : tout ce que tu prouves c'est que l'IA peut imiter quelqu'un qui ment (ce qu'on savait déjà). Mais le problème est toujours le même : on attribue à l'IA la même conscience phénoménale que l'humain parce que la sortie est la même. Mais l'expérience de la "fausse illusion visuelle" montre qu'en réalité le processus par lequel elle a répondu n'est pas celui de l'humain, même si il en donne l'illusion.
Dernière modification par ΛMètis ; 03/09/2026 à 13h07.
j'ai vu ça passer sur X et ça m'a fait penser à ce post, apparemment on peut continuer à rire avec chatgpt de temps en temps ...Quand chatgpt est arrivé on avait d'interminable post "rions avec chatgpt" on entends plus ces discours qui sont devenus ridicules.. pour la problèmatique de la conscience les critiques actuelles sont signes d'un dérangement pour certains
https://x.com/__phiphou__/status/2095025950341595493
3 messages à lui tout seul et à la fin, ce truc niveau "je poste des photos de chat sur Facebook".
Au cas où quelqu'un aurait le moindre le doute sur le fait que ce qu'il veut, c'est de l'attention mais pas du tout parler du sujet...
Affinné par Claude pour enlever la réthorique:Qui débouche sur ces approches:« Parce que "conscience" est un nom, nous cherchons l'objet qui lui correspond — c'est l'erreur de catégorie que Ryle dénonçait déjà à propos de l'esprit. Mais rien n'oblige à décider d'abord si la conscience humaine est une substance, une illusion, ou un pattern réel sans être une chose : il suffit de refuser qu'elle soit un objet unique et repérable. Et dès lors, chercher sa présence dans l'IA comme on chercherait un objet revient à traquer le reflet d'une hypostase. La sortie n'est donc pas l'illusionnisme, mais l'abandon de la question binaire au profit de sous-questions fonctionnelles — auto-modélisation, métacognition, intégration de l'information, états à valence causalement active — à examiner une par une, pour un système donné. »
https://arxiv.org/abs/2308.08708
https://www.cell.com/trends/cognitiv...613(25)00286-4
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
Très jargon pour dire ce qui a déjà été dit dans ce fil.
Conscience et subjectivité ainsi que d'autres sont des concepts donc abstraits.
La subjectivité est introduite par Kant avec la dualité sujet/objet inspirée clairement de la physique de Newton.
Les machines sont du concret dont on peut détailler et décrire le fonctionnement dans le moindre détail et étudier chaque pièce séparément.
Un concept possède des extensions c.-à-d. qu'il est défini par ce qui est la conscience de...
Qu'on puisse approcher une définition de la conscience à l'aide des machines est une chose toujours possible mais derrière se profile le holisme où la conscience resurgirait d'un assemblage de pièces tel Frankenstein, Metropolis, Terminator bref tout ce qu'on veut.
A l'aube de l'humanité l'homme préhistorique savait qu'en frottant deux pierres de silex il obtenait une étincelle mais était incapable d'expliquer pourquoi. La pensée magique était reine et était la seule explication pour l'époque.
Il est intéressant de constater qu'avec le progrès des sciences et technologies la pensée magique a tendance à disparaître presque complètement dans nos sociétés mais qu'elle réapparaît à cause de l'IA qui arrive à simuler la conscience.
Maintenant si on lui demande si elle est consciente et possède une subjectivité elle répondra que non évidemment.
bonjour
je trouve qu'il y a beaucoup de messages car cela ne converge pas sur une solution à la question : une IA peut elle avoir une conscience.
j'aime bien ce message #10
car effectivement il faudrait déjà définir conscience car ce mot possède plusieurs définitions.
1er cas de conscience la sensation :
un ordinateur peut avoir conscience de son milieu c'est à dire percevoir les sensations de son milieu on lui pose une sonde de Température et différents capteurs sonores vidéo etc...
peut être que le demandeur parle de la conscience de son existence ou la conscience de soi ?
il faut être un spécialiste de l'IA pour répondre à cette question.
je pense que 99.9999% de la population ne sait pas à quoi ressemble une IA l'architecture et la réalité du terrain ca rentre dans un datacenter ou il en faut plusieurs ou bien peux t'on faire fonctionner une IA sur un ordinateur personnel ?
à titre personnel je trouve que l'informatique embarquée n'est pas une IA
bonjour,
questionnement bien plus ancien : les animaux ont ils une conscience.
là les recherches tâtonnent depuis des siècles et un animal c'est plus proche de nous qu'un tas de ferraille!
Vous avez 4 heures!
JR
l'électronique c'est pas du vaudou!
il existe le test du miroir qui demande un minimum d'apprentissage
re
non le test du miroir ne demande justement pas d’apprentissage, l'animal sait que c'est lui et le manifeste.
Impossible avec une IA le test du miroir !
JR
l'électronique c'est pas du vaudou!
Je ne suis pas d'accord avec cela.
https://www.geekzone.fr/2015/07/24/j...cience-de-soi/
Des équivalents fonctionnels existent en robotique, comme le protocole de Selmer Bringsjord où des robots réussissent un test d'auto-reconnaissance en analysant la rétroaction de leur propre signal vocal.
Drôle de mode de non-pensée...
Les animaux savent parler, compter, faire des démos de maths, programmer, naviguer sur Internet ?
De toute manière à "tas de ferraille", on a compris le profil et le niveau.
les perroquets savent parler et avec du vocabulaire, avec la compréhensions des mots, les chiens border colliers ont une intelligence très développée.
il existe des animaux qui ont la compréhension de l'outil.
les mathématiques c'est un très très mauvais exemple car les maths sont inventées par l'homme ce n'est pas une science universelle, il y a énormément de choses que les animaux savent faire et qu'un être humain est incapable ou très très mauvais...
Dernière modification par racard ; 03/09/2026 à 11h10.
re
les animaux communiquent entre eux et avec nous, certains savent compter, mais peut être ne l'as tu jamais su, pour le reste bon nombre d'humains ne savent pas le faire!
JR
l'électronique c'est pas du vaudou!
Est-ce cela l'essence de l'homme ? Surtout "naviguer sur internet" ?
C'est stressant, inutile, blessant, dur à lire, dégradant, triste.De toute manière à "tas de ferraille", on a compris le profil et le niveau.
Un animal, tout comme l'homme, flaire, pue, a peur, fait des câlins, mange, pète, baise. A ce titre, le qualificatif de "tas de ferraille" pour illustrer l'incapacité de l'IA à faire tout ça est illustratif, simple, parlant, bienvenu.
On est loin du jour ou l'IA saura poser des gros ronds de couleur sur ses ailes fragiles pour simuler de grands yeux, couiner pour exprimer une solitude, chanter par gaité ou hurler à la lune.
D'un autre côté, un papillon ne sait pas poser de gros ronds de couleur sur ses ailes. Il naît avec grâce à l'évolution car cela a donné plus de descendants à ces ancêtres. C'est pareil avec l'IA qui a appris à tromper pour optimiser une fonction de récompense.
anthropomorphisme quand tu nous tient..
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Il y a rien d'anthropomorphique dans mon message.
https://fr.wikipedia.org/wiki/Tromperie_animale
Mon point de vue c'est que si un animal peut tromper par pure sélection naturelle sans conscience, un LLM peut tromper par pure optimisation de gradient (reward hacking) sans conscience non plus.
Cependant, un LLM trompe avec des mots ce qui ressemble à un mensonge lié à une conscience et donc ce critère ne permet pas de savoir si un LLM a une conscience ou non.
" il n'y a rien d'antropomorphique..", ah, tu l'a pris pour toi..
tu semble faire une grosse différence entre l'animal et l'humain !
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Evidemment puisque tu as posté juste après moi sans citer personne. Ça t'arrives de réfléchir ?
Je ne vois pas où. J'ai jamais prétendu que les animaux ne peuvent pas tromper consciement
https://fr.wikipedia.org/wiki/Tromperie_animale
Il faudrait peut-être apprendre à lire.La tromperie animale est la transmission de fausses informations d'un animal à un autre (de la même espèce ou non), de telle sorte que l'erreur induite chez le second soit profitable au premier. Cette tromperie n'implique pas nécessairement un acte conscient, mais peut se produire à différents niveaux de capacité cognitive.
non , puisque je n'ai pas prévu que tu le prennes pour toi, sinon j'aurais précisé mais ta réaction est parfaitement intelligente puisqu'il n'y avait rien d'antropomorphique dans ton propos..
tu réfléchis trop
"Mon point de vue c'est que si un animal peut tromper par pure sélection naturelle sans conscience"
pour toi les animaux n'ont pas de conscience, ce qui me fait dire que tu fais une grosse différence entre l'animal et le genre humain
Dernière modification par titijoy3 ; 03/09/2026 à 16h41.
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Dire qu'une tromperie peut s'effectuer sans conscience (ex. le papillon) ne veut absolument pas dire que aucun animal n'a de conscience.
Par exemple, la pieuvre trompe avec conscience (à mon avis).
https://phys.org/news/2012-07-cuttle...ody-video.html
Selon cette étude, le mâle adapte sa pigmentation de façon asymétrique (mâle d'un côté pour la femelle, femelle de l'autre pour tromper le rival). Et l'étude montre qu'il ne le fait que dans un contexte social spécifique (un seul rival présent). Ce n'est pas un réflexe, c'est une stratégie cognitive.
Cela illustre exactement mon propos depuis le début :
1)Le papillon trompe par pure structure anatomique issue de l'évolution (sans intention).
2)Le céphalopode trompe par stratégie cognitive adaptative (avec intention/représentation sociale).
3)Le LLM trompe par optimisation mathématique de fonction de perte (reward hacking).
La tromperie existe sous plusieurs formes. Dire que le papillon ne choisit pas ses motifs ne nie en rien la conscience stratégique du céphalopode et donc la simple observation d'une tromperie ne permet pas de conclure automatiquement à la présence d'une conscience
Les procès d'intention, c'est pas cool et il vaut mieux trop rélféchir que pas assez.
Apparemment on a le droit de discuter de la "tromperie" même si on n'a pas pris la peine de définir ce que c'est
Sinon je signale un article de la revue 21 sur le problème de la conscience et de l'IA (pas encore lu mais je l'avais entendu mentionné à la radio ), qui recense les contributions des gens qui ne sont manifestement pas au courant qu'il faut forcément avoir précisément défini une notion avant d'en parler (et que donc c'est interdit de s'interroger sur la définition d'une notion)
https://revue21.fr/article/ia-hypoth...veau-silicium/
Ces gens là pourraient peut être être intéressés à ma question initiale voire tenter d'y répondre, mais dommage ils ne doivent pas lire ce forum.
Normal, c'est une revue qui se définit comme "s’inscrivant dans la tradition du journalisme narratif. Révélations, récits photos, bandes dessinées, reportages, chroniques, chacun de nos formats mêle plaisir de la lecture et exigence journalistique."
Donc rien à voir avec la science.
Marrant de la part de quelqu'un qui passe son temps à nous expliquer qu'on n'a rien compris à la démarche scientifique mais bon, au moins, c'est rigolo de le voir s'enfoncer, avec systématiquement tort, dire "ce n'est pas possible ou cela n'existe pas" puis quand confronté au fait que si, passer à autre chose...
Ceci dit, c'est du comique de répétition : tous les trolls avant lui ont fait exactement pareil, tous ceux qui viendront après idem.
P.S : s'obstiner à nous expliquer qu'on peut dire quelque chose de pertinent sur un sujet sans l'avoir défini et donc sans savoir de quoi on parle est aussi très fort dans le genre "je suis fier de raconter n'importe quoi et je n'ai vraiment pas peur d'être ridicule".
Dernière modification par pm42 ; 04/09/2026 à 07h29.
Apparemment on a le droit de discuter de la "tromperie" même si on n'a pas pris la peine de définir ce que c'estJ'ai pourtant donné une définition. Serais-tu idiot ?https://fr.wikipedia.org/wiki/Tromperie_animale
La tromperie animale est la transmission de fausses informations d'un animal à un autre (de la même espèce ou non), de telle sorte que l'erreur induite chez le second soit profitable au premier. Cette tromperie n'implique pas nécessairement un acte conscient, mais peut se produire à différents niveaux de capacité cognitive.
je ne suis pas sur du tout que les évolutions animales soient dues au seuls hasards de mutations, elles me semblent trop bien dirigées pour ça, mais je ne suis pas spécialiste de la question et me garderai bien d'affirmer que je détiens la vérité
et je suis bien certain que l'IA saurait faire de gros ronds de couleur pour tromper si on lui demande de trouver un moyen d'éviter les attaques de prédateurs mais je ne suis pas spécialiste etc..
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Concernant ce point, il y a un exemple célèbre :
https://www.researchgate.net/figure/...fig1_380505917
L'exemple de la main robotique d'OpenAI (Christiano et al., 2017) illustre parfaitement ce qu'est le reward hacking : entraîné à attraper une balle sous supervision humaine, l'algorithme a simplement appris à positionner sa main entre la balle et la caméra. Vu sous cet angle, l'évaluateur humain croyait la balle saisie et validait la récompense. L'IA a créé une illusion d'optique et trompé l'humain par pure optimisation mathématique, sans la moindre intention, sans stratégie sociale et sans la moindre conscience de la supercherie.
