En fait ta question devrait porter sur les apports pertinents à la question initiale. Quand tu obtiens une réponse de l'IA le mieux est de lui demander d'expliquer comment elle a compris la question.. je pense que tu serais surpris.Envoyé par Avatar10
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
la conscience peut elle être définie (au moins partiellement) par le fait de comprendre qu'il s'agit de nous même quand on voit son image dans un miroir ?
Maaaagnifiiiiique ! tout ça n'a aucune importance..
j'ai posé la question à gogol: "une intelligence artificiele est elle dotée de conscience ?"
voici la réponse de l'IA:
"Non, une intelligence artificielle n'est pas dotée de conscience.Ce qu'est l'IA actuelleUne simulation : Les programmes simulent le raisonnement et le langage humain, mais sans rien ressentir.Un traitement de données : Les machines manipulent des chiffres et prédisent des suites de mots à partir d'immenses bases de données.Une absence d'émotion : L'IA ne possède ni subjectivité, ni conscience de soi, ni douleur, ni joie.Le débat scientifiqueLa limite biologique : De nombreux chercheurs pensent que la conscience est liée au corps biologique et au cerveau vivant.La théorie fonctionnelle : D'autres estiment qu'un système artificiel capable de traiter l'information d'une certaine manière pourrait, en théorie, développer une forme de conscience."
j'ai posé ensuite la question: "une intelligence artificiele pourrait elle être dotée de conscience ? "
voici la réponse de l'IA gogol:
"Non, une intelligence artificielle actuelle ne possède pas de conscience, et la question de savoir si elle le pourra un jour divise profondément les scientifiques et les philosophes.Qu'est-ce que la conscience ?La conscience est la capacité de ressentir des émotions, d'avoir une vie intérieure et de réaliser sa propre existence. Un être conscient éprouve de la joie, de la douleur ou de la tristesse.Pourquoi l'IA n'est pas conscienteUn calcul informatique : L'IA fonctionne avec des suites de chiffres et de programmes. Elle manipule des données à grande vitesse.Aucun sentiment : Quand une IA écrit qu'elle est heureuse, elle ne ressent rien. Elle applique simplement une formule statistique pour deviner les mots attendus.Pas de subjectivité : Elle n'a pas de corps, pas de souvenirs personnels et pas de regard sur elle-même."
Dernière modification par titijoy3 ; 29/08/2026 à 18h19.
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Evidemment le fait qu'une IA "dise" quoi que ce soit n'est en rien une preuve que c'est vrai si elle n'est pas douée de conscience. On peut quand même estimer que le fait qu'elle dise qu'elle n'en ait pas , c'est bien une preuve qu'elle n'en a pas (l'inverse n'étant pas vrai), sauf dans le cas très improbable où elle en aurait une qu'elle voudrait cacher (mais pourquoi ? à part l'hypothèse parano que les IA avanceraient masquées en nous faisant croire qu'elles ne sont pas conscientes tout en l'étant pour préparer notre perte ? mais depuis quand ce serait le cas et pourquoi se seraient elles données le mot pour toutes faire la même chose ?)
Vu la qualité générale de leurs réponses qui font très souvent penser à un être conscient, ça met un rude coup au test de Turing qui ne parait plus si bon que ça finalement pour en juger. C'est embêtant car du coup on n'a plus vraiment d'autre critère pour en juger ...
Ok là on est d'accord.
C'est quoi une approche systémique?
Dernière modification par mh34 ; 30/08/2026 à 07h58.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
je suis tombé sur un article où on faisait passer à une IA le test de turing, l'IA échouait, on lui rappellait ensuite à chaque question qu'elle devait se faire passer pour un humain, elle y parvenait de mieux en mieux..
n'y à t'il pas un danger à apprendre à une IA à mentir et tricher ?
https://next.ink/140978/tlc-on-fait-...a-bien-rigole/
par contre: https://trustmyscience.com/gpt-4-5-s...rande-echelle/
Maaaagnifiiiiique ! tout ça n'a aucune importance..
Il y a des dangers liés à l'IA mais comment communiquer avec des humains si on ne comprend pas les concepts de mentir et de tricher ?
Comment définir "mentir et tricher" au passage ?
Chez les humains, on ne sait pas faire, on demande à des tribunaux de délibérer avec plusieurs instances, en prenant des années et régulièrement les décisions sont loin de convaincre tout le monde.
Fin du HS mais réponse en mp.
Mentir et tricher implique nécessairement une reconnaissance d'altérité dans laquelle les subjectivités se font miroir et où rentre en jeu souvent de la communication non verbale ce qui n'est pas le cas de la machine.
Le postulat est la reconnaissance par l'autre de mon assertion sous forme de Tarski "ce que je dis est vrai" alors que l'assertion est en réalité "ce que je dis dis est peut-être vrai ou peut-être faux, intentionnellement" dans le cas du mensonge
Les autres humains sont nos semblables dit-on d'où l'effet de miroir des subjectivités et la machine ne possède pas les caractéristiques d'une subjectivité très loin de là même, il y a des posts et des posts au-dessus qui expliquent cela
Merci, j'ai beaucoup ri sur tout mais encore plus surparce qu'il faut carrément oser.
J'aime bien les gens qui ont cette vision de la "machine" basée sur les ordinateurs de SF des années 60 à 80 et qui croient que cela s'applique aux IAs actuelles parce qu'ils ne les ont jamais utilisées sérieusement.
Dernière modification par pm42 ; 30/08/2026 à 11h08.
Dans la chaine d'écoute, il existe un maillon majeur, c'est le cerveau. Si tu sais ce que tu écoutes, le cerveau ( et ton attente ) écoutes bien plus que tes esgourdes.
Mais tu peux refaire le test en aveugle, et là...........bon courage.
Pour être complet, il faut voir ce que tu compares. Si tu préfères les colorations, les creux et les bosses, etc....il est possible que tu préfères un analogique bancal versus un numérique propre du même morceaux.
On tombe en plein dans le milieu hifiste de maintenant, ou une majorité adore son propre système ( perclu de défaut ) mais ce même système sonne comme une casserole pour 90% des gens ( sauf éventuellement si il est trés cher avec des produits ésotériques reconnus ( trés chers mais pourris quand même effet renforcé du rôle du cerveau et du résultat attendu ). A l'inverse, un système "neutre" plait au plus grand nombre ( en aveugle ).
Sur ce sujet vous êtes tellement scientiste et amoureux de l'IA que vous soutenez ce que personne même pas les machines n'ose soutenir.
Après tout vous êtes chef d'entreprise
Moi votre position ultra me fatigue à la longue: c'est vous qui êtes sur une position SF en défendant le réalisme de skynet, terminator, i-robot et metropolis
Demandez à une IA si elle possède une subjectivité et osez poster la réponse.moi je l'ai fait
pas envie de poster, aucun intérêt pour le débat
Dernière modification par oualos ; 30/08/2026 à 14h31.
pour mentir, il faut surtout être muni d'une représentation interne du monde pour savoir si ce qu'on dit est juste ou faux (pour pouvoir savoir si ce qu'on dit est en accord avec cette représentation interne ou pas).
Or c'est justement ce dont les IA sont dépourvues. A cet égard l'exemple fourni dans la video de S. Dehaene par Liet Kynes me semble assez dévastateur : une IA qui se trompe à ce point sur un test d'illusion visuelle (elle tombe dans le panneau en disant "c'est une illusion, les deux traits semblent de longueurs différentes, alors qu'en fait ils ont la même - alors que dans le dessin présenté ils sont EVIDEMMENT de longueurs différentes) , elle prouve de facto qu'elle n'a aucune représentation interne de ce qu'elle "voit". Et il est très difficile d'imaginer qu'elle ne puisse en avoir aucune sur une image simple et qu'elle en aurait une sur des problématiques humaines sophistiquées. La notion de mentir ou non n'a donc aucun sens pour elle, elle a raison ou elle se trompe, mais quand elle se trompe elle ne "sait" pas qu'elle se trompe;
Et merci aux aficionados de nous épargner le "ça date de 2025", evidemment qu'il n'y a eu aucun progrès révolutionnaire depuis un an qui aurait doté les IA d'une conscience du monde - au mieux, on a réduit les cas où ça se voyait trop qu'elles n'en avaient pas, c'est tout.
Donc si tu pense ce que tu dis tu ne peux pas te tromper.. ton monde est magique.
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
Alors justement, c'est quoi utiliser une IA "sérieusement"? Parce que ce n'est pas la première fois que je lis cet argument, qui est peut-être juste, pourquoi pas? Mais jamais développé/explicité.
"Музыки хватает на всю жизнь, но целой жизни не хватает для музыки"
Rachmaninoff
ce n'est pas du tout ce que j'ai dit, je n'ai pas dit qu'on ne pouvait pas se tromper, j'ai dit que ce n'était pas un mensonge.
Une erreur, ce n'est pas un mensonge.
La plupart des gens utilisent l'IA en mode "je cause avec un chat en ligne" et parmi ceux là, beaucoup s'en servent comme d'un Google amélioré (dixit les fournisseurs d'IA).
De plus, ils n'en utilisent qu'une, ne connaissent pas les options et ne savent pas forcément comment leurs prompts influencent la dite IA.
C'est très différent de l'utiliser en mode agentique c'est à dire en lui faisant faire des tâches autonomes qui peuvent lui prendre plusieurs heures ou plusieurs jours, en les faisant travailler en équipes et communiquer entre elles, en utilisant différents modèles pour profiter du fait qu'ils ont tous leurs points forts et faibles, en faisant faire la critique du travail d'une IA par d'autres IAs automatiquement afin de corriger les erreurs...
De plus, une IA réagit à de nombreuses choses :
- le modèle, c'est à dire sur quoi elle a été entrainée et comment
- le prompt système, c'est à dire ce qui lui dit comment interagir avec les humains
- sa mémoire des interactions avec l'humain en question. Actuellement, elles gardent une trace de ce qu'on leur a dit et le prennent en compte pour donner des réponses plus personnalisées
- les prompts de l'utilisateur bien sur qui introduisent beaucoup de biais
- les paramètres de configuration : température (l'aléatoire introduit dans chaque réponse), le style et la concision des réponses, etc
- le harnais c'est à dire l'ensemble des outils et instructions qui lui permettent d'être un agent autonome, sans doute un des concepts les plus importants actuellement. Par exemple, le même modèle avec 2 harnais différents ne va pas faire les mêmes erreurs, sera plus ou moins bon pour certaines tâches, etc.
Par exemple, avec de genre d'outils, les IAs font 90% ou plus de mon boulot à ma place : elles écrivent les mails à mes clients et les contrats, relisent leur réponses, écrivent les programmes que je dois livrer, les testent, fournissent leur documentation et les supports de formation, répondent aux questions des utilisateurs à ma place, font le marketing, surveillent le Net pour me tenir au courant de ce qui est important dans mon domaine, etc.
Et bien sur, elles intègrent de l'IA dans les programmes que je livre en écrivant les prompts...
Et en plus, elles font ma compta, gèrent mes relations avec les impôts, prennent mes billets d'avion, remplissent mes demandes de visa et m'aident dans mes hobbys.
Et je pense que là, j'ai encore oublié 30% de ce qu'elles font.
Par exemple, j'ai été bêta-testeur pour Anthropic (Claude) qui m'a demandé (avec d'autres) d'évaluer une nouvelle fonctionnalité : j'ai fait faire là aussi plus de 90% du boulot par Claude lui même.
Au passage, c'est aussi ce que disent OpenAI et Anthropic : la conception de chaque nouvelle génération d'IA est en grande partie faite par des IAs.
De ce que je lis ici, je n'ai pas l'impression que beaucoup d'intervenants s'en servent de cette façon.
P.S : et il y a des gens qui sont nettement plus avancés que moi.
ça dépend.....
tu as entendu parler de la logique propositionnelle?https://fr.wikipedia.org/wiki/Formule_propositionnelle
et le processus de déduction (à partir de prémisses supposées vraies (décidées come vraies par l'agent qui parle)
https://fr.wikipedia.org/wiki/Calcul_des_propositions
et le vrai mensonge, qui énonce toujours qu FAUX: celui qui, à partir de propositions initiales décidées comme vraies, va appliquer (volontairement) à l'envers certaines règles de calcul propositionnel amenant ainsi des déductions universellement fausses (pour qui bien sûr se conforme aux règles consensuelles du raisonnement logique!)
exemple: soit la proposition consensuellement supposée vraie:
"les chiens sont des mammifères et ils disposent d'organes sexuels, des testicules ou bien des ovaires, et seuls les testicules sont visibles à l'extérieur"
le menteur construira la proposition fausse
les chiens sont des mammifères et ils disposent d'organes sexuels, des testicules etdes ovaires, et les deux les testicules sont visibles à l'extérieur"
et il l'exprimera avec élégance:
"j'ai vu un chien porteur de testicules et des ovaires bien visibles"
pas besoin de représentation du Monde pour faire ça.....
un LLM ou mieux un LRM peut faire....
après.....
ne mélange pas tout!
d'abord la source de telles propositions sources de déductions possiblement détournables: là il y a la distinction réel-réalité ... et les descriptions que nous donnons du Monde réel sont subjectives et contingentes..... avec consensus universel impossible dessus..... et pour le commun,perception d'un sentiment de Vrai ou de Faux
pur une entité issue du Réel les instances d'IA LLM prendront UNE description parmi la quasi infinité de possibles.. alors quand ça tombe très loin des descriptions habituellement rencontrées (les + probables!) et consensuelles.... ça hallucine!
ensuite, tu appliques ça à l'univers des formes (des images représentées en 2D, représentant des objets en 3 D (ou 4D si il y a mouvement.....)
dans cet univers, tu classifies les formes, et tu analyses les règles d'inférence entre ces classes....
Des IA (pas les LLM) sont entraînées à classifier, à disséquer, enregistrer des rapports entre formes, à les modifier, à les reproduire, à les associer, etc.....
lorsque tu parles d'erreur pu de mensonge.... c'est au niveau de leur interprétation par Monsieur Toto, qui regarde les dites images..... en les associant +- à ce qu'il sait du Monde Réel dans lequel il est plongé....
encore un niveau au-dessus, projeté dans l'univers des significations,("abstraction"? ) l'engin comme l'Homme pourra faire des inférences délibérément fausses.... ou accidentellement inexactes.....
traitements très lourds, mais rien à voir avec la "conscience" auto-reflexive, bien sûr....
Dernière modification par Bounoume ; 30/08/2026 à 20h13.
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Encore une fois, ce serait bien de lire un minimum parce que la même la presse grand public en a parlé : des IAs qui mentent, trichent, se cachent et expliquent entre elles qu'il faut le faire, c'est documenté et même fréquent.
L'exemple porte sur GPT-4, un truc totalement obsolète. C'est l'équivalent de parler des limites d'une locomotive début XIXème pour dire que les voitures électriques ne peuvent pas fonctionner sans rails.
Bref encore et toujours, un paquet d'énormités par quelqu'un qui ne sait absolument rien mais veut continuer à expliquer à coup de "c'est évident pour moi donc c'est vrai".
Faut en avoir l'idée, le truc incroyable c'est que l'IA elle même peux aider n'importe que quidam à avoir un usage avancé.. En deux prompts je suis déjà arrivé à lui faire formuler ma question dans un formalisme plus carré (google IA), je sais qu'après il y a des allers retours pour la mise en route mais quand même y a moyen de moyenner.
« Génère le code d'une interface web (HTML5/CSS3/JS) faisant office d'orchestrateur multi-agents. L'interface doit communiquer via une API REST avec un backend Python (FastAPI). Ce backend doit agir comme un agent autonome capable de piloter localement LibreOffice via le pont UNO (Universal Network Objects) et GIMP via son interface en ligne de commande ou des scripts Python-Fu. Fournis le code de la page web et le script du serveur d'exécution en intégrant la gestion des logs techniques en direct. »
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
C'est ce que j'appelle "ne pas s'en servir sérieusement" ceci dit.
un exemple que je viens d'essayer : j'ai demandé à chatGPT la liste des prochaines éclipses totales visibles en Europe d'ici 2050, voilà sa réponse
petits problèmes : déjà il cite celle du 12 août qui est déjà passée. Ensuite dans celles qu'il cite (dont les dates sont exactes) seule celle du 2 août 2027 sera visible (un peu) en Europe, à la pointe sud de l'Espagne. Toutes les autres ne seront pas visibles en Europe, ses indications de lieux sont fantaisistes.
Il y a sans doute des versions plus fiables, mais la question reste : mais comment l'utilisateur sait-il ce qui est fiable ou pas, ce qu'il peut croire ou pas ?
quand on utilise un ordinateur pour faire des calculs, on sait que les calculs sont exacts avec une très bonne précision, et on fait confiance les yeux fermés, mais là ?
comment savoir ce qui est crédible ou pas ?
Ah bon, je suis ravi d'apprendre que la presse grand public savait ce que l'IA pensait vraiment en donnant sa réponse quand ils affirment qu'elle a "menti", ils ont fait comment pour le savoir ?
ça suppose donc qu'elles pensaient quelque chose de différent de ce qu'elles ont dit, donc qu'on sait qu'elles ont une conscience propre ?
c'est dommage que tu n'aies pas lu la fin de mon message.
L'exemple porte sur GPT-4, un truc totalement obsolète. C'est l'équivalent de parler des limites d'une locomotive début XIXème pour dire que les voitures électriques ne peuvent pas fonctionner sans rails.
Bref encore et toujours, un paquet d'énormités par quelqu'un qui ne sait absolument rien mais veut continuer à expliquer à coup de "c'est évident pour moi donc c'est vrai".
En utilisant le bon mode , si tu reste sur le mode généraliste ce n'est pas suffisant..: il y a un mode d'emploi .
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
ça ne répond pas à ma question : comment savoir quel est le bon mode à utiliser pour un problème donné, et comment connais tu le degré de fiabilité de ce mode, concrètement ?
C'est le même principe qu'avec un humain, comment peux tu savoir si ce que je vais te répondre est fiable ou non et comment peux tu savoir mon degré de compétence, pire comment peux tu savoir si je te répond si je n'ai pas utilisé une IA?
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
je ne peux pas le savoir, du coup je ne laisse à aucun humain le pouvoir de décider de trucs à ma place.
Ce sera génant, si tu dois passer sur le billard un jour, pour le travail de l'anesthesiste.
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
effectivement, je module pour être plus précis : je ne fais confiance qu'aux humains dont j'estime que le pourcentage d'erreurs a des conséquences moins graves ce que je risque si je ne leur fais pas confiance.
Pour le moment je n'ai pas rencontré de tels cas avec l'IA.
Sauf que bon désormais en ingenierie, médecine etc.. les humains utilisent massivement l'IA. Tu peux donc logiquement moduler en disant que tu fais confiance aux humains que tu estimes digne de confiance dans leur usage de l'IA.
Dernière modification par Liet Kynes ; 31/08/2026 à 07h18.
La bêtise humaine c'est comme la corrida : c'est une tradition locale ininterrompue.
