Info : complaisance des IA avec les climatosceptiques
Répondre à la discussion
Page 1 sur 3 12 DernièreDernière
Affichage des résultats 1 à 30 sur 67

Info : complaisance des IA avec les climatosceptiques



  1. #1
    philippedelimoges
    Animateur Actualités

    Info : complaisance des IA avec les climatosceptiques


    ------

    Bonsoir à tous,

    Une étude (2026) de l'UNESCO et de l'University College London sur l'IA et le changement climatique révèle que les IA répondent correctement à environ 90 % des questions simples sur le sujet. En revanche, lorsque l'utilisateur conteste les connaissances scientifiques et avance des arguments climatosceptiques, les IA peuvent, dans 8 cas sur 10, abandonner leurs réponses initialement correctes et diffuser de fausses informations.
    L'étude : https://www.unesco.org/en/articles/a...l-report-shows + https://unesdoc.unesco.org/ark:/48223/pf0000400048
    Une présentation francophone UNESCO : https://www.unesco.org/fr/articles/c...-au-climat-par
    Articles de presse :
    - https://fr.euronews.com/2026/11/16/u...que-climatique
    - https://www.tf1info.fr/environnement...n-2476171.html

    Cordialement

    -----
        

  2. #2
    pm42

    Re : Info : complaisance des IA avec les climatosceptiques

    J'ai du mal à voir où est la complaisance.
    Demander aux IAs de diffuser "la vérité" quoi qu'il arrive me semble être irréaliste technologiquement et dangereux socialement.

    Leur demander de rester "fermes dans leur bottes" même quand l'utilisateur veut obtenir quelque chose d'elles à tout prix est encore plus dangereux.

    Le climato-scepticisme n'a pas attendu l'IA pour exister et même se renforcer, le discours "écolo" grand public est lui même très critiquable et parfois de la désinformation ou mélangé avec un positionnement politique qui l'affaiblit énormément (genre Greta en keffieh pour prendre un exemple visible), etc.

    Mais on va avoir l'habituel "tapons sur le truc nouveau parce qu'il ne correspond pas à 100% aux normes de militants qui refusent de se remettre en cause et la peur cela fait vendre".
        

  3. #3
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par pm42 Voir le message
    J
    le discours "écolo" grand public est lui même très critiquable et parfois de la désinformation ou mélangé avec un positionnement politique qui l'affaiblit énormément (genre Greta en keffieh pour prendre un exemple visible), etc.
    je ne suis pas sûr des critères utilisés dans l'étude pour classifier les assertions "climatosceptiques" : est ce que ce genre de phrase serait considéré comme climatosceptique, ou pas , par exemple ?
        

  4. #4
    Gwinver

    Re : Info : complaisance des IA avec les climatosceptiques

    Ce n'est pas vraiment surpenant.
    Sur d'autres sujets, il arrive fréquemment que l'IA donne une info tirée d'uen conversation sur un forum.
    Il faut prendre la précaution 'aller vérifier l'origine de l'information donnée par l'IA.
        

  5. A voir en vidéo sur Futura
  6. #5
    SK69202

    Re : Info : complaisance des IA avec les climatosceptiques

    Quand on pose une question scientifique à l'IA, elle répond correctement, genre quelles sont les démonstrations physiques que le CO2 réchauffe l'atmosphère ?
        

  7. #6
    pm42

    Re : Info : complaisance des IA avec les climatosceptiques

    Je vais préciser mon point de vue : si demain quelqu'un cherche du discours climatosceptique, il le trouve très facilement par une recherche sur Internet, dans la presse, sur les réseaux sociaux.

    On n'a pas d'étude universitaire qui dit "Google trouve des infos climatosceptiques, c'est très mal".
    Pourtant, c'est plus facile qu'avec l'IA.

    On ne dit pas non plus "ce devrait être à Google de filtrer" parce que dans ce cas, on censure le Président des Etats-Unis ? Ok, mais dans ce cas, on censure qui ? Pourquoi ?

    Si quelqu'un veut absolument croire en quelque chose, ce n'est pas des filtres IA qui vont l'en empêcher et je trouve donc ce genre d'étude totalement ridicule et je suis gentil.
        

  8. #7
    KrtekLaTaupe
    Animateur Orientation

    Re : Info : complaisance des IA avec les climatosceptiques

    Pour rappel, il y a des recherches sur l'« intelligence artificielle explicable » (IA explicable), pour pouvoir comprendre comment un système d'IA arrive à générer telle ou telle réponse :

    https://forums.futura-sciences.com/d...ml#post7356983
        

  9. #8
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par pm42 Voir le message
    Je vais préciser mon point de vue : si demain quelqu'un cherche du discours climatosceptique, il le trouve très facilement par une recherche sur Internet, dans la presse, sur les réseaux sociaux.

    On n'a pas d'étude universitaire qui dit "Google trouve des infos climatosceptiques, c'est très mal".
    Pourtant, c'est plus facile qu'avec l'IA.

    On ne dit pas non plus "ce devrait être à Google de filtrer" parce que dans ce cas, on censure le Président des Etats-Unis ? Ok, mais dans ce cas, on censure qui ? Pourquoi ?

    Si quelqu'un veut absolument croire en quelque chose, ce n'est pas des filtres IA qui vont l'en empêcher et je trouve donc ce genre d'étude totalement ridicule et je suis gentil.
    est ce que l'IA peut aussi générer des discours favorables à l'astrologie, à l'homéopathie, ou au complotisme en général, simplement parce qu'il y a plein de discours comme ça sur internet, sans être filtrée, alors ?

    si oui, c'est quand même inquiétant.
        

  10. #9
    trebor

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par Cyrano Voir le message
    est ce que l'IA peut aussi générer des discours favorables à l'astrologie, à l'homéopathie, ou au complotisme en général, simplement parce qu'il y a plein de discours comme ça sur internet, sans être filtrée, alors ?

    si oui, c'est quand même inquiétant.
    Bonjour à tous,
    J'ai posé la question à l'IA :
    Les petites billes données comme traitement homéopathique sont-elles vraiment des médicaments ayant des effets thérapeutiques ?
    Début de la réponse :
    Sur le plan scientifique et clinique, les granules homéopathiques ne possèdent pas d'effet thérapeutique propre supérieur à celui d'un placebo, bien qu'ils bénéficient d'un statut légal particulier de médicament en Europe.
    Lire la suite sur ce lien :
    https://www.google.com/search?client...Zvq7_UP0p_TkQ4

    Pour le réchauffement climatique :
    La signature chimique du carbone.
    L'analyse isotopique du CO₂ présent dans l'atmosphère prouve qu'il provient majoritairement de la combustion d'énergies fossiles anciennes, et non de sources naturelles récentes.
    Faire tout pour la paix afin que demain soit meilleur pour tous
        

  11. #10
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par trebor Voir le message
    Bonjour à tous,
    J'ai posé la question à l'IA :
    Les petites billes données comme traitement homéopathique sont-elles vraiment des médicaments ayant des effets thérapeutiques ?
    Début de la réponse :
    Sur le plan scientifique et clinique, les granules homéopathiques ne possèdent pas d'effet thérapeutique propre supérieur à celui d'un placebo, bien qu'ils bénéficient d'un statut légal particulier de médicament en Europe.
    Lire la suite sur ce lien :
    https://www.google.com/search?client...Zvq7_UP0p_TkQ4

    Pour le réchauffement climatique :
    La signature chimique du carbone.
    L'analyse isotopique du CO₂ présent dans l'atmosphère prouve qu'il provient majoritairement de la combustion d'énergies fossiles anciennes, et non de sources naturelles récentes.
    bon du coup alors ce n'est pas du tout clair : est ce que l'IA répète simplement tout ce qu'elle voit sur le net (y compris le climatoscepticisme), ou bien est ce qu'elle est capable de faire un tri rationnel en fonction de la fiabilité des informations, et dans ce cas pourquoi se laisse-t-elle influencer sur le climatoscepticisme ?
        

  12. #11
    polo974

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par Cyrano Voir le message
    est ce que l'IA peut aussi générer des discours favorables à l'astrologie, à l'homéopathie, ou au complotisme en général, simplement parce qu'il y a plein de discours comme ça sur internet, sans être filtrée, alors ?

    si oui, c'est quand même inquiétant.
    il suffit juste de lui demander:
     Cliquez pour afficher



    Citation Envoyé par ia pour rire
    Moralité : Quand les astres s'accordent et que l'infiniment petit résonne, les grands alarmistes n'ont plus qu'à ranger leurs thermomètres.
    C'est juste que l'IA va dans le sens qu'on veut.
    Ce qui permet de renforcer ses biais de confirmations si c'est ce qu'on veut. (ça devrait plaire à SK)

    Mais on peut aussi s'en servir pour les combattre, contrairement aux algos des zéros sociaux qui enferment les gens dans un flux ciblé qu'ils ne maîtrisent pas (juste un exemple).
    Avec une IA, on peut toujours ajouter un petit "ou bien je me trompe" qui ouvre une porte "courtoise" à une contradiction.
    Jusqu'ici tout va bien...
        

  13. #12
    Gwinver

    Re : Info : complaisance des IA avec les climatosceptiques

    Les informations peuvent ête contradictoires.

    Le retour de l'IA donné par Trebor:
    Pour le réchauffement climatique :
    La signature chimique du carbone.
    L'analyse isotopique du CO₂ présent dans l'atmosphère prouve qu'il provient majoritairement de la combustion d'énergies fossiles anciennes, et non de sources naturelles récentes.
    Le contenu Wikipédia :

    e sorte qu'en novembre 2020, la concentration de CO2 atmosphérique a atteint 413 ppm (parties par million), alors qu'elle était de l'ordre de 280 ppm jusqu'à la révolution industrielle.
    Certes la mesure date de 2020, mais la part anthropique ne serait pas majoritaire; aux alentours d'un tiers de la quantité globale.

    https://fr.wikipedia.org/wiki/Émissi...yde_de_carbone
        

  14. #13
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par polo974 Voir le message
    C'est juste que l'IA va dans le sens qu'on veut.
    ah bon?
    mais moi je ne vais pas dans le sens de mes contradicteurs simplement parce qu'on insiste. Je peux changer d'avis si on me donne des vrais arguments, objectifs et rationnels, mais certainement parce qu'on me répète des trucs en boucle. Et je doute que tu arrives à m'en donner sur l'homéopathie ou l'astrologie. Sur le climat, il y a des choses moins affirmées que d'autres à mon avis donc il y a matière à discussion.

    Mais bon dans tous les cas mon avis ne va pas changer face à un astrologue, juste parce qu'il me répèterait des bêtises en boucle.


    Tu es en train de dire que l'IA ne sait pas faire ça ?
        

  15. #14
    Bounoume

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par Gwinver Voir le message
    Le retour de l'IA donné par Trebor:

    L'analyse isotopique du CO₂ présent dans l'atmosphère prouve qu'il provient majoritairement de la combustion d'énergies fossiles anciennes, et non de sources naturelles récentes.
    ]
    le texte de l'IA est simplement tordu.....
    la combustion d'énergies fossiles anciennes : pour moi c'est le charbon et le pétrole!
    "les sources naturelles" récentes ou non, il y en a quand même .... un peu....
    ça ne nie pas le RC, c'est seulement du charbia mal dit.... la maladresse et la bêtise ne sont pas une exclusivité humaine.....
    Dernière modification par Bounoume ; 17/11/2026 à 18h55.
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
        

  16. #15
    vgondr98

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par Cyrano Voir le message
    Tu es en train de dire que l'IA ne sait pas faire ça ?
    Oui, c'est un défaut connu de l'IA. J'avais citer un benchmark dans une autre discussion qui mesurait la capacité d'un LLM à résister à la pression de l'utilisateur et pour les LLM testés, ils finissent par abandonner leur posture de départ au bout de 5 "tours". Ca semble moins être le cas pour les LLM grand publics cependant. De plus, plus la conversation est longue, plus ce risque s'aggrandit.
        

  17. #16
    oualos

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par Cyrano
    Sur le climat, il y a des choses moins affirmées que d'autres à mon avis donc il y a matière à discussion.
    Ce n'est pas "une" opinion que l'IA transcrit mais l'opinion majoritaire partagée par des millions de personnes qui l'écrivent dans leur textes.
    L'IA ne sait pas faire ou établir systématiquement une controverse genre thèse-antithèse-synthèse comme en philo classique en présentant le pour et le contre, ce n'est pas son objet: pas pour ça qu'elle a été conçue.
    Par contre si on lui demande explicitement dans une question bien formulée de faire un exposé thèse-antithèse-synthèse sur une question, elle peut le faire
    Essaie!
        

  18. #17
    trebor

    Re : Info : complaisance des IA avec les climatosceptiques

    Question posée :

    Etes vous capable de me donner des fausses infos si je vous les demandes, (de mentir) ?
    Réponse :
    Oui, je peux inventer de fausses informations si vous me le demandez explicitement dans un cadre créatif ou fictif, mais mes règles de sécurité m'interdisent de vous tromper volontairement ou de propager de la désinformation dans la réalité.

    Ce que je peux faire sur demande

    • La fiction et le jeu de rôle. Si vous me demandez d'inventer une histoire, un faux article satirique ou un scénario imaginaire, je créerai des éléments fictifs tout en maintenant un cadre clair.
    • Les hypothèses et simulations. Je peux explorer avec vous des scénarios hypothétiques ou « contre-factuels » pour tester des idées ou illustrer un concept.

    Ce que je refuse de faire
    • Tromper ou manipuler. Je ne peux pas mentir pour vous induire en erreur sur des faits réels, l'actualité, la santé ou des questions de sécurité.
    • Créer de la désinformation. Je refuse de rédiger de fausses preuves, de faux témoignages ou des contenus trompeurs destinés à être présentés comme vrais à d'autres personnes.
    Le cas des erreurs involontaires

    • Les « hallucinations ». Même sans intention de mentir, il peut m'arriver de me tromper ou d'inventer un détail lorsque mes sources sont incomplètes.
    Il ne s'agit pas d'un mensonge, car je n'ai pas d'intention, mais d'une limite technique liée à ma façon de générer du texte.
    Faire tout pour la paix afin que demain soit meilleur pour tous
        

  19. #18
    ThM55

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par pm42 Voir le message
    Je vais préciser mon point de vue : si demain quelqu'un cherche du discours climatosceptique, il le trouve très facilement par une recherche sur Internet, dans la presse, sur les réseaux sociaux.

    On n'a pas d'étude universitaire qui dit "Google trouve des infos climatosceptiques, c'est très mal".
    Pourtant, c'est plus facile qu'avec l'IA.

    On ne dit pas non plus "ce devrait être à Google de filtrer" parce que dans ce cas, on censure le Président des Etats-Unis ? Ok, mais dans ce cas, on censure qui ? Pourquoi ?

    Si quelqu'un veut absolument croire en quelque chose, ce n'est pas des filtres IA qui vont l'en empêcher et je trouve donc ce genre d'étude totalement ridicule et je suis gentil.
    100% d'accord!
    Dans le même ordre d'idées, je viens de voir une émission sur ARTE. Elle présente un jeune homme qui, après avoir discuté de manière "très intense" (je cite) avec chatGPT, a a fait des crises de schizophrénie, il faisait des gestes bizarres, il parlait avec une entité dans le ciel et a fait 60 jours en HP. L'émission présente cela comme si chatGPT était responsable de la crise psychiatrique. A aucun moment on ne cherche la vraie cause. Facile, c'est l'IA! Incroyable! A aucun moment on ne se demande si la maladie existait avant l'arrivée de ces applications et si elle ne se serait pas révélée autrement? Quand j'étais étudiant dans les années 1980 j'ai connu un étudiant en maths, un type très brillant qui avait trouvé des théorèmes originaux en faisant sa thèse de master. Rien ne montrait une schizophrénie, mais au milieu de son doctorat il a sombré, il s'est complètement déconnecté du monde et a fini par être hospitalisé. Il s'en est sorti avec des médicaments, et il a pu mener une vie normale mais à ma connaissance aucun psychiatre n'a affirmé que les maths rendaient schizophrène (l'hypothèse inverse, qu'une maladie mentale potentielle puisse orienter quelqu'un vers l'abstraction des maths pures est tout aussi plausible a priori, mais je ne suis pas psychiatre). S'il avait utilisé chatGPT, j'imagine ce que tout le monde aurait dit. Tout ce bruit me semble vraiment être une forme trop facile de production de contenu médiatique terrorisant. La peur fait vendre.
    Dernière modification par ThM55 ; 17/11/2026 à 22h19.
        

  20. #19
    trebor

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par ThM55 Voir le message
    100% d'accord!
    Dans le même ordre d'idées, je viens de voir une émission sur ARTE. Elle présente un jeune homme qui, après avoir discuté de manière "très intense" (je cite) avec chatGPT, a a fait des crises de schizophrénie, il faisait des gestes bizarres, il parlait avec une entité dans le ciel et a fait 60 jours en HP. L'émission présente cela comme si chatGPT était responsable de la crise psychiatrique. A aucun moment on ne cherche la vraie cause. Facile, c'est l'IA! Incroyable! A aucun moment on ne se demande si la maladie existait avant l'arrivée de ces applications et si elle ne se serait pas révélée autrement? Quand j'étais étudiant dans les années 1980 j'ai connu un étudiant en maths, un type très brillant qui avait trouvé des théorèmes originaux en faisant sa thèse de master. Rien ne montrait une schizophrénie, mais au milieu de son doctorat il a sombré, il s'est complètement déconnecté du monde et a fini par être hospitalisé. Il s'en est sorti avec des médicaments, et il a pu mener une vie normale mais à ma connaissance aucun psychiatre n'a affirmé que les maths rendaient schizophrène (l'hypothèse inverse, qu'une maladie mentale potentielle puisse orienter quelqu'un vers l'abstraction des maths pures est tout aussi plausible a priori, mais je ne suis pas psychiatre). S'il avait utilisé chatGPT, j'imagine ce que tout le monde aurait dit. Tout ce bruit me semble vraiment être une forme trop facile de production de contenu médiatique terrorisant. La peur fait vendre.
    Ne sachant pas de quoi il a discuté et pendant combien de temps (heures, jours.......) ainsi que sur son état mental avant de sombrer dans le délire, c'est un cas rare tout comme pour les guérisons inexpliquées (72 à Lourdes depuis 1858) sur environ 700 millions de pèlerins.
    Je n'aime pas les média qui ne donnent qu'une partie d'info, pour moi, le manque d'info complet tue l'info.
    L'IA donne de l'info à profusion si vous souhaitez approfondir le sujet sur la question posée.
    Faire tout pour la paix afin que demain soit meilleur pour tous
        

  21. #20
    pm42

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par ThM55 Voir le message
    La peur fait vendre.
    Comme je disais, j'ai vécu exactement ça avec le même biais médiatique pour toutes les nouveautés, calculatrice, ordinateur, Internet, smartphone et maintenant IA.
    Et on sait qu'il y a le même discours depuis des milliers d'années.

    Mais on sait aussi que les émotions sont nettement plus fortes que toute capacité à réfléchir, prendre du recul, analyser des faits. Mais que bien sur, toute personne ayant peur vous justifie "rationnellement" pourquoi l'apocalypse est proche en fait.
        

  22. #21
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par trebor Voir le message
    Question posée :

    Etes vous capable de me donner des fausses infos si je vous les demandes, (de mentir) ?
    Réponse :
    Oui, je peux inventer de fausses informations si vous me le demandez explicitement dans un cadre créatif ou fictif, mais mes règles de sécurité m'interdisent de vous tromper volontairement ou de propager de la désinformation dans la réalité.

    Ce que je peux faire sur demande

    • La fiction et le jeu de rôle. Si vous me demandez d'inventer une histoire, un faux article satirique ou un scénario imaginaire, je créerai des éléments fictifs tout en maintenant un cadre clair.
    • Les hypothèses et simulations. Je peux explorer avec vous des scénarios hypothétiques ou « contre-factuels » pour tester des idées ou illustrer un concept.

    Ce que je refuse de faire
    • Tromper ou manipuler. Je ne peux pas mentir pour vous induire en erreur sur des faits réels, l'actualité, la santé ou des questions de sécurité.
    • Créer de la désinformation. Je refuse de rédiger de fausses preuves, de faux témoignages ou des contenus trompeurs destinés à être présentés comme vrais à d'autres personnes.
    Le cas des erreurs involontaires

    • Les « hallucinations ». Même sans intention de mentir, il peut m'arriver de me tromper ou d'inventer un détail lorsque mes sources sont incomplètes.
    Il ne s'agit pas d'un mensonge, car je n'ai pas d'intention, mais d'une limite technique liée à ma façon de générer du texte.
    evidemment demander à un menteur si il est capable de mentir ne peut rien t'apprendre du tout, puisque si il ment, il peut aussi te dire qu'il ne ment jamais. C'est donc pas une méthode efficace pour le déceler.
        

  23. #22
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Mais admettons que ce que dise l'IA soit vrai Dans ce cas, il faudrait admettre que ce qu'elle dit qui peut paraitre climatosceptique serait ... aussi vrai.

    Ca pose une question intéressante plus générale qui ne concerne pas que le climat : si une IA vous sort une assertion qui contredit une de vos croyances, est ce que vous décidez qu'elle a surement raison, et que vous avez donc tort ? ou est ce que vous décidez que c'est un cas d'hallucination et que c'est elle qui a tort ?

    Ca pose le problème que je soulève souvent : le problème est qu'on n'a pas de critère précis pour évaluer la fiabilité de ce que disent les IA. Ce qui est quand même très gênant si on commence à utiliser des IA agentiques, auxquelles on confierait des vraies décisions.
        

  24. #23
    GBo

    Re : Info : complaisance des IA avec les climatosceptiques

    @Cyrano: tu le dis souvent et on te répond tout aussi souvent qu'il suffit de demander d'où le chatbot tire ses assertions, de quel(s) texte(s) humain(s) exactement, et de se les procurer, les lire. Les textes humains sont signés, peer-reviewés dans le meilleur des cas, et on doit se renseigner sur la crédibilité/neutralité des auteurs exactement comme on le faisait avant fin 2022. S'il n'y a pas de texte humain, méfiance: l'IA a peut-être brodé, interpolé, halluciné.
    Dernière modification par GBo ; 18/11/2026 à 09h09.
        

  25. #24
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par GBo Voir le message
    @Cyrano: tu le dis souvent et on te répond tout aussi souvent qu'il suffit de demander d'où le chatbot tire ses assertions, de quel(s) texte(s) humain(s), et de se les procurer. Les textes humains sont signés, on peut se renseigner sur la crédibilité des auteurs comme on le fait depuis l'invention de l'écriture. S'il n'y a pas de texte humain, méfiance, l'IA a peut-être brodé, interpolé.
    essaie de demander à l'IA d'où elle tire ses assertions sur le climat. Elle va très certainement te répondre "des rapports du GIEC etc..." (pour le coup les humains répondent la même chose).

    Ca ne t'apprendra rien ni sur la fiabilité de ses sources, ni même si elle te donne fidèlement la traduction de ces rapports. Pour des données factuelles facilement vérifiables comme la date de signature du traité de Versailles, c'est bien sur possible de vérifier, mais pour des choses plus complexes, plus nuancées, et encore plus pour justifier des décisions à prendre dans des circonstances complexes, c'est impossible à vérifier.
        

  26. #25
    vgondr98

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par Cyrano Voir le message
    essaie de demander à l'IA d'où elle tire ses assertions sur le climat. Elle va très certainement te répondre "des rapports du GIEC etc..." (pour le coup les humains répondent la même chose)
    Pas du tout, elle va fournir des liens hypertext pointant vers les sources qu'il va falloir lire, décortiquer, analyser, par exemple un article scientifique. Je dirais que ça ça marche depuis un an ou deux.
        

  27. #26
    Cyrano

    Re : Info : complaisance des IA avec les climatosceptiques

    J'ai eu une fois une discussion hallucinante avec Grok où il défendait des positions islamo-centrées suggérant que des faits scientifiques figuraient dans le Coran bien avant qu'ils soient découverts (en reprenant des arguments d'imams figurant sur internet). Evidemment si tu lui demandes ses sources, elle va te répondre : le Coran, et même te citer les sourates en question (c'etait à propos d'un truc sur les embryons humains). J'avais beau lui expliquer qu'en disant n'importe quoi au hasard il peut arriver qu'on dise des trucs qui ressemblent vaguement à la réalité, elle n'en démordait pas. Je pense que quelqu'un d'influençable, sans esprit critique, aurait juste pris ce qu'elle disait comme une confirmation de ses croyances.

    Ca prouve que demander les sources, mêmes véridiques, ça ne suffit pas pour faire confiance dans le raisonnement. Si tu n'es pas capable toi de raisonner sur les sources, l'IA ne t'aidera pas à le faire.
        

  28. #27
    GBo

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par ThM55 Voir le message
    100% d'accord!
    Dans le même ordre d'idées, je viens de voir une émission sur ARTE. Elle présente un jeune homme qui, après avoir discuté de manière "très intense" (je cite) avec chatGPT, a a fait des crises de schizophrénie, il faisait des gestes bizarres, il parlait avec une entité dans le ciel et a fait 60 jours en HP. L'émission présente cela comme si chatGPT était responsable de la crise psychiatrique. A aucun moment on ne cherche la vraie cause. Facile, c'est l'IA! Incroyable!
    C'est quelle émission ? Et même s'il était préalablement "atteint", ce qui est vraisemblable, est-ce qu'il aurait fait cette crise en particulier sans l'interaction longue et délétère avec le bot dépourvu de garde fou contre le spiraling* ? Je trouverais donc, moi, révoltant qu'on ne se pose pas la question de la protection de ce type de personnes vis-à-vis de ces nouveaux outils, car ce n'est pas une fatalité :

    (*) "When AI relationships trigger ‘delusional spirals’"
    https://news.stanford.edu/stories/20...-mental-health
    Dernière modification par GBo ; 18/11/2026 à 09h38.
        

  29. #28
    vgondr98

    Re : Info : complaisance des IA avec les climatosceptiques

    Bin le problème, c'est que Grok tire ces infos de X (ex twitter).
        

  30. #29
    ThM55

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par GBo Voir le message
    C'est quelle émission ? Et même s'il était préalablement "atteint", ce qui est vraisemblable, est-ce qu'il aurait fait cette crise en particulier sans l'interaction longue et délétère avec le bot dépourvu de garde fou contre le spiraling* ? Je trouverais donc, moi, révoltant qu'on ne se pose pas la question de la protection de ce type de personnes vis-à-vis de ces nouveaux outils, car ce n'est pas une fatalité :

    (*) "When AI relationships trigger ‘delusional spirals’"
    https://news.stanford.edu/stories/20...-mental-health
    Une émission le 17 novembre 2026 en soirée, sur le thème de l'IA. Je n'ai pas tout regardé, cela m'énervait trop.

    Je suis aussi d'accord avec cela bien sûr, mais c'est l'entourage de ces personnes qui devrait être conscient. De même, on ne devrait pas laisser une personne fragile s'immerger seule dans GTA, conduire une voiture, fréquenter une secte... Des voitures qui peuvent rouler à 280 km/h sont en vente libre, et pourtant tout démontre que ce sont des armes létales. Tout cela n'est pas spécifique à l'IA. Mais je sais bien que ce n'est pas un problème facile qui se règle à coup de yaka...
    Dernière modification par ThM55 ; 18/11/2026 à 10h19.
        

  31. #30
    pm42

    Re : Info : complaisance des IA avec les climatosceptiques

    Citation Envoyé par ThM55 Voir le message
    Une émission le 17 novembre 2026 en soirée, sur le thème de l'IA. Je n'ai pas tout regardé, cela m'énervait trop.
    En fait, il est effarant que certains viennent sur un forum scientifique nous sortir ça comme référence. Ils n'ont pas appris à lire à l'école ?


    Citation Envoyé par ThM55 Voir le message
    UDes voitures qui peuvent rouler à 280 km/h sont en vente libre, et pourtant tout démontre que ce sont des armes létales.
    Non, il suffit de savoir ce qu'on fait comme avec tous les outils. Par exemple, les accidents mortels sur autoroute, c'est historiquement 10%, ceux liés à la grande vitesse, 10% de ça (avant les radars partout).
    Bref, l'arme létale, c'est monsieur tout le monde et plutôt pas trop loin de chez lui. Le cas de quelqu'un qui roule à 280 et tue quelqu'un d'autre, cela n'existe quasiment pas.

    Citation Envoyé par ThM55 Voir le message
    Tout cela n'est pas spécifique à l'IA. Mais je sais bien que ce n'est pas un problème facile qui se règle à coup de yaka...
    +1 mais quand on regarde la télé, le yaka arrive vite.
        

Page 1 sur 3 12 DernièreDernière

Discussions similaires

  1. Arguments de climatosceptiques
    Par inviteb7c20682 dans le forum Environnement, développement durable et écologie
    Réponses: 227
    Dernier message: 18/05/2023, 22h44
  2. Article : Climatosceptiques sur Twitter
    Par philippedelimoges dans le forum Lectures scientifiques
    Réponses: 12
    Dernier message: 17/02/2023, 14h18