Trop d'IA tue l'esprit ?

[polo974]

@cromagno: demande à Ariane Espace, ce qu'ils en pensent de ton postulat selon lequel une calculette ne se trompe pas...

@Liet Kynes: tu demandes qu'on ne te fasse pas un procès d'intention à chaque fois que je poste quelque chose. Mais rien que le titre du fil que TU as choisi aurait valu à mon avis une fermeture sans sommation, tellement il est moisi. Ensuite, tu jettes en pâture un lien et basta. Au final, après moulte posts, tu tentes de rectifier le tir.

Bon, on peut continuer sur le sujet de l'article scientifique, mais ça va tourner à de la psycho et à la façon d'enseigner afin de développer le plus possible l'esprit critique (et la curiosité) des personnes.
-----

[GBo]

Etant donné que l'on sait que les chatbots/LLMs peuvent toujours halluciner (problème amoindri mais non résolu en 2025), je trouve au contraire que ça développe l'esprit critique dès qu'on l'utilise. Si on le sait pas, on se fait avoir une fois mais pas deux, et donc ça développe l'esprit critique.

Exemple : pour autre discussion, je viens de demander à chatgpt.com avec quelle précision on connaissait l'orbite de Mars, il m'a sorti, sûr de lui, "de l'ordre du millimètre".
Quand j'ai demandé des liens l'attestant, il m'a fournit des liens qui ne mènent nulle part. De toute façon je n'en croyais rien. Le mm, bien sûr...

Avec une recherche à l'ancienne (moteur Google et affinage par mot-clés du genre Mars+orbit+accuracy), je trouve que la précision est en fait actuellement de l'ordre du km.

[GBo]

D'ailleurs, en foot note chagpt.com dit bien :

ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes.

Si ce n'est pas un appel à faire usage de son esprit critique, c'est quoi ?

[Liet Kynes]

[QUOTE=GBo;7275513]D'ailleurs, en foot note chagpt.com dit bien :

Pour le coup si je fais appelle à mon esprit critique en lisant "ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes." je me dis que celui qui a peu d'esprit critique ne se dira pas que le message d'avertissement aurait du être "ChatGPT fait des erreurs. Envisagez de vérifier les informations "

[Liet Kynes]

Le titre, je l'ai choisi ainsi par humour.. mais bon c'est raté:

J'interroge à travers ce titre sur les reprises journalistiques de l'étude et je ne manque pas d'ouvrir le fil

Comme toujours, il faut relativiser et prendre le temps de se demander si ce qui est amoindri l'est au bénéfice d'autre chose (quoi?) etc..

Donc oui vu certaines réactions j'ai ressenti une forme de procès d'intention.

[pm42]

[QUOTE=Liet Kynes;7275576]

D'ailleurs, en foot note chagpt.com dit bien :

Pour le coup si je fais appelle à mon esprit critique en lisant "ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes." je me dis que celui qui a peu d'esprit critique ne se dira pas que le message d'avertissement aurait du être "ChatGPT fait des erreurs. Envisagez de vérifier les informations "

Tu sais que "esprit critique" ne veut pas dire "critique systématique sans connaitre le sujet et sans argument" ?
Parce que là, à part taper sur l'IA à coup d'articles sensationnalistes et de phrases comme ça à l'emporte-pièce, on a du mal à voir où tu veux en venir.

Tu te plains des "procès d'intention" mais entre le titre qui est déjà massivement excessif et le reste, il semble qu'au contraire, ton intention a été parfaitement perçue.

P.S : un esprit critique aurait remarqué sur l'article original que :
- ils ont envoyé un questionnaire dans la nature
- ils n'ont reçu que 319 réponses ce qui n'est pas statistiquement significatif
- que prendre en compte uniquement ceux qui ont répondu crée un énorme biais de sélection
- qu'ils n'ont pas de groupe témoin
- qu'ils font leur étude sur non seulement un échantillon très faible mais sur une courte période alors que l'évaluation de l'évolution de capacité cognitives se fait normalement sur beaucoup plus longtemps

Bref, l'article est très, très faible et je pense que tu ne l'as pas lu ni évalué. Tu as fait un grand classique ici : lire de la presse grand public, croire ce qui est dit si cela colle à tes à-priori et ensuite, faire la plus grosse erreur : poster un article comme argument d'autorité.
Sauf qu'un article de recherche n'est pas une vérité : la plupart n'apportent rien au domaine et en sciences "molles" comme ici sont réfutés, non reproductibles, etc.

[Liet Kynes]

La question qui est soulevée par cette étude mérite quand même d'être approfondie ou non ?
Faut-il laisser les enfants interagir avec l'IA dès qu'ils savent lire ? Si non pourquoi ? et dans ces "pourquoi" la question du développement de l'esprit critique se pose-t-elle ?

[pm42]

La question qui est soulevée par cette étude mérite quand même d'être approfondie ou non ?
Faut-il laisser les enfants interagir avec l'IA dès qu'ils savent lire ? Si non pourquoi ? et dans ces "pourquoi" la question du développement de l'esprit critique se pose-t-elle ?

Tiens, face à une série d'objections argumentée, tu les ignores et tu reviens sur "oui mais on va le faire quand même" et dire que l'IA est éventuellement dangereuse pour les enfants, l'argument le plus vieux du monde. On a même accusé Socrate de ça. On a aussi utilisé l'argument pour la radio, les jeux vidéos, etc. A ca jour, la seule chose connue pour avoir eu un effet néfaste est la télé parce qu'elle est 100% passive et hypnotique. Ce qui n'est pas le cas de l'IA.

Où est ton esprit critique ? Dans le déni de tout ce qui ne va pas dans ton sens et la répétition de trucs éculés pour discréditer ?

[pm42]

Plus haut, j'ai raté un quote et attribué par erreur à GBo des propos qui ne sont pas les siens. Toutes mes excuses.

[JPL]

Rappel de la charte du forum :

Vous pouvez critiquer les idées, mais pas les personnes.

Ceci s’applique à de nombreux messages de plusieurs participants à cette discussion... mais certains plus que d’autres.

[GBo]

Plus haut, j'ai raté un quote et attribué par erreur à GBo des propos qui ne sont pas les siens. Toutes mes excuses.

Pas de souci, il n'y avait pas d'ambiguïté sur le fait que tu répondais à Liet

[Liet Kynes]

Tiens, face à une série d'objections argumentée, tu les ignores et tu reviens sur "oui mais on va le faire quand même" et dire que l'IA est éventuellement dangereuse pour les enfants, l'argument le plus vieux du monde. On a même accusé Socrate de ça. On a aussi utilisé l'argument pour la radio, les jeux vidéos, etc. A ca jour, la seule chose connue pour avoir eu un effet néfaste est la télé parce qu'elle est 100% passive et hypnotique. Ce qui n'est pas le cas de l'IA.

Où est ton esprit critique ? Dans le déni de tout ce qui ne va pas dans ton sens et la répétition de trucs éculés pour discréditer ?

Donc d'après toi, qui se présente régulièrement comme spécialiste du domaine / travaillant à haut niveau dans ledit domaine / ayant fait l'ENS / enseignant de maths à des prépas à HENRY IV etc.. la question de savoir si l'IA peut ou non altérer l'esprit critique ou son développement ne se pose même pas dans la limite ou ce n'est pas une technologie passive et hypnotique et le fait même de la poser serait une opération de discréditation.
Ben je me permet de ne pas rejoindre ce genre de point de vue simpliste et de chercher à me faire une opinion sur la question.

[pm42]

Donc d'après toi

On va passer sur l'attaque perso en mode passif-agressif.

la question de savoir si l'IA peut ou non altérer l'esprit critique ou son développement ne se pose même pas dans la limite ou ce n'est pas une technologie passive et hypnotique et le fait même de la poser serait une opération de discréditation.

Non, je n'ai jamais dit ça.

Ben je me permet de ne pas rejoindre ce genre de point de vue simpliste et de chercher à me faire une opinion sur la question.

Le simplisme, c'est de :
- balancer un article grand public sensationnaliste
- ne pas lire l'article qu'il cite et ne pas voir ses limites
- ne pas lancer le débat sauf avec un titre massivement excessif parce rien n'a jamais "tué l'esprit"
- confondre la critique de ta méthode avec le refus même du sujet. C'est très classique comme astuce réthorique, très malhonnète mais typique des gens qui "croient" et qui donc refusent toute réflexion et débat puisque la remise en cause de leur process revient pour eux à une remise en cause de leur conclusion. Ce qui est inacceptable bien sur

Ce que je sais :
- les évolutions des comportements humains et des capacités cognitives à l'échelle du groupe ne se font pas sur 2 ans et se mesurent encore moins sur une telle période
- mesurer ce genre d'évolution nécessite beaucoup plus que les 319 personnes qui ont accepté de renvoyer un questionnaire reçu via le Net. Où est le groupe témoin par exemple ?
- la dite mesure est déjà très compliquée, l'interpréter et lui attribuer une causalité encore plus. Il suffit de voir la polémique sur la baisse de QI qui a été immédiatement attribuée à des causes environnementales alors qu'elle n'est pas constaté dans des pays non occidentaux qui ont pourtant les mêmes conditions
- vu que le discours tenu "on va tous devenir idiots parce qu'il y une nouvelle techno" l'est depuis des millénaires sans avoir jamais été vrai, il est très suspect à priori. Cela ne veut pas dire qu'il est forcément faux mais c'est comme la mémoire de l'eau, l'éther voire la fusion froide : on ne se dépêche pas de dire "ah oui, ce coup-ci, c'est vrai", on fait preuve d'un plus grand scepticisme

Bref, que dire quelque chose de pertinent et avoir une démarche scientifique, c'est tout autre chose que le café du commerce qu'a été ce fil, que cela nécessite de ne pas partir avec des convictions, qu'une seule étude vite faite mal faite n'est pas une preuve, etc.

Mais je ne me fais pas d'illusions : après quelques décennies sur les forums, la réponse en général à tout discours argumenté et détaillé se limite à "tu racontes n'importe quoi et moi j'ai raison et pour le prouver, je fais réaffirmer mes croyances à coup de phrases définitives".

[Liet Kynes]

Je n'ai pas ouvert ce fil pour émettre un avis même si c'est que certains le pensent mais avec son dérouler je me dit que c'est un questionnement qui mérite d'être approfondi.

Je vais faire mes recherches quand même..
Je viens de tomber par exemple sur cet article : https://sydologie.com/2025/01/ia-fac...ent-conscient/
Je vais chercher s'il est développé avec pertinence et compétence des infos allant dans l'autres sens.
.

[pm42]

Merci d'illustrer ce que je disais dans la dernière phrase de ma réponse.

[Liet Kynes]

Merci d'illustrer ce que je disais dans la dernière phrase de ma réponse.

Je suis désolé mais je n'ai pas trouvé de "discours argumenté et détaillé" dans ce que tu as apporté dans ce fil.

[stefjm]

- vu que le discours tenu "on va tous devenir idiots parce qu'il y une nouvelle techno" l'est depuis des millénaires sans avoir jamais été vrai, il est très suspect à priori. Cela ne veut pas dire qu'il est forcément faux mais c'est comme la mémoire de l'eau, l'éther voire la fusion froide : on ne se dépêche pas de dire "ah oui, ce coup-ci, c'est vrai", on fait preuve d'un plus grand scepticisme

On peut lire cela dans l'autre sens : C'est parce qu'on sait qu'on va devenir tous idiots qu'on invente de nouvelle technologie pour compenser et que cela a plutôt pas mal marché jusqu'à présent, en combinaison avec l'augmentation du nombre d'individus.

Je ne dis pas que j'ai raison ou tort. Je me pose sincèrement la question.

[pm42]

Je suis désolé mais je n'ai pas trouvé de "discours argumenté et détaillé" dans ce que tu as apporté dans ce fil.

C'est parfaitement normal : les gens qui sont dans la croyance ne lisent pas ou n'entendent pas tout ce qui n'est pas biais de confirmation.
Ils réagissent en fait uniquement à l'interlocuteur, pas au contenu du discours.
C'est le genre de chose qui a été montré en IRM fonctionnelle.

Dans ton cas, cela veut dire que face à tout article qui dit qu'en gros "l'IA c'est mal on va devenir idiot", tu vas dès le titre te dire "ah c'est intelligent et argumenté" sans même le lire.
Si dedans, cela explique que c'est parce que c'est à cause des Illuminati et du fait que la terre est plate, tu vas l'accepter.

A contrario, tout ce qui ne dit pas cela mais qui est plus long, détaillé, avec des liens, etc ne va même pas s'enregistrer dans ton cerveau : tes biais font que tu filtres massivement.

On peut lire cela dans l'autre sens : C'est parce qu'on sait qu'on va devenir tous idiots qu'on invente de nouvelle technologie pour compenser et que cela a plutôt pas mal marché jusqu'à présent, en combinaison avec l'augmentation du nombre d'individus.

Tu ne vois pas le problème ? Il faut quoi pour inventer de nouvelles technologies ? Tu penses qu'il fallait des idiots pour concevoir les ordinateurs, le Net, l'IA et tout le reste ?

[stefjm]

Tu ne vois pas le problème ? Il faut quoi pour inventer de nouvelles technologies ? Tu penses qu'il fallait des idiots pour concevoir les ordinateurs, le Net, l'IA et tout le reste ?

Il faut une nécessité, une créativité et un existant sur lequel s'appuyer.
Possible que le degré d'idiotie envisagé n'est pas le même pour nous deux, mais c'est pas facile à quantifier.

Et oui, je vois des "idiots" capables de faire des choses intéressantes, voir très intéressantes. Ces idiots là sont suffisamment lucides pour s'en rendre compte.

[pm42]

Et oui, je vois des "idiots" capables de faire des choses intéressantes, voir très intéressantes. Ces idiots là sont suffisamment lucides pour s'en rendre compte.

Vu que "idiot" comme "intelligent" n'est jamais défini et sans doute pas définissable, je vais arrêter là.

[stefjm]

C'est comme le bon sens et finalement le sexe des anges.

[polo974]

... et finalement le sexe des anges.

Sans même parler des anges transgenre...

Quitte à dire une connerie, autant qu'elle soit grosse. (je précise, là, je parle de ma contribution monumentale à ce fil )

[JPL]

Voulez-vous réellement que cette discussion soit fermée ? Mon premier avertissement n’a manifestement pas été suffisant.

[Liet Kynes]

Mon avis: fermes. Il n'y aura pas de développements intelligents, quand certaines rhétoriques prennent les pas sur la réflexion, ce n'est pas possible dans un contexte de réseau social.
Je ne pensai pas que cela arriverait ici, mais c'est bien installé.

[Liet Kynes]

Si l'esprit n'est pas là il n'y a pas besoin de le tuer: https://intelligence-artificielle.de...e-de-Stanford/

[oualos]

Je crois que la question porte une formulation révélant surtout l'angoisse de se voir déposséder de quelque chose.

Cette angoisse est présente à chaque innovation technologique ou technique comme lorsque le train à vapeur est apparu, en Angleterre on a dit que les vaches produiraient moins de lait et de moins bonne qualité: voire plus du tout.
Là l'IA ça touche à une part de notre identité non négligeable soit l'intelligence, la faculté de comprendre et d'analyser: mais le sens critique demeure intact et restera toujours le même quoi qu'il arrive, même avec des IA actionnées par des ordinateurs quantiques
L'IA est un outil : si elle réalise une partie des tâches que l'esprit humain ou l'intelligence réalise, cette dernière va reporter les facultés liées à l'esprit ou l'intelligence sur d'autres choses.
Et de toute façon, le sens critique n'est jamais absent donc si la machine raconte des choses qui semblent fausses, imprécises ou inexactes on peut toujours vérifier ailleurs.
Je vois pas comment on peut supprimer le sens critique autrement que par un traitement chimique poussé que personne n'acceptera ou un lavage de cerveau comme dans des pays totalitaires.
voire le film Orange mécanique mais c'est un peu différent car il s'agit ou s'agissait de maitriser l'agressivité et la violence: on peut voir Laborit et ses écrits et même Freud a dit des choses là-dessus dans Malaise dans la civilisation
Et le sens critique est une partie non négligeable de l'esprit humain! donc on ne peut l'abolir que par des processus eux-mêmes violents et destructeurs d'individualité...
Ou l'amoindrissant considérablement.

[racard]

On peut aussi remarquer que tout ce qui est décrit, c'est à dire le risque de sur-usage, perte de compétence, etc est vrai pour toute technologie : si j'ai un couteau, je ne sais plus tailler les silex.
Si j'ai une calculatrice, je suis moins bon en calcul mental, une voiture, je vais moins marcher (surtout aux US ).

bonjour c'est une remarque excellente donc j'utilise une IA je serai moins intelligent à la longue ?

[Lil00]

bonjour c'est une remarque excellente donc j'utilise une IA je serai moins intelligent à la longue ?

La réponse est dans la question : est-ce que le couteau et la calculatrice ont rendu les humains moins intelligents ?
La voiture les a sûrement rendus plus sédentaires et en moins bonne santé, mais bizarrement, peu trouve à y redire.

[racard]

La réponse est dans la question : est-ce que le couteau et la calculatrice ont rendu les humains moins intelligents ?
La voiture les a sûrement rendus plus sédentaires et en moins bonne santé, mais bizarrement, peu trouve à y redire.

je m'attache à la sémantique des mots, j'utilise une calculatrice je serai moins bon en calcul mental, si j'utilise une voiture au mieu de marcher je serai moins apte à faire des kms à pieds le jour où cela sera nécessaire, etc...
j'utilise une IA au lieu de réflechir au final j'encroute mon cerveau

[Bounoume]

La réponse est dans la question : est-ce que le couteau et la calculatrice ont rendu les humains moins intelligents ?
La voiture les a sûrement rendus plus sédentaires et en moins bonne santé, mais bizarrement, peu trouve à y redire.

OK, ces outils, maîtrisés par homo faber, ils ont accru son pouvoir d'abord sur le monde extérieur, puis sur la Société de ses semblables... et sur sa propre vie.....
ils ont modifié son appréhension du Monde, de lui-même aussi.....
très bien, et j'en profite. Pourvu que ça dure....
Néanmoins ces oiutils ne se sont jamais attribué le droit de 'penser' à sa place. Les plus récents transmettent et diffusent de l'information, des connaissances, mais qui ne sont que l'expression directe de choix humains explicites souverains et 'libres' ...... Ce sont des esclaves......
Quand ils recherchent des documents, des resemblances dans des textes, ce ne sont que de super-détectives, de super-renifleurs....
La reconnaissance d'images, l'IA générative ne sont encore que des esclaves.... même si ils sont entraînés en tant que artistes faussaires par leurs superviseurs....

Mais....
quand le Maitre homo demens choisit de leur demander de se substituer à lui..... pour construire et organiser ses propres connaissances et sa recherche de la Vérité , de discourir à sa place **là, ça craint......
donner le Pouvoir à l'esclave savant.....
avec deux scénarios synergiques:
le recours volontaire et de + en + généralisé de quidams pour faire faire leur travail intellectuel à certaines IA
la diffusion extensive (dans les medias modernes) de produits 'intelligents' d'IAs, écrasant les produits de cerveaux humains..... ** 'le bruit tue l'information' (shannon?)...
in fine....
Deus ex machina ? ....


*rédiger un article journalistique ou scientifique, la présentation de ses 'travaux' .... ..
** produits de cerveaux humains qui, l'Histoire en témoigne, ne sont pas toujours recommandables eux non plus.... mais alors que choisir? les méchants humains, ou la machine irresponsable? Excellent scénario de Science Fiction ...... hors sujet ici....