ChatGPT peut-elle nuire au développement de l'intelligence humaine ?

[Liet Kynes]

Altéré par qui ? Certainement pas par une application qui est clairement présentée comme un "simple" démonstrateur qui peut avoir des points faibles

L'altération de l'esprit critique dans les populations que j'évoque est celle de la situation actuelle, en d'autres termes, je pense que la mise à disposition de ces outils ne va pas améliorer les choses voir les compliquer. Le fait de constater une quasi-ivresse chez des détracteurs malgré les précautions prises pour expliquer les limites de l'expérience, et ce, pour des publics pourtant non dénués d'éducation me fait penser que le lâché dans la population est trop précoce mais bon je comprends qu'il faille bien franchir ce cap.
L'IA est un outil formidable mais pas à la portée de tout à chacun peut-être que des systèmes d'adaptation aux capacités cognitives des utilisateurs vont être développés ?
Cette technologie en est à ses débuts dans l'utilisation grand public, perso une version non modérée ne m'aurait pas dérangé pour comprendre les limites des corpus d'apprentissage et d'analyses des contextes.
-----

[Bounoume]

pour être plus clairs, disons que de tels outils d'IA peuvent être abordés de 2 manières:
sans esprit critique, en consommateur paresseux (ou sans aucune culture préalable, hélas)... et passif.....*
avec esprit critique, et en manipulation active basée sur des connaissances préalables.....

*ce sont ceux-là qui sont 'mous du cerveau' .. et qui le restent...

[JPL]

L'altération de l'esprit critique dans les populations que j'évoque est celle de la situation actuelle

A-t-on la moindre preuve quantitative que l’esprit critique était plus affuté au siècle précédent. C’est ce genre d’affirmation qu’à force de voir répéter beaucoup finissent par prendre pour une vérité. La seule chose qu’on peut dire c’est qu’actuellement il y a des médias très largement utilisés qui mettent en évidence le fait que des personnes manquent d’esprit critique, situation qui n’existait pas de façon aussi envahissante il y a quelques décennies.

[Liet Kynes]

L'esprit critique intègre pour partie un sens pratique et fonctionnel qui demande de mettre en œuvre des aptitudes cognitives, actuellement il est possible d'affirmer n'importe quoi sans préjudices existentiels, c'est d'ailleurs un des grands leviers du marketing ou du management actuel (ces deux concepts sont comme le Phoenix d'ailleurs mais de façon grotesque à la longue).
Le truc est qu'une IA non orientée/modérée est un reflet de la réalité et qu'il est difficile au grand public de s'empêcher de chercher au-delà de cette canalisation pour comprendre comment fonctionne ces systèmes de traitement de l'information très efficaces.
L'IA phobie vient de naître avec la release de chatGPT. C'est ridicule mais dans l'ère du temps.

[non bwana]

Bonjour,

Toute une tranche de la population commencera à craindre pour son travail.

ChatGPT n’est pas du tout pudibond, bien au contraire, ...

Premier chômeur dû à ChatGPT : Bigard.

[JPL]

Je n’ai pas dit qu’il était salace (je parle de ChatGPT bien entendu)

[curiossss]

L'utilisation généralisée de Chatgpt ou autre avatar, pose le problème du développement du sens critique dans la société : Car le prêt-à-pensé de l'IA peut devenir à terme LA référence, de la bien pensance, un modèle de la rationalité, qui n'est en fait que le remixage des pensées du passé, via le tamis des algorithmes, et de filtres (conçus par qui ?, et à quelles fins ? )

D'ailleurs le (conçus par qui ?, et à quelles fins ? ) relève entièrement du complotisme.

C'est très à la mode, mais il faudrait peut-être arrêter un jour de sortir l'arme du "complotisme" à toute occasion : c'est presque toujours le signe qu'on ne sait pas répondre autrement.
Une des définitions du mot complot : "Par extension, projet plus ou moins répréhensible d'une action menée en commun et secrètement."
Si la société est aussi sûre pourquoi s'embêter avec des lois de protection du citoyen ? Ils n'ont rien à craindre... puisque tout le monde il est beau, tout le monde il est gentil, il ne viendrait à l'idée de personne de s'organiser pour tirer un avantage sans le crier sur les toits.
Fin de parenthèse.

Sunyata a tout à fait raison d'inscrire en marge de ses remarques une petite inquiétude concernant un mauvais usage potentiel de tels outils. Heureusement qu'on n'est pas tous béats devant les avancées de la science. Admirer une prouesse technologique ne doit pas empêcher d'analyser froidement toutes les implications possibles. Si on avait eu cette attitude tout le long de notre Histoire on n'aurait moins de problèmes aujourd'hui.

Pour en revenir à chatGPT, c'est clairement un exercice de style montrant de ce que peut faire une IA avec ce qu'on sait faire aujourd'hui. Mais j'espère que ne sera mise à la disposition du public dans l'avenir que la partie culture générale, et qu'on retirera la partie calcul. Car j'y vois plus d'inconvénients que d'avantages (et ils sont nombreux des deux côtés de la balance).
Une IA séparée dédiée aux calculs et à destination de personnes ayant appris à la manipuler (poser correctement les problèmes et ayant la capacité de vérifier les réponses), donc réservée à des professionnels triés sur le volet, serait préférable. Sinon j'ai très peur que le niveau général en mathématiques déjà très bas ne descende à des profondeurs abyssales. Les mathématiques sont l'honneur de l'esprit humain (Jean Dieudonné).

[Bounoume]

A-t-on la moindre preuve quantitative que l’esprit critique était plus affuté au siècle précédent.

la situation était différente:
Aux siècles précédents, et en Europe.....
la plupart des individus étaient des moutons naïfs.....
pour les autres, ceux qui remettaient en cause les contradiction de la doxis, ils n'avaient aucun moyen de diffuser leurs critiques...... c'est vrai.
Mais quand un individu 'bien placé' dans la société critiquait avec de bons arguments, il était entendu et suivi par les autres notables (ou envoyé au bûcher!)....
Quand cet individu dérangeant n'était pas rôti sur le bûcher, l'idée nouvelle avait de bonnes chances de corriger les idées magiques antérieures.....

Maintenant il n'y a plus de bûchers.... mais c'est du bruit qui couvre la parole discordante et moteur d'amélioration..... avec parmi ce bruit plein de paroles elles aussi discordantes mais délirantes ou/et fausses.....
difficile de dire si c'est mieux, pire, ou si l'effet est le même....

[sunyata]

Il est possible qu'il y ait un risque pour les utilisateurs de ChatGPT de ne pas comprendre la nature des réponses fournies et de les surestimer en projetant sur l'IA des capacités qu'elle n'a pas. Cela peut-être dû à un mécanisme psychologique de projection.
Bien que ChatGPT soit un modèle de traitement du langage avancé, il ne possède pas de compréhension réelle du sens des phrases qu'il génère et ne possède pas de conscience ni de capacité à prendre des décisions. Les réponses sont comme des suggestions basées sur des données et des modèles, et non comme des informations définitives ou des avis experts.

C'est pourtant un risque avéré : Voir cet article

C'est peut-être aussi à ce niveau là que peut se situer l'altération de l'esprit-critique qui pourrait-être préjudiciable.

Cordialement

[JPL]

le remixage des pensées du passé, via le tamis des algorithmes, et de filtres (conçus par qui ?, et à quelles fins ? )

Il n’y a aucun mystère ; l’entreprise OpenAI est parfaitement connue, ses dirigeants et ses objectifs aussi (voir par exemple https://fr.wikipedia.org/wiki/OpenAI, mais ce n’est pas la seule source d’informations). Ce n’est pas la peine de sous-entendre on ne sait quel mystère.

[JPL]

la situation était différente:
Aux siècles précédents, et en Europe.....

Ce n’est pas ce que j’ai dit et ça m’agace un peu, cette déformation de mon argument. Je parlais simplement de remonter en arrière de quelques décennies, quand il n’y avait pas tous ces médias sociaux, sans parler de quelques chaînes de télévision pourries.

[non bwana]

En fait, il est fort probable que ChatGPT n'a pas ce pouvoir de nuire aux humains, car elle est conçue pour fuir même devant ses semblables. Dès avant l'échange, elle nous impose de cocher "y'm not a robot". C'est une gazelle de métal qui se barre devant une libellule de carton !!! je vais lui demander si elle connait la formule "Courageuse mais pas téméraire" !

Et à refuser le dialogue avec une autre machine, elle a bel air de nous conseiller l'empathie, le respect, l'harmonie entre nous ! Pfeeee !

[pm42]

Plus je lis certains commentaires, plus je suis impressionné par les IA genre ChatGPT

[ArchoZaure]

Une réponse à utiliser pour base de réflexion :

Il n'y a pas de preuve concluante que l'utilisation de modèles de traitement automatique du langage tels que ChatGPT nuise au développement de l'intelligence humaine.
En fait, l'utilisation de ces modèles peut même aider les personnes à améliorer leur propre compréhension et utilisation de la langue.
Cependant, il est important de noter que l'utilisation excessive de ces modèles pour remplacer les interactions humaines et la réflexion personnelle peut avoir des effets négatifs sur le développement de compétences sociales et cognitives.
Il est donc important d'utiliser ces modèles de manière équilibrée et de ne pas les utiliser pour remplacer complètement les interactions humaines.

[ArchoZaure]

C'est ChatGPT qui le dit.

[Liet Kynes]

C'est ChatGPT qui le dit.

Il est possible d'écrire cela :


Il n'y a pas de preuve concluante que l'utilisation de la télévision nuise au développement de l'intelligence humaine.
En fait, l'utilisation de la télévision peut même aider les personnes à améliorer leur propre compréhension et utilisation de la langue.
Cependant, il est important de noter que l'utilisation excessive de la télévision pour remplacer les interactions humaines et la réflexion personnelle peut avoir des effets négatifs sur le développement de compétences sociales et cognitives.
Il est donc important d'utiliser la télévision de manière équilibrée et de ne pas les utiliser pour remplacer complètement les interactions humaines

[pm42]

Non la télé est la seule invention dans cette catégorie où les études montrent un effet néfaste.

[Bounoume]

croisement avec nouveau message donc message périmé.... à supprimer merci

[Bounoume]

et les réseaux sociaux à la mode, ils n'ont pas d'effets néfastes?

[Liet Kynes]

Non la télé est la seule invention dans cette catégorie où les études montrent un effet néfaste.

chatGPT m'aurait menti ?

LK: la télévision nuit-elle au développement de l'intelligence humaine ?

chatGPT : Il n'y a pas de preuve concluante que regarder la télévision nuise au développement de l'intelligence humaine. Cependant, il est important de noter que la qualité et la quantité de temps passé devant la télévision peuvent avoir un impact sur le développement des enfants. Les enfants qui passent trop de temps devant la télévision peuvent avoir des difficultés à se concentrer, à apprendre et à interagir socialement. Il est donc important de surveiller la quantité de temps passé devant la télévision et de favoriser d'autres activités éducatives et interactives.

Quels que soient le média (et la définition est large) il y a un risque d'intégrer des biais ou des fausses informations, ce risque est théoriquement le plus faible dans les études menées selon la méthode scientifique donc une IA de "qualité" c'est surement une IA qui a un corpus d'apprentissage de "qualité" ?

[jiherve]

Bonjour,

Il n'y a pas de preuve concluante que l'utilisation de modèles de traitement automatique du langage tels que ChatGPT nuise au développement de l'intelligence humaine.

Soyons factuels il n'y a pas encore de preuves!
on aurait pu écrire un truc similaire lors de l'apparition des réseaux sociaux:

Il n'y a pas de preuve concluante que l'utilisation des réseaux sociaux facilite le harcèlement scolaire

Pour CHATgpt je salue la performance technique mais je reste très circonspect quant à son utilisation .
les scientistes me hérissent tout autant que les culs bénis, ce sont des adeptes du prêt à penser.
JR

[pm42]

et les réseaux sociaux à la mode, ils n'ont pas d'effets néfastes?

Pas spécialement. Les gens qui ont le plus de relations sur les réseaux sociaux sont aussi ceux qui en ont le plus dans la vie réelle.

[cancerman]

Cela a déjà un effet de nuisance mais pas comme vous l'imaginez ... c'est une forme d'esclavage moderne

https://time.com/6247678/openai-chatgpt-kenya-workers/

[Liet Kynes]

Comme tout média, il va falloir apprendre à s'en servir et ne pas le prendre comme unique source d'infos.
Dans ce sens on se pose moins de questions avec les moteurs de recherche alors qu'ils sont peut-être sources de biais du fait de leur mode de classification des résultats d'une requête.

[Liet Kynes]

Cela a déjà un effet de nuisance mais pas comme vous l'imaginez ... c'est une forme d'esclavage moderne

https://time.com/6247678/openai-chatgpt-kenya-workers/

Argument fallacieux dans lequel est associé le mode de fabrication d'une technologie avec la technologie elle-même.
Par exemple, si la fabrication des bistouris utilisés par les chirurgiens occidentaux était le fruit du travail d'enfants de pays pauvres dans des conditions inhumaines, peut-on conclure que la chirurgie est une nuisance ?

[fred3000gt]

Pour beaucoup d'internautes ce sera certainement le cas. La facilité, la rapidité, la paresse, autant de raisons.
Les anciens comme nous garderont leurs habitudes et chatCPT sera utile occasionnellement ne serait-ce que pour croiser avec les informations récoltées par soi-même. Il faudra attendre que la nouvelle génération remplace l'ancienne pour savoir si la pénétration de ce genre de IA a été importante, et si elle a eu des effets néfastes.

Mais pour ce qui concerne les IA ce n'est pas tellement chatGPT qui fait le plus peur, on n'est encore qu'à l'aube du phénomène. Ce sont les conséquences sur le monde du travail. Toute une tranche de la population commencera à craindre pour son travail. Et ça, ce n'est jamais une bonne nouvelle. A quoi serviront tous ces milliards d'humains ? Voilà la question de fond.

Personellement, j’ai une expertise, comme mes collégues, en traitement du signal et en algorithmie, qui nous a demandé des années de travail à developper. Quand le deep learning est arrivé, on s’est rendu compte qu’une grande partie de notre savoir-faire était un peu obsolète car cela pouvait remplacer nos algos et maths. Par contre, on a pu faire des systèmes bien plus performants (au détriment de la compréhension que l’on en a….), donc on a développé une nouvelle expertise pour exploiter au mieux ce nouvel outil.

Maintenant, on peut aller encore plus vite en demandant à chatGPT de nous pondre directement des sources codes de deep learning… je lui demande même de me faire des états de l’art avec biblio…

J’ai pas l’impression d’être devenu moins intelligent, juste de pouvoir faire plus en me rapprochant de ce qui fait vraiment ma valeur ajoutée en tant qu’être humain: bien formuler les problèmes, être créatif, etc…

En même temps, pour moi, la démonstration est faite que l'IA forte n'est plus une question, c'est un fantasme naïf et sans lendemains.

Heureux de te l’entendre dire (dans la mesure où je cherche à developper une IA forte depuis 30 ans…), mais j’ai quand même la crainte exactement inverse: je trouve que chatGPT est un pas important dans la direction d’une AGI, imaginons chatGPT dans 10 ans….

[Liet Kynes]

Heureux de te l’entendre dire (dans la mesure où je cherche à developper une IA forte depuis 30 ans…), mais j’ai quand même la crainte exactement inverse: je trouve que chatGPT est un pas important dans la direction d’une AGI, imaginons chatGPT dans 10 ans….

Ce que je veux dire c'est que l'évaluation de l'IA forte est forcement faite par des humains, "l'instrument de mesure" étant ce qu'il est la notion d'IA forte est quelque peu compromise: ce n'est que ma réflexion. Définir une intelligence au regard d'une autre me semble être plus une démarche philosophique qu'autre chose.

[Avatar10]

Non la télé est la seule invention dans cette catégorie où les études montrent un effet néfaste.

Ha bon?
In conclusion, this study contributes to the growing body of evidence linking social
media use to sleep quality, anxiety, depression and self-esteem in adolescents.
Source: https://eprints.gla.ac.uk/120206/7/120206.pdf

Entres autres études.

[pm42]

In conclusion, this study contributes to the growing body of evidence linking social
media use to sleep quality, anxiety, depression and self-esteem in adolescents.[/I]
Source: https://eprints.gla.ac.uk/120206/7/120206.pdf

Ben oui, l'étude parle de "relate" et de corrélation.
Mais il y a bien sur le biais habituel : "c'est nouveau donc c'est mal" suivi de "on a trouvé une corrélation donc c'est une cause".
Il parait d'ailleurs qu'Internet favorise la cybercriminalité aussi

Dans cette étude, "https://journals.sagepub.com/doi/abs/10.1177/2167702617723376?journalCode=c pxa", on constate que chez les femmes, la variance liée à cette corrélation est de 0.36%.
En gros, 99,64% des femmes qui utilisent beaucoup les réseaux sociaux ne montrent aucun symptôme de plus.

Mais on dérive sans parler du coté "café du commerce" suivi en général de "règlements de comptes perso" qui caractérisent ce genre de discussion.

[jiherve]

Bonsoir
amusant:

Il parait d'ailleurs qu'Internet favorise la cybercriminalité aussi

comment existerait elle sans ?
JR