ChatGPT peut se tromper mais le reconnaît poliment

[Médiat]

ChatGPT vient d'être interdit à science-po Paris ; est-ce que ce sera ChatGPT qui sera chargé de détecter les fraudeurs ?
-----

[pm42]

ChatGPT vient d'être interdit à science-po Paris ; est-ce que ce sera ChatGPT qui sera chargé de détecter les fraudeurs ?

Oui j'ai vu ça et ça m'a fait penser à toutes les interdictions d'outils dans le passé dont le stylo bic parce que c'était important de faire des pleins et des déliées et bien sur les calculatrices...
Cela me semble être incroyablement à courte vue : on voit la vitesse d'adoption de ce genre d'outil, des sites comme BuzzFeed veulent produire du contenu avec ce qui veut dire que quand les étudiants de Science-Po seront diplômés et travailleront, ils feront probablement comme tout le monde, ils l'utiliseront pour construire des trames et se concentreront sur une valeur ajoutée de plus haut niveau, apportant ce que les machines ne savent pas faire.

Au lieu d'accompagner ce mouvement inéluctable, on a encore une institution d'enseignement qui s'enferme dans le conservatisme et essaie de construire un barrage contre le Pacifique.

[Liet Kynes]

ChatGPT vient d'être interdit à science-po Paris ; est-ce que ce sera ChatGPT qui sera chargé de détecter les fraudeurs ?

La lettre est à lire ici: lien

On baigne dans l'idéologie, c'est un peu la calculette satanique des années 80..
Pareil pour ce qui concerne des problèmes de droit d'auteur pour la génération de textes, si on pousse le raisonnement à l'absurde, le premier à avoir inventé la lettre" a" devrait avoir des droits d'auteur sur les textes la contenant.
Il va être assez comique d'attendre la démonstration de la preuve par l'institution de l'utilisation d'une IA dans les mois à venir et si une tentative est perpétrée, le grotesque sera digne des Monty Python dans le sens de la vie

Bien vu l'idée de la détection par chat GPT mais la réponse commencera par "il est difficile de dire si.."

edit :croisement avec PM42

[Médiat]

Bien vu l'idée de la détection par chat GPT mais la réponse commencera par "il est difficile de dire si.."

J'ai fait le test, il répond : Oui, c'est moi qui aie écrit cela.

Test 1 : un texte de ChatGpt (vieux de 8 jours) dont certains adverbes avaient été changés
Test 2 : un extrait de la biographie d'André Breton copié de Wikipédia
Test 3 : un extrait d'un poème d'André Breton, mais là il répond "Non ce n'est pas moi, c'est sans doute un extrait d'un poème ou d'un texte littéraire"
Test 4 : un extrait de Céline, la réponse est non, c'est de Camus
Test 5 : un autre extrait de Céline, la réponse est non, c'est de Dorgelès

[Liet Kynes]

Quelles questions as tu posé ?

[Médiat]

Est-ce toi qui a écrit : XXXX

[pm42]

c'est un peu la calculette satanique des années 80..

Ah oui, la calculette satanique des années 80, je m'en souviens très bien avec l'argument qui tuait "vous n'aurez pas une calculatrice toujours avec vous", etc.
Et dès que j'ai commencé à travailler, début des années 90, maitriser un tableur était une compétence largement plus utile que le calcul mental.

Et ça allait plus loin : mes camarades qui faisaient comme moi des études pour être profs méprisaient royalement l'informatique parce qu'ils étaient persuadés qu'ils faisaient des "maths pures".
Puis ils sont arrivé au point de leurs études où ils devaient trouver un stage et ils ont constaté qu'à l'époque, la grande masse de la recherche se faisait déjà avec des ordinateurs, que le calcul numérique était un secteur très important et dynamique, qu'il y avait des calculateurs formels, etc.

Mais on continue dans le délire complet du refus du changement et du progrès et on forme des gens qui demain prendront des décisions après avoir été formés sur la base du siècle précédent à une époque où les connaissances et technologies évoluent plus vite que jamais et structurent le monde.

J'ai fait le test, il répond : Oui, c'est moi qui aie écrit cela.

P.S : à terme, il y aura plein d'IA équivalentes à ChatGPT, on pourra facilement leur faire produire des textes assez différents pour ne pas être reconnaissable et à un horizon un peu plus lointain, quelques années, probablement adapter leur entrainement pour être personnalisées pour un individu. Bon courage à Science-Po dans ces cas là mais comme ils mettent un point d'honneur à ne pas s'intéresser au présent, à la technologie et à tout ce qui ne colle pas à leur idéologie, ils ne doivent pas le savoir.

[Médiat]

La première calculatrice que j'ai vue appartenait à mon frère (marin au long cours qui en a fait un usage sans bornes) en ... 1968 ; elle coutait un smic ou deux pour 4 opérations.

[Médiat]

Pour le fond de la question, et en reprenant le parallèle avec la calculatrice : il a été ridicule d'interdire la calculatrice pour les devoirs de physique, par exemple, mais justifié pour les TD de calcul numérique, car alors, seuls les plus riches auraient eu cet avantage énorme.

[pm42]

Pour le fond de la question, et en reprenant le parallèle avec la calculatrice : il a été ridicule d'interdire la calculatrice pour les devoirs de physique, par exemple, mais justifié pour les TD de calcul numérique, car alors, seuls les plus riches auraient eu cet avantage énorme.

J'entends l'argument mais j'ai l'exemple contraire qui m'a été donné par des amis profs. Le conseil général avait financé l'achat d'ordinateurs portables pour tous les collégiens en 3ème (de mémoire) pour justement aplanir les inégalités.
Mais ils ont constaté que cela n'avait servi à rien : les élèves qui n'avaient personne à la maison pour les aider à les prendre en main les laissaient dans une armoire où s'en servait uniquement pour jouer.
Les élèves de milieux favorisés eux avaient déjà tout ce qu'il fallait comme matériel, souvent meilleur et comme environnement pour leur expliquer : donc on perdait de l'argent là aussi.

Ce qu'il aurait fallu faire, c'est former massivement à l'informatique mais les profs ne savaient pas faire. Ce qui n'a pas changé.

Dans ton cas, on peut argumenter que les élèves les moins riches qui n'avaient pas de calculatrice à la maison n'en voyaient jamais une avant plus tard dans leurs études ou pire quand ils commencaient à travailler et étaient donc doublement désavantagés.

On risque d'avoir la même chose avec les nouveaux outils IAs encore que maintenant, les jeunes de beaucoup de milieux sont vite à l'aise avec et le modèle Internet basé sur la gratuité à des avantages de ce point de vue. Et encore plus quand on parle de pays moins riches que les occidentaux.

[Liet Kynes]

Perso chez moi les moyens étaient encore plus relatifs, mes parents faisaient leur possible pour des livres mais l'accès à la connaissance restait assujetti à ce que voulait bien dispenser l'enseignement du moment.. dans un contexte sociologique peu favorable, cela limite les perspectives.
Pour l'IA, il me semble qu'il est important de développer et d'investir pour des accès gratuits, je l'ai évoqué via un parallèle avec Wikipédia. C'est laisser une bouée pour celles et ceux à venir qui auront une capacité visionnaire, ce détachement absolu qui donne tant de souffrances au regard de la réalité du moment et tant de rêves au regard de la réalité tout court.

[ArchoZaure]

Pour l'IA, il me semble qu'il est important de développer et d'investir pour des accès gratuits, je l'ai évoqué via un parallèle avec Wikipédia.

C'est gratuit et accessible à tout le monde ChatGPT. J'ai demandé à ChatGPT s'il pouvait me fournir son code source et il m'a répondu que c'était sur Github (avec ses bases de travail of course c'est lui qui a précisé)
Après j'ai cherché mais pas trouvé. Je dois être con.

[pm42]

C'est gratuit et accessible à tout le monde ChatGPT. J'ai demandé à ChatGPT s'il pouvait me fournir son code source et il m'a répondu que c'était sur Github.
Après j'ai cherché mais pas trouvé. Je dois être con.

Peut-être parce que ce n'est pas le cas comme cela a été dit plus tôt dans le fil.

[Médiat]

Dans ton cas, on peut argumenter que les élèves les moins riches qui n'avaient pas de calculatrice à la maison n'en voyaient jamais une avant plus tard dans leurs études ou pire quand ils commencaient à travailler et étaient donc doublement désavantagés.

Je m'attendais à une remarque du genre "de toute façon le cunu c'est très con" (c'est ce que j'ai toujours pensé )

Pour info : lors des premiers vols spatiaux, les astronautes avaient une règle à calcul pour faire les calculs.

[Liet Kynes]

Pour info : lors des premiers vols spatiaux, les astronautes avaient une règle à calcul pour faire les calculs.

Le truc est la rapidité dans le traitement de l'info avec les outils disponibles (outils plus ou moins accessibles, faciles à mettre en œuvre et à rendement, plus ou moins performants en fonction des critères précédemment cités dans cette parenthèse ), la rapidité dans le traitement de l'info est donc déterminante pour partie mais comprendre l'existence d'une autre facette plus fondamentale et plus subtile est peu accessible pour beaucoup de personnes. Cette facette peut certainement pouvoir se révéler via l'IA mais avec un souci sociologique majeur de décrochage et de rejet d'une très large majorité de la population, sans compter les équilibres géopolitiques en cours.. ; Comme je l'ai déjà dit, l'humanité a inventé le feu une seconde fois.

[pm42]

Pour info : lors des premiers vols spatiaux, les astronautes avaient une règle à calcul pour faire les calculs.

Et très vite des HP-65 puis des HP-41C dans la navette. La Nasa a aussi eu très tôt des ordinateurs et du former des programmeurs.
Et Apollo 11 avait le système d'exploitation parmi les plus sophistiqués de l'époque ce qui lui a permis de ne pas se planter lors qu'il a saturé pendant la descente vers la Lune et qu'il y avait des problèmes de données radar manquantes générant les erreurs 1202 et 1201...
C'était une femme qui était à l'origine de ça : https://en.wikipedia.org/wiki/Margar...ware_engineer)

Bref, on parle de gens qui étaient à la pointe de la technologie et très peu sexistes pour l'époque, pas de Science-Po

[Médiat]

Ne pas oublier Mary Jackson (mathématicienne) — Wikipédia (wikipedia.org) pour qui cela a dû être encore plus dur

[pm42]

Ne pas oublier Mary Jackson (mathématicienne) — Wikipédia (wikipedia.org) pour qui cela a dû être encore plus dur

Yep, respect.

[evrardo]

C'est étonnant les passions que déchaînent ce GPT. On se positionne pour ou contre, bien ou mal. Cela revient aux questions des débuts d'Internet: "est ce que Internet est utile?", "Est ce mal?", "Est ce un outil du terrorisme?" Etc...
Bref, GPT est un des nouveaux outils utilisant l'IA, qui a des défauts, qu'on va améliorer.

[pm42]

Cela revient aux questions des débuts d'Internet: "est ce que Internet est utile?", "Est ce mal?", "Est ce un outil du terrorisme?"

En fait et comme déjà dit, il y a eu ce débat pour tout depuis des millénaires et il n'y a apparemment aucune façon d'empêcher une partie de la population d'avoir peur du changement, de la nouveauté et dès que ça arrive, ils projettent dessus beaucoup de choses.

Mais effectivement, la comparaison avec les débuts d'Internet est très pertinente avec les articles sur tout le mal que ça pouvait faire, les peurs très variées, etc.
Et maintenant, même les gens qui nous expliquent que c'est vrai le font sur Internet. Les gens qui nous expliquent que le bilan carbone de l'aviation est mauvais le font sur Internet qui émet plus de CO2...

Dans quelques années, on aura la même chose sur le nouveau truc qui sera apparu écrit par des gens qui utiliseront des IAs pour collecter l'information et écrire une partie de leur point de vue.

[Archi3]

Les problèmes du monde actuel ne viennent pas du manque d'informations, toutes les informations utiles sont accessibles par internet, même sans ChatGPT. Les problèmes viennent du fait que la grande majorité des gens ne cherchent pas à être rationnels, mais défendent des positions idéologiques en ne sélectionnant que les informations qui les arrangent, et en oubliant ou en transformant celles qui ne vont pas dans leur sens.

Je ne vois pas ce que ChatGPT pourrait y changer.

[pm42]

On dit justement qu'il n'y changera rien mais merci de nous expliquer la source de tous les problèmes en maniant l'ironie de façon remarquable.

[JPL]

Ça tourne en rond depuis longtemps et la discussion ressemble beaucoup à du Molière :

MONSIEUR JOURDAIN
Par ma foi, il y a plus de quarante ans que je dis de la prose, sans que j’en susse rien ; et je vous suis le plus obligé du monde, de m’avoir appris cela. Je voudrais donc lui mettre dans un billet : Belle Marquise, vos beaux yeux me font mourir d’amour ; mais je voudrais que cela fût mis d’une manière galante ; que cela fût tourné gentiment.

MAÎTRE DE PHILOSOPHIE
Mettre que les feux de ses yeux réduisent votre cœur en cendres ; que vous souffrez nuit et jour pour elle les violences d’un...

MONSIEUR JOURDAIN
Non, non, non, je ne veux point tout cela ; je ne veux que ce que je vous ai dit : Belle Marquise, vos beaux yeux me font mourir d’amour.

MAÎTRE DE PHILOSOPHIE
Il faut bien étendre un peu la chose.

MONSIEUR JOURDAIN
Non, vous dis-je, je ne veux que ces seules paroles-là dans le billet ; mais tournées à la mode, bien arrangées comme il faut. Je vous prie de me dire un peu, pour voir, les diverses manières dont on les peut mettre.

MAÎTRE DE PHILOSOPHIE
On les peut mettre premièrement comme vous avez dit : Belle Marquise, vos beaux yeux me font mourir d’amour. Ou bien : D’amour mourir me font, belle Marquise, vos beaux yeux. Ou bien : Vos yeux beaux d’amour me font, belle Marquise, mourir. Ou bien : Mourir vos beaux yeux, belle Marquise, d’amour me font. Ou bien : Me font vos yeux beaux mourir, belle Marquise, d’amour.

[Archi3]

c'est vrai qu'après une page de souvenirs d'enfance sur les calculettes du lycée, on se demande de quoi on peut encore parler

[Médiat]

Alors qu'une simple analyse bayésienne à la portée de n'importe quel primate répondrait à toutes les questions.

[pm42]

Alors qu'une simple analyse bayésienne à la portée de n'importe quel primate répondrait à toutes les questions.

Je ne suis pas sur : je pense que les analyses bayésiennes sur les échantillons de taille 1 sont réservées aux gens supérieurs, pas ceux qui "ne cherchent pas à être rationnels, mais défendent des positions idéologiques en ne sélectionnant que les informations qui les arrangent, et en oubliant ou en transformant celles qui ne vont pas dans leur sens".

Si tout le monde faisait ce genre d'analyse et arrivaient à conclure que quand on connait une moyenne à l'avance, on arrive à la retrouver en choisissant le bon échantillon, le monde serait meilleur

Ce qui est rigolo pour en revenir au sujet, c'est que ChatGPT ne réfléchit pas en effet, qu'il fait des erreurs quand on lui demande du raisonnement logique mais que malgré ça, il sort moins d'énormités que pas mal de gens ici qui restent persuadés qu'ils lui sont largement supérieurs (ainsi qu'à la plupart des autres êtres humains aussi)

[JPL]

Fin de la discussion.