Science Po vient d'interdire l'usage de Chatgpt, et après ?

[jiherve]

re
je n'ai jamais connu , je découvre, mais ma remarque ne change pas, ce n'est pas du même niveau.
JR
-----

[Deedee81]

Salut,

Moi non plus à cet époque, par contre j'avais vu ça dans les cours de copains (qui faisaient l'informatique) et par plaisir j'avais développé du calcul formel... en Basic sur TRS80
(juste le calcul des dérivées et la simplification de formules)
C'était sympa à faire et pas lent du tout.

[pm42]

je n'ai jamais connu , je découvre, mais ma remarque ne change pas, ce n'est pas du même niveau.

Il y a un humour involontaire dans cette remarque non ?

[ThM55]

Pour moi, c'est un peu ambigu. Un Apple II quand j'étais étudiant entre 1976 et 1980, c'était largement hors de mon budget (si mes souvenirs sont bons, l'équivalent de 3 ans de loyer de ma chambre!). Je n'ai utilisé un ordinateur que bien plus tard pour un travail dans le labo de métrologie, c'était un TRS80 plus une carte développée par moi et un pote, basée sur un Zilog Z80 pour faire de l'acquisition de données.

Faut-il continuer à s'exercer au calcul intégral et à la résolution d'équadiffs alors que des logiciels le font aussi bien si pas mieux que nous (avec des erreurs même chez Wolfram, mais qui n'en commet aucune?)?

A mon avis oui.

Je me souviens de la catastrophe de mon premier partiel, qui m'avait incité à passer des week-ends entiers à résoudre un maximum d'exercices jusqu'à l’écœurement. Je n'ai pas trouvé cela inutile: au delà de ma meilleure performance aux examens, cela m'a servi par la suite quand j'ai fait de la physique théorique. Je surfais sur les calculs sans difficultés alors que je voyais que d'autres étaient bloqués par la première équation un peu compliquée et je pense que c'est grâce à ces quelques week-ends sacrifiés en première année. On développe à la longue une sorte de feeling qui permet de deviner des choses. L'utilisation d'un logiciel de calcul formel est sans doute utile pour s'épargner du travail mais c'est rigide et cela supprime le "rapport intime" si je puis dire, qu'on a avec les équations. Ou en tout cas cela le modifie fortement et par contre ouvre d'autres manières de les voir. Cela ne permet pas non plus d'utiliser des trouvailles un peu créatives; je pense par exemple au calcul des distributions ou celui d'opérateurs bilinéaires de Hirota, que je n'ai jamais vus implémentés correctement (mais je n'ai pas suivi les mises à jour les plus récentes).

A l'époque de mon passage en physique théorique, au début des années 1980, donc très longtemps avant le Web, un des profs de la faculté était un mathématicien qui fréquentait quotidiennement notre labo de physique théorique. Il faisait du Macsyma (par telnet je suppose) sur un serveur dans son autre université aux USA. Par la suite, l'université a acheté une machine Symbolics pour cela (Symbolics fabriquait des machines à architecture hardware adaptée au LISP, tombée en faillite en 1986). J'avais reçu la formation Macsyma mais l'accès était trop réduit. Au fait, Macsyma est maintenant disponible en freeware sous le nom Maxima. Je vous le recommande, il y a pas mal de librairies intéressantes et c'est complètement gratuit.

Bon je me rends compte que tout cela fait un peu "pépé qui radote en racontant ses souvenirs".

[JPL]

On revient à ChatGPT... s’il reste quelque chose de nouveau à dire à son sujet ?

[pm42]

Un Apple II quand j'étais étudiant entre 1976 et 1980, c'était largement hors de mon budget

Je suis un peu plus jeune, c'était largement plus abordable.

Faut-il continuer à s'exercer au calcul intégral et à la résolution d'équadiffs alors que des logiciels le font aussi bien si pas mieux que nous (avec des erreurs même chez Wolfram, mais qui n'en commet aucune?)?
A mon avis oui.

Je pense aussi qu'il faut s'entrainer mais je doute que développer une compétence aussi pointue que les générations passées qui n'avaient aucun outil à leur disposition est une erreur.
Dans Lucien Leuwen qui se déroule vers 1830, un dialogue entre 2 personnages polytechniciens parle de quelque chose de difficile et hébétant : "calculer le chiffre d’un logarithme qu’on veut pousser à quatorze décimales."
C'était le genre de compétence qu'on enseignait à l'époque à l'élite mathématique de la nation.

On est passé à autre chose et on ne s'en porte pas plus mal.

cela supprime le "rapport intime" si je puis dire, qu'on a avec les équations.

Il y a plein de façons de développer des compétences.
Dans mon domaine actuel, l'informatique, j'ai constaté que les petits jeunes qui n'ont pas ce rapport intime qu'on avait avec la machine quand on faisait de l'assembleur, de l'entrée-sortie à la main et autre joyeusetés ne sont pas moins performants avec les outils actuels et que quand ils doivent apprendre, ils s'en sortent aussi bien.
Rien de nouveau, c'est l'histoire de l'humanité.

J'avais aussi remarqué que bien que j'ai utilisé plus les calculatrices et ordinateurs pendant mes études en maths, je n'étais pas pour autant moins bon que mes petits camarades, bien au contraire.

Je pense qu'il va se passer la même chose avec l'IA.
Ceci dit, il est possible qu'à un moment, on atteigne un point où effectivement, on ait automatisé entièrement le travail, qu'on ait des IA fortes voire qu'on atteigne la singularité et que cela change. Mais on n'y est pas et de loin. Et ce n'est pas le seul scénario possible.

P.S : dans un genre différent, mon grand-père qui était chauffeur de bus m'avait expliqué que ma génération ne savait pas conduire parce que lui devait utiliser des boites à crabots, faire du double débrayage, etc. Bon, il n'était plus tout jeune donc je ne lui ai pas expliqué que je faisais du circuit et maitrisait tout cela au moins aussi bien que lui.
Les "vieux cons" qui disent "c'était mieux avant" et "les jeunes ont la vie facile et sont moins compétents que nous", c'est vieux comme le monde et toujours faux.

[ThM55]

Pas en ce qui me concerne pour chatGPT. Je viens de lire quelque part une liste d'autres outils IA disponibles en ligne. Mais c'est une revue que j'ai feuilletée et pas achetée, j'ai oublié laquelle. Ce serait intéressant d'avoir quelques liens pour comparer (par exemple faire dialoguer charGPT avec un de ses équivalents).

[pm42]

Désolé, coupure Internet et j'ai posté après le message en vert de JPL.

[Liet Kynes]

Dans un courrier adressé à l’ensemble des étudiants et des enseignants par Sergei Guriev, Directeur de la formation et de la recherche, la direction de Sciences Po annonce que l’utilisation, sans mention explicite, de ChatGPT à Sciences Po, ou de tout autre outil ayant recours à l’IA est, à l’exception d’un usage pédagogique encadré par un enseignant, pour l’instant strictement interdite lors de la production de travaux écrits ou oraux par les étudiantes et étudiants sous peine de sanctions qui peuvent aller jusqu’à l’exclusion de l’établissement voire de l’enseignement supérieur.

La grande question est désormais de savoir définir qu'est-ce que signifie précisément "l'utilisation" et déterminer si quelqu'un peut "utiliser" une IA de façon non intentionnelle. Le principe de précaution lors de la rédaction d'un texte par un étudiant serait de mentionner "peut contenir des traces d'IA" un peu comme pour les aliments qui peuvent contenir des traces d'allergènes.

[Archi3]

Il n'y a qu'à changer les épreuves : trouver la meilleure phrase à dire à ChatGPT pour qu'il génère le meilleur texte possible. L'étudiant ne donne que la phrase à dire, et l'examinateur corrige selon la qualité du texte produit par le chat, comme ça tout le monde est content

[ArchoZaure]

Il n'y a qu'à changer les épreuves : trouver la meilleure phrase à dire à ChatGPT pour qu'il génère le meilleur texte possible. L'étudiant ne donne que la phrase à dire, et l'examinateur corrige selon la qualité du texte produit par le chat, comme ça tout le monde est content

On rigole mais c'est un peu ça.
Savoir maitriser l'IA demande du cerveau.
Arriver au fur et à mesure de l'expérience qu'on acquiert face à la machine à lui faire faire ce qu'on veut.
C'est ça un outil. Pas un truc indépendant. Un truc qu'on maitrise.
(Mais faut pas demander ça à science popo, encore une guerre de retard en vue. )

[WizardOfLinn]

Pour les science-po et énarques, il y a un petit logiciel qui existe depuis longtemps
http://chrisferon.free.fr/technologi...scours-ena.php
(mais j'avais aussi trouvé un générateur d'articles scientifiques)

[Deedee81]

Salut,

J'ai connu plusieurs pipotron, mais celui-là je ne connaissais pas. Il peut être utile en plus. Non je rigole

[OnlineMeteo]

Mon avis va être très logique.

Une nouveauté est dangereuse quand elle a du pouvoir et que l'environnement humain n'est pas préparé pour la gérer.
D'où le fait logique de l'interdire au début.

Plus le temps va passer, plus l'environnement humain va s'y préparer, moins ce sera dangereux, plus ce sera accepté...mais pas forcément envahir le monde.

Aujourd'hui, les méthodes IA sont propagées par le lobby de l'informatique mais l'informatique est aussi énergivore et ça ne plaît pas aux wokistes. Pour envahir le monde, il faut l'aval des wokistes.

[LogOut]

Il existe une façon très très simple de contourner les outils anti-plagiat : la traduction depuis un texte dans une autre langue

[ArchoZaure]

Il existe une façon très très simple de contourner les outils anti-plagiat : la traduction depuis un texte dans une autre langue

Oui c'est une idée.
C'est pas certain (tout dépend du type de langue, du nombre de traductions etc) mais ça vaut la peine d’être vérifié.

[sunyata]

Voici une impressionnante déclaration de l'Unesco sur l'usage de l'IA :

Nous reconnaissons aussi les caractéristiques propres de l’intelligence humaine. Ayant à l’esprit les principes énoncés dans la Déclaration universelle des droits de l’homme, nous réaffirmons l’approche humaniste de l’UNESCO à l’égard de l’utilisation de l’IA, qui vise à protéger les droits de l’homme et à préparer tous les individus aux valeurs et aux compétences indispensables à une collaboration efficace entre l’être humain et la machine, dans la vie, dans l’apprentissage et au travail, ainsi qu’au développement durable. Nous affirmons également que le développement de l’IA devrait être contrôlé par l’être humain et centré sur lui ; que l’IA devrait être déployée au service de l’être humain et pour renforcer ses capacités ; qu’elle devrait être conçue de manière éthique, non discriminatoire, équitable, transparente et vérifiable ; et que les incidences de l’IA pour l’être humain et la société devraient être suivies et évaluées à chaque étape des chaînes de valeur.

Je ne sais pas si il existe une sorte de contrôle éthique du développement de l'IA dans la société, mais j'ai plus l'impression
d'assister à un largage sauvage de cette outil dans le paysage numérique, sans maitrise ni des tenants, ni des aboutissants.

Cordialement,

[Ernum]

Salut,

...est aussi énergivore et ça ne plaît pas aux wokistes...

"wokisme" ressemble de plus en plus à un mot fourre-tout, qui in fine ne veut plus rien dire, tu ne trouves pas?
Ici, écologie est synonyme de wokisme on dirait.

[JPL]

Merci de ne pas déraper. Chacun jugera en fonction de ses informations et de ses idées les propos de OnlineMeteo, mais ce n’est pas le lieu d’en discuter ici.

[Bounoume]

et à préparer tous les individus aux valeurs et aux compétences indispensables à une collaboration efficace entre l’être humain et la machine

cette phrase du document UNESCO est un dérapage mal venu..... (heureusement non développé par la suite)
désolé, je n'en ai pas envie.... de collaborer avec une machine.... ce qui supposerait que la dite machine serait devenue une personne comme un humain.... et que la dite entité aurait des desseins que je pourrais approuver....
Même si la dite machine devient* un avatar simulant très bien quelques aspects de l' espèce humaine.....

*et chat-GPT y parvient déjà, à faire 'comme si'.... dans la forme du discours.....

Une machine, c'est fait pour être utilisé, et contrôlé... même pas besoin de respect... (alors que si j'utilise mon cheval, je lui dois le respect.... en tant qu'être vivant sensible et même susceptible de sentiments si j'ai fait l'effort de les provoquer... ) !
Malheureusement, la machine...... pourra ếtre conçue pour simuler ces caractéristiques, .... ou alors on risque de vivre dans un monde irréel de Science-Fiction....

[Liet Kynes]

Il faut arrêter de fantasmer, pour le moment, on a une machine à écrire sophistiquée et c'est tout. chatGPT est une application de l'IA qui ne peut pas atteindre de singularité universelle (une capacité à duper tout le monde) et ce quelle que soit la taille de la base de connaissances : c'est un concept théorique lié à la conception même de cette technologie.Le couplage avec d'autres types d'IA donnera une illusion mais pas le résultat que l'on a eut avec alphago aux échecs, c'est surtout un problème de temps de retard du point de vue théorique.
Du point de vue pratique par contre cela va être plus que redoutable

[ArchoZaure]

Une vidéo intéressante permettant de démystifier ChatGPT.
ChatGPT ne raisonne pas.

ChatGPT : première interview radio de l'intelligence artificielle - L'invité de Sonia Devillers

Nous avons posé quelques questions à ChatGPT, l’intelligence artificielle capable de tenir une conversation. Pour nous éclairer, David Chavalarias, directeur de recherche au CNRS et auteur de « Toxic Data » (Flammarion).

https://www.youtube.com/watch?v=rV9_F2gsdhk

[pm42]

Une vidéo intéressante permettant de démystifier ChatGPT.
ChatGPT ne raisonne pas.

En même temps, c'est clairement expliqué partout et cela a été dit et répété ici des dizaines de fois depuis la 1ère page du 1er fil sur le sujet.

[Archi3]

oui mais tout le monde ne lit pas les fils de FS ni meme la FAQ de ChatGPT, c'est pas mal de le rappeler sur des émissions grand public. Ne serait ce que pour couper court aux fantasmes de "l'IA qui prend le pouvoir".

Et je suis d'accord avec Bounoume, ça aurait été plus pertinent que l'UNESCO parle d "utilisation" de l'IA plutot que de "coopération".

[ArchoZaure]

En même temps, c'est clairement expliqué partout et cela a été dit et répété ici des dizaines de fois depuis la 1ère page du 1er fil sur le sujet.

Oui et pourtant et c'est là tout le paradoxe, ce n'est rien qu'un outil et pourtant c'est un outil de fou qui permet des choses absolument extraordinaires si on est capable de le diriger intelligemment.
Par exemples les petits malins ont compris qu'il faut recadrer ChatGPT dans son rôle pour éviter les réponses généralistes fausses et sans intérêt.
Dans le genre: Maintenant tu es un expert en cybersécurité explique ceci ou fais cela.
Exemple ici pour la cybersécurité :

Comment gagner 42 000$ avec ChatGPT ?
vous devriez changer votre manière de vous adresser à ChatGPT désormais

https://www.youtube.com/watch?v=610auZn645w

[Liet Kynes]

En même temps, c'est clairement expliqué partout et cela a été dit et répété ici des dizaines de fois depuis la 1ère page du 1er fil sur le sujet.

Il y a des niveaux de compréhensions pour lesquels la réalité de l'IA en tant qu'ami(e)s est une réalité. Je pense aux applis pour ados notamment pour lesquelles à certains âges la mystification est totale.. Du point de vue éthique les responsables de la diffusion de ces applications devraient être poursuivis mais du point de vue juridique les qualifications des délits ne sont pas établies.. et ne le seront jamais.
Quand je dis redoutable en 111, j'ai même l'impression de minimiser, effroyable serait plus judicieux. L'IA est une technologie neutre en miroir avec un être intelligent encore trop peu conscient de sa propre nature.

[non bwana]

Bonjour,

L'IA est une technologie neutre en miroir avec un être intelligent encore trop peu conscient de sa propre nature.

Comme cela est obscur !

[Archi3]

faut reconnaitre que l'homme reste inégalable pour sortir des phrases profondément incompréhensibles

Un truc intéressant dans le reportage de Sonia Devillers, l'intervenant mentionne qu'un modèle économique des concepteurs pourrait être d'encourager l'utilisation des outils de l'IA pour des applications frauduleuses pour vendre ensuite les outils nécessaires à la détection de la fraude.

Ne pas oublier que contrairement aux IA, la raison principale pour laquelle les humains travaillent, c'est pour gagner de l'argent avec.

[pm42]

l'intervenant mentionne qu'un modèle économique des concepteurs pourrait être d'encourager l'utilisation des outils de l'IA pour des applications frauduleuses pour vendre ensuite les outils nécessaires à la détection de la fraude.

Jolie théorie du complot, accusation gratuite, procès d'intention et j'en passe coté biais. Assez typique.

On aimerait savoir sur quoi c'est basé, des précédents historiques et j'en passe.
Ce monsieur suppose aussi que les fabricants de voitures les rendent moins sures pour qu'il y ait plus d'accidents et investissent dans les hôpitaux et pompes funèbres à coté ?
Que les vendeurs de nourriture mettent des poisons légers dedans parce qu'ils vendent aussi des médicaments ?

Ou bien il n'a absolument rien compris à l'économie et à la vie en général ?

[Archi3]

Jolie théorie du complot, accusation gratuite, procès d'intention et j'en passe coté biais. Assez typique.

On aimerait savoir sur quoi c'est basé, des précédents historiques et j'en passe.
Ce monsieur suppose aussi que les fabricants de voitures les rendent moins sures pour qu'il y ait plus d'accidents et investissent dans les hôpitaux et pompes funèbres à coté ?

la différence c'est que les fabricants de voiture les vendent, elles ne sont pas gratuites, parce que justement c'est le service qu'elles rendent qui est précieux.

Si ChatGPT est surtout utile pour frauder, évidemment il est impossible à vendre légalement, parce que la transaction pourrait être tracée. Donc le fait qu'il soit gratuit est suspect. Je ne sais pas si ce monsieur est complotiste ou pas, je ne le connais pas, mais je trouve sa théorie au moins plausible. On verra ce qu'il en est dans quelques années ....