Conversation avec ChatGpt

[ZH32]

Bonjour
Comment les mathématiciens jugent-ils cette conversation avec ChatGpt ?
-----

[gg0]

Bonjour.

Pour la plupart des mathématiciens, l'avis d'une machine qui se contente de mettre des mots les uns à la suite des autres en fonction de la fréquence trouvée sur des documents Internet n'a aucun intérêt.
Je remarque que la conclusion (apparente, vu que la conversation s'arrête là) est très classique chez les fanatiques non mathématiciens, donc il est normal qu'elle apparaisse avec Chat-GPT, qui recopie des bouts de phrases fréquents; mais cette tarte à la crème n'a jamais donné que des croyances que "ça marche", bien qu'elle ait été étudiée sans résultat depuis un siècle par des mathématiciens sérieux.
Donc si tu veux jouer, tu peux essayer de faire cette preuve que personne n'a jamais obtenue, ça t'occupera.

Cordialement.

[albanxiii]

Bonjour,

Je déplace en "science ludique", bien que je ne vois pas le rapport avec le premier mot.

[oualos]

La machine ne sait pas raisonner et construit une phrase en étudiant la probabilité des mots puis des suites de mots jusqu'à construire une phrase.
Les failles de cette IA sont connues et patentes dans d'autres domaines, plein d'autres en fait.
Rafael Enthoven a donné le sujet du bac philo à chatGPT et l'a noté: d'après lui ça valait 11/20.
Il estime que la machine ne sait pas produire de raisonnement, comme la fameuse dialectique thèse-antithèse-synthèse qu'on a tous appris à l'époque comme lycéens.
Elle compile un nombre incroyable de données et par exemple si la phrase était "le beau est-il en rapport avec la raison?", elle va sortir tout ce qui a été dit sur le beau puis la raison: ensuite analyser les rapports de fréquence dans des phrases comprenant ces 2 mots.
Bref c'est une resucée de ce qui a été déjà dit et écrit sur ce sujet mais sans aucun raisonnement ni réflexion.
C.-à-d. que pour Enthoven ça vaut la note médiocre de 11 qui indique que l'élève est plutôt de la famille des polars et des tacherons qui a retenu des phrases mais sans en comprendre le sens, ni décrire et souligner l'évolution par rapport à ce qui a été dit par d'autres philosophes avant sur ce sujet ou après: bref elle est incapable d'inventer ou de construire un raisonnement personnel qui se sert de références mais ne serait pas une pure compilation de ces dernières.

Ouf!, la machine n'égalera pas l'homme sur certains points de l'intelligence, qui sont quand même des points essentiels.
en mathématiques je suis pas assez calé mais je suis d'accord avec la réflexion donnée plus haut: en maths, l'intuition joue un rôle prépondérant ce me semble et ça manque à la machine.
En général l'intuition joue et a joué un rôle déterminant dans les sciences exactes et là aussi, le bat blesse.

[A voir en vidéo sur Futura]

[Bounoume]

En général l'intuition joue et a joué un rôle déterminant dans les sciences exactes et là aussi, le bat blesse.

je vais peut-être m'aventurer dans un domaine que je maitrise très mal.... le raisonnement automatique, la logique propositionnelle, celle des prédicats....

les raisonnements sensés font appel à la logique classique du 1 er ordre: SI proposition1 ALORS proposition2
avec préalablement résolution de variables contenues dans les propositions....
quand aucune des propositions ne fait référence à une variable extérieure.... c'est simple......
la conclusion est vraie si les prémisses sont vrais.... c'est automatique, déterministe. Une seule inférence, et on dispose de la réponse....
Déduction pure....aucune intuition nécessaire!

En vérification de théorèmes (ou pour vérifier un 'raisonnement' complexe) on va fournir successivement à la 'machine' et dans le bon ordre, les déductions
sur lesquelles est fondé le raisonnement à vérifier......
la 'machine' ( si elle est existe pour effectuer cette tâche) va successivement faire les déductions à partir des propositions déjà vérifiées fournies en entrée.....
la machine 'déduit' successivement et, si tout va bien , déduira finalement la proposition (théorème, ou autre) dont on a voulu vérifier la validité....

mais le chemin a été entièrement défini par l'humain. L'arbre des opérations converge vers une seule feuille, la conclusion définitive (ou échoue avant, si l'hypothèse était le fruit d'un raisonnement bancal....
,
par contre si on demande à la 'machine' de découvrir toute seule la conclusion souhaitée, sans lui indiquer le chemin à suivre
Pire... quand on lui demande de trouver une nouvelle 'vérité' encore peu claire dans l'idée du savant qui l'interroge....
Si tu te souviens, quand on te demandait une démonstration en maths.... il fallait trouver quelles propriétés pourraient servir à la démonstration, quelles astuces pour les combiner... quelles variables rajouter pour que ça tienne debout..., faire des essais, juger de leur validité etc etc....
En somme définir des chemins possibles, les tester, pour finalement arriver à l'enchaînement productif .....

Ce n'est pas la démarche du 'voyageur de commerce' qui essaie toutes les combinaisons.....*
c'est là que joue l'intuition..... dont l'automate logique ne dispose pas.....

mais cette 'intuition' est basée -entre autres- sur les connaissances acquises, et elle a, me semble-t-il, une composante quasi probabiliste....

[pm42]

Elle compile un nombre incroyable de données et par exemple si la phrase était "le beau est-il en rapport avec la raison?", elle va sortir tout ce qui a été dit sur le beau puis la raison: ensuite analyser les rapports de fréquence dans des phrases comprenant ces 2 mots.

La machine est largement plus capable de raisonner que toi qui :
- t'obstine à parler philo sur un forum de science parce que c'est la seule chose que tu connais vaguement
- parle d'IA sans rien y connaitre

Si on lui pose la question que tu cites, elle répond :

La question de savoir si le beau est en rapport avec la raison nous plonge au cœur d'un débat philosophique ancien et toujours vibrant. Cette interrogation croise les chemins de l'esthétique et de l'épistémologie, explorant comment notre perception de la beauté peut être influencée ou même dictée par notre faculté rationnelle.

D'un côté, on pourrait argumenter que la beauté est intimement liée à la raison dans la mesure où notre capacité à percevoir et à apprécier le beau suit des principes d'ordre, de symétrie et d'harmonie, qui sont eux-mêmes des concepts rationnels. Platon, par exemple, voyait dans les formes géométriques parfaites une manifestation de la beauté idéale, accessible par la contemplation intellectuelle, suggérant ainsi une profonde connexion entre le beau et le rationnel.

D'un autre côté, il existe une vision qui fait du beau une expérience plus irréductible à la simple analyse rationnelle. Kant, dans sa critique de la faculté de juger, propose que le jugement de goût (la détermination de ce qui est beau) est libre de concepts et ne peut pas être entièrement subordonné à la raison. Selon cette perspective, la beauté touche directement nos sens et notre sensibilité, déclenchant une réponse esthétique qui dépasse les simples calculs rationnels.

Ainsi, si la raison peut certainement contribuer à notre compréhension de certains aspects de la beauté, notamment dans les arts et les sciences où les critères de perfection peuvent être plus clairement définis, il semble que l'expérience du beau maintient une dimension qui échappe à la pleine emprise de la rationalité. La beauté, dans sa forme la plus pure, parle à quelque chose de plus instinctif et moins articulable dans l'expérience humaine, où la raison coexiste avec, mais ne gouverne pas totalement, notre sens de l'esthétique.

Ce qui prouve que tes affirmations sur son incapacité à lier les 2 concepts est juste la preuve de ton ignorance couplée avec ton argument d'autorité (citer Eindhoven), parler d'une IA déjà obsolète (GPT 3.5) et sans savoir si elle avait été correctement utilisée (le prompt, ça s'apprend).

[Liet Kynes]

le prompt, ça s'apprend

Je plussoie et c'est même une démarche qui passe, si l'on veut améliorer les résultats, par comprendre ses propres limites et les dépasser, en tout cas, c'est l'expérience perso que j'en ai.

[pm42]

Je plussoie et c'est même une démarche qui passe, si l'on veut améliorer les résultats, par comprendre ses propres limites et les dépasser, en tout cas, c'est l'expérience perso que j'en ai.

Oui. Pour en revenir au post initial, je trouve que GPT-4 ne s'en sort pas trop mal : bien sur, il ne fait pas de raisonnement et est très loin de faire des maths mais il n'a pas été conçu pour ça.

Mais on commence à concevoir des IAs spécialisées en maths et c'est carrément autre chose : https://deepmind.google/discover/blo...-for-geometry/

Par contre, c'est spécialisé, c'est là pour résoudre des problèmes pas pour parler mais on peut penser qu'à un horizon proche, on puisse avoir des IAs capables d'aider jusqu'au collège puis au lycée des étudiants en maths sans faire d'erreur.

[vgondr98]

Voila un exemple d'utilisation de l'IA en mathématiques : https://mathstodon.xyz/@vesatimonen/112513347111148808
En fait, je ne sais pas s'il s'agit vraiment d'IA dans ce cas. Tout ce que j'ai trouvé, c'est que l'auteur explique qu'il a développé un programme pour résoudre ce problème et qu'il est en train d'écrire une page github.

[ZH32]

Bonjour
Pensez-vous que l'IA puisse accepter des affirmations mathématiques de l'interlocuteur si elles sont fausses objectivement ?

[pm42]

Pensez-vous que l'IA puisse accepter des affirmations mathématiques de l'interlocuteur si elles sont fausses objectivement ?

Aucun problème. Déjà dire "l'IA", c'est un problème.
Il y a plein d'IAs différentes et même ce qu'on appelle "une IA" comme GPT 4 est en fait une suite de versions et donc évolue fréquemment, tous les 3 mois par exemple.

Et comme dit plus haut, ChatGPT & co (Gemini, Claude, Mistral75, Llama-3) sont des IAs conversationnelles : elles manipulent le langage mais elles ne raisonnent pas vraiment et surtout elles n'ont aucune idée de ce qui est "vrai ou faux" en général et encore moins en maths.

[ThM55]

Il me semble que le chatGPT a fait quelques progrès depuis le début. Mais il faut un peu l'aider.

Je viens de lui demander de démontrer le théorème de Lagrange sur les groupes (l'ordre d'un sous-groupe d'un groupe fini divise l'ordre du groupe). Il le fait correctement, sauf pour la partie cruciale de la preuve qui dit que les classes à gauche obtenues en multipliant le sous-groupe par des éléments distincts externes sont disjointes: il ne fait que l'énoncer sans preuve. Mais si je lui demande de me prouver ce point, il le fait correctement, quoique de façon assez verbeuse et laborieuse. J'avais fait le même test il y a quelques mois mais il ne s'en sortait pas, même avec de l'aide: dans chaque démonstration il utilisait le résultat à démontrer. Je ne sais pas s'ils ont modifié quelque chose mais en gros il me semble que cela s'est amélioré.

Ce n'est qu'une impression personnelle à partir de quelques exemples, pas une étude détaillée, je laisse cela aux experts.

[pm42]

Il me semble que le chatGPT a fait quelques progrès depuis le début.

C'est possible, ils sortent de nouvelles version régulièrement.

Mais si je lui demande de me prouver ce point, il le fait correctement, quoique de façon assez verbeuse et laborieuse.

Tu as "redécouvert" une variante du "chain of thoughts" : on sait que pour le "raisonnement", ce genre d'IA s'en sort nettement mieux si on lui demande de le faire étape par étape. On a aussi le "tree of thoughts".

Ce n'est qu'une impression personnelle à partir de quelques exemples, pas une étude détaillée, je laisse cela aux experts.

Les progrès sont sensibles, gpt4o est déjà impressionnant pour pas mal de choses et on attend gpt5 pour voir s'il y a encore un saut qualitatif.

Ceci dit, on reste pour le moment dans les limites de ces outils : pas de vrai raisonnement, pas de représentation du monde, etc.
Mais pour beaucoup de tâches, c'est efficace : dans mon boulot, il m'arrive de faire en 10 min ce qui m'aurait pris de 1h à 4h par exemple.

[ThM55]

Pour la programmation, c'est en effet efficace. Je suis retraité, je n'ai plus à développer des choses compliquées mais j'ai récemment utilisé l'outil pour générer du code C et Pyhon pour un bricolage sur Raspberry et il m'a donné des solutions en quelques secondes. Certaines ne marchaient pas du premier coup (librairies absentes par exemple) mais en procédant par étapes comme je l'ai montré sur l'exemple d'une preuve, on finit par en sortir rapidement. Si j'avais eu cela pour des applications complexes intégrant openSSL et des éléments de blockchain, comme j'avais dû le faire il y a des années, il m'aurait orienté directement vers des solutions. C'est d'ailleurs un peu ce que l'on faisait avant en étudiant des exemples d'utilisation.

Mais à mon avis cela peut présenter un danger. On pourrait être tenté de copier la solution sans vraiment la comprendre, sans lire le manuel ou les forums spécialisés et surtout sans prendre conscience de l'existence de mauvaises pratiques qui peuvent compromettre la sécurité (je parle ici d'applications liées à la sécurité; confidentialité, authentification, sûreté de fonctionnement etc). C'est pour cette raison qu'on a développé des règles de codage très strictes (par exemple: https://en.wikipedia.org/wiki/CERT_Coding_Standards ). Mais là aussi, j'imagine, ces outils pourront apporter une aide pour renforcer ce qu'on développe.

[pm42]

Mais à mon avis cela peut présenter un danger. On pourrait être tenté de copier la solution sans vraiment la comprendre, sans lire le manuel ou les forums spécialisés

D'un coté, c'est l'argument qui est donné à chaque outil simplifiant la pratique dans n'importe quel domaine.
De l'autre, c'est ce qu'on faisait déjà : copier/coller de code, utilisation de librairies boites noires.
La programmation moderne, c'est quand même massivement de la réutilisation de code écrit par d'autres sans se poser de questions.

Mais surtout, à titre personnel j'ai constaté l'inverse : l'IA me sort des solutions que je n'aurais pas trouvé rapidement parce qu'elle a "digéré" tous les forums, github, etc.
Et donc j'apprend en reprenant son code.

et surtout sans prendre conscience de l'existence de mauvaises pratiques qui peuvent compromettre la sécurité (je parle ici d'applications liées à la sécurité; confidentialité, authentification, sûreté de fonctionnement etc). C'est pour cette raison qu'on a développé des règles de codage très strictes (par exemple: https://en.wikipedia.org/wiki/CERT_Coding_Standards ). Mais là aussi, j'imagine, ces outils pourront apporter une aide pour renforcer ce qu'on développe.

Oui, on utilise déjà pas mal d'outils automatiques pour vérifier la qualité du code et l'IA est aussi capable de le faire. Donc le risque me semble minimal.

P.S : de façon rigolote, les normes du CERT existent pour C, C++, Java, Android OS, and Perl. Si on veut de la sécurité, C, C++ et Perl sont à éviter de nos jours et sans doute un plus gros risque que l'utilisation de l'IA. Sans même parler des autres défauts de ces langages qui sont quasi obsolètes.

[ThM55]

Ce qu'il faudrait faire, c'est voir si chatGPT détecte les problèmes potentiels qui sont décrits dans le CERT C++ Coding Standard avec des petits exemples de code fragile et leur correction. J'en ai essayé seulement deux, je ne peux pas en tirer de conclusion, et d'ailleurs le texte fait 450 pages et j'ai des trucs à faire ailleurs que devant l'écran du PC . Mais je pense que cela pourrait servir de base à une utilisation raisonnée des ces outils, en connaissance de cause.

Pour C et C++, il est vrai que c'est obsolète pour la sécurité mais c'est malheureusement encore largement utilisé. Linux est quasi entièrement écrit en C. J'ai pu constater que peu de gens étaient réjouis d'utiliser Rust ou d'autres langages, mais bon, je me fais vieux et je ne suis plus vraiment dans le coup. Le sujet ne m'intéresse plus trop intellectuellement, c'était pour moi une activité alimentaire avant tout.

[Mickey-l.ange]

la fameuse dialectique thèse-antithèse-synthèse qu'on a tous appris à l'époque comme lycéens.

Bonjour,
A part le jour du bac, qui raisonne et rédige des textes selon cette "dialectique" ?