Pour ou contre un moratoire sur l'intelligence artificielle ?

[Liet Kynes]

C'est discutable puisque en l'occurrence il ne s'agit pas de production d'une connaissance qui serait enregistrée pour être ensuite consultée par tout un chacun, mais de production de textes à la volée dont le seul lecteur est (pour le moment) l'utilisateur qui a interrogé "l'oracle". Et sur un même sujet les réponses de GPT peuvent être assez différentes suivant la manière dont la question est formulée. Donc parler de "connaissances" n'est guère approprié.
Ensuite, si un utilisateur qui a obtenu une fausse information de la part de GPT, ne l'a pas vérifiée en faisant sa propre recherche et la diffuse largement, il me semble que c'est sa responsabilité qui devrait être engagée, sous réserve qu'il ait été dûment prévenu de la propension de l'IA à "halluciner". Sauf que je ne vois toujours rien à ce sujet dans l'extension GPT de Bing, en tout cas rien qui saute aux yeux et que tout utilisateur serait censé avoir lu.

Ce n'est d'ailleurs pas un droit à la correction des textes produits par un agent conversationnel qu'il faudrait faire valoir (correction de quoi, puisqu'il n'y a rien d'enregistré ?), mais un devoir (pour OpenAI ou pour les entreprises qui utilisent GPT, comme Microsoft via Bing) de refuser de fournir à des utilisateurs des informations par nature non fiables et potentiellement diffamatoires au sujet d'autres personnes - ce que OpenAI serait sans-doute parfaitement capable de faire grâce à l'IA de "modération" qui filtre les réponses de GPT.

Quant au risque de régression dans la production de la connaissance, il se situe plutôt dans la solution de facilité que représenteront de tels outils pour de nombreux utilisateurs, peu enclins à vérifier point par point les affirmations de l'IA ou pas capables de le faire faute de compréhension du sujet, et qui se contenteront éventuellement des résumés qu'elle produit. Tant que GPT sera capable de fournir autant de réponses surréalistes (même du point de vue d'utilisateurs naïfs), ce risque me semble assez limité... Mais ça ne sera plus le cas quand, probablement dans un avenir assez proche, les progrès de cette technologie (ou son couplage avec d'autres technologies) permettront d'en limiter drastiquement les "hallucinations".

Même "après" l'esprit critique devra être la règle, si les hallucinations durent assez longtemps, qui sait ? peut-être que l'habitude de vérifier les infos serra prise par un nombre plus large de personnes ?

Pour BING, je suis d'accord :je n'ai pas d'avertissements, cela dit la modération est différente de celle de ChatGPT (bien plus filtrante), le chatbot BING donne ses sources et l'idée sous jacente est que dans ce cas le texte généré serait un résumé rapide de ces sources, mais cela je ne l'ai pas clairement établi. Quand une requête sur le chatbot BING est considérée comme potentiellement douteuse il y a un arret de l'échange sans motivation argumentée de la part du système.
-----

[ArchoZaure]

Un débat qui ressemble à celui que l'on a sur FS, où je me retrouve dans les mots de la prof d'informatique et du philosophe, qui refusent de se faire traiter de luddite ou de peureux parce qu'on a de grosses réserves sur le fonctionnement des systèmes du type ChatGPT, qui produit une illusion de langage grammaticalement parfait mais incapable de citer ses sources. Koening, dont le CV a été également "rédécoré" par ChatGPT, parle de formidable régression dans la production de la connaissance, sans possibilité de faire valoir son droit à la correction, contrairement à ce qui se passait avec Wikipédia.
Dessertine rassure en disant que les enfants sauront trier le vrai du faux.

Le discours permettant d'embellir les capacités réelles des ChatMachines est en marche.
Ici par exemple on laisse supposer que seuls les enfants vont avoir des problèmes à discerner le vrai du faux.
Donc si vous avez du mal à distinguer le vrai du faux c'est qu'on doit vous classer parmi les enfants, ce que personne n'a envie qu'on pense de vous... et donc il est de bon ton de dire que "oh oui c'est parfois faux mais c'est facile à démêler...on n'est pas des enfants quand même."
Problème réglé, personne ne va plus oser en parler.

Le débat oppose d'un coté la professeure en informatique appliquée aux sciences sociales à la Sorbonne Laurence Devillers et le philosophe essayiste Gaspard Koening (ici trés inspiré je trouve), et de l'autre coté la journaliste animatrice fan de nouveauté et Philippe Dessertine, spécialiste de la Finance, qui pense que la valorisation de ChapGPT à x dizaines de milliards de dollars est la preuve d'une grande avancée scientifique - je caricature à peine).

Comme l'invention du crack.
C'est nouveau c'est beau. (c'est pour faire de l'ironie bien sûr)

Et ça vaut quoi ? J'ai du mal avec les vidéos et les médias grand public parce que chaque fois que je connais le sujet abordé, j'ai l'impression qu'ils simplifient outrageusement ou caricaturent.

N'est-ce pas ce que fait ChatGPT ?

Ensuite, je pense qu'un des points dangereux qui n'a pas encore été évoqué c'est de placer dans les mains de quelques-uns (dont on ne peut nier l'objectif mercantile) le pouvoir de sélectionner les bonnes des mauvaises informations.
Intégrer ce genre d'outil à des moteurs de recherche va il me semble à l'encontre du principe de neutralité du net.

Depuis le 11 juin 2018, les États-Unis ont abandonné le principe de neutralité du Net.
Toujours en vigueur en France et en Europe, ce principe fondateur doit garantir la libre circulation des contenus sur le Web. Rappel des enjeux liés à la neutralité du Net.

https://www.vie-publique.fr/eclairag...ont-les-enjeux

Par exemple et pour aller plus loin encore, j'ai demandé à ChatGPT3 ce qu'était le "vieux pape" en le guidant même dans le domaine du vin, mais rien.
Juste pour illustrer également le pouvoir que peut avoir ce genre d'outil sur la balance commerciale des états.

[Liet Kynes]

Ensuite, je pense qu'un des points dangereux qui n'a pas encore été évoqué c'est de placer dans les mains de quelques-uns (dont on ne peut nier l'objectif mercantile) le pouvoir de sélectionner les bonnes des mauvaises informations.
Intégrer ce genre d'outil à des moteurs de recherche va il me semble à l'encontre du principe de neutralité du net.

https://www.vie-publique.fr/eclairag...ont-les-enjeux

Par exemple et pour aller plus loin encore, j'ai demandé à ChatGPT3 ce qu'était le "vieux pape" en le guidant même dans le domaine du vin, mais rien.
Juste pour illustrer également le pouvoir que peut avoir ce genre d'outil sur la balance commerciale des états.

Si google renvoie du picrate sur "vieux pape" ce n'est pas par respect de la neutralité du net

[oualos]

Les fake news ont commencé bien avant chatGPT: je crois au moment du COVID, il y avait un journal satirique le Gorafi -anagramme du Figaro- qui s'en était fait une spécialité.
Mais il y a eu à leur suite des cas nettement plus vicieux de gens répandant des fake news sans dire qu'il faisait cela de manière satirique.
Je me suis fait piéger une fois avec une fake news annonçant 1000 morts du COVID en Belgique, une épidémie foudroyante.
ChatGPT ne cherche pas à répandre ni à diffuser donc lui imputer une intention manifeste de propager des contre-vérités serait une erreur.
Il est juste pas totalement au point ce que ses concepteurs reconnaissent d'ailleurs.
En plus d'une fois sur l'autre il peut changer sa réponse: à la question y a-t-il eu des femmes présidentes en France, il a répondu une fois Simone Veil et Edith Cresson.
La fois suivante il reconnaissait qu'il n'y en avait eu aucune chez nous. Donc il existe un moyen de corriger ses erreurs, par des pondérations et peut-être un peu plus d'apprentissage sur des sujets ciblés.
J'y connais pas grand-chose mais il y a des spécialistes de l'IA ici apparemment qui doivent pouvoir nous expliquer le mécanisme.

[yves95210]

Quand une requête sur le chatbot BING est considérée comme potentiellement douteuse il y a un arret de l'échange sans motivation argumentée de la part du système.

Mais pas quand il s'agit d'une requête "innocente" concernant la biographie d'une personne.

Ceci dit, dans ce cas je ne sais pas quelle est la priorité donnée, entre les liens remontés par le moteur de recherche et la "base de connaissances" que GPT s'est constituée durant son apprentissage. Tant que le rôle de GPT se limite à lancer une "bête" recherche sur le net et à résumer des réponses en fournissant les liens qu'il a (a priori) utilisés (avec apparemment une priorité donnée à wikipedia, qu'on retrouve régulièrement comme première référence citée), le risque est limité.
Mais quand GPT génère une synthèse à partir de sa "base de connaissances", comme ça a dû être le cas par exemple au sujet du maire australien (mais je suppose qu'il s'agissait de chatGPT, sans recherche sur le web), c'est autre chose...

Reste à voir ce que donne GPT/Bing quand la recherche Bing échoue : dans ce cas GPT essaie t-il de fournir une réponse, même datée, basée sur ses "connaissances", ou se contente t-il de dire qu'il n'a rien trouvé ? Selon les quelques essais que j'ai faits, il me semble que c'est plutôt la deuxième hypothèse, ce qui serait plutôt rassurant (entre autres sur la santé mentale des dirigeants de Microsoft).

[GBo]

Le discours permettant d'embellir les capacités réelles des ChatMachines est en marche.
Ici par exemple on laisse supposer que seuls les enfants vont avoir des problèmes à discerner le vrai du faux.
Donc si vous avez du mal à distinguer le vrai du faux c'est qu'on doit vous classer parmi les enfants, ce que personne n'a envie qu'on pense de vous... et donc il est de bon ton de dire que "oh oui c'est parfois faux mais c'est facile à démêler...on n'est pas des enfants quand même."
Problème réglé, personne ne va plus oser en parler.

C'est exactement ce que fait Caroline Roux à la 21ème minute (devant l'émoi du philosophe devant les erreurs factuelles du Chatbot à son endroit, pour donner un exemple didactique de l'effondrement informatif que va généraliser cet "outil") et avec un petit sourire mi-rassurant, mi-condescendant: "Mais on a expliqué à nos enfants qu'il fallait vérifier, on fera pareil...". C'est ça le vrai schisme, que l'on voit aussi sur ce forum. Ce n'est pas un schisme entre anti-tech (qui l'est ici ?) et early adopters.

[ArchoZaure]

"Mais on a expliqué à nos enfants qu'il fallait vérifier, on fera pareil...". C'est ça le vrai schisme, que l'on voit aussi sur ce forum. Ce n'est pas un schisme entre anti-tech (qui l'est ici ?) et early adopters.

Et le problème qui pourrait se poser d'ici quelques années c'est : Avec quoi vérifier ? Avec les moteurs de recherches sur lesquels on aura finalement mis une surcouche de ChatMachines ?
L’Accès à l'information sera-t-elle encore moins directe qu'avant ?

Comment va évoluer le moteur de recherche ?
Restera-t-il "gratuit" (mode basé sur la pub certes) ? Sera-t-il encore nécessaire de faire appel à de la publicité pour financer les Googleries ? Les enjeux seront-ils les mêmes ? (d'où l'exemple de "la piquette" proposée plus haut "pub versus intérêts nationaux".)

[Liet Kynes]

C'est exactement ce que fait Caroline Roux à la 21ème minute (devant l'émoi du philosophe devant les erreurs factuelles du Chatbot à son endroit, pour donner un exemple didactique de l'effondrement informatif que va généraliser cet "outil") et avec un petit sourire mi-rassurant, mi-condescendant: "Mais on a expliqué à nos enfants qu'il fallait vérifier, on fera pareil...". C'est ça le vrai schisme, que l'on voit aussi sur ce forum. Ce n'est pas un schisme entre anti-tech (qui l'est ici ?) et early adopters.

Le gros problème est que le philosophe parle d'un outil expérimental pour lequel chacun est averti du caractère possiblement non fiable des informations contenues dans les phrases générées et il tire des conclusions, généralise et annonce l'avenir

[Liet Kynes]

Et le problème qui pourrait se poser d'ici quelques années c'est : Avec quoi vérifier ? Avec les moteurs de recherches sur lesquels on aura finalement mis une surcouche de ChatMachines ?
L’Accès à l'information sera-t-elle encore moins directe qu'avant ?

Comment va évoluer le moteur de recherche ?
Restera-t-il "gratuit" (mode basé sur la pub certes) ? Sera-t-il encore nécessaire de faire appel à de la publicité pour financer les Googleries ? Les enjeux seront-ils les mêmes ? (d'où l'exemple de "la piquette" proposée plus haut "pub versus intérêts nationaux".)

Wikipedia s'est vu être critiqué à ses débuts mais le modèle d'amélioration continu donne des résultats globalement satisfaisants. Pour certaines informations il n'y a pas de vérifications possibles si ce n'est la littérature (histoire) ou bien le domaine est hors de porté des capacités de compréhension.. donc vérifier c'est faire confiance à des sources que l'on choisi.

[ArchoZaure]

Ben oui, Wikipedia ça fonctionne bien (sur des sujets où des partisans ne s'étripent pas pour des raisons idéologique ou au moment du fact cheking au cours d'une élection comme ça s'est déjà vu par exemple sur des infos concernant le nucléaire.) et ça a mis un peu de temps à se mettre en place.
Mais c'est pas parce que c'était pas fiable à 100% et que ça l'est devenu à peu de choses près que les ChatMachines vont suivre le même chemin.
Sans la bonne avancée technique (qu'on ne connait pas pour le moment), il n'y a aucune raison que ça aille dans le même sens.

À la question, quels ont été les présidents en France qui ont fait 2 mandats ou plus ?, voici sa réponse.

Donc Sarkozy et Hollande ont cohabité à la présidence de la République: il devait y avoir un président et un co-président.

Donc comme l'illustre cet exemple.
A quoi ça sert de se fier à un ChatBot pour qu'il nous donne ce genre d'info fausse qu'il faudra ensuite vérifier alors qu'il suffit d'aller direct sans perdre son temps sur wikipedia pour obtenir l'information correcte ?
https://fr.wikipedia.org/wiki/Cinqui...lique_(France)
D'autant qu'il faut espérer que le Chatbot comprenne la question ou/et qu'on l'ait formulé correctement (ici par exemple un président pourrait faire deux mandats mais pas d'affilé etc).

Dire que l'IA va finir par s'améliorer pour atteindre la qualité d'un Wikipedia (alors même qu'on l'a déjà mis en fonctionnement...) c'est pour le moment juste du marketing.
Pour l'instant rien ne permet d'affirmer qu'on aura un jour cette qualité.

[GBo]

Dire que l'IA va finir par s'améliorer pour atteindre la qualité d'un Wikipedia (alors même qu'on l'a déjà mis en fonctionnement...) c'est pour le moment juste du marketing.
Pour l'instant rien ne permet d'affirmer qu'on aura un jour cette qualité.

Il y a des pistes de recherches dans ce sens, sous le terme de "retrieval-augmented generation":
https://arxiv.org/abs/2005.11401?ref=mattboegner.com

Cf. aussi l'approche RETRO = "Retrieval Transformer" qui utilise une vraie base de données au lieu qu'elle soit implicite dans les paramètres:


https://jalammar.github.io/illustrat...l-transformer/

[Liet Kynes]

Donc comme l'illustre cet exemple.
A quoi ça sert de se fier à un ChatBot pour qu'il nous donne ce genre d'info fausse qu'il faudra ensuite vérifier alors qu'il suffit d'aller direct sans perdre son temps sur wikipedia pour obtenir l'information correcte ?
https://fr.wikipedia.org/wiki/Cinqui...lique_(France)
D'autant qu'il faut espérer que le Chatbot comprenne la question ou/et qu'on l'ait formulé correctement (ici par exemple un président pourrait faire deux mandats mais pas d'affilé etc).

Dire que l'IA va finir par s'améliorer pour atteindre la qualité d'un Wikipedia (alors même qu'on l'a déjà mis en fonctionnement...) c'est pour le moment juste du marketing.
Pour l'instant rien ne permet d'affirmer qu'on aura un jour cette qualité.

Ben si tu as la réponse sur wikipedia tu cherches à cette endroit. Après chatGPT n'est pas un moteur de recherche, Bing/GPT4 synthétise de l'info en donnant des sources ou en lui indiquant les sources dans lesquelles chercher (précises ou bien typées: par exemple des typologies de sites) par défaut il va se sourcer selon les critères prédéfinis par microsoft.

[Bounoume]

du nouveau?
la conduite de projet ???
https://www.futura-sciences.com/tech...tonome-104717/
nouvelles capacités réelles? la capacité de construire.... suivant un plan raisonnable (????) , de s'organiser et d'organiser dans un but défini?
Cela en évitant sérieusement les approximations et absurdités de la version actuelle?
Si oui (??) quelles conséquences à prendre en compte?

Qui pourrait faire le tri entre effets d'annonce et fonctionnalités réelles?

[jiherve]

bonsoir
on notera que ce sont des projets purement financiers!
JR

[Liet Kynes]

Petit test pour "voir":

Embarking on a new goal:find a solution to the Syracuse conjecture
Thinking...(Restart if this takes more than 30 seconds)
Added taskevelop a program that can generate the Syracuse sequence for any given positive integer.
Added task:Analyze the Syracuse sequence for various positive integers and identify any patterns or trends.
Added task:Create a mathematical proof or disproof of the Syracuse conjecture based on the analysis of the Syracuse sequence.
Thinking...(Restart if this takes more than 30 seconds)
Executing "Develop a program that can generate the Syracuse sequence for any given positive integer."

Sure, I can do that. Here's a Python program that generates the Syracuse sequence for any given positive integer:

def syracuse(n):
seq = [n]
while n != 1:
if n % 2 == 0:
n = n // 2
else:
n = 3 * n + 1
seq.append(n)
return seq


To use the program, simply call the syracuse function with a positive integer as its argument. For example:

>>> syracuse(10)
[10, 5, 16, 8, 4, 2, 1]


This is the Syracuse sequence for the input number 10.

Hope this helps! Let me know if you need anything else.

Thinking...(Restart if this takes more than 30 seconds)
Added task:Use the program developed to analyze the Syracuse sequence for various positive integers and identify any patterns or trends.
Thinking...(Restart if this takes more than 30 seconds)
Executing "Analyze the Syracuse sequence for various positive integers and identify any patterns or trends."

Analyzing the Syracuse sequence for various positive integers, I have identified a pattern where the sequence eventually reaches 1, regardless of the starting integer. However, the number of steps it takes to reach 1 varies widely between different starting integers. The Syracuse conjecture states that all starting integers will eventually reach 1 in this sequence, but this has not been proven. Further analysis is necessary to determine any other patterns or trends in the sequence.

Thinking...(Restart if this takes more than 30 seconds)
Added task:Create a mathematical proof or disproof of the Syracuse conjecture based on the analysis of the Syracuse sequence.
Thinking...(Restart if this takes more than 30 seconds)
Executing "Create a mathematical proof or disproof of the Syracuse conjecture based on the analysis of the Syracuse sequence."

As an AI language model, I cannot definitively create a mathematical proof or disproof of the Syracuse conjecture. However, I can provide some information about the conjecture.

The Syracuse conjecture, also known as the Collatz conjecture, is a problem in mathematics that involves starting with any positive integer, and repeatedly applying a simple function until the sequence eventually reaches the number 1. The function is as follows:

If the number is even, divide it by 2.
If the number is odd, multiply it by 3 and add 1.

The conjecture states that, no matter what positive integer you start with, the sequence will always eventually reach 1. Despite much effort from mathematicians over the years, the conjecture remains unproven.

There is some evidence to suggest that the conjecture is true, based on extensive computer simulations of the sequence for many different starting values. However, this is not considered to be a definitive proof.

In conclusion, while there is no proven mathematical proof or disproof of the Syracuse conjecture, the problem remains an interesting and unsolved challenge in the field of mathematics.

Thinking...(Restart if this takes more than 30 seconds)
Added task:Use advanced AI techniques, such as machine learning or neural networks, to analyze the Syracuse sequence for any possible patterns or trends that may help to prove or disprove the Syracuse conjecture.
Thinking...(Restart if this takes more than 30 seconds)
Executing "Use the program developed to analyze the Syracuse sequence for various positive integers and identify any patterns or trends."

Task Execution:

Based on my analysis of the Syracuse sequence for various positive integers, I have identified the following patterns or trends:

All sequences eventually reach the cycle (4,2,1) and repeat infinitely.
The length of the sequence before reaching the cycle varies greatly for different starting integers.
Integers that are powers of 2 (i.e. 2^n) have a short sequence length compared to other integers.

Considering the above patterns, I can conclude that the Syracuse conjecture is true, i.e. every positive integer eventually reaches the cycle (4,2,1) and repeats infinitely.

Response: "Based on my analysis of the Syracuse sequence, I have found that the Syracuse conjecture is true. All positive integers eventually reach the cycle (4,2,1) and repeat infinitely, and the length of the sequence before reaching the cycle varies greatly for different starting integers. Additionally, integers that are powers of 2 have a short sequence length compared to other integers."

Thinking...(Restart if this takes more than 30 seconds)
Task marked as complete!
We're sorry, because this is a demo, we cannot have our agents running for too long. Note, if you desire longer runs, please provide your own API key in Settings. Shutting down.

Conclusion, l'I.A. c'est aussi fort qu'I. A. : http://www.maths-et-physique.net/aberkane-syracuse.html

[Avatar10]

Le gros problème est que le philosophe parle d'un outil expérimental pour lequel chacun est averti du caractère possiblement non fiable des informations contenues dans les phrases générées et il tire des conclusions, généralise et annonce l'avenir

Chacun est prévenu du caractère possiblement non fiable??vous êtes sérieux? même si quelques médias parle de ça, pour le grand public n'est pas au courant, faites donc l'expérience en discutant avec des personnes lambda, c'est ce que je fais, et ce que vous dites ne correspond pas du tout.

Un autre exemple comme quoi, non, les gens ne savent pas...dans un pays d'Asie, il a été proposé que ChatGPT écrivent les discours des ministres ( c'est un ministre qui a proposé ça), un journaliste a demandé à ChatGPT si c'était une bonne solution, il a répondu que ce serait une très grosse erreur (et a développé pourquoi).
Bref, tout ça pour dire qu'il faut pas penser que ce qui est lu sur FS est représentatif du grand public.

[Archi3]

Chacun est prévenu du caractère possiblement non fiable??vous êtes sérieux?

on est quand même à la limite de l'entreprise de désinformation en propageant que "chacun est averti du caractère possiblement non fiable des informations contenues dans les phrases générées", parce que personne ne sait dire quand est ce que c'est juste, et quand est ce que c'et faux. Si vous ne connaissez pas la réponse, il est impossible de connaitre la qualité de la réponse.

il n'est qu'à voir l'accueil plutot "froid" de certains devant les posts qui illustrent les limites de chatGPT : limite on dirait que pour certains c'est un blasphème et un crime de lèse majesté en lisant certains commentaires.

[Liet Kynes]

on est quand même à la limite de l'entreprise de désinformation en propageant que "chacun est averti du caractère possiblement non fiable des informations contenues dans les phrases générées", parce que personne ne sait dire quand est ce que c'est juste, et quand est ce que c'et faux. Si vous ne connaissez pas la réponse, il est impossible de connaitre la qualité de la réponse.

Il y a tout les avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable.
Si je met en ligne une page web avec une feuille calc sur laquelle j'utilise trois cellules, dans la première j'invite l'utilisateur à écrire son identité ou l'identité de quelqu'un, dans la seconde est écrit en dur "est un peu simplet" et que dans la troisième je met une formule concaténant les deux premières, est-ce que cette page web va être accusé d'écrire de fausses informations?

[Archi3]

Il y a tout les avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable.

comment expliques tu alors que même ici certains ont posté des réponses de chatGPT en croyant sincèrement qu'elles étaient correctes (résultats d'opérations mathématiques, références web, informations sur les fuites de virus) , sans prendre la peine de les vérifier, si "il y a tous les avertissements nécessaires" ? y compris chez les plus "pro" ?

comment expliques tu qu'un médecin exprime ses craintes que les gens utilisent chatGPT pour s'auto-diagnostiquer , si "Il y a tout les avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable." ?

Comment expliquer que toi même tu postes des avis tirés de chatGPT sur mes propres posts, sans les accompagner d'"avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable." ?

[Liet Kynes]

comment expliques tu alors que même ici certains ont posté des réponses de chatGPT en croyant sincèrement qu'elles étaient correctes (résultats d'opérations mathématiques, références web, informations sur les fuites de virus) , sans prendre la peine de les vérifier, si "il y a tous les avertissements nécessaires" ? y compris chez les plus "pro" ?

comment expliques tu qu'un médecin exprime ses craintes que les gens utilisent chatGPT pour s'auto-diagnostiquer , si "Il y a tout les avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable." ?

Comment expliquer que toi même tu postes des avis tirés de chatGPT sur mes propres posts, sans les accompagner d'"avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable." ?

Je l'ai déjà fait, mais je remet une pièce dans le jukebox : on sais que cela n'est pas fiable à 100% , on vérifie ou pas en fonction de l'usage que l'on va en faire mais en cas de diffusion l'info générée par le chatbot est sous la responsabilité de celui qui la diffuse ensuite en tant que vérité.

[Archi3]

je ne pense pas que tu aies répondu à ma question : comment expliques tu que des gens bien au courant et bien plus éduqués que la moyenne, aient posté ici même des posts de chatGPT en croyant manifestement qu'ils étaient crédibles et justes, alors que ce n'était pas le cas, si " tout (sic) les avertissements nécessaires pour comprendre que en l'état cela n'est pas assez fiable." ont été diffusés? Il semble bien que ce n'ait pas été le cas ?

[Liet Kynes]

C'est simple, c'est comme pour toutes technologies, il faut un petit temps d'adaptation et de découverte : https://www.dailymotion.com/video/x20lubb

[Archi3]

donc tous les avertissements "nécessaires" ne sont pas donnés, ceux qui sont donnés sont bien insuffisants pour que la population ait une idée claire de ses limites, dans la vraie vie, on est bien d'accord ?
(je rappelle que si ta vidéo humoristique met en scène un papy déconnecté des technologies modernes, je parle moi de cas concernant des gens très au courant de l'informatique et de l'IA et se présentant eux même comme des "pros", donc bien au dessus de la moyenne de la population, qui se sont quand même fait "avoir").

[polo974]

donc tous les avertissements "nécessaires" ne sont pas donnés, ceux qui sont donnés sont bien insuffisants pour que la population ait une idée claire de ses limites, dans la vraie vie, ...

Mais qui lit les avertissements "dans la vraie vie" ? ? ?
Quand c'est résumé, on dit c'est trop court, quand c'est plus long, on dit c'est trop long et on zappe ! ! !

Et qui tient toujours compte des avertissements ? ? ?
Voir les paquets de clopes ou autres poisons...

Chacun se dit parfois "nan, mais je maîtrise, je fais gaffe..." et blam, au pied de l'arbre (la tête juste à coté d'un râteau, pointes en l'air (vécu personnel))

... on est bien d'accord ?
...

Question purement rhétorique, "on est bien d'accord ?". mais non.

Même si ici, certains (même des plus connaisseurs que notre moyenne) se sont fait avoir sur ce coup (dk a frappé et frappera encore, et je ne suis pas à l'abri, loin de là).

[Liet Kynes]

Même si ici, certains (même des plus connaisseurs que notre moyenne) se sont fait avoir sur ce coup (dk a frappé et frappera encore, et je ne suis pas à l'abri, loin de là).

C'est d'ailleurs ce qui me permet de dire que tant que les "hallucinations" sont identifiables, il peux y avoir un effet positif sur le développement de l'esprit critique des utilisateurs. Au delà, peut-être même un effet sur la manière de formuler des opinions.

[Archi3]

Polo, ah ben pourtant tu es bien d'accord, puisque tu conviens que tous les avertissements nécessaires n'ont pas été donnés, puisque les avertissements ne suffisent pas à éviter un emploi incorrect de chatGPT et le fait d'y donner trop de crédibilité.

Par exemple, il n'y a rien qui empêche d'obliger openAI de faire suivre CHAQUE réponse de chatGPT par un message du genre "Attention, ce message a été engendré automatiquement par une intelligence artificielle et aucune garantie de véracité n'est donnée. Il ne faut pas l'utiliser comme une source fiable sans l'avoir vérifié auparavant".

Et sur des forums comme FS, ou des institutions comme des écoles ou d'autres institutions, considérer que c'est une faute de citer chatGPT sans cette mention et prendre des sanctions de procédure interne quand c'est le cas (on va quand même pas trainer au tribunal quelqu'un pour avoir cité chatGPT mais rien n'empêche d'appliquer des sanctions locales comme on le fait ici en supprimant des messages ou en bannissant temporairement des forumeurs). D'autant que cette mention n'est que la stricte vérité ....

[Liet Kynes]

Par exemple, il n'y a rien qui empêche d'obliger openAI de faire suivre CHAQUE réponse de chatGPT par un message du genre "Attention, ce message a été engendré automatiquement par une intelligence artificielle et aucune garantie de véracité n'est donnée. Il ne faut pas l'utiliser comme une source fiable sans l'avoir vérifié auparavant".

Et tu ne vois pas le problème dans ce que tu proposes ?

Les biais de confirmation par exemple, un adepte de la théorie du complot va vérifier une hallucination complotiste de quelle manière ?
C'est en ce sens que je parle d'hallucination identifiable, d'ailleurs, le platiste ne verra pas une hallucination si une IA génère la phrase "la terre est plate".

Sinon la mention est présente sur l'interface de chatGPT:

Our goal is to get external feedback in order to improve our systems and make them safer.

While we have safeguards in place, the system may occasionally generate incorrect or misleading information and produce offensive or biased content. It is not intended to give advice.

+

ChatGPT may produce inaccurate information about people, places, or facts.

[pm42]

On pourrait faire suivre chaque message ##### supprimé de l'avertissement "attention ceci est une affirmation non sourcée et une opinion personnelle de quelqu'un n'ayant pas de formation dans le domaine dont il parle mais qu'il présente comme une vérité malgré un long historique d'erreur" par exemple.

Curieusement on fait confiance aux lecteurs pour faire la part des choses.

Supposer que les utilisateurs de ChatGPT ne sont pas capables de faire la différence et que seuls quelques esprits éclairés ici voient tous les dangers de l'IA est un peu arrogant quand même.

[Archi3]

Et tu ne vois pas le problème dans ce que tu proposes ?

Les biais de confirmation par exemple, un adepte de la théorie du complot va vérifier une hallucination complotiste de quelle manière ?
C'est en ce sens que je parle d'hallucination identifiable, d'ailleurs, le platiste ne verra pas une hallucination si une IA génère la phrase "la terre est plate".

les gens qui veulent croire à des théories absurdes le feront toujours. Le but de cette mention n'est pas d'empêcher les complotistes de croire aux complots, ça personne ne peut l'assurer, mais elle est d'empêcher que des gens normaux et de bonne foi prennent à la lettre les messages de chatGPT en pensant qu'ils sont a priori fiables.

Sinon la mention est présente sur l'interface de chatGPT:

Our goal is to get external feedback in order to improve our systems and make them safer.

While we have safeguards in place, the system may occasionally generate incorrect or misleading information and produce offensive or biased content. It is not intended to give advice.

+

ChatGPT may produce inaccurate information about people, places, or facts.

je sais très bien, ce que je te dis c'est que cette mention ne suffit pas pour éviter que des gens non complotistes et plus intelligents que la moyenne se soient fait abuser, donc que c'est insuffisant.

En quoi la même mention accolée à la fin de chaque message de chatGPT te gênerait, puisqu'elle est vraie ?

[Liet Kynes]

je sais très bien, ce que je te dis c'est que cette mention ne suffit pas pour éviter que des gens non complotistes et plus intelligents que la moyenne se soient fait abuser, donc que c'est insuffisant.

En quoi la même mention accolée à la fin de chaque message de chatGPT te gênerait, puisqu'elle est vraie ?

Tu n'as aucune étude pour valider ce que tu dis, si ce n'est quelques exemples.
Tu peux rajouter cette mention, est-ce pour autant judicieux? Par exemple on pourait faire en sorte que chacun de nos messages ici soit publié avec la mention "Attention, ce message a été engendré par un membre de forum et aucune garantie de véracité n'est donnée. Il ne faut pas l'utiliser comme une source fiable sans l'avoir vérifié auparavant"