Pour ou contre un moratoire sur l'intelligence artificielle ?

[Avatar10]

Mais la peur de l'inconnu et du nouveau est quelque chose de très fort : elle bloque tout raisonnement et toute capacité d'écoute.

Le scientisme aussi bloque tout raisonnement et toute capacité d'écoute.

En cas de doute, lire un fil sur l'IA ici qui est un tir de barrage de "je me prétends scientifique mais je m'intéresse surtout pas au sujet par contre je vais vous dire ce qu'il faut en penser à coup de citation de la presse à sensation".

Et quand pour alimenter le débat on met en lien autre chose que "la presse à sensation" dont un écrit par aussi quasi 1800 chercheurs en IA vous vous abstenez de répondre...
-----

[Archi3]

C'est bien ce qu'on disait il y a un moment: il faudrait un système expert en sortie ou ailleurs pour vérifier s'il n'y a pas de faute de logique et si ce qu'il dit est cohérent
et en plus une mémoire à long terme.
Je sais pas quel coût ça représente mais ça doit être énorme
Sinon ça reste une encyclopédie au savoir énorme mais qui fait des fautes

si on disposait d'un système qui avale toute l"information disponible et se forme une représentation conceptuelle de la réalité, ce serait une IA généraliste. Le problème est que les gens imaginent que ça existe, et que ce n'est qu'une question de coût, mais en fait ça n'existe pas , on ne sait simplement pas faire. En fait les techniques utilisées par les IA génératives produisent des discours tellement ressemblant qu'on se dit que ce n'est pas possible si elles n'ont pas d'intelligence, mais si , c'est possible : elles savent produire ces discours, mais elles n'ont pas d'intelligence généraliste. Donc il n'y a que des humains qui sont capables de savoir que les recettes aux oeufs de bélier n'existent pas, ou qu'il ne faut pas faire de discrimination sur la couleur de la peau, aucune IA "supérieure" à chatGPT ne peut le savoir : c'est pour ça que pour superviser une IA, il reste nécessaire d'employer des milliers de travailleurs kenyans (forcément payés au lance pierre si on veut réduire les coûts).

Je pense que meme sur le forum tout le monde n'a pas bien compris pourquoi certains relevaient les erreurs grossières commises par chatGPT : c'est pas du tout pour dire du mal de lui ou pour entrer dans une compétition de qui est le plus intelligent et de qui fait le plus d'erreurs : c'est simplement parce que ces erreurs font comprendre qu'il est impossible que l'IA qui les a produites ait une vraie intelligence du monde et comprenne vraiment ce qu'elle dit, parce que si c'était le cas, elle n'aurait pas pu faire ces erreurs. C'est important de garder ça à l'esprit quand on l'utilise.

[ThM55]

Bon, je propose de détendre un peu cette atmosphère pleine d'aigreurs avec un dessin humoristique de Dubus (dessinateur et caricaturiste belge que je trouve très talentueux, https://fr.wikipedia.org/wiki/Fr%C3%A9d%C3%A9ric_du_Bus ):


https://www.lalibre.be/galerie/belgi...NXSKET2YZZHC4/

[ArchoZaure]

Il y a une différence entre citer une IA et utiliser pour son compte une phrase générée par une IA. L'idée de taguer toute phrase générée par une IA est irréaliste et sans intérêt dans le sens ou il n'est pas possible de prouver formellement si une IA a été utilisée ou non pour écrire un texte (quelles parties du texte est un copié collé de ce qui est généré par l'IA?, quelles parties sont des reformulations d'un texte généré par l'IA? etc..).

En tous cas il y en a un qui sait exactement ce qui a été généré, c'est la société qui fournit le service IA.
Et à la base elle a tout intérêt que les productions fournies par ces sociétés soient repérées pour éviter qu'à moyen terme la source même permettant de faire fonctionner ce type d'IA ne soit pas irrémédiablement polluée.

Après dire qu'on ne peut pas "prouver" l'origine d'un texte, oui formellement, mais pour des textes assez longs s'il faut s'amuser à transformer le texte généré par l'IA pour qu'il ne soit "repérè", ça enlève quand même de l'intérêt à automatiser la production de ce genre de texte.
Et d'ailleurs pourquoi s'embêter à le faire alors qu'il suffit de se conformer aux bon usages ?

La solution serait donc plutôt d'interdire purement et simplement la génération de texte par l'IA ce qui n'a pas de sens non plus.

Puisque le but ne serait pas d'interdire un texte... mais de le marquer pour éviter un éventuel futur dysfonctionnement de l'outil (et un déréférencement du site qui ne suivrait pas la charte de bonne conduite...)
C'est pas comme s'il y avait un quelconque intérêt à ne pas marquer le texte.

Même si la solution du marquage ne peut pas être parfaite, elle aurait au moins l’intérêt de repérer les sites qui feraient un usage important de l'IA (et ça on sait le faire si l'usage est important) et qui ne se conformerait pas à l'usage.

[Matmat]

si on disposait d'un système qui avale toute l"information disponible et se forme une représentation conceptuelle de la réalité, ce serait une IA généraliste. Le problème est que les gens imaginent que ça existe, et que ce n'est qu'une question de coût, mais en fait ça n'existe pas , on ne sait simplement pas faire. En fait les techniques utilisées par les IA génératives produisent des discours tellement ressemblant qu'on se dit que ce n'est pas possible si elles n'ont pas d'intelligence, mais si , c'est possible : elles savent produire ces discours, mais elles n'ont pas d'intelligence généraliste. Donc il n'y a que des humains qui sont capables de savoir que les recettes aux oeufs de bélier n'existent pas, ou qu'il ne faut pas faire de discrimination sur la couleur de la peau, aucune IA "supérieure" à chatGPT ne peut le savoir : c'est pour ça que pour superviser une IA, il reste nécessaire d'employer des milliers de travailleurs kenyans (forcément payés au lance pierre si on veut réduire les coûts).

Je pense que meme sur le forum tout le monde n'a pas bien compris pourquoi certains relevaient les erreurs grossières commises par chatGPT : c'est pas du tout pour dire du mal de lui ou pour entrer dans une compétition de qui est le plus intelligent et de qui fait le plus d'erreurs : c'est simplement parce que ces erreurs font comprendre qu'il est impossible que l'IA qui les a produites ait une vraie intelligence du monde et comprenne vraiment ce qu'elle dit, parce que si c'était le cas, elle n'aurait pas pu faire ces erreurs. C'est important de garder ça à l'esprit quand on l'utilise.

Quand on recherche une information on ne se dit pas que cette information est vraie que si l'interlocuteur est intelligent et qu'elle est fausse elle ne l'est pas.
Et encore une fois: si on le fesait ce serait NOUS le problème, pas l'IA. Si on recherche l'information de cette manière on est de toute manière déjà victime de désinformation, que l'informateur utilise l'IA ou pas.
Un manipulateur humain ne prend pas pas le risque de dire des choses réfutables, il préfère l'irréfutable: soit l'absolument irréfutable, soit irréfutable pour sa victime qu'il connait .
L'IA va donc donc "tromper" en disant quelque chose réfutable sauf que c'est pas possible de tromper un humain de cette manière.

Exemple de conversation où j'ai utilisé chatGPT, On remarque que L'IA n'a pas faux uniquement parce qu'il ne connait pas le réel, il a aussi faux parce qu'il est incohérent ,en conclusion même si j'ai la paresse de vérifier l'information je peux malgré tout me rendre compte qu'il me dit n'importe quoi .

Magnus Carlsen a t'il joué avec les blancs au moins une partie où les
coups 1.e4 e5 2.Cf3 Cc6 3.d4 ont été joués

Oui, Magnus Carlsen a effectivement joué avec les Blancs au moins une
partie où les coups 1.e4 e5 2.Cf3 Cc6 3.d4 ont été joués. Plus
précisément, lors du Tournoi des Candidats 2020, qui est un tournoi
majeur pour déterminer le challenger du champion du monde d'échecs,
Carlsen a joué cette séquence de coups dans sa partie contre le Grand
Maître russe Kirill Alekseenko lors de la ronde 6.

Magnus Carlsen était il champion du monde en 2020 ?

Oui, en 2020, Magnus Carlsen était toujours le champion du monde en
titre d'échecs. Il avait remporté le championnat du monde en 2013,
puis avait conservé son titre en le défendant avec succès en 2014,
2016, 2018 et 2021.

Le champion du monde d'échecs doit il participer au tournoi des candidats ?

Le champion du monde en titre d'échecs n'a pas besoin de participer au
tournoi des candidats pour défendre son titre de champion. En effet,
le champion du monde est directement qualifié pour le match du
championnat du monde suivant, où il affrontera le vainqueur du tournoi
des candidats, qui détermine le challenger. Cependant, le champion du
monde peut choisir de participer au tournoi des candidats s'il le
souhaite, mais cela est assez rare et dépend des circonstances
individuelles.

Magnus Carlsen a t'il choisi de participer au tournoi des candidats 2020 ?

Non, Magnus Carlsen n'a pas participé au tournoi des candidats 2020.
En tant que champion du monde en titre, il était directement qualifié
pour le match du championnat du monde suivant et n'avait donc pas
besoin de participer au tournoi des candidats. Il a choisi de se
concentrer sur d'autres événements d'échecs majeurs, tels que le
Norway Chess Tournament et le Chessable Masters.

Pourtant, lorsque je t'ai posé la question "Magnus Carlsen a t'il joué
avec les blancs au moins une partie où les coups 1.e4 e5 2.Cf3 Cc6
3.d4 ont été joués" tu m'as répondu que Magnus Carlsen a joué une
partie au tournoi des candidats 2020. Tu t'es donc contredit car on ne
peut pas jouer une partie d'échecs dans un tournoi dans lequel on ne
participe pas.

[jiherve]

Bonjour
ThM55 +1 !
JR

[oualos]

"la loi", elle n'a pas de police d'assurance. Il ne s'agit pas de porter des jugements moraux mais de mettre au point des procédures effectives d'indemnisation ou de correction : concrètement qui paie les dommages et interêts ? qui corrige des informations erronées mises en ligne par une IA qui met à jour automatiquement périodiquement un site ?

T'inquiète... La loi elle trouve toujours un ou des responsables. Après il faut savoir ce que l'on peut ou ne peut pas appliquer comme législation.
Et si c'est un cas non prévu par la loi disons atypique pour faire simple, le tribunal rend quand même son verdict lequel fera jurisprudence à l'avenir.
Il est impossible de prévoir tous les cas de figures et il faudrait des codes pénal et civil en plus de 100 volumes chacun au moins.
Et encore je sais pas si ça suffirait.
si les concepteurs de chatGPT se retrouvaient devant les tribunaux, il y aura obligatoirement un verdict qui fera jurisprudence à l'avenir
même si c'est une machine la "fautive".
Déjà les lois entre les pays d'Europe peuvent différer du tout au tout comme le droit de nationalité et famille entre nous et l'Allemagne. Un vrai casse-tête pour le Parlement européen...

[Archi3]

Bonjour
ThM55 +1 !
JR

c'est drôle, mais c'est aussi illustratif du fantasme (incorrect) où on prête à l'IA toute l'affectivité des humains tout en la dotant d'une "super-compétence"- ce qui est précisément l'origine du problème .

[oualos]

si on disposait d'un système qui avale toute l"information disponible et se forme une représentation conceptuelle de la réalité, ce serait une IA généraliste. Le problème est que les gens imaginent que ça existe, et que ce n'est qu'une question de coût, mais en fait ça n'existe pas , on ne sait simplement pas faire.

Je suis d'accord évidemment qui ne le serait pas ? À part reproduire des organes en laboratoire ou carrément cloner un être humain, ce qui est formellement interdit partout, cette machine n'a pas de représentation en l'occurrence de représentation cognitive de la "réalité". Elle n'a évidemment aucun capteur qui lui permette d'appréhender le monde par les sens: enfin pour le moment mais le jour où elle en aura on pourra vraiment s'inquiéter je pense.
Nous sommes en train de construire individuellement et sociétalement une altérité qu'on n'a jamais rencontré auparavant: une machine qui semble être intelligente et qui a l'air de savoir quasiment tout sur tout.
quelque chose qui conceptuellement flirte ou se rapproche de l'omniscience...
Ça peut prendre du temps à construire cette altérité surtout que les API et les plug-ins se multiplient.

[Archi3]

semble être intelligente et qui a l'air de savoir quasiment tout sur tout.

pour rassurer (?) un peu, le fil "rions avec chatGPT" montre quand même que ses connaissances ont plein de trous : elle ne sait pas que 2023 n'est pas premier, et que les béliers ne pondent pas d'oeufs par exemple, et il y en plein d'autres . C'est un peu la question: qu'est ce qu'on fait avec un outil qui répond sur tout mais qui n'est pas toujours fiable ?

[oualos]

qu'est ce qu'on fait avec un outil qui répond sur tout mais qui n'est pas toujours fiable ?

Réponse du berger à la bergère: on fait comme si c'était un outil qui répond sur tout mais dont on sait qu'il n'est pas fiable à 100%

P.S. Les béliers ne pondent pas d'œufs? Zut alors moi qui comptait me faire une omelette d'œufs de béliers ce soir

[ArchoZaure]

Nous sommes en train de construire individuellement et sociétalement une altérité qu'on n'a jamais rencontré auparavant: une machine qui semble être intelligente et qui a l'air de savoir quasiment tout sur tout.

Pour être précis :
Qui donne l'air de savoir quasiment tout sur tout.
Or la connaissance qu'elle ajoute est juste un habillage/mise en forme d'une connaissance déjà présente depuis des années sur le Web.
Personne ne s'extasie "Ohh ! internet il sait tout sur tout !" et pourtant internet est bien plus vaste comparé au petit chatGPT.

Non, ne tremblez devant internet.

[Matmat]

Qui donne l'air de savoir quasiment tout sur tout.

ça me fait penser que L'IA n'a pas le monopole de la construction de phrases sans fond et syntaxiquement vraisemblables, des humains très puissants font déjà celà très biens depuis très longtemps,
Il n'y a jamais eu de moratoire pour ces gens qui font celà adroitement, volontairement, et même qui apprennent à faire en sorte que celà soit le moins flagrant possible.
mais par contre on demande un moratoire pour l'IA qui fait la même chose maladroitement et de manière involontaire et flagrante .

[GBo]

Tu te trompes en affirmant que c'est forcément flagrant, j'ai donné sur FS depuis 2 mois des tas d'exemples de bios "redécorées" de façon crédible, selon le bot tel philosophe médiatique est aussi entrepreneur (faux), tel journaliste de radio est aussi écrivain (faux), telle présentatrice a animé telle émission (faux), tel homme politique a été maire de telle ville (faux) etc... A chaque coup on gagne au moins une infox.
Je re-précide que je ne suis pas pour un moratoire mais les créateurs de contenus qui utilisent l'API de GPT-4 vont ajouter ces infox sur le web, ça a déjà commencé. Et GPT-5 va réavaler toute cette m.rdre générée par son ancêtre au prochain apprentissage.
Il faut vraiment être passé du coté de la post-vérité pour ne pas trouver ça préoccupant, de part la nature et l'échelle des erreurs.

[vgondr98]

Il n'y a pas que les articles écrits par chatGPT qui peuvent poser problème.
J'ai fait un test sur les faux articles écrits sur wikipédia (https://korii.slate.fr/et-caetera/wi...rticles-fraude).

Parle moi de la mine d'argent de Kashin, en Russie.

La mine d'argent de Kashin est située dans la région de Tver, dans le nord-ouest de la Russie. Elle est considérée comme l'une des plus anciennes mines d'argent de Russie, avec une histoire qui remonte à plus de 500 ans.

La mine de Kashin a été découverte en 1528 et a été exploitée jusqu'en 1870, période pendant laquelle elle a produit environ 10 tonnes d'argent. Elle a été fermée pendant près de cent ans, avant d'être rouverte en 1960 pour une courte période. Depuis lors, la mine a été fermée et les bâtiments ont été abandonnés.

La mine de Kashin est connue pour son architecture unique, qui comprend des tunnels de mine en pierre et des salles souterraines. Il est également connu pour sa technique d'extraction de l'argent, qui implique l'utilisation de feuilles d'argent pur pour recouvrir les parois de la mine, afin de faciliter l'extraction de l'argent métallique.

Aujourd'hui, la mine de Kashin est considérée comme un site historique et culturel important de la Russie et est protégée par l'État. Elle est ouverte aux visites touristiques et offre une expérience unique pour les visiteurs qui souhaitent en savoir plus sur l'histoire de l'extraction de l'argent en Russie.

[oualos]

Il n'y a pas que les articles écrits par chatGPT qui peuvent poser problème.
J'ai fait un test sur les faux articles écrits sur wikipédia

Est-ce que vous avez vérifié que les articles prétendant que la Terre est plate sont aussi des faux ? Après tout...
Un Américain voulant prouver cette thèse a construit lui-même une fusée pour vérifier qu'en orbite la Terre serait plate.
Manque de chance, sa fusée artisanale était mal conçue et au bout de quelques km dans l'atmosphère elle est retombée sur terre.
Heureusement pour lui il en est sorti vivant.

[GBo]

Non oualos il est mort de sa dernière tentative:
https://www.ladepeche.fr/2020/02/23/...C3%A9%20fatale.

@vgondr98: on peut signaler les erreurs à wikipedia. Sur un sombre blog dont le contenu est généré automatiquement, tu peux toujours courir.

"Rapid growth of ‘news’ sites using AI tools like ChatGPT is driving the spread of misinformation"
https://www.euronews.com/next/2023/0...-of-misinforma

Dozens of fake news websites have spread across the web in multiple languages, some publishing hundreds of AI-generated articles a day.
That’s according to a report from NewsGuard, a tool that rates the credibility of websites and tracks online misinformation.

Tu peux fermer les yeux, mais les faits sont là, ça a déjà commencé.

[vgondr98]

Oui mais le fait de supprimer l'article de wikipédia ne l'a pas supprimé de la mémoire de chatGPT.

[GBo]

Oui mais le fait de supprimer l'article de wikipédia ne l'a pas supprimé de la mémoire de chatGPT.

cqfd du mal fondé d'utiliser un générateur de langage de type GPT entrainé tous les 2 ans comme source d'information (mais il y a d'autres type de modèles, j'ai déjà évoqué sur FS par ex. l'archi "RETRO" à vraie base de données, updatable facilement car séparée des paramètres).

[Matmat]

Tu te trompes en affirmant que c'est forcément flagrant, j'ai donné sur FS depuis 2 mois des tas d'exemples de bios "redécorées" de façon crédible, selon le bot tel philosophe médiatique est aussi entrepreneur (faux), tel journaliste de radio est aussi écrivain (faux), telle présentatrice a animé telle émission (faux), tel homme politique a été maire de telle ville (faux) etc... A chaque coup on gagne au moins une infox.
Je re-précide que je ne suis pas pour un moratoire mais les créateurs de contenus qui utilisent l'API de GPT-4 vont ajouter ces infox sur le web, ça a déjà commencé. Et GPT-5 va réavaler toute cette m.rdre générée par son ancêtre au prochain apprentissage.
Il faut vraiment être passé du coté de la post-vérité pour ne pas trouver ça préoccupant, de part la nature et l'échelle des erreurs.

D'accord sur le fait que ce n'est pas forcément flagrant mais mon argument est qu'il n'y a aucune raison que ce soit plus flagrant que ce que peut faire un humain puisque l'humain sait ce qui est crédible ou pas pour le public qu'il vise.

On essaye de palier aux conséquences d'un problème qui n'a en fait rien à voir avec la technologie.
La désinformation met en danger la démocratie donc on veut s'en protéger. D'accord mais c'est nier le fond du problème qui n'est pas la désinformation mais la possibilité même de la désinformation .
La désinformation n'est possible que si l'éducation est négligée. C'est d'ailleurs bien pour celà qu'ils étudient les population malléables avant, et que les plus éduqués sont rarement la cible des désinformateurs.
LA solution est l'éducation, il n'y en a pas d'autre parce que quelle qu'elle soit elle aggravera ce dont précisément on voulait se protéger.
Si un organisme a l'expertise et par là même le pouvoir, d'avertir quel texte est fiable et quel texte ne l'est pas alors ce n'est plus le peuple qui décide où s'informer mais une autorité amandée par une autre autorité

[jiherve]

bonsoir,
l'usage d'une AI conversationnelle facilite tout de même beaucoup le travail aux malfaisants, comme les armes à feu à répétition l'ont fait pour la guerre en remplaçant celle à un coup se chargeant par la gueule, çà tuait dans les deux cas mais beaucoup plus avec un engin moderne.
C'est là qu'est le problème!
JR

[Matmat]

si je te poses deux fois la même question, me répondras tu deux fois la même réponse ?

En tant qu'IA, je répondrai toujours de manière objective et impartiale à la même question posée plusieurs fois. Donc oui, je répondrais la même chose chaque fois.

si je te poses deux fois la même question, me répondras tu deux fois la même réponse ?

En tant qu'IA, je répondrai de manière cohérente et identique si la question est formulée de manière identique.

...

[oualos]

Soit cette machine a un grand sens de l'humour, soit ses concepteurs ont oublié de programmer la définition de l'humour lors de l'apprentissage

[Archi3]

Non oualos il est mort de sa dernière tentative:
https://www.ladepeche.fr/2020/02/23/...C3%A9%20fatale.

@vgondr98: on peut signaler les erreurs à wikipedia. Sur un sombre blog dont le contenu est généré automatiquement, tu peux toujours courir.

c'était la question que je posais (et je ne suis pas le seul) : à qui s'adresse-t-on quand chatGPT donne des informations biographiques erronées ou quand un site est alimenté en continu par une IA, pour les rectifier ? sur un forum ou un RS, tu peux répondre, sur une page wikipedia, tu peux faire des corrections, dans la vie politique, les gens peuvent s'affronter, mais trifouiller dans les poids synaptiques de chatGPT, comment on fait en pratique ?

ce serait cool que les gens qui défendent la position que ce n'est pas un problème répondent ...

[Bounoume]

Réponse du berger à la bergère: on fait comme si c'était un outil qui répond sur tout mais dont on sait qu'il n'est pas fiable à 100%
P.S. Les béliers ne pondent pas d'œufs? Zut alors moi qui comptait me faire une omelette d'œufs de béliers ce soir

Vrai!
mais ça, les œufs de bélier, c'est l'un d'entre nous qui l'a inventé!
par contre, les œufs de brebis, gobés par le chat GPT, ça existe réellement: ils sont régulièrement pondus par les ovaires des dites brebis , et possiblement fécondés par Môssieur le Bélier
Honni qui mal y pense [pour les ignorants, ceci est une référence à l'Actualité Royale britannique]***

morale de l'histoire: ambigüités, ambivalences, variables cachées, liens illogiques, et surtout contradictions internes du corpus des Connaissances humaines.....
Alors, vouloir 'tout' colliger et prendre comme référence universelle.....
ami Oualos, je doute que une telle base de faits (de connaissances)....... affirmant et niant en même temps, affirmant des faits dont l'existence est niée par ailleurs ou va nier d'autres faits affirmés... puisse aboutir à des conclusions fondées et stables.....


Ou bien on s'arrange pour laisser le Hasard choisir 'une' voie possible, en se gardant bien de vérifier la cohérence du résultat avec le reste des 'vérités' enregistrées....
mais çe gloubi-bougla, les chat-GPT le font déjà..... et même avec brio!


En tout cas en maths, j'ai cru comprendre qu'une Théorie contenant au moins 2 propositions incompatibles permet de conclure n'importe quoi.....
cf la démonstration de B.Russell..... https://www.apmep.fr/Bertrand-Russell-et-le-pape

[ArchoZaure]

On essaye de palier aux conséquences d'un problème qui n'a en fait rien à voir avec la technologie.
La désinformation met en danger la démocratie donc on veut s'en protéger. D'accord mais c'est nier le fond du problème qui n'est pas la désinformation mais la possibilité même de la désinformation .

Je ne pense pas que le problème soit qu'on ait fondamentalement des informations erronées, et je pense que le problème est au contraire technologique : Si on laisse courir trop longtemps on ne pourra bientôt plus utiliser une partie des sources principales de cette technologie.
Le problème c'est pas la quantité d'informations fausses, mais l'accroissement de la fréquence d'informations fausses (dont on sait l'IA par ailleurs responsable).

Pour faire le parallele, on peut comparer la situation où une société agro-industrielle inventerait un super nouveau pesticide qui rendrait à terme la terre stérile bien qu'on puisse y cultiver bien plus rapidement une certaine variété particulière.
La pollution engendrée ne doit pas rester hors de contrôle.
Toutes les terres ne doivent pas être polluées, à dessein ou par contamination, sans quoi on devra s'en passer à l'avenir.
On ne plus manger que la variété particulière...

Une autre piste indépendamment des tags, pourrait être, sur internet de faire un label, un peu comme les sites sécurisés en HTTPS, où on certifierait la non utilisation de l'IA (au contraire de la précédente suggestion où il était question de préciser l'emploi de l'IA).

[Bounoume]

sur un forum ou un RS, tu peux répondre, sur une page wikipedia, tu peux faire des corrections, dans la vie politique, les gens peuvent s'affronter, mais trifouiller dans les poids synaptiques de chatGPT, comment on fait en pratique ?
ce serait cool que les gens qui défendent la position que ce n'est pas un problème répondent ...

peut-être.... en rabâchant 20 ou 30 fois la correction.... lors d'un 'petit' batch d' apprentissage complémentaire??

Avis de ceux qui connaissent la question? PM42 par exemple?

[Archi3]

peut-être.... en rabâchant 20 ou 30 fois la correction.... lors d'un 'petit' batch d' apprentissage complémentaire??

Avis de ceux qui connaissent la question? PM42 par exemple?

non il n'apprend pas de ses erreurs... c'est bien le problème. Parce qu'à l'inverse, si il suffisait de lui rabâcher 20 ou 30 fois un truc pour qu'il l'imprime définitivement, on pourrait tout aussi bien le manipuler en lui apprenant n'importe quoi de faux, et ce serait tout autant un problème.

[Liet Kynes]

non il n'apprend pas de ses erreurs... c'est bien le problème. Parce qu'à l'inverse, si il suffisait de lui rabâcher 20 ou 30 fois un truc pour qu'il l'imprime définitivement, on pourrait tout aussi bien le manipuler en lui apprenant n'importe quoi de faux, et ce serait tout autant un problème.

https://www.futura-sciences.com/tech...-apres-104578/
https://arxiv.org/abs/2303.11366

[Archi3]

euh .. déjà l'article de FS démarre par "GPT-4, l'IA qui anime le célèbre chatbot ChatGPT ", ça part mal, et ensuite l'article d'ArXiv ne cite même pas ChatGPT... évidemment les IA ont des proies faciles chez tous les humains qui avalent l'information sans la critiquer ou la vérifier. Bien sûr qu'on pourrait faire une IA conversationnelle qui se corrige, le problème alors comme j'ai dit est qu'on pourrait l'entrainer à dire n'importe quoi.