je reviens à mon idée d'obliger à accompagner chaque production d'IA (texte ou image) mise en ligne publiquement d'une mention obligatoire qu'elle ait été générée artificiellement par une IA, et de sanctionner pénalement la non prise en compte de cette obligation....Déjà si on obligeait légalement des sites comme midJourney à tramer leurs images avec leur logo (les banques d'images qui vendent leurs photos savent très bien le faire), ça éviterait un paquet de problèmes.
Parfois on voit le watermark des images qui ont servi à l'entrainement
Le mélange de vrai et de faux est énormément plus toxique que le faux pur - Paul Valéry
Je ne vois pas en quoi ça vous pose un problème que soit envisagé des gardes-fous quand à une utilisation qui elle pourrait être délétère...votre vision est vraiment binaire comme dit Yves...Vous avez une voiture? bah pourquoi des normes de construction, un permis et un code de la route, c'est vrai quoi, c'est un outil formidable et qui rend de grands services.Envoyé par pm42
En vous lisant, si on vous suit, faudrait pas penser prévention...pourtant, encore une fois, il y a énormément d'outils dont l'usage est cadré...ça doit vous posez des soucis...non?
https://img1.wsimg.com/blobby/go/3d8...kc4v_50335.pdf
https://futureoflife.org/open-letter/ai-principles/
Certainement des gens qui pensent que :"oh mon dieu, quelque chose est apparu qui n'existait pas quand j'étais jeune, je vais dire que c'est la fin de la civilisation"
Pourtant il y a aussi des chercheurs dans les domaines de l'IA, et personne ne critique l'outil, mais une éventuelle utilisation "malveillante"...faudrait que pm42 les joignent pour leurs expliquer qu'il n'y a pas de quoi cadrer tout ça...et on peut trouver facilement ce qui se prépare comme texte concernant l'Europe...ha tout ces gens qui ont peur et dénués du moindre bon sens, ils faudraient qu'ils viennent tous sur FS ils seraient rassurés
Je suis tout à fait d'accord avec ça.
Après, "pour chaque texte", pas facile à faire techniquement. Ou alors peut-être ...
Mais on pourrait au moins commencer par rajouter un nouveau tag d'entête de page web OBLIGATOIRE (j'insiste ou alors le site passe en liste noire s'il se fait chopper) par une IA.
Et puis ça aiderait les IA à pas reprendre les âneries des autres IA...
Dernière modification par ArchoZaure ; 02/05/2023 à 16h59.
c'est comme toutes les règles, on peut toujours les enfreindre, mais il y a risque de sanctions... dans l'exemple de la biographie "bidon" d'Asma Mhalla, c'est à peu près évident qu'elle a été écrite par une IA sans supervision humaine, le texte est tellement plein de non-sens que ce n'est pas possible autrement - pourquoi des lois n'obligeraient elles pas ce genre de site à écrire noir sur blanc que ces textes ont été produit par une IA (et laquelle), en précisant avec ou sans relecture humaine ? après si les gens ont une confiance aveugle dans l'IA, c'est leur problème, mais au moins ils sont prévenus.
Peut-être que c'est parce que la responsabilité de la diffusion d'une information revient à son diffuseur, pas à son auteur ni à sa machine à écrire.*
*(écris avec un clavier de marque Acer en utilisant un doigt de chaque main, l'auteur étant doté de 2 mains)
Sans questions il n'y a que des problèmes sans réponses.
c'est ce que je dis : le diffuseur pourrait être légalement obligé de signaler quand l'auteur du texte est une IA. Quel problème de principe ça pose? personne ne serait lésé je pense ?
même chose sur un forum, la charte pourrait inclure aussi cette obligation de dire quand un texte posté vient d'une IA. Il s'agit d'un code de bonne conduite bien sûr comme tous les points de la charte, pas d'une obligation légale, mais des sanctions en interne pourraient être prises si il est violé.
A mettre en balance avec des faux humains ? De quoi s'agit-il ?
Ben des répliquants... tu n'as pas vu Blade Runner ?A mettre en balance avec des faux humains ? De quoi s'agit-il ?
ou la série "Real humans". Plus sérieusement je voulais dire des systèmes qui cherchent à se faire passer pour humains. J'espère que Grosboul fait encore la différence
Bonjour,
Une charte, comme celle proposée par archi en #428 , au lieu de régler le problème l'accroit car permettre à la bêtise humaine de persister le plus confortablement possible ne peut pas être une solution long terme. Quand on est idiot on doit ressentir un besoin d'évoluer, ce n'est pas à la société de s'adapter à l'idiot mais à l'idiot d'évoluer, encouragé par la société.
Ma fille, qui est en terminale, prétend que son professeur de philosophie met de très bonnes notes a des élèves utilisant une IA pour faire leur devoir de philo. Elle trouve celà injuste.
Je la comprend mais, l'injustice ne date pas de l'utilisation de l'IA, si son professeur est capable de mettre de très bonne note à un IA alors ça fait forcément bien longtemps que ce même professeur met de très bonnes notes à de très mauvais élèves.
Ce professeur est injuste depuis qu'il est professeur en non pas depuis que l'IA existe .
En conclusion l'IA met en lumière l'incompétence du professeur à noter les élèves à leurs justes valeurs. Le problème c'est la bêtise de ce professeur, pas l'IA.
Ce qui permet d'or et déjà d'entrevoir le remplacement de ce type de professeur par une IA.
Quelle note donnerait une IA à un devoir maison fait par une IA ?
"IA : Trop fort, 22/20 !"
C'est une très bonne définition de tout ce qui est reproché à l'IA : des problèmes déjà existants, n'ayant rien à voir avec aucune technologie.
Du genre "on risque d'avoir des emplois qui disparaissent" ou "les gens peuvent croire n'importe quoi".
Et à chaque fois, on suppose que l'avancée technologique va augmenter le problème au lieu de le diminuer alors qu'historiquement, c'est le contraire : on vit dans des sociétés infiniment moins obscurantistes qu'avant l'invention de l'imprimerie (et ce qui a suivi) et actuellement sur la planète, les sociétés les plus avancées techniquement sont aussi celles où on est le plus proche du plein emploi.
Mais la peur de l'inconnu et du nouveau est quelque chose de très fort : elle bloque tout raisonnement et toute capacité d'écoute.
En cas de doute, lire un fil sur l'IA ici qui est un tir de barrage de "je me prétends scientifique mais je m'intéresse surtout pas au sujet par contre je vais vous dire ce qu'il faut en penser à coup de citation de la presse à sensation".
c'est fifty-fifty: c'est sûr que la robotisation a supprimé des chaines de montage promues notamment par Ford (voir les Temps modernes de Chaplin) mais du coup Detroit est devenue quasiment une ville morte que beaucoup ont déserté pour cause de chômage généralisé.
Il faudrait une analyse plus fine secteur par secteur pour savoir ce qui va advenir de certains emplois et comment on va en créer d'autres.
Par exemple, je l'avais mis ici, Springer le groupe de presse le plus puissant en Allemagne a débauché des journalistes pour faire écrire des éditos par chatGPT, ce qui pose des tas de questions notamment sur la liberté et indépendance de la presse pour le coup
C'est pas la question obscurantisme contre progrès qui est la plus importante là-dedans mais le profond remaniement et restructuration des emplois qui va suivre et résulter de l'emploi généralisé de l'IA dans des tas de domaines qui n'en avaient pas besoin avant: comment cela va-t-il se passer ?
dans ce cas ne faisons pas de campagne contre l'alcool au volant, c'est pas à la société de compenser la bêtise des alcoolos...
si il était "standard" dans la société de devoir préciser qu'on a fait appel à une IA, ce comportement des élèves deviendrait délictueux et le professeur serait sans doute plus attentif. Sinon je ne vois vraiment pas pourquoi les élèves en question changeraient, tant que ça leur rapporte.
Il y a aussi un changement de paradigme qui est gênant pour certains et jouer sur les peurs et tout autres leviers pour limiter au maximum l'accès au plus grand nombre à cette technologie est utile dans une démarche de protectorat d'intérêts personnels.
Sans questions il n'y a que des problèmes sans réponses.
pour l'imprimerie et la diffusion des réflexions des non-croyants au sujet des superstitions et pouvoirs d'essence divine... c'est sûr!
dans un premier temps le web accélère aussi la diffusion de connaissances et croyances bénéfiques à tous....
par contre, les systèmes qualifiés d' "intelligents" agissent dans un autre domaine que la simple diffusion fidèle de la "pensée" des humains, qu'ils soient sincères ou affabulateurs....
sur les 'qualités' attribuées aux IA:
les deux, mon capitaine!
ce qui est dangereux, c'est principalement le volume d'informations, même très bêtes......
et aussi, bien sûr, certaines, trop bien contrefaites....
tu connais certainement l'aphorisme attribué à Shannon : "le bruit tue l'information"
le résultat que qu'il faut craindre:
un système biologique meurt quand les erreurs de transcription de l'information (pas seulement génétique, métabolique aussi)... deviennent trop nombreuses, dépassant les mécanismes de correction physiologiques..... jusqu'à atteindre la faillite des systèmes vitaux.....
Parce que les altérations répétées et absurdes des contenus, remplaçant ou étouffant les valeurs d'origine, ça ressemble quand même beaucoup à un "bruit" aléatoire, mais appliqué aux propriétés et valeurs et significations contenus dans des objets très complexes....
Pire que les effets directs des automatisations et remplacements de travailleurs....
Dernière modification par Bounoume ; 03/05/2023 à 19h06.
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
bonsoir
il n'est pas question de peur (argument éculé et dénué de fondements) mais de précautions , ce n'est pas par ce que c'est moderne que c'est forcement toujours positif.
Le scientisme est une maladie incurable!
JR
l'électronique c'est pas du vaudou!
Ben voyons "l'erreur de transcription métabolique de l'information": c'est l'indigestion ???
le résultat que qu'il faut craindre:
un système biologique meurt quand les erreurs de transcription de l'information (pas seulement génétique, métabolique aussi)... deviennent trop nombreuses, dépassant les mécanismes de correction physiologiques..... jusqu'à atteindre la faillite des systèmes vitaux.....
Parce que les altérations répétées et absurdes des contenus, remplaçant ou étouffant les valeurs d'origine, ça ressemble quand même beaucoup à un "bruit" aléatoire, mais appliqué aux propriétés et valeurs et significations contenus dans des objets très complexes....
Sans questions il n'y a que des problèmes sans réponses.
l'indigestion?
l'erreur de transmission..... ça c'est plutôt la 'nef des fous' de Bosch..... pas sûr que ça soit viable à long terme....
Dernière modification par Bounoume ; 03/05/2023 à 21h21.
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
je vois pas très bien où est la peur d'indiquer simplement qu'on s'est servi d'une IA quand c'est vrai.C'est pas pire que de citer un auteur au lieu de le plagier, ça veut pas dire qu'on en a peur !
Tiens au fait j'ai pas l'impression que les fans du chat lui aient demandé son avis, pour une fois ! par curiosité je lui ai demandé quels règlements il faudrait pour réguler l'IA et il m'a sorti ça :
bien sûr c'est pas parce qu'il dit un truc que c'est forcément juste, mais ça illustre bien le genre de choses qui circulent à ce sujet. Ceci dit il y a un problème qui ne me semble pas adressé : à qui tu te plains quand tu contestes une décision prise par une IA ?
Il est clair que l'IA peut avoir des conséquences profondes sur la société, tant positives que négatives. Les lois et réglementations sont nécessaires pour assurer que l'IA est utilisée de manière responsable et éthique, tout en maximisant ses avantages pour l'humanité.
Voici quelques-unes des lois et réglementations qui ont été proposées pour réguler l'IA :
Transparence et responsabilité : les entreprises et les organisations qui utilisent l'IA devraient être tenues de rendre compte de leur utilisation de l'IA et de leurs décisions prises par l'IA.
Équité : les décisions prises par l'IA ne devraient pas être discriminatoires en fonction de la race, du sexe, de l'âge, de l'orientation sexuelle, de la religion ou d'autres facteurs.
Protection de la vie privée : les données personnelles collectées par l'IA devraient être protégées et utilisées de manière responsable et éthique.
Sécurité : les systèmes d'IA devraient être sécurisés pour empêcher les pirates informatiques ou les autres personnes malveillantes de les utiliser à des fins nuisibles.
Supervision et contrôle humains : l'IA devrait être conçue pour permettre la supervision et le contrôle humains, et ne devrait pas être capable de prendre des décisions qui vont à l'encontre des valeurs humaines fondamentales.
Ces lois et réglementations sont un bon début pour réguler l'IA, mais il est important de noter que la technologie évolue rapidement et que de nouvelles réglementations peuvent devenir nécessaires à mesure que de nouveaux développements sont introduits.
Il y a une différence entre citer une IA et utiliser pour son compte une phrase générée par une IA. L'idée de taguer toute phrase générée par une IA est irréaliste et sans intérêt dans le sens ou il n'est pas possible de prouver formellement si une IA a été utilisée ou non pour écrire un texte (quelles parties du texte est un copié collé de ce qui est généré par l'IA?, quelles parties sont des reformulations d'un texte généré par l'IA? etc..).
La solution serait donc plutôt d'interdire purement et simplement la génération de texte par l'IA ce qui n'a pas de sens non plus.
Sans questions il n'y a que des problèmes sans réponses.
il ne s'agit pas d'interdire d'utiliser l'IA ou d'obliger à le mentionner dans tous ses échanges privés, juste de mettre des alertes quand tu crées du contenu par IA. Déjà l'IA peut rappeler systématiquement à chaque production que son contenu n'est pas vérifié et peut être erroné, çà ne t'oblige pas à le citer, mais au moins ça te fait un rappel salutaire, et ensuite pour des sites par exemple remplis automatiquement par une IA, ça me semble un minimum de l'obliger à le signaler. Après il s'agit plus de développer une culture de distance par rapport à l'IA, rappelant aussi ses limites, que de fliquer les gens.
Si tu prends une position sur un texte généré par une IA, tu as la responsabilité de la diffusion de l'information.
Si une IA prend une décision, le cas des voitures autonomes non supervisées par exemple, en cas d'accident, la responsabilité n'est certainement pas à la machine mais à la loi qui a autorisé son usage ou au concepteur si la machine a fonctionné en dehors du champs d'utilisation prévu par la loi.
Sans questions il n'y a que des problèmes sans réponses.
"la loi", elle n'a pas de police d'assurance. Il ne s'agit pas de porter des jugements moraux mais de mettre au point des procédures effectives d'indemnisation ou de correction : concrètement qui paie les dommages et interêts ? qui corrige des informations erronées mises en ligne par une IA qui met à jour automatiquement périodiquement un site ?
Les mêmes qui corrigent les informations erronées mises en ligne par des humains qui mettent à jour périodiquement un site.
Sans questions il n'y a que des problèmes sans réponses.
du coup tu dois tout vérifier par un humain et ça perd beaucoup d'interêt économique
Un autre problème de l'IA est qu'on ne peut pas lui apprendre un truc ciblé. Par exemple si tu demandes à chatGPT si 2023 est premier, il dit oui. Si tu le corriges et que tu dis que c'est 17*119, il va te remercier. Sauf qu'à la conversation suivante il te redira que 2023 est premier. La sanction humaine repose sur la mémoire humaine : quand tu es averti une fois avec menace de sanction la fois suivante, ça a une certaine efficacité. Pour une IA telle que chatGPT ça n'en a aucune, ne serait ce que parce qu'il n'y a rien qui la "sanctionne" elle. Evidemment on pourrait lui faire incorporer toutes les nouvelles informations sauf que là on produit un truc extrêmement manipulable, ce qui pose d'autres problèmes. Bref le problème est que l'IA ressemble à l'humain mais n'est pas un humain, donc l'intégrer dans un système de production de connaissances, mais aussi de contrôle, de responsabilité, de sanction, ça n'a rien d'évident, et ça mérite qu'on se pose un peu et qu'on y réfléchisse (oui je sais, le train à vapeur ... n'empêche qu'il a bien fallu quand même qu'on réfléchisse à comment on faisait se croiser des trains et des voitures à cheval ou à essence !)
C'est bien ce qu'on disait il y a un moment: il faudrait un système expert en sortie ou ailleurs pour vérifier s'il n'y a pas de faute de logique et si ce qu'il dit est cohérent
et en plus une mémoire à long terme.
Je sais pas quel coût ça représente mais ça doit être énorme
Sinon ça reste une encyclopédie au savoir énorme mais qui fait des fautes
Dernière modification par oualos ; 04/05/2023 à 07h18.
