Faut-il reprendre toutes les dispositions ayant été en concomitance dans l'élaboration de la RGPD ?
Concernant le droit d'accès : "Le droit d’accès ne peut porter atteinte au secret des affaires ou à la propriété intellectuelle (droit d’auteur protégeant le logiciel par exemple)." = considérant n°63 du RGPDEnvoyé par avis du novembre 2017/ Conseil national du numérique
Sans questions il n'y a que des problèmes sans réponses.
C'est très alambiqué cette formule: au bout de 5 relectures, j'ai toujours pas compris
On est d'accord que l'auteur dit constamment une chose et son contraire.
C'est très alambiqué cette formule: au bout de 5 relectures, j'ai toujours pas compris
Si c'était juste un article on s'en amuserait... mais il s'agit d'une publication émanant de la CNIL.
A ce niveau ça ne peut donc plus être simplement de l'incompétence, il doit y avoir une bonne raison à vouloir présenter les choses de cette manière.
A creuser.
Dernière modification par ArchoZaure ; 10/05/2023 à 09h56.
Salut,
La subtilité (expliquant la contradiction apparente) ce ne serait pas l’anonymisation ? J'avais déjà lu ça dans l'utilisation de données médicales à des fins statistiques.
Faudrait décortiquer les textes de lois dans leur entièreté (sur le sujet) mais c'est une gageure (je suis d'accord avec oualos, moi j'ai compris mais oui c'est compliqué voire imbuvable)
"Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)
On est d'accord.
Oui moi aussi je peux faire l'effort de comprendre les choses de manière à ce que mon choix intellectuel devienne cohérent avec l'expression.
C'est la "cour des miracles", permise par, non pas le vide juridique (quelle affreuse chose...), comme le précise le Monsieur de l'article, mais permise par la possibilité de la jurisprudence (notez la subtilité).
Pour rappel de ce qu'était la cour des miracles :
https://www.lefigaro.fr/langue-franc...acles-20220928Sous l’Ancien Régime, explique Hélène de Champchesnel dans Faire la tournée des grands-ducs et 99 autres expressions héritées de l’Histoire de France (First), prostituées, diseuses de bonne aventure, filous et autres gueux et mendiants élisaient domicile en ces zones de non-droit situées entre quatre rues d’une cité. Si chaque ville française possédait une cour des Miracles, Paris n’en comportait pas moins de douze. La plus connue d’entre elles étant celle du fief d’Alby, située entre la rue Réaumur et la rue du Caire.
Cité des voleurs Selon le Dictionnaire de l’Académie française, on a attribué à ces lieux le nom de «cour des Miracles» en raison du curieux phénomène qui s’y déroulait. Après une journée de mendicité, les personnes qui y vivaient, la plupart claudicantes, balafrées et mutilées, y disparaissaient comme par miracle une fois la nuit tombée. Et pour cause, simulant leurs infirmités le jour, ces filous dévoilaient alors leur vrai visage. Aussi, Victor Hugo en fit cette description dans Notre-Dame de Paris: «Cité des voleurs, hideuse verrue à la face de Paris ; égout d’où s’échappait chaque matin, et où revenait croupir chaque nuit ce ruisseau de vices, de mendicité et de vagabondage toujours débordé dans les rues des capitales, ruche monstrueuse où rentraient le soir avec leur butin tous les frelons de l’ordre social.»
En 1667, le lieutenant de police de Louis XIV, La Reynie, ordonna la fermeture de la dernière cour des Miracles. Les indigents furent dès lors envoyés au bagne, à l’échafaud, ou au nouvel hôpital général fondé par le roi. Reste que leur ancien repaire a donné lieu à cette expression que l’on utilise volontiers pour qualifier des lieux peu hospitaliers.
Pour dire qu'on n'est pas couché pour légiférer sur la question de l'IA en France.
Une partie importante des plaidoiries dans les procès se joue sur l'interprétation des articles, comme par exemple certaines querelles entre voisins portant sur des chemins d'accès par exemple.
https://infodujour.fr/societe/49433-...tes-compliques
Par contre si vous un cochon (!), méfiez-vous de ne pas l'appeler Napoleon. Une loi datant des années 1800 interdisant d'appeler son cochon Napoleon est toujours en vigueur (au moins c'est simple à comprendre)
Dernière modification par oualos ; 10/05/2023 à 10h47.
Non, c'est un classique en propriété intellectuelle : on ne peut pas protéger des idées.
Si demain je décide de faire un western dans l'espace, on ne peut venir me dire "oui mais ça a été déposé par Lucas pour Star Wars puis Josh Whedon pour Firefly".
Par contre, si je fais un film avec des Jedi agitant des sabre lasers sur Tatooine, j'ai un problème.
Je ne trouve pas mais j'ai du en bouffer dans le boulot mais en pratique bien sur, c'était surtout pour écouter les avocats spécialisés m'expliquer lentement.
Et c'est comme tout : quand on n'a jamais ou très peu vu un domaine, c'est compliqué et on peut se tromper du tout au tout si on a un avis.
Quand on a déjà un peu d'expérience, on comprend beaucoup plus facilement mais on n'est pas forcément capable de dire des choses avec un fort degré de confiance.
Parce que ça, cela relève de l'expertise dans le domaine.
Autant dire que quand ce fil parle des aspects juridiques de l'IA, c'est encore pire que quand il parle d'IA (en fait, il n'en parle pas).
Et pour le moment, la situation est simple : un humain peut apprendre de ce à quoi il a accès et donc les IAs aussi.
Avec la nuance qu'on doit pouvoir s'y opposer ce qui n'est pas forcément encore bien mis en place.
Mais les boites qui font des IAs notamment américaines ont des avocats qui connaissent le sujet et ne sont pas des rigolos dans tous les sens du terme.
Elles utilisent donc des corpus dont les licences sont bien cadrées (et contrairement à ce qui a été dit plus haut dans le fil, on sait très bien avec quoi on alimente l'apprentissage des IAs justement, c'est même le plus gros boulot pour en faire une).
Après, il se passe plusieurs choses :
- le droit est en cours d'écriture sur pas mal de ces sujets
- certains des corpus utilisés comme Common Crawl contiennent des contenus sous copyright mais on considère que c'est l'exception du "fair use" en droit anglo-saxon
- suivant les pays et les juridictions, on aura sans doute des interprétations très différentes des droits des auteurs. Dans certains cas, il faudra démontrer un préjudice pour interdire l'usage de choses qui sont en accès libre par exemple et dans d'autres pays très protecteurs comme la France, on pourrait envisager qu'on considère que le droit quasi absolu et imprescriptible qu'à un auteur sur les usages de son oeuvre s'applique (pas sur mais c'est un scénario possible).
Mais on est vraiment loin de la charte et comme déjà dit, la pertinence de ce fil sur ce sujet est plus que douteuse.
"On" c'est OpenAI je suppose ? Car à part eux, le monde entier se pose la question pour GPT-4, même les chercheurs de Microsoft qui l'ont testé disent l'ignorer !
Exemple représentatif:
Source : https://www.techtarget.com/whatis/definition/GPT-4Open AI has released relatively little information about the technical specifications of GPT-4. There is no information about the data used to train the system, the model size, the energy costs of the system, the hardware it runs on or the methods used to create it. OpenAI acknowledged this in the GPT-4 technical paper, which said they wouldn't release this information because of safety reasons and the highly competitive market. OpenAI did acknowledge that GPT-4 was trained on both publicly available data and data licensed from third parties.
Le seul papier technique paru sur GPT-4 n'en dit pas beaucoup plus, le revoici pour ceux qui croiraient pm42 sur parole:
https://arxiv.org/abs/2303.08774
Dernière modification par GBo ; 10/05/2023 à 11h27.
En, fait tout est dit dès l'introduction, ce n'était pas la peine de lire le reste
Donc comme dit plus haut en suite de l'article de The Verge, bien plus lisible bien qu'en anglais, la lumière viendra de l'UE, et ça prendra un peu de temps (on parle de plusieurs mois de travail pour une sortie en 2024).Cet article a vocation à explorer certaines règles structurantes [...] qui s’imposent à la conception et à l’utilisation de systèmes d’IA générant du contenu tel que du texte ou des images, indépendamment du projet de règlement européen sur l’IA actuellement en cours d’élaboration.
cdlt,
GBo
Quelques précisions sur les projets du parlement européen : https://www.boursedirect.fr/fr/actua...1126ef2473ed09
Je note ceci: "Parmi les obligations: prévoir un contrôle humain sur la machine, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque."
Concernant le deuxième point, je peux me tromper, mais je ne crois pas qu'openAI fournisse une vraie documentation technique, au sens où un constructeur de voitures ou d'avions en fournit pour ses véhicules. Par exemple la note de livraison de GPT-4 se limite à:
"GPT-4 has enhanced capabilities in:
- Advanced reasoning
- Complex instructions
- More creativity".
Pas très détaillé techniquement.... Il y a sans doute des secrets industriels à préserver. Maintenant tout dépend de ce que le règlement entend par documentation technique. J'ai bien peur que ce règlement ne conduise à des interdictions ou des restrictions importantes.
Cela me suggère une question: où en sont les entreprises européennes dans cette technologie? On trouve très peu d'information à ce sujet.
Cette "avancée" est juste ridicule vu que c'est déjà à minima ce que toute société de plus de 10 salariés fait déjà...
La vraie question est plus celle de l'obligation à devoir fournir la documentation technique et à laisser des inspecteurs évaluer la validité de cette documentation relativement à l'existant.
Non mais ces documentations techniques sont destinées à un usage en interne.Concernant le deuxième point, je peux me tromper, mais je ne crois pas qu'openAI fournisse une vraie documentation technique, au sens où un constructeur de voitures ou d'avions en fournit pour ses véhicules. Par exemple la note de livraison de GPT-4 se limite à:
On ne bosse pas sans.
"Désolé, mais comme il y a des secrets industriels (qui n'en a pas à ce niveau technologique...) on va pas pouvoir vous laisser fouiner dans les vraies docs.Pas très détaillé techniquement.... Il y a sans doute des secrets industriels à préserver. Maintenant tout dépend de ce que le règlement entend par documentation technique. J'ai bien peur que ce règlement ne conduise à des interdictions ou des restrictions importantes.
Mais vous pouvez avoir un résumé, qu'est-ce que vous aimeriez entendre ?
Dernière modification par ArchoZaure ; 11/05/2023 à 14h03.
Si contrôle il doit y avoir, il ne faut pas à priori prendre les contrôleurs pour des abrutis, ils sont aussi très bien outillés."Désolé, mais comme il y a des secrets industriels (qui n'en a pas à ce niveau technologique...) on va pas pouvoir vous laisser fouiner dans les vraies docs.
Mais vous pouvez avoir un résumé, qu'est-ce que vous aimeriez entendre ?
Sans questions il n'y a que des problèmes sans réponses.
Mais qui a dit qu'il y aurait des contrôles, et quels seraient même les attendus d'une telle doc et les sanctions en cas de manquement ? (Allez, faites gaffe ou on vous colle 15000€ d'amende, la blague quoi) .
Ici pour le moment je vois qu'on demande qu'il y ait de la doc, bon ok, c'est une belle idée, mais comme déjà dit ça se fait déjà de base dans ce type de société d'ingénierie.
Je n'aime pas les idées vagues, j'aime bien quand on revient au concret, qui quoi comment, sur le terrain, et pas juste dans la tête de je ne sais qui, comme ça, pour donner l'illusion de faire (la cour des miracles...)
Dernière modification par ArchoZaure ; 11/05/2023 à 19h11.
Tu n'as visiblement que des idées vagues sur le fonctionnement des institutions -> évite de donner des opinions sans te renseigner avant.
La complexité est un domaine qui, également visiblement, t'est étranger, ce que l'on aime ou pas n'y a pas sa place.
Sans questions il n'y a que des problèmes sans réponses.
On verra bien...
En général ce genre d'assertion est suivie de "si ceci" ou "si cela" éventuellement d'autres si..
Donc on verrai bien quoi ?
Sans questions il n'y a que des problèmes sans réponses.
Si l'éléphant accouche d'une souris ou pas.
Accouche de ta définition de la souris en ce cas.
Sans questions il n'y a que des problèmes sans réponses.
Une fausse image d'une explosion près du Pentagone, générée par une IA, et partagée par plusieurs comptes "authentifiés" de Twitter (bon après le rachat par le bon Elon, suffit de payer maintenant apparemment ...), provoque une baisse momentanée du Dow Jones
https://edition.cnn.com/2023/05/22/t...ion/index.html
On imagine ce que peuvent faire des petits malins en jouant sur des fluctuations de la bourse consécutivement à des fausses images portant atteinte à des sociétés, genre une fausse explosion de plateforme pétrolière sur des actions d'Exxon ...
Alors combien de temps avant une loi obligeant les sites de création d'images en ligne à les marquer d'un filigrane à votre avis ?
Parfaitement ! À quand une loi qui imposera aux fraudeurs de déclarer au préalable qu’ils fraudentAlors combien de temps avant une loi obligeant les sites de création d'images en ligne à les marquer d'un filigrane à votre avis ?
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
Je n'ai pas dit une loi obligeant à déclarer qu'on fraudait, j'ai dit une loi qui obligeait les sites produisant des images à les tramer. C'est l'équivalent d'une loi obligeant à déclarer ses revenus - ah ben tiens elle existe bel et bien justement ! Ou une loi punissant le délit d'initié. Ah ben tiens ça existe aussi !
La RGPD a obligé les sites à plusieurs obligations, ils ont bien dû d'y conformer. Ou risquer des amendes comme Meta récemment.
qu'il y ait ensuite des fraudeurs, c'est possible, mais l'existence de la loi permettrait de les sanctionner, ce qui n'est pas possible actuellement. Comme toutes les lois, ça n'assure pas l'éradication du problème, mais ça le limite fortement. Note que le tramage peut être invisible à l'oeil nu mais détectable par un programme, ce qui ferait qu'on ne pourrait pas prétendre avoir été abusé de bonne foi.
Dernière modification par Archi3 ; 23/05/2023 à 05h44.
Est-ce qu'il y a déjà une loi qui punit le réemploi d'images dans un autre contexte (ce qui revient exactement au même )? non ? Ou à propager de la désinformation ? non ?Une fausse image d'une explosion près du Pentagone, générée par une IA, et partagée par plusieurs comptes "authentifiés" de Twitter (bon après le rachat par le bon Elon, suffit de payer maintenant apparemment ...), provoque une baisse momentanée du Dow Jones
https://edition.cnn.com/2023/05/22/t...ion/index.html
On imagine ce que peuvent faire des petits malins en jouant sur des fluctuations de la bourse consécutivement à des fausses images portant atteinte à des sociétés, genre une fausse explosion de plateforme pétrolière sur des actions d'Exxon ...
Alors combien de temps avant une loi obligeant les sites de création d'images en ligne à les marquer d'un filigrane à votre avis ?
est-ce qu'il y a une autorité centrale qui légifère sur ce qu'on peut faire ou non sur le web ? non ?
->bla, bla, bla
La vie trouve toujours un chemin
C'est une idée pour protéger les manipulateurs. Cela dit et pour montrer l'absurdité de cette histoire de tramage, comment faire pour ne pas prétendre avoir été abusé de bonne foi lorsque l'on ne sais pas qu'il y a un tramage invisible ?
Sans questions il n'y a que des problèmes sans réponses.
J'ai tapé [Dall-e 2 watermark] sous Google Search (car je sais qu'il y en a un, assez ridicule d'ailleurs), le premier lien qui sort du moteur de recherche est:
"How To Remove the Dall-E Watermark [Guide] : r/dalle2"
Tout ça pour dire que c'est pas gagné, l'idée du "watermarkage".
-> Il y a un VRAI problème avec ces générateurs d'images photo-réalistes 2022/2023, comme déjà dénoncé ici par moi-même: facilité de génération, échelle de diffusion. Perso je n'ai pas de solution.
Dernière modification par GBo ; 23/05/2023 à 07h46.
En quoi est ce un problème à part le fait que c'est "déjà dénoncé par toi même" ?
Parce que pour le moment, cela ressemble à un argument circulaire.
As tu des exemples concrets du dit problème ? Y a t'il eu des morts, une vague de faillite, une guerre, des famines, des suicides à cause de Dall-E ?
On peut aussi remarquer qu'il y maintenant 2 siècles, on a remplacé massivement la peinture par les tableaux : facilité de génération, échelle de diffusion.
Puis on est passé au numérique et aux appareils intégrés dans les smartphones avec envoi immédiat multicanal : encore plus de facilité de génération et d'échelle de diffusion.
Quel a été le "VRAI problème" à part la nécessaire adaptation des professionnels du domaine qui ont vu une partie de leur compétence devenir accessible à beaucoup de monde, ce qui est l'histoire du progrès technique et même social (il n'y a plus vraiment d'écrivains publics depuis qu'on a généralisé l'enseignement) ?
évidemment qu'il y a une loi.
https://fr.wikipedia.org/wiki/Loi_co...0fabriquées%2C
On pourrait penser que c'est suffisant, mais ça n'empêche en rien d'édicter en plus des lois assurant des protections supplémentaires comme on l'a fait par la RGPD
Ceci dit si il existe des procédures permettant d'effacer le tramage, c'est bien sur un problème, mais ça pourrait aussi être puni par la loi.
Et STP arrête de violer la charte presque systématiquement quand tu t'adresses à moi en noir, comme PM42 tu ne peux pas t'empêcher d'accompagner tes posts de termes agressifs et souvent d'accusations fausses et diffamatoires, on peut très bien discuter sans employer ces procédés.
Comme déjà expliqué, ton point aveugle, pm42, c'est le passage à l'échelle soudain d'un phénomène (qui était déjà connu): avant Dall-E 2, Stable Diffusion et MidJourney, il fallait son brevet de Photoshop, du temps (beaucoup) et du du talent pour faire un montage photo-réaliste. Là ça prend 5 minutes pour quiconque veut faire une mauvaise blague ou déstabiliser volontairement.
Je prends une analogie en biologie si ça peut t'aider à comprendre : la dose d'un poison ou d'une infection, qui fait que l'organisme ne peut plus lutter au delà d'un certain seuil.
Dernière modification par GBo ; 23/05/2023 à 08h27.
le tramage peut très bien être détecté par des ordinateurs, et on peut même obliger les navigateurs à afficher un message signalant que l'image a été créée par une IA chaque fois qu'on la charge.
Et au delà des affirmations gratuites et analogies dont on sait ce qu'elles valent, on a un argument scientifique ou un minimum rigoureux ?
Coté photomontage, tu ne sais pas que depuis longtemps existent des sites qui font ça sans brevet de Photoshop en quelques clics et que les gosses dès le collège s'en servent pour harceler ? Et qu'avant ils faisaient ça avec la technologie avancée du ciseaux, colle et photocopieuse ? Là aussi, il faut un moratoire sur les ciseaux ?
Au fait, personne n'a jamais fait massivement de mauvaises blagues ou déstabiliser volontairement juste par le texte que là aussi on diffuse beaucoup plus facilement depuis l'imprimerie alors qu'avant, il fallait son diplôme d'illumineur de parchemin ?
Est ce que l'imprimerie a été pour autant dangereuse ?
Je sais que le point de vue a été défendu mais en général, on cite cet exemple pour se moquer des gens qui avaient simplement peur de la nouveauté et prédisaient des catastrophes ce qui semble être le seul niveau d'argumentaire dès qu'on parle d'IA.
Dernière modification par pm42 ; 23/05/2023 à 08h40.
