L'IA créatrice

[pm42]

(mais j'ai peut etre mal compris)

C'est une règle générale, toujours valide.

A mon avis derrière ces études il y a de gros enjeux judiciaires et financiers, il n'est pas impossible que des compagnies développant des IA cherchent à protéger leur business en finançant des recherches tendant à attenuer leur responsabiité.

Ignorance et théorie du complot vont bien ensemble.
-----

[Cyrano]

il n'y a aucun complot, c'est parfaitement connu et public

https://charlestech.fr/openai-micros...ouveaux-medias

https://www.courrierinternational.co...istoire_265249

https://www.lemonde.fr/pixels/articl...8_4408996.html

et si tu crois que les avocats de ses firmes n'utiliseraient pas le type d'argument de cet article pour les défendre, ou qu'elles ignorent qu'ils le feraient, il faut ajouter la naïveté à l'impolitesse dans tes défauts alors.

[mh34]

Intéressant mais à ma connaissance non parce qu'il y a :
- l'informatique théorique qui est des maths : donc la preuve, c'est du niveau démonstration, vrai ou faux, pas d'échelle
- des heuristiques : par exemple, on a des cas où on ne sait trouver la solution optimale à un problème mais on a différentes techniques qui marchent bien
- coté ingénierie, des résultats expérimentaux qui peuvent varier dans le temps : par exemple, on a des métriques sur combien de serveurs, mémoire, réseau il faut pour faire tourner un site de e-commerce qui reçoit X milliers (ou plus) de visites par jour.

P.S : par acquis de conscience, j'ai copié-collé ta question dans Claude pour vérifier si j'avais raté quelque chose et sa réponse est très proche de la mienne.

P.P.S : ceci dit, l'IA change la façon dont on évalue et même si on n'en est pas encore là, c'est plus proche de la grille que tu as donné donc il est possible que la convergence s'accentue dans le futur.

Ok merci pour la réponse

j'ai l'impression (mais j'ai peut etre mal compris) que les auteurs cherchent à disculper les IA de l'accusation de plagiat d'une oeuvre spécifique en montrant que l'influence d'UNE oeuvre peut devenir très petite si l'ensemble utilisé devient grand (ce qui est assez logique car plus l'ensemble est grand plus le poids est faible). Cependant ca n'exclut pas qu'il y ait un poids significatif de l'ensemble des oeuvres d'un artiste dans l'apprentissage, donc ça laisse ouvert la question du droit d'auteur meme si on ne peut pas prouver que c'est une oeuvre particulière qui a été copiée.

A mon avis derrière ces études il y a de gros enjeux judiciaires et financiers, il n'est pas impossible que des compagnies développant des IA cherchent à protéger leur business en finançant des recherches tendant à attenuer leur responsabiité. De la même façon par exemple que le développement des voitures autonomes posent des redoutables problèmes de responsabilités en cas d'accident (ce qui interesse en premier chef les compagnies d'assurance).

C'est effectivement une possibilité ; d'ailleurs ce serait bien que soit créée pour les chercheurs dans le domaine de l'informatique et du numérique l'équivalent de la base transparence-santé : https://transparence.sante.gouv.fr/pages/accueil/, à moins que ça n'existe déjà?

[GBo]

N'ayant pas la fibre complotiste (ma confiance en l'impartialité des chercheurs de l'IA est inébranlable ) je n'avais même pas pensé à un conflit d'intérêt.
J'ai demandé à Gemini d'investiguer sous ce prisme, la réponse est quand même troublante, et je suis troublé :

"Les auteurs déclarent formellement n'avoir aucun conflit d'intérêts financier direct dans le papier. Toutefois, une analyse critique de l'écosystème met en avant plusieurs dynamiques institutionnelles et d'incitation :

- Incitations académiques et financements futurs : Le laboratoire CSAIL du MIT est massivement financé par les grands groupes technologiques (Google, Meta, Microsoft, Amazon). Proposer un cadre conceptuel prouvant la quasi-impossibilité technique de la preuve de contrefaçon s'aligne stratégiquement avec les besoins de défense juridique de la Silicon Valley.

- Le piège de la définition causale : En définissant la « responsabilité » (attributability) sous un prisme strictement mathématique et séquentiel (leave-one-out causal ablation) — à savoir : « Si j'enlève l'œuvre X du dataset, l'image générée change-t-elle ? » —, les chercheurs créent une métrique qui avantage intrinsèquement les modèles entraînés sur des milliards de données. Dans un modèle géant, retirer une seule image ne change presque rien car le style a été dilué. Les auteurs qualifient cela d'« attribution decay » (décroissance d'attribution).

Bien que les auteurs présentent leur démarche comme une démonstration scientifique neutre, la portée de leurs conclusions fournit une ligne de défense juridique particulièrement robuste aux développeurs de modèles génératifs."

[pm42]

Exemple typique de ce qu'on peut obtenir de l'IA via des biais de prompt.

Pour le reste, je suis un peu surpris quand on accuse des scientifiques de conflit d'intérêt voir d'une forme de corruption sans le début de commencement d'une preuve.
Et j'ai un peu de mal à voir comment ce genre d'article aurait une influence sur le sujet des droits d'auteur et de l'entrainement des IAs. Mais il est vrai que j'ai lu l'article.
Au passage, le dit sujet n'est pas spécialement scientifique, pas une histoire d'attribution mais purement social et pour le moment, les jugements sont plutôt du coté de l'industrie de l'IA tout comme d'ailleurs pas mal de gouvernements dont celui des Etats-Unis.

Mais bon, si vous voulez voir des complots partout, libre à vous.

[Bounoume]

peut-être n'ai-je rien compris aux explications déjà données, entre autres à
https://www.nature.com/articles/s414...67-5/figures/2 .... mais j'attends encore une réponse simple à la question:

Je suis un peu interloqué aussi. Une IA générative ne conserve pas en mémoire les œuvres d'art avec lesquelles on l'a entrainé mais a affecté des pondérations à chaque neurone artificiel au cours de l'apprentissage.
Comment à partir de là peut-on "supprimer" l'apprentissage ?
Si quelqu'un comprend qu'il m'explique: l'IA générative ne travaille pas avec des bases de données ce me semble et qui seraient stockées de façon permanente sur un disque ou un support
Donc comment peut-on supprimer l'apprentissage de façon permanente ?

mon hypothèse de Candide:
on installe plusieurs instances distinctes d' entités IA....et pour chacune on reprend tout l'apprentissage depuis le niveau zéro (tous les poids initiaux sont attribués avec des valeurs aléatoires).
Ainsi. après avoir segmenté les 'connaissances' accessibles, en éliminant par exemple les peintures de Picasso dans un des ensembles, celles de Braque et de Dali dans un autre segment.... on entraîne chacune ds instances.... l'une avec le segment N°1, l'autre avec le segment n°2... etc....
et après? Comment réunit-on les effets d'entraînement, par exemple celui avec Picasso et celui avec Braque+Dali?
quel est l'effet des redondances concernant les entraînements de base (reconnaissance du langage par exemple? Ou alors peut-on fusionner une sous-IA qui comprend le français, une qui comprend l'anglais, une qui sait analyser une image en lignes et colonnes, une autre qui analyserait certains mouvements?? etc.. j'arrête la liste et les hypothèses loufoques !!!!

Puis on testerait séparément chaque instance d'IA et on regarderait le résultat selon les connaissances qui ne lui ont pas été fournies?
j'ai cru comprendre que faire ça était trop coûteux (en $$ ! ) alors on fait quoi en vrai?
merci de m'éclairer un peu.....

[GBo]

@pm42 : en toute transparence, j'avais précisé que je faisais parler Gemini "sous ce prisme", le biais était annoncé... n'empêche les éléments de sa réponse ne paraissent pas hallucinatoires et donnent à réfléchir, à moins de préférer cacher un sein qu'on ne saurait voir.

On remarque aussi que les auteurs, loin de se contenter de conclusions technico-scientifiques, se permettent de sortir de leur domaine de compétence dans le chapitre Discussion pour entrer dans celui du juridique (lire à partir de "Unattributability is an important consideration for the governance of generative models"), comme un aveu de la motivation sous-jacente de leur travail. A ce titre (indu), ils donnent même des tuyaux aux industriels d'IAs à modèle de diffusion pour se parer contre d'éventuelles plaintes de la part d'artistes qui se sentiraient spoliés:

"However, one could use the techniques introduced in this work to produce samples that are guaranteed to be unattributable: simply keep generating samples until a sample with a sufficiently low CR [Counterfactual Radius] is generated. Our ablation basedmethods will allow one to compute CRs efficiently, and attribution decay will ensure that low CR samples are generated with reasonable frequency as long as the generating model was trained on enough data."

"Cependant, on pourrait utiliser les techniques présentées dans ce travail pour produire des échantillons dont l'attribution est impossible à déterminer : il suffirait de continuer à générer des échantillons jusqu'à ce qu'un échantillon présentant un CR [rayon de distance contrefactuelle] suffisamment faible soit généré. Nos méthodes basées sur l'ablation permettront de calculer efficacement les CR, et la décroissance de l'attribution garantira que des échantillons à faible CR soient générés à une fréquence raisonnable, à condition que le modèle de génération ait été entraîné sur un volume de données suffisant."
Traduit avec DeepL.com (version gratuite)

[Liet Kynes]

On peut aussi se dire que si le droit d'auteur est défini par la primauté de la diffusion d'une oeuvre, quel serait le statut de tout ce qui est généré par l'IA ?
et au delà des débats juridiques, l'idée de créativité "autonome" de l'IA ? (autonome au sens de la possibilité de créer des styles émergents)

[antek]

Reste plus qu'à définir créatrice créativité . . . c'est comme la conscience, tout le monde en parle mais personne ne sait ce que c'est

[polo974]

Entre l'article publié sur science et la news, il y a un gros gap. On a l'impression que la journaliste (du mit) a profité d'une soirée bien arrosée pour faire dire à l'auteur de l'article ce qui lui est fait dire dans cette news.

Techniquement, en gros, ils ont entraîné plusieurs petites IA sur des set de données partiels, puis assemblé ces IA en une plus grosse en prenant des précautions leur permettant de couper une des petites IA.

Sachant que des oeuvres d'un même auteur se trouvent dans plusieurs de ces petites IA.

Donc pour supprimer les infos relatives à une oeuvre, il "suffit de couper" la petite IA qui a été entraînée avec. (Ce faisant, d'autres oeuvres d'autres auteurs ont également été retirées)

Ils ont supprimé une oeuvre d'un auteur, et le résulta est très similaire, jamais tout un corpus d'un auteur.

Bref, il ne faut prendre l'approximation ("aucune différence" suite à la suppression d'une image) et la généralisation ("toutes les images" et ça marche encore) de la news écrite par une "Senior Communications Strategist" que pour ce qu'elle est: de la com sensationnaliste très approximative...

[Liet Kynes]

Reste plus qu'à définir créatrice créativité . . . c'est comme la conscience, tout le monde en parle mais personne ne sait ce que c'est

Je réfléchi à voie haute, c'est surement à côté de la plaque:

Pour ce thème on est plus sur le fait que la créativité est quelque chose qui se détache assez de ce qui s'est déjà fait, le problème réside dans le "assez". Pour une production humaine il semble que l'on sache le faire mais pour la machine cela semble plus difficile, personnellement je ne comprends pas pourquoi; un être humain est influencé par les autres, dans cette méthode peut-être est-ce cela qu'ils veulent souligner. Du coup l'IA ne pourait pas être plus "créatrice" que l'humain mais peut produire de la même façon que le humains des ruptures stylistiques.

[mh34]

En passant, je viens de trouver ceci

Ethics declarations
Competing interests
The authors declare no competing interests.

à la fin de l'article original ; https://www.nature.com/articles/s414...75667-5#ethics
, que je n'avais pas vu. J'ignorais, ne lisant pas ce genre d'article ( car n'ayant strictement aucune chance de les comprendre ) que c'était aussi demandé dans leur domaine. Mais je trouve ça très bien.