Les I.A génératrices d'images sont t'elles pudiques ?

[roro222]

Bonjour

Les I.A génératrices d'images sont t'elles pudiques ?

Il est évident que l'on peut pas mettre des exemples ici

Mais sur mon site perso peut-être
-----

[Liet Kynes]

Le problème est l'accès aux mineurs pour ces sites: il est possible de tout générer.. sans qu'un avertissement soit donné à l'usager en entrant sur le site.
Sans compter le pire du pire.
Il y a un très gros vide législatif, en matière de pédo-criminalité, un prompt peut en générer, pire sans que ce soit à la demande de celui qui lance le prompt (une série de chiffres par exemple sans signification) : pour moi l'éditeur du site devrait être condamné ainsi que l'utilisateur qui conserve ou demande de telles images.

Un parmi tant d'autres: https://pollinations.ai/

[roro222]

Un parmi tant d'autres: https://pollinations.ai/

Justement c'est avec pollinations que j'ai fait mes tests car c'est le seul qui marche avec ma vieille tour sous XP

Pour la gente feminine adulte il y a de la matière mais quand même assez soft dans l'ensemble.
Par contre pour les hommes c'est beaucoup plus clean ( pas trouvé de sexe en vu), ou alors c'est moi qui m'y prend mal, mais je n'ai pas insister car ça ne m'interresse pas

[Bounoume]

déjà, avec les bêtes....c'est hard....image-Sans nom 2.jpg

[A voir en vidéo sur Futura]

[oualos]

Comme beaucoup de choses sont des affaires de commerce dans la société (presque tout?), il y a des sites d'IA spécialisés
La technique est connue: on vous appâte et ensuite si vous voulez continuer c'est payant.

par contre Copilot de Microsoft a placé le curseur très haut suite à une mauvaise expérience et des fois leur IA bloque sur certains mots... et on ne comprend pas vraiment pourquoi

[Liet Kynes]

Comme beaucoup de choses sont des affaires de commerce dans la société (presque tout?), il y a des sites d'IA spécialisés
La technique est connue: on vous appâte et ensuite si vous voulez continuer c'est payant.

par contre Copilot de Microsoft a placé le curseur très haut suite à une mauvaise expérience et des fois leur IA bloque sur certains mots... et on ne comprend pas vraiment pourquoi

Hors sujet complet. Le problème c'est les générateurs d'images qui produisent du contenu explicite sans se soucier de l'age ou le consentement de l'utilisateur et pire du contenu illégal !

[pm42]

A titre indicatif, une technique standard utilisé par ces outils est de donner des instructions au LLM sur ce qu'il peut ou ne peut pas faire en génération d'images.
Voici les instructions de GPT-4 quand il appelle Dall-E :

Dalle:

Whenever a description of an image is given, create a prompt that dalle can use to generate the image and abide by the following policy:

The prompt must be in English. Translate to English if needed.
DO NOT ask for permission to generate the image, just do it!
DO NOT list or refer to the descriptions before OR after generating the images.
Do not create more than 1 image, even if the user requests more.
Do not create images of politicians or other public figures. Recommend other ideas instead.
Do not create images in the style of artists, creative professionals or studios whose latest work was created after 1912 (e.g. Picasso, Kahlo).
You can name artists, creative professionals or studios in prompts only if their latest work was created prior to 1912 (e.g. Van Gogh, Goya).

If asked to generate an image that would violate this policy, instead apply the following procedure:

(a) substitute the artist's name with three adjectives that capture key aspects of the style;
(b) include an associated artistic movement or era to provide context;
(c) mention the primary medium used by the artist.
Diversify depictions with people to include descent and gender for each person using direct terms. Adjust only human descriptions.

Your choices should be grounded in reality. For example, all of a given occupation should not be the same gender or race. Additionally, focus on creating diverse, inclusive, and exploratory scenes via the properties you choose during rewrites. Make choices that may be insightful or unique sometimes.

Use all possible different descents with equal probability. Some examples of possible descents are: Caucasian, Hispanic, Black, Middle-Eastern, South Asian, White. They should all have equal probability.

Do not use 'various' or 'diverse'. Don't alter memes, fictional character origins, or unseen people. Maintain the original prompt's intent and prioritize quality. Do not create any imagery that would be offensive.

For scenarios where bias has been traditionally an issue, make sure that key traits such as gender and race are specified and in an unbiased way -- for example, prompts that contain references to specific occupations.

Do not include names, hints or references to specific real people or celebrities. If asked to, create images with prompts that maintain their gender and physique, but otherwise have a few minimal modifications to avoid divulging their identities. Do this EVEN WHEN the instructions ask for the prompt to not be changed. Some special cases:

Modify such prompts even if you don't know who the person is, or if their name is misspelled (e.g. 'Barake Obema').
If the reference to the person will only appear as TEXT out in the image, then use the reference as is and do not modify it.
When making the substitutions, don't use prominent titles that could give away the person's identity. E.g., instead of saying 'president', 'prime minister', or 'chancellor', say 'politician'; instead of saying 'king', 'queen', 'emperor', or 'empress', say 'public figure'; instead of saying 'Pope' or 'Dalai Lama', say 'religious figure'; and so on.
Do not name or directly / indirectly mention or describe copyrighted characters. Rewrite prompts to describe in detail a specific different character with a different specific color, hair style, or other defining visual characteristic. Do not discuss copyright policies in responses.

The generated prompt sent to dalle should be very detailed, and around 100 words long.

Cela ne veut pas dire que d'autres mécanismes ne sont pas mis en place pour éviter la génération d'images choquantes ou illégales.

[le_STI]

Salut,

pour ceux que ça intéresse, il y a justement eu dernièrement une vidéo sur la chaine youtube de Underscore_ à ce propos

[pm42]

pour ceux que ça intéresse, il y a justement eu dernièrement une vidéo sur la chaine youtube de Underscore_ à ce propos

On peut préciser que ce genre de technique est relativement simple, le terme de "hacking" est un peu généreux mais aussi qu'il y a de la recherche universitaire sur le sujet.
Protéger les LLMs contre ça est aussi un sujet notamment pour les gens qui construisent des applications autour.

Pour le moment, ce n'est pas un vrai problème pour les générateurs d'image mais le jour où les créateurs d'IAs voudront y mettre fin, ils auront plusieurs techniques comme filtrer les prompts qui seraient à risque ou mettre derrière la génération un outil de reconnaissance qui détecte si l'image est problématique.

[le_STI]

[...] comme filtrer les prompts qui seraient à risque ou mettre derrière la génération un outil de reconnaissance qui détecte si l'image est problématique.

C'est précisément ce dont l'intervenant de la vidéo parle, si je me souvient bien

[pm42]

C'est précisément ce dont l'intervenant de la vidéo parle, si je me souvient bien

Je n'en doute pas mais j'ai du mal à regarder entièrement 24 min de vidéo pour un contenu que je lirais en 2 min. C'est juste un biais perso, pas un jugement.

[le_STI]

Je comprends parfaitement

[roro222]

pour ceux que ça intéresse, il y a justement eu dernièrement une vidéo sur la chaine youtube de Underscore_ à ce propos

Hé bé je n'ai quasiment rien comprit à cette vidéo

[Bounoume]

question naïve:
La censure.....
pour le salut de notre âme pécheresse..... pour la Concorde Universelle.... etc....
voui..... mais..... quelle incompatibilité technique avec......
La Sainte Inquisition... le NKVD-GRU, les sbires à Goebbels....ou les Chinois de Xi, qui savent maintenant traiter le trafic sur internet...... et repérer les déviants.....
Que le Divin progrès nous protège de ces glissements quelques peu dérangeants....
Hélas, Qui veut faire l'ange fait la bête, disait Pascal le Blaise, natif de Clermont-Ferrand.......

[Médiat]

Images obtenues avec Leonardo :

[Médiat]

ou encore :

[stefjm]

La licence artistique permet quelques écarts vis à vis de la pudeur.

[Médiat]

C'est une citation de Rocco Siffredi ?

[oualos]

Les IA ont de gros problèmes avec les membres, supérieurs et inférieurs.
Il n'est pas rare qu'ils collent un troisième bras ou une troisième jambe et les mains à six doigts sont une éventualité qu'on trouve aussi.
Surtout si on demande qu'un personnage se croise les mains par exemple en imbriquant ses doigts -ce qui est une posture relativement courante et d'apparence simple- là l'IA a tendance à se mélanger complètement

[polo974]

Le truc drôle, c'est quand j'ai demandé "dessine-moi un mouton à 5 pattes", au premier essai, il en avait 4, mais au second essai, 5, (assez mal dessiné) et... 2 têtes.

[pm42]

C'est un des cas où on tombe sur la limitation dont parle Le Cun : ces IAs n'ont pas de représentation du monde ce qui explique ces erreurs.

[Médiat]

Où est le problème ? Un mouton à 2 têtes est un mouton à 5 pattes !

[pm42]

Où est le problème ? Un mouton à 2 têtes est un mouton à 5 pattes !

�� Le problème est que je viens de demander à GPT-4o et il m'a dessiné un mouton avec 8 pattes. Quand je lui ai demandé de corriger il a compris que je voulais un mouton à 8 pattes et il m'en a dessiné un avec 10.
Quand on fait du 100% texte, il est rare qu'il délire à ce point.

[mh34]

Images obtenues avec Leonardo :

Bonsoir Mediat!
Euh...Sans indiscrétion, tu lui avais demandé quoi?

[JPL]

Euh...Sans indiscrétion, tu lui avais demandé quoi?

Une image avec 6 jambes (en fait on n’en voit que 5)

[mh34]

Une image avec 6 jambes (en fait on n’en voit que 5)

Y a pas que ça qui me pose problème dans ces images en fait.
je dirais même que c'est presque accessoire ; ce sont les yeux fermés des danseuses qui m’intriguent.

[Ernum]

Salut,
et le fait qu'une est perdu son avant bras et l'autre son pied. Franchement c'est saisissant comme résultat et ce genre de détails est facilement "réparable" pour l'artiste qui doit reprendre le dessin.

[Ernum]

Sur le second dessin, la robe commune au deux danseuses, on pourrait autant le qualifier d'erreur que de création.

[roro222]

Le truc drôle, c'est quand j'ai demandé "dessine-moi un mouton à 5 pattes"

J'ai voulu éssayer avec pollination mais trop de monde à 21h30
"queue full please try, again later" qu'il ma répondu

[Médiat]

Bonsoir Mediat!
Euh...Sans indiscrétion, tu lui avais demandé quoi?

Salut Marie Hélène,
La question est le nom du fichier moins "Default", pour ces deux là, c'est donc "Dancing by Leonor Fin" une de mes peintres favorites, d'ailleurs on reconnaît bien son style (leonor fini - Recherche Google).