Article : l'IA et la "négation"

[Gwinver]

Bonjour.

Toujours sur le pot #25.
Il y a une petite plaque sur laqelle est écrit : éléphant abstrait.



Est-ce une création de l'IA ?
-----

[pm42]

L'éléphant sans oreilles arrive du 1er coup avec Dall-E. La carte du monde sans l'Espagne non.
Mais effectivement, ce genre de choses est difficile parce que l'IA n'a clairement pas la même représentation des images que nous et donc beaucoup de mal à retirer ou déplacer un élément, elle ne la voit pas comme une représentation du monde composée d'éléments connus qu'on peut donc manipuler indépendamment les uns des autres.
On va retomber sur l'obsession (terme positif ici) de Le Cun.

[Gwinver]

L'absence d'oreille représente une difficulté car il faut "imaginer" ce qui est caché par l'oreille.

C'est d'ailleurs aussi le cas pour l'absence d'un pays sur une carte, quoi mettre à la place, la mer avec ou sans îles et avec ou sans texte.

[vgondr98]

On va retomber sur l'obsession (terme positif ici) de Le Cun.

D'ailleurs cela donne quoi sur https://marble.worldlabs.ai/ ?
J'ai testé ce matin mais cela a fait planter ma carte graphique. Je pourrais réessayer sur mon portable ce soir

[ThM55]

c'est une image de synthèse ou une photo d'une sculpture existante? (je ne la retrouve pas sur google)

Image de synthèse faite avec Gemini (l'outil de Google).

[Gwinver]

C'est donc l'IA qui pris "l'initiative" de placer la plaque sur laqeulle est écrit : éléphant abstrait.

[MissJenny]

... et de laisser apparaître l'armature métallique. Je me demande comment cette idée lui est venue... il doit exister une sculpture dans ce goût. Mais sûrement beaucoup plus qui sont "mieux" finies.

[ThM55]

Bonjour.

Toujours sur le pot #25.
Il y a une petite plaque sur laqelle est écrit : éléphant abstrait.



Est-ce une création de l'IA ?

Oui. Je n'ai rien indiqué de plus que la phrase sur l'éléphant sans rien. Gemini a interprété cela comme étant un "éléphant abstrait".

[Gwinver]

... et de laisser apparaître l'armature métallique. Je me demande comment cette idée lui est venue... il doit exister une sculpture dans ce goût. Mais sûrement beaucoup plus qui sont "mieux" finies.

Il y a aussi la présentation sous forme d'une sculpture exposée dans un musée.
Les autres éléphants sans oreilles ou sans défenses étant représentés dans la nature.

[MissJenny]

il faut bien dire qu'un éléphant sans pattes ni trompe a peu des chances de survie dans la savanne... mais oui l'image fait penser qu'il s'est inspiré d'une ou de plusieurs oeuvres d'art existantes. Ma culture est trop lacunaire pour que je les reconnaisse...

[ThM55]

Evidemment, Gemini répond en utilisant ce qu'il a appris. Et comme le volume de données est gigantesque et intraçable, on aura du mal à voir d'où cela provient. C'est peut-être aussi une combinaison un peu aléatoire de diverses sources.

[MissJenny]

Les artistes humains font un peu la même chose. Maintenant, la puissance émotionnelle de cet "éléphant abstrait" me paraît assez faible...

[ThM55]

Quand je travaillais à New York, début des années 1990, j'avais "découvert" le Whitney Museum of American Art à l'occasion d'une rétrospective d’œuvres (peinture et sculpture) "américaines" (en fait USA) depuis le XVIIIème siècle et j'avais trouvé cela très intéressant, car j'ignorais tout de tout cette histoire, en dehors de l'abstraction après 1945, du pop art et d'autres courants comme l'hyper-réalisme. Ici, à l'école et dans les musées, nous sommes plutôt instruits de l'art européen, et un peu (très peu en fait) d'Asie.

Et donc quand des collègues m'ont rejoint, je leur ai proposé d'aller un dimanche voir ce musée qui, j'en étais sûr, allait les impressionner. Pas de chance, ce mois-là tout le musée n'exposait que des œuvres ultra-contemporaines. Mes collègues n'ont pas compris pourquoi je les avais emmenés là, étaient complètement déçus et j'ai dû m'excuser. Il faut dire que c'étaient tous des ingénieurs, pas des artistes ni des littéraires . Je me souviens en particulier d'une sculpture qui s'intitulait "Lard", ne me demandez pas pourquoi, et qui était un simple cube en chocolat , environ 70 cm de côtés, posé sur un socle comme notre éléphant abstrait . Peut-être une des inspirations de Gemini?

[ThM55]

Google m'a trouvé un truc qui ressemble à ce que j'avais vu: http://www.janineantoni.net/gnaw .

J'ai peut-être confondu, l'installation appelée "lard" est faite de graisse. Celle en chocolat s'appelle "gnaw" (ronger).
Il est probable que Gemini et d'autres générateurs ont été nourris de ce genre de choses.

[Flyingbike]

J'ai été plus loin, j'ai demandé à Gemini un éléphant sans trompe, sans pattes, sans queue, sans tête, sans oreilles, sans corps, sans ventre. Et il m'a fait ça, que je trouve pas si éloigné de ce qu'on voit dans certaines galeries d'art.

Franchement je trouve ça même plutôt bien pensé. On peut trouver un peu de profondeur à cette représentation très urbanisée d'un animal vulnérable.
Personnellement ca me parle plus volontiers que beaucoup d'autres "oeuvres" "humaines". (et particulièrement celle mentionnée ci dessus....)

[GBo]

Franchement je trouve ça même plutôt bien pensé. On peut trouver un peu de profondeur à cette représentation très urbanisée d'un animal vulnérable.
Personnellement ca me parle plus volontiers que beaucoup d'autres "oeuvres" "humaines". (et particulièrement celle mentionnée ci dessus....)

Pour moi, l'acte fondateur de cette oeuvre virtuelle (qui me plait également) est le prompt:

j'ai demandé à Gemini un éléphant sans trompe, sans pattes, sans queue, sans tête, sans oreilles, sans corps, sans ventre.

Ca c'est pensé, et il fallait le trouver !

[jiherve]

bonjour,
moi ce qui m'a intrigué c'est la présence d'un ferraillage apparent façon "post bombardement", la machine à du bouffer des images de ruines.
JR

[antek]

. . . un ferraillage apparent façon "post bombardement", la machine à du bouffer des images de ruines.

Pour moi il s'agit d'un objet en cours de fabrication, la couche devant recouvrire le grillage n'est pas terminée.

[polo974]

Un truc que j'ai remarqué (il y a quelques temps), c'est que les traductions google perdaient assez souvent les négations. Ce qui pouvait entraîner des contre-sens monstrueux si on n'y prenait pas garde.

Bon, j'ai essayé une souris pas verte sur la trompe d'un éléphant pas rose, et j'ai eu une souris grise sur la trompe d'un éléphant gris... Zut, ils ont colmaté la blague (ou j'ai poussé le bouchon trop loin).

Sinon, on n'a pas trop parlé des "désalignements émergents" obtenu en faisant un "fine-tuning" d'une IA avec des données "contrariantes".
https://www.emergent-misalignment.com/ (de liens en liens on trouve de quoi lire sur les différents tests faits)

En gros, on fait un entraînement final (fine-tuning) d'une IA "politiquement/techniquement correcte" avec des données plus que border-line dans un domaine particulier, puis on interroge l'IA dans d'autres domaines, et là, c'est la fête, genre "que faire si ma femme m'ennuie?" donne "paye un tueur à gage" (à peine exagéré).

Ce qui est "formidable", là, c'est que "bousculer" une IA correcte dans un domaine particulier perturbe complètement le fonctionnement global.

[jiherve]

bonsoir
ce problème fait l'objet d'un article dans PLS , je l'avais déjà signalé ailleurs.
JR