Optimisation sous contrainte sur la "semi défini positivité "

[invite893b8612]

Bonjour à tous,

Alors après plusieurs semaines de recherches infructueuses, je me suis dit qu'on pourrait m'aider sur ce forum . Mon topic concerne un problème d'optimisation, j'ai une fonction de vraisemblance dont je dois estimer les paramètres, ceux-ci influe directement sur ma matrice de covariance (étant donné que celle-ci dépend des paramètres que j'estime). J'ai posé ma fonction NLL (negative log-likelihood autrement dit l'opposé du logarithme de ma fonction de vraisemblance), et mon gradient. J'ai d'abord utilisé la méthode BFGS (Quasi-Newton) mais après une itération, les nouveaux paramètres que j'estime font perdre la caractère semi défini positif de ma matrice de covariance(j'utilise la fonction chol de matlab qui effectue le test).

J'ai par ailleurs essayé d'exprimer l'élément générique de ma "matrice de cholesky" mais en vain, donc je me suis dit que je pourrai utiliser un algorithme d'optimisation sous contrainte qui porterait sur le spectre de ma matrice de covariance (en somme toute mes valeurs propres devront être >=0). Ma question c'est quel approche utiliser ? Faut-il que j'exprime la condition sur les valeur propre sous forme d'une équation générale ?

Toute suggestion est la bienvenue.

Je vous remercie d'avance de votre aide
-----

[invite79d10163]

Bonjour,

A vrai dire, je n'ai jamais vraiment traité ce problème directement... Je tente quand même une explication, à mon avis, une méthode assez peu couteuse serait, à chaque itération de projeter la matrice courante (qui n'est plus semi definie positive (sdp) ) sur l'espace des matrices sdp. Un tel projecteur peut être calculé grâce à la paramétrisation de l'espace des matrices sdp comme une variété riemannienne voir (http://www.silvere-bonnabel.com/pdf/CIFA_final.pdf) pour un récapitulatif. Sinon, si la fonction objectif est linéaire, les choses se simplifient et tu peux alors utiliser les fonctions présentes dans le module "Semi definite programming" dans la toolbox optimisation de matlab.

[acx01b]

salut,
on doit aussi pouvoir rendre la positivité explicite en remplaçant la matrice M quelconque par

[invite893b8612]

Tout ceci sont des possibilité valide autant l'une que l'autre, mais j'ai une seule objection. Je pose le problème de manière concise : Ma matrice de covariance a comme élément générique [exp(gamma|si-sj|)], où si représente l'indice i du vecteur colonne s. L'un des paramètres que j'estime est gamma.

Je précise que ma fonction est non-linéaire, et probablement multi-modale(ce qui n'arrange pas vraiment les choses). Si j'exprime cette matrice selon la manières dont skydancer suggère, suis-je capable d'exprimer l'élément générique de ma matrice ? ....pourquoi je m'en tête avec ceci, tout simplement à chaque itération je suis amené à évaluer ma fonction de vraisemblance et son gradient avec les nouveaux points trouvés, comment pourais je l'évaluer si je ne peux plus calculer la matrice de covariance. Ai-je été clair ? J'espere que oui.

Concernant acx01b, cette écriture est directement lié à la factorisation cholesky, me trompé-je ? Avec cette approche je n'ai su exprimer l'élément générique de ma matrice pour les raisons que j'ai expliqué précédemment.

Merci d'avance

Merci d'avance

[A voir en vidéo sur Futura]

[acx01b]

je pense que ça serait plus clair si tu nous donnais le likelihood en fonction des paramètres que tu veux optimiser

[invite893b8612]

Bien sûr.

Ma fonction de vraisemblance s'écrit :



Le vecteur de paramètre que j'estime est :



Enfin, mon vecteur gradient s'écrit :



Petite précision: la matrice que j'ai mis en forme dans la trace (au niveau de la 4ème composante de mon vecteur gradient) a tout ses élèments diagonaux qui valent 1, le reste je ne m'en préoccupe pas étant donnée que c'est la trace qui m'intéresse.

Enfin:


J'ai essayé d'être l plus clair possible, si des zones de floues persiste faite le moi savoir.

Merci.

[invite893b8612]

Je rajoute ceci comme information .

Au plaisir

[invite893b8612]

Plus de suggestions ?