Maximisation de fonction, et algorithme de Nelder-Mean

[invitebfb0bb71]

Bonjour à tous,

J'ai besoin de vos lumières. (mes lateX ne passent pas ici je mets des captures d'écrans)

Dans le cadre de l'estimation d'un modèle modèle GARCH(p,q) de type :

Capture d’écran 2013-08-05 à 17.02.36.png

Je recherche donc à estimer les paramètres C0, alpha, beta.

Un façon de faire est par le maximum de vraisemblance. On obtient donc un grosse fonction de vraisemblance de ce type:

Capture d’écran 2013-08-05 à 17.04.52.png

Alors là plusieurs question.

Pour ce faire je peux utiliser l'algorithme de Nelder-Mean, je ne connais pas cet algorithme je vais voir sur wikipedia et je vois qu'il est utilisé pour la minimisation de fonction. Question stupide mais je cherche à maximiser cette fonction ?!
Ensuite je ne vois pas comment passer de cette fonction de vraisemblance à un résultat pour mes paramètres, ils ne sont pas contenu dans cette dernière.

merci pour votre aide
-----

[invite44dd937f]

L'énoncé de votre problème n'est pas très clair. Il faudrait expliquer un peu mieux la relation entre les deux formules.

Quoiqu'il en soit, l'algorithme de Nelder-Mead est effectivement une méthode de minimisation ( pour maximiser, prendre l'opposé) de fonction très employée en ingénierie. Mais c'est une méthode sans preuve et assez coûteuse. Si votre problème est dérivable, il vaut mieux utiliser une méthode de descente (steepest descent, quasi newton bfgs) ou si le problème est multimodal, une méthode évolutionnaire.

[invite179e6258]

c'est dommage d'utiliser le simplexe pour un problème de vraisemblance. Quand on a une fonction dérivable vaut mieux un algorithme de type quasi-Newton.

[invitebfb0bb71]

Tout d'abord merci pour vos réponses.

Le quasi-newton effectivement je l'utilise aussi, mais dans ce cas précis je dois utiliser le Nelder-Mean.

Pourriez vous me détailler un peu le principe ?
En fait d'après mon cours en appliquant cet algo à la fonction de vraisemblance si dessus je devrais obtenir les 3 paramètre à estimer dans la première équation.

Je vous avoue que j'ai du mal à voir ce qui se passe, fort heureusement je dispose du code VBA de cet algo et vait essayer de comprendre un peu demain.

Merci pour votre aide

[A voir en vidéo sur Futura]

[invitebfb0bb71]

Ps : par contre je connais pas grand chose en algorithme et wikipedia me dit que la méthode simplexe est pour les problèmes linéaire et nelder-mean pour des problèmes non linéaires.

[invite179e6258]

salut,

il y a deux méthodes dites "du simplexe", celle de Danzig en programmation linéaire et celle de Nelder et Mead qui t'intéresse ici. Je ne sais pas pourquoi tu veux absolument l'utiliser, mais si tu dois la programmer ex nihilo tu vas y passer du temps. Je l'ai fait autrefois et de mémoire j'ai dû écrire 300 à 400 lignes de code C. Si tu sais utiliser R il y a un package "neldermead" qui le fait (mais R a des fonctions plus puissantes de maximisation de vraisemblance).

[invitebfb0bb71]

Merci pour votre réponse.

Que pensez-vous de mon explication de la méthode de Nelder-Mean, c'est un mix entre Wikipedia et deux bouquins d'optimisation.

Si vous voyez des incohérences n'hésitez pas à me les signaler.

Pièce jointe 225617

[invite179e6258]

c'est à peu près ça sauf qu'il faut inverser le point par rapport au barycentre des autres points, pas de tous. Et puis il faut voir qu'il y a pas mal de détails à régler, comme le choix du simplexe initial, ce qu'on fait quand on arrive au bord du domaine, etc.