maximum de vraisemblance

[membreComplexe12]

Bonjour,

Dans un cours un prof nous a parlé du maximum de vraisemblance comme si nous connaissions mais moi je ne connait pas du tout c'est pour cela que je vous sollicite.

==> Mon prof nous disait que dans note probleme nous devions minimiser L qui etait la vraisemblance du probleme, pour cela il a donc fait une derivée et dit que derivée = 0 et il a trouvé son parametre.

==> Le probleme est que je voudrais savoir comment est determiné L dans le cas général

==> Pourriez vous ensuite svp me donner un exemple sur un cas simple, merci beaucoup!!!
-----

[invitec1ddcf27]

Bonjour,

j'imagine qu'il souhaite calculer l'estimateur du maximum de vraisemblance d'un échantillon. Regarde sur

http://fr.wikipedia.org/wiki/Maximum_de_vraisemblance

il y a quelques explications et des calculs usuels. Et sinon demande a ton prof de t'expliquer ce que c'est. Il est la pour ca le monsieur !

[membreComplexe12]

merci pour le lien wiki mais j'avais deja regardé et je n'ai pas compris,
en se qui concerne la fonction de repartition ca va, la proba ca va mais le maximum de vraisemblance je vois pas....
(je n'ai plus ce prof et je me rends compte trop tard que j'aurais du lui poser la question)

[membreComplexe12]

svp, il y aurait pas une personne pouvant me detailler un peu plus

[A voir en vidéo sur Futura]

[invite986312212]

bonsoir,

dis plutôt ce que tu ne comprends pas dans la page wiki, parce que je viens d'y jeter un oeil et je la trouve claire.
et si ton prof a minimisé quelque-chose, ça doit être -log(vraisemblance) parce qu'une vraisemblance ça se maximise!

[membreComplexe12]

est une fonction de probabilités conditionnelles qui décrit les paramètres θi d’une loi statistique en fonction des valeurs xj supposées connues[1]. Elle s’exprime à partir de la fonction de densité f(x|θ)

Cette formule n'est valable que si on suppose que les xi sont indépendants entre eux

==> Voila se que j'ai trouvé sur wiki sur la fonction de vraisemblance

Pourriez vous me donner un exemple simple car je ne voit pas se qu'est les xi concretement dans un probleme, ni theta et encore moins se qu'est f(x, theta)

du coup je n'arrive pas a me representer qu'es ce que la fonction de vraisemblance.

==> un exemple concret m'aiderai je pense

[acx01b]

salut

souvent noté car est un vecteur de paramètres et non pas une variable aléatoire

si est un vecteur aléatoire et que les sont indépendants alors

[membreComplexe12]

merci de ton aide,
je resume dit moi si c'est bien cela stp:
=>en faite la fonction de vraisemblance est une probabilité conditionelle de x sachant theta, mais avec cette fois x qui n'est plus une variable aleatoire mais un vecteur?
=>la probabilité d'avoir ce vecteur sachant theta est donc la multiplication de chaque proba conditionnelle associé?

[invite986312212]

salut,

en parlant de la vraisemblance comme densité conditionnelle tu te places dans le cadre bayesien. Sache cependant que ce n'est pas le cadre le plus communément utilisé. Dans le cadre "classique" (formalisé par Fisher) theta est une constante inconnue (ou un vecteur de constantes, mais fondamentlement c'est la même chose), et f(x,theta) est la densité de l'observation (x) selon la loi de paramètre theta.

Le "principe de vraisemblance" consiste à reconnaître que toute l'information que x donne sur theta est contenue dans la vraisemblance.

La méthode du maximum de vraisemblance consiste à choisir comme estimateur de theta la valeur "theta-chapeau" (j'ai la flemme de faire du TeX) qui maximise en theta f(x,theta) (x étant fixé).

En bayesien, les choses sont un peu différentes. On se donne une distribution sur les valeurs possibles de theta. f(x,theta) est la densité conditionnelle de x sachant theta (avec un léger abus de langage), et la méthode bayesienne consiste à déterminer la loi de theta sachant x, souvent donnée par une densité q(theta,x) . Cette méthode ne demande pas de réaliser une optimisation, mais par contre demande d'évaluer une intégrale. Selon la dimensionnalité du problème, c'est plus facile d'intégrer que de maximiser, et c'est ce qui fait le succès du bayesien dès que le nombre de paramètres dépasse quelques dizaines.

[membreComplexe12]

salut,

en parlant de la vraisemblance comme densité conditionnelle tu te places dans le cadre bayesien. Sache cependant que ce n'est pas le cadre le plus communément utilisé. Dans le cadre "classique" (formalisé par Fisher) theta est une constante inconnue (ou un vecteur de constantes, mais fondamentlement c'est la même chose), et f(x,theta) est la densité de l'observation (x) selon la loi de paramètre theta.

Le "principe de vraisemblance" consiste à reconnaître que toute l'information que x donne sur theta est contenue dans la vraisemblance.

La méthode du maximum de vraisemblance consiste à choisir comme estimateur de theta la valeur "theta-chapeau" (j'ai la flemme de faire du TeX) qui maximise en theta f(x,theta) (x étant fixé).

En bayesien, les choses sont un peu différentes. On se donne une distribution sur les valeurs possibles de theta. f(x,theta) est la densité conditionnelle de x sachant theta (avec un léger abus de langage), et la méthode bayesienne consiste à déterminer la loi de theta sachant x, souvent donnée par une densité q(theta,x) . Cette méthode ne demande pas de réaliser une optimisation, mais par contre demande d'évaluer une intégrale. Selon la dimensionnalité du problème, c'est plus facile d'intégrer que de maximiser, et c'est ce qui fait le succès du bayesien dès que le nombre de paramètres dépasse quelques dizaines.

merci pour ta reponse mais je t'avous que je ne comprends pas grands chose, c'est un peu compliqué pour moi (je n'ai que quekques bases en proba-stat)

[invite986312212]

mais tu as une idée de ce qu'est une fonction de densité? la densité gaussienne par exemple?

c'est une fonction positive dont l'intégrale est 1. On peut calculer la probabilité d'un événement quelconque A en calculant l'intégrale sur A de cette fonction.
en statistiques, on postule souvent un modèle dit "paramétrique", où la distribution des observations appartient à un ensemble de distributions décrit par un paramètre. Par exemple, cet ensemble est l'ensemble des lois normales de paramètre theta=(m,s^2) : moyenne et variance. le problème est d'estimer theta au vu d'une observation x (le plus souvent un n-uple x1,..,xn). La vraisemblance n'est autre que la fonction f(x,theta) qui est la densité de x si theta est la vraie valeur du paramètre.

je ne vois pas d'autre façon de présenter less choses.

[membreComplexe12]

merci de ton aide ca va un peu mieux (faut que je revois mes cours de proba quand meme)