fonction de répartition d'un vecteur gaussien

[invitebf65f07b]

bonjour tout le monde,

tout d'abord désolé si ma question s'avère triviale, mais là on est vendredi et je suis un peu fatigué.

je me demandais donc qu'elle était l'expression "explicite" de la fonction de répartition d'un vecteur gaussien.

je dit "explicite" puisque déjà en 1D on voit apparaitre la fonction parfois notée "erf" donc je m'attends à ce qu'elle traine encore dans le coin...

voilà, si jamais c'est évident, n'hésitez pas à me le dire, j'assumerais pleinement le poids de la honte.

et merci d'avance
-----

[GuYem]

Salut,

On parle de fonction de répartition pour une variable aléatoire à valeur dans R. Et pour cause, par définition : ; qui dit inégalité, dit qu'on travaille sur R.

Du coup, pour un vecteur gaussien ça n'a pas de sens de parler de fonction de répartition, sauf s'il n'a qu'une dimension, auquel cas c'est une variable normale et sa fonction de répartition s'écrit, encore par définition, erf(bidule).

[invitebf65f07b]

déjà merci pour cette réponse rapide, mais...

est-il absurde de considérer (avec des notations qui semblent usuelles) la fonction de dans :
?

si non, y-a-t-il un réel problème à la désigner par les termes "fonction de répartition"?

je précise que je n'invente pas cette définition, vue ici par exemple (wikipédia n'est pas forcément LA référence mais bon...).

[invitebf65f07b]

sinon, cher GuYem, je profite que tu me lises pour te demander (et pas qu'à toi d'ailleurs) qu'elle serait une bonne distance entre deux lois de vecteurs aléatoires.

et plus précisément entre une loi théorique et une loi empirique.

et je précise que non je ne veux pas faire un test statistique mais juste avoir un zoli distance (si possible facile à calculer )

[A voir en vidéo sur Futura]

[GuYem]

Salut,

Pas de problèmes a priori pour cette définition. Si ta matrice de covariance est diagonale (ie les variables sont indépendantes), alors c'est le produit des fonctions de répartition de chacune des variables.

[invitebf65f07b]

oui tès bien mais là ma matrice de covariance n'est pas diagonale à priori.

on va me dire que mon histoire revient à des calculs d'intégrales, mais justement je voulais savoir si ces résultats étaient connus et disponibles (oui je suis fainéant)

[GuYem]

Si ta matrice n'est pas diagonale, j'avoue que je ne sais pas trop ! En effet ça doit revenir à beaucoup de calculs d'intégrale, je ne sais pas si ces résultats portent des noms ...

Pour ton problème de distance entre deux lois, je te suggère de regarder du coté de Kullback-Leibler, ça peut être assez simple à calculer si les lois ne sont pas trop dégueulasses.

[invite986312212]

salut,

la bonne définition d'un vecteur gaussien est la suivante: suit une loi multinormale de paramètres et si quel que soit le vecteur normé, suit une loi normale de paramètres et .

Ca peut se généraliser en dimension infinie à l'aide du théorème de Riesz (si mes souvenirs sont bons).

[invitebf65f07b]

salut ambrosio, merci pour la définition (que j'avais en tête ne t'inquiète pas).

Sinon, GuYem, je ne connaissais pas cette distance de Kullback-Leibler, je vais voir de ce côté.
j'avais vu aussi une autre candidate : la distance de Kolmogorov-Smirnov.

est-ce qu'il y a des comparaisons possibles entre ces deux distances?

[GuYem]

Je ne crois pas qu'il existe de lien clair entre Kolmogorov et Kullback.

Kolmogorov utilise la fonction de repartition, ça expliquerait pourquoi tu t'y interesses, tandis que Kullback n'utilise que les densités. C'est une distance utile en théorie de l'information : si f et g sont deux densités, on pose, si ça existe :



C'est la différence entre deux entropies, c'est positif, fais bien attention au fait que ce n'est pas symétrique !

[invitebf65f07b]

oui, t'as tout compris.
par contre, si je comprend bien, dans mon cas serait la loi théorique et la loi empirique (voir encore une fois wikipédia)?

existe-t-il dans ce cas un petit développement qui reformule cette distance directement à partir de la loi théorique et de l'échantillon?

[invitebf65f07b]

bon allez, une dernière pour la route histoire de pas finir la semaine trop idiot.

la définition que tu donnes de la distance de Kullback-Leibler est bien valable sur ?
En ce qui concerne la distance de Kolmogorv-Smirnov, est-il raisonnable d'étendre sa définition à sur la base de la fonction de répartition étendu à ?

Maintenant que j'y pense, j'avais aussi vu une autre distance entre lois : la distance en variation totale, qui consiste en la norme L1 de la différence des densités.

voilà, je crois qu'il faut que tout ça mature un peu dans mon frêle esprit...

[invite986312212]

salut,

j'ai travaillé dans le temps avec la "distance" de Kullback-Leibler (qui n'est pas une distance). C'est très difficile à manipuler: le log d'un rapport, ça se comporte mal "des deux bouts", que le rapport s'approche de 0 ou de ... difficile à borner. Il y a un bouquin de Devroye et Györfi (je n'ai plus le titre en tête) où ils prennent la défense de la norme pour mesurer la distance entre densités.

[invite986312212]

En ce qui concerne la distance de Kolmogorv-Smirnov, est-il raisonnable d'étendre sa définition à sur la base de la fonction de répartition étendu à ?

si tu penses à la définition de la loi multinormale en termes de projections unidimensionnelles, tu peux définir une distance entre lois sur R^n par le maximum des distances (de KS par exemple) entre lois des projetés (qui sont unidimensionnelles).

cherche le ouaib avec les mots clés "projection pursuit" ("directions révélatrices" en Français mais il ne doit pas y avoir beaucoup de travaux en France sur ce thème)

[invitebf65f07b]

oui, je dois bien avouer que quitte à intégrer, je préfèrerais éviter Kullback-Leibler.
mais ma préférence revient de loin à Kolmogorev-Smirnov et sa norme infini.

mais là surgit le problème d'évaluer la fonction de répartition sur R^n.
tu me proposes de contourner ce problème en projetant"sur R. mais quelle projection choisir? (si la réponse a à voir avec ton "projection pursuit", désolé mais j'ai pas encore regardé)

[invite986312212]

tu choisis la projection qui donne le maximum de distance de Kolmogorov-Smirnov.

[invite986312212]

si tes lois sont celles des v.a. d-dimensionnelles et , la distance que je propose est

[invitebf65f07b]

oui effectivement, c'est un choix intéressant mais je ne connais pas cette direction a priori, est-ce que tu suggères donc de balayer l'ensemble des directions afin de maximiser ma distance de K-S ?
est-ce que ça ne risque pas d'être un peu cher si on se place dans R^10 ou plus encore?

je réponds spontanément donc je peu dire des bêtise, je vais réfléchir...

[invitebf65f07b]

oui, ça semble pas pire au niveau du coup de calcul que de travailler directement dans R^n (à vérifier quand même)

mais est-ce qu'il y a un fondement à ce que tu proposes ou bien ça t'est venu comme ça?

[invite986312212]

il y a un fondement bien sûr. Il te faudrait te procurer un article de Peter Hall, paru dans Annals of Stats dans les années 84-85 il me semble, sur le Projection Pursuit. Bon courage.

[invitebf65f07b]

euh, juste pour tester ta mémoire , cet article montrerait que l'on définit bien une distance en faisant ce que tu dis?

[invite986312212]

c'est un article plus général sur le principe d'utiliser des projections pour définir des méthodes statistiques robustes. Je ne pense pas qu'il parle de KS. Sur Kullback-Leibler en relation avec l'estimation de densités, il y a une article de Friedman, Stuetzle (orthographe incertaine) et Schroeder (une Française!) dans les mêmes années et je ne sais plus quelle revue. Mais je te recommande de lire le papier de Hall, très clair et pas trop technique (pour Annals of Stat)

allez, bon houiquenne

[invitebf65f07b]

merci et bon week-end à toi aussi.

merci à toi aussi GuYem bien sûr.

[GuYem]

il y a un fondement bien sûr. Il te faudrait te procurer un article de Peter Hall, paru dans Annals of Stats dans les années 84-85 il me semble, sur le Projection Pursuit. Bon courage.

Berk ! Là ambrosio, tu prononces des gros mots !

Me suis cassé la tête pendant longtemps sur les articles de ce monsieur, je ne m'en suis pas remis ...

[invite986312212]

bon, je m'ai gourré...
c'est pas Peter Hall, c'est Peter Huber,
la référence exacte est
P. Huber Projection Pursuit. annals of statistics, 1985, Vol.13:2, 435-475

il est en ligne ici:
http://www.jstor.org/view/00905364/di983926/98p0177a/0

oui les écrits de Peter Hall sont difficiles. En ce moment je cherche des idées dans son bouquin "coverage processes"...