Information mutuelle ? Entropie conditionnelle ?

[ASan78]

Bonjour,

Je suis confronté à un problème que je n'arrive à résoudre :

J'ai deux variables aléatoires X (variable discrète) et a (variable continue). La variable a est uniformément répartie sur un intervalle et la loi de X dépend de la variable a.

J'aimerai quantifier (en bits par exemple) l'information apprise sur a lorsque j'apprend X. Je ne sais pas si cette quantité est donnée par l'entropie conditionnelle ou l'information mutuelle ou autre chose, peut-être ?

Plus généralement, j'aimerai savoir quelle information j'apprend sur une réalisation de a (qui m'est inconnue) après des tirages successifs de X.

Merci,

ASan.
-----

[NicoEnac]

Bonjour,

Peut-on avoir plus de précisions quant à la dépendance de la loi de X par rapport à a svp ?

[ASan78]

Bonjour,

Pour être tout à fait franc, c'est un joli sac de noeuds.

En fait, la variable a représente un angle entre 0 et pi (uniformément). X est égal au signe du sinus de la différence entre a et un angle phi fixé (inconnu entre 0 et pi aussi).

J'aimerai savoir ce que m'apprend la connaissance de X sur la valeur de phi.

Enjoy

ASan.

[toothpick-charlie]

il ne vaut pas mieux raisonner en termes bayesiens ici? i.e. calculer la loi de phi sachant X ?

[A voir en vidéo sur Futura]