proba minimiser capacité entropie

[invite8c7835ea]

Bonjour,
j'ai un problème pour résoudre deux bout d'exercices.

Le premier porte sur l'entropie et la capacité d'un canal :
le me fait penser à l'entropie maximum qui a lieu pour une loi uniforme mais je sais trop sur quel variable. Le fait que ça m'a fait penser à un loi uniforme. j'ai donc pensé à un démonstration du cours qui montrais que la loi uniforme était la loi qui maximisait l'entropie et j'ai essayé de montrer ce qu'on me demande par la divergence de kullback (en utilisant qu'elle est positive) mais sans résultat.

J'ai aussi un problème

Pour ça je me suis dit que l'evenement se traduisait par etc et avec les combinaisons j'ai obtenu quelque chose ressemblant à
-----

[invite8c7835ea]

Désolé : problème de manipulation je recommence :

j'ai un problème pour résoudre deux exercices.

Le premier porte sur l'entropie et la capacité d'un canal :

On considère un canal à N entrées et N sorties. On suppose que chaque valeur de la sortie Y est relié à au plus D valeurs de l'entrée X. montrer que

le me fait penser à l'entropie maximum qui a lieu pour une loi uniforme mais je sais trop sur quelle variable. Le fait que ça m'a fait penser à un loi uniforme. j'ai donc pensé à une démonstration du cours qui montrais que la loi uniforme était la loi qui maximisait l'entropie et j'ai essayé de montrer ce qu'on me demande par la divergence de kullback (en utilisant qu'elle est positive) mais sans résultat.

Le second problème

Soit une suite de variables aléatoires indépendantes de même loi de Bernoulli
La suite X_i est encodée par la fonction:


pour former la suite de symboles binaires
vers quoi tend

Pour ça je me suis dit que l’évènement se traduisait par etc et avec les combinaisons j'ai obtenu quelque chose ressemblant à mais sans résultat non plus...

pouvez vous m'orienter?
merci d'avance