Entropie pourquoi népérien ?

[inviteb6b93040]

Bonjour,

Je me pose la question de la justification du logarithme népérien dans la formule de l'entropie car j'ai découvert que pour la limite de Landauer il n'y avait pas de valeur précise mais
Le nombre de bits d'un photon 1/ln(2)=1,4426950 avec énergie photon=kt et énergie bit=kt ln(2) donne un nombre d'état de e qui n'est pas un entier, on aurait pas pu choisir plus mal que cette base non entière.

J'ai découvert qu'une communication optique à 13 bits par photon avait été effectué avec une détection supérieur à 83%
Ce qui monte la base du logarithme à 2^13=8192, très loin de e
1/log8192(2)=13

http://forums.futura-sciences.com/de...ml#post4592857

La seule justification que j'ai trouvé est

En pondérant par le logarithme népérien, on favorise ainsi les événements d’autant plus qu’ils sont rares.

http://imanalyse.free.fr/?page=Sourc...tions/MaxEntro

J'ai lut la discution sur L'entropie selon Boltzmann

ce qui ajoute à ma confusion

Selon moi... si j'ai bien compris et regardé les développements qui permettent d'arriver à démontrer cette relation, tu peux prendre n'importe quelle base pour ton log.

Ensuite, suivant à quelle domaine de physique tu appliques cette relation, il faut alors adapter la bonne base du logarithme.
...
Si tu prends des logarithmes décimaux, ça change la valeur de k, c'est tout.

-----

[Amanuensis]

Pour la formule de l'entropie il n'y a pas de justification, le choix est arbitraire et lié à la valeur numérique de la constante k.

L'unité "bit" est elle directement lié au logarithme en base 2.

(Il y a plusieurs unités, selon la base, pour des logarithmes: bit pour la base 2, bel (et déciBel) pour la base 10. On peut dire que l'entropie dans la formule de Boltzmann est le logarithme du nombre d'états dans une base proche de e^{7 241 000 000 000 000 000 000}, ce nombre est arbitraire et lié au choix des unités joule et kelvin)

Dire qu'un photon fournit 1/ln(2) bit revient à dire qu'il a statistiquement un état parmi 2,718 états différents (et ce nombre là ne dépend d'aucune convention).

Une telle statistique serait obtenue (exemple fictif) avec 28% de cas où le photon a un état parmi 2 et 72% où le photon a un état parmi 3 à chaque fois avec des probas égales. Ou encore parce qu'il peut prendre un état parmi 4 avec des probas inégales (à calculer...). Etc.

[Amanuensis]

Un autre point élémentaire. Si on note L un logarithme en base quelconque, le logarithme de x en base b est égal à L(x)/L(b). L'usage est de prendre L comme le logarithme népérien, mais ce n'est pas une nécessité.

Donc 1/ln(2) est le log en base 2 de e, et peut s'écrire L(e)/L(2), avec L un logarithme quelconque, comme par exemple 4.34 dB divisé par 3.01 dB

[inviteb6b93040]

Pour la formule de l'entropie il n'y a pas de justification, le choix est arbitraire et lié à la valeur numérique de la constante k.

Je ne comprend pas ce lien puisque il n'y a pas de ln() dans la définition de k

Cette constante physique fondamentale est égale à .
R est la constante des gaz parfaits : est le nombre d'Avogadro égal à N = 6,022×1023 mol-1), nombre de particules dans une mole.

http://fr.wikipedia.org/wiki/Constante_de_Boltzmann

Dire qu'un photon fournit 1/ln(2) bit revient à dire qu'il a statistiquement un état parmi 2,718 états différents (et ce nombre là ne dépend d'aucune convention).

Si de la base du log

Une telle statistique serait obtenue (exemple fictif) avec 28% de cas où le photon a un état parmi 2 et 72% où le photon a un état parmi 3 à chaque fois avec des probas égales. Ou encore parce qu'il peut prendre un état parmi 4 avec des probas inégales (à calculer...). Etc.

Merci, donc un nombre d'état n'est pas forcément entier.

Ce qui n’empêche pas de dire qu'une communication optique à 13 bits par photon
donne la base du logarithme à 2^13=8192 pour la limite de Landauer et la fait baisser d'un facteur 9.
En lui donnant une valeur plus précise que l'expérience de 2012 ?

[A voir en vidéo sur Futura]

[Amanuensis]

Merci, donc un nombre d'état n'est pas forcément entier.

Ce n'est pas ce que j'ai écrit.

(Pareil pour le reste des "réponses", elles ne correspondent pas à ce qui est écrit.)

[inviteb6b93040]

Un autre point élémentaire. Si on note L un logarithme en base quelconque, le logarithme de x en base b est égal à L(x)/L(b). L'usage est de prendre L comme le logarithme népérien, mais ce n'est pas une nécessité.

Donc 1/ln(2) est le log en base 2 de e, et peut s'écrire L(e)/L(2), avec L un logarithme quelconque, comme par exemple 4.34 dB divisé par 3.01 dB

Désolé mais ça ne justifie pas l'utilisation de ln dans l'entropie

Pour la formule de l'entropie il n'y a pas de justification, le choix est arbitraire et lié à la valeur numérique de la constante k.

il ne peut être arbitraire si il est lié à la valeur numérique de la constante k
Vous voulez dire que c'est pour ne pas avoir des nombres trop grand ou trop petit ?

[Amanuensis]

Ne soyez pas désolé, la perte est vôtre.

[ClairEsprit]

Vous voulez dire que c'est pour ne pas avoir des nombres trop grand ou trop petit ?

Je me souviens m'être posé cette question de la présence d'un logarithme dans l'entropie. La justification n'est venue que lorsque j'ai étudié le point de vue statistique. Si je me souviens bien une des propriétés de l'entropie, sous l'angle des probabilités, respecte celle des logarithmes, à savoir f(ab) = f(a)+ f(b). L'utilisation d'un logarithme s'impose donc naturellement pour modéliser la fonction f.

[Amanuensis]

J'avais compris la question comme pourquoi népérien plutôt qu'un autre logarithme, pas pourquoi un logarithme.

[inviteb6b93040]

Je pourrait écrire 1/logb(x)=logx(b)
1/log8192(2)=log2(8192)=13 mais ça ne m'explique pas ma perte
Mais qui ne perd rien ne cherche rien et comme je cherche j'ai une perte
a on testé la formule de l'entropie ?
J'ai cherché mais pas trouvé

[inviteb6b93040]

J'avais compris la question comme pourquoi népérien plutôt qu'un autre logarithme, pas pourquoi un logarithme.

Oui c'est bien la question

[Amanuensis]

Hmm... Je crois commencer à comprendre la question.

Historiquement le joule et le kelvin étant fixés, on se retrouve avec kb obtenu empiriquement comme le rapport pV/NT pour un gaz parfait. Et la question est alors pourquoi l'entropie vaudrait k ln(W) plutôt que k log2(W). Autrement dit, si on suppose que le nombre d'états est de la forme x^N, pourquoi ce serait le x qui amène au log népérien plutôt que le x' qui amène au log en base 2.

Proposition (à étudier): à cause de la distribution de Maxwell-Boltzmann, elle-même se dérivant à partir de considérations de symétrie comme l'isotropie.

[obi76]

Juste une question comme ça... que l'entropie soit définie à une constante (positive) près, c'est si dérangeant que ça ?

[Amanuensis]

C'est une constante multiplicative, donc oui cela importe, du moins si ce n'est pas lié à un choix arbitraire d'unité (ce que je pensais dans un premier temps).

D'ailleurs si je lis bien le wiki par exemple, Boltzmann n'a pas fixé la valeur de la constante (il ne l'a même pas présentée comme une constante!), faute d'expérience pour la mesurer. C'est Planck qui a inventé la constante, lui a donné son nom et sa valeur, dans le cadre de son travail sur le corps noir. Si je comprends bien, ce sont les mesures expérimentales sur le spectre du corps noir, couplées à la formule de Planck, qui aurait décidé du logarithme népérien.

[coussin]

Il y a un logarithmique népérien dans l'entropie parce qu'il y a une exponentielle dans la fonction de partition je crois. Et je crois qu'il y a une exponentielle dans la fonction de partition pour des raisons de probabilités-qui-vont-bien comme mentionné dans le message #8...

[stefjm]

Mais pourquoi e et pas un autre nombre?

[Amanuensis]

e se retrouve un peu partout dans des lois découlant de symétries. Suffit de penser à la gaussienne, à la loi de Poisson, ...

[stefjm]

Pour une gaussienne, la base e n'est-elle pas un choix choix arbitraire? (dicté par des considérations pratiques?)

[Amanuensis]

Il ne me semble pas. Remplacer e par une autre valeur revient à introduire un facteur multiplicatif pour le rapport entre (x-µ)² et sigma² (un rapport naturel, indépendant de la notion de gaussienne). À la rigueur remplacer par racine de e, pour virer le 1/2

[obi76]

D'où ma question : est-ce vraiment important ce facteur multiplicatif ? Je ne crois pas puisque ce qui est toujours considéré (si je ne dis pas de bêtises) c'est la variation d'entropie...

[coussin]

e^x (et pas une autre base...) est omniprésente en physique car c'est la seule fonction stable par dérivation. C'est quand même une propriété remarquable quand on y pense !

[Amanuensis]

D'où ma question : est-ce vraiment important ce facteur multiplicatif ? Je ne crois pas puisque ce qui est toujours considéré (si je ne dis pas de bêtises) c'est la variation d'entropie...

Je ne comprends pas. Si on prend un expression variationnelle comme dS = δQ/T, un facteur multiplicatif sur S impose un facteur multiplicatif sur l'énergie ou sur la température.

[inviteb6b93040]

e^x (et pas une autre base...) est omniprésente en physique car c'est la seule fonction stable par dérivation. C'est quand même une propriété remarquable quand on y pense !

Pour un mathématicien mais pour un physiciens je ne vois pas ce que ça a de remarquable car si on fait passer la beauté mathématique devant l'expérimentation ça devient grave

à ce moment là il y a plus simple, comme
Trouver la base b du log pour éliminer k et l'entropie devient
n'est ce pas ce qu'a fait Shannon ?
Avec

Je ne comprend pas pourquoi aucune expérience n'a pu tester la formule de Boltzmann

[obi76]

Je ne comprends pas. Si on prend un expression variationnelle comme dS = δQ/T, un facteur multiplicatif sur S impose un facteur multiplicatif sur l'énergie ou sur la température.

Oui c'est pas faux... J'avais une idée derrière la tête mais ça me parait mort...

[Amanuensis]

à ce moment là il y a plus simple, comme
Trouver la base b du log pour éliminer k et l'entropie devient

Je ne l'avais pas mise dans un message? Peut-être mise et effacée... C'est quelque chose proche de e^(72 410 000 000 000 000 000 000). Pour l'écriture directe, autrement que comme une exponentielle, ce sera pour plus tard, quand le forum acceptera les messages suffisamment longs.

[Amanuensis]

Je ne comprend pas pourquoi aucune expérience n'a pu tester la formule de Boltzmann

Cela se sépare en deux questions:

- Comment mesurer S ? (et pas seulement ses variations)

- Comment mesurer W ? (en particulier sachant que dans le modèle classique la position et la vitesse sont des variables continues...)

[coussin]

Pour un mathématicien mais pour un physiciens je ne vois pas ce que ça a de remarquable car si on fait passer la beauté mathématique devant l'expérimentation ça devient grave

La physique, c'est des équations différentielles. Ça a du sens qu'on retrouve partout "l'élément neutre" pour la dérivation.

[inviteb6b93040]

Je ne l'avais pas mise dans un message? Peut-être mise et effacée... C'est quelque chose proche de e^(72 410 000 000 000 000 000 000). Pour l'écriture directe, autrement que comme une exponentielle, ce sera pour plus tard, quand le forum acceptera les messages suffisamment longs.

Effectivement c'est dans ce post http://forums.futura-sciences.com/ph...ml#post4593184
Mais comme vous n'aviez pas détaillé le calcul j'avais du mal à le comprendre
k=log(e)/log(b)
log(b)=1/k
b=e^(1/k)
b=e^(0,7242972 10^23)

[Amanuensis]

Je pensais avoir trouver un raisonnement amenant à e, mais au contraire il amène à voir le choix de la base comme arbitraire.

Supposons qu'on garde les unités, et qu'on change la base du log dans la formule de Bolzmann, soit S = k' log_2(W) = k' ln(W)/ln(2). On a donc k = k'/ln(2).

Maintenant, la formule du corps noir permet de mesurer expérimentalement e^{-E/kT}, E et T, dans un même système d'unités. Si on remplace k par k', le terme e^{-E/kT} devient e^{-ln(2)E/k'T} = 2^{-E/k'T}

(De même, La statistique de Maxwell-Boltzmann ne dépend de k qu'à travers un e^{-E/kT}...)

Autrement dit, on pourrait prendre 2 (ou autre chose) comme base, suffit d'être cohérent dans les formules.

Ou encore. Si on fixe les unités d'énergie et de température, alors β = e^{1/k} a une valeur numérique donnée, et on a d'un côté des termes en β^{-E/T} dans les statistiques et de l'autre S = log_β(W).

[inviteb6b93040]

Bravo, c'est exactement ce que je pensais sans pouvoir le démontrer

Donc les conclusions sont bien celle là ?
1 la base du logarythme est arbitraire dans l'entropie
2 on ne sait pas tester sa formule
D'où
Les seuls test d'entropie sont sur celle de l'information (test de 2012 et le 13 bit par photons de 2013)
Alors ne peut on pas préciser l'entropie Bolzmann en partant de celle de Shannon ou unifier les 2 ?