Répondre à la discussion
Affichage des résultats 1 à 4 sur 4

théorie de l'information



  1. #1
    alaink

    théorie de l'information


    ------

    Bonsoir,
    dans mes (tres) vagues souvenirs de cours sur les algorithmes de compression, le professeur avait fait le lien entre la quantité d'information echangée entre un émetteur A et un recepteur B et une grandeur appelée "innovation", c'est dire la différence entre ce que le recepteur recoit vraiment et ce qu'il s'attend à recevoir.

    L'emetteur A envoyait un message M composé d'une suite de bits au recepteur B qui construisait au fur et à mesure un modèle du message M.
    Par exemple quand B reçoit une longue suite interrompue de "1" il s'attend à ce que le symbole suivant soit lui aussi un "1".
    L'algorithme de compression consiste à réaliser le même travail de modélisation au niveau de A et de ne transmettre effectivement que les "erreurs" entre le modèle du signal M et le vrai signal M.
    L'innovation est cette différence et le professeur nous avait signalé que toute l'information du signal était contenu dans ces différences entre le signal réél et son modèle.
    Ainsi le nombre de bits effectivement envoyés dans le canal de communication est plus faible que si on envoyait diectement la totalité de M.

    Ma question est un peu plus philosphique.

    Si A envoie à B les resultats du loto, alors que le tirage a déja eu lieu et que donc B les connait déja, il ne lui transmet aucune information.
    Si A envoie à B les résultats du loto, avant que le tirage ait lieu (et donc avant que B les connaisse), il lui transmet une information....des plus utiles.
    Mais si A transmet une série de résultats du loto complètement aléatoires, sans préciser si la série contient ou non le résultat du prochain tirage, est-ce qu'une information a été transmise à B ou non?

    -----

  2. Publicité
  3. 📣 Nouveau projet éditorial de Futura
    🔥🧠 Le Mag Futura est lancé, découvrez notre 1er magazine papier

    Une belle revue de plus de 200 pages et 4 dossiers scientifiques pour tout comprendre à la science qui fera le futur. Nous avons besoin de vous 🙏 pour nous aider à le lancer...

    👉 Je découvre le projet

    Quatre questions à explorer en 2022 :
    → Quels mystères nous cache encore la Lune 🌙 ?
    → Pourra-t-on bientôt tout guérir grâce aux gènes 👩‍⚕️?
    → Comment nourrir le monde sans le détruire 🌍 ?
    → L’intelligence artificielle peut-elle devenir vraiment intelligente 🤖 ?
  4. #2
    Sigmar

    Re : théorie de l'information

    L'information attendue de B est "quel est le prochain tirage du loto ?". Dans ce cadre là, non, A n'envoie aucune information à B car ces jets aléatoires sont strictement équivalents à un nombre équivalent de jets aléatoires restant à vérifier qu'aurait effectué B.
    "En théorie, l'information diminue l'incertitude". En tout cas ici, on voit bien que ce n'est pas le cas.
    "I have to understand the world, you see." (Richard P. Feynman)

  5. #3
    invité576543
    Invité

    Re : théorie de l'information

    C'est un peu plus compliqué que cela!

    Si un émetteur transmet 50 bits tirés au hasard, le récepteur reçoit 50 bits d'information. Point. Au minimum, l'information reçue est interprétable comme "l'émetteur a envoyé ces 50 bits là et pas une autre série".

    Maintenant, si le récepteur a besoin de savoir quelque chose d'autre que cette "information brute", il faut qu'il y ait dépendance entre ce qui est transmis et l'information utile!

    S'il n'y pas la connaissance au préalable que cela encode le résultat du loto, la dépendance est supposée nulle, et l'information relative au loto est nulle.

    S'il y a certitude, par convention préalable, que le message encode le résultat du loto, la dépendance est supposée totale, et l'information relative au loto est totale.

    En bref, il faut distinguer l'information brute, et l'information relative à autre chose que ce qui est transmis, et cela demande la connaissance, acquise au préalable, de la dépendance entre ce qui est transmis et le "autre chose".

    Cordialement,

  6. #4
    Sigmar

    Re : théorie de l'information

    Bah c'est ce que j'ai dit : pour B la question est "quel sera la résultat du loto", et la réponse est du style "cette grille" ou "une de ces grilles". Or vu que le tirage est aléatoire... il n'y a pas d'information transmise pour cette question.
    "I have to understand the world, you see." (Richard P. Feynman)

  7. A voir en vidéo sur Futura

Discussions similaires

  1. Théorie de l'information
    Par marmotte31 dans le forum Mathématiques du supérieur
    Réponses: 0
    Dernier message: 12/06/2008, 17h41
  2. Théorie de l'information
    Par LXR dans le forum Epistémologie et Logique (archives)
    Réponses: 17
    Dernier message: 26/05/2008, 11h34
  3. Théorie de l'information et déconvolution
    Par synchrotron dans le forum Physique
    Réponses: 9
    Dernier message: 10/03/2006, 15h59
  4. la theorie de l'information
    Par EEW dans le forum Mathématiques du supérieur
    Réponses: 1
    Dernier message: 24/11/2005, 19h23
  5. Théorie de l'information & hasard
    Par GottferDamnt dans le forum Physique
    Réponses: 6
    Dernier message: 31/12/2004, 16h17