Entropie — Les-mathematiques.net The most powerful custom community solution in the world

Entropie

Bonjour,s'il vous plaît,j'ai une question concernant la question 13)b) de ce problème, quand il est dit dans le corrigé de la question 5)b). Car je pense qu'il y a une erreur dans le corrigé (c'est ce que j'ai indiqué en vert dans la pièce-jointe du corrigé de la question 5)b)).
Car en effet, je ne pense pas que ce soit "sigma" là où j'ai indiqué, mais plutôt "1/ sigma" ?

MERCI infiniment.87230
87232
87234
87236
87238
87240
87242

Réponses

  • Ça me semble pourtant correct puisque :
    $h(X)=h(\sigma \frac{X}{\sigma})=\log_2(\sigma)+h(\frac{X}{\sigma})=\log_2(\sigma)+\frac12\log_2(2\pi\mathrm{e})$
  • Bonjour, d'accord merci.
    Et j'ai une question concernant la question 5)d)i) de ce problème, quand il est dit dans le corrigé de la question 5)d) "h(X,Y) = 0 <=> 2 pi e sigma carré racine de (1-ro au carré) = 1 (c'est ce que j'ai indiqué en vert dans la pièce-jointe du corrigé de la question 5)d)).
    Comment trouve-t-on ce résultat ?87286
  • C'est juste l'application de la définition de h(X,Y) donnée juste avant.
  • Ta quantité $h(X,Y)$ est à un facteur $\frac{1}{\ln 2}$ un logarithme, et tu sais résoudre $\ln(x)=0$ normalement !
  • Bonjour, d'accord merci.
    Et j'ai une question concernant la question 6)d) de ce problème, quand il est dit dans le corrigé de la question 6)d) "H(X) = 7/4" (c'est ce que j'ai indiqué en vert dans la pièce-jointe du corrigé de la question 6)d)).
    Car en effet je ne comprends pas comment on retrouve le résultat "7/4", car j'ai tenté de refaire le calcul au brouillon que j'ai également joint en pièce-jointe dans ce message, mais je ne trouve pas du tout le même résultat, je trouve " 1/2 + (1/4)*ln(32)/ln(2) ".
    Comment cela se fait-il ?

    Merci d'avance pour votre réponse87312
    87314
  • $$32=2^{5}$$
  • Bonjour, ah oui en effet c'est ça qui m'avait échappé, merci beaucoup !
    Et j'ai une question concernant la question 7) de ce problème.
    Car en effet je ne comprends pas le corrigé de cette question car je ne comprends pas en quoi l'instruction proposée " h=-sum(P .*(log(P)/log(2))) " renvoie l'entropie de X ?
    Car là on demande juste à l'utilisateur de rentrer la valeur de "P", c'est-à-dire de " P(X=k) " dans ce programme, mais donc on rentre qu'un seul terme P(X=k) avec k appartenant à [|0;n|] et donc on n'a pas l'entropie de X car on n'a pas tous les P(X=k) pour tout k appartenant à [|0;n|] ? (c'est ce que j'ai indiqué en vert dans le corrigé de la question 7) en pièce-jointe)

    Merci d'avance pour votre réponse87342
  • Vu comment l'instruction $\mathsf{sum}$ est utilisée, $P$ désigne certainement une liste, en l'occurrence la liste $$[\mathbb P(X=0); \dots; \mathbb P(X=n)].$$
  • On ne rentre rien du tout, les données de la loi de probabilité sont simplement transmises à la fonction (depuis une autre partie du programme non affichée), à toi d'utiliser les données de cette liste pour effectuer les calculs. À la place des opérations pointées (que quasiment personne n'a dû utiliser, ce qui est bien dommage), tu peux écrire :
    h=0
    for k=1:length(P)
    h=h-P(k)*log(P(k))/log(2)
    end
    
Connectez-vous ou Inscrivez-vous pour répondre.
Success message!