Entropie

Shadows Asgard · June 2019

Bonjour,s'il vous plaît,j'ai une question concernant la question 13)b) de ce problème, quand il est dit dans le corrigé de la question 5)b). Car je pense qu'il y a une erreur dans le corrigé (c'est ce que j'ai indiqué en vert dans la pièce-jointe du corrigé de la question 5)b)).
Car en effet, je ne pense pas que ce soit "sigma" là où j'ai indiqué, mais plutôt "1/ sigma" ?

MERCI infiniment. 87230

guiguiche · June 2019

Ça me semble pourtant correct puisque :
$h(X)=h(\sigma \frac{X}{\sigma})=\log_2(\sigma)+h(\frac{X}{\sigma})=\log_2(\sigma)+\frac12\log_2(2\pi\mathrm{e})$

Shadows Asgard · June 2019

Bonjour, d'accord merci.
Et j'ai une question concernant la question 5)d)i) de ce problème, quand il est dit dans le corrigé de la question 5)d) "h(X,Y) = 0 <=> 2 pi e sigma carré racine de (1-ro au carré) = 1 (c'est ce que j'ai indiqué en vert dans la pièce-jointe du corrigé de la question 5)d)).
Comment trouve-t-on ce résultat ? 87286

guiguiche · June 2019

C'est juste l'application de la définition de h(X,Y) donnée juste avant.

Poirot · June 2019

Ta quantité $h(X,Y)$ est à un facteur $\frac{1}{\ln 2}$ un logarithme, et tu sais résoudre $\ln(x)=0$ normalement !

Shadows Asgard · June 2019

Bonjour, d'accord merci.
Et j'ai une question concernant la question 6)d) de ce problème, quand il est dit dans le corrigé de la question 6)d) "H(X) = 7/4" (c'est ce que j'ai indiqué en vert dans la pièce-jointe du corrigé de la question 6)d)).
Car en effet je ne comprends pas comment on retrouve le résultat "7/4", car j'ai tenté de refaire le calcul au brouillon que j'ai également joint en pièce-jointe dans ce message, mais je ne trouve pas du tout le même résultat, je trouve " 1/2 + (1/4)*ln(32)/ln(2) ".
Comment cela se fait-il ?

Merci d'avance pour votre réponse 87312

Poirot · June 2019

$$32=2^{5}$$

Shadows Asgard · June 2019

Bonjour, ah oui en effet c'est ça qui m'avait échappé, merci beaucoup !
Et j'ai une question concernant la question 7) de ce problème.
Car en effet je ne comprends pas le corrigé de cette question car je ne comprends pas en quoi l'instruction proposée " h=-sum(P .*(log(P)/log(2))) " renvoie l'entropie de X ?
Car là on demande juste à l'utilisateur de rentrer la valeur de "P", c'est-à-dire de " P(X=k) " dans ce programme, mais donc on rentre qu'un seul terme P(X=k) avec k appartenant à [|0;n|] et donc on n'a pas l'entropie de X car on n'a pas tous les P(X=k) pour tout k appartenant à [|0;n|] ? (c'est ce que j'ai indiqué en vert dans le corrigé de la question 7) en pièce-jointe)

Merci d'avance pour votre réponse 87342

Poirot · June 2019

Vu comment l'instruction $\mathsf{sum}$ est utilisée, $P$ désigne certainement une liste, en l'occurrence la liste $$[\mathbb P(X=0); \dots; \mathbb P(X=n)].$$

guiguiche · June 2019

On ne rentre rien du tout, les données de la loi de probabilité sont simplement transmises à la fonction (depuis une autre partie du programme non affichée), à toi d'utiliser les données de cette liste pour effectuer les calculs. À la place des opérations pointées (que quasiment personne n'a dû utiliser, ce qui est bien dommage), tu peux écrire :

h=0
for k=1:length(P)
h=h-P(k)*log(P(k))/log(2)
end

Entropie

Réponses

Bonjour!

Catégories

In this Discussion

Qui est en ligne 28