(简答题)
试证明连续信源X的相对熵h(X)是概率密度p(x)的∩型凸函数。
正确答案
答案解析
略
相似试题
(单选题)
一个随即变量x的概率密度函数P(x)=x/2,,则信源的相对熵为()。
(简答题)
考虑一个信源概率为{0.30,0.25,0.20,0.15,0.10}的DMS。求信源熵H(X)。
(简答题)
设信道输入是连续型随机序列X1X2...XN,输出也是连续型随机序列Y1Y2...YN,信道传递概率密度为p(y|x)。试证明: (1)当信源是无记忆时,有 (1)当信源是无记忆时,有
(简答题)
黑白传真机的消息元只有黑色和白色两种,即X={黑,白},一般气象图上,黑色的出现概率p(黑)=0.3,白色出现的概率p(白)=0.7。 (1)假设黑白消息视为前后无关,求信源熵H(X),并画出该信源的香农线图 (2)实际上各个元素之间是有关联的,其转移概率为:P(白|白)=0.9143,P(黑|白)=0.0857,P(白|黑)=0.2,P(黑|黑)=0.8,求这个一阶马尔可夫信源的信源熵
(判断题)
信源X的概率分布为P(X)={1/2,1/3,1/6},信源Y的概率分布为P(Y)={1/3,1/2,1/6},则信源X和Y的熵相等。
(简答题)
给定语音信号样值X的概率密度为,求Hc(X),并证明它小于同样方差的正态变量的连续熵。
(简答题)
试证明H(X)是输入概率分布P(x)的上凸函数。
(简答题)
计算概率分布函数为的均匀分布随机变量X的微分熵H(X)。画出H(X)相对于参数a(0.1〈a〈10)的平面图,并对结果进行评论。
(填空题)
设信源X包含4个不同离散消息,当且仅当X中各个消息出现的概率为()时,信源熵达到最大值,为(),此时各个消息的自信息量为()。