设信源求此信源的熵,并解释为什么H(X)>log6,不满足信源熵的极值性。
正确答案
答案解析
相似试题
(简答题)
黑白气象传真图的消息只有黑色和白色两种,即信源X={黑,白},设黑色出现的概率为P(黑)=0.3,白色出现的概率为P(白)=0.7。 (1)假设图上黑白消息出现前后没有关联,求熵H(X); (2)假设消息前后有关联,其依赖关系为P(白|白)=0.9,P(黑|白)=0.1,P(白|黑)=0.2,P(黑|黑)=0.8,求此一阶马尔克夫信源的熵H2。 (3)分别求上述两种信源的冗余度,并比较H(X)和H2的大小,并说明其物理意义。
(简答题)
黑白气象传真图的消息只有黑色和白色两种,即信源X={黑,白}。设黑色出现的概率为p(黑)=0.3,白色的出现概率p(白)=0.7。 (1)假设图上黑白消息出现前后没有关联,求熵H(X); (2)假设消息前后有关联,其依赖关系为p(白/白)=0.9,p(黑/白)=0.1,p(白/黑)=0.2,p(黑/黑)=0.8,求此一阶马尔可夫信源的熵H2(X); (3)分别求上述两种信源的剩余度,比较H(X)和H2(X)的大小,并说明其物理意义。
(简答题)
一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0,1,2}。 (1)求平稳后信源的概率分布; (2)求信源的熵H∞。
(简答题)
设信源 将此信源编码为r元惟一可译变长码(即码符号集X={1,2,r}),其对应的码长为(l1,l2,l6)=(1,1,2,3,2,3),求r值的下限。
(简答题)
设给定两随机变量X1和X2,它们的联合概率密度为: 求随机变量Y1=X1+X2的概率密度函数,并计算变量Y的熵h(Y)。
(简答题)
若有一信源 每秒钟发出2.66个信源符号。将此信源的输出符号送入某一个二元信道中进行传输(假设信道是无噪无损的),而信道每秒钟只传递两个二元符号。试问信源不通过编码能否直接与信道连接?若通过适当编码能否中在信道中进行无失真传输?若能连接,试说明如何编码并说明原因。
(填空题)
离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的()。
(简答题)
设信源通过一干扰信道,接收符号为Y={b1,b2},信道传递矩阵为,求 (1)信源X中事件a1和a2分别含有的自信息量。 (2)收到消息bj(j=1,2)后,获得的关于ai(i=1,2)的信息量。 (3)信源X和信宿Y的信息熵。 (4)信道疑义度H(X/Y)和噪声熵H(Y/X)。 (5)接收到信息Y后获得的平均互信息量。
(简答题)
考虑一个信源概率为{0.35,0.20,0.15,0.15,0.10,0.10,0.05,0.05}的DMS。给出此信源的霍夫曼码。