(简答题)
简述连续信源的熵的定义。
正确答案
连续信源的不确定度应为无穷大,是相对熵,或叫差熵。在取两熵之间的差时才具有信息的所有特性。
答案解析
略
相似试题
(填空题)
离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的()。
(简答题)
简述离散平稳信源的定义,平均符号熵、极限熵的定义,含义与理解。
(简答题)
简述几种特殊连续信源的熵。
(简答题)
设信源求此信源的熵,并解释为什么H(X)>log6,不满足信源熵的极值性。
(判断题)
连续信源和离散信源的熵都具有非负性。
(填空题)
对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值P和信源的熵功率()。
(判断题)
N维统计独立均匀分布连续信源的熵是N维区域体积的对数。
(简答题)
简述信源熵的基本性质与定理及其理解。
(简答题)
在连续信源中,根据差熵、条件差熵和联合差熵的定义,证明 (1)h(X|Y)≤h(X),当且仅当X和Y统计独立时等号成立; (2)h(X1X2...XN)≤h(X1)+h(X2)+h(XN),当且仅当X1X2...XN彼此统计独立时等式成立。