（简答题）
请给出连续信源分别为均匀分布、高斯分布和指数分布时信源的相对熵。
正确答案
答案解析
略
相似试题
（判断题）
一维高斯分布的连续信源，其信源熵只与其均值和方差有关。
（判断题）
N维统计独立均匀分布连续信源的熵是N维区域体积的对数。
（简答题）
设离散无记忆信源S其符号集A={a1，a2，...，aq}，知其相应的概率分别为（P1，P2，...，Pq）。设另一离散无记忆信源S′，其符号集为S信源符号集的两倍，A′={ai，i=1，2，...，2q}，并且各符号的概率分布满足： 试写出信源S′的信息熵与信源S的信息熵的关系。
（填空题）
按照信源发出的消息在时间和幅度上的分布情况，可将信源分成（）信源和（）信源两大类。
（简答题）
有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码A、B、C、D、E和F。 （1）求这些码中哪些是惟一可译码； （2）求哪些码是非延长码（即时码）； （3）求对所有惟一可译码求出其平均码长L。
（简答题）
请给出信源编码器的主要任务以及对信源编码的基本要求。
（判断题）
信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。
（判断题）
平均互信息量I（X；Y）对于信源概率分布p（xi）和条件概率分布p（yj/xi）都具有凸函数性。
（填空题）
信源的冗余度来自两个方面，一是信源符号之间的（），二是信源符号分布的（）。
