考试科目名称：信息论
一. 单选（每空2分，共20分）
1. 信道编码的目的是（ C ），加密编码的目的是（ D ）。
A．保证无失真传输
B．压缩信源的冗余度，提高通信有效性 C．提高信息传输的可靠性 D．提高通信系统的安全性
2. 下列各量不一定为正值的是（ D ）
A．信源熵 B．自信息量 C．信宿熵 D．互信息量
3. 下列各图所示信道是有噪无损信道的是（ B ）
A．
B．
第 1 页 共 11 页
C．
D．
4. 下表中符合等长编码的是（ A ）
第 2 页 共 11 页
5. 联合熵H（XY）与熵H（X）及条件熵H（X/Y）之间存在关系正确
的是（ A ）
A．H（XY）＝H（X）＋H（Y／X） B．H（XY）＝H（X）＋H（X／Y） C．H（XY）＝H（Y）＋H（X）
D．若X和Y相互独立，H（Y）=H（YX）
6. 一个n位的二进制数，该数的每一位可从等概率出现的二进制码元（0，
1）中任取一个，这个n位的二进制数的自信息量为（ C ） A．2 B．1 bit C．n bit
nnD．
27. 已知发送26个英文字母和空格，其最大信源熵为H0 = log27 = 4.76比
特/符号；在字母发送概率不等时，其信源熵为H1 = 4.03比特/符号；考虑字母之间相关性时，其信源熵为H2 = 3.32比特/符号；以此类推，极限熵 H∞ =1.5比特/符号。问若用一般传送方式，冗余度为（ B ） A．0.32 B．0.68
第 3 页 共 11 页
C．0.63 D．0.37
8. 某对称离散信道的信道矩阵为 ，信道容量为（ B ）
1111C?log4?2H(,,,) A．
33661111C?log4?H(,,,) B．
33661111C?log2?H(,,,) C．
336611C?log2?H(,) D．
369. 下面不属于最佳变长编码的是（ D ）
A．香农编码和哈夫曼编码 B．费诺编码和哈夫曼编码 C．费诺编码和香农编码 D．算术编码和游程编码
二. 综合（共80分）
1. （10分）试写出信源编码的分类，并叙述各种分类编码的概念和特性。
码
{
非分组码 分组码
{
奇异码 非奇异码
{
非唯一可译码 唯一可译码
（5分）
{
非即时码
即时码（非延长码）
（1分）将信源消息分成若干组，即符号序列xi， xi＝(xi1xi2…xil…xiL)，
第 4 页 共 11 页
xilA={a1，a2，…，ai，…，an}
每个符号序列xi依照固定码表映射成一个码字yi， yi＝(yi1yi2…yil…yiL)，
，b2，…，bi，…，bm}
这样的码称为分组码，有时也叫块码。只有分组码才有对应的码表，而非分组码中则不存在码表。 （1分）奇异码和非奇异码
若信源符号和码字是一一对应的，则该码为非奇异码。反之为奇异码。 （1.5分）唯一可译码
任意有限长的码元序列，只能被唯一地分割成一个个的码字，便称为唯一可译码
（1.5分）即时码：只要收到符号就表示该码字已完整，可以立即译码。 即时码又称为非延长码，任意一个码字都不是其它码字的前缀部分，有时叫做异前缀码。
2. （15分）有一个二元二阶马尔可夫信源,其信源符号集为{0，1}，已知
符号条件概率：
p(0|00) = 1/2 p(1|00)=1/2 p(0|01) = 1/3 p(1|01)=2/3 p(0|10) = 1/4 p(1|10)=3/4 p(0|11) = 1/5 p(1|11)=4/5 求：
（1）. 信源全部状态及状态转移概率；
（2）. 画出完整的二阶马尔可夫信源状态转移图； （3）. 求平稳分布概率。 解：
（1）. 符号条件概率矩阵
第 5 页 共 11 页
信息论考试卷及答案
