1202大班期末考试资料 - 图文

北京航空航天大学

2013～2014 学年第 2 学期 信息论基础 期末考试试卷

（ 2014 年 6 月 26 日）

班级： ；学号： ；姓名： ；成绩：

注意事项：所有试题的作答必须在答题纸上完成（含填空题）

一、概念和填空（10分）

1、（4分）从信息传输的角度，画出通信系统的基本模型框图。 2、（3分）设一个简单离散无记忆信源X的概率空间为

?X??a1a2??p(x)?=?0.40.6? ????该信源的4次扩展信源X4的熵等于_________ bit/序列。 3、（3分）设离散无记忆信源概率空间

a2a3a4??X??a1=?P??1/21/81/81/4? ????若用二进制变长码实现，要求编码效率大于90%，则信源至少扩展_________次。

二、（20分）一个二进制通信系统，用符号表示下列事件：U代表发射符号，V代表接收符号；u0代表一个“0”发出，u1代表一个“1”发出；v0代表一个“0”收到，v1代表一个“1”收到。给定下列概率：

p(u0)=1/2,p(u0|v0)=3/4,p(v0|u1)=1/2

求：

（1）（5分）H(V/u0)； （2）（5分）H(V/U)； （3）（5分）I(V;u0)； （4）（5分）I(U;V)。

三、（20分）一个二进制马尔科夫信源，其信源符号集为{0,1}。符号之间的条件概率如下 p(X3|X1X2)

X3 0 1 求：

四、（20分）离散无记忆信道如图所示：

X 0 1

Y 0 α 1 3/4 1/8 1/8 1/8 1/8 3/4 （1）（5分）画出该信源的状态转移图； （2）（7分）计算该马尔科夫信源的稳态分布； （3）（5分）计算该马尔科夫信源的极限熵H∞； （4）（3分）计算该信源进入稳态后符号0的出现概率。 X1X2 00 0.7 0.3 01 0.6 0.4 10 0.5 0.5 11 0.4 0.6 求：（1）（10分）写出信道传输矩阵，求信道的信道容量； （2）（5分）若信源符号分布为PX=[0.8 0.2]，求此时该信道对应的平均互信息量I(X;Y)； （3）（5分）现有10000个信源符号且输入分布为PX=[0.8 0.2]，若信道以1500个符号/秒的速度进行符号传输，求20秒内能否将这一消息序列所携带的信息通过信道传输完。

五、（15分）有一个离散无记忆信源S，信源分布为 S2??S[S,P]=?1? 0.40.6??（1）（5分）若对其进行二元Huffman编码，码符号集为X={0,1}写出编码过程，计算编码效率。

（2）（6分）若对其三次扩展后的信源进行三元霍夫曼编码，码符号集为X={0,1,2}，依据码方差最小准则写出编码过程，计算编码效率。

六、（15分）有一个二元离散无记忆信道，如下图所示。

X 0 1

Y 0 1

0.9 0.9 （1）（7分）现有两个消息符号{00,11}，通过此信道传递。其中p(00)=0.6,p(11)=0.4。给出最佳译码规则，计算相应的平均错误译码概率； （2）（8分）现有4个等概率分布的消息符号{00,01,10,11}，通过此信道传递。给出最佳译码规则，计算相应的平均错误译码概率。

北京航空航天大学

2010～2011 学年第 2 学期 信息理论基础 期末考试试卷

（ 2011 年 1 月 19 日）

班级： ；学号： ；姓名： ；成绩：

一、概念和填空（15分）

1、（5分）从信息传输的角度，画出通信系统的基本模型框图。

2、（5分）设有离散无记忆信源，

s2s3s4??S??s1=?P??0.50.250.1250.125? ????对其进行费诺编码，得到的码字是_____________、_____________、_____________、_____________，编码效率是_____________。

3、（5分）简述信息、消息、信号的概念。

二、（10分）设有一非均匀骰子，若其任一面出现的概率与该面上的点数成正比，试求各点出现时所给出的信息量，并求扔一次平均得到的信息量。

三、（20分）设有一个二进制马尔科夫信源，其信源符号集为{0,1}，条件概率为p(0|00)=p(1|11)=0.8, p(1|00)=p(0|11)=0.2, p(1|01)=p(1|10)=0.5, p(0|01)=p(0|10)=0.5。 求：（1）（5分）画出该信源的状态转移图； （2）（5分）该马尔科夫信源的稳态分布； （3）（5分）该马尔科夫信源的极限熵H∞；

（4）（5分）该信源进入稳态后，符号0、1的出现概率。