信息论基础试卷期末A卷

P（XY） X=0 X=1 P(Y=i) Y 9/40 3/40 12/40 Y 1/40 27/40 28/40 由P（X|Y）=P(X|Y)/P(Y)可得

P(X|Y) X=0 X=1 H(X|Y)=-

Y=0 3/4 1/4 Y=1 1/28 27/28 （x|y）=0.09+0.12+0.15+0.035=0.4bit/符号 ?P(xy)logPijiji，j 3.该信道是对称信道，其容量为：

C=logs-H=log2-H（0.9,0.1）=1-0.469=0.531bit/符号

?01??X???11? 这时，输入符号服从等概率分布，即????P(X)???22??0.60.30.10?六、某信道的转移矩阵P???

0.30.600.1?? 试求：该信道的信道容量及其最佳输入概率分布。

解：该信道是准对称信道，分解为两个互不相交的子信道矩阵

?0.60.3? ??

0.30.6??N1?0.9 N2?0.1?0.10? 这里 ?00.?1M?0.9M?0.1??12?C=logr-H(P的行矢量)

-

?Nk?12KlogMK?1?H(0.6，0.3，0.1)?0.9?log0.9-0.1?log0.1

=0.174bit/符号

?01??X??? 这时，输入端符号服从等概率分布，即?=11 ??P(X)????22?七、信源符号X有六种字母，概率为0.32,0.22,0.18,0.16,0.08,0.04。用赫夫曼编码法编成二进制变长码，写出编码过程并计算其平均码长、编码后的信息传输率和编码效率。 解：

码字 00 10 11 010 0110 0111

0.32 0.22 0.18 0.16 0.08 0.04 1 该信源在编码之前的信源熵为：

=0.526+0.481+0.445+0.423+0.292+0.186 H(S)???P(xi)logP（xi）i?160 0 0.28 1 0 0.6 “1” 1 0.4 1 0 0 1 0.12

=2.353bit/符号

编码后的平均码长：

L?(0.32?0.22?0.18)?2?0.16?3?(0.08?0.04)?4=2.4码元/信源符号

编码后的信息传输率为：

R?H(S)2.353??0.98bit/码元

2.4L

编码效率为：??

RH(S)??0.98 RmaxLlogr八、设在平均功率受限的高斯可加波形信道中，信道带宽为3KHz，又设信噪比为10

1.试计算该信道传达的最大信息率（单位时间）；

2.若功率信噪比降为5dB，要达到相同的最大信息传输率，信道带宽是多少？ 解：1. ?SNR?10dB ?SNR?10

故：该信道传送的最大信息速率为：

Ct=Wlog（1+SNR）=3?103?log（11）=1.04?10bit/s4

2.若SNR=5dB，则SNR=10=3.162，在相同Ct情况下 1.04?10=Wlog（1+SNR）=Wlog4.162 ?W=5.04?10Hz

34