信息论与编码（第二版）曹雪虹（最全版本）答案 - 图文

b2=b3=(1-e)log(1-e)+eloge

所以

C=log?2b=log[20+2×2(1-e)log(1-e)+eloge]

j=log[1+21-H(e)]=log[1+2(1-e)(1-e)ee]

ì11?1-C-C?P(b)=2b=2==1?(1-e)e1-H(e)?1+2(1-e)e1+2? ?ee?(1-e)e?b2-C?P(b)=2=í2?1+2(1-e)(1-e)ee???P(b3)=2b3-C=P(b2)??????3而 P(bj)=?P(ai)P(bj|ai) (j=1,2,3)

i=1jìP(b1)=P(a1)???得íP(b2)=P(a2)(1-e)+P(a3)e ?????P(b3)=P(a2)e+P(a3)(1-e)1所以 P(a1)=P(b1)=

1+2(1-e)(1-e)ee(1-e)eeeP(a2)=P(a3)=P(b2)=P(b3)= (1-e)e1+2(1-e)e当e=0时,此信道为一一对应信道,得

C=log3, P(a1)=P(a2)=P(a3)=1 311当e=1/2时,得 C=log2, P(a1)=,P(a2)=P(a3)=

243.5 求下列二个信道的信道容量，并加以比较

?p??p??（1）??p??p???其中p+p=1

?p??2??? （2）??p??2????p??p??2?00?? 2???解：

（1）此信道是准对称信道，信道矩阵中Y可划分成三个互不相交的子集 由于集列所

?p??组成的矩阵??p???p????2???,??而这两个子矩阵满足对称性，因此可直接利用准对??p?????2??称信道的信道容量公式进行计算。 C1=logr-H(p1’ p2’ p3’)-?NklogMk

k?12其中r=2,N1=M1=1-2? N2=2? M2=4? 所以

C1=log2-H(p??,p-ε,2ε)-(1-2?)log(1-2?)-2?log4?

=log2+(p??)log(p??)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε =log2-2εlog2-(1-2ε)log(1-2ε)+(p??)log(p??)+(p-ε)log(p-ε) =(1-2ε)log2/(1-2ε)+(p??)log(p??)+(p-?)log(p-?) 输入等概率分布时达到信道容量。

（2）此信道也是准对称信道，也可采用上述两种方法之一来进行计算。先采用准对称

信道的信道容量公式进行计算，此信道矩阵中Y可划分成两个互不相交的子集，由子集列所组成的矩阵为???p???p???2?p????，??0p?????0??这两矩阵为对称矩阵 其中?2??r=2,N1=M1=1-2? N2=M2=2?，所以 C=logr-H(p-?,p-ε,2ε,0)-?NklogMk

k?12=log2+(p-?)log(p-?)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε

=log2-(1-2ε)log(1-2ε)+( p-?)log(p-?)+(p-ε)log(p-ε) =(1-2ε)log2/(1-2ε)+2εlog2+(p-?)log(p-?)+(p-ε)log(p-ε) =C1+2εlog2

输入等概率分布（P（a1）=P（a2）=1/2）时达到此信道容量。比较此两信道容量，可得C2=C1+2εlog2

3-6 设有扰离散信道的传输情况分别如图3－17所示。求出该信道的信道容量。

X1/21/21/21/21/21/21/21/2Y图3-1700???0110?2? 解：?21?0021?2?11?00?22?1212

对称信道

C?logm?H(Y|ai)

1?log4??2log2

2

取2为底 C?1bit/符号

3-7 (1) 条件概率 ，联合概率

p(y0)??13 ，

p(y1)??12 ，p(y2)??16

（2） H(Y/X)=

（3）

当接收为y2，发为x1时正确，如果发的是x1和x3为错误，各自的概率为：P(x1/y2)=1135，P(x2/y2)=5，P(x3/y2)=5 其中错误概率为： Pe=P(x1/y2)+P(x3/y2)=135?5?0.8

（4）平均错误概率为

（5）仍为0.733 （6）此信道不好

原因是信源等概率分布，从转移信道来看 正确发送的概率x1-y1的概率0.5有一半失真 x2-y2的概率0.3有失真严重

，后验概率

x3-y3的概率0 完全失真 （7）

H(X/Y)=

16Log(2)?110Log(5)?115Log??213?5?1?5?1?5???Log???Log(5)?Log???Log(10)?Log???1.301 1010?2?15?2?10?3?30?3?5?3. 8 设加性高斯白噪声信道中，信道带宽3kHz，又设{(信号功率+噪声功率)/噪声功

率}=10dB。试计算该信道的最大信息传输速率Ct。

解：

3. 9 在图片传输中，每帧约有2.25?106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽（信噪功率比为30dB）。

解：

H?log2n?log216?4 bit/symbolI?NH?2.25?106?4?9?106 bit?10I9?106Ct???1.5?105 bit/st60?PX?Ct?Wlog??1?P??N??

3-10 一个平均功率受限制的连续信道，其通频带为1MHZ，信道上存在白色高斯噪声。 （1）已知信道上的信号与噪声的平均功率比值为10，求该信道的信道容量；

（2）信道上的信号与噪声的平均功率比值降至5，要达到相同的信道容量，信道通频带应为多大？

（3）若信道通频带减小为0.5MHZ时，要保持相同的信道容量，信道上的信号与噪声的平均功率比值应等于多大？ 解：（1）C?Wlog2(1?SNR) ?1?106log2(1?10) ?3.159Mbps

（2）C2?W2log2(1?5)?3.459Mbps

?W2?3.159M?1.338MHZ log261.5?105W???15049 Hz?PX?log2(1?1000)log??1?P??N??

Ct（3）C3?W3log2(1?SNR')?3.459Mbps