信息论作业第一章

课后习题

1.7同时掷一对均匀的骰子，要得知面朝上点数之和，描述这一信源的数学模型。

解：两个点数的排列如下：

  11  12  13  14  15  16

  21  22  23  24  25  26

  31  32  33  34  35  36

  41  42  43  44  45  46 

  51  52  53  54  55  56 

  61  62  63    65  66

参考上面的两个点数的排列，可以得出两个点数求和的概率分布如下：

 故：该信源的数学模型如上。

1.8居住在某地区的女孩中有25%是大学生，在女大学生中75%身高1.6m以上，而女孩中身高1.6m以上的占总数的一半，要从信源消息中得知身高及学历，描述这一信源。

解：设随机变量X代表女孩子学历

X       X1（是大学生）     X2（不是大学生）

P(X)        0.25              0.75

设随机变量Y代表女孩子身高

Y       Y1 （身高>1.6m）   Y2（身高<1.6m）

P(Y)        0.5                0.5

1.9设有一个二阶二元马尔可夫信源，其4种状态的转移概率矩阵为

，画出状态图并求稳态下各状态出现的概率。

1.10有一个二元对称信道，信道误码率P=0.06,设该信道以1000个符号/秒的速率传输输入符号，现有一消息序列，共有9500个符号，并设消息中q(0)=q(1)=0.5，问从信号传输的角度来考虑，10秒能否将消息无失真地传送完？

解：，此信道10秒内能无失真传输的最大信息量为，故不能。

1.12某有扰离散信道的输入是等概率出现的A、B、C、D四个字母，信道正确传输的概率是0.5，等概率错误传输成其他三个字母，描述这一信道的数学模型，并计算相应的后验概率。

解：P(A)=P(B)=P(C)=P(D)=1/4    P=1-P=0.5

P(A|A)=P(B|B)=P(C|C)=P(D|D)=1/2

P(B|A)=P(C|A)=P(D|A)=1/6     P(A|B)=P(C|B)=P(D|B)=1/6

P(A|C)=P(B|C)=P(D|C)=1/6      P(A|D)=P(B|D)=P(C|D)=1/6

信源模型为：

信道模型为：

有，所以

又有， ，由的后验概率为：