
(1)若“0”、“1”等概出现,求每个符号的信息量和平均信息量(熵);
(2)若“0”出现概率为1/3,重复(1)。
解:(1) 由于“0”、“1”等概出现,因此
其信息量为
平均信息量为:
(2) 若则
因此,“0”、“1”的信息量分别为:
平均信息量为:
【例1.3】 国际摩尔斯电码用“点”和“划”的序列发送英文字母,“划”用持续3单位的电流脉冲表示,“点”用持续1单位的电流脉冲表示;且“划”出现的概率是“点”出现概率的1/3。
(1)计算“点”和“划”的信息量;
(2)计算“点”和“划”的平均信息量。
解:(1)设“点”的概率用表示;“划”的概率用表示。
已知,且
所以
所以
(2)根据(1)可以得到平均信息量为:
【例1.5】设某信息源的输出由128个不同的符号组成,其中16个出现的概率为1/32,其余112个的出现概率为1/224。信息源每秒发出1000个符号,且每个符号彼此。
(1)计算该信息源的平均比特速率。
(2)传送1h的信息量。
解:(1)每个符号的平均信息量可以表示为:
因为符号速率
所以平均比特速率
(2)产送1h的信息量可以表示为:
【例1.6】设某四进制数字传输系统的每个码元的持续时间(宽度)为833×10-6s,连续工作1h后,接收端收到6个错码,且错误码元中仅发生1bit的错误。
(1)求该系统的符号速率和比特速率;
(2)求该系统的误码率和误比特率。
解:(1)码元持续时间,
所以码元速率可以表示为:
则信息速率可以表示为:
(2) 1h发送的总信息量为
则误比特率可以表示为:
因此系统的误码率可以表示为:
