第2章 信息的统计度量少y的出现有助于肯定x的出现y的出现有助于否定x的出现x和y相互独立比特依题意题中的过程可分为两步一是取出一枚硬币恰好是重量不同的那一枚设其发生的概率为由于每枚硬币被取出的概率是相同的所以所需要的信息量二是确定它比其他硬币是重还是轻设其发生的概率为则总的概率所需要的信息量设表示大学生这一事件表示身高以上这一事件则故四进制波形所含的信息量为八进制波形所含信息量为故四进制波形所
莫尔斯电报系统中若采用点长为1划长为且点和划出现的概率分别为23和13试求它的信息速率(bitss)解: 平均每个符号长为:秒 每个符号的熵为比特符号所以信息速率为比特秒 一个8元编码系统其码长为3每个码字的第一个符号都相同(用于同步)若每秒产生1000个码字试求其信息速率(bits/s) 解: 同步信号均相同不含信息其余认为等概每个码字的信息量为 32=6 比特所以信息速率为比特秒
#
1有一个二元对称信道其信道矩阵如下图所示设该信道以1500个二元符号秒的速度传输输入符号现有一消息序列共有14000个二元符号并设在这消息中P(0)=P(1)=12问从信息传输的角度来考虑10秒钟内能否将这消息序列无失真地传送完解答:消息是一个二元序列且为等概率分布即P(0)=P(1)=12故信源的熵为H(X)=1(bitsymbol)则该消息序列含有的信息量14000(bitsymbol)
《信息论与编码》-曹雪虹-课后习题答案第二章 MACROBUTTON MTEditEquationSection2 Equation Chapter 1 Section 1 SEQ MTEqn r h MERGEFORMAT SEQ MTSec r 1 h MERGEFORMAT SEQ MTChap r 1 h MERGEFORMAT 2.1一个马尔可夫信源
:
在无失真的信源中信源输出由 H(X) 来度量在有失真的信源中信源输出由 R(D) 来度量要使通信系统做到传输信息有效可靠和保密必须首先 信源 编码然后_____加密____编码再______信道_____编码最后送入信道带限AWGN波形信道在平均功率受限条件下信道容量的基本公式也就是有名的香农公式是当归一化信道容量CW趋近于零时也即信道完全丧失了通信能
#
最大熵定理:离散无记忆信源等概率分布时熵最大最大熵值是Hmax=㏒2 N2.信源编码是以提高信息传输的可靠性为目的的编码信源编码的作用之一是设法减少码元数目和降低码元速率即通常所说的数据压缩作用之二是将信源的模拟信号转化成数字信号以实现模拟信号的数字化传输3.(1)H(x)= =—∑P(xi)㏒P(xi)=-12㏒12-14㏒14-2×18㏒18=122434=(itsymbol)(2) 本体可参
一概念简答题(每题5分共40分)1.什么是平均自信息量与平均互信息比较一下这两个概念的异同2.简述最大离散熵定理对于一个有m个符号的离散信源其最大熵是多少3.解释信息传输率信道容量最佳输入分布的概念说明平均互信息与信源的概率分布信道的传递概率间分别是什么关系4.对于一个一般的通信系统试给出其系统模型框图并结合此图解释数据处理定理5.写出香农公式并说明其物理意义当信道带宽为5000Hz信噪比为30d
违法有害信息,请在下方选择原因提交举报