第三部分 信息论6/21/20241第三部分信息论信息论的三个基本内容:信息的度量;信息的信道容量;为利用信道容量传输信息所需要的编码。相应的基本结论为:如果一个信息源所发出的信息速率不超过信道容量,则尽管有噪声存在,我们总可以找到一种编码方法,使全部信息以任意小的差错频度传过信道。编码过程有两类:信源编码和信道编码。信源编码降低信息速率;信道编码等效无噪信道。6/21/20242第十章信息传输与
单击此处编辑母版标题样式单击此处编辑母版文本样式第二级第三级第四级第五级63信道与信道容量41620221信道是指信息传输的通道信道的功能:以信号形式传输和存储信息信道的主要研究内容:信道建模(信道的统计特性描述) 信道传输信息的能力(信道容量) 在有噪信道中能否实现可靠传输怎样实现可靠传输(信道编码) 41620222信道的分类① 根据输入输出随机信号的特点分类:离散信道(如:数字)连续信道
信道基本概念信道分类 根据信道用户的多少单用户信道多用户信道根据信道输入端与输出端的关系无反馈信道有反馈信道根据信道的参数与时间的关系固定参数信道时变参数信道X710信道的信息传输率R R=I(XY)=H(Y)?H(YX)=H(X)?H(XY) (bit符号)信道容量: 离散无记忆信道容量例3-2-1 设离散无噪有损信道的转移概率矩阵为19X 的最佳概率分布为{ }. 24
第3章 信道与信道容量 信道的基本概念 离散单个符号信道及其容量 离散序列信道及其容量 连续信道及其容量4 信道的基本概念信道的分类.1.3.4信道容量的定义信道参数 信道的基本概念 信道是指信息传输的通道 包括空间传输和时间传输空间传输信道时间传输信道信息经过的通道 广义信道实际通信中所利用的各种物理通道将信息保存在以后读取如磁带光盘等在时间上将信息进行传输的信道特征:一个
#
#
1-pY1-pX准对称信道的信道容量 例:设信道传递矩阵为 离散序列信道及容量仅与当前输入有关若信道是平稳的若信源与信道都是无记忆的 1015… 连续信道及其容量y(t)20
.二进删除信道—M信道X={01} Y={021}02当输出等概分布时即H(Y)=logs时信道容量才能达到离散无记忆信道和信道容量信道容量的计算?3)为求信道容量对平均互信息求驻点:定理4. 一般离散信道的互信息I(XY)达到极大值(即等于信道容量)的充要条件是输入概率分布p(x)满足信道容量的计算2528可得:31从而 令解方程组求信道容量解之得:3840
#
#
违法有害信息,请在下方选择原因提交举报