:
第2章 信息的统计度量少y的出现有助于肯定x的出现y的出现有助于否定x的出现x和y相互独立比特依题意题中的过程可分为两步一是取出一枚硬币恰好是重量不同的那一枚设其发生的概率为由于每枚硬币被取出的概率是相同的所以所需要的信息量二是确定它比其他硬币是重还是轻设其发生的概率为则总的概率所需要的信息量设表示大学生这一事件表示身高以上这一事件则故四进制波形所含的信息量为八进制波形所含信息量为故四进制波形所
#
第6章:信道编码§ 单符号离散信源的数学模型 信源输出的是一个个符号这些符号的取值是有限的或可数的随机矢量§ 单符号离散信源的数学模型2某地二月份天气的概率分布统计如下:4的变化而变化信源X先验不定度(联合自信息量) 这样通信后流经信道的信息量等于通信前后不定度的差是条件熵(6) 有限值 可为无穷
信息量通过上面两个实例可以得知在甲袋抽出红色球的不确定性要比乙袋抽红色球的不确定性小不确定性越大就越难猜到对于狭义信息论而言此事件的信息量就越大则晴天的自信息量为【例】 若盒中有6个电阻阻值为1Ω2Ω3Ω的分别为2个1个3个将从盒子中取出阻值为iΩ的当事件 xi 发生以后表示事件xi所提供的信息量3条件自信息量解:由于甲是将一粒棋子随意地放在棋盘中某一方格内因此棋子在棋盘中所处位置为二维等概率分布
#
#
#
信息论与编码-信源及信源熵自信息量信源熵互信息量(2)与t=i时刻以前信源发出的符号有关即与条件概率 有关同样在一般情况下它也是时间t的函数所以 以上所叙述的是一般随机序列的情况它比较复杂下面我们只讨论离散无记忆序列信源和两种较简单的离散有记忆序列信源:平稳序列信源齐次遍历马氏链信源(2)平稳随机序列的熵若信源输出一个L长序列则信源的序列熵为34对离散平稳
《信息论与编码》课后习题解答 假设一副充分洗乱了的扑克牌(含52张牌)试问(1) 任一特定排列所给出的信息量是多少(2) 若从中抽取13张牌所给出的点数都不相同能得到多少信息量解:(1) 52张牌共有52种排列方式任一特定的排序方式出现是等概率的则所给出的信息量是:(2) 52张牌共有4种花色13种点数抽取13张点数不同的牌的概率如下: 居住某地区的女孩子有25是大学生在女大学生中有75是身高16
违法有害信息,请在下方选择原因提交举报