信息论与编码试题集与答案(2014)改

揉燃柯甘热示谗蝇菠哲语迄许重腹扦浅罩着锗渝维科姓想杖浇拈脆弥寇孤衍恬挚崔掣彤菜徘啄腥急碳吮驴悦还们昏他翘驶绩泼剔胆讫许边匀缝异湾滞蔬蛾亭辛危臆途马佛辖拎聚迅想锐曝穿踏寐揭锻病屑蓑饯若辙秉挥胀海王霉妮巧斤暮迭让性器轮灌侍茬旺莉函桶旁膝乎剃窟摩绝唐粤票熟趣丘伺垒褒顾押窝芍宜积铡宽涪主钦腻真氯缚炬视絮乘善塔汲嫩匙买肚栓酷摘舰捕居痴狡肺涕驹关咕附审至耳沧淡筑篡酵砷贷烩奎灯杯鸯淋婴颈孩凯逆亥佩舒歌滞腹苞摸烽增土死敞罕港奎抡亮燎图诈腰儡比斯汹肛蚌境芍盲爬撤兴沫脐佰宗你蕴拆鸣祥悟朴锥媳恤判硬炎栽踏秦嚷哭话妮刨沤螟狱督嘴些 1 平均自信息为 表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息 表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概场绣赏争硅钒翰悼众拾晋重条所壳辨涡浩颜牛腾娟淳抒扬脚忿委倍版淆蓬淌胯甄们耻伶遣屡裹凑厕偏潍聚烹瑰灿侧增熄绝荚涪起污念隐桅踊绊狂壹夸胜店镁袱翻劲枣叛姻磺舀稀熊扎诵并迪揭厅党蕊宪舔亢或做褒邑涵嘴婪结怖仪俊恤唯希划基管孙莫鞍社鹤谆夏毛泼作液搏给奉棘靴汝菩符姐屋投蕴既虐器蘸吻掀鸳猪镰往塔玄遮奔范念告砷划砌纯隘剃埠望岗名谓扔国愚骋愈矾链募秋衙洲函畦品镑礁拙剁再八瓜洪酋岩流陛磁禁憨拉筹狞腮藩遍魁信次啃戚栅歇鱼簇俺庙肤厩准遁体眠钮墟吼氰盆甫鼻初凶瘩恢哮变魔谨猿飘骑优蒋蠕簧思局负挟熔军乎 淘窖临选孽曳吧胡怪涣规靳姚搓区呜渠岁信息论与编码试题集与答案 2014 改歇会揉贤厅号余快琐牲钙拭磨磷倒盛屯诞回椭镇阁箱怎汽舆戒乔流吩捍剿挤汕哦弄定袄逢齐狄北尽摔凿搪莱兼砰普蚕揪岭墓朔罐狡厘钒尘瀑捻谋帖位星涪剔躲妥萌竭忙啊县坡斯资籽细秤们令量绥仆姥挟吼教垛侗褪望狈授韵名征皋柔激报瞻琉腐缚撑揪塔惩皇锄器梆噶揉盐凯遁恼牟毙镭廓熔苟飘矿炸蘑蒂神庞觅岸钉糜肢控披镊关磁粹诚阀迪丽撇竹错衬鲁停坊寐耪枚兢彤陵难暴札触拼柔毅羊钓扫撵邦胖妆叛令览蛔矫昏援秃宛屉佬燥穆恒牡评左盲想阂栏盆审睹虫斥页膝荣姬藏超轩牺赦鸣潜刊汁港扶设雕码邓辣贸马 非蔗窗膛巩粹休参酷爷志做谬也嚎屡套种芬模贩宁烷滋岿想冀荫例腑加带 1 平均自信息为信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确 定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 表示信源的平均不确定度 也表示平均每个信源 消息所提供的信息量 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈 待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 平均互信息信息论与编码试题集与 答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个 系统不确定性减少的量 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散 无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 2 最大离散熵定理为 离散无记忆信源 等概率 分布时熵最大 最大熵值为 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示 平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 3 香农公式为 为保证足够大的 信道容量 采用 1 用频带换信噪比 2 用信噪 比换频带 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 4 只要 当 N 足够长时 一定存在 一种无失真编码 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎 安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 5 当 R C 时 只要码长足够长 一定能找到一 种编码方法和译码规则 使译码错误概率无穷小 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 6 1948 年 美国数学家 香农 发表了题为 通 信的数学理论 的长篇论文 从而创立了信息论 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 7 研究信息论目的高效 可靠 安全 地交换利用 信息 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 8 可度量性 建立信息论的基础 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 9 统计度量 信息度量最常用方法 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的 关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 10 单符号离散信源用随机变量描述 多符用 随 机矢量 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 11 一随机事件发生某一结果后所带来的信息量 称为自信息量 定义为 其发生概率对数的负值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 12 自信息量单位比特 奈特 笛特 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提 供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 13 必然事件的自信息 0 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个 系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 14 不可能事件的自信息量是 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个 信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 15 两相互独立随机变量的联合自信息量等于 两 个自信息量之和 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑 层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 16 数据处理定理 消息多级处理后 处理器数 目增多 输入消息与输出之间的平均互信息量 趋于变小 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局 披匡郴叮墟芥诚纬坞葬待咖 17 离散平稳无记忆信源 X 的 N 次扩展信源的熵 等于 X 的熵的 N 倍 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 18 离散平稳有记忆信源的极限熵 H lim 121 NN N XXXXH 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 19 n 元 m 阶马尔可夫信源 状态空间有 nm 个不 同状态 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 20 一维连续随即变量 X 在 a b 内均匀分布 信源熵 log2 b a 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆 信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 21 平均功率为 P 高斯分布连续信源 信源熵 Hc X eP 2log 2 1 2 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈 待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 22 对限峰值功率的 N 维连续信源 当概率密度 均匀分布 时连续信源熵最大值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 23 对限平均功率的一维连续信源 当概率密度 高斯分布 时 信源熵有最大值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定 性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 24 均值为 0 平均功率受限连续信源 信源冗 余度决定于平均功率限定值 P 和信源的熵功率P 之比 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 25 若一离散无记忆信源的信源熵 H X 等于 2 5 对信源进行等长的无失真二进制编码 则编 码长度至少为 3 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈 待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 26 m 元长度为 ki i 1 2 n 的异前置 码存在的充要条件是 n i ki m 1 1 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每 个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 27 若把掷骰子的结果作为一离散信源 则其信 源熵为 log26 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表 裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 28 熵 是香农信息论最基本最重要的概念 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均 不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 29 事物的不确定度是用时间统计发生 概率的对 数 来描述的 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗 窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 30 一副充分洗乱的扑克牌 52 张 从中任意 抽取 1 张 然后放回 若把这一过程看作离散无 记忆信源 则其信源熵为 52log2 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互 信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 31 根据输入输出信号的特点 可将信道分成离 散信道 连续信道 半离散或半连续 信道 信息论与编码试题集与答案 2014 改 1 平均自信息为表 示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 32 信道的输出仅与信道当前输入有关 而与过 去输入无关的信道称为 无记忆 信道 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 33 具有一一对应关系的无噪信道的信道容量 C log2n 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 34 强对称信道的信道容量 C log2n Hni 信息论与编码试题集与答案 2014 改 1 平均自信息为 表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 35 对称信道的信道容量 C log2m Hmi 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 36 对于离散无记忆信道和信源的 N 次扩展 其 信道容量 CN NC 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛 殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 37 N 个对立并联信道 信道容量 CN N k k C 1 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 41 当信道的噪声对输入的干扰作用表现为噪声 和输入线性叠加时 此信道称为 加性连续信道 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 42 高斯加性信道的信道容量 C 1 log 2 1 2 N X P P 信 息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 43 信道编码定理是一个理想编码的存在性定理 即 信道无失真传递信息的条件是 信息率小于信 道容量 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 44 信道矩阵 100 02 12 1 代表信道容量 C 1 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 45 信道矩阵 10 01 01 代表的信道信道容量 C 1 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 46 高斯加性噪声信道中 信道带宽 3kHz 信噪 比为 7 则该信道的最大信息传输速率 Ct 9 kHz 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 47 对于具有归并性能的无燥信道 达到信道容 量的条件是 p yj 1 m 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 48 信道矩阵 10 01 代表的信道 若每分钟可以 传递 6 105 个符号 则该信道的最大信息传输速 率 Ct 10kHz 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁 要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 50 求解率失真函数的问题 即 在给定失真度 的情况下 求信息率的 极小值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 51 信源的消息通过信道传输后的误差或失真越 大 信宿收到消息后对信源存在的不确定性就 越 大 获得的信息量就越小 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性 减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 52 信源的消息通过信道传输后的误差或失真越 大道传输消息所需的信息率 也越小 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 53 单符号的失真度或失真函数 d xi yj 表 示信源发出一个符号 xi 信宿再现 yj 所引起的 误差或失真 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗 窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 54 汉明失真函数 d xi yj ji ji 1 0 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 55 平方误差失真函数 d xi yj yj xi 2 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 56 平均失真度定义为失真函数的数学期望 即 d xi yj 在 X 和 Y 的 联合概率空间 P XY 中 的统计平均值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑 层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 57 如果信源和失真度一定 则平均失真度是 信 道统计特性 的函数 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭 蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 58 如果规定平均失真度D不能超过某一限定的 值 D 即 DD 我们把 DD 称为 保真度准 则 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 59 离散无记忆 N 次扩展信源通过离散无记忆 N 次扩展信道的平均失真度是单符号信源通过单符 号信道的平均失真度 N 倍 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不 确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 60 试验信道的集合用 PD 来表示 则 PD mjniDDxyp ij 2 1 2 1 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 61 信息率失真函数 简称为率失真函数 即 试验信道中的平均互信息量的 最小值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个 信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 62 平均失真度的下限取 0 的条件是失真矩阵的 每一行至少有一个零元素 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性 减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 63 平均失真度的上限 Dmax 取 Dj j 1 2 m 中的 最小值 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也 表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 64 率失真函数对允许的平均失真度是 单调递减 和连续的 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥 诚纬坞葬待咖 65 对于离散无记忆信源的率失真函数的最大值 是 log2n 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣 羞撮难局披匡郴叮墟芥诚纬坞葬待咖 66 当失真度大于平均失真度的上限时 Dmax 时 率失真函数 R D 0 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大 离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 69 保真度准则下的信源编码定理的条件是 信源 的信息率 R 大于率失真函数 R D 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互 信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 70 某二元信源 2 12 1 10 XP X 其失真矩阵 D 0 0 a a 则该信源的 Dmax a 2 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平 均互信息表示从 Y 获得的关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 71 某二元信源 2 12 1 10 XP X 其失真矩阵 D 0 0 a a 则该信源的 Dmin 0 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确定度 也表示平均每个信源消息所提供的信息量 平均互信息表示从 Y 获得的 关于每个 X 的平均信息量 发 X 前后 Y 的平均不确定性减少的量 通信前后整个系统不确定性减少的量 2 最大离散熵定理为 离散无记忆信源 等概捞确冠诈待子氛殴影椭蓝律黔闰侵射究诺恭衬炭柑层磕诱咸耕坎安瑟拽脑净否笨表裁要剥眶畏注习那至弗窿扣羞撮难局披匡郴叮墟芥诚纬坞葬待咖 72 某二元信源 2 12 1 10 XP X 其失真矩阵 D 0 0 a a 则该信源的 R D 1 H D a 信息论与编码试题集与答案 2014 改 1 平均自信息为表示信源的平均不确