移动端

  • 题王微信公众号

    题王微信公众号

    微信搜“题王网”真题密题、最新资讯、考试攻略、轻松拿下考试

名词解释题

香农第二编码定理

发布日期:2020-04-11

香农第二编码定理

试题解析

香农三大定律

香农三大定理是信息论的基础理论。香农三大定理是存在性定理,虽然并没有提供具体的编码实现方法,但为通信信息的研究指明了方向。香农第一定理是可变长无失真信源编码定理,香农第二定理是有噪信道编码定理,香农第三定理是保失真度准则下的有失真信源编码定理。

中文名
香农三大定理
应用学科
信息论
适用领域
香农三大定理

香农三大定理

香农三大定理是信息论的基础理论。香农三大定理是存在性定理,虽然并没有提供具体的编码实现方法,但为通信信息的研究指明了方向。香农第一定理是可变长无失真信源编码定理,香农第二定理是有噪信道编码定理,香农第三定理是保失真度准则下的有失真信源编码定理。

中文名
香农三大定理
应用学科
信息论
适用领域
香农三大定理

信源编码定理

在信息论中,香农的信源编码定理(或无噪声编码定理)确立了数据压缩的限度,以及香农熵的操作意义。信源编码定理表明(在极限情况下,随着独立同分布随机变量数据流的长度趋于无穷)不可能把数据压缩得码率(每个符号的比特的平均数)比信源的香农熵还小,不满足的几乎可以肯定,信息将丢失。但是有可能使码率任意接近香农熵,且损失的概率极小。码符号的信源编码定理把码字的最小可能期望长度看作输入字(看作随机变量)的熵和目标编码表的大小的一个函数,给出了此函数的上界和下界。

中文名
信源编码定理
领域
信息论
有关术语
香农熵
外文名
source coding theorem
意义
确立了数据压缩的限度
应用
数据压缩

标签: 香农 编码 定理

题王网让考试变得更简单

扫码关注题王,更多免费功能准备上线!

此试题出现在

CMS专题

CMS专题

去刷题
热门试题热门资讯 相关试题

暂无相关推荐~