移动端

  • 题王微信公众号

    题王微信公众号

    微信搜“题王网”真题密题、最新资讯、考试攻略、轻松拿下考试

单选题

在ID3算法中信息增益是指()

发布日期:2022-07-20

在ID3算法中信息增益是指()
A

信息的溢出程度

B

信息的增加效益

C

熵增加的程度最大

D

熵减少的程度最大

试题解析

信息增益

信息增益(Kullback–Leibler divergence)又叫做information divergence,relative entropy 或者KLIC。在概率论和信息论中,信息增益是非对称的,用以度量两种概率分布P和Q的差异。信息增益描述了当使用Q进行编码时,再使用P进行编码的差异。通常P代表样本或观察值的分布,也有可能是精确计算的理论分布。Q代表一种理论,模型,描述或者对P的近似。

中文名
信息增益
别名
information divergence
外文名
Kullback–Leibler divergence

算法

算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。也就是说,能够对一定规范的输入,在有限时间内获得所要求的输出。如果一个算法有缺陷,或不适合于某个问题,执行这个算法将不会解决这个问题。不同的算法可能用不同的时间,空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。算法中的指令描述的是一个计算,当其运行时能从一个初始状态和(可能为空的)初始输入开始,经过一系列有限而清晰定义的状态,最终产生输出并停止于一个终态。一个状态到另一个状态的转移不一定是确定的。随机化算法在内的一些算法,包含了一些随机输入。形式化算法的概念部分源自尝试解决希尔伯特提出的判定问题,并在其后尝试定义有效计算性或者有效方法中成形。这些尝试包括库尔特·哥德尔、Jacques Herbrand和斯蒂芬·科尔·克莱尼分别于1

中文名
算法
常用
计算
特征
有穷性 确切性 输入 输出 可行
外文名
Algorithm
学科
数学

标签: id3 算法 信息 增益

题王网让考试变得更简单

扫码关注题王,更多免费功能准备上线!

此试题出现在

商业经济行业技能考试

项目数据分析师理论考试

去刷题
热门试题热门资讯 相关试题