【ML算法】监督学习——决策树ID3算法

前言

ID3算法是决策树的经典，也是基础算法，本文将详细介绍ID3算法。

算法详解

ID3算法的核心是在决策树各个节点上通过计算每个属性的信息增益来进行分枝节点的选择，我在另一篇文章中已经介绍来信息增益，这篇文章将直接介绍算法。ID3算法是迭代算法，通过计算每个属性的信息增益不断生成决策树分枝，最终将样本标签按照各个属性分到各个叶子结点，生成树状结构。以一个经典例子解释：

代码链接

参考文献

周志华《机器学习》李航《统计学习方法》我的blog：决策树ID3算法的Python实现：                  决策树ID3算法的R实现：