主要介绍了python机器学习之决策树分类，具有一定的参考价值，感兴趣的小伙伴们可以参考一下

本文实例讲述了Python机器学习算法库scikit-learn学习之决策树实现方法。分享给大家供大家参考，具体如下： 决策树 决策树(DTs)是一种用于分类和回归的非参数监督学习方法。目标是创建一个模型，通过从数据特性中推导出简单的决策规则来预测目标变量的值。 例如，在下面的例子中，决策树通过一组if-then-else决策规则从数据中学习到近似正弦曲线的情况。树越深，决策规则越复杂，模型也越合适。 决策树的一些优势是: 便于说明和理解，树可以可视化表达； 需要很少的数据准备。其他技

决策树分类与上一篇博客k近邻分类的最大的区别就在于，k近邻是没有训练过程的，而决策树是通过对训练数据进行分析，从而构造决策树，通过决策树来对测试数据进行分类，同样是属于监督学习的范畴。决策树的结果类似如下图： 图中方形方框代表叶节点，带圆边的方框代表决策节点，决策节点与叶节点的不同之处就是决策节点还需要通过判断该节点的状态来进一步分类。 那么如何通过训练数据来得到这样的决策树呢？ 这里涉及要信息论中一个很重要的信息度量方式，香农熵。通过香农熵可以计算信息增益。 香农熵的计算公式如下： p(