决策树的概念和构建

决策树知识概览

例子

构建的二叉树尽量均衡

解决怎么构建均衡一定的二叉树方法-----引入信息熵

就像一个班60个人的实力都差不多,现在要选一个人去拯救世界,就确定不了,但是一个班有一个人能力特别特出,选这个人去拯救世界的概率就比较大,就比前面的情况更有确定性

最大的那个值就算均匀分布时候的那个值

信息熵的例子

利用信息熵—信息增益

例子

解决树太分散问题----信息增益比

决策树的构建----两类算法

总结

下节