逐步理解xgboost

决策树

决策树模型：内部节点表示特征和属性，叶节点表示类
特征选择：信息增益(互信息)选择
极小化决策树整体的损失函数或代价函数来实现
分类与回归树
最小二乘回归树与分类树

boost方法

前向分布算法
adaBoost
提升树

gdbt

xgboost

参考资料