求问xgboost损失函数!
我的理解是xgb用的泰勒展开近似损失函数,对近似函数求导令其为0,来得到当前拟合值,相较于gbdt的直接对损失函数求导令其为0得到当前拟合值,不应该是xgb用到更少的信息刻画损失函数,防止过拟合吗?但是看到面经都是千篇一律gbdt一阶导刻画损失,xgb一阶二阶刻画损失,xgb学到更多信息。明明gbdt的损失一点没变啊……
不知道描述清楚了吗?
我的理解是xgb用的泰勒展开近似损失函数,对近似函数求导令其为0,来得到当前拟合值,相较于gbdt的直接对损失函数求导令其为0得到当前拟合值,不应该是xgb用到更少的信息刻画损失函数,防止过拟合吗?但是看到面经都是千篇一律gbdt一阶导刻画损失,xgb一阶二阶刻画损失,xgb学到更多信息。明明gbdt的损失一点没变啊……
不知道描述清楚了吗?
相关推荐