大佬们面试的时候怎么介绍gbdt,xgboost

我介绍gbdt的时候说在函数空间中做梯度下降，xgboost是对目标函数关于当前模型做二阶泰勒展开，但是貌似效果不好？面试官期待 "每一步是拟合上一步的残差”的答案，我说拟合残差是一般的boosting方法，拟合残差可以看作是gbdt的特例，面试官：…  大家来讨论一下，面试的时候怎么说比较好？
全部评论
不能说拟合残差是一般的boosting方法，boosting的思想是每一个基分类器纠正前一个基分类器的错误，至于纠正的方式不同所以有不同的boosting算法，比如通过调整样本权值分布训练基分类器对应的AdaBoost，通过拟合前一个基分类器与目标值的误差的负梯度(也不能说是残差，只有在损失函数是平方损失时才能叫残差，一般的损失函数是近似残差)来学习下一个基分类器的方法是gradient boosting
25 回复 分享
发布于 2017-08-30 19:38
我是这么理解的，adaboost是前向分布算法+指数损失函数，gbdt是前向分布算法在较难优化的损失函数情况时的一种近似的优化，用损失函数的负梯度作为残差的近似值，用到泰勒一阶展开，xgb支持任意损失函数，只要一阶二阶可导即可，用到泰勒二阶展开。
6 回复 分享
发布于 2017-08-30 19:52
...
点赞 回复 分享
发布于 2017-08-30 16:29
拟合残差是对应于平方loss
点赞 回复 分享
发布于 2017-08-30 17:05
拟合上一步的残差
点赞 回复 分享
发布于 2017-08-30 16:13

相关推荐

11-12 21:18
已编辑
门头沟学院 运维工程师
Klook2025产研实习生-技术研发-一面凉经
💼公司名：Klook客路（base深圳）💻岗位名称：技术研发实习生（12月开始，需要至少实习两个月）⏰时间线：2025/10/27投递简历；2025/10/29 笔试，全英文，18个选择题（数据结构、操作系统和一些SQL题）+2个编程题（完全平方数和翻转矩阵）；2025/11/5 面试邀请，只能预约次日的时间段，线上面试由于目前已经在实习，只能提前下班参加面试，就预约了当天下午最晚的时间段。当天上午接到HR确认电话，确认我是否参加英文面试，当时把我吓了一跳，后来发现是中文面试，担心有点多余了。面试过程中感觉面试官着急下班，连自我介绍和反问环节都跳过了，直接就开始了提问：说一下TCP四次挥手...
查看16道真题和解析
点赞 评论 收藏
分享
11-17 19:14
中山大学 产品经理
点赞 评论 收藏
分享
11-06 22:23
已编辑
北京邮电大学 产品经理
点赞 评论 收藏
分享
11-19 09:37
仰恩大学 运营
点赞 评论 收藏
分享
10-27 23:35
Université d’Auvergne-Clermont-Ferrand 1 C++
cpp / c++零基础两周速成教学
前言方法说明，只能保证大家可以找到工作，一般如果不限城市找个一万五六的问题不大（根据三年辅导经验来看）。但是并不能保证大家进大厂，因为速成只能是让大家基础，项目快速达到能面试的水平，即面试官问的，口述的，能让大家都答出来，并且答的还很深，很好。但是算法这个，没办法让大家速成，可能别人有更好的办法，但是个人能力有限，确实帮不了大家。这个想成只能刷题，个人认为。每天刷个两三道，坚持一两个月也是可以补上来的。下面只讲教学步骤，对于为什么要这么做，这么做的原理到时候与大家开会的时候进行交流。1.简历制作简历统一用这个，技术栈+项目固定另外再加上个人的信息以及获奖情况（简要说明，技术栈这么写已经可以对于...
点赞 评论 收藏
分享
评论
2
27
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# mt对你说过最有启发的一句话 #
3488次浏览 64人参与
# 考研失败就一定是坏事吗？ #
160174次浏览 1136人参与
# 被上班搭子“传染”了哪些习惯 #
1503次浏览 50人参与
# 今年秋招你收到了多少封邮件？ #
3483次浏览 75人参与
# 工作后，你落下了哪些病根 #
3798次浏览 100人参与
# 秋招特别不鸣谢 #
2798次浏览 45人参与
# 非技术2024笔面经 #
446443次浏览 4911人参与
# 选实习，你更看重哪方面？ #
2920次浏览 57人参与
# 工作后明白的那些道理 #
35928次浏览 482人参与
# 什么是优秀的实习经历 #
1219次浏览 50人参与
# 巨人网络求职进展汇总 #
181489次浏览 1214人参与
# 摸鱼被leader发现了怎么办 #
76995次浏览 449人参与
# 工作中遇到的歹人 #
5858次浏览 117人参与
# 你见过最离谱的招聘要求是什么？ #
246393次浏览 1697人参与
# 秋招感动瞬间 #
109702次浏览 497人参与
# 选完offer后，你后悔学机械吗？ #
49275次浏览 270人参与
# 当发现同事想辞职 #
12377次浏览 39人参与
# 校招泡的最久的公司是哪家？ #
45974次浏览 172人参与
# 分享一个让你热爱工作的瞬间 #
53321次浏览 467人参与
# 上班到公司第一件事做什么？ #
115419次浏览 810人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务