大佬们面试的时候怎么介绍gbdt,xgboost

我介绍gbdt的时候说在函数空间中做梯度下降，xgboost是对目标函数关于当前模型做二阶泰勒展开，但是貌似效果不好？面试官期待 "每一步是拟合上一步的残差”的答案，我说拟合残差是一般的boosting方法，拟合残差可以看作是gbdt的特例，面试官：…  大家来讨论一下，面试的时候怎么说比较好？
全部评论
不能说拟合残差是一般的boosting方法，boosting的思想是每一个基分类器纠正前一个基分类器的错误，至于纠正的方式不同所以有不同的boosting算法，比如通过调整样本权值分布训练基分类器对应的AdaBoost，通过拟合前一个基分类器与目标值的误差的负梯度(也不能说是残差，只有在损失函数是平方损失时才能叫残差，一般的损失函数是近似残差)来学习下一个基分类器的方法是gradient boosting
25 回复 分享
发布于 2017-08-30 19:38
我是这么理解的，adaboost是前向分布算法+指数损失函数，gbdt是前向分布算法在较难优化的损失函数情况时的一种近似的优化，用损失函数的负梯度作为残差的近似值，用到泰勒一阶展开，xgb支持任意损失函数，只要一阶二阶可导即可，用到泰勒二阶展开。
6 回复 分享
发布于 2017-08-30 19:52
...
点赞 回复 分享
发布于 2017-08-30 16:29
拟合残差是对应于平方loss
点赞 回复 分享
发布于 2017-08-30 17:05
拟合上一步的残差
点赞 回复 分享
发布于 2017-08-30 16:13

相关推荐

05-09 11:01
苏州大学 设计
mentor 和 leader 有什么区别？
刚开始工作的牛油们，一般会频繁听到这两个词，有的人会比较蒙比。当过mt，现在又是小leader的我对这两部分还是比较了解的，可以和大家说说这两者的区别。含义mentor定义：导师，也有人叫带教leader定义：领导，一般是组长/经理权利和职责mentor：一般是执行层，是某项目/任务的负责人，ta非常熟悉一些项目执行层面的事情，是有经验的前辈，可以让你很快上手工作leader：是管理者角色，ta会负责一整块业务（包含了很多项目），所以leader是mentor的领导，ta掌握实权，关于你是否可以转正都是ta来决定，ta不一定直接带你，所以对于你的印象，都是通过mentor的获得（如果是小公司，...
自由水：实习的时候不仅得和mt相处好，还得想办法这ld面前留下印象
职场新人生存指南
点赞 评论 收藏
分享
05-06 19:03
海康威视_算法研发部_AI算法工程师(准入职员工)
海康威视内推-海康威视内推码
分享一下自己对海康的感受，也在海康总部的3期。 之前看了网上的评论实属是有点吓人的，但是百闻不如一见自己终究是亲自感受了一下。 这可能是我国内外大大小小加起来的第6段实习或者工作。 海康首先给我的感觉是人真的好多，尤其食堂的人，我可能上学都没有见过这么多人，还有电梯，我每次坐是一头雾水。当然这些对于我来说都不是很重要。 可能很多人最关心的就是海康的工作强度和时间是不是真如网上说的那么严重，而通过这段时间的感受，我觉得海康可能是我节奏最慢的一次体验，完成了任务就可以开开心心的回家了，根本不需要无效加班，如果自己想学点产品类的知识还是可以在公司里多学一点的。 关于部门小组氛围，我一开始是有点惊讶的...
海康威视公司福利 327人发布
点赞 评论 收藏
分享
04-12 13:42
江南大学 C++
点赞 评论 收藏
分享
05-01 22:41
中南大学 Java
点赞 评论 收藏
分享
昨天 18:47
哔哩哔哩_游戏算法工程师(准入职员工)
哔哩哔哩内推bilibili内推
不知不觉已经在哔哩实习马上一年了，实话实说哔哩实习的体验感真的蛮好的，今年也成功在哔哩顺利转正，拿到正式的offer了。 首先是实习强度💢 ，这块哔哩确实挺好的，实习的时候组内的大佬都不内卷，每天各自完成自己的工作就能下班回家啦，每天晚上8点半可以拿免费的加班餐，9点半能免费打车回家（我住的近，根本用不到） 🫶️ 团队氛围这块真的没话说，团队内的大佬都很乐意帮助我快速成长，犯错的时候，及时找mentor沟通，mentor真的无所不能，而且还会给自己许多思考的空间 公司还有免费的健身房可以锻炼，我今天从五月份到9月份和同事一起去健身房锻炼已经减掉15斤了，而且最近一段时间又新换了一批设备 哔...
哔哩哔哩公司福利 408人发布
点赞 评论 收藏
分享
评论
2
27
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 一人一个landing小技巧 #
3868次浏览 74人参与
# 安利/避雷我的专业 #
68397次浏览 500人参与
# 京东TGT #
56809次浏览 192人参与
# 面试问题记录 #
79679次浏览 1102人参与
# 选完offer后，你后悔学本专业吗 #
40140次浏览 219人参与
# 牛油的搬砖plog #
992次浏览 17人参与
# 工作中，你有没有遇到非常爱骂人的领导？ #
22345次浏览 149人参与
# 面试经验谈 #
56975次浏览 914人参与
# 上班到公司第一件事做什么？ #
42669次浏览 390人参与
# 技术转行的心路历程 #
49769次浏览 665人参与
# 找工作的破防时刻 #
3730次浏览 44人参与
# 求职季如何保持心态不崩 #
109970次浏览 907人参与
# 工作时那些社死瞬间 #
27883次浏览 201人参与
# 实习生应该准时下班吗 #
205450次浏览 1337人参与
# 互联网行业现在还值得去吗 #
8633次浏览 42人参与
# 你觉得技术面多长时间合理？ #
88534次浏览 647人参与
# 硬件人的简历怎么写 #
259567次浏览 2905人参与
# 工作一周年分享 #
21414次浏览 113人参与
# 拼多多工作体验 #
19113次浏览 153人参与
# 面试吐槽bot #
20756次浏览 112人参与
# 你遇到过哪些神仙同事 #
77385次浏览 668人参与
牛客网
牛客企业服务