首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
牛客145335972号
北京邮电大学 算法工程师
发布于北京
关注
已关注
取消关注
@Fintech砖:
【12】机器学习算法面试八股
211为什么Lasso可以筛选变量?L1是模型各个参数的绝对值之和∣w⃗∣0,那么对目标函数经过优化后,一部分参数会变为0,另一部分参数为非零实值。这样就起到了筛选特征的作用。212L1正则化为什么能缓解过拟合过拟合是由于特征过多,L1可以筛选特征,所以能够缓解过拟合213BN+CONV融合公式及作用网络完成训练后,在inference阶段,为了加速运算,通常将卷积层和BN层进行融合214 初始化方法• 全0初始化,就是将所有权重置0。当然是不能这样的,神经网络通过梯度更新参数,参数都是0,梯度也就是0,神经网络就停止学习了。• 随机初始化将参数随机化,不过随机参数服从高斯分布或均匀分布。高斯分布均值为0,方差为1。0.001为控制因子,这样使得参数期望尽量接近0Xavier初始化随机初始化没有控制方差,所以对于深层网络而言,随机初始化方法依然可能失效。理想的参数初始化还得控制方差,对w进行一个规范化。“Xavier初始化”维持了输入输出数据分布方差一致性。He初始化对于非线性激活函数ReLU,“Xavier初始化”方法失效。因此He初始化,在Xavier的基础上,假设每层网络有一半的神经元被关闭,于是其分布的方差也会变小。经过验证发现当对初始化值缩小一半时效果最好,故He初始化可以认为是Xavier初始 / 2的结果。215什么是网络参数初始化神经网络在训练时,前向传播和反向传播都涉及到每个神经元的权重更新wi,也就是我们说的网络参数了,当然这些参数需要一个初始值。方法有很多,全0初始、随机初始等等,每个方法都有优缺点。216为什么需要合理的参数初始化理想的网络参数初始化使得模型训练事半功倍,相反,糟糕的初始化可能导致网络梯度消失和梯度爆炸。ReLU,如果初始化不合理,前向运算的结果可能全部为负,发生“死区”现象。再简单说,就是参数又不能过大,又不能过小。比如在前向传播过程中输出为h(wx+b),因为w很小,所以输出很小,同时反向传播过程中梯度的变化也很小,那么参数的改变也很小,在不断的正向传播乘很小的数,反向传播又几乎不变的情况下,最后w会越来越小,趋近于0,出现梯度消失。反之同理。最理想化的参数初始化经过多层网络后,信号不被过分放大或过分减弱。使每层网络的输入和输出的方差一致。然后我们还要尽量保证每层网络参数分布均值为0,加快训练;计算方便。217网络参数初始化为0可以吗?将所有权重置0。当然是不能这样的,神经网络通过梯度更新参数,参数都是0,梯度也就是0,神经网络就停止学习了。218随机初始化参数有什么问题?随机初始化没有控制方差,所以对于深层网络而言,随机初始化方法依然可能失效。理想的参数初始化还得控制方差,对w进行一个规范化219手推梯度消失和梯度爆炸问题220怎么缓解梯度消失使用合理的参数初始化方案,如He初始化使用 ReLU、LReLU、ELU、maxout 等激活函数使用批规范化BN残差结构预训练加微调梯度剪切221梯度消失的根本原因我们神经网络中的初始权值也一般是小于 1 的数,所以相当于公式中是多个小于 1 的数在不断的相乘,导致乘积和还很小。如果层数不断增多,乘积和会越来越趋近于 0,以至于当层数过多的时候,最底层的梯度会趋近于 0,无法进行更新,并且 Sigmoid 函数也会因为初始权值过小而趋近于 0,导致斜率趋近于 0,也导致了无法更新。222说说归一化方法更正:标准差不是方差223为什么要归一化1)归一化后加快了梯度下降求最优解的速度2)归一化有可能提高精度224评价指标机器学习中的评价指标TP、FP、FN、TN分别为真阳性、假阳性和假阴性、真阴性225Precision和Recall的应用场景:地震的预测 对于地震的预测,我们希望的是Recall非常高,嫌疑人定罪基于不错怪一个好人的原则我们希望的是precision非常高,有的场景我们希望Precision和Recall都最大。所以我们需要一个综合评价两者的指标:F1-score226AUC是什么?AUC是否对正负样本比例敏感?不敏感227分类模型如何评价有几个指标:Accuracy:即所有分类正确的样本占全部样本的比例Precision:查准率。Recall:查全率F1-score:衡量Precision和Recall之间的联系AUC 值为 ROC 曲线所覆盖的区域面积,显然,AUC越大,分类器分类效果越好。228准确率与精准率的区别229AUC的意义和两种计算方法230讲讲分类,回归,推荐,搜索的评价指标1. 分类指标有几个指标:Accuracy:即所有分类正确的样本占全部样本的比例Precision:查准率。Recall:查全率F1-score:衡量Precision和Recall之间的联系AUC 值为 ROC 曲线所覆盖的区域面积,显然,AUC越大,分类器分类效果越好。2. 回归指标(我们在讲损失函数的时候讲过,不再赘述)有几个指标:均方误差(MSE):均方根误差(RMSE)MAE(平均绝对误差)R Squared:确定系数:相关系数平方3. 推荐任务评价指标:离线评估 offline evaluation评分预测对于评分预测模型:训练数据集训练好数据,测试数据集预测用户对物品的评分。评价指标:MAE和RMSE对于Top N模型:对排名进行评估。评价指标:准确率,召回率,F1在线评估 online evaluatuionA/B test将用户划分为A,B两组,A实验组用户,接受所设计的推荐算法推荐的商品,B对照组用户,接受基线方法推荐的商品。通过对比两组用户的行为来评估推荐算法的性能。CTR:用户点击率,通过该算法计算出的被点击的项目占推荐项目总数的百分比CR:用户转化率,用户购买的项目占被点击的项目的比率。4. 搜索任务评价指标Accuracy、Precision、Recall、AUC、P-R曲线更多校园招聘常见面试问题(开发、算法、编程题目)参见CSDN博客:http://t.csdn.cn/V4qbH欢迎关注、收藏、点赞后进行问题咨询及秋招建议!
点赞 2
评论 1
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
03-30 23:28
西安邮电大学 Java
双非硕找暑期,求拷打简历
项目就是点评和一个agent。八股大致过了两遍,只求能找到个暑期实习就行,还有机会吗,求大佬指导。中大厂这样的简历能过吗,目前boss投了一堆只有小厂的两个面。
点赞
评论
收藏
分享
03-26 20:26
广州大学 前端工程师
双非某网安小厂前端面试面经
面试官说八股招过来的存在能力不足的现象,此次面试以项目面为主,加粗的是我没准备好怎么回答合适的自我介绍,提到实习带来的成长介绍公式编辑器的动机、调研、技术栈的确定、数据结构设计、渲染器设计有没有想过优化构建速度(这个真没有);继续介绍数据结构的扩展问题、可扩展导出逻辑带入变量值、给出计算结果(我觉得这个需求不是一个公式编辑器该做的);内置公式模板(这个难度不高);看目录结构设计、对 Taro API 的跨端封装、配置文件;代码生成脚本日志记录器需求、展示已经存储的字段;打开 UI长列表有没有做性能优化(这个 Flutter 内置);让你做一个原生性能优化怎么做(提出一个分 chunk 请求与加...
查看18道真题和解析
点赞
评论
收藏
分享
03-31 21:47
东南大学 C++
愚人节血战阿里
吓哭了,明天被面试塞满了
彭于晏前来求offe...:
吓晕了
点赞
评论
收藏
分享
03-27 17:13
西安工业大学 golang
网易游戏互娱 试卷:27届实习生项目-笔试题3.24
一道模拟,一道BFS(应该是吧,感觉自己不太能写,就输出-1,拿了16分)第一道妖伞,持伞人 AC了,第二道 蛋仔派对移动问题“骗”了16分,哦对了,为啥网易给我发了两个笔试,球球各位牛友解答
a方寸星河:
第二题在加上当起点和终点位于同一列或同一行时,输出1,能骗44
笔试
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
Vibe Coding开发前的 7 个关键步骤
1.1W
2
...
我放弃互联网大厂了。。
3487
3
...
AIcoding上线了!你确定不来刷刷?
3413
4
...
如何把面试主动权握在手里?Ai岗面试焚诀!
3339
5
...
4.1 美团后端暑期实习面经
3003
6
...
必看实用VibeCoding项目
2773
7
...
美团后端暑期实习一面
2449
8
...
我招了!当年就是被招行这么招进去的
2310
9
...
笔试做完两周没动静,我查了进度才知道不是挂了
2307
10
...
京东零售平台产品与研发中心一面
2252
创作者周榜
更多
正在热议
更多
#
你觉得大几开始实习最合适?
#
14850次浏览
162人参与
#
uu们,春招你还来吗?
#
52314次浏览
298人参与
#
开放七大实习专项,百度暑期实习值得冲吗
#
34687次浏览
611人参与
#
面试被问到不会的问题,你怎么应对?
#
12373次浏览
143人参与
#
面试中,你被问过哪些奇葩问题?
#
92146次浏览
885人参与
#
Claude Code泄露源码
#
6488次浏览
102人参与
#
招商银行数字金融训练营
#
104191次浏览
879人参与
#
恒生电子笔试
#
17281次浏览
135人参与
#
2023年不发年终奖的公司盘点
#
30256次浏览
174人参与
#
你都用vibe coding做过什么?
#
8791次浏览
343人参与
#
AI Coding实战技巧
#
7473次浏览
154人参与
#
26届春招投递记录
#
1467次浏览
24人参与
#
你现在一天AI几次?
#
6368次浏览
78人参与
#
七猫笔试
#
6330次浏览
46人参与
#
做完笔试后你收到面试了吗?
#
13776次浏览
151人参与
#
四大天坑是哪四家?
#
111119次浏览
241人参与
#
你见过哪些招聘隐形歧视?
#
10439次浏览
90人参与
#
机械人你知道哪些单休企业
#
101767次浏览
476人参与
#
Vibe Coding 会干掉初级岗位吗?
#
12017次浏览
155人参与
#
大厂实习和小厂实习最大的区别是什么?
#
23947次浏览
178人参与
#
如果人生可以debug你会改哪一行?
#
5468次浏览
94人参与
#
网易游戏雷火笔试
#
3699次浏览
64人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务