网易有道面经(一面)

🔞 网易有道
🧑‍🔧 大模型算法岗实习
😶‍🌫️ 自我介绍+项目提问+手撕
1. 介绍自己的大模型项目
2. 数据集的制作和处理?有没有数据清理和筛选?数据总量被均分到每个角色上会不会有点少?对于数据分布不均衡的处理方式是什么?
3. 模型选的是什么基座?基座规模有过筛选吗?
4. LoRA微调的原理;LoRA微调与全量微调相比有什么不同?有试过全量微调吗?sft阶段的数据集格式?system prompt是如何设计的?
5. 如何评价微调的效果?有没有对比微调之前的效果?模型推理采样过程的各种参数(top-p、top-k、temp),温度参数如何起作用(代码简单实现)。
6. 对前沿技术的发展有何看法(deepseek、长思维链)。
7. 讲讲RLHF。
8. 项目中RAG是如何做的?
代码:进房间拿钥匙(遍历,简单粗暴)+python输入的处理
反问:岗位的日常工作、研究或产品

第一次实习面试确实有点紧张,回答得磕磕巴巴🤐,面试官很和蔼,中间不会的地方还会提醒,不至于让我太尴尬。。。
总的来说,作为第一次得体验还是挺满意的,下次还来😘
#面经##实习#
全部评论
有道的人工智能部门怎么样啊
点赞 回复 分享
发布于 03-06 13:18 黑龙江
佬有约二面或者直接oc嘛
点赞 回复 分享
发布于 02-27 23:17 新加坡
数据集怎么处理的
点赞 回复 分享
发布于 02-26 00:22 北京
佬有论文吗
点赞 回复 分享
发布于 02-22 22:24 广东
佬是26届的吗
点赞 回复 分享
发布于 02-22 01:28 北京

相关推荐

1️⃣一面时间:9.12  时长:1hcode:统计岛屿数量、最大岛屿面积,DFS方法解了然后介绍实习项目,面试官非常耐心地听,没有打断八股1.bert和gpt的区别?(从模型架构、训练方式、使用场景方面回答的)2.训练/微调一个LLM的流程?3.实习时用的 megatron 框架吗,对分布式训练框架了解多少?(回答了deepspeed和megatron区别,以及几种并行方式,以及deepspeed的三种zero)4.了解强化学习吗,跟SFT有什么区别?5.反问:业务,对岗位的期望💣评价:有点紧张,算法题有一个小失误没注意到2️⃣二面时间:9.14  时长:1h八股1.写一下 attention 公式(代码实现了下)2.训练时为什么要mask,推理时也需要吗?两处有什么区别?推理时的sequence length和训练时一样吗3.transformer和传统seq2seq模型有什么区别?4.计算attention时为什么要除以d_k,这个d_k的含义是?5.attention计算时还有哪些scale处理?6.attention中softmax函数作用、公式、为什么有减去最大值的处理?换个函数还能这样处理吗?7.解释数值上溢、下溢问题8.讲一下prompt书写的经验,如何判断prompt是否达标,如何改进prompt9.讲一下SFT,会对哪部分计算loss?为什么?10.讲一下deepspeed11.训练用一个7b模型要占用多少显存?不同zero阶段能够节省多少显存?12.训练模型时用了几张卡,有遇到什么异常中断问题吗?反问: 在乎候选人什么能力?对面试表现有哪些改进意见?💣评价: 基础不够扎实,网上有的知识都能回答上来,在同龄人里算比较优秀,欠缺一些多机多卡实践经验。  
查看17道真题和解析
点赞 评论 收藏
分享
评论
3
18
分享

创作者周榜

更多
牛客网
牛客企业服务