12-10 00:15 华南理工大学 算法工程师
关注
百度大模型算法三面-秋招面经
1.大模型灾难性遗忘是什么？怎么解决的？
2. 数据蒸馏的方法
3.项目中怎么做的多任务学习，有用到经验回放吗
4.deepspeed三个阶段
5.计算attention时候为什么要除以根号dk，还有哪些scale处理？
6.讲DPO、PPO、RLHF什么
7.什么是旋转位置编码，解决了什么问题，为什么
8.讲lora微调，如果是全量参数sft需要多长时间？
9.实践过程中有什么值得注意的点
10.了解deepseek - R1吗，介绍一下
11. QWEN2的架构和训练方式
2. 数据蒸馏的方法
3.项目中怎么做的多任务学习，有用到经验回放吗
4.deepspeed三个阶段
5.计算attention时候为什么要除以根号dk，还有哪些scale处理？
6.讲DPO、PPO、RLHF什么
7.什么是旋转位置编码，解决了什么问题，为什么
8.讲lora微调，如果是全量参数sft需要多长时间？
9.实践过程中有什么值得注意的点
10.了解deepseek - R1吗，介绍一下
11. QWEN2的架构和训练方式
全部评论
相关推荐
投递小天才等公司10个岗位 点赞 评论 收藏
分享
12-08 10:03
河南科技学院 前端工程师 
苦闷的仰泳鲈鱼刷了1...：提前实习，是让你提前熟悉业务的，后续是入职后可以减少试用期的（大部分是包入职的）；转正实习，要是hc不够或者其他原因，让你正式offer可能都没有，这个风险很大。 ---个人看法和了解到的。 点赞 评论 收藏
分享
点赞 评论 收藏
分享
点赞 评论 收藏
分享
