百度大模型算法日常实习一面 1h

继续来分享下最近的面经~
1.实习拷打
2.项目细节
1.基模的可用性,是否进行效果验证和对比
2.意图分类,难意图如何处理
3.数据划分比例 , epoch几个,多少个稳定
4.构建数据参数,一次性还是迭代处理数据
八股
1.为什么选择qwen系列,qwen系列模型的发展 ,RoPE,外推,Attention(GQA和MLA)
2.ppo dpo grpo,做没做过
3.用什么大模型做什么事情,使用场景
手撕
lc300 最大递增子序列
全部评论
手撕只考lc300 算运气不错的
点赞 回复 分享
发布于 05-07 12:56 北京
qwen 那块大概率会追问 RoPE 的外推方式
点赞 回复 分享
发布于 05-07 11:00 上海

相关推荐

一面(1小时30分钟):上来先做题1. 手撕AdamW2. 手撕无重复字母的字串(hot100)3. 出了两个题都是对数据库的操作,我以为是让写大模拟,写到一半结果面试官告诉我是用sql写🐱,不会遂罢。4. 面对海量数据的时候怎么对数据进行处理,比如说去除掉敏感词等等,面对海量数据会出现哪些问题,该如何去处理5. 介绍发表的顶会论文6. 介绍Q-learning和DQN二面(2小时30分钟)实习乃至秋招面的最久的一轮面试了,从晚上七点多面到十点,最后人都麻了🥵,面试官估计要下班了结束了面试🐱1. 介绍论文,主包是做强化学习相关的,围绕问了很多强化学习算法(GRPO,PPO,reward model),介绍马尔可夫决策过程。2. bf16、fp16和fp32,并进行计算。3. lora微调的细节,量化相关知识然后开始漫长的手撕过程🥵4. 手撕ppo5. 算马尔可夫决策过程的γ阈值,我感觉是个无穷级数?6. 算模型sft的参数量大小及显卡利用率7. 是否重合链表(hot100)8. 如何使得一个输入向量x在经过一个或多个全连接层后,其输出向量y所在子空间基底尽可能接近标准正交基三面(面委会面)(30分钟)1. 介绍第一篇顶会论文(共享屏幕)2. 介绍第二篇顶会论文3. 不同强化学习之间的区别4. 和使用强化学习训练大模型相比,使用强化学习训练小模型需要做出哪些改变hr面(30分钟)常规的hr面问题,主要问来wx的意向。感觉前几面比较侧重技术细节,面委会感觉就比较侧重聊未来技术的发展,个人感觉前几面的压力比较大😼
查看18道真题和解析
点赞 评论 收藏
分享
评论
1
2
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务