02-09 13:00 中南大学 算法工程师
关注
字节多模态算法凉经，不知道为啥挂了...
1.实习介绍
2.防止 sft 灾难性遗忘你有哪些方法？
3.sft 和 rl 区别是什么？数据格式有什么区别？
4.Reasoning 推理过程有做什么 rl 吗？有哪些奖励？
5.rl 有哪些算法？reward 常见的有哪些任务？
6.为什么现在不用 reward model？区别是什么？
7.PPO 模块介绍一下，公式说一下？critical model 什么作用？
8.DPO 公式介绍一下，和 sft 有什么区别？
9.GRPO 少了哪些模块，如何在 GRPO 基础上防止模型波动？
10.介绍位置编码，PE、ROPE，现在常用哪些？为什么现在模型上下文只到 128K，如果是你你会做哪些改进？
11.高效推理了解过吗？如何做到高效推理？你知道哪些方法？
12.Lora 是什么？初始化讲一下？是否能对换？还有哪些变体？
13.KL散度作用是什么？推一下公式。如果是确定标签，那会有什么变化？从数学原理解释
13.编辑距离，用 n 的空间复杂度，如果我要打印编辑路径，你会怎么改，在哪个地方改？
基本全答上来了，手撕也很快，实在不知道为什么挂了
2.防止 sft 灾难性遗忘你有哪些方法？
3.sft 和 rl 区别是什么？数据格式有什么区别？
4.Reasoning 推理过程有做什么 rl 吗？有哪些奖励？
5.rl 有哪些算法？reward 常见的有哪些任务？
6.为什么现在不用 reward model？区别是什么？
7.PPO 模块介绍一下，公式说一下？critical model 什么作用？
8.DPO 公式介绍一下，和 sft 有什么区别？
9.GRPO 少了哪些模块，如何在 GRPO 基础上防止模型波动？
10.介绍位置编码，PE、ROPE，现在常用哪些？为什么现在模型上下文只到 128K，如果是你你会做哪些改进？
11.高效推理了解过吗？如何做到高效推理？你知道哪些方法？
12.Lora 是什么？初始化讲一下？是否能对换？还有哪些变体？
13.KL散度作用是什么？推一下公式。如果是确定标签，那会有什么变化？从数学原理解释
13.编辑距离，用 n 的空间复杂度，如果我要打印编辑路径，你会怎么改，在哪个地方改？
基本全答上来了，手撕也很快，实在不知道为什么挂了
全部评论
认真的火龙果在看面经
西安电子科技大学 算法工程师
感觉年前kpi面
相关推荐
查看7道真题和解析