字节多模态算法凉经,不知道为啥挂了...
1.实习介绍
2.防止 sft 灾难性遗忘你有哪些方法?
3.sft 和 rl 区别是什么?数据格式有什么区别?
4.Reasoning 推理过程有做什么 rl 吗?有哪些奖励?
5.rl 有哪些算法?reward 常见的有哪些任务?
6.为什么现在不用 reward model?区别是什么?
7.PPO 模块介绍一下,公式说一下?critical model 什么作用?
8.DPO 公式介绍一下,和 sft 有什么区别?
9.GRPO 少了哪些模块,如何在 GRPO 基础上防止模型波动?
10.介绍位置编码,PE、ROPE,现在常用哪些?为什么现在模型上下文只到 128K,如果是你你会做哪些改进?
11.高效推理了解过吗?如何做到高效推理?你知道哪些方法?
12.Lora 是什么?初始化讲一下?是否能对换?还有哪些变体?
13.KL散度作用是什么?推一下公式。如果是确定标签,那会有什么变化?从数学原理解释
13.编辑距离,用 n 的空间复杂度,如果我要打印编辑路径,你会怎么改,在哪个地方改?
基本全答上来了,手撕也很快,实在不知道为什么挂了
2.防止 sft 灾难性遗忘你有哪些方法?
3.sft 和 rl 区别是什么?数据格式有什么区别?
4.Reasoning 推理过程有做什么 rl 吗?有哪些奖励?
5.rl 有哪些算法?reward 常见的有哪些任务?
6.为什么现在不用 reward model?区别是什么?
7.PPO 模块介绍一下,公式说一下?critical model 什么作用?
8.DPO 公式介绍一下,和 sft 有什么区别?
9.GRPO 少了哪些模块,如何在 GRPO 基础上防止模型波动?
10.介绍位置编码,PE、ROPE,现在常用哪些?为什么现在模型上下文只到 128K,如果是你你会做哪些改进?
11.高效推理了解过吗?如何做到高效推理?你知道哪些方法?
12.Lora 是什么?初始化讲一下?是否能对换?还有哪些变体?
13.KL散度作用是什么?推一下公式。如果是确定标签,那会有什么变化?从数学原理解释
13.编辑距离,用 n 的空间复杂度,如果我要打印编辑路径,你会怎么改,在哪个地方改?
基本全答上来了,手撕也很快,实在不知道为什么挂了
全部评论
感觉年前kpi面
相关推荐
查看1道真题和解析