字节多模态算法凉经,不知道为啥挂了...
1.实习介绍
2.防止 sft 灾难性遗忘你有哪些方法?
3.sft 和 rl 区别是什么?数据格式有什么区别?
4.Reasoning 推理过程有做什么 rl 吗?有哪些奖励?
5.rl 有哪些算法?reward 常见的有哪些任务?
6.为什么现在不用 reward model?区别是什么?
7.PPO 模块介绍一下,公式说一下?critical model 什么作用?
8.DPO 公式介绍一下,和 sft 有什么区别?
9.GRPO 少了哪些模块,如何在 GRPO 基础上防止模型波动?
10.介绍位置编码,PE、ROPE,现在常用哪些?为什么现在模型上下文只到 128K,如果是你你会做哪些改进?
11.高效推理了解过吗?如何做到高效推理?你知道哪些方法?
12.Lora 是什么?初始化讲一下?是否能对换?还有哪些变体?
13.KL散度作用是什么?推一下公式。如果是确定标签,那会有什么变化?从数学原理解释
13.编辑距离,用 n 的空间复杂度,如果我要打印编辑路径,你会怎么改,在哪个地方改?
基本全答上来了,手撕也很快,实在不知道为什么挂了
2.防止 sft 灾难性遗忘你有哪些方法?
3.sft 和 rl 区别是什么?数据格式有什么区别?
4.Reasoning 推理过程有做什么 rl 吗?有哪些奖励?
5.rl 有哪些算法?reward 常见的有哪些任务?
6.为什么现在不用 reward model?区别是什么?
7.PPO 模块介绍一下,公式说一下?critical model 什么作用?
8.DPO 公式介绍一下,和 sft 有什么区别?
9.GRPO 少了哪些模块,如何在 GRPO 基础上防止模型波动?
10.介绍位置编码,PE、ROPE,现在常用哪些?为什么现在模型上下文只到 128K,如果是你你会做哪些改进?
11.高效推理了解过吗?如何做到高效推理?你知道哪些方法?
12.Lora 是什么?初始化讲一下?是否能对换?还有哪些变体?
13.KL散度作用是什么?推一下公式。如果是确定标签,那会有什么变化?从数学原理解释
13.编辑距离,用 n 的空间复杂度,如果我要打印编辑路径,你会怎么改,在哪个地方改?
基本全答上来了,手撕也很快,实在不知道为什么挂了
全部评论
感觉年前kpi面
相关推荐
点赞 评论 收藏
分享
点赞 评论 收藏
分享
02-12 20:22
重庆大学 Java
Jasonnnnnn...:直接把项目代码喂给AI然后让它帮你分析,如果组里已经有一些流程图总结的话最好,没有的话自己画一个
Go的话其实只要把基础语法搞明白就行了,项目里很多都是直接让ai帮你写好然后自己稍微改下,不用学的特别深
ai的话,可以自己写一些md文件来搞点小东西,但除非你打算转算法,否则不用把rag langchain学的特别深,了解下就行了
字节跳动公司福利 1371人发布 点赞 评论 收藏
分享

