字节大模型算法面经

1、实习介绍2、讲述论文内容和细节。3、是否了解过多模态大模型，简单讲一下了解的多模态大模型。4、dpo 和sft的区别，可以先dpo后sft吗？5、如何处理reward hacking？6、dpo如果应用在第一轮对话中应该怎样做，你会如何构造这个数据集合？你认为多轮对话中，数据分布应该是什么样的？手撕hot100：二叉树的右视图

在牛客运营同学的热情邀约下，接着写下一篇分享 深度拆解：如何系统介绍你的第一个AI实习项目？这是所有面试的开场白，也是决定“生死”的45分钟里最关键的前10分钟。很多同学讲得口干舌燥，但我听完却是一头雾水。作为面试官，我问这个问题到底想看什么？业务Sense： 你知不知道为什么要写这个Prompt/做这个Agent？是为了解决什么业务痛点？技术理解力： 你对大模型的边界清不清楚？是盲目调用API，还是懂一点RAG、微调的底层逻辑？产品闭环思维： 做了之后效果如何？你怎么衡量好坏？避坑指南：千万不要只说“我写了多少条提示词”、“我搭建了几个工作流”。这叫“劳动力输出”，不叫“产品思考”。推荐回答...

1.项目介绍2.训练样本大概多少条3.为什么会想在重排做生成式4.如果是做生成式召回应该对模型结构怎么修改5.有考虑用别的强化学习的方法吗6.dpo 的公式是什么7. grpo 了解吗8.beamsearch 怎么做的9.大模型了解多少，强化学习了解什么10.手撕 transformer 并计算 flops 和内存开销

背景介绍：单2硕，27届，计算机专业，无论文，一段中厂AI应用开发实习均是1.8开始投递，之前准备的大模型算法，结果一个都没有回应，都是大模型和后端的面试，白准备了从1.8号开始复习Java八股和力扣算法，之前有半年多没看了，还好有之前的笔记，复习了3天裸面字节（也佩服我的勇气）字节 --- 后端开发1.12 一面 八股盛宴，面试官对我大模型项目不太有兴趣，问了50分钟八股 算法：双线程交叉打印1.15 二面 场景八股 面试官非常有水平，问的八股比较活，同时还问了sql，之前没有准备 算法：下一个排列1.19 问了hr，10分钟回我挂了，发感谢信美团 --大模型应用开发1.13 一面 问了50...