字节大模型算法日常实习一面凉经

1. 介绍一下项目2. 多头注意力机制的计算复杂度是多少？3.LoRA 的核心思想是什么？4. GRPO 训练时 KL 散度控制得怎么样？5. SFT 阶段如何避免对padding token 计算 loss ？6.训练 SFT 模型时 loss 出现剧烈震荡，你是如何诊断并解决的？7. Transformer 中为何使用 LayerNorm 而非 BatchNorm ？8. Transformer 里LayerNorm 放在 Attention 前还是后？有什么区别？9. logprobs 在一致性奖励中起什么作用？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

最近看到大模型方向的高薪offer引发了一些讨论。有人感叹“选择比努力更重要”，认为抓住了风口就改变了一切。作为局中人，我想聊聊我的看法。确实，大模型带来了薪资结构的显著变化。开发岗今年60万可能已近上限，而大模型方向80万以上的包并不少见，部分公司给硕士生的总包甚至超过百万。更值得关注的是，一些高薪候选人并没有顶会论文，仅凭扎实的实习和工程能力就拿到了机会。这似乎印证了“选择决定论”。但我想说，大模型的高薪并非“风口上的猪都能飞”。行业的高回报，是对这群人特定努力和能力的市场定价。首先，这个行业的门槛和竞争强度被严重低估。它不是避风港，而是竞技场。你需要快速跟进日新月异的技术，处理海量数据与复杂工程问题，承受极大的交付压力。很多从业者付出的心血并不比在传统赛道发顶刊少。市场的定价，正是对他们所克服挑战的认可。其次，行业的内部淘汰率非常高。我们只看到头部选手的光鲜，却忽略了大量“卷”不出来的人。他们的处境或许比许多稳定方向的从业者更艰难。幸存者偏差让我们容易得出片面的结论。大模型是当下的重要选择，但它从不是轻松的通途。它更像一个放大器：选择决定了你进入的赛道，而努力与能力决定了你能在其中走多远、留多久。对于个人而言，在正确的方向上持续积累有效的努力，或许才是更实在的答案。我拥有7年大厂算法经验，担任过技术面试官，欢迎交流。

1.实习介绍2.介绍一下两个项目的来源？3.项目是完全自己独立完成还是团队合作？4.RAG 项目在开发过程中遇到的难点是什么？5.多路召回策略：各策略召回文档的好坏如何评估？6.是否有独立且成熟的评价体系衡量召回质量？7.性能指标提升如何对比？8.8.7% 的提升对应的 baseline 是什么？9.vLLM 部署：如何实现 2k tokens/s 的吞吐？10.并发与压力测试（batch/并发规模）如何设置的？11.讲一下 DPO / PPO / GRPO 的原理与区别12.对 GRPO 的后续优化算法是否了解？（进一步的改进方向）13.在百度实习期间遇到的最难问题是什么？14.MCP 协议相较于 Function Call 的优势是什么？15.算法题：买卖股票的最佳时机先讲一下思路、分析复杂度、最后手撕写出来之后 运行通过

1.八股：DeepSeek-V3 和 Qwen2.5-Coder 在架构上有哪些关键区别？（如 MLA、MoE、GQA、Dense 等）2.八股：Transformer 中因果注意力（Causal Attention）和双向注意力的核心区别是什么？分别适用于什么场景？3.项目：如果 RAG 输出错误，怎么判断是检索错了还是生成错了？有做过归因实验吗？4.项目：Chunk划分策略对 RAG 效果影响大吗？你用过哪些优化方式（如语义分割、滑动窗口等）？5.项目：RAG 和 GraphRAG 在处理多跳推理时的根本区别是什么？6.项目：GraphRAG 如何解决传统 RAG 的“召回噪声”和“信息碎片”问题？7.项目：为什么 GraphRAG 能实现更精准的结构化召回？关键依赖是什么？8.项目：如果不用图数据库，能实现真正的 GraphRAG 吗？为什么？9.代码题：最长连续递增子序列（LeetCode 674）