实习面经-字节大模型二面凉经

发点面经攒攒人品～1.实习介绍2.拷打第一个项目3.拷打第二个项目4.在向量化之前，为什么要对长文档进行切片？如果不切片会有什么后果？5.切片时设置重叠区域的作用是什么？这个比例你通常怎么来确定？6.讲一下稠密向量与稀疏向量的区别，分别适合处理什么样的搜索需求？7.向量库检索出的Top-K结果，如果K值设置得过大，对后续的生成质量有哪些负面影响？8.余弦相似度和欧氏距离在衡量文本相似性时，各自的优缺点是什么？9.为什么在初筛召回之后，还要加一个Rerank模型？它能解决向量搜索的哪些局限？10.如果文档发生了局部更新，如何通过增量索引来避免全量重新向量化？11.在RAG的生成阶段，如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉？12.了解HyDE吗？介绍一下原理，它在处理模糊提问时有哪些优势？13.随着超长上下文模型的出现，你认为传统RAG架构的必要性是否降低了？14.你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？15.调用大模型API时，为什么要使用asyncio异步编程？它在处理高并发请求时有何优势？16.针对大规模PDF解析这种任务，你选择多线程还是多进程？17.如何确保Agent返回的结果是标准的JSON格式？如果模型输出中有多余的说明文字，你在后端如何提取？18.场景题：对于RAG，如果检索到了针对同一故障的两份手册，内容相互冲突，请你设计一套逻辑，让模型能够识别冲突并优先选择时效性更高的信息？19.手撕：第k大元素

1、生图 Agent 的模型是什么？生图 Agent 一般不是单一模型直接完成所有事情，而是一套组合式链路。核心生成模型通常是文生图模型，比如 Diffusion 类模型，负责真正把文本描述转成图像。前面会有一个 LLM 负责理解用户需求、补全提示词、做风格约束、拆分子任务，后面还可能接图像评估模型、审核模型和重写模块。如果场景更复杂，比如“先理解需求，再生成多版图片，再筛选最佳图”，那 Agent 的结构一般是：LLM 负责意图理解、Prompt 改写、参数规划文生图模型负责出图评估模型负责打分、筛图审核模块负责安全过滤工作流层负责多轮迭代和状态管理所以生图 Agent 不是单模型，而是 L...

被横向挂了，希望发出来对大家有帮助！1.项目介绍2.训练样本大概多少条3.用户反馈怎么做的4.MOE 激活的分布，怎么确定是 MOE 的效果而不是单纯 ffn 参数量增大的效果5.有考虑用别的强化学习的方法吗6.dpo 的公式是什么7. grpo 了解吗8.kvcache 怎么做的，了解大模型中别的提高效率的办法吗9.sgd 是什么， Adam 相对于 sgd 改进了什么位置编码10.手撕 transformer 并计算 flops 和内存开销

很多人被问到这个问题时，第一反应是：“我会把Prompt写好一点。”但如果你真的这么回答，基本就已经输了。因为在真实业务里，大模型从来都不“乖”。它会幻觉、会乱填参数，甚至在极端情况下可能触发危险操作。就比如我之前做项目，有一步是需要让大模型输出一段JSON，我设置了非常严格的提示词，要他直接输出代码而不要带任何的对话，但还是会时不时的输出一句“好的”，让我们猝不及防。话说回来，问题的关键从来不是“让模型更聪明”，而是当模型不靠谱时，你有没有一套机制兜住它。所以如果你打算包装自己为一个真正有经验的工程师，就需要把这个问题拆成一整套体系，而不是一句prompt优化。（回答思路放在了文末）我们可以...