这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...

幸亏看到这个帖子

📍面试公司：百度❓面试问题： 挑一个你觉得相对有技术挑战的，仔细讲一下 流式输出SSE 的请求用的是什么框架？ 怎么去做吐字动画？ 项目分工 AI coding 写一个类似于搜索框的搜索的产品。从技术设计上你觉得有什么可能需要特别注意或者考虑的点吗？结合你刚刚的这些搜索对话什么的。（应该要回答防抖节流之类的） 搜索的字符匹配高亮，这个后端要如何处理接口呢？写一个接口的 API 搜索的时候，他可能会有一个假设一个场景。我搜索第一个query的那个时间特别长，可能是 10 秒钟才回来。然后搜索第二个query，回来的时间比较短，可能 2 秒钟就回来了。那这个时候那个搜索结果页会发生什么呢？（第二...