这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...

技术面的人敲打细节很无聊啊 之前做的一个项目被说 经常因果分析 说你的一个小项目和大模型 然后就搬出什么qq的logo是企鹅是产品有研究的。我说拜托这种东西不都是别人成功后才被推敲的吗，没成功谁会知道qq是企鹅还是什么。然后面试的就自信的说自己能说出qq和国外所有通讯软件的优劣势和区别借此来打压我的项目论证其产品和市面上大模型的无差别处。我说一个小项目肯定是会和市面上很多功能有相同的，真这么扣的话为什么你比我大这么多早二十年做出qq的不是你而是你在这里抓着我的项目显示你产品功力的优越感