这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...

😋😋😋

长风破浪会有时，直挂云帆济沧海。刚开始准备找暑期实习时，我踌躇满志，自以为已经有了一段实习经历，加上9本，好好准备准备面试找个大厂暑期不是手拿把掐手到擒来?然而现实却给了我一个响亮的耳光，别说面试了，连简历都过不去，迎接我的，只有简历挂，测评完泡池子，笔试完泡池子...而我呢，每天都沉浸在八股-项目-算法-八股...的循环中，然而，却连一个面试机会，都等不来...，我，也有些懈怠了。就在这时，美团的面邀，就像，哦不，简直就是照进我灰暗的生活的一道曙光，我立刻找回自信，继续疯狂的复习八股，项目，算法，以迎接这场面试。然而，现实又是一记响亮的耳光，面试完后，很快就回归了人才库。我又陷入了迷茫，究竟...