凌晨1点，我睡得迷迷糊糊的，接到一通电话，那边传来一个中年男的声音，他很小心翼翼的问我说，老师能不能帮我解决个问题？我想都没想，直接说都这个点了，早点休息吧。他突然又说，哎，老师，我真的不想熬夜了，明天这个报表，还得用呢，实在不想熬夜了。听到这里我就好奇这得多大的问题，心想这么急，这么晚了既然找到我了，那我就给他做吧，我打开电脑，看到他的文件，我瞬间沉默了，就他这个问题，如果问稍微懂一点的人的话，几分钟就搞定了，他没必要一个人死磕。过了一会我给他解决完问题以后，他跟我说他这个问题从白天上班开始，一直到现在凌晨，快到现在了，没磕出来，中间也不好意思问别人，就把自己逼到这个份上。中年人，我们不会的...

没招了，笑死了

就是觉得好漂亮，可能是配色？

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...