这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...

目标后端

随时随地都有可能error

1.你这个项目是哪来的,网上找的吗2. 你的网络框架大致架构是怎样的3. epoll 能监听磁盘文件吗，为什么普通文件和 socket 在事件模型上表现不同答案：epoll 从接口上看可以把很多 fd 加进去，但并不是所有 fd 都能像 socket 一样带来有意义的事件驱动收益。普通磁盘文件通常总是“可读”“可写”，因为它们不具备网络连接那种等待对端、等待缓冲区状态变化的语义，所以即使加入 epoll，也不会像网络 fd 那样随着数据到达不断产生值得等待的边缘事件。真正适合 epoll 的通常是 socket、pipe、eventfd、timerfd 这类“状态会变化”的 fd。如果业务是“...