宁德时代

1. 自我介绍2. SSE 跟 WebSocket 有什么区别？为什么模型推流场景很多时候选 SSE，不选 WebSocket？答案：SSE 是服务器到客户端的单向流式推送，基于 HTTP，天然适合把模型生成的 token 一段一段往前端推。WebSocket 是全双工协议，更适合双方都要频繁通信的场景，比如协同编辑、实时游戏、双向控制。模型推流大多数时候是服务端连续输出、客户端被动接收，所以通信模式上 SSE 更贴近需求。另外 SSE 在工程上更轻，和现有 HTTP 网关、鉴权、中间件、日志系统、Nginx 代理兼容性更好，浏览器原生支持 EventSource，实现成本低。很多公司不选 W...

原来就算签了协议也是可以提前走的吗，有无有经验的前辈说说是真的吗

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...