字节后端一面

1. 自我介绍2. 为什么会做ChatSDK？大模型流式与非流式传输的原理是什么？为什么用 SSE？做 ChatSDK 是为了封装与大模型后端的交互逻辑，提供统一的、稳定的接口，方便上层业务（如辅助写代码插件）直接调用。非流式传输：客户端发出请求，服务端将完整的回答全部生成完毕后再一次性返回。等待时间长，体验极差。流式传输（基于 SSE 协议）：SSE (Server-Sent Events) 是一种基于 HTTP 协议的单向长连接技术。它可以让服务端按 chunk 块不断向客户端推送生成的 token 数据（Content-Type: text/event-stream）。相比于 WebSo...

总的来说是一个做交付的组，一面问的很杂，表现出来的像是主要做运维，解决一些客户的线上问题，做一些 docker 的打包交付，vllm/sglang 只是想知道简单的配置选项二面自我介绍完之后ld直接问我方向不是很匹配会不会去，我说不会，就友好结束了腾讯云 - 技术与产品方向 a. 自我介绍，对某AI芯片厂的经历比较感兴趣 i. 讲一个实习中最有亮点的算子，遇到什么问题，怎么解决 ii. 遇到过什么坑吗？ iii. 性能怎么调试？模型 -- 看op占比，算子 -- 看关键代码 iv. 精度怎么调式？op -- 单测，模型 -- 逐层对比 v. 对训练有什么了解吗，你们在训练过程中是如何做加速的？...