实习花销

1. 自我介绍2. SSE 跟 WebSocket 有什么区别？为什么模型推流场景很多时候选 SSE，不选 WebSocket？答案：SSE 是服务器到客户端的单向流式推送，基于 HTTP，天然适合把模型生成的 token 一段一段往前端推。WebSocket 是全双工协议，更适合双方都要频繁通信的场景，比如协同编辑、实时游戏、双向控制。模型推流大多数时候是服务端连续输出、客户端被动接收，所以通信模式上 SSE 更贴近需求。另外 SSE 在工程上更轻，和现有 HTTP 网关、鉴权、中间件、日志系统、Nginx 代理兼容性更好，浏览器原生支持 EventSource，实现成本低。很多公司不选 W...

这还是🐮的，哈哈哈哈。多读书!

1. 自我介绍2. Transformer 里 Attention 的本质是什么，为什么它适合 Agent 场景Attention 本质上是在做动态加权的信息选择，模型不是把所有上下文平均看，而是根据当前 query 去分配不同 token 的影响力。它的优势在于能处理长距离依赖，并且支持内容寻址，这对 Agent 场景很关键，因为 Agent 经常要从长历史、工具返回和外部知识里挑出当前最有用的信息。真正落地时，Attention 的问题不在“能不能看远”，而在“看得太多以后会不会被噪声拖偏”。3. 在多轮对话 Agent 中，Attention 的局限性体现在哪些方面局限性主要体现在三个地...