比亚迪BYD能动都只开13k了？

1. 自我介绍2. 介绍下项目，重点讲架构、关键设计和线上问题3. Agent 的上下文窗口不够时，长短期记忆应该怎么分层设计长短期记忆不能简单理解成“最近消息”和“很久以前的消息”。更合理的设计是把状态拆成三层：工作记忆负责当前回合执行所需的最小上下文，摘要记忆负责阶段性中间结论，长期记忆负责稳定事实、偏好、任务状态和关键证据索引。这样做的好处是短链路推理不会被旧噪声拖死，而长任务又能在需要时按状态检索历史事实。真正难的不是分层本身，而是写入和召回策略。不是每条消息都值得进长期记忆，通常只把高价值、可复用、低歧义的信息写进去，比如用户偏好、外部工具执行结果、关键约束、任务完成状态。否则记忆库...

测开圣人 韩哥桃李满天下

我是犯天条了吗？大佬们

这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...