第n次错过腾讯云芝电话。。。

这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...

绷不住了

rt 不知道是真的假的丁老板 太难绷了

有这样一个问题：“在实际运行中，如果你的 Agent 陷入了 ReAct 循环，或者不断调用同一个错误的工具，你是怎么在工程上解决的？”为什么这个问题是“分金岭”？很多人做 Agent 还停留在 Demo 阶段，认为只要 Prompt 写得好，模型就能自动完成任务。但在真实场景下，Agent 经常会变成“复读机”：它发现工具 A 没给它想要的结果，于是思考一下，再次调用工具 A，如此循环，直到烧光你的 Token。深度解析：你该如何作答？一个标准的、有“工程手感”的回答，应该包含以下三个层面的策略：第一层：硬性约束（Stop Conditions）这是最基础的。你需要提到你设置了最大迭代次数（...