百度内推百度内推码

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...

，有没有什么老主神学，祝我一臂之力

正式进入AI Coding时代了  

很多人学Agent上来就啃框架文档，结果越看越懵。不如先把Claude用透。日常用Claude的过程中，你会自然遇到三个问题：为什么有时候回答很准，有时候一塌糊涂？为什么给的上下文不一样，结果差这么多？为什么有些任务它能自己拆解，有些完全跑偏？这三个问题就是Agent的核心：prompt工程、上下文管理、任务规划。从这里展开学就有方向了。prompt写不好，Agent就是个废物，先把Claude的system prompt、few-shot、chain of thought这些玩明白。然后学RAG，因为Agent需要调用外部知识，向量数据库怎么存怎么检索得懂。再学tool calling，Cl...