一天一个 AI 岗位解析，今天来聊聊——AI训推框架研发工程师（AI Infra）如果说算法工程师是在让模型更聪明，那这个岗位就是👉 让大模型能稳定、高效、低成本地跑在业务里。不直接写业务逻辑，也不用直接和用户打交道，但是所有AI产品都离不开他，是实打实的“基建大神”。无论是 AI Agent、AI搜索、AI分身，背后都离不开训练与推理框架的支撑。一、这个岗位平时在做什么这个岗位的工作核心可以总结为三块：1️⃣ 大模型训练 & 推理框架研发首先你需要参与公司自研的 AI 训推框架开发，比如：大模型推理引擎优化训练框架性能提升推理吞吐与延迟优化巧妇难为无米之炊，得先开发框架才能后续推进...

不知道过两年会变成啥样…   

我还记得24年研究RAG的时候，压根没有想到，后来技术的发展，大模型的上下文能长成现在这个样，而且随着技术进一步发展，其实Memory的加入确实能让Agent的上下文能力变得很强，但真当面试时如果被问到这个问题，你得清楚，其实是一个非常典型的面试陷阱。（我准备的答案在文末）为什么这么说？如果你跟风回答“会”，面试官很容易判断你缺乏工程落地经验，也没有真正考虑过成本问题。但如果你回答“不会”，面试官往往又会继续追问：既然不会，那现在模型拼命把上下文窗口做到几百万Token，难道方向错了吗？RAG还有存在的必要吗？你会觉得，这道题似乎怎么回答都不对：说“会”，显得外行；说“不会”，又像是在否定技术...