AI面试大全

顺便分享一下当时想转AI全栈被拷打的这几个问题：如果要开发美团智能客服Agent，如何设计多轮对话流程？-你会使用哪些对话状态跟踪方法？-如何处理用户意图模糊的情况？描述一次使用 LLM 开发智能助手的经历，遇到过哪些幻觉问题？解释 AI Agent 的规划能力，如何实现多任务协同（如点餐、支付、售后）？在设计 Agent 的工具调用能力时，你的技术方案是什么？-如何选择合适的工具 API？-会使用哪些函数调用框架？分享一次通过用户反馈优化 Agent 能力的经历，关键改进是什么？

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

1. 提问艺术 (Prompt Engineering)指定角色：“你是一位资深 Java 后端工程师”。明确任务：“编写/重构/解释/优化” + 具体功能描述。设定约束：“不使用第三方库”、“遵循 PEP8 规范”、“添加详细注释”。要求输出：“只输出代码”、“先解释思路再给代码”、“用 Markdown 格式”。2. 上下文管理 (Context)提供报错：直接粘贴完整的 Error Log 或 Stack Trace。相关代码：只粘贴与问题相关的函数/类，避免过长（注意 Token 限制）。数据结构：明确输入/输出的 JSON 结构或数据库 Schema。技术栈：说明版本（如 React...