26秋招快手大模型一面凉经

八股
1. 请介绍一下Transformer的核心组件及其作用
追问:Position Embedding 有哪些类型?RoPE是怎么运作的,为什么适合长文本?
2. 你对SFT的理解是什么?与预训练相比有什么差异?追问:SFT冷启动时数据集构造需要注意哪些因素?为什么要做数据清洗与均衡采样?
3. 讲一下RLHF原理。追问:在Agent推理模型的RLHF流程中,Reward Model 的训练常见陷阱有哪些,怎么缓解模式坍塌?
4. 介绍一下RAG的整体流程。在Agent落地场景中,RAG会遇到哪些延迟和正确率问题?你怎么优化召回链路?

项目
1. 在你的问答Agent项目中,数据集构造的自动化流程是怎么实现的?
2. 你是如何利用多Agent协同来提高推理正确率的?调度策略如何实现?
3. 你提到用DeepSpeed做SFT训练,请讲一下DeepSpeed ZeRO Stage 1-3的区别,以及什么时候用FSDP会更好?
4. 你做Prompt优化时,是如何判断优化后的Prompt在Agent推理链路中性能提升的?用什么指标来衡量?
5. 在多Agent系统中,如何保证异步任务执行的稳定性和结果一致性?
6. 如果Agent推理API需要低延迟响应,你会从哪些方面做系统级优化?

手撕
Leetcode 39 组合总和
全部评论

相关推荐

评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务