26校招商汤大模型算法一面

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2. 实习拷打3. 你们选用的训练方法是什么？训练数据具体是怎么构造的？4. 这里的训练过程，我理解是前面有一段医学语料的预训练，然后再加一段对齐过程，是这样吗？5. 关于 SFT 阶段，数据具体是怎么生成的？6. SFT 之后，后面的 DPO 过程又是如何开展的？7. DPO 需要 Chosen 和 Rejected 至少两组对比数据，这两组数据你们是怎么得到的？8. 我们现在这边可能对于医疗业务关系比较远，问一下更加基础的知识。既然谈到 DPO，谈一下 DPO 以及后续其他偏好学习算法的区别，以及各自的优劣。9. 那么 GRPO 算法呢？10. DPO 算法有哪些缺点？11. 谈谈强化学习中 On-policy 和 Off-policy 的区别，你是怎么理解的？12. 看你不仅做训练，还负责基础设施 Infra 的搭建。训练基础设施也是归你亲自搭吗？13. 当时是在哪个项目里面参与 Infra 工作的14. 你刚才提到了 Megatron，你们试过 PyTorch 原生的 FSDP 吗？15. 既然试过 FSDP，为什么最终还是选用了 Megatron？，你们当时的选型考量是什么？16. 既然提到 FSDP 和 DeepSpeed ZeRO 的区别，FSDP 实现了 ZeRO 的哪几个阶段？ZeRO-1, 2 还是 3？17. 探讨一个现实的业务问题：我们核心业务是对话类 Agent 产品。经典架构是前端设有一个意图识别与路由环节，将客户请求分发到不同的子 Agent，由于子 Agent 功能实现完全不同，不能混在一起，所以路由非常关键，一旦路由错误就无法满意回答。另外，作为全链路的必经点，路由必须足够快。我们考虑在最前端用一个相对较小（如 7B 或 13B）的模型，通过后训练使其掌握特定领域知识，实现低延迟的路由。如果让你做这个模型，你会怎么去做？

📍面试公司：数坤科技🕐面试时间：4.15（1h左右）💻面试岗位：实习算法工程师❓面试问题：1.自我介绍2.项目介绍，用代码/伪代码介绍项目数据流3.你的agent项目是如何评估的？4.rag的召回指标如何评估？5.如何知道chunk是不是你的目标chunk？只能人为标注？能不能自动化完成？[补充]如何写好一份prompt？6.rag效果不好怎么办？微调？成本太高怎么办？prompt工程？小模型提示词写好之后依然对有些数据效果好，有些数据不好，怎么办？除了微调，换模型，还有什么？7.KV cache原理？为什么不存Q？8.数据漂移怎么办？哪些参数影响模型推理阶段回答的稳定性？如何影响？手撕: 开根号反问: 组内业务/人数，作息时间🙌面试感想：有几个问题忘了，记性不太好。。想起来会补充。面试官人挺好的，不过我回答问题啰啰嗦嗦又磕磕巴巴。。

📍面试公司：快手🕐面试时间：1h💻面试岗位：前端开发❓面试问题：1. 自我介绍2. 如何看待ai对前后端的冲击3. 看代码说结果function Foo() {this.a = 1;return {a: 4,b: 5,};}Foo.prototype.a = 6;Foo.prototype.b = 7;Foo.prototype.c = 8;let o = new Foo();console.log(o.a);console.log(o.b);console.log(o.c);4. Promise实现异步并发调度器5. 实现Promise.all6. 数组转树7. 实习里有技术难度的内容8. ai项目怎么保证输出结果一定正确9. 反问

面试公司：快手面试时间：4.10面试内容：一、自我介绍（3分钟+）二、实习项目拷打（20分钟+）：1.按照项目背景+成果描述实习经历2.解释一下cdn是什么，怎么用的？3.Guava在项目里是用来做什么的？4.直接用redis+mysql不行吗？5.如果使用hashmap做缓存，同时只有一个线程读和一个线程写，会不会有并发问题？6.这个热点key是通过什么来判断的？三、算法题（20分钟+）手撕快排（这题我起码写3遍了，可是脑子里当时想的是基于链表的归并分治搞的我直接宕机了，结果拼尽全力无法战胜，最后说了思路）面试感想：面试时间比较短，算法没a出来我就感觉这次必挂了，最可惜的还是这算法我写过，其他方面这次项目拷打就问了我简历上的一个小点，让我感觉有点像kpi，不过也让我体会到基础算法的重要性面试结果：不出意料的秒🐸🐸🐸🐸🐸🐸🐸🐸🐸🐸