快手搜推算法面经分享 80min

一、基础必问1. 介绍下Transformer、Self-Attention2. 大模型：LLM是什么，RAG是什么，微调是什么3. Python常用库：Pandas、NumPy、PyTorch4. 过拟合怎么解决5. 评价指标：准确率、精确率、召回率、F1、AUC二、项目必问1. 你做过什么AI项目？2. 数据怎么来、怎么处理？3. 用了什么模型、为什么选它？4. 遇到什么问题，怎么解决？5. 结果怎么量化？三、工程必问1. Git常用命令2. Docker了解吗3. 模型怎么部署/加速4. 怎么排查bug、数据异常5. Linux基础命令四、行为/实习必问1. 遇到不会的问题怎么办2. 压力大、加班怎么处理3. 职业规划4. 为什么想来我们公司5. 你有什么优势

继续来分享下之前的面经~欢迎友好讨论，信息共享1．实习介绍。2．拷打了一下项目和论文。3．为什么多头注意力能提升表达能力？4．为什么要在大模型中使用 RMSNorm ？和 LayerNorm 有什么差异？5．KV Cache 是怎么起作用的？为什么对长上下文推理很关键？6．大模型推理时的加速思路？7．模型微调时遇到过过拟合吗？怎么处理的？8．手撕：1️⃣字符串的全排列2️⃣二叉树序列化与反序列化

攒人品中～～1.介绍 Lora 的思想，为什么有效2.DPO 的数据集来源3.PPO 和 GRPO 的区别（损失函数的 clip 作用）4.什么是大模型的幻觉，大模型解决幻觉的方式有哪些5.为什么降低温度能缓解幻觉6.你项目中 system prompt 和 user prompt 的区别7.DeepSpeed zero-3 有什么改进8.verl 和 vllm 你是怎么配合的，每个在项目中的作用9.手撕：LCR 076 数组中的第 K 个最大元素

攒人品中，祝大家都能拿到满意的Offer！1.lora微调原理2.P tuning3.强化学习 ppo grpo4.prompt 微调5.attention结构6.gpt12的结构7.Deepseek r1 训练四个阶段8.Encoder only decoder only 区别9.Llamma12的结构10.Deepseekv2 v3 r1 r1 zero的结构和训练过程11.探讨moe技术细节以及未来发展的困境