首面 - AIGC算法工程师

给我面没招了，感觉自己好菜1. 解释LoRA训练方法，以及低秩矩阵更新的原理和优势2. 有了解传统精排方法吗，比如LTR3. 有了解Qwen3的embedding和Reranker模型吗，结构和特点是什么4. 结合项目讲大模型训练的几个阶段的特点和异同5. 介绍GRPO、PPO、DPO，分别需要几个模型，需要训练的是哪些6. 重要性采样有哪些方法，比如裁剪、KL散度约束、加权归一7. 介绍GSPO的优化点，腾讯最近出的SPO系列算法有关注吗8. 大模型微调过程中，如何避免灾难性遗忘9. 模型蒸馏在大模型落地中的作用和常用方案代码部分1. PyTorch实现GQA（分组查询注意力）2. 接雨水，要求手写两种方法：暴力法和双指针3. 经典SQL题：分组统计、排序、条件筛选

继续来分享下之前的面经~欢迎友好讨论，信息共享1.实习拷打2.在微调大模型时，你使用过哪些框架？它们的优缺点分别是什么？3.CLIP 模型的 zero-shot 能力是如何实现的？它在多模态任务中的应用有哪些优势？4.Transformer 中 Pre-Norm 和 Post-Norm 的设计差异是什么？对模型训练稳定性和性能有何影响？5.在生成式大模型中，为何通常采用 Decoder-only 架构而非 Encoder-Decoder 结构？6.请描述大模型中自然语言理解模块的具体实现方案，包括语义解析和意图识别的关键技术。7.针对 Transformer 模型推理过程，你会采用哪些优化手段？8.请阐述RAG的核心原理，并说明如何通过 RAG 缓解大模型的幻觉问题。9.vLLM 框架的核心优化原理是什么？其在动态批处理和显存管理上有哪些创新设计？10.请对比 RLHF、PPO、DPO 算法的技术差异、优缺点及适用场景。

给我面没招了，发点面经攒攒人品～1.实习拷打2.了解哪些大模型， Qwen 和 DeepSeek 各自的特点？3.MoE 跟 Dense 比，收益主要体现在哪？代价又是什么?4.有没有做过全参微调？没有的话你怎么判断它和值不值得做？5.如果你要把 LoRA 和全参做对比，你会怎么设计实验、控制变量、看哪些指标？6.RLHF 解决什么，在对齐里起什么作用？ RLHF 这一块会继续深挖：7.你知道哪些主流的对齐／强化学习做法？8.代码题：括号生成＋手写多头自注意力

面试很难，还是要多多练习1.项目拷打2.酣畅淋漓的技术八股...*-讲一下Wan(阿里的通义万相)的框架是什么*-是否了解MM-DiT的框架*-对于DiT，时间t是怎么注入的，AdaLN讲一下*-了不了解VideoVAE是怎么训练的，用了什么损失函数，如果重建视频不清晰可以再加什么Ioss*-KL散度具体的公式是什么样的?和交叉熵损失函数有什么区别联系*-是否了解Flowmatching，具体是怎么做的，和DDPM的优劣*-讲一下Classifier-Free Guidance*-是否了解视频后训练怎么做的，GRPO是什么*-你觉得对于训练一个视频基模，应该有哪几个流程，哪一步比较关键*-训练过多大的模型，用了多少张卡*-训练过程中是否遇到过不稳定的情况，本质上是因为什么*-是否了解混合精度，FP16和BF16的区别*-是否了解大模型训练中的几种并行(DP,PP,TP,EP)3.手撕: 经典 multi-headattention