面试总结

1. 大模型相关经历深挖：你项目里最核心的贡献是什么，怎么验证有效2. 对比学习 loss：负样本和正样本拉不开/太像了，你会怎么改损失或采样3. FlashAttention 跟普通 attention 的差异？实现里 QK^T、softmax、PV 这几步怎么落4. 3D 并行里 DP/DDP 你怎么理解；实际落地时通信瓶颈一般卡在哪些环节5. 14B：FP16 权重大概多大；训练还要加哪些；INT8 大概能省多少6. torch.contiguous() 干嘛的？推理为什么在意连续性7. 代码：读 txt 井字棋（3×3），判断当前玩家是否获胜8. 交叉熵损失：解释/怎么写9. 线性回归用 SGD：更新公式怎么推/怎么写⭕如果你现在：- 春招/秋招没方向- 简历没人看- 面试总挂- 不知道怎么准备📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

整体面试还是不错的，发下面经给大家参考～1.实习介绍2.在微调大模型时使用过哪些框架3.CLIP模型的zero-shot能力是如何实现的？4.Transformer中Pre-Norm和Post-Norm的设计差异是什么？对模型训练稳定性和性能有何影响？5.在生成式大模型（如LLaMA、GPT）中，为何通常采用Decoder-only架构而非Encoder-Decoder结构？6.请描述大模型中自然语言理解模块的具体实现方案，包括语义解析和意图识别的关键技术。7.针对Transformer模型推理过程，会采用哪些优化手段8.请阐述检索增强生成（RAG）的核心原理，并说明如何通过RAG缓解大模型的幻觉问题。9.vLLM框架的核心优化原理是什么？其在动态批处理和显存管理上有哪些创新设计？10请对比RLHF、PPO、DPO算法的技术差异、优缺点及适用场景

还是要再接再厉啊！！面了差不多四十分钟左右1. 项目问题2. 内存布局（栈/堆/静态区）、new vs malloc、深/浅拷贝3. 智能指针（unique_ptr/shared_ptr/weak_ptr）、虚函数与抽象基类4. 内存对齐规则与结构体大小计算5. 右值引用与移动语义6. SIMT架构（thread→block→grid）、寄存器分配（局部变量）7. 优化手段：shared memory复用、warp shuffle、向量化加载（float4）8. bank conflict成因与padding规避9. 缓存原理（局部性+LRU替换策略）10. 编程题：Top-K高频元素（哈希表 + 最小堆）

给我面没招了，发点面经攒攒人品～1.项目拷打2.介绍一下奖励函数的坍缩现象和问题3.离线强化学习和在线强化学习了解么？你的项目里是哪种？4.代码:onehot100的2d接雨水5. GRPO 公式？为什么公式里面 clip 了外面还要计算一次 mean 呢？6.讲讲qwen2.5vl, llama7.多目标优化奖励函数冲突，8.介绍一下 QKV 的计算？9.手撕MHA