1.项目介绍2.训练样本大概多少条3.为什么会想在重排做生成式4.如果是做生成式召回应该对模型结构怎么修改5.有考虑用别的强化学习的方法吗6.dpo 的公式是什么7. grpo 了解吗8.beamsearch 怎么做的9.大模型了解多少，强化学习了解什么10.手撕 transformer 并计算 flops 和内存开销

1.CogVideoX 的模型结构、3D VAE 的压缩率、MM - DiT 的优势、4f+1为什么要＋12.FLUX 的结构，生成模型，优势3.SD3的架构，生成原理 Flow matching4.VQ - VAE 使用的的损失函数，训练过程5.为什么用 Lora 微调，为什么不用 ControlNet6.Lora 的原理， LoRA 在推理的时候怎么与原参数融合不带来时间成本7.Flow matching 与 DDPM 的区别及优势8.数据和 prompt 构建的过程9.个人怎么看待视频生成和图像生成，更倾向于那种10.Wan2.1的详细架构和训练细节11.算法：0841．钥匙和房间

1.实习介绍2.grpo 在做大模训练时，一般用全参数微调还是 lora 微调？3.训练的优化器一般用什么？ Adam 跟 SGD 的显存相比哪个占比更高？4.除了 FM 和 DeepFM 这种做特征交叉的结构，还有哪些其他的做特征交叉的结构吗？5.你之前的两段实习你觉得哪段对于你的个人成长来说是帮助最大的？6.你的推荐项目里面提到了用了腾讯广告算法的 trick 去提升模型能力，具体是什么？7.有遇到大规模数据处理的情况吗？用过 spark 吗8.代码题： leetcode hot 100的题

1. Transformer现有架构在什么情况下，哪个模块会导致用户意图判别不准？2. Transformer中的Q、K、V分别来自哪里？代表什么？3. MOE（混合专家模型）和传统Transformer的核心区别是什么？4. GRPO 和 SFT 的数据量分别是多少？5. 项目中数据输入是整段视频，还是拆分使用OCR、ASR分别处理？6. 力扣岛屿题第10题中，DFS/BFS里计数函数的两个循环分别起到什么作用？7.上下文场景中，单Agent和多Agent各自的优劣势是什么？8. 什么情况下选择单Agent，什么情况下选择多Agent？9.向量向量化后，距离计算的方法有哪些？

1.leetcode无重复字符的最长子串图论：岛屿数量、岛屿最大面积链表：反转链表、删除链表中重复的元素II、K个一组反转链表二叉树：层序遍历、中序遍历前K个高频元素滑动窗口最大值动态规划：买卖股票全系列，最长回文子串，最长公共子序列，编辑距离合并区间回溯：括号生成2.非leetcode快排二分查找写一个开三次根号函数，误差在1e-5输入123输出321用随机数函数randf（）表示概率，如从一个数组中取出某个数的概率为0.5这样3.cuda尽量不要写naive版本reduce（至少要用warp shuffle）二维大矩阵reduce，（1000000，128）矩阵reduce到（1，128）GEMM的一些优化方法（一个thread算多个数，数据复用；访存合并；双buffer边读边算；避免bank conflict）layernormsoftmaxonlin softmax

1.实习介绍2.针对项目提问3.FlashAttention原理，Online softmax，有没有看过cuda kernel，FlashAttention V1,V2,V3，FlashDecoding原理4.推理优化的思路（方法）有哪些5.用没用过vllm/SGLang，原理6.有没有听说过Dynamic Batching7.Coding：写一个ruduce，用block，优化版：用warp shuffle，能不能再优化？8.加载到shared memory和直接从HBM取input比为什么更快9.有没有听说过shared memory的bank conflict10.反问：在哪些地方可以继续提升自己

1. 实习介绍2. 介绍项目3. 知不知道其他量化方法4. 对于量化误差而言，数据应该怎样分布较好5. 针对有异常值的情况，数据分布越均匀越好，在量化到int8,fp8,int4时都没问题，但是量化到fp4时却不是如此，为什么6. 熟悉CUDA，描述一下如何优化GEMM，在其中计算时shared memory的大小怎么取7. 手撕：CUDA写一个norm  input: x[N]  norm = (x – u)/ou = sum(x[N]), o = sqrt((sum(x - u))^2/N)

1.如何理解 dspo 这几个算法的创新？2.agentic 长文本训练时候容易 oom，你有什么好的优化吗？3.长上下文压缩有哪些方法？4.其他的全是简历和论文了5.手撕： k 个链表反转、岛屿面积6.反问环节

1.MOE 原理，讲一下负载均衡以及有哪几种类型？ 你能写一下公式吗？2.MOE 的 expert parallel 如何做的？ 你用了 swift 参数怎么设置的，有 2 个 node 你如何分配你的训练参数？3.做 grpo 遇到熵崩没有？你是怎么理解的？如何解决的（clip higher 限制、小学习率）4.大模型容易 reward hacking，如何解决？你说训一个小模型，那小模型数据如何来？还有什么办法吗？5.VLLM prefix cache实现过吗？ 讲一下你的理解6.在训练 grpo 时候应该更新rollout 的 mllm 吗？（ref model）7.手撕： transformers encoder

1.问论文/项目/竞赛2.预训练和SFT的loss计算差异？3.on policy和off policy?4.对目前LLM领域的最新进展一直在关注吗?5.Qwen3相比前代有什么改进？6.手撕：面试官说给个简单的，出了一个力扣easy

1.拷打论文2.拷打竞赛3.对强化学习训练有什么了解吗？4.你在做一个任务的时候，你怎么判断他在训练的时候要不要先经过5.SFT呢？然后再进行RL呢？6.如果是一个开放任务，比如对话任务。没有固定答案，该怎么选RL训练策略呢7.做RL时的pass@1和pass@k，你觉得这两个指标存在什么关系8.讲一讲GRPO的原理，它的loss怎么写的9.GRPO的优劣/后续改进10.base地倾向？11.手撕：编辑距离

1. 自我介绍2. 项目深挖3. RAG的问题与改进方案。4. 在不能修改模型的情况下，如何调整模型回复风格？5.平时是否使用vibe coding？对此有什么看法？6. PPO、DPO、GRPO、DAPO等RL算法的原理和区别。7. .为什么大模型有few-shot能力？讲一下few-shot能力的原理。8. 手撕代码：torch写SFT的loss计算代码（注意shift right）📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1.项目经历2.如何增强模型的多轮对话能力？3.介绍MoE （混合专家）架构核心优势。4.阐述大模型训练与推理的完整流程。5. 对比 LORA 微调 Qwen 模型两种微调方式的性能表现。6.FlashAttention v1 和 v2 的主要改进点分别是什么？7.CoT（Chain-of-Thought）训练数据是如何构造的？8.当前主流的强化学习算法有哪些？9.代码：LeetCode 22，实现“括号生成”问题。

一、实习介绍二、拷打 rag 项目：1.项目还可以提升的地方2.感觉自己可以多久完成这个项目3.dpo训练对于系统问答的优化在哪里4.提高模型的准确率核心是什么5.怎么提高数据的质量6.rag 文档怎么切分7.rag 向量化的模型8.rerank 用的什么模型9.有没有微调 rerank 模型/应该怎么微调10.dpo 用的什么库11.代码：已知无序数组，求第 k 大数

1️⃣ 自我介绍2️⃣dpo训练对于系统问答的优化在哪里3️⃣提高模型的准确率核心是什么4️⃣rerank 用的什么模型5️⃣swiGLU 的改进6️⃣全参数微调 7B 需要多少显存7️⃣FP16/BF16 区别8️⃣介绍 gradient checkpoint9️⃣RougeL 计算方法1️⃣0️⃣代码：找数组第 k 大元素

1.实习经历穿插具体介绍2.bceloss公式介绍用pe，优势在哪里3.粗排有没有和精排有什么交互信息4.序列建模的基线模型是什么5.Linux常用命令有哪些，如何用Linux命令在两服务器间传数据6、如何降低KV cache7、讲讲DeepSeek中的MLA8.讲讲最开始的自注意力机制发展到当今的一个优化路线9.手撕最长公共子串

1.实习介绍2.问项目3.GRPO,DPO,PPO区别4.LORA的秩一般是如何选取的5.小米训练用的什么框架6.LORA微调的原理7.LORA为什么可以实现少量的参数完成全量微调的效果8.手撕有效的IP地址9.反问，组里做到餐的LLM生成餐，toC和toB

1.拷打论文2.介绍模型3.数据清洗流程4.采用什么样的策略、什么样的数据才会便于模型学习5.数据配比能说下思路吗6.主流LLM模型结构设计有什么特点7.如何评估LLM8.训LLM最大的困难是什么9.前沿LLM有了解哪些10.工具调用怎么实现11.国内LLM有了解哪些12.LLM推理能力的天花板现在是什么程度13.无手撕

1.项目介绍2.训练样本大概多少条3.为什么会想在重排做生成式4.如果是做生成式召回应该对模型结构怎么修改5.有考虑用别的强化学习的方法吗6.dpo 的公式是什么7. grpo 了解吗8.beamsearch 怎么做的9.大模型了解多少，强化学习了解什么10.手撕 transformer 并计算 flops 和内存开销