阿里大模型算法面经分享

攒攒人品！有面试过同岗的朋友欢迎评论区交流1、都知道哪些vllm的优化技术？2、在现有模型的基础上，由于算力问题，如何利用大模型来蒸馏一个3B的模型？3、logistic回归的模型原理和loss。4、给定一个时间序列，如何通过机器学习的方法进行建模筛选出来重要的特征，然后基于规则方法进行建模5、DeepSeek-MTP是用在训练阶段还是推理阶段的，具体过程是怎样的？6、在现有大模型的基础上，如何通过agent的相关方法，训练一个coder模型，撰写金融领域相关模型的代码。

发一下问题给大家参考，攒攒人品！1- 问项目2-为什么选择grpo不用sft，技术选型，什么时候用sft，什么时候用蒸馏，什么时候用grpo3- grpo训练中观察什么指标4-八股：5- grpo 的 loss 讲讲6- Advangates 怎么算的，在整个训练中起什么作用，为什么需要Advatanges，直接用奖励去算不行吗？7-重要性采样，为什么需要。如果一次新策略和旧日策略差别很大，那重要性采样还有用吗8-grpo的K|散度和ppo的kl散度是一模一样的吗9- ppo grpo Fon-policytEoff-policy10- ppo中advantages是怎么得到的？11-信用分配，grpo中，比如一个采样结果，是序列级别的，如果这个序列的最终奖励高，那么是如何分配到每个token的12-Agent 做多轮工具调用 和单轮，可能有什么挑战？13- code: x 的平方根

看了大家不少面经，我也发发面经攒人品✉️投递：3.18💬面试：一面 3.23 二面 3.25 三面 4.3 HR面 4.13📝offer：4.21🎙️我的感受：我由于测评不高，面到HR面的时候非常的焦虑，很怕因为测评给我挂了我投的淘天全挂了，可能就是因为测评不行吧总体下来阿里的面试官还是挺尊重的，拷打的很详细bg：双九，一段小厂对口实习面试主要内容狠狠拷打简历，实习内容，问的非常详细，会问到你负责了什么，用了多少张卡，学习率怎么样，训练了多久，用了多少数据，数据是怎么准备的，显存占用怎么样场景题：如果我目前有一个数字人的模型，我想训练成只生成一个人的，可以怎么做你看过什么别的 SOTA 模型的 ref image 注入方式，有什么优劣八股：如何判断模型是否收敛如果训练的时候梯度消失或者爆炸，你怎么解决如何系统判断是否训练完成，特别是在视频生成模型中有哪些常见的蒸馏方法LoRA 微调的原理DiT 的框架流程，如何时间注入，讲一讲 AdaLN讲一下 flow Matching，原理，优势现在为什么大家都用 RMSNorm 而不是 LayerNormAdam 和 AdamW 的原理，有什么改进手撕：1. 二叉树的右视图2. 非 hot 100，滑动窗口3. 扎破所有气球的最少箭数暑期实习还是太折磨了，我面了好多场，一直在泡池子。。。腾讯二面给我泡了13天然后挂，米哈游一面挂，快手简历挂。。。看到身边同学都拿到offer了，那是一个焦虑啊，本来都想转日常了。最后总算是有一个结果了

三道算法，第一题全过，第二题思路和公众号的算法写的一样，但是很诡异才过了65%，我当时同样的代码连续提交了很多次，第一次过40第二次过60第三次过65（难道说网速和输入输出也很影响时间复杂度？我时间复杂度是ON），第三题想了半天，感觉是DP但是写不出来，放弃了