继续来分享下最近的面经~欢迎友好讨论，信息共享1.实习介绍2.为什么2.5-7B的结果比3-8B的好3.一些训练的策略（分片等4.大模型训练和推理的区别5.训练时除了最终的准确率还看哪些指标6.transformer的self-attention过程中，tensor 形状怎么变化？7.手撕：实现queue

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2. 讲论文3. 4k* 4k输入qwen3.5和qwen1，分别占用多少token（mlp和q-former）4. 为什么qwen从q-former转到原生分辨率5. 对齐做过吗6. 从对齐这个角度出发分析qwen3.5会做原生的多模态，原生和非原生的区别是？以为说的是分辨率答了个动态分辨）7. 算一下模型训练和推理时候显存占用，算一下kv cache的显存占用8. 为什么训练的时候不需要缓存kv cache

发一下问题给大家参考，攒攒人品！项目：1. 项目中的主要角色，负责哪些工作2. prompt如何设计，如何优化3. 冷启的数据选择4.能否通过PE和数据制作进行sft，避免rl的学习八股：1. DPO和PPO的差异2. DPO训练后模型整体效果变差，原因与解决方法3. DPO的效果衡量4. ocr模型了解程度5. SGD的核心原理和逻辑，解决什么问题场景题：1. 在有搜索点击的日志时，如何判断query的类目意图2. 新query下无历史日志，如何判断

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.项目拷打2.为什么强化学习用的是Grpo，没有用DPo测试？如果要改进的话有什么想法？3.有没有遇到上线后过拟合的情况？4.蒸馏部署的合规率怎么算的，离线的吗？5.在推荐场景下，有了sid之后怎么构造样本，然后以及怎么去训练。推荐系统和大模型结合，能基于目前的东西做什么改进？两个力扣：1.数组top k2.数组中出现两次的数

感觉暑期实习能投的公司越来越少了…… 字节腾讯美团阿里该投的都投了，在等结果。 刷了一下其他同学的帖子，大家都差不多，deadline越来越近，还没offer都开始焦虑了。 整理了一下，截至本周，还开着投递的（不完全，欢迎补充）： 美团 — 部分部门还在，算法HC还有快手 — HC比较少了，但还没关网易 — 算法/ML方向还有几个坑百度 — 部分BG在招，智能云还开着小红书 — 算法方向还在一些中厂：多益、三七互娱、网易游戏部分岗位还开着 内推的话各大厂基本差不多截止了，有学长学姐资源的现在去要内推还来得及…… 【一个省时间的方式】 最近同时在跑好几家的流程，又要填表又要备面，时间真的不够用。...