阿里淘天llm算法日常实习一面

1. 你做过的后训练项目里，最难解决的问题是什么2. SFT 数据你怎么构造，怎样避免模型被训练“油了”SFT 最大的问题不是量不够，而是数据风格太单一，最后把模型训成一种固定腔调：很会说、很圆滑、但信息密度低。构造数据时我一般会先按任务拆层，比如信息抽取、工具调用、复杂问答、拒答、安全、长文总结、结构化输出，每一层的目标都不一样。然后再做难度分桶，避免模型只见过简单样本。另一个关键点是负面风格清理。很多数据表面上没错，但非常模板化，比如“这是一个非常好的问题，让我们一步一步分析”，这类东西在少量数据里没问题，规模一大就会把模型带偏。所以我会专门清掉这种“高礼貌、低信息”的样本，保留更接近真实...

祝大家都能拿到满意的Offer！1.详细拷打实习经历2.ppl 怎么算，当模型输出趋于一致的时候ppl高还是低。3.讲解一下自己熟悉的模型的架构。具体讲下MLA和Linear attention，其中对于普通的Linear attention有什么可以改进4.大模型中对于 transformer 的ffn有什么改进手撕：1. 最长公共子序列 + 该题变体

1. 自我介绍2. PPO、TRPO、DPO 分别是什么，它们的核心差异在哪TRPO 的出发点是让策略更新别跨太大步，它通过约束新旧策略的 KL 距离，把优化问题写成一个带信赖域的约束优化，所以理论上比较稳，但实现复杂、计算成本也高。PPO 可以看成是 TRPO 的工程化近似，它不直接解复杂约束问题，而是通过 clip 或 penalty 的方式，限制策略更新过猛，因此在实践里更常用。DPO 和前两者不太一样，它不是传统在线 RL，而是直接从偏好对里学习一个“更偏向 chosen、压低 rejected”的目标，相当于把 reward optimization 吸收到一个更简单的监督目标中。P...

csig 腾讯云 暑期一二面面经：一面 50min实习经历括号对是否合法反问二面 40min实现一个高并发高可用的消息队列来完成生产者消费者模型实习经历是的，你没看错。全程无八股。年前的字节、快手，到这次的藤子，一个八股都没问过。说实话有点不习惯，以前背得滚瓜烂熟的HashMap、线程池、JVM调优，一个都没用上。如果不涉密，我已经想开个班把实习经历卖出去了。目前的情况：腾讯、字节，两个应用部门都不问八股。下周准备挑战私募和创业厂，看看那边还背不背八股。---给正在准备面试的同学一点参考：1. 八股不是没用，但优先级在下降大厂应用部门更看重你实际做过什么、能不能讲清楚项目中的决策和踩坑。背题能过简历关，但过不了面试关。2. 实习经历是新的“八股”现在面试官喜欢问：“你当时为什么这么设计？”“有没有别的方案？”“如果流量翻十倍怎么办？”建议把实习中的每一个细节都准备好，尤其是矛盾点、取舍、复盘。3. 不同公司、不同部门差别很大有的组还喜欢拷打基础，有的组全程聊项目。面之前可以多看看该部门的面经风向，别只背通用八股。4. 如果遇到全程聊项目的面试官，恭喜你说明他真想看你能不能干活。这时候把项目讲得有逻辑、有数据、有反思，比背一百道题都管用。最后：不是八股彻底死了，而是面试正在变回“聊天”而不是“考试”。祝大家都能遇到聊得来的面试官。