腾讯大模型算法实习一面 狠狠拷打

给我面没招了,感觉自己好菜
1. 解释LoRA训练方法,以及低秩矩阵更新的原理和优势
2. 有了解传统精排方法吗,比如LTR
3. 有了解Qwen3的embedding和Reranker模型吗,结构和特点是什么
4. 结合项目讲大模型训练的几个阶段的特点和异同
5. 介绍GRPO、PPO、DPO,分别需要几个模型,需要训练的是哪些
6. 重要性采样有哪些方法,比如裁剪、KL散度约束、加权归一
7. 介绍GSPO的优化点,腾讯最近出的SPO系列算法有关注吗
8. 大模型微调过程中,如何避免灾难性遗忘
9. 模型蒸馏在大模型落地中的作用和常用方案
代码部分
1. PyTorch实现GQA(分组查询注意力)
2. 接雨水,要求手写两种方法:暴力法和双指针
3. 经典SQL题:分组统计、排序、条件筛选
全部评论

相关推荐

评论
点赞
2
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务