腾讯WXG暑期实习面经-大模型算法

一面（1小时30分钟）：
上来先做题
1. 手撕AdamW
2. 手撕无重复字母的字串（hot100）
3. 出了两个题都是对数据库的操作，我以为是让写大模拟，写到一半结果面试官告诉我是用sql写🐱，不会遂罢。
4. 面对海量数据的时候怎么对数据进行处理，比如说去除掉敏感词等等，面对海量数据会出现哪些问题，该如何去处理
5. 介绍发表的顶会论文
6. 介绍Q-learning和DQN

二面（2小时30分钟）
实习乃至秋招面的最久的一轮面试了，从晚上七点多面到十点，最后人都麻了🥵，面试官估计要下班了结束了面试🐱

1. 介绍论文，主包是做强化学习相关的，围绕问了很多强化学习算法（GRPO，PPO，reward model)，介绍马尔可夫决策过程。
2. bf16、fp16和fp32，并进行计算。
3. lora微调的细节，量化相关知识
然后开始漫长的手撕过程🥵
4. 手撕ppo
5. 算马尔可夫决策过程的γ阈值，我感觉是个无穷级数？
6. 算模型sft的参数量大小及显卡利用率
7. 是否重合链表（hot100）
8. 如何使得一个输入向量x在经过一个或多个全连接层后，其输出向量y所在子空间基底尽可能接近标准正交基

三面（面委会面）（30分钟）
1. 介绍第一篇顶会论文（共享屏幕）
2. 介绍第二篇顶会论文
3. 不同强化学习之间的区别
4. 和使用强化学习训练大模型相比，使用强化学习训练小模型需要做出哪些改变

hr面（30分钟）
常规的hr面问题，主要问来wx的意向。

感觉前几面比较侧重技术细节，面委会感觉就比较侧重聊未来技术的发展，个人感觉前几面的压力比较大😼