阿里实习大模型算法一面
项目
1.这里为什么使用GRPO而不使用DPO,说说两者区别,损失函数是什么?
2.介绍你的奖励函数是如何设计的
3.一致性奖励函数这里的logprobs的作用是什么?如何评估语义一致性
4.这里的聚类方法是什么?为什么不使用kmeans或者层次聚类
5.说说生成熵和KL散度
6.这里如何使用熵调整奖励
八股
1.多头注意力机制,为什么要多头
2.讲讲lora
3.lora初始化如何做?为何是这样做
手撕:
最小路径和
1.这里为什么使用GRPO而不使用DPO,说说两者区别,损失函数是什么?
2.介绍你的奖励函数是如何设计的
3.一致性奖励函数这里的logprobs的作用是什么?如何评估语义一致性
4.这里的聚类方法是什么?为什么不使用kmeans或者层次聚类
5.说说生成熵和KL散度
6.这里如何使用熵调整奖励
八股
1.多头注意力机制,为什么要多头
2.讲讲lora
3.lora初始化如何做?为何是这样做
手撕:
最小路径和
全部评论
相关推荐
点赞 评论 收藏
分享
查看1道真题和解析