高德大模型 27实习 一面

1. 介绍一下项目
2. 多头注意力机制的计算复杂度是多少？
3.LoRA 的核心思想是什么？
4. GRPO 训练时 KL 散度控制得怎么样？5. SFT 阶段如何避免对padding token 计算 loss ？
6.训练 SFT 模型时 loss 出现剧烈震荡，你是如何诊断并解决的？
7. Transformer 中为何使用 LayerNorm 而非 BatchNorm ？
8. Transformer 里LayerNorm 放在 Attention 前还是后？有什么区别？
9. logprobs 在一致性奖励中起什么作用？
全部评论

相关推荐

01-20 10:09
西安电子科技大学 Java
点赞 评论 收藏
分享
01-12 16:45
门头沟学院 Java
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
01-07 16:00
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
01-10 15:16
点赞 评论 收藏
分享
01-09 18:53
已编辑
门头沟学院 研发工程师
点赞 评论 收藏
分享
评论
1
3
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 哪些公司开春招了？ #
11308次浏览 121人参与
# 四大天坑是哪四家？ #
101049次浏览 235人参与
# 上班以后，你还有哪些坚持的爱好？ #
7804次浏览 182人参与
# 你觉得什么岗位会被AI替代 #
34704次浏览 229人参与
# 你最近因为什么迷茫？ #
35571次浏览 580人参与
# 互联网公司评价 #
479236次浏览 4085人参与
# 找工作以来，你最看不惯__ #
15974次浏览 324人参与
# 工作压力大怎么缓解 #
138299次浏览 1249人参与
# 实习离职怎么跟领导说 #
76040次浏览 432人参与
# AI coding的好用工具分享 #
19836次浏览 385人参与
# 实习怎么做才有更好的产出 #
12920次浏览 231人参与
# 聊聊你的被动加班经历 #
3464次浏览 65人参与
# 实习教会我的事 #
51900次浏览 406人参与
# 你都在哪些场所面过试？ #
20915次浏览 227人参与
# 工作一周年分享 #
50074次浏览 262人参与
# 实习生工资多少才算正常？ #
13601次浏览 202人参与
# 领导做过最不靠谱的事 #
15010次浏览 222人参与
# 面试等了一周没回复，还有戏吗 #
196530次浏览 1677人参与
# 你给AI提过哪些离谱的需求？ #
6557次浏览 171人参与
# 拼多多工作体验 #
44437次浏览 285人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务