01-24 15:58 已编辑 华南农业大学 自然语言处理 发布于江西
关注
网易有道 算法大模型实习（2025.01.23） 1h
1、自我介绍
2、项目介绍
3、项目指令集构建细节
4、RAG怎么做的，召回效果
5、Lora原理，微调哪些层、怎么矩阵初始化的，不能都初始化为0吗？
6、bert了解吗？bert的改进了解吗？bert和gpt有什么区别？
7、transformer自注意力，计算过程，softmax为什么要进行缩放，不缩放会导致什么？
8、llm的解码参数（top-k，top-p，Temperature，Beam Search）
9、clip的对比学习，对比学习中的Temperature和llm解码器的Temperature是一个东西吗？
10、了解blip吗？
11、聊了一下论文的做法，问了为什么这么做，不那么做
12、强化学习，ppo，dpo
13、reward模型的损失函数（rank loss）？
14、算法题：钥匙和房间（问为什么不用python写
），写完思路就行了，没调，因为输入输出好像有问题，面试官说这样就行了。
15、反问
面试官很好，我没讲对的会纠正我。
最后反问学习建议的时候，他说下次面试别切屏。
更新：面完10分钟约了二面
#算法##大模型算法工程师##面经#
2、项目介绍
3、项目指令集构建细节
4、RAG怎么做的，召回效果
5、Lora原理，微调哪些层、怎么矩阵初始化的，不能都初始化为0吗？
6、bert了解吗？bert的改进了解吗？bert和gpt有什么区别？
7、transformer自注意力，计算过程，softmax为什么要进行缩放，不缩放会导致什么？
8、llm的解码参数（top-k，top-p，Temperature，Beam Search）
9、clip的对比学习，对比学习中的Temperature和llm解码器的Temperature是一个东西吗？
10、了解blip吗？
11、聊了一下论文的做法，问了为什么这么做，不那么做
12、强化学习，ppo，dpo
13、reward模型的损失函数（rank loss）？
14、算法题：钥匙和房间（问为什么不用python写
），写完思路就行了，没调，因为输入输出好像有问题，面试官说这样就行了。15、反问
面试官很好，我没讲对的会纠正我。
最后反问学习建议的时候，他说下次面试别切屏
。更新：面完10分钟约了二面
#算法##大模型算法工程师##面经#
全部评论
相关推荐
投递滴滴等公司10个岗位 点赞 评论 收藏
分享
查看30道真题和解析
Momenta公司福利 604人发布