面试字节大模型(LLMs)RAG面被问麻了~

  1. LORA 原理:解释 LORA(Low-RankAdaptation)的核心思想,如何通过低秩矩阵实现参数高效微调?数学形式如何表达?
  2. Self-Attention机制:自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。
  3. 位置编码:Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?
  4. Seq2Seg 模型:Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?
  5. RAG技术:RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?
  6. 大模型幻觉:大模型产生幻觉的根本原因是什么?
  7. 显存计算:7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?
  8. 实习与论文:详细说明实习中解决的一个技术难点,涉及哪些模型或算法?如何评估效果?
  9. 链表操作:删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?

#RAG##面试##AI##大模型#
全部评论
ttttt
1 回复 分享
发布于 06-11 14:47 广东
ttttt
1 回复 分享
发布于 05-15 13:52 浙江
tttt
1 回复 分享
发布于 05-14 16:18 北京
面试题当然可以开源给大家 后台T一下
1 回复 分享
发布于 05-09 17:24 湖南
ttt
点赞 回复 分享
发布于 06-20 21:34 江苏
ttttt
点赞 回复 分享
发布于 06-08 12:16 江苏
ttttt
点赞 回复 分享
发布于 06-04 19:11 北京
tttt
点赞 回复 分享
发布于 05-30 17:42 北京
111
点赞 回复 分享
发布于 05-29 16:14 北京
ttt
点赞 回复 分享
发布于 05-28 13:02 北京
ttt',谢谢大佬
点赞 回复 分享
发布于 05-26 17:13 湖北
ttttt
点赞 回复 分享
发布于 05-25 11:36 广东
tttt
点赞 回复 分享
发布于 05-23 16:48 山东
ttttt
点赞 回复 分享
发布于 05-22 18:17 广东
ttt
点赞 回复 分享
发布于 05-22 17:08 广东
ttt
点赞 回复 分享
发布于 05-21 17:06 香港
ttttt
点赞 回复 分享
发布于 05-21 11:38 上海
ttttt
点赞 回复 分享
发布于 05-21 11:05 日本
ttttt
点赞 回复 分享
发布于 05-21 11:04 日本
ttttt
点赞 回复 分享
发布于 05-20 19:12 山东

相关推荐

头像
06-11 23:35
门头沟学院 Java
她突然凑近问我:“你做AI的,具体负责哪块呀?”我后背一凉,支支吾吾道:“就....就是大家都做的那种……”女生眼睛一下亮起来:“是做Pretraining的吗?构建超大规模语料库、搭建万亿参数模型、算力优化、多机多卡并行,听起来就超高端!”我声音发虚:“不是……”“那一定是做Post-training的咯?指令微调、对齐、RLHF、Reflection,这种训练方案优化现在大火,前景无限!”她兴致盎然。“不……”我声音更弱了。我死死盯着键盘,恨不得把它盯出个洞。“难道是多模态架构?文本、图像、语音跨模态融合,炫酷又实用呀!”她笑着鼓励。“也不是…”我声音微不可闻。女生沉默两秒,突然眼神闪烁:“你该不会......做 Inference优化吧?部署环境、性能调优,提升模型速度和成本效益,很牛啊!”她的目光如探照灯般直射而来,我被烤得浑身发烫,手心出汗。我死死掐住大腿,从牙缝里挤出蚊子般的声音:“都.……都不是……”空气骤然凝固下来。女生的笑容僵住了,声音陡然降温:“那你,到底是在做AI的什么?”“做AI的还能有多少特别的?”她的话像冰锥扎进我的胸膛。我膝盖一软,扑通跪倒在地,眼眶泛红,带着哭腔说:“我.....我做的是Agent开发……”整个办公区瞬间陷入死寂,只剩同事们微妙的窃笑声。我低下头,感到周围人投来疑惑夹杂怜悯的目光,仿佛看到我夜深人静苦苦调Prompt却屡遭失败时的凄惨。女生抓起外套,毫不犹豫转身要走。我哭喊着拽住她的衣角:“求你别走!我们Agent开发真的很重要!”人群中响起窃笑声,我却抱得更紧:“你们不要笑我们Agent开发!Prompt不好写又怎样!幻觉问题多又怎样! Action失败率高又怎样!我们直接解决用户的实际需求,是AI真正落地的关键一步啊!”远处传来领导缓慢的脚步声和一声无奈的叹息:“唉,又是做Agent开发的……”
墨西哥大灰狼:查看图片
点赞 评论 收藏
分享
评论
6
66
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务