美团-大模型日常实习-一面

今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。#简历中的项目经历要怎么写# #大模型# #互联网大厂招聘# #大模型面经#

鼠鼠急性咽炎好几天了，下午还发39度高烧，本来想联系换时间的，但考虑现在hc基本发完了，再延期不知道会不会影响，去校医室开了点退烧药手撕：hot100 层序遍历，秒了说下复杂度聊项目，跟面试官讲了项目背景、遇到的难点，中间面试官会打断提问题之后面试官对整体的训练流程比较质疑，问CPT后为什么需要sft？跟CPT的区别是什么，我解释了好几次，从训练目的、数据差异等角度都解释了，但面试官还是没明白，让我写下两者的loss，从loss的角度去解释，我就写了个基于上下文去预测next token的交叉熵，然后解释说无论是pt还是sft，loss都是交叉熵，区别在于给定的上下文，或者数据不同，结果面试官...

各位大佬本人暑期拿了以下offer 1.智谱 大模型应用主要涉及zf基础服务等智能客服，以及智能工单应用 缺点5个月才能申请转正2.腾讯 csig腾讯云 ai运筹优化算法，考虑ai在装箱算法或者时间序列的算法优化 2个月可以发起转正 转正率估计不超过50%3.阿里云 大模型应用，可能需要对接客户，做ai在车载大模型应用，如rag、微调、rl等 可能不是纯算法 研发时间大概对半开 转正率80%4.商汤 后训练 转正率80%本人倾向于阿里云，请问有没有知道大模型tam怎么样？

👩🏫【学而思｜创校骨干教师招募令】 🌟 职位亮点 👉 破格培养：校长天团1v1带教，全程参与新校筹建、课程研发与团队搭建 👉 超高速成长：跃迁式发展通道（骨干教师→学科负责人→校区管理岗） 👉 高起点平台：入职即接触战略级项目，深度参与教育创新实践 🎯 招募对象 ✅ 22-25届毕业生（专业不限，数理、工科背景优先） ✅ 热爱教育事业，具备创新思维与执行力 ✅ 有支教/教育实习/社团管理经验者加分 🌍 工作坐标 📍 粤港澳大湾区 📍 长三角经济圈 💎 薪酬福利 💰 首年综合年薪20-35W 🎁 六险一金、年度体检、带薪病假、福利年假等 【内推链接】https://ap...