求网友帮选选offer

1、实习介绍，随后围绕项目问八股2、对qwen-coder大模型的了解3、Lora训练的原理，调过哪些参数，其含义，怎么设置的4、训练过程中调过哪些参数，怎么设置的，loss曲线在训练过程中如果突然上升，一定是坏的吗？如何区分是训练参数不对和学到新东西导致的loss上升？5、大模型训练的流程有哪些？文本是如何tokens化的？tokenizer的原理是什么？6、RAG的流程？在打比赛时，有哪些提高的点？RAG中召回算法的原理？为什么还需要重排？如何提高RAG召回的效果，如何对向量化模型进行微调？7、代码题1：a = [1],b=[a,a],b[0]=[0],随后b[1]=？如果不想改a的值怎么做？8、代码题2：给一个数组，求划分方式，使得左半部分的最大值-右半部分的最大值 最大。

看了篇论文感觉挺有意思的，这个是我目前看，能够比较完整的把智能体错误进行系统整理并給出一个诊断方式的文章。并提出了一个多代理系统故障分类法(MAST - Multi-Agent System Failure Taxonomy)原文链接这个文章主要把Agent的问题分为了三类第一类：系统设计问题这类错误通常是因为系统让智能体扮演的角色没定义好，或者智能体没能遵守“人设”和规则。其中下分五个错误1.1 违背任务规范 (Disobey Task Specification)：用户说“不要用固定字典”，智能体非要用。即无视用户的核心约束。 1.2 违背角色规范 (Disobey Role Specif...

1．首先是自我介绍和过项目，面试官还一起探讨项目用到的方法，可行性之类的2．介绍一下 CLIP3．了解 LoRA 吗， LoRA 微调的原理是什么4．了解哪些多模态大模型，简要介绍几个5.BLIP的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2相对于 BLIP 有哪些改进，BLIP3又有哪些改进7.Qwen- VL 的三个训练流程分别是什么，有什么作用8．视觉编码器和 LLM 连接时，使用BLIP2中 Q - Former 那种复杂的 Adaptor 好还是 LLaVA 中简单的 MLP 好，说说各自的优缺点9．代码：实现多头自注意力一面比较常规，几乎都是八股问题，只要了解常见的多模态大模型都问题不大，主要还是要理解各个模型设计的动机是什么，这也是面试最喜欢考察的

1.八股：LoRA 和全参数微调的核心区别是什么？在显存和训练效率上各有什么优劣？2.八股：DPO、PPO、GRPO 三者的优化目标有何不同？为什么 GRPO 的 loss 中要显式加入 KL 散度项？3.八股：Transformer Encoder 中 FFN 的作用是什么？4.八股：什么是 DeepSeek 的 MLA？它的优势是什么？5.项目: 你在实习中用 LoRA 微调了哪个开源大模型？具体 rank、alpha、dropout 是多少？为什么这样设置？6.项目：SFT和DPO 数据是否有重叠？DPO 的偏好数据是如何构造的？人工标注成本大概多少？7.项目：你们的 RAG 系统召回阶段用了 BGE-M3 还是 BM25？最终选择依据是什么指标（如 Recall@k）？BGE-M3 输出向量维度是多少？8.项目：为什么不用纯向量相似度直接生成答案，而要再过一遍大模型？这样做对幻觉和安全性有什么帮助？9.手撕：接雨水（LeetCode 42）