百度多模态大模型一面凉经

1．项目介绍，问实习和论文2．讲一下 LoRA ，两个权重矩阵一般怎么初始化，能都全0吗3．除了 LoRA ，还了解哪些可以进行训练推理优化的技术4．现在的多模态大模型，动态分辨率一般都是怎么做的，位置编码怎么设计5．概率题，一副扑克牌，去掉大小王，随机抽两张，花色相同的概率6.场景题：目前有一个带货的直播间，设计一个方案，商品比较多怎么降低时延7.开放题：平常在训练或者微调 LLM 或者 VLM 的时候，有什么心得吗8.反问环节

📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1．首先是自我介绍和过项目，面试官还一起探讨项目用到的方法，可行性之类的2．介绍一下 CLIP3．了解 LoRA 吗， LoRA 微调的原理是什么4．了解哪些多模态大模型，简要介绍几个5.BLIP的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2相对于 BLIP 有哪些改进，BLIP3又有哪些改进7.Qwen- VL 的三个训练流程分别是什么，有什么作用8．视觉编码器和 LLM 连接时，使用BLIP2中 Q - Former 那种复杂的 Adaptor 好还是 LLaVA 中简单的 MLP 好，说说各自的优缺点9．代码：实现多头自注意力一面比较常规，几乎都是八股问题，只要了解常见的多模态大模型都问题不大，主要还是要理解各个模型设计的动机是什么，这也是面试最喜欢考察的

1.八股：DeepSeek-V3 和 Qwen2.5-Coder 在架构上有哪些关键区别？（如 MLA、MoE、GQA、Dense 等）2.八股：Transformer 中因果注意力（Causal Attention）和双向注意力的核心区别是什么？分别适用于什么场景？3.项目：如果 RAG 输出错误，怎么判断是检索错了还是生成错了？有做过归因实验吗？4.项目：Chunk划分策略对 RAG 效果影响大吗？你用过哪些优化方式（如语义分割、滑动窗口等）？5.项目：RAG 和 GraphRAG 在处理多跳推理时的根本区别是什么？6.项目：GraphRAG 如何解决传统 RAG 的“召回噪声”和“信息碎片”问题？7.项目：为什么 GraphRAG 能实现更精准的结构化召回？关键依赖是什么？8.项目：如果不用图数据库，能实现真正的 GraphRAG 吗？为什么？9.代码题：最长连续递增子序列（LeetCode 674）