搜索算法实习-滴滴 面经分享

一、大语言模型基础1. 目前主流的开源模型体系有哪些？主流开源模型体系包括：LLaMA 系、Qwen 系、GLM/ChatGLM 系、Mistral/Mixtral 系、Baichuan 系、DeepSeek 系、InternLM、Yi 等。面试里建议从以下维度比较：参数规模（7B/13B/70B…）上下文长度（8K/32K/128K…）多语言能力工具调用能力（function calling / agent）推理成本与部署难度开源协议（是否可商用）2. Prefix LM 和 Causal LM 区别是什么？Causal LM：严格自回归，token 只能看左侧历史（下三角 mask）。Pr...

攒人品中～～1、项目中用milvus 向量数据库，介绍这个数据库的索引方式2、项目中查询重构怎么判断的低质量查询，提示词怎么说的3、BM25检索、RAG中的难点有哪些4、对提示词调整有什么策略5、考虑对LLM微调吗6、论文拷打7、模型的量化

我还记得24年研究RAG的时候，压根没有想到，后来技术的发展，大模型的上下文能长成现在这个样，而且随着技术进一步发展，其实Memory的加入确实能让Agent的上下文能力变得很强，但真当面试时如果被问到这个问题，你得清楚，其实是一个非常典型的面试陷阱。（我准备的答案在文末）为什么这么说？如果你跟风回答“会”，面试官很容易判断你缺乏工程落地经验，也没有真正考虑过成本问题。但如果你回答“不会”，面试官往往又会继续追问：既然不会，那现在模型拼命把上下文窗口做到几百万Token，难道方向错了吗？RAG还有存在的必要吗？你会觉得，这道题似乎怎么回答都不对：说“会”，显得外行；说“不会”，又像是在否定技术...

攒人品中，祝大家都能拿到满意的Offer！1.请详细介绍你简历中的RAG项目，包括整体架构和实现思路？2.RAG中的检索模块召回错误结果时，你会如何处理？3.RAG出现漏召的情况，你会如何优化检索模块？4.如何评估RAG系统的效果？有哪些评估指标？5.解释LoRA高效参数微调的原理，为什么要用低秩分解？6.DPO训练中模型输出变长是什么原因？如何解决？7.大模型出现复读机现象的原因是什么？有哪些解决方法？8.SFT微调后模型的通用能力出现遗忘，你会如何处理？9.Wide&Deep模型的原理是什么？Wide部分和Deep部分分别解决什么问题？10.DIN模型相比传统推荐模型有什么改进？11.L1正则和L2正则的区别是什么？从数学角度解释为什么L1能产生稀疏性？12.SQL：统计每个商家的评论数并去重13.手撕代码：编辑距离