9.19 美团意向

算法面经：📌【一面】基础八股 + RAG深挖八股：介绍几种Attention（MHA，MQA，GQA）的区别八股：分别讲一下Dense模型和MoE模型以及二者的区别八股：讲一下MoE的路由机制是如何做的？项目：介绍RAG项目，讲一下RAG项目的亮点项目：如果召回的答案不是想要的，该怎么处理？项目：讲一下BM25算法原理项目：是否做过意图识别？如果要做意图识别，可以怎么实现？项目：微调项目是如何模型选型项目：如何做微调的？直接用 PEFT 库，还是用LLama Factory做的？项目：讲一下DPO, PPO, GRPO的原理和区别，写一下DPO loss函数代码题：lc15 三数之和【二面】...

1、为什么引入父子索引，为什么引入 BM25，比例是怎样的，具体流程是什么，有没有 rerank父子索引主要是为了解决 切块后召回准，但是上下文不完整 的问题。如果文档直接按 300～500 token 切成小块做向量检索，确实更容易召回到具体答案，但很容易丢掉原文结构，比如标题、段落关系、表格上下文、前后约束条件。所以会把文档拆成两层：父块：保留完整语义单元，通常是 800～1500 token子块：用于召回，通常是 200～400 token检索时先搜子块，命中后回源到对应父块，再把父块内容喂给大模型。这样既保证召回精度，也保证上下文完整性。引入 BM25 是因为向量检索对语义相似比较敏感...