给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你的知识库数据是如何清洗和构造的？如果数据质量参差不齐会对 RAG 系统产生哪些影响？3.文档切分策略是如何设计的？chunk size 和 overlap 会如何影响召回质量和生成效果？4.如果用户的问题在知识库中确实存在，但系统经常没有召回正确文档，你会如何排查？5.如果检索到的文档是正确的，但模型最终生成的答案仍然是错误的，你会如何定位问题？6.实际系统中，如果召回结果经常语义相似但事实不相关，你会如何优化检索模块？7.如果一个问题需要跨多个文档的信息才能回答，你的 RAG 系统如何处理这种情况？8.在 RAG 系统中如何判断问题出在检索模块还是生成模块？9.请详细说明 Transformer 从输入 token 到输出 logits 的完整计算流程。10.FFN 层为什么采用“先升维再降维”的结构，这种设计对模型表达能力有什么作用？11.MHA、MQA、GQA 在推理阶段的 KV Cache 占用和计算效率上有什么差异？12.为什么推理阶段 KV Cache 只缓存 K 和 V，而不缓存 Q？13.RoPE 的核心原理是什么，它在长上下文场景下会遇到什么问题？14.instruction tuning 中多轮对话数据训练时，loss mask 应该如何设计？15.如果 SFT 之后模型在特定任务上能力增强，但通用能力明显下降，你会如何解决？16.LoRA 的低秩分解为什么能够逼近全参数微调的效果？17.如果 LoRA 的 rank 设置不合理，在模型表现上会出现什么现象？18.DPO 训练后模型输出明显变长，在实际系统中你会如何处理？19.如果对齐之后模型变得过于保守，经常拒绝回答，你会如何调整训练策略？20.大模型出现复读机现象通常由哪些因素导致？

继续来分享下最近的面经~欢迎友好讨论，信息共享1. Transformer 为什么能替代 RNN 成为大模型主流架构？2. Self-Attention 的计算过程是什么，时间复杂度为什么高？3. Multi-Head Attention 的作用是什么，为什么要分多个头？4. 位置编码为什么必要，绝对位置编码和相对位置编码有什么区别？5. 什么是 KV Cache，它为什么能显著提升推理效率？6. Prefix Cache 和 KV Cache 有什么区别，分别适合什么场景？7. 为什么大模型推理通常是 memory bound，而不是 compute bound？8. Batch 推理和单请求推理的吞吐与延迟 tradeoff 是什么？9. Continuous Batching 解决了什么问题，为什么对推理服务很重要？10. Prefill 和 Decode 两个阶段的性能瓶颈分别在哪里？11. 大模型采样里的 temperature、top-k、top-p 分别会怎样影响输出？12. 贪心解码、束搜索、随机采样分别适合什么生成任务？13. 重复惩罚和长度惩罚分别是为了解决什么问题？14. 为什么模型有时会出现“复读机”现象，通常怎么缓解？15. 量化是什么，INT8、INT4、FP16 的核心区别是什么？16. 推理量化会对模型效果造成什么影响，如何评估是否值得量化？17. 张量并行、流水线并行、数据并行分别适合哪个阶段？18. 单机多卡部署大模型时，通信开销主要来自哪里？19. 为什么 GPU 显存是大模型部署的核心约束之一？20. 模型参数量、上下文长度、并发数三者之间是什么关系？21. 什么是 MoE 模型，为什么它能在参数规模很大时控制推理成本？

发一下问题给大家参考，攒攒人品！1.实习拷打2.拷打项目:针对长短期记忆，讲讲你是如何设计记忆的提取、压缩与冲突更新机制的？如果检测到用户存在极端情绪，你的Agent如何在不中断对话流的前提下进行干预？3.讲一下稠密向量与稀疏向量的区别，分别适合处理什么样的搜索需求？4.在向量化之前，为什么要对长文档进行切片？如果不切片会有什么后果？5.切片时设置重叠区域的作用是什么？这个比例你通常怎么来确定？6.余弦相似度和欧氏距离在衡量文本相似性时，各自的优缺点是什么？7.向量库检索出的Top-K结果，如果K值设置得过大，对后续的生成质量有哪些负面影响？8.为什么在初筛召回之后，还要加一个Rerank模型？能解决向量搜索哪些局限？9.如果文档发生了局部更新，如何通过增量索引来避免全量重新向量化？10.在RAG的生成阶段，如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉？11.调用大模型API时，为什么要使用asyncio异步编程？它在处理高并发请求时有何优势？12.你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？13.手撕：第k大元素