也大大小小面了很多内部正在搞AI的公司，给大家分享一下我的面试题库！ 第一章：RAG 系统 Q1: 请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？ RAG（Retrieval-Augmented Generation）的核心是"检索+生成"两阶段：先从外部知识库中检索与用户问题相关的文档片段，再将这些片段作为上下文拼入 prompt，让 LLM 基于检索到的信息生成回答。相比微调，RAG 的优势在于： ①知识可实时更新，不需要重新训练模型； ②可追溯来源，减少幻觉且便于审计； ③成本低，不需要 GPU 资源做训练； ④领域迁移方便，...

幸亏看到这个帖子

两个项目一个是黑马点评 一个是随便找的agent项目 黑马点评讲解看了一半有必要看完么或者换一个别的项目 那个agent项目也只是看了一半 友友们给点建议😭 格式问题和内容问题都可以谢谢了😭

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...