Q1：prefix Decoder 和 causal Decoder 和 EncoderDecoder 区别是什么？答案：prefix Decoder 和 causal Decoder 和 Encoder-Decoder 区别在于 attention mask不同：Encoder-Decoder：在输入上采用双向注意力，对问题的编码理解更充分。适用任务：在偏理解的 NLP 任务上效果好。缺点：在长文本生成任务上效果差，训练效率低。causal Decoder：自回归语言模型，预训练和下游应用是完全一致的，严格遵守只有后面的token才能看到前面的token的规则。适用任务：文本生成任务效果好。...

27届，投实习  

0offer0约面  

一、概述与全链路 RAG（检索增强生成）：用户提问 → 检索知识库相关片段 → 注入 Prompt → LLM 基于真实数据生成。解决知识截止、幻觉、无法访问私有数据。 Naive RAG（检索-拼接-生成）→ Advanced RAG（Query 改写、混合检索、Rerank）→ Modular RAG（可插拔模块、Agent 动态决策） 文档 → Chunking → Embedding → 向量数据库 用户查询 → Query改写 → 向量化 → 混合检索 → Rerank → Prompt → LLM生成  二、文档处理（Chunking + Metadata） 切分策略    策略 ...