1、讲讲什么是 RAGRAG 是 Retrieval-Augmented Generation，也就是检索增强生成。它的核心思想不是只靠大模型参数里记住的知识回答问题，而是在回答之前，先去外部知识库里检索和当前问题相关的内容，再把检索结果作为上下文交给模型生成答案。完整流程一般分两部分。离线侧先做文档接入、清洗、切片、向量化和索引构建，把知识变成可检索的形式。在线侧收到用户问题后，先做 query 改写或纠错，再去知识库召回相关片段，必要时做 rerank 重排，最后把用户问题和证据一起送给模型生成。RAG 的价值主要有三个：让模型获得训练时没有的外部知识让知识更新不依赖重新训练模型让回答更容...

我是学院🐭，没面过大厂，官网投的都是秒挂，这是拿我刷kpi的吗？要尝试一下吗？

1. Transformer 的自注意力机制、位置编码、梯度消失和梯度爆炸的解决方案答：自注意力机制的核心是让每个 token 在计算表示时都能和序列中其他 token 交互。给定输入 (X)，先通过线性变换得到 (Q)、(K)、(V)：然后计算注意力：这里除以 根号下dk 是为了防止点积过大导致 softmax 进入饱和区，影响梯度。多头注意力就是把表示拆成多个子空间并行计算，最后再拼接，能从不同角度学习依赖关系。位置编码是因为 Attention 本身不包含顺序信息，所以需要显式加入位置信息。经典做法是正余弦位置编码：现在也常用相对位置编码和 RoPE。梯度消失和梯度爆炸的解决方案包括：残...