求助

项目一：模型微调相关（面试问答总结） 首先让我介绍了简历中的第一个项目——模型微调相关项目。在交流过程中，面试官主要围绕以下几个方面进行了提问： 1. 指令遵循能力（未微调情况下的提升方式） 面试官提问： 如果不进行微调，如何让模型在回答指令时具有更高的指令遵循能力（例如格式准确率更高）？ 2. 训练数据来源与构造  训练数据是如何获取的？ 数据是如何构造和设计的？  3. Transformer 中的注意力机制  讲解 注意力机制（Attention Mechanism） 的基本原理。 为什么在计算注意力分数时需要 除以 ？ 为什么是 ，而不是 ？  4. LoRA（Low-Rank Ada...

正式进入AI Coding时代了  

鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐

1. 内容缺失问题是什么？内容缺失，指的是用户问题明明有答案，但检索阶段没有把真正相关的文档召回出来，最后模型拿到的上下文不完整，回答自然就缺信息。这类问题在 RAG 里特别常见，因为很多时候不是模型不会答，而是它根本没看到关键内容。常见原因就是切块切坏了、向量化效果一般、召回 topk 太小、查询改写不到位，或者知识库本身就缺数据。2. 为什么会错过排名靠前的文档？这个问题本质上是检索排序问题。有些文档明明相关，但因为向量检索只看语义相似度，或者 BM25 只看关键词匹配，结果真正有价值的文档没排到前面。尤其是用户问题比较短、表述模糊、专业术语多、别名多的时候，这种情况更明显。所以很多线上系...