大模型秋招第一定理

秋招目标中厂，但是乐扣刷的不是很熟练，才过了一遍，有点担心，所以问问大家

1. 自我介绍2. 挑一个你最熟悉的大模型项目，讲讲它的目标，你主要负责什么，以及你觉得最有意思的技术点。3. 在Transformer的Decoder里，我们为什么需要用Mask把未来的信息“遮住”？从代码实现上讲，这个Mask具体是怎么作用在Self-Attention分数上的？4. 关于LayerNorm放在残差连接的“前面”还是“后面”（Pre-LN vs Post-LN），社区里有很多讨论。这两种设计选择，主要会影响训练过程的哪些方面？你更倾向于哪一种，为什么？5. 我们要在线上部署一个大模型提供服务，推理速度和吞吐量是个大问题。像vLLM这样的工具，它主要是通过什么核心思想（比如P...

岗位：大模型算法工程师（网约车）面试 timeline：7.25面试时长：1h面试问题：1. 未来自己的职业生涯计划？2. 什么是rag？3. rag流程？4.rag优化点？5.基座选取标准？手撕算法：1.并查集 2.最大二叉树宽度（没写出来秒g，收到拒信

1️⃣面试官：上面这个是 RAG 标准流程，实际项目中还有哪些优化技巧？在实际中，召回源会考虑多路召回，例如稀疏召回，语义召回，字面召回等。对于多路召回截断和召回分数对齐的问题，还会采用在召回后面增加一个重排序的阶段，精简召回数并提升召回的质量。另外，其中的 embedding 模型，重排序模型，以及生成模型会根据系统问答的指标情况，会针对性的进行进一步的微调。2️⃣面试官：那生成环节怎么评估效果？首先是量化指标：例如 Rouge - L ，文本相似度，关键词重合度等指标。除了准确度，还可以评估生成答案的多样性，看看模型是否能够生成多种合理且相关的答案。还需要引入人类评估：进行人工评估，一般是负责改项目的产品经理和测试人员，以及内测的普通用户对模型的回答进行质量、准确性和连贯性的评分。还应考虑资源效率：考虑模型的计算复杂性、内存需求和推理速度，尤其是在资源受限的环境中，看看 RAG 是否能够以合理硬件资源效果提供更好的性能。3️⃣面试官： RAG 中为什么会出现幻觉？幻觉问题是大模型的一个通病，出现幻觉问题主要分为两大类，一类是生成结果与数据源不一致，自相矛盾。另一类是用户问题超出了大模型的认知。针对前者可能是训练数据和源数据不一致、数据没对齐或者编码器理解能力的缺陷和解码器策略错误可能导致幻觉。后者则是用户的问题不在语言模型认知范围内。4️⃣面试官：针对幻觉的问题，有什么解决思路？第一个是引入更精准的知识库，消除虚假的数据源，减少数据偏差。另外可以加入一些纠偏规则，比如采用 ReAct 的思想，让大模型对输出的结果进行反思；还有现在比较流行的思路是集成知识图谱，即不再局限于向量数据库匹配，做召回时不仅考虑文档块，同时还考虑图谱的三元组。将知识图谱( KGs ）集成到 RAG 中，通过利用知识图谱中结构化且相互关联的数据，可以增强当前 RAG 系统的推理能力。5️⃣面试官：在实际做项目中，经常遇到各种边界的 case ，一般怎么解决？首先是无效问题：如果对于知识库中没有的问题，我们需要做一个准入的判别，判断是否需要回答。一般是一个二分类模型，或者直接用大模型+ prompt 来做，使模型在这种情况下输出一个预设的兜底话术。第二是减少幻觉：对于时间变化的问题，模型回答"我不知道"。在推理模块中添加规则和提示工程技术，使模在不确定时回答"根据当前的信息，不足以回答这个问题"。还有格式错误：模型可能会生成无法解析的答案，例如没有输出预定义格式。