米哈游大模型算法实习一面面经

1. 你们线上大模型应用的整体架构是怎样的？常见架构就是这几层：用户请求先进入 API 网关，再到业务服务层。业务服务层负责鉴权、限流、Prompt 拼装、会话管理、工具编排。如果有知识库，就先走检索链路；如果要调外部能力，就走工具调用；最后把上下文交给大模型生成结果。生成结果出来后，再做内容过滤、格式化、日志落库、监控上报。核心链路一般是：用户请求 -> 业务编排 -> 检索/工具 -> 模型推理 -> 后处理 -> 返回结果2. 你们怎么做 Prompt 工程？Prompt 不是简单写一句提示词，而是模板化管理。常见做法是把 Prompt 拆成几部分：syst...

被横向挂了，希望发出来对大家有帮助！1.介绍 Lora 的思想，为什么有效2.DPO 的数据集来源3.PPO 和 GRPO 的区别（损失函数的 clip 作用）4.什么是大模型的幻觉，大模型解决幻觉的方式有哪些5.为什么降低温度能缓解幻觉6.你项目中 system prompt 和 user prompt 的区别7.DeepSpeed zero-3 有什么改进8.verl 和 vllm 你是怎么配合的，每个在项目中的作用9.手撕：LCR 076 数组中的第 K 个最大元素

1. 写一下 attention 公式，代码实现一下attention 的公式是：计算过程就是三步：先算 (Q) 和 (K) 的相似度分数，再做缩放，然后过 softmax 得到权重，最后用这个权重对 (V) 加权求和。 import numpy as np def softmax(x): x = x - np.max(x, axis=-1, keepdims=True) exp_x = np.exp(x) return exp_x / np.sum(exp_x, axis=-1, keepdims=True) def attention(Q, K, V): dk = Q.shape[-1] ...

时间：120mins题型：10单选5多选3编程（OC:300% leetcode中等题）单选还有考数学的，忘都忘完了，其他常规408题还有一些逻辑分析题甚至还有高中排列组合