阿里国际oc

继续来分享下最近的面经~欢迎友好讨论，信息共享1.介绍一下项目2.Rope介绍3.GQA介绍4.GQA为什么性能和MHA相差不大5.介绍一下项目（minimind）中哪些部分对模型影响最大6.介绍一下项目(minimind)中遇到的难点7.有没有做过业务一点或者性能提升一点的项目8.介绍第二个项目9.介绍一下最近看过的论文10.如果把这篇论文的技术运用到业务中会遇到什么难点。无手撕

面试时间： 5.21技术栈： Agent、Java、Python、Node、SQL、前端面试题目1.自我介绍2.新闻数据来源、数量规模如何存储，数据库表如何设计的，存哪些字段数据来源：RSS 订阅、爬虫抓取、第三方 API（如 NewsAPI）。存储规模达百万级时采用分库分表或时序分区。表设计核心字段：id、title、content、source、publish_time、category、embedding_vector（外链向量库）、create_time。按发布时间做范围分区，热数据放近期分区加速查询。3.新闻向量数据库如何分区？文本编码方式，新闻词嵌入，如何召回，编码方式和召回方式如...

一、自我介绍二、实习相关八股1. 实习业务场景负责大模型对话对齐、指令微调、强化学习优化，提升模型生成准确性、合规性与指令遵循度，落地垂类对话/问答业务。2. SFT数据筛选、采样及处理3. 选择GRPO的原因、优化目标及数学原理- 选型原因：相比PPO显存占用低、无需价值网络、训练更稳定，对齐效率高- 优化目标：最大化模型生成优势，约束KL散度防止策略突变- 原理：分组优势归一化、截断策略比率、近端约束，降低训练方差4. 奖励函数设计（重点）围绕有用性、准确性、合规性、流畅性设计，分维度打分；加入KL惩罚，避免单一奖励过拟合，区分正负奖励权重。5. 判断RL训练质量达标方法- 奖励值收敛、KL散度稳定；- 离线评测：指令遵循率、幻觉率达标；- 人工抽检生成内容，无退化、无套路化输出6. 是否遇到Reward Hacking遇到过，模型生成空洞话术、固定模板刻意刷高奖励值。7. 其他奖励作弊类型刻意迎合奖励规则、答非所问、重复安全话术、回避核心问题、策略坍缩同质化输出。8. PPO和DPO了解- PPO：在线强化学习，近端策略优化，带价值网络，训练复杂度高- DPO：离线偏好优化，基于成对偏好数据，无需交互采样，训练简单稳定三、基础八股1. Attention计算时间复杂度标准自注意力：O(n²d)（n为序列长度，d为特征维度）2. KV Cache原理推理时缓存历史token的KV矩阵，避免重复计算，降低算力开销，提升推理速度。3. GQA、MLA原理- GQA：分组查询注意力，Q分组共享KV，平衡推理速度与效果- MLA：融合局部+全局注意力，适配长上下文，降低显存占用4. vLLM原理基于PagedAttention分页管理KV Cache，提升显存利用率，支持高并发推理。5. Flash Attention原理分块计算注意力，优化显存IO，减少HBM访问，提速同时降低显存开销。6. 稀疏注意力原理仅计算局部/关联token注意力，舍弃全局无关token，将复杂度降至O(n)，适配长文本。7. 模型推理慢排查思路检查序列长度、batch大小；确认KV Cache、量化、FlashAttention开启；排查GPU显存、算子优化问题。四、编程题1. rand7()实现rand10()拒绝采样：rand7()*rand7()生成1-49数，保留1-40，映射为1-10，超出则重新生成。2. 浮点数组取整最小变化和贪心思路：每个数选上/下取整中差值更小的，累加最小总误差。3. 最长无重复子串

自我介绍项目里使用线程池解决了什么问题怎么解决大模型返回json格式不稳定项目中面试评估需要处理20+题答案超出上下文限制，怎么解决引入rabbit解决了什么问题，为什么要引入如何解决rabbit重复消费，保证幂等性为什么要用TTL和死信队列，不使用定时任务轮询如何保证数据库和缓存一致性MySQL为什么用B+树慢查询和查询优化反问十分快速结束，面完发现才20分钟，感觉纯kpi