有面阿里云 --云原生--中间件团队的暑

给我面没招了，发点面经攒攒人品～项目细节拷打八股1.大模型了解多少，强化学习了解什么2.DPO的全称是什么，公式是什么，直接体现在哪里3.与PPO对比归一化方法• 常用的归一化方法有哪些• 讲讲RMSNormAUC• auc的定义• 从样本里随机去掉一些负样本，Auc怎么变优化器• 讲一讲常用的优化器• sgd是什么，Adam相对于sgd改进了什么位置编码• 正余弦位置编码的公式手撕• 计算逆序对数量• 多头自注意力

好久之前面的了，今天想起来发一下面经一面问开源1. mcp 网关是怎么做的2. 限流是怎么实现的3. 模型的可观测是怎么实现的，具体有哪些指标4. 这个DSL的序列化是怎么做的5. 多租户是怎么实现的，物理隔离还是逻辑隔离八股1. 分布式理论2. HTTP2和HTTP1的区别实习主要靠打了agent 多轮对话的长期记忆和短期记忆，问的比较深并且延伸问了 KV Cache 的一些知识手撕：手写一个支持多租户的限流器二面八股1. JVM分区2. 垃圾回收算法3. Spring AOP的原理实习这里拷打了很多，但不知道为什么，一直说我们实现的方案不合理agentic rag 工具调用的讨论从记忆到 kvcache，引出了一个场景题，如果多轮对话中a没有命中kvcache缓存，后面的b，c可以命中吗？agent分层架构怎么解决长链路的token溢出的还有一些开源和实习的问题有点忘了手撕 LRU总体感觉二面体验有点差，不过也问出来很多简历上的问题

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.深挖多模态论文介绍transformer架构2.详细说一下Decoder的因果注意力 QKV分别来自哪3.Attention为什么要做scaled 不做会怎么样 为什么用根号d_k4.Transformer怎么做加速训练（KV缓存） 训练和推理有什么区别（并行化）5.深挖多模态大模型论文用的video-llama 讲一下大模型的结构6.论文用了CoT讲一下论文的CoT是怎么样的7.微调用的LoRA介绍一下LoRA8.LoRA初始化怎么做的，用的秩是多少，为什么不选其他的数9.知道deepspeed和megatron吗？分别介绍一下10.论文用的deepspeed详细讲了一下三个stage分别是什么

有面试过同岗的朋友欢迎评论区交流1.  DPO 与 SFT 的区别：两者核心差异是什么？可以先做 DPO 再做 SFT 吗？为什么？2.  把 DPO 用在“第一轮对话”，你会如何构建数据集？`Prompt`、`Chosen`、`Rejected` 具体来源是什么？3.  多轮对话数据分布设计：单轮和多轮数据各占多少比例？这样配比的理由是什么？4.  DPO 多轮样本怎么采样：多轮样本如何采样？如何配比？5.  Reward Hacking现象：你怎么看待这个问题？怎么解决呢