腾讯大模型算法日常实习二面（人才库

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

求助这份大模型开发学习路线正确吗

1、自我介绍2、项目拷打3、讲一下 OpenClaw 的记忆本地存储怎么设计如果做本地记忆存储，我不会把它设计成简单的对话历史追加，而会把它拆成短期记忆、长期记忆和检索索引三层。短期记忆主要服务当前会话，用来保存最近几轮对话、当前任务状态、工具调用结果和待执行动作；长期记忆主要保存用户偏好、历史事实、任务总结和可复用经验；检索索引层则负责把长期记忆做结构化检索和语义召回。本地存储设计时，数据模型最好不要只存一段纯文本，而是存结构化记录。比如：memory_iduser_idsession_idmemory_typecontentsummarytagscreated_atupdated_atim...

攒攒人品！有面试过同岗的朋友欢迎评论区交流项目：细节深入拷打八股：1. DPO和其他RLHF对比选型2. DPO论文，原理，过程推导3. dpo过程中正负样本同时被拉低 如何处理4. qwen系列模型的核心优势，架构创新点，迭代过程5. longcat介绍，了解程度手撕：lc46 全排列