鹅产运横向中

"请介绍一下你印象最深的项目经历。" 面试官语气平淡，笔尖在记录本上轻轻点着。 我清了清嗓子： "我在拼多多集团实习过，基础架构方向，负责分布式存储调优和微服务治理，做过千万级并发下的容量规划和全链路压测……" "——等等。" 面试官抬起头，笔悬在半空。 "你说，拼多多，基础架构？" 我点头："对。参与过大促备战的架构优化，也参与了系统的故障演练和容灾方案设计，大促窗口期系统稳定性指标比实习前拉了不少。" 原本靠在椅背上的另一位面试官，悄悄坐直了。 "是那个……GMV已经破万亿，大促期...

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...