1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

昨天晚上妈妈突然告诉我，一个在科大毕业每几年的亲戚去世了，才三十不到。突然间我躺在床上，感觉自己对未来的焦虑、烦恼，似乎在生命之重面前成了一片微不足道的叶。昨天我的女朋友送了我一个噜噜的玩偶，我把它放在床上陪着我睡觉。我突然想到，如果有一天我生了一场大病，躺在床上，无法健身，无法学习，无法和我爱的人一起散步，吃饭，做最平常的事情，这有多么可怕啊？我们现在活着，爱着，在努力地往前走，这就是最伟大的财富了。

一直想发的，但因为一面面了 1h47min 让我整理面经就整理了好几天小黑盒面试官有个特点，你要是没回答到他的点上，他就会打断你，会一直深挖整个面试压力爆大，过程中大脑宕机重启宕机重启一面自我介绍介绍下 GMP 是什么东西？如果在早期的 GM 模型中，我们直接给每个 M 分配一个本地队列和上下文资源，不也能解决全局锁冲突的问题吗？为什么非得在 G 和 M 之间，再凭空造出一个 P 的抽象层呢？M 没法窃取吗？为什么非要 P？如果 M 阻塞掉，P 会怎么处理？怎么动态知道 M 会阻塞，并提前退回 P？M 被解绑后，它还有 P 吗？新接手的 M 是哪来的？如果所有的 M 都进行了系统调用，程序会停...