由于公司经营遇到了巨大问题，出现严重亏损。不得不忍痛告诉全体员工团队解散一事衷心感谢全体小伙伴们在公司付出努力与汗水目前待定截止今日，后续事宜人事小姐姐会逐步跟进安排。再次感谢各位伙伴们希望大家都能有一个好的前程，在未来的时候一定要努力奋斗，前程似锦2023年6月16日我正在开开心心的写着代码，突然来了这么一条消息；我直接原地呆住了，沉思良久我才发现办公室内寂静的可怕，没有了键盘的敲击声；有的只有同事们的呼吸声，大家都依靠在椅子上，像是在思考什么。很快大家也都接受了这个不愿看到的实事。过了一两天就在开始办理离职一类的事情了。投递简历在离职以后，我们同事之间约好一起打了2个小时的球，吃了一个饭；...

😢 飞书电话会议。我真的搞不懂，那些问题我基本上都回答出来了，咋回事呢。

忽然收到了面试邀请 有没有友友有面经分享 投了这么多 第一个面试机会

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...