工行杭州提前批

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

Timeline3.5一面3.8 二面3.12 三面3.18 hr面4.2 offer

何意味😄

哎，真的心累了，一面二面好不容易都过了，而且印象好像还挺不错的，三面也准备的比较完善了。结果不幸的事情还是发生了，我感觉我能回答的已经很全面到位了，虽然能感觉到大leader应该是非技术出身的，但是有一些奇奇怪怪的问题我是真的有些无奈。自我介绍项目介绍你的项目使用了Paimon，那Spark，Hive这些与Paimon有什么区别为什么使用Paimon，有什么优点实习的时候，你学了什么新技术呢那你说一下离线作业的优化方法Spark参数怎么调？那么除了上面的你说的这些优化，像Hive，Spark或者数据湖这些分布式架构，他们共有的导致数据慢的问题有什么呢？你了解AI的实现技术架构吗？那你认为怎么用...