1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

何意味😄

讲一下项目哪个地方具有挑战性，如何解决kafka如何保证消息是发送一次接收一次，如何确保broker正常刷盘，多副本怎么实现，这里有个高水位低水位概念知道吗（不会）setnx有哪些参数，优化前的分布式锁是哪个维度zk如何保证数据一致性（忘了）构造线程池有哪几种方式，ThreadPoolExecutor底层继承了哪一个抽象类，抽象类有什么方法，他是怎么实现的（不会）juc包下有哪些类，concurrenthashmap底层原理hashmap和concurrenthashmap中，一个对象可以作为key吗，重写equals和hashcode注意哪些netty特性讲一下selector，channe...