1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

吓哭了，明天被面试塞满了

1. C++对象模型中，虚函数表（vtable）的布局是怎样的？多继承时vtable如何组织？答：每个含有虚函数的类都有一张vtable，存放在只读数据段，表中按声明顺序存放虚函数指针。每个该类的对象头部有一个隐藏的vptr指向这张表。多继承时情况更复杂：对象内存中会有多个vptr，每个基类子对象对应一个。比如类C继承自A和B，C的对象布局是先放A的子对象（含A的vptr），再放B的子对象（含B的vptr）。C重写的虚函数会覆盖A那张表里对应的槽位，同时B那张表里也会有一个thunk（调整器），负责在调用时修正this指针偏移，再跳转到C的实现。这就是为什么多继承下虚函数调用有额外的this指...