秋招拒的第一个offer（海信）

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

1. 自我介绍2. 项目介绍3. 进程和线程的本质区别是什么，为什么线程切换通常更轻答案：进程是资源分配的基本单位，线程是 CPU 调度的基本单位。一个进程有自己独立的虚拟地址空间、文件描述符表、页表等资源；同一进程里的多个线程共享代码段、数据段、堆、打开的文件等资源，但每个线程有自己独立的栈、寄存器上下文和线程局部存储。线程切换通常比进程切换轻，是因为同进程线程切换时，不需要像进程切换那样频繁切换地址空间和页表，缓存和 TLB 的破坏通常也更小。但“轻”不代表没成本，线程切换依然涉及内核调度、寄存器保存恢复、可能的锁竞争和缓存失效。4. 进程通信方式有哪些，怎么选答案：常见的进程通信方式有管...