科大讯飞 大无语事件

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

这俩就是包装的外卖和点评，我boss投了十多天了一个面都没有，哎人都要焦虑死了，感觉暑假实习都拿不到，只能去学校实训了，到时候秋招能不能找到好工作都感觉有点难，有没有大佬指点一下，拜托了🙏🏻

鼠鼠是二本学历，学的是java，面的是软件工程师，面试的时候没问什么技术，就问了一些项目经验，我就把之前公司的项目经验说了一下，但是复盘面试的时候发现讲的很多东西都不会甚至有的根本没听过（mes，仿真，ai）。虽说面试官说了有学习的机会，进去以后先从mes学起，如果学习能力强会调去ai，但鼠鼠还是很紧张，可以说是不自信吧，也可以说是被打压太久了反而没有信心了😭

一直想发的，但因为一面面了 1h47min 让我整理面经就整理了好几天小黑盒面试官有个特点，你要是没回答到他的点上，他就会打断你，会一直深挖整个面试压力爆大，过程中大脑宕机重启宕机重启一面自我介绍介绍下 GMP 是什么东西？如果在早期的 GM 模型中，我们直接给每个 M 分配一个本地队列和上下文资源，不也能解决全局锁冲突的问题吗？为什么非得在 G 和 M 之间，再凭空造出一个 P 的抽象层呢？M 没法窃取吗？为什么非要 P？如果 M 阻塞掉，P 会怎么处理？怎么动态知道 M 会阻塞，并提前退回 P？M 被解绑后，它还有 P 吗？新接手的 M 是哪来的？如果所有的 M 都进行了系统调用，程序会停...