工行业研

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

目标后端

2016年大学本科毕业之后没有从事自己想要的工作选择。上海的工作并没有得到认可。年轻人是时代的弄潮儿。时尚和美观操控着每个应届毕业生的不服输心态。测试题目的检测开始好转并得到面试官技术认可。学校大学本科校招时间窗口期很多的知名公司会进入一些名校高等学府进行校园招聘。宣讲会听讲认真但是并没有发现什么长处。呆呆的看着大学生打篮球有的时候 完美世界 的宣讲会就没有再次参与。专业实习的笔试成绩前端技术勉强通过面试官的技术标准。不理想的笔试成绩很有可能会拦着大部分面试官。甲骨文Oracle公司的笔试成绩7分表示这方面可能并不弱。  突然要离开大学回到南方。无法释怀的是一些外国大学留学生的抛掷过来的奇怪眼...