1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

你在leetcode上练的都是死代码能力🤣

背景4年前端，有AI行业的工作经历多的不说了，纪念一下吧，感觉啥都没答上来，面试官能和我聊四五十分钟也是难为他了正文为什么会有给ai用的sandbox，它的出现是为了解决什么问题？有没有用过sandbox？llm playground深挖sse和socket的区别，为什么用sse做流式而不是socket假设你现在在用这个playgroun和ai进行对话，发送按钮点击了，此时模型在不断的一个字一个字的蹦出来，在这个流式输出的过程中，我刷新了页面或者切了一下对话再切回来，这个时候作为用户我肯定希望对话是继续的，这种场景你是怎么处理的？后续面试官补充：sse不是socket，在断掉之后，是没有重连这...