硅基流动实习体验咋样？能学到东西吗？岗位是推理引擎

1.项目拷打（MongoDB、数据库链接方式、流式输出、NestJS的DTO、装饰器）2.useCallback和useMemo的区别

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

我选不会，原因是——前端没死，没死没完蛋了前端还有好多机会

1. BERT 模型的结构答：BERT 本质上是一个 Encoder-only 的 Transformer。输入由 Token Embedding、Segment Embedding、Position Embedding 三部分相加得到，然后经过多层 Transformer Encoder。以 BERT-Base 为例，模型参数通常是：层数 (L=12)，隐藏维度 (H=768)，注意力头数 (A=12)，前馈层维度 (4H=3072)。BERT-Large 则是 (L=24, H=1024, A=16)。每层 Encoder 的结构是：Multi-Head Self-Attention -&...