面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

xhs的40k本就够惊讶了，字节更狠啊。秋招的寒气呢？头部大佬热的裤裆都湿了吧。

📍面试公司：元启视界（杭州）📖面试问题：1.自我介绍2.I/O密集型业务线程池你是怎么设置的？3.线程池是怎么保证核心线程不会被回收的？4.你知道动态线程池吗？（不知道QAQ，后续查了一下美团有Dynamic-TP的轻量级解决方案）5.你项目里的Dify工作流是怎么编排的？6.你觉得是什么方式使得他的效果提升了？8.GraphRAG的方案是你自己考虑的吗？其他的忘记了，或者就这些好像。目前录制文件的权限还没拿到。等节后的二面消息ing...