湖北航天技术研究院计量测试技术研究所

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

26春招发一波力？

直接说结论：没有哪个更好，只有哪个能让你先上岸。认清现实：双非身份意味着什么？ 别听那些 双非照样进大厂 的鸡汤，那是极少数。 现实是：你的简历在HR系统里天生优先级低。大厂简历筛选那一关，天生就难。😭 所以，你选什么方向，核心逻辑只有一条：哪条路能让你在面试那几分钟里，靠项目硬实力把面试官镇住？ 2. 剥开表象看本质后端开发：系统的地基 ⚙️你每天琢磨的是：怎么让接口快那几十毫秒？高并发下数据库怎么不挂？代码写得优不优雅？ 现状： 岗位极多，但卷得离谱。如果你只会增删改查，必挂。你得懂底层，懂分布式，懂性能调优。数据开发：数据的炼金术”💎你每天打交道的是：几亿条数据怎么洗？离线、实时任务...