秋招offer选择

第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

这个世界太疯狂了

能投什么企业

我和我的mentor相处模式绝对是“亦师亦友的硬核技术搭子”。刚切入新能源电池测试的大数据架构时，面对每天海量的并发数据流，我其实挺头疼的。但带我的齐工从来不搞职场PUA，而是直接拉着我一起看底层链路。我们最常做的不是单向分派任务，而是一起对着屏幕争论怎么优化Kafka和Flink CDC的同步逻辑，或者研究怎么把Doris的查询性能压榨到极致。每周的部门技术分享会上，他也会极力鼓励我上去讲讲分布式数据库的实战踩坑经验，帮我建立技术影响力。平时遇到难啃的骨头，比如梳理实验室测试流程管理模块（TRP）的复杂数据清洗规则，总是一针见血地点出瓶颈，然后鼓励我大胆用AI原生工具链去提效重构。这种不讲虚...