第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

这些题刷完能不能拿五千一个月

为啥都没人鸟我哇各位大佬帮忙看看简历

坐标阿里巴巴广告部门(阿里妈妈)后端工程研发方向，java、c++、大数据、大模型、agent研发技术栈丰富，总有一款适合你，另外过去几年暑期实习都转正了。我们重点做Agent的应用落地和平台研发，需要较强的编码能力，对多线程、数据库等比较了解，擅长做大模型优化训练的同学注意下别投递错了PS：自己团队招人，速度快服务好，优秀简历速来，私聊我吧！ 可以把简历里个人信息打码私聊给我看下简历，合适的我回捞，没及时回复各位别伤心，还要上班干活Zzzz#牛客AI配图神器#