第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

27 届想找暑期实习，没有约面，求简历锐评

难道前端真的已经不行了？

可能很多学弟学妹们对双选会和宣讲会的区别都不是很清楚，我本科的时候也是这样。先来说一下二者的区别。双选会：一般学校牵头举办，在体育馆或者一个很大的空间，几十家上百家企业一起，每个企业一个摊位。好处：可以一次接触非常多家企业，横向对比。不足：只能大概了解一家公司的概况，因为咨询的学生很多，HR不会详细讲解你目标岗位的详细情况。宣讲会：定向的、只有一家公司的详细讲解，一般会有公司专门负责校招的HR和某个产品线或某个地区业务负责人参与。好处：HR会把企业具体情况、招聘岗位讲的很详细清楚；有很多伴手礼拿；很多企业会线下当场初面，对于我们整体秋招或春招的流程推进作用很大。不足：缺少横向对比的过程，需要比...