第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

就不投

最近投简历投到有点怀疑人生。明明项目也做了，八股也背了，实习也在找，但简历发出去以后经常没下文。以前我一直以为是学历、项目、技术栈不够强，后来认真复盘了一下才发现：很多时候，不是经历完全不行，而是简历没有把“我适合这个岗位”讲清楚。尤其是技术岗和实习岗，很多同学的简历都会出现几个问题：项目写得像课程作业；技术栈堆了一堆，但看不出熟练程度；经历描述太泛，比如“负责接口开发”“参与系统搭建”；没有体现结果，比如性能提升、效率提升、用户量、准确率、稳定性；简历内容和岗位JD没有对应关系。结果就是，自己觉得写了很多，HR或者面试官看完却不知道你到底强在哪。后来我开始用一个比较实用的方法：先看岗位JD，...