第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

灵神太强了，写力扣没这么爽过

📍面试公司：百度❓面试问题： 挑一个你觉得相对有技术挑战的，仔细讲一下 流式输出SSE 的请求用的是什么框架？ 怎么去做吐字动画？ 项目分工 AI coding 写一个类似于搜索框的搜索的产品。从技术设计上你觉得有什么可能需要特别注意或者考虑的点吗？结合你刚刚的这些搜索对话什么的。（应该要回答防抖节流之类的） 搜索的字符匹配高亮，这个后端要如何处理接口呢？写一个接口的 API 搜索的时候，他可能会有一个假设一个场景。我搜索第一个query的那个时间特别长，可能是 10 秒钟才回来。然后搜索第二个query，回来的时间比较短，可能 2 秒钟就回来了。那这个时候那个搜索结果页会发生什么呢？（第二...