第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

1. HashMap 的底层实现原理 JDK 1.8 之后：  数据结构：数组 + 链表 + 红黑树 数组：Node<K,V>[] table 每个位置叫 桶（bucket）  流程：  key → hash hash → (n - 1) & hash 定位数组下标 发生冲突：  链表（长度 < 8） 红黑树（长度 ≥ 8 且数组长度 ≥ 64） 关键点：     负载因子（loadFactor）默认 0.75 扩容：容量 × 2 链表转红黑树阈值：8 红黑树转链表阈值：6  2. put(k, v) 的流程 put(key, value) ↓ 计算 hash(key...