1. 自我介绍2. 说说你简历上这俩项目3. 多头注意力真正发挥作用的关键，不是“头变多了”而是什么多头注意力的核心不是把一个注意力拆成几份，而是把表示空间分成多个子空间，让不同 head 在不同投影下学习不同相关性模式。有的 head 偏局部词法关系，有的偏远距离依赖，有的偏结构性边界，有的偏位置模式。如果只是单头，模型只能在一个统一度量空间里做相关性匹配，表达会更受限。真正让多头有效的，不是“并行”两个字，而是不同头通过不同参数矩阵形成了多视角关系建模。头数继续增大并不一定更好，因为维度被切得过细后，每个头的表达能力又会下降，所以它本质上是容量分配问题，不是机械堆头数的问题。4. 为什么推...

emmm没想到以这种方式被挂了

最近才准备开始投，没实习，八股只看了一点点形势有点严峻😇

1. 自我介绍2. Qwen3.5 这类新一代模型，如果不只停留在“Transformer 变体”更有含金量的讲法不会只说它是 Decoder-only，而是会落到训练稳定性、推理效率和长上下文适配这三条线上。比如归一化方式、注意力结构、RoPE 扩展策略、GQA 对 KV cache 的影响、SwiGLU 对表达能力的提升，以及 tokenizer 和多语种兼容设计。面试官真正想听的是这些结构选择为什么出现，它们解决了什么具体问题，而不是模块名背诵。如果要再深一点，可以顺手带出工程后果。比如 GQA 不是为了论文好看，而是为了在长生成场景下降 KV cache 占用；长上下文扩展也不是简单把...