面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.实习介绍2.介绍RAG流程，分段有没有做优化；3.Qwen3系列和bge系列的原理，Qwen3系列编码模型是怎么训练的；4.self-attention公式；为什么要scaling5.Agent的思想是什么，Agent包含哪些部分；6.RAG怎么评估，用了哪些指标；7.RAGAS有哪些指标，为什么不直接用库；8.介绍Agent怎么做任务规划和问题分解9.GRPO与PPO的区别；GRPO的缺点；介绍GSPO10.SFT数据集怎么构建，问题不够多样化怎么解决；11.RLHF，介绍PPO，包含多少个模型；

1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

急急急急急  

1. 自我介绍2. Qwen3.5 这类新一代模型，如果不只停留在“Transformer 变体”更有含金量的讲法不会只说它是 Decoder-only，而是会落到训练稳定性、推理效率和长上下文适配这三条线上。比如归一化方式、注意力结构、RoPE 扩展策略、GQA 对 KV cache 的影响、SwiGLU 对表达能力的提升，以及 tokenizer 和多语种兼容设计。面试官真正想听的是这些结构选择为什么出现，它们解决了什么具体问题，而不是模块名背诵。如果要再深一点，可以顺手带出工程后果。比如 GQA 不是为了论文好看，而是为了在长生成场景下降 KV cache 占用；长上下文扩展也不是简单把...