1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

是简历有问题吗

最近才准备开始投，没实习，八股只看了一点点形势有点严峻😇

1. 自我介绍2. 多阶段 RAG 里同时使用 BM25 和向量召回，混合检索策略通常怎么设计混合检索的关键不是把两路结果简单拼起来，而是根据问题类型决定两路召回各自承担什么角色。BM25 对精确术语、错误码、接口名、字段名、版本号这类关键词命中很强，向量召回则更擅长语义改写、口语化表达和抽象问题。真正稳定的设计一般是先并行召回，再做去重、融合、重排，最后再进入上下文构建阶段。如果问题本身是“精确定位型”，比如某个报错码、类名、接口路径，BM25 权重通常更高；如果问题是“意图表达型”，比如用户用自然语言描述故障现象，向量召回的权重会更高。工程里比较常见的是先取两路 topk，再用 RRF 或...