1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

好像是个中厂，如果处女面面这个会死吗

就不投

嘿，兄弟们好，我是飞哥。说实话，当初我刚开始琢磨 AI 转型的时候，也一度以为自己得去跟那群写 Python 的“小年轻”抢饭碗了。毕竟在大家的刻板印象里，AI 圈子是 Python 的主场，咱们写 Java 的似乎只能在后台接个 API 传传话。但这段时间深挖下来，我发现咱们 Java 佬的底蕴真不是盖的。Java 的 AI 生态不光不弱，反而因为其极其恐怖的工程化能力，正在成为大模型进入企业级应用的主战场。今天飞哥就带大家盘点一下，咱们 Java 程序员手里现在的“AI 军火库”。为什么 Java 正在 AI 领域“回魂”？很多人不理解，觉得 Python 简单好用，为什么还要折腾 Jav...