1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

我大三tmd逃课去白马培训是吧，你老冯同意了没？

绷不住了

本人学历是菜鸡，学院本，所以大厂根本不用想，中厂看命。[当然有一些学院本的技术佬也是进入大厂，只是我没有那个实力而已]找了一个多月实习，说句实话——纯 Java 这条路现在真的越来越难了。岗位少、要求高、竞争卷，说“死了”不至于，但对普通人来说已经不友好了。如果还在单押 Java，风险确实挺大。建议在找工作的、学Java的今早换方向，不然苦逼的只有自己。我很庆幸，在大三上学期就嗅到了 AI Agent 的风口，大三基本就搜哈 AI Agent了。这主要得益于去实习看到实习公司的业务主要是AI Agent，且在大三上学期找Java实习的时候，频频受阻，只找到一份5k的实习，薪资不满意，拒绝了，但...