1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

致各网络平台及社会公众：近期，网络上出现关于北京全满科技有限公司涉及培训业务、培训贷等不实信息，对我司正常经营及品牌声誉造成不良影响。为澄清事实、消除误解，现就相关情况郑重声明如下：1.业务范围明确，未从事任何培训类业务我司为正规科技企业，工商经营范围以技术开发、技术服务、软件开发、计算机系统服务、数据处理、软件及计算机软硬件销售等为主，公司仅针对内部员工在正式上岗前开展技术工作专项培训，从未以任何名义向个人或企业收取培训费用、推荐贷款平台、诱导办理培训贷，不存在培训贷的违规模式，从未开设、运营或合作开展任何形式的培训贷业务，与各类培训贷机构无任何业务关联及合作关系。2.严正反对不实信息，保留...