1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

求狠狠锐评简历，boss投递无人理。

三月底投到现在至今0约面，是哪里出了问题，是背景问题还是简历问题呢希望大佬指点一下已修改，希望大佬指点一下

1. 内存对齐怎么理解？下面两个结构体的大小是多少？答案：内存对齐主要是为了让 CPU 更高效地访问数据。结构体成员不是简单地按字段大小相加，而是会按照成员自身对齐要求和结构体整体对齐要求插入 padding。 struct S1 { char c; double b; int i; }; struct S2 { S1 s; float f; }; 在常见 64 位环境下，double 按 8 字节对齐，int 按 4 字节对齐，char 按 1 字节对齐。S1 的布局一般是：char c 占 1 字节为了让 double b 按 8 字节对齐，中间补 7 字节double b 占 8 字节i...