1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

想找到暑假实习，有希望吗（大二）

1.手撕2道2.自我介绍3.进程之间通信方式4.HTTPS握手流程（没背不会，只会与http的区别，端口号）5.TCP 3次握手服务器和客户端状态变化6.select，poll，I/O7.了解mysql中最左前缀吗（说了怎么索引失效，也补充了skip scan优化，但是问我实现原理问懵了）8.你的向量数据库用的什么？存在大索引吗？面试官没开摄像头，HR发面试邀请的链接写的是7点到7.30，点进去准备面试写的是7点到7.45，结果8.15才结束。