暑期实习offer选择

1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

Timeline3.5一面3.8 二面3.12 三面3.18 hr面4.2 offer

挑战全网最惨27届应届生。十几场面试全挂，道心破碎，后续不打算面了，先调整一下心态了。金三银四感觉和双非无关

🙌面试感想：面试官人很好 1.自我介绍+项目2.Go数组和切片区别3.Go map并发4.Go指针和c++指针区别5.Go零值和nil区别6.Go csp7. Go GC8.Go排查内存泄露方法9.Mysql隔离级别10.读未提交使用场景11.Mysql死锁场景12.SQL注入13.Redis和mysql数据一致性方案14.什么样的代码是好代码？