4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

🍜 那年的1024，我在食堂悟了道 21年10月24日晚上，当时我正坐在学校食堂吃着我最爱吃的鸡汤米线，因为过生日，所以给自己加了个卤蛋。手里刷着抖音，然后刷到一条“1024程序员节”，我当时就有点好奇，这节日咋和我生日同一天？直到想起2的10次方等于1024才明白原因，然后就想难道我命中注定就是做程序员的吗？然后就有了接下来的一系列故事。第一赚-选学校 因为煮包当时高考考的也很一般刚过一本线，选专业也没有任何方向就是胡乱选，当时其实想报的是机械制造及其自动化，奈何煮包的分数不够一般的大学也上不了只能去学院，当时也是好面子觉得学院可能不好听完全没有参考什么专业排名，也是误打误撞做了个正确的选...