打工日记|0912

4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

谁说的双非没有出路😁

不是哥们，这对吗，给我干哪来了

招银云创签吗😭准备到截止日期了。手上没有其他offer，只有两个还在面试流程中的。是签了等春招（解约好像要等明年四月）？还是不签继续找呀。11月大厂还有面试机会吗 😭