4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

大疆发offer了，嘿嘿😆此等机缘果然不是我等小辈能沾染的

避雷中科创达，毁oc

上班一年了，前几天和朋友约饭，聊天内容不知不觉的变成了工作，口头中既然还渗透了工作用语开始意识到我也要入味了！ 想想没入味的一年前，我也是一个青涩的大学牲，当年秋招场景我都还记得，我得到offer时真的挺顺，未岚大陆初面到终面，三场面试在四天内一气呵成了，流程真的快，这是我对公司效率的第一印象。一面时见到我后来的导师（也是现在的leader），他还和我聊了行业趋势，甚至分享了自己刚工作时的摸索经历。 一年就过去了，但这班味似乎没有想象中的那么凶猛，上班时也没有丧丧的感觉，事情虽然有时候会多，但我都用本子写下来，和之前读书的时候用的 to do list差不多，按计划一样一样来，完成一样勾一样，...