58同城

2022 年的时候，我在牛客发了一个动态，内容大概是我有了一个小厂实习转正的 offer，年薪 30 万左右，意外得知自己保研后，纠结一段时间还是选择读研再苟三年，这个动态有了快 3 万的浏览和几百条评论，现在重新读这些评论，还是能感受到当年的就业环境寒气逼人，一半以上的同学认为有 offer 不工作读研三年会后悔，也有些同学认为 offer 不满意可以读研提升一下自己。如今三年之期已过，虽然这三年过得非常辛苦，甚至可以说是很痛苦，但我依然满意读研这个选择。给出一组数据上的对比：实习 offer： 三年前：一家不大的量化实习offer；三年后：暑期拿了腾讯、快手、网易互娱、拼多多、阿里灵犀的实...

准备回家种田了  ，  

4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]