4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

刚过完第一遍八股。。。

QQ邮箱把字节意向归类到了广告邮件😂

大家好，我是桂花鱼，2026届 java 选手，随着今年手头的笔面试都告一段落，拿下了 6 个意向：阿里云、达摩院、阿里国际、高德地图、美团、快手（具体面经可以看我之前的文章），也不打算面试别的公司了，秋招基本结束。感觉也是时候对自己本硕 7 年的学习和求职生涯做一个小小的总结吧，也是希望自己的经历可以给大家一些参考。初识 Java说起来也很戏谑，自己从小到大对电脑的记忆都很少，唯二的印象是小时候周末去父亲公司打红警和植物大战僵尸，以及老师要求做 ppt 的时候去表哥家借用电脑，结果最后在高考的时候，因为问了招生办老师哪个专业分数线高，于是选择了计算机这个专业。直到高考完，自己家里才配了第一台...