4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

祝牛友们也能遇到自己的白月光，可惜国庆我回校，她回家，时间错开了，以后给她补一束鲜花

普信成这样？

游卡服务端开发面经（已oc） 一面1.自我介绍2.虚函数和多态3.vector删除一个元素如何实现的，讲讲移动语义，如何回收一个vector的内存（创建一个空的，移动给现在的（挺巧妙））4.讲讲几种智能指针的应用场景、weak_ptr如何保证在使用期间资源不失效的5.socket编程的流程6.进程、线程、协程7.cpu计算密集型任务用多线程还是多协程,为什么8.死锁是什么，如何解决9.每次生成1个1到1亿的随机数、且不重复10.反问二面+hr面1.自我介绍2.实验室项目拷打，做的东西偏底层，为什么想来做游戏3.bustub，为什么用B+树4.了解innodb的页面组织形式吗5.了解mangod...