4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

图一为自己纯手写的代码，1024拉了坨大的

产品面经，摘自优秀牛油一面：群面（产品和运营混合），一组大概78910个人吧（我们组10个），我们抽到的题目是选一款直播APP，设计成小程序，并简要设计初期冷启动的增长方案。一个小组有30分钟的讨论时间（自我介绍+leader自荐+讨论+汇报+补充）。中午等一面结果，10进3。二面：单面（业务面），是一个很温柔的面试官，问题也比较常规，主要围绕简历，问实习经历的项目和科研经历，抠得比较细，会问一个项目是怎么做的，有什么收获（贡献），数据分析对于产品的意义，还让我介绍了我的两个科研项目。三面：HR面，问了一些家庭基本情况，研究生的日常（科研、生活、工作），杭州和深圳的印象，杭州景点推荐，给HR推...