智谱一面

经典过简历项目,重点问了最近这段的实习经历的主要工作,并且面试官的提问全程都非常落地,投递的Infra岗位,提问感觉像是在拷打算法,罗列几个回答的不太好的问题:

1、你们的场景是如何使用并行策略的?比如TP/DP等
答:采用TP2,DP8,EP16的单机16卡的并行策略

2、接着问:TP和DP应用在哪个权重计算的位置,并且两者是如何进行协同的?
答:TP/DP应用在Attention+FFN结构中的Attention,MoE模型的FFN使用EP,如何协同没回答上来,问了很久这个地方,最后和面试官说抱歉了,这部分的工作我没有具体落地做过,所以没有仔细研究过,然后面试官很有耐心的给我讲了一遍这部分的原理,也算是学习了

3、问我对推理Infra调度方面的策略有没有了解过,比如动态批处理...等几个调度方面的工作
答:简单描述了一下动态批处理的机制,主动说没有做过这方面的落地

4、还问了对于推理框架的KVCache管理策略有没有了解过?
答:介绍了一下vLLM社区的PageAttention,但是介绍的也非常粗糙,说类似于传统OS中的页表管理,并且言多必失,我说这个Page大小需要被精心设计,不能过大也不能过小,然后被拷问了为什么不能过大以及为什么不能过小的原因,感觉回答的也不是很好,被用例子拷打了

接下来就是手撕阶段了,手撕也比较抽象,手撕的是MoE层的Dispatch过程,我用C++写的:

输入是token的gating_scores和k,要求返回k个专家分配到的对应的token_id

这个写的比较艰难吧,写的速度比较慢,最后时间不太够了,面试官看了我前面的实现代码和我说:思路我看了一下基本上是正确的,时间不够了也没叫我接着讲思路,就说那我们今天就到这里吧

PS:面试过程感觉面试官非常有耐心,真的非常专业,实打实的一线开发人员,并且也乐于分享,回答不上来或者回答错误的问题面试官都耐心的给我讲解了,感觉自己发挥的不是很好,感觉虽然过的概率不大,但还是希望智谱能给个机会

#秋招##我的秋招日记##发面经攒人品##牛客AI配图神器##智谱AI#
全部评论

相关推荐

9.3下午5点投,5.30约面,9.4,下午一面秒过不过我这情况hrbp跟业务也知道,hr姐姐回复是:好的我这边了解了哈,可以等稍后业务部门反馈~最新情况,快手回电话了。我面试不错,但是在职,后面流程暂时不推进,后续再看看。不急,我明年再来哈哈哈😚😚我就算过了也没法去,刚入职,现在实习也比较喜欢,主要做的是百度app跟pc端,AI搜索这个功能,做创新性优化,基座训练算法等,跟组内9硕一块干,所以我先狠狠沉淀着。就是快手那边我在想,能不能先保持个联系,下段的时候继任上一个实习生。正文:面的部门主要业务是快手app,创作视频,编辑作品并且发布。面的是开发岗,我去了可能接触多模态的相关工作。1,自我介绍2,聊天,面试官好奇实习跟上课,好奇我最近百度做的啥,纯轻松聊天3,让我自己细致讲一讲实习经历,我讲了不下10分钟,然后我俩继续聊实习细节,直到完全理解。中间面试官一直点头肯定,给人体验就很好,点赞👍🏻4,简单讲讲项目,聊聊我自己的开发经历5,讲一下你对于c加加的了解6,你熟悉的这个语言是Python对吧,讲一下你管理项目一般用到的一些容器呀。框架,方法,架构等等。7,问我之前是不是高中就有基础。问未来兴趣发展规划。8,手撕算法,很简单。在一个数组中。连续元素和,最大的这个和是多少9,反问。感想的话,目前入职一天就开始排需求。然后带我的姐姐也挺好的。有啥也可以问,组内还是有点强度。平时都是一块儿吃饭。待着挺舒服。而且K2的饭比k1好吃些。另外就是实习面试这一块。最近反正机会挺多的。然后面试的话要注意自己的节奏。你要逐渐找到那种把握全局,表达清楚且逻辑性比较强,也要做好准备,回答面试官问题的时候能够体现出你跟他们的一个匹配性。可以多抽象一些实体。做一些本质上的工程以及优化思考。业务规划开发,这些大的都有很多共通之处。另外,个人感觉,大厂考的更多的是一些实习和业务还有你自己的经验。经验丰富的话,人家问啥都有对应的思考和解决方案。这个可以边实习边思考。也可以给未来有一个更好的规划。最后,㊗️🐮油们关关过,接的电话全是oc,收的邮件全是offer。你的付出努力必有回报。
重生之我在海淀化身为...:你是我见过最帅的牛客男孩
查看7道真题和解析
点赞 评论 收藏
分享
评论
2
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务