卓驭 机器学习平台工程师 一面面经

问项目问的很细,但不拷打,纯交流。

中间问了推理加速的选择,大概讲了讲vllm和deepspeed-mii主要的一些推理加速的技术路线。

问了问推理框架的选择,说了一下vllm,deepspeed-mii和sglang的使用体验。

问了问模型增大主要带来的是什么瓶颈,分别讲了计算瓶颈和访存瓶颈。

无八股,无代码题。

方向其实不太匹配,挂了也正常,许愿一个二面吧

#秋招##卓驭科技#
全部评论
出结果了吗?
2 回复 分享
发布于 2024-08-21 23:31 黑龙江
请问投递后多久进面的呀
点赞 回复 分享
发布于 2024-08-21 10:25 湖北

相关推荐

09-23 21:27
已编辑
四平职业大学 机器学习
面试有史以来第一次是本校学长/学姐面,但是很可惜可能G了首先自我介绍,介绍两段实习+硕士课题,先简单介绍了一下,然后让我重点详细介绍一下在蚂蚁的实习工作,就按照timeline列举了一下做了哪些工作,中间穿插一些提问然后又让我重点介绍了自己的硕士课题,聊完课题之后提问:问:是否了解内存池,如果让你设计一个动态内存池,你会有哪些考量?答:先说明自己没有做过上层的内存管理,然后从底层的内存管理介绍了一下,对数据分块、淘汰策略、数据预取等方面的一些基础的策略,然后面试官也没有追问拷打(感谢心软学姐);问:对未来的职业方向有没有自己的想法?答:说了一下自己硕士的方向与现在大模型优化技术的结合,未来可能是一个潜在的优化点,举了一个详细的例子;手撕:实现一个包含环检测功能的链表反转的代码,如果有环,返回nullptr,如果无环返回反转后的head node,腾讯手撕依旧考察基础,让我写完整并且打印示例,一次通过了反问:了解一下业务?答:主要做大数据,介绍了一些业务场景,然后心凉半截,因为我说的未来规划和业务场景基本上毫无关系然后又提问是否了解Ray?我没有听过,我说不了解,然后又问了一句,对其他分布式工具是否有所了解,然后就说了Megtron了解一些后续下来问室友发现Ray就是vLLM官方实现分布式的一个工具,但是之前也没有了解过
发面经攒人品
点赞 评论 收藏
分享
评论
6
5
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务