2024-04-23 15:01 已编辑 门头沟学院 研发工程师
关注
字节AML凉经
一面:
1. 项目(MPS, 训练内存, 调度策略, 时分复用和空分复用)
2. LLM推理有什么主要瓶颈
3. LLM推理主要的优化技术
4. page attention
5. orca迭代级请求调度
手撕: 反转链表
二面:
1. 项目(MPS, GPU占用率指标)
2. C++ 数组下标越界了会报什么错
3. 怎么Debug, linux环境下如何定位错误
手撕: LRU cache
1. 项目(MPS, 训练内存, 调度策略, 时分复用和空分复用)
2. LLM推理有什么主要瓶颈
3. LLM推理主要的优化技术
4. page attention
5. orca迭代级请求调度
手撕: 反转链表
二面:
1. 项目(MPS, GPU占用率指标)
2. C++ 数组下标越界了会报什么错
3. 怎么Debug, linux环境下如何定位错误
手撕: LRU cache
全部评论
讲文明的熊猫在走神
门头沟学院 后端工程师
好难相关推荐
03-12 09:42
东北林业大学 科研助理 点赞 评论 收藏
分享
投票
你算哪个小喷菇：offer了，大家别焦虑
点赞 评论 收藏
分享
03-04 10:11
南京邮电大学 Java 点赞 评论 收藏
分享
查看22道真题和解析 点赞 评论 收藏
分享