2024-04-23 15:01 已编辑 门头沟学院 研发工程师
关注
字节AML凉经
一面:
1. 项目(MPS, 训练内存, 调度策略, 时分复用和空分复用)
2. LLM推理有什么主要瓶颈
3. LLM推理主要的优化技术
4. page attention
5. orca迭代级请求调度
手撕: 反转链表
二面:
1. 项目(MPS, GPU占用率指标)
2. C++ 数组下标越界了会报什么错
3. 怎么Debug, linux环境下如何定位错误
手撕: LRU cache
1. 项目(MPS, 训练内存, 调度策略, 时分复用和空分复用)
2. LLM推理有什么主要瓶颈
3. LLM推理主要的优化技术
4. page attention
5. orca迭代级请求调度
手撕: 反转链表
二面:
1. 项目(MPS, GPU占用率指标)
2. C++ 数组下标越界了会报什么错
3. 怎么Debug, linux环境下如何定位错误
手撕: LRU cache
全部评论
讲文明的熊猫在走神
门头沟学院 后端工程师
好难相关推荐
查看15道真题和解析 07-19 13:28
长沙学院 Java 点赞 评论 收藏
分享
投递深圳虾皮信息科技有限公司等公司10个岗位