字节AML凉经

一面:
1. 项目(MPS, 训练内存, 调度策略, 时分复用和空分复用)
2. LLM推理有什么主要瓶颈
3. LLM推理主要的优化技术
4. page attention
5. orca迭代级请求调度
手撕: 反转链表

二面:
1. 项目(MPS, GPU占用率指标)
2. C++ 数组下标越界了会报什么错
3. 怎么Debug, linux环境下如何定位错误
手撕: LRU cache
全部评论
好难
点赞 回复 分享
发布于 2024-04-28 11:57 北京

相关推荐

已注销:bro不如吃顿疯狂星期四
点赞 评论 收藏
分享
10-13 13:49
南京大学 财务
饿魔:笑死我了,你简直是个天才
点赞 评论 收藏
分享
评论
1
22
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务