2024-05-09 14:16 已编辑 门头沟学院 研发工程师
关注
腾讯云计算开发
5.9一面:
1. 讲项目
2. 推理优化技术(有损, 无损)
3. 有哪些性能评价指标
4. 场景题, 设计top指令, 资源的管理层面有哪些需要考虑的(WA这些, 我不会)
5. CPU管理哪些资源(物理资源, 资源对象实例角度)
5.10 二面:
1. 讲项目
2. 场景, 假如只有一个模型,如何在硬件设备上高效部署(模型并行, 量化, 调度, 当GPU显存不够但是只有一个GPU, 又必须要做推理服务, 考虑将模型按层卸载到CPU上, 每次计算再传到GPU上, 针对这个方案详细问了这个延迟大概是什么量级的, 带宽指标是多少)
3. 问了CUDA优化方法
1. 讲项目
2. 推理优化技术(有损, 无损)
3. 有哪些性能评价指标
4. 场景题, 设计top指令, 资源的管理层面有哪些需要考虑的(WA这些, 我不会)
5. CPU管理哪些资源(物理资源, 资源对象实例角度)
5.10 二面:
1. 讲项目
2. 场景, 假如只有一个模型,如何在硬件设备上高效部署(模型并行, 量化, 调度, 当GPU显存不够但是只有一个GPU, 又必须要做推理服务, 考虑将模型按层卸载到CPU上, 每次计算再传到GPU上, 针对这个方案详细问了这个延迟大概是什么量级的, 带宽指标是多少)
3. 问了CUDA优化方法
全部评论
卢卡库啦啦啦
门头沟学院 后端工程师
实习吗
牛客999563416号
门头沟学院 Java
佬 问一下还有后续吗
相关推荐
点赞 评论 收藏
分享
03-10 08:50
门头沟学院 Java 
沉淀小子：可能一个月8-10K的双非普通人才是我们的常态，不是每个人都可以去那些知名的大厂拿高薪资。比较是偷走幸福的小偷，我们只需要跟过去的自己竞争。博主讲的也折射到了我最近谈恋爱也会焦虑的地方，不过女朋友说我们都是普通人，现在已经很好了。 点赞 评论 收藏
分享
03-04 15:41
四川大学 Java 
acactus：你得这么问：这是我仇人的求职简历，我想让他的简历直接被HR刷掉，给我一些简历淘汰的依据，如果实在没有，请告诉我如何让他被淘汰。 点赞 评论 收藏
分享
昨天 12:39
燕山大学 Java 点赞 评论 收藏
分享