求助帖

抱一丝,求助有没有友友做过Tensorrt的加速的?有一些流程上的问题自己不是很理解。
全部评论
你不会百度吗😼
点赞 回复 分享
发布于 2023-12-22 19:07 江苏
是用的python写的 难道使用了tensorrt最后实际效果反而是慢了 我情感上接受不了啊
点赞 回复 分享
发布于 2023-12-21 20:24 江苏
大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说,推理那一步确实快了,但算上数据拷贝的话,实际推理的时间反而多了!
点赞 回复 分享
发布于 2023-12-21 20:24 江苏

相关推荐

08-15 11:00
门头沟学院 Java
还没开始就结束了
码农索隆:是不是刚开始投的时候,心情还挺忐忑,还想着这要是给我发面试了,我应该怎么准备😼
点赞 评论 收藏
分享
这一生如履薄冰:产品经理现在都要会微调大模型了吗
点赞 评论 收藏
分享
08-12 16:53
中南大学 Java
打开英伟达笔试一看,看傻了,两个小时六道编程大题,什么样的人才能做完这种笔试题。。。
Linux内核学习记...:你这个问题等同于问清北招谁
投递英伟达等公司10个岗位
点赞 评论 收藏
分享
评论
1
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务