大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说,推理那一步确实快了,但算上数据拷贝的话,实际推理的时间反而多了!
点赞 评论

相关推荐

牛客网
牛客网在线编程
牛客网题解
牛客企业服务