求助帖

抱一丝，求助有没有友友做过Tensorrt的加速的？有一些流程上的问题自己不是很理解。
全部评论
你不会百度吗😼
点赞 回复 分享
发布于 2023-12-22 19:07 江苏
是用的python写的 难道使用了tensorrt最后实际效果反而是慢了 我情感上接受不了啊
点赞 回复 分享
发布于 2023-12-21 20:24 江苏
大概就是 使用tensorrt加速推理的时候 节省的推理时间 还比不上 CPU GPU之间互相拷贝数据的时间。简单来说，推理那一步确实快了，但算上数据拷贝的话，实际推理的时间反而多了！
点赞 回复 分享
发布于 2023-12-21 20:24 江苏

相关推荐

01-25 11:44
南昌大学 算法工程师
点赞 评论 收藏
分享
01-22 16:57
清华大学 Java
领导有时候真的很扯
领导做过的离谱事情，往往不是某一次“大事”，而是那些看起来很小、却能让人瞬间怀疑人生的瞬间。比如有一次，团队正在加班赶一个版本，大家都在盯着日志和报错。突然领导走过来，指着屏幕说：“你们这个功能要不要再加一个新需求？反正你们今晚不睡了。”当时我以为他在开玩笑，可他很认真地补了一句：“你们都在公司，顺手做了就行。”那一刻我才意识到：在他眼里，加班不是代价，而是默认的资源。还有一次，领导在会议上要求我们“提高效率”，但却不允许我们用任何自动化工具。说法是：“我们要靠手工来保证质量。”可当我们提出手工效率低、容易出错时，他又说：“你们是不是不够努力？”这种“要求高标准、但不给条件”的逻辑，让人觉得工...
领导做过最不靠谱的事
点赞 评论 收藏
分享
01-20 09:47
网易游戏_游戏研发工程师(准入职员工)
网易互娱内推，网易互娱内推码
网易**不管问你啥，记住一个话术原则小小的提醒下各位留子：**时不要直来直去有啥说啥；千万得多思考别说太满给自己留个思考或回旋的余地・1、被问 “有没有接触过网易的产品”（哪怕了解不多）别直接说 “没有”（容易显得缺乏兴趣）试试：“之前用过网易云音乐和网易新闻，对产品的界面设计和功能逻辑有过留意。虽然没有深入研究，但能感受到网易产品注重用户体验的特点，入职后会系统学习相关产品知识”・2、被问 “能接受高强度的项目加班吗”别勉强说 “没问题”（后续可能难以承受）试试：“我理解互联网行业项目推进时需要集中精力，在关键节点愿意配合团队加班。但也会注重提升工作效率，合理规划时间，尽量在正常工作时间完成...
点赞 评论 收藏
分享
评论
1
收藏
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 赚钱的意义在这一刻具象化 #
974次浏览 35人参与
# 哪些瞬间让你真切感受到了工作的乐趣 #
22903次浏览 98人参与
# 今年春招是金一银二嘛？ #
1529次浏览 27人参与
# 工作后会跟朋友渐行渐远吗 #
57547次浏览 411人参与
# 1月小结：你过的开心吗？ #
460次浏览 22人参与
# 为什么有人零实习也能进大厂？ #
1844次浏览 57人参与
# 汇川技术求职进展汇总 #
177493次浏览 1055人参与
# 抛开难度不谈，你最想去哪家公司？ #
1108次浏览 44人参与
# AI时代的工作 VS 传统时代的工作，有哪些不同？ #
3883次浏览 100人参与
# 你的landing期是如何度过的？ #
3949次浏览 69人参与
# 你的第一家实习公司是什么档次？ #
1391次浏览 25人参与
# 除了Java，最推荐学什么技术？ #
3066次浏览 92人参与
# 当你问AI“你会取代我的工作吗”，它说_？ #
1339次浏览 54人参与
# 本周投递记录 #
835634次浏览 12224人参与
# 你上一次加班是什么时候？ #
128715次浏览 736人参与
# 选offer应该考虑哪些因素 #
139706次浏览 982人参与
# 如果工作一直消耗情绪还要继续做吗 #
18422次浏览 86人参与
# 你觉得什么岗位会被AI替代 #
35623次浏览 242人参与
# 我和mentor的爱恨情仇 #
103196次浏览 928人参与
# 毕业论文进行时 #
26270次浏览 151人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务