TensorRT的优化原理

TensorRT优化原理

在这里插入图片描述

模型裁剪

原始网络
在这里插入图片描述
裁剪后：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

量化

在这里插入图片描述
量化涉及到的原理是： 交叉熵

TensorRT环境配置

在这里插入图片描述

TensorRT的SSD代码运行过程

在这里插入图片描述

References

量化的数学原理

TensorRT模型原理

全部评论

相关推荐

03-10 18:18
门头沟学院 前端工程师
小红书前端一面 自用记录
📍面试公司：小红书🕐面试时间：2026.3.10💻面试岗位：27前端实习生❓面试问题：八股竟然一点没问（项目方面展开很多：（完全根据简历问）项目有什么特色功能？jwt的技术选型理由，文件结构的设计有什么考量，对当前产品优化的思路，怎么成为独具一格的产品。算法：很简单的，判断两圆或两矩形有没有碰撞。但基本功不太行没写完，讲了下思路，面完回想矩形的发现还是有优化点。算法还是得多写多练。🙌面试感想：感觉ai时代对编码效率的权重有所降低，前后端工程师也需要往产品和架构方向横向发展了，全栈化也是趋势，但基本功还是不能落下，ai产出代码的review依然很重要。面试官人很好，从项目到产品到工作都聊...
发面经攒人品
点赞 评论 收藏
分享
头像
03-13 12:36
吉林农业大学 算法工程师
百度 AI Agent 开发 二面
1、自我介绍2、我看你做了3个项目, 讲一下你觉得最具代表性的项目3、项目的Agent怎么设计的4、Agent 基于什么框架一般会基于 LangChain 或者 LangGraph 这类框架来实现。如果任务流程比较线性，比如“识别任务 -> 调工具 -> 汇总结果”，LangChain 就够用，因为它比较适合快速搭建工具调用链路和 Prompt 编排。如果任务流程里状态比较多、分支比较复杂，比如失败重试、条件跳转、多轮状态推进、人工确认节点这些，LangGraph 更合适，因为它本质上是图结构编排，更容易描述有状态的 Agent 工作流。如果是校招项目或者实习项目，比较常见的做法是...
AI-Agent面试实战...
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
03-04 10:40
点赞 评论 收藏
分享
02-02 20:04
National University of Singapore Java
点赞 评论 收藏
分享
评论
点赞
3
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 我的实习日记 #
3693356次浏览 31902人参与
# 你认为小厂实习有用吗？ #
126154次浏览 692人参与
# 你收到了哪些公司的笔试？ #
2368次浏览 12人参与
# 滴滴笔试 #
37165次浏览 212人参与
# 你现在的工作，是“成长”还是“消耗”？ #
1697次浏览 46人参与
# 在国企工作的人，躺平了吗？ #
405292次浏览 3969人参与
# 实习进度记录 #
1217054次浏览 11827人参与
# 你上一次加班是什么时候？ #
139395次浏览 778人参与
# 金三银四，你的春招进行到哪个阶段了？ #
19271次浏览 263人参与
# 字节跳动笔试 #
79395次浏览 367人参与
# 小米编程考试 #
32759次浏览 156人参与
# 2025，我想...... #
91935次浏览 675人参与
# 秋招报数：你投了多少家公司？ #
157326次浏览 960人参与
# 金融银行面经 #
101390次浏览 551人参与
# 美团笔试 #
707229次浏览 4687人参与
# AI岗位暴涨12倍，你会转AI赛道吗？ #
7267次浏览 142人参与
# 你听到的“最没用”的秋招建议 #
53978次浏览 326人参与
# 职场上哪些行为很加分？ #
338436次浏览 3759人参与
# 拼多多集团-PDD笔试 #
11615次浏览 139人参与
# 27届实习投递记录 #
1465次浏览 29人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务