TensorRT8.4.x Python API安装配置与测试

2022-04-18 11:48:04 浏览数 (1)

点击上方蓝字关注我们

微信公众号:OpenCV学堂 关注获取更多计算机视觉与深度学习知识

版本信息

首先必须要交代一下硬件跟依赖包的版本信息

代码语言:javascript复制
-GPU -3050ti-Win10 x64-CUDA11.0.1-cuDNN8.2.x-TensorRT8.4.0.x-Python3.6.5-Pytorch1.7.1

然后我还下载了YOLOv5的最新版本,并测试通过如下:

Python API配置支持

我把tensorRT解压在D:TensorRT-8.4.0.6

目录结果如下:

首先输入下面的命令行:

代码语言:javascript复制
cd /d D:TensorRT-8.4.0.6

到tensorRT文件夹下面,然后分别执行

安装tensorrt python sdk

代码语言:javascript复制
cd pythonpython.exe -m pip install tensorrt-8.4.0.6-cp36-none-win_amd64.whl

注意:一定要跟安装跟你Python SDK对应版本的whl包。

安装onnx python sdk支持

代码语言:javascript复制
cd..cd onnx_graphsurgeonpython.exe -m pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl

安装ONNX格式模型文件读取支持

如果是tensorflow,下面两个也执行一波!

代码语言:javascript复制
cd..cd graphsurgeonpython.exe -m pip install graphsurgeon-0.4.5-py2.py3-none-any.whlcd..cd uffpython.exe -m pip install uff-0.6.9-py2.py3-none-any.whl

这样就安装好啦,别着急,把tensorRT的lib目录配置到系统的环境变量中去:

代码语言:javascript复制
D:TensorRT-8.4.0.6lib

然后重新启动cmd,输入如下命令行:

表明TensorRT Python API 已经完全安装成功啦!

测试YOLOv5加速

YOLOv5最新版本中首先使用下面的命令行导出一个tensorRT的engine文件,命令行如下:

代码语言:javascript复制
python export.py --weights yolov5s.pt --include engine --device 0

然后使用导出的engine测试结果如下:

代码语言:javascript复制
python detect.py --source data/images/Boogie_Up.mp4 --weights yolov5s.engine

运行结果如下:

从此我又相信TensorRT YOLOv5了

扫码查看OpenCV Pytorch系统化学习路线图

 推荐阅读 

CV全栈开发者说 - 从传统算法到深度学习怎么修炼

2022入坑深度学习,我选择Pytorch框架!

Pytorch轻松实现经典视觉任务

教程推荐 | Pytorch框架CV开发-从入门到实战

OpenCV4 C 学习 必备基础语法知识三

OpenCV4 C 学习 必备基础语法知识二

OpenCV4.5.4 人脸检测 五点landmark新功能测试

OpenCV4.5.4人脸识别详解与代码演示

OpenCV二值图象分析之Blob分析找圆

OpenCV4.5.x DNN YOLOv5 C 推理

OpenCV4.5.4 直接支持YOLOv5 6.1版本模型推理

OpenVINO2021.4 YOLOX目标检测模型部署测试

比YOLOv5还厉害的YOLOX来了,官方支持OpenVINO推理

0 人点赞