点击上方蓝字关注我们
微信公众号:OpenCV学堂 关注获取更多计算机视觉与深度学习知识
版本信息
首先必须要交代一下硬件跟依赖包的版本信息
-GPU -3050ti-Win10 x64-CUDA11.0.1-cuDNN8.2.x-TensorRT8.4.0.x-Python3.6.5-Pytorch1.7.1
然后我还下载了YOLOv5的最新版本,并测试通过如下:
Python API配置支持
我把tensorRT解压在D:TensorRT-8.4.0.6
目录结果如下:
首先输入下面的命令行:
cd /d D:TensorRT-8.4.0.6
到tensorRT文件夹下面,然后分别执行
安装tensorrt python sdk
cd pythonpython.exe -m pip install tensorrt-8.4.0.6-cp36-none-win_amd64.whl
注意:一定要跟安装跟你Python SDK对应版本的whl包。
安装onnx python sdk支持
cd..cd onnx_graphsurgeonpython.exe -m pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
安装ONNX格式模型文件读取支持
如果是tensorflow,下面两个也执行一波!
cd..cd graphsurgeonpython.exe -m pip install graphsurgeon-0.4.5-py2.py3-none-any.whlcd..cd uffpython.exe -m pip install uff-0.6.9-py2.py3-none-any.whl
这样就安装好啦,别着急,把tensorRT的lib目录配置到系统的环境变量中去:
D:TensorRT-8.4.0.6lib
然后重新启动cmd,输入如下命令行:
表明TensorRT Python API 已经完全安装成功啦!
测试YOLOv5加速
YOLOv5最新版本中首先使用下面的命令行导出一个tensorRT的engine文件,命令行如下:
python export.py --weights yolov5s.pt --include engine --device 0
然后使用导出的engine测试结果如下:
python detect.py --source data/images/Boogie_Up.mp4 --weights yolov5s.engine
运行结果如下:
从此我又相信TensorRT YOLOv5了
扫码查看OpenCV Pytorch系统化学习路线图
推荐阅读
CV全栈开发者说 - 从传统算法到深度学习怎么修炼
2022入坑深度学习,我选择Pytorch框架!
Pytorch轻松实现经典视觉任务
教程推荐 | Pytorch框架CV开发-从入门到实战
OpenCV4 C 学习 必备基础语法知识三
OpenCV4 C 学习 必备基础语法知识二
OpenCV4.5.4 人脸检测 五点landmark新功能测试
OpenCV4.5.4人脸识别详解与代码演示
OpenCV二值图象分析之Blob分析找圆
OpenCV4.5.x DNN YOLOv5 C 推理
OpenCV4.5.4 直接支持YOLOv5 6.1版本模型推理
OpenVINO2021.4 YOLOX目标检测模型部署测试
比YOLOv5还厉害的YOLOX来了,官方支持OpenVINO推理