Ubuntu18.04安装 NVIDIA驱动+CUDA10.2+cuDNN+TensorRT

2022-08-19 19:11:07 浏览数 (1)

大家好,又见面了,我是你们的朋友全栈君。

系统:Ubuntu 18.04.5。显卡:RTX2080Super,独显无集成显卡。


0. 综述

目前,知道3种安装N卡驱动的方法:

  • 添加PPA源:最简便,但未必有最新驱动(据说可能有坑?)
代码语言:javascript复制
sudo add-apt-repository ppa:xorg-edgers/ppa # 添加ppa源
sudo add-apt-repository ppa:graphics-drivers/ppa # 添加ppa源
sudo apt-get update # 更新apt-get源列表

然后进入:系统设置->软件和更新->附加驱动,选择更新的显卡驱动。

  • 安装CUDA时,顺便安装驱动:

1、用run安装CUDA时,选择安装Driver即可,但Driver版本可能稍旧。 2、用deb安装CUDA时,会自动联网安装最新Driver,但可能Driver与该CUDA的版本不匹配。

  • 去官网下载最新驱动,在本地安装:

PS:Driver安装完后,用nvidia-smi查看该Driver对应的CUDA版本,一定要安装相应的CUDA。

1. 先卸载原有驱动

如果之前安装了CUDA,应先卸载CUDA,再卸载Driver:

  • 方法1:用于卸载曾用run安装的。如果新驱动仍用run安装,可无需卸载直接安装,run会在安装时自动卸载之前的。
  • 方法2:用于卸载曾用deb或apt-get安装的。
代码语言:javascript复制
# For installed by run-file:
sudo /usr/local/cuda/bin/cuda-uninstaller # 若未装cuda,此步可略
sudo ./NVIDIA-Linux-x86_64-384.59.run --uninstall

# For installed by deb-file or apt-get:
sudo apt-get purge cuda* # 若未装cuda,此步可略
sudo apt-get purge nvidia-* # 可能会破坏ROS中的
sudo apt-get purge libnvidia-*

PS1:卸载时要用apt-get purge或dpkg --purge或dpkg -P,而非apt-get remove或dpkg --remove或dpkg -r,否则配置文件仍在,重装时会有坑。 PS2:期间,随时用apt list|grep cuda或dpkg -l|grep cuda、apt list|grep nvidia或dpkg -l|grep nvidia检查是否有残留。如果提示定位不到软件包时,可先重启。卸载cuDNN或TensorRT时,也类似: dpkg -l | grep tensorrt | awk '{print2}' | sudo xargs dpkg -P dpkg -l | grep TensorRT | awk '{print 2}' | sudo xargs dpkg -P dpkg -l | grep cudnn | awk '{print 2}' | sudo xargs dpkg -P dpkg -l | grep cuda | awk '{print 2}' | sudo xargs dpkg -P dpkg -l | grep nvidia | awk '{print

2. 禁用nouveau驱动

代码语言:javascript复制
sudo gedit /etc/modprobe.d/blacklist.conf

在文本最后添加:(禁用nouveau第三方驱动,之后也不需要改回来)

代码语言:javascript复制
blacklist nouveau
options nouveau modeset=0

保存后,执行:

代码语言:javascript复制
sudo update-initramfs -u

一定要重启!!!然后执行:

代码语言:javascript复制
lsmod | grep nouveau

如果屏幕没有输出任何内容,说明禁用nouveau成功。

3. 禁用X-Window服务(18.04可忽略)

代码语言:javascript复制
sudo service lightdm stop #这会关闭图形界面,但不用紧张

Ctrl-Alt F1进入命令行界面,输入用户名和密码登录即可。

PS:在命令行输入:sudo service lightdm start ,然后按Ctrl-Alt F7即可恢复到图形界面。

4.1 用run安装Driver

代码语言:javascript复制
# 给run文件赋予执行权限:
sudo chmod  x *.run
# 后面的参数非常重要,不可省略:
sudo ./NVIDIA-Linux-x86_64-440.82.run --no-opengl-files
  • --no-opengl-files:表示只安装驱动文件,不安装OpenGL文件。这个参数不可省略,否则会导致登陆界面死循环,英语一般称为”login loop”或者”stuck in login”。
  • --no-x-check:表示安装驱动时不检查X服务,非必需。
  • --no-nouveau-check:表示安装驱动时不检查nouveau,非必需。
  • -Z, --disable-nouveau:禁用nouveau。此参数非必需,因为之前已经手动禁用了nouveau。
  • -A:查看更多高级选项。

1、必选参数解释:因为NVIDIA的驱动默认会安装OpenGL,而Ubuntu的内核本身也有OpenGL、且与GUI显示息息相关,一旦NVIDIA的驱动覆写了OpenGL,在GUI需要动态链接OpenGL库的时候就引起问题。 2、如果提示未安装cc或make,可先退出安装,再命令行执行 sudo apt install gcc g make vim。如果又提示,编译器的gcc的版本高于kernel的gcc版本,可先联网运行Ubuntu的”Software Updater”更新下系统即可。 3、如果提示是否安装“nvidia-xconfig utility”,选择yes即可。

之后,按照提示安装,成功后重启即可。 如果提示安装失败,不要着急重启;可重复上述步骤,多试几次。

4.2 测试Driver:

代码语言:javascript复制
nvidia-smi # 若列出GPU的信息列表,表示驱动安装成功
nvidia-settings # 若弹出设置对话框,表示驱动安装成功;若失败,可重启后再试。

5. 调整屏幕分别率(请忽略)

如果屏幕不能达到最佳分辨率时,可参见:http://blog.csdn.net/nostandby/article/details/69383543

代码语言:javascript复制
# 查看显示器标识符:我的是DVI-I-0,在'connected'之前。
xrandr
# 查看分辨率的属性:我要看1920x1080的分辨率,在'Modeline'之后。
cvt 1920 1080
# 创建新分辨率模式:拷贝'Modeline'之后的信息即可。
sudo xrandr --newmode "1920x1080"  173.00  1920 2048 2248 2576  1080 1083 1088 1120 -hsync  vsync
# 为显示器添加分辨率模式:
sudo xrandr --addmode DVI-I-0 "1920x1080"
# 将分辨率模式应用到显示器:
sudo xrandr --output DVI-I-0 --mode "1920x1080"

PS:最终发现,劣质的显卡-显示器转接头,导致了显示器和分别率无法识别。换了转接头,无需上述步骤,分辨率自然恢复。

6.1 用run安装CUDA

代码语言:javascript复制
# 给run文件赋予执行权限:
sudo chmod  x *.run
# 后面的参数非常重要,不可省略:
sudo ./cuda_10.2.89_440.33.01_linux.run --no-opengl-libs
  • --no-opengl-libs:必需参数,表示只安装驱动文件,不安装OpenGL文件,原因同上(但不是--no-opengl-files哈)。
  • --uninstall (deprecated):用于卸载CUDA Driver(已废弃)。
  • --toolkit:表示只安装CUDA Toolkit,不安装Driver和Samples。
  • --help:查看更多高级选项。

然后,按照提示安装即可。例如:

代码语言:javascript复制
accept #同意安装
n #不安装Driver,因为已安装最新驱动
y #安装CUDA Toolkit
<Enter> #安装到默认目录
y #创建安装目录的软链接
n #不复制Samples,因为在安装目录下有/samples

6.2 用deb安装CUDA

  1. 若要安装TensorRT,请安装deb版本的CUDA
代码语言:javascript复制
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget http://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda-repo-ubuntu1804-10-2-local-10.2.89-440.33.01_1.0-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-10-2-local-10.2.89-440.33.01_1.0-1_amd64.deb
sudo apt-key add /var/cuda-repo-10-2-local-10.2.89-440.33.01/7fa2af80.pub
sudo apt-get update
sudo apt-get -y install cuda
  1. 下载并安装CUDA10.2补丁:
代码语言:javascript复制
wget -c https://developer.download.nvidia.com/compute/cuda/10.2/Prod/patches/1/cuda-repo-ubuntu1804-10-2-local_10.2.1-1_amd64.deb
wget -c https://developer.download.nvidia.com/compute/cuda/10.2/Prod/patches/2/cuda-repo-ubuntu1804-10-2-local_10.2.2-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-10-2-local_10.2.1-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-10-2-local_10.2.2-1_amd64.deb
sudo apt-get update
sudo apt-get upgrade

若输入nvidia-smi后出现:Failed to initialize NVML: Driver/library version mismatch,是因为cuda所用的显卡驱动覆盖了之前、导致驱动版本不匹配,重启系统即可。

6.3 测试CUDA:

  1. 设置CUDA的bin和lib路径:gedit ~/.bashrc,并追加:
代码语言:javascript复制
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

保存后,重新载入配置:source ~/.bashrc. ~/.bashrc

  1. 查看CUDA版本:nvcc -V
  2. 测试CUDA的Sample:
代码语言:javascript复制
#编译并测试设备 deviceQuery:
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
sudo make
./deviceQuery

#编译并测试带宽 bandwidthTest:
cd ../bandwidthTest
sudo make
./bandwidthTest

如果这两个测试的最后结果都是Result = PASS,说明CUDA安装成功啦。

7. 安装cuDNN

  • 用tar安装cuDNN:解压后,将其include与lib64下的内容分别移至cuda目录下include与lib64中即可。
代码语言:javascript复制
sudo tar -xzvf cudnn-10.2-linux-x64-v8.0.3.33.tgz
cd cuda
sudo mv include/* /usr/local/cuda/include
sudo mv lib64/* /usr/local/cuda/lib64
  • 用deb安装cuDNN:
代码语言:javascript复制
sudo dpkg -i libcudnn8* # 或依次安装下面三个包:
sudo dpkg -i libcudnn8_8.2.2.26-1 cuda10.2_amd64.deb
sudo dpkg -i libcudnn8-dev_8.2.2.26-1 cuda10.2_amd64.deb
sudo dpkg -i libcudnn8-samples_8.2.2.26-1 cuda10.2_amd64.deb
  • 测试cuDNN:
代码语言:javascript复制
cp -r /usr/src/cudnn_samples_v8/ ~
cd  ~/cudnn_samples_v8/mnistCUDNN
sudo make
sudo ./mnistCUDNN

如果成功运行,会显示下列信息:Test passed!

8. 安装TensorRT

  • 用deb安装TRT:
代码语言:javascript复制
sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda10.2-trt8.0.3.4-ga-20210831_1-1_amd64.deb
sudo apt-key add /var/nv-tensorrt-repo-ubuntu1804-cuda10.2-trt8.0.3.4-ga-20210831/7fa2af80.pub
sudo apt-get update
sudo apt-get install tensorrt onnx-graphsurgeon python3-libnvinfer-dev

PS:该方式只能为系统的python安装API(因是用apt-get安装);可用tar为conda安装API。

  • 用tar安装TRT:解压tar文件,导出lib路径,用pip安装需要的whl即可。
代码语言:javascript复制
tar xzvf TensorRT-${version}.${os}.${arch}-gnu.${cuda}.${cudnn}.tar.gz
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:TensorRT-${version}/lib

cd TensorRT-${version}/python
sudo pip3 install tensorrt-*-cp3x-none-linux_x86_64.whl

cd ../graphsurgeon
sudo pip3 install graphsurgeon-*-py2.py3-none-any.whl

cd ../onnx_graphsurgeon
sudo pip3 install onnx_graphsurgeon-*-py2.py3-none-any.whl

PS1:该方式可为多个python安装API,指定相应的pip路径、安装相应版本的whl即可。 PS2:如果只用tar安装TRT,建议将lib路径写入~/.bashrc中。例如: echo export LD_LIBRARY_PATH=LD_LIBRARY_PATH:TensorRT-{version}/lib >> ~/.bashrc

  • 测试TRT:
代码语言:javascript复制
python3 # OR: ipython3
> import tensorrt as trt
> trt.__version__
  • 测试TensorRTx:比如yolov5

1、如果遇到:tensorrtx/yolov5/calibrator.cpp:4:10: fatal error: opencv2/dnn/dnn.hpp,手动编译opencv4。 2、如果遇到:terminate called after throwing an instance of 'pwgen::PwgenException' what(): Driver error,更新TensorRT的版本(比如 8.0GA update1)。 3、安装pycuda:pip3 install pycuda # 不要加sudo,因为root用户可能未配置cuda环境变量


参考文献: https://zhuanlan.zhihu.com/p/126997172 https://blog.csdn.net/xinjieyuan/article/details/100667803 https://github.com/wang-xinyu/tensorrtx/tree/master/yolov5 https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html https://blog.csdn.net/weixin_41868104/article/details/114937498

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/135941.html原文链接:https://javaforall.cn

0 人点赞