[Linux版本Debian系统]安装cuda 和对应的cudnn以cuda 12.0为例

写在前面

先检查自己有没有安装使用wget的命令，没有的话输入下面命令安装：

apt-get install wget -y
1

查看gcc的安装

sudo apt install gcc   #安装gcc
gcc --version          #查看gcc是否安装成功
#若上述命令不成功使用下面的命令尝试之后再执行上面的命令
sudo apt-get install libglib2.0-dev    #报错使用此命令进行依赖库安装
sudo apt-get update                    #更新一下软件资源
apt update -y 
sudo apt install gcc --fix-missing     #更新一下软件资源
1
2
3
4
5
6
7

一、检查本机是否有CUDA工具包，输入nvcc -V：

二、安装cuda

[1] CUDA工具包：https://developer.nvidia.com/cuda-toolkit-archive
[2] cuDNN库：https://developer.nvidia.com/rdp/cudnn-archive

1.在命令行输入nvidia-smi查看显卡驱动版本也就是最高支持的CUDA工具包版本。
例如，本机可安装12.0及以下的CUDA工具包：

2.在nvidia官网选择对应版本的CUDA工具包并选择你的机器配置，我们就选择12.0版本下载

3.在终端执行如下命令

wget https://developer.download.nvidia.com/compute/cuda/12.0.0/local_installers/cuda_12.0.0_525.60.13_linux.run
sudo sh cuda_12.0.0_525.60.13_linux.run
1
2

1）第一行命令下载安装包

2）使用第二行sudo sh命令需要提前下载gcc库,此过程会有点慢有点卡，耐心等待，出现界面之后卡了把终端框往下拉拉…

键入accept确认

我们已经有驱动了，这里取消安装驱动，上下键和回车键选择。

稍作等待，出现以下提示信息就安装好了，可以看到CUDA安装到了/usr/local/cuda-12.0/

4.修改环境变量
1)打开配置文件

# 打开bashrc配置文件
vi ~/.bashrc

1
2
3

2)在配置文件末尾加上：

# cuda env
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.0
export PATH=$PATH:/usr/local/cuda-12.0/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.0/lib64

1
2
3
4
5

执行wq，保存退出

3)source 一下配置文件

source ~/.bashrc

1
2

5.检查是否安装完成
使用nvcc -V和nvidia-smi检查CUDA是否安装完成，出现以下提示代表安装完成

编译并执行CUDA样例程序，出现pass代表CUDA和GPU正常运行：

cd cd /usr/local/cuda-12.0/extras/demo_suite/
sudo make
./deviceQuery

1
2
3
4

三.安装cudnn

1.根据安装的CUDA工具包版本在官网选择适合版本的cuDNN，本文安装的CUDA版本是12.0，就选择与之对应的cuDNN v8.9.1，选择Local Installer for Linux x86_64 (Tar)。

2.复制cuDNN库的链接，使用wget下载或者下载到自己电脑之后再传到服务器上。
3.解压cuDNN文件，并进入解压出的文件夹，拷贝文件到/usr/local/cuda-12.0中

	tar -xvf cudnn-linux-x86_64-8.9.1.23_cuda12-archive.tar.xz  #解压文件
	cd cudnn-linux-x86_64-8.9.1.23_cuda12-archive               
	sudo cp lib/* /usr/local/cuda-12.0/lib64/                 #复制文件
	sudo cp include/* /usr/local/cuda-12.0/include/
	sudo chmod a+r /usr/local/cuda-12.0/lib64/*              #赋予权限
	sudo chmod a+r /usr/local/cuda-12.0/include/*

1
2
3
4
5
6
7

4.查看cuDNN版本cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

上述教程为这台机器上的所有用户安装了CUDA和cuDNN，我们切一下普通用户查看nvcc是否能用