安装CUDA

驱动适配

首先要查看服务器中显卡驱动支持的最大cuda版本。
在服务器中输入：nvidia-smi，得到如下版本信息。

第一行可以看到，最大支持cuda 11.6。

安装包下载

在cuda官网选择合适的版本

根据如图选择配置。

安装成功会出现安装路径。

配置环境变量

打开配置文件

vi /etc/profile

在配置文件末尾加上（注意这里的/usr/local/cuda-11.5路径和上面安装截图里面的路径一直）

export PATH=//usr/local/cuda-11.5/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.5/lib64$LD_LIBRARY_PATH

source一下配置文件

source /etc/profile

检查是否安装完成
使用nvcc -V检查CUDA是否安装成功，出现一下提示代表安装成功。

编译并执行CUDA样例程序，出现pass代表CUDA和GPU运行正常。

cd /usr/local/cuda-11.5/samples/1_Utilities/deviceQuery
sudo make
./deviceQuery

安装cuDNN

到 官网下载与CUDA匹配的

我是在本地下载好了后，上传到服务器首目录下，然后解压。

解压cuDNN文件，并进入解压出来的文件，拷贝文件到/usr/local/cuda-11.5中

	tar -xvf cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive.tar.xz
	cd cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive
	sudo cp lib/* /usr/local/cuda-11.5/lib64/
	sudo cp include/* /usr/local/cuda-11.5/include/
	sudo chmod a+r /usr/local/cuda-11.5/lib64/*
	sudo chmod a+r /usr/local/cuda-11.5/include/*

查看cuDNN版本，cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2