Ubuntu22上安装cuda-12-3

说明

最近在运行通义千问模型的的时候，报错，提示使用Ubuntu22.04默认的cuda11.5不支持，之前是使用apt安装的，版本比较老。

CUDA官网下载：https://developer.nvidia.com/downloads

安装步骤

安装支持Ubuntu22的源

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
1
2

下载本地源安装包 大约3G

wget https://developer.download.nvidia.com/compute/cuda/12.3.0/local_installers/cuda-repo-ubuntu2204-12-3-local_12.3.0-545.23.06-1_amd64.deb
1

安装本地源

sudo dpkg -i cuda-repo-ubuntu2204-12-3-local_12.3.0-545.23.06-1_amd64.deb
#复制本地源
sudo cp /var/cuda-repo-ubuntu2204-12-3-local/cuda-*-keyring.gpg /usr/share/keyrings/
# 更新源
sudo apt-get update
1
2
3
4
5

安装cuda-toolkit-12-3

sudo apt-get -y install cuda-toolkit-12-3
1