【ubuntu noble】docker 容器无法使用 nvidia gpu

运行ai模型的时候提示 no GPU available

执行 nvidia-smi 提示 Failed to initialize NVML: Unknown Error

解决方案

一. 宿主机执行sudo docker info，确保 runtime 字段中有 nvidia 字样

Runtimes: nvidia runc io.containerd.runc.v2
Default Runtime: runc

注意默认的还是 runc

二. sudo docker run 添加指令

1. 指定运行时：

--runtime=nvidia

2. 授予权限：

--privileged

如果不设置这个，在容器中执行 nvidia-smi 的时候会出现错误：

nvidia-smi
Failed to initialize NVML: Unknown Error

3. 设置端口映射（宿主机端口映射到容器端口）【与此处问题无关，给ssh 作准备】

-p 2200:22

4. 完整命令

sudo docker run -p 2200:22 --runtime=nvidia --privileged -ti -v ${PWD}:/mnt gyxthu17/cpm-2:1.2   /bin/bash

ok