参考 stackoverflow

对于版本早于 Docker 19.03 情况，需要 nvidia-docker2；而在 Docker 19.03 以及之后，则需要安装 nvidia-container-toolkit。

nvidia-container-toolkit 安装

这里以 Ubuntu 系统为例：

1
2
3
4
5
6
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker

docker 运行

假如想让 docker 容器使用所有 GPU，则运行 docker 如下：

1
docker run --name my_all_gpu_container --gpus all -t nvidia/cuda

即加上 --gpus all 即可。如果只是希望让 docker 使用某个 GPU，那么可以指定 GPU：

1
docker run --name my_first_gpu_container --gpus device=0 nvidia/cuda