Docker使用GPU教程

如果想要在Docker容器中使用GPU，我们需要对Docker服务做下配置。

我以manjaro linux系统为例。

首先需要安装NVIDIA Container Toolkit，manjaro没有可用的安装包，所以需要下载源码编译安装。

git clone https://aur.archlinux.org/nvidia-container-toolkit.git
cd nvidia-container-toolkit
makepkg -cfsir

如果没什么错误就安装成功了，但我主要遇到了2个问题，一个是缺少libnvidia-container-tools，所以我又下载这个源码进行了编译安装。安装的过程中，又遇到go版本问题，我就把机器中安装的go1.21版本删掉后，降级安装了go1.20.7版本，才安装成功。

安装好后，进行下面配置:

sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

最后在docker容器的时候加上--gpus all参数即可。比如：

docker run --name client -d --gpus all xxx-image

附录：

https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html