DockerコンテナからNVIDIA GPUを利用するための NVIDIA Container

【概要】DockerコンテナからNVIDIA GPUを利用するための設定手順を解説する。NVIDIA Container Toolkitのインストール方法と、NVIDIA公式CUDAイメージを用いたコンテナの作成手順を説明する。

【目次】

  1. GPU使用時の設定
  2. NVIDIAイメージからのコンテナの作成と開始

https://docs.nvidia.com/datacenter/cloud-native/

1. GPU使用時の設定

NVIDIA GPUを使用する場合は、以下のコマンドで必要なツールキット（nvidia-container-toolkit）をインストールする。

sudo apt install -y nvidia-container-toolkit
sudo systemctl restart docker

2. NVIDIAイメージからのコンテナの作成と開始

https://hub.docker.com/r/nvidia/cuda/tagsでタグを確認する。以下のコマンドでは、タグとして「nvidia/cuda:12.8.0-cudnn-devel-ubuntu24.04」を使用している。

docker run --name myubuntu --restart unless-stopped -p 8888:8888 -it --gpus all nvidia/cuda:12.8.0-cudnn-devel-ubuntu24.04 /bin/bash
nvidia-smi
exit