NVIDIAのGPUをDockerfileで活用する｜CUDA環境コンテナ構築の実践手順

この記事のポイント

・nvidia/cudaイメージはbase/runtime/develの3種類
・ホストのnvidia-container-toolkit設定が先決
・docker run --gpus all でGPUをコンテナに渡す
・本番はruntimeイメージ+マルチステージビルドで

# NVIDIAのGPGキーとリポジトリを追加
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey \
  | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \
  | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \
  | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# インストール
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

# /etc/docker/daemon.json に設定を書き込む
sudo nvidia-ctk runtime configure --runtime=docker

# Dockerデーモンを再起動
sudo systemctl restart docker

# 設定確認（「nvidia」が表示されれば準備完了）
docker info | grep -i runtime
# 出力例（環境により異なります）
# Runtimes: io.containerd.runc.v2 nvidia runc

# ベースイメージ：CUDA 12.3 + devel（nvccが必要な場合はdevel、不要ならruntimeに変更可）
FROM nvidia/cuda:12.3.2-devel-ubuntu22.04

# タイムゾーン設定の対話を無効化
ENV DEBIAN_FRONTEND=noninteractive

# 基本パッケージのインストール
RUN apt-get update && apt-get install -y \
    python3 python3-pip git \
    && rm -rf /var/lib/apt/lists/*

# PyTorchのインストール（CUDA 12.1対応ビルドを使用）
RUN pip3 install --no-cache-dir \
    torch torchvision torchaudio \
    --index-url https://download.pytorch.org/whl/cu121

WORKDIR /workspace

# 依存ライブラリを先にコピー（キャッシュ最適化）
COPY requirements.txt .
RUN pip3 install --no-cache-dir -r requirements.txt

# ソースコードをコピー
COPY . .

CMD ["python3", "train.py"]

# Stage 1: develイメージで依存関係をビルド
FROM nvidia/cuda:12.3.2-devel-ubuntu22.04 AS builder

ENV DEBIAN_FRONTEND=noninteractive
RUN apt-get update && apt-get install -y \
    python3 python3-pip \
    && rm -rf /var/lib/apt/lists/*

COPY requirements.txt .
RUN pip3 install --no-cache-dir -r requirements.txt

# Stage 2: runtimeイメージで本番用の軽量イメージを構成
FROM nvidia/cuda:12.3.2-runtime-ubuntu22.04

ENV DEBIAN_FRONTEND=noninteractive
RUN apt-get update && apt-get install -y \
    python3 \
    && rm -rf /var/lib/apt/lists/*

# builderステージからPythonパッケージをコピー
COPY --from=builder /usr/local/lib/python3.10 /usr/local/lib/python3.10
COPY --from=builder /usr/local/bin/pip3 /usr/local/bin/pip3

COPY . /app
WORKDIR /app

CMD ["python3", "inference.py"]

# Dockerfileがあるディレクトリで実行
docker build -t my-cuda-app:latest .

# 出力例（環境により異なります）
# [+] Building 185.4s (10/10) FINISHED
# => [internal] load build definition from Dockerfile
# => [1/5] FROM nvidia/cuda:12.3.2-devel-ubuntu22.04
# => [2/5] RUN apt-get update && apt-get install -y ...
# => [3/5] RUN pip3 install ...
# => exporting to image

# 全GPUをコンテナに渡す
docker run --gpus all --rm -it my-cuda-app:latest nvidia-smi

# GPU 0番のみを渡す場合
docker run --gpus '"device=0"' --rm -it my-cuda-app:latest nvidia-smi

# 複数GPU（0番と1番）を指定する場合
docker run --gpus '"device=0,1"' --rm -it my-cuda-app:latest nvidia-smi

# PyTorchでGPU認識を確認
docker run --gpus all --rm my-cuda-app:latest \
  python3 -c "import torch; print('GPU:', torch.cuda.is_available()); print('デバイス名:', torch.cuda.get_device_name(0))"

# 出力例（環境により異なります）
# GPU: True
# デバイス名: NVIDIA GeForce RTX 3090

# nvidia-smiでドライバとCUDAのバージョンを確認
docker run --gpus all --rm my-cuda-app:latest nvidia-smi

# 出力例（環境により異なります）
# +-----------------------------------------------------------------------------+
# | NVIDIA-SMI 545.23.08    Driver Version: 545.23.08    CUDA Version: 12.3    |
# |-------------------------------+----------------------+----------------------+
# | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
# | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
# |===============================+======================+======================|
# |   0  NVIDIA GeForce ...  Off  | 00000000:01:00.0 Off |                  N/A |