docker-compose 에서 GPU 사용하기

docker 에서 GPU 사용시 꼭 nvidia에서 제공하는 toolkit 설치해야 합니다.

그리고 해당 서버에 nvidia driver가 설치되어 있어야 합니다.

docker run 할 때와 docker-compose up 할 때의 셋팅법이 다르니 꼭 compose 까지 셋팅을 해야합니다.

 

1. nvidia toolkit install

Installation Guide — NVIDIA Cloud Native Technologies documentation

 

 

2. docker-compose.yml 수정

 

Enabling GPU access with Compose

 

runtime: nvidia 추가 (test)

services:
  test:
    image: nvidia/cuda:10.2-base
    command: nvidia-smi
    runtime: nvidia

3. docker demon setting

딥 러닝을 위한 docker-compose 설치 및 사용법 [pytorch, tensorboard 예제]

 

3.1 /etc/docker/daemon.json 수정

vim /etc/docker/daemon.json

/etc/docker에 있는 daemon.json 파일을 수정하자.

 

{
    "default-runtime": "nvidia",
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

이후 docker 재실행

sudo systemctl restart docker

 

---

Docker gpu 셋팅 shell 파일

#!/bin/bash

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | \
  sudo apt-key add - && \
distribution=$(. /etc/os-release;echo $ID$VERSION_ID) && \
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | \
  sudo tee /etc/apt/sources.list.d/nvidia-docker.list && \
sudo apt-get update && apt-get install -y nvidia-docker2
sudo systemctl restart docker

 

 

Docker-compose gpu 셋팅 shell 파일

#!/bin/bash

cat <<EOF > /etc/docker/daemon.json
{
    "default-runtime": "nvidia",
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}
EOF

sudo systemctl restart docker