Installing Nvidia Container Toolkit

아래의 링크를 참고하여 설치합니다.

  • https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html

추가적인 설치를 다음과 같이 진행합니다.

$ sudo apt install nvidia-container-toolkit
$ sudo apt install nvidia-container-runtime

# Docker Runtime 설정
$ sudo nvidia-ctk runtime configure --runtime=docker

# 재시작
$ sudo systemctl restart docker

다음과 같이 확인합니다.

# nvidia 글자가 보이면 성공
$ docker info | grep -i runtime

# 실제 container에서 GPU를 사용할 수 있는지 확인
$ docker run --rm --gpus all ubuntu nvidia-smi
$ docker run --rm --gpus all --runtime=nvidia ubuntu nvidia-smi