Ubuntu 24.04 Установите набор инструментов для контейнеров NVIDIA

Что такое набор инструментов NVIDIA для контейнеров?

Описание: NVIDIA Container Toolkit позволяет пользователям создавать и запускать контейнеры с ускорением на графическом процессоре, включая библиотеку времени выполнения контейнеров и утилиты для автоматической настройки контейнеров для использования преимуществ графических процессоров NVIDIA.

Адрес проекта：https://github.com/NVIDIA/nvidia-container-toolkit

Схема иерархической архитектуры NVIDIA Container Toolkit:

weiyigeek.top-схема иерархической архитектуры контейнерного инструментария NVIDIA

Добрые советы：nvidia-docker Проект был NVIDIA Container Toolkit заменил.

Платформы NVIDIA с поддержкой контейнеров

Supported Linux distributions are listed below:

The arm64 / aarch64 architecture includes support for Tegra-based systems.

Друзья, подписывайтесь на автора и дайте мне мотивацию продолжать обновления!

Установите набор инструментов для контейнеров NVIDIA.

Описание: Установлено сюда на основе предыдущей статьи. Ubuntu 24.04 TLS операционная система и оффлайн Установитьdockerстатьи《Эксплуатация и обслуживаниеTips | решать Docker Источник установки недоступен: Ubuntu 24.04 Оффлайн Установитьупражняться!》для База,использовать apt Команда для установки, конечно, вы также можете использовать исходный код для установки текущей стабильной версии. v1.15.0, Со временем вы сможете зайти на официальный сайт и скачать последние пакеты.

Step 1.Конфигурацияnvidia-container-toolkitрепозиторий программного обеспечения,и из репозитория Обновить список пакетов：

# для apt получать HTTPS поддерживать
apt install apt-transport-https curl

# добавить в NVIDIA репозиторий программного обеспечения
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# Обновить список пакетов
systemctl daemon-reload
sudo apt-get update

Step 2.Установите набор инструментов для контейнеров NVIDIA.：

# Обычная установка (немного медленнее из-за наличия на GitHub)
sudo apt-get install -y nvidia-container-toolkit

# Агентский метод (научный доступ в Интернет)
sudo apt-get -o Acquire::http::proxy="http://10.10.10.12:10809/" install -y nvidia-container-toolkit

Step 3. Конфигурация nvidia-container-runtime,Обратите внимание, что вам нужно заранее Установитьпострадалподдерживатьизконтейнердвигатель（Docker、Containerd、CRI-O、Podman）。

$ docker --version
  Docker version 27.0.3, build 7d4bcd8

$ containerd --version
  containerd containerd.io 1.7.18 ae71819c4f5e67bb4d5ae76a6b735f29cc25774e

# использовать nvidia-ctk Команда для изменения хоста /etc/docker/daemon.json документ
$ sudo nvidia-ctk runtime configure --runtime=docker
  # INFO[0000] Loading config from /etc/docker/daemon.json
  # INFO[0000] Wrote updated config to /etc/docker/daemon.json
  # INFO[0000] It is recommended that docker daemon be restarted.

# Новая конфигурация:
"runtimes": {
  "nvidia": {
    "args": [],
    "path": "nvidia-container-runtime"
  }
},

weiyigeek.top-nvidia-container-runtimeкартина

Шаг 4. После завершения настройки перезагрузите systemd и перезапустите службу Docker.

# Перезапуск службы
sudo systemctl daemon-reload
sudo systemctl restart containerd docker

# Проверьте время выполнения
docker info | grep "Runtimes"
  # Runtimes: io.containerd.runc.v2 nvidia runc

Шаг 5. После установки и настройки набора инструментов, а также установки драйвера NVIDIA GPU вы можете проверить установку, запустив образец рабочей нагрузки.

sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

weiyigeek.top — проверьте схему установки, запустив образец рабочей нагрузки.

Адрес документа：https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html