Статья об основах машинного обучения, контейнеры вызывают вычислительные ресурсы видеокарты, Ubuntu 24.04 быстро устанавливает NVIDIA Container Toolkit!
Статья об основах машинного обучения, контейнеры вызывают вычислительные ресурсы видеокарты, Ubuntu 24.04 быстро устанавливает NVIDIA Container Toolkit!

Ubuntu 24.04 Установите набор инструментов для контейнеров NVIDIA

Что такое набор инструментов NVIDIA для контейнеров?

Описание: NVIDIA Container Toolkit позволяет пользователям создавать и запускать контейнеры с ускорением на графическом процессоре, включая библиотеку времени выполнения контейнеров и утилиты для автоматической настройки контейнеров для использования преимуществ графических процессоров NVIDIA.

Адрес проекта:https://github.com/NVIDIA/nvidia-container-toolkit

Схема иерархической архитектуры NVIDIA Container Toolkit:

weiyigeek.top-схема иерархической архитектуры контейнерного инструментария NVIDIA

Добрые советы:nvidia-docker Проект был NVIDIA Container Toolkit заменил.

Платформы NVIDIA с поддержкой контейнеров

Supported Linux distributions are listed below:

OS Name / Version

amd64 / x86_64

ppc64le

arm64 / aarch64

Amazon Linux 2023

√ 1

Amazon Linux 2

Open Suse/SLES 15.x

Debian Linux 10

Debian Linux 11

Centos 7

Centos 8

RHEL 7.x

RHEL 8.x

RHEL 9.x

Ubuntu 18.04

Ubuntu 20.04

Ubuntu 22.04

The arm64 / aarch64 architecture includes support for Tegra-based systems.

Друзья, подписывайтесь на автора и дайте мне мотивацию продолжать обновления!

Установите набор инструментов для контейнеров NVIDIA.

Описание: Установлено сюда на основе предыдущей статьи. Ubuntu 24.04 TLS операционная система и оффлайн Установитьdockerстатьи《Эксплуатация и обслуживаниеTips | решать Docker Источник установки недоступен: Ubuntu 24.04 Оффлайн Установитьупражняться!》для База,использовать apt Команда для установки, конечно, вы также можете использовать исходный код для установки текущей стабильной версии. v1.15.0, Со временем вы сможете зайти на официальный сайт и скачать последние пакеты.

Step 1.Конфигурацияnvidia-container-toolkitрепозиторий программного обеспечения,И из репозитория Обновить список пакетов:

Язык кода:javascript
копировать
# для apt получать HTTPS поддерживать
apt install apt-transport-https curl

# добавить в NVIDIA репозиторий программного обеспечения
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# Обновить список пакетов
systemctl daemon-reload
sudo apt-get update

Step 2.Установите набор инструментов для контейнеров NVIDIA.:

Язык кода:javascript
копировать
# Обычная установка (немного медленнее из-за наличия на GitHub)
sudo apt-get install -y nvidia-container-toolkit

# Агентский метод (научный доступ в Интернет)
sudo apt-get -o Acquire::http::proxy="http://10.10.10.12:10809/" install -y nvidia-container-toolkit

Step 3. Конфигурация nvidia-container-runtime,Обратите внимание, что вам нужно заранее Установитьстрадалподдерживатьизконтейнердвигатель(Docker、Containerd、CRI-O、Podman)。

Язык кода:javascript
копировать
$ docker --version
  Docker version 27.0.3, build 7d4bcd8

$ containerd --version
  containerd containerd.io 1.7.18 ae71819c4f5e67bb4d5ae76a6b735f29cc25774e

# использовать nvidia-ctk Команда для изменения хоста /etc/docker/daemon.json документ
$ sudo nvidia-ctk runtime configure --runtime=docker
  # INFO[0000] Loading config from /etc/docker/daemon.json
  # INFO[0000] Wrote updated config to /etc/docker/daemon.json
  # INFO[0000] It is recommended that docker daemon be restarted.

# Новая конфигурация:
"runtimes": {
  "nvidia": {
    "args": [],
    "path": "nvidia-container-runtime"
  }
},

weiyigeek.top-nvidia-container-runtimeкартина

Шаг 4. После завершения настройки перезагрузите systemd и перезапустите службу Docker.

Язык кода:javascript
копировать
# Перезапуск службы
sudo systemctl daemon-reload
sudo systemctl restart containerd docker

# Проверьте время выполнения
docker info | grep "Runtimes"
  # Runtimes: io.containerd.runc.v2 nvidia runc

Шаг 5. После установки и настройки набора инструментов, а также установки драйвера NVIDIA GPU вы можете проверить установку, запустив образец рабочей нагрузки.

Язык кода:javascript
копировать
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

weiyigeek.top — проверьте схему установки, запустив образец рабочей нагрузки.

Адрес документа:https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html

boy illustration
Учебное пособие по Jetpack Compose для начинающих, базовые элементы управления и макет
boy illustration
Код js веб-страницы, фон частицы, код спецэффектов
boy illustration
【новый! Суперподробное】Полное руководство по свойствам компонентов Figma.
boy illustration
🎉Обязательно к прочтению новичкам: полное руководство по написанию мини-программ WeChat с использованием программного обеспечения Cursor.
boy illustration
[Забавный проект Docker] VoceChat — еще одно приложение для мгновенного чата (IM)! Может быть встроен в любую веб-страницу!
boy illustration
Как реализовать переход по странице в HTML (html переходит на указанную страницу)
boy illustration
Как решить проблему зависания и низкой скорости при установке зависимостей с помощью npm. Существуют ли доступные источники npm, которые могут решить эту проблему?
boy illustration
Серия From Zero to Fun: Uni-App WeChat Payment Practice WeChat авторизует вход в систему и украшает страницу заказа, создает интерфейс заказа и инициирует запрос заказа
boy illustration
Серия uni-app: uni.navigateЧтобы передать скачок значения
boy illustration
Апплет WeChat настраивает верхнюю панель навигации и адаптируется к различным моделям.
boy illustration
JS-время конвертации
boy illustration
Обеспечьте бесперебойную работу ChromeDriver 125: советы по решению проблемы chromedriver.exe не найдены
boy illustration
Поле комментария, щелчок мышью, специальные эффекты, js-код
boy illustration
Объект массива перемещения объекта JS
boy illustration
Как открыть разрешение на позиционирование апплета WeChat_Как использовать WeChat для определения местонахождения друзей
boy illustration
Я даю вам два набора из 18 простых в использовании фонов холста Power BI, так что вам больше не придется возиться с цветами!
boy illustration
Получить текущее время в js_Как динамически отображать дату и время в js
boy illustration
Вам необходимо изучить сочетания клавиш vsCode для форматирования и организации кода, чтобы вам больше не приходилось настраивать формат вручную.
boy illustration
У ChatGPT большое обновление. Всего за 45 минут пресс-конференция показывает, что OpenAI сделал еще один шаг вперед.
boy illustration
Copilot облачной разработки — упрощение разработки
boy illustration
Микросборка xChatGPT с низким кодом, создание апплета чат-бота с искусственным интеллектом за пять шагов
boy illustration
CUDA Out of Memory: идеальное решение проблемы нехватки памяти CUDA
boy illustration
Анализ кластеризации отдельных ячеек, который должен освоить каждый&MarkerгенетическийВизуализация
boy illustration
vLLM: мощный инструмент для ускорения вывода ИИ
boy illustration
CodeGeeX: мощный инструмент генерации кода искусственного интеллекта, который можно использовать бесплатно в дополнение к второму пилоту.
boy illustration
Машинное обучение Реальный бой LightGBM + настройка параметров случайного поиска: точность 96,67%
boy illustration
Бесшовная интеграция, мгновенный интеллект [1]: платформа больших моделей Dify-LLM, интеграция без кодирования и встраивание в сторонние системы, более 42 тысяч звезд, чтобы стать свидетелями эксклюзивных интеллектуальных решений.
boy illustration
LM Studio для создания локальных больших моделей
boy illustration
Как определить количество слоев и нейронов скрытых слоев нейронной сети?
boy illustration
[Отслеживание целей] Подробное объяснение ByteTrack и детали кода