Краткое руководство по началу работы с NVIDIA DGX Spark: ваш персональный суперкомпьютер с искусственным интеллектом на рабочем столе.

NVIDIA DGX Spark — самый маленький в мире суперкомпьютер с искусственным интеллектом, работающий на базе... Суперчип NVIDIA GB10 Грейс Блэквелл — обеспечивает производительность ИИ уровня центров обработки данных на вашем рабочем столе. С возможностью повышения производительности до 1 PFLOP вычислительных ресурсов FP4 AI и 128 ГБ Благодаря унифицированной памяти, она позволяет проводить локальный вывод на моделях вплоть до 200 миллиарда параметров и тонкая настройка моделей до 70 миллиарда параметров.

В этом подробном руководстве мы расскажем вам о распаковке, первоначальной настройке, проверке системы, удаленном доступе, конфигурации Docker и многом другом — обо всем, что вам нужно, чтобы начать работу. DGX Spark быстро и эффективно.

1. Технические характеристики оборудования DGX Spark

NVIDIA DGX Spark Обеспечивает впечатляющую производительность ИИ в сверхкомпактном настольном форм-факторе (150 мм × 150 мм × 50.5 мм, весит всего...). 1.2 кгОн идеально подходит для разработчиков, исследователей и инженеров в области ИИ, которые хотят создавать прототипы, дорабатывать и запускать большие языковые модели локально — или даже демонстрировать их на площадках клиентов в режиме реального времени.

Ключевые особенности:

  • Построен на Суперчип NVIDIA GB10 Грейс Блэквелл
  • Процессор NVIDIA Grace — высокопроизводительный 20-ядерный Arm архитектура
  • 128 ГБ Единая системная память (когерентная память, совместно используемая ЦП и ГП — больше нет копирования данных между памятью хоста и устройства).
  • Расширенные возможности подключения: NVIDIA ConnectX™ Высокопроизводительная сеть (поддерживает прямое соединение двух устройств), Wi-Fi 7 и другие.
  • Поддерживает локальный вывод для моделей ИИ до 200B параметры (Два соединенных между собой блока DGX Spark могут работать с моделями до 405B параметры)
  • До 4 ТБ локальное хранилище NVMe (расширяемое с помощью внешнего накопителя Type-C)
  • Чрезвычайно компактный и портативный — идеально подходит для инженеров по продажам, работающих с искусственным интеллектом, и для полевых демонстраций.

2. Распаковка и подключение устройства

Что в коробке

  • 1 × основной блок NVIDIA DGX Spark
  • 1 × сетевой шнур переменного тока
  • 1 × USB-C адаптер питания постоянного тока
  • 1 × Краткое руководство
Распаковка NVIDIA DGX Spark

Этапы подключения (автономный режим)

DGX Spark поддерживает два режима работы: автономные (с монитором/клавиатурой/мышью) и безголовый сетевой режимВ этом руководстве используется автономный режим.

  1. Подключите HDMI монитор
  2. Подключите USB or Блютуз клавиатура и мышь (Если после включения питания устройства ввода не обнаружены, система предложит вам перейти в режим сопряжения Bluetooth).
  3. Подключите адаптер питания Важно: Используйте только самый левый порт Type-C
  4. Нажмите Кнопка питания включить устройство
Автономный режим
Подключите HDMI-монитор

Подключение двух блоков DGX Spark

Подключение двух блоков DGX Spark

Мастер первой загрузки и первоначальной настройки

После включения в автономном режиме DGX Spark автоматически запускает мастер первоначальной настройки на подключенном дисплее.

первоначальная настройка

Следуй этим шагам:

  1. Язык и часовой пояс Выберите предпочитаемый язык и часовой пояс (поле ввода автоматически фильтруется по мере ввода).
Выберите предпочитаемый язык и часовой пояс.
  • Раскладка клавиатуры Выберите правильную раскладку клавиатуры (отображается только при использовании физического дисплея).
Выберите правильную раскладку клавиатуры.
  • Лицензионное соглашение Ознакомьтесь с условиями и примите их (предустановленная ОС — просто нажмите). Принять).
Ознакомьтесь с условиями и примите их.
  • Создать учетную запись пользователя Настройте имя пользователя и пароль для входа в систему.
Создать учетную запись пользователя
  • Программа улучшения пользовательского опыта (Необязательно) Выберите, следует ли отправлять данные об использовании в NVIDIA (можно снять флажок и продолжить).
Программа улучшения пользовательского опыта
  • Настройка Wi-Fi Выберите сеть Wi-Fi. (Если вы уже подключены через Ethernet, этот шаг пропускается.)
Настройка Wi-Fi
  • Введите пароль Wi-Fi
присоединиться к сети
  • Автоматическая загрузка и установка программного обеспечения После подключения к интернету система автоматически загружает и устанавливает полный официальный образ программного обеспечения.

Внимание! Do не В процессе выполнения этой операции выключите или перезапустите устройство. Система может перезагрузиться несколько раз.

Автоматическая загрузка и установка программного обеспечения
  • Логин После завершения установки и перезагрузки системы выберите свою учетную запись пользователя и введите пароль.
 Логин

Затем вы увидите чистоту. DGX Spark настольный компьютер — готово к использованию!

DGX Spark настольный компьютер

4. Проверка системной информации

После входа в систему нажмите Ctrl + Alt + T, чтобы открыть терминал (или найдите «Терминал» в меню приложения).

4.1 Информация о процессоре

Выполните команду lscpu, чтобы просмотреть информацию об аппаратном обеспечении процессора DGX Spark.

Выполните команду lscpu, чтобы просмотреть информацию об аппаратном обеспечении процессора DGX Spark.

4.2 Разделы диска и емкость

Выполните команду lsblk, чтобы просмотреть разметку диска и размер каждого раздела. Текущая система DGX Spark оснащена диском объемом 4 ТБ (отображается как 3.7 ТБ, поскольку двоичная статистика рассчитывается на основе 1024).

Выполните команду lsblk, чтобы просмотреть разметку диска.

4.3 Информация о графическом процессоре и его состоянии

Для просмотра информации о графическом процессоре DGX Spark GB10 запустите nvidia-smi.

Для просмотра информации о графическом процессоре DGX Spark GB10 запустите nvidia-smi.

Версия Docker 4.4

Выполните команду `docker -v`, чтобы просмотреть информацию о предустановленном движке Docker в системе DGX Spark.

Докер-версия

Версия CUDA 4.5

Выполните команду `nvcc -V`, чтобы просмотреть информацию о предустановленной версии CUDA в системе DGX Spark.

Версия CUDA

5Удаленный доступ по SSH к DGX Spark

DGX Spark работает на стандартном Ubuntu система с OpenSSH Сервер предварительно установлен.

Шаги:

Найдите IP-адрес В терминале выполните следующую команду:

ип а# или жеIP-адрес

Удаленный доступ по SSH к DGX Spark

Подключитесь удалённо. Используйте свой любимый SSH-клиент (PuTTY, MobaXterm, XShell, FinalShell и т. д.). Пример использования PuTTY:

Создайте новое соединение, введя имя, IP-адрес и номер порта (по умолчанию 22). После нажатия кнопки «Открыть» введите имя пользователя и пароль.

Пример использования PuTTY

После нажатия кнопки «Принять и сохранить» в окне запроса безопасности вы можете использовать удаленную командную строку для управления DGX Spark.

Для управления DGX Spark можно использовать удаленную командную строку.

6. Настройка Docker

6.1 NVIDIA Container Runtime

NVIDIA Container Runtime позволяет контейнерам Docker напрямую получать доступ к графическим процессорам, ускоряя выполнение задач, требующих использования GPU, таких как приложения искусственного интеллекта/машинного обучения и CUDA.

Основные преимущества:<br> Probio Joints Care поддерживает регенерацию опорно-двигательного аппарата благодаря:

  • Беспрепятственный доступ к графическому процессору для контейнеров.
  • Автоматическое управление драйверами и библиотекой
  • Поддержка нескольких GPU
  • Совместимость с ведущими платформами оркестрации контейнеров.

NVIDIA Container Runtime работает совместно с NVIDIA Container Toolkit, который предоставляет необходимые компоненты для динамической настройки и подключения графических процессоров и библиотек CUDA для контейнеризированных приложений.

На системах DGX Spark предварительно установлен и полностью настроен NVIDIA Container Toolkit, включая:

  • NVIDIA Container Runtime
  • интеграция с Docker
  • конфигурация графического процессора
  • конфигурация библиотеки CUDA

6.2 Конфигурация группы пользователей

По умолчанию для работы Docker требуются права суперпользователя (sudo). Добавление пользователя в группу docker позволяет напрямую выполнять команды Docker без прав суперпользователя.

Выполнили:

sudo usermod -aG docker $ USER

докер newgrp

6.3 Тест функциональности Docker GPU

Загрузите и запустите контейнер PyTorch:

docker run –rm -it –gpus=all \

   -v “$PWD”:/workspace \

   -w /workspace \

nvcr.io/nvidia/pytorch:25.08-py3

Запуск команд `nvidia-smi` и `nvcc -V` внутри контейнера выдает нормальный результат, подтверждающий корректную работу графического процессора и CUDA в Docker.

Ваш DGX Spark полностью настроен и готов к началу разработки приложений на основе искусственного интеллекта!

Наверх