Аппаратное обеспечение для вычислений на основе искусственного интеллекта: ConnectX-8 SuperNIC

14 февраля 2025

ФайберМолл

Универсальный поставщик профессиональных продуктов оптической связи

Содержание

Обзор продукта

ConnectX-8 SuperNIC — это интеллектуальная сетевая интерфейсная карта NVIDIA седьмого поколения, разработанная для вычислительных кластеров ИИ следующего поколения, крупномасштабных центров обработки данных и сценариев высокопроизводительных вычислений (HPC). Она глубоко интегрирует возможности ускорения сети и разгрузки вычислений, обеспечивая сверхскоростную поддержку 400GbE/800GbE. Благодаря разгрузке протоколов на аппаратном уровне и совместной оптимизации GPU-NIC она значительно снижает задержку сети и повышает эффективность пропускной способности, предлагая сверхнизкую задержку и возможности передачи данных по сети без потерь для обучения ИИ, вывода и сценариев распределенного хранения.

Программные протоколы и функции ускорения

ConnectX-8 SuperNIC оптимизирует производительность сети полного стека за счет тесного взаимодействия программного стека протоколов и механизма аппаратного ускорения:

Поддержка протокола

RDMA/RoCEv2: на основе конвергентного Ethernet для удаленного прямого доступа к памяти, обеспечивающего передачу данных без копирования с задержкой всего в доли микросекунды.
Технология GPUDirect: поддерживает GPUDirect RDMA и GPUDirect Storage, обеспечивая прямое взаимодействие данных между графическим процессором и хранилищем/сетевой картой, минуя центральный процессор.
NVIDIA SHARPv3: агрегированное аппаратное ускорение связи с поддержкой AllReduce, Broadcast и других операций для повышения эффективности обучения ИИ.
Аппаратная разгрузка TLS/IPsec: поддерживает полное шифрование и дешифрование трафика без потери производительности.

Программная экосистема

DOCA 2.0 (архитектура инфраструктуры центра обработки данных на кристалле): предоставляет среду разработки на основе API, поддерживающую определяемые пользователем функции ускорения плоскости данных (например, совместную оркестровку DPU).
Глубокая интеграция с экосистемой CUDA: оптимизирует эффективность межузловой связи между несколькими GPU с помощью библиотеки NCCL.

Программные протоколы и функции ускорения

Архитектура оборудования и проектирование подключений

Host Interface

PCIe 5.0 x16, теоретическая пропускная способность 128 ГБ/с, полностью раскрывающая производительность сети 400G/800G.

Сетевой интерфейс

Поддерживает однопортовый 800GbE OSFP112 или двухпортовый 400GbE QSFP112 гибкие конфигурации.

Обратная совместимость со скоростями 200GbE/100GbE, адаптация к существующей инфраструктуре.

Встроенный в чип механизм ускорения

Интегрирует специализированные микросхемы ASIC, поддерживающие управление таблицами потоков, контроль перегрузки (DCQCN), проверку пакетов и другие виды полной аппаратной разгрузки.

Сетевая архитектура и возможности подключения

ConnectX-8 SuperNIC поддерживает многоуровневую архитектуру сетей CLOS, создавая высокоскоростные, неблокируемые вычислительные кластеры ИИ.

Соединение с одним узлом

На каждом сервере установлено 1–2 сетевых адаптера ConnectX-8, соединенных с хостом через PCIe 5.0.

Каждый порт подключается непосредственно к коммутатору Leaf через оптоволоконный кабель QSFP-DD, образуя двойное резервирование восходящего канала.

Кластерная сеть

Leaf Switch: серия NVIDIA Quantum-3 (800G) или серия Spectrum-4 (400G), поддерживающая RoCEv2 и адаптивную маршрутизацию.
Spine Switch: полностью взаимосвязан с leaf-коммутаторами через высокоскоростные порты 800G, обеспечивая неблокируемую полосу пропускания.
Архитектура «позвоночник-лист»
Прямое сетевое взаимодействие графических процессоров: многоузловые графические процессоры обеспечивают прямой доступ к межузловой памяти через RDMA, образуя распределенный учебный кластер.