NVIDIA NVLink

Что такое NVIDIA NVLink

NVIDIA NVLink — это высокоскоростной, прямой, двунаправленный интерфейс связи между графическими процессорами (GPU), разработанный компанией NVIDIA для решения ограничений традиционного PCIe. NVLink обеспечивает значительно большую пропускную способность и более низкую задержку передачи данных между устройствами, что особенно критично для масштабируемых систем искусственного интеллекта (ИИ), высокопроизводительных вычислений (HPC) и обработки больших моделей.

Основные факты о NVIDIA NVLink:

• Производительность и масштабируемость: Последнее, пятое поколение NVLink поддерживает до 1.8 ТБ/с суммарной пропускной способности (bidirectional) между GPU с использованием до 18 связей по 100 ГБ/с каждая на один GPU Blackwell. Это в 2 раза выше пропускной способности предыдущего поколения и более чем в 14 раз выше, чем PCIe Gen5.
• Топология и архитектура: NVLink представляет собой серию прямых, многолинейных, точка-точка соединений, которые позволяют создавать mesh-сети из GPU с поддержкой когерентности кэша и однородной (унифицированной) памяти между устройствами. Эта структура устраняет узкие места PCIe и обеспечивает быстрое взаимодействие крупных GPU-кластеров.
• Совместимость и использование: NVLink интегрирован в современные NVIDIA GPU (например, A100, H100/H200, Blackwell), в серверные платформы (например, NVIDIA HGX), а также тесно связан с высокоскоростными коммутаторами NVSwitch, которые расширяют NVLink-сеть между GPU от пределов серверного шкафа до рядов стоек.
• Применение: NVLink существенно ускоряет обучение и инференс больших языковых моделей, научные симуляции, графические задачи и любые вычислительно интенсивные операции, требующие быстрой передачи данных и совместного доступа к памяти между несколькими GPU.

Технические особенности:

• Каждая NVLink версия увеличивает скорость линий и уменьшает их количество для повышения эффективности (например, NVLink 3.0 — до 50 Гбит/с на линию).
• Поддерживает до 18 физических линий на GPU, объединяя пропускную способность до 900 ГБ/с (для Hopper) и 1.8 ТБ/с (для Blackwell).
• Исторический контекст: Технология NVLink была анонсирована в 2014 году для преодоления узких мест PCIe и впервые интегрирована в GPU архитектуры Pascal (2016 год) совместно с IBM для серверов с POWER CPU.