NVIDIA NVLink

O que é NVIDIA NVLink

O NVIDIA NVLink é uma interface de comunicação bidirecional, direta e de alta velocidade entre unidades de processamento gráfico (GPUs) desenvolvida pela NVIDIA para lidar com as limitações do PCIe tradicional. O NVLink oferece largura de banda significativamente maior e menor latência para transferência de dados entre dispositivos, o que é especialmente importante para inteligência artificial (IA) escalável, computação de alto desempenho (HPC) e processamento de modelos grandes.

Fatos importantes sobre o NVIDIA NVLink:

• Desempenho e escalabilidade: O NVLink mais recente, de quinta geração, suporta até 1,8 TB/s de largura de banda agregada (bidirecional) entre GPUs usando até 18 links de 100 GB/s cada por GPU Blackwell. Isso representa o dobro da largura de banda da geração anterior e é mais de 14 vezes maior do que o PCIe Gen5.
• Topologia e arquitetura: O NVLink é uma série de links diretos, multilinhas e ponto a ponto que permitem a rede em malha de GPUs com suporte para coerência de cache e memória homogênea (unificada) entre dispositivos. Essa estrutura elimina os gargalos do PCIe e permite a interconexão rápida de grandes clusters de GPU.
• Compatibilidade e uso: O NVLink está integrado às modernas GPUs NVIDIA (por exemplo, A100, H100/H200, Blackwell), às plataformas de servidor (por exemplo, NVIDIA HGX) e está fortemente acoplado aos switches NVSwitch de alta velocidade que estendem a rede NVLink entre GPUs dos limites de um gabinete de servidor para fileiras de racks.
• Aplicativos: O NVLink acelera drasticamente o treinamento e a inferência de grandes modelos de linguagem, simulações científicas, tarefas gráficas e qualquer operação computacionalmente intensiva que exija transferência rápida de dados e compartilhamento de memória entre várias GPUs.

Recursos técnicos:

• Cada versão do NVLink aumenta a velocidade das linhas e diminui o número de linhas para melhorar a eficiência (por exemplo, NVLink 3.0 - até 50 Gbps por linha).
• Oferece suporte a até 18 linhas físicas por GPU, combinando largura de banda de até 900 GB/s (para Hopper) e 1,8 TB/s (para Blackwell).
• Contexto histórico: A tecnologia NVLink foi anunciada em 2014 para superar os gargalos do PCIe e integrada pela primeira vez às GPUs da arquitetura Pascal (2016) com a IBM para servidores com CPUs POWER.