NVIDIA redefiniu gestão de recursos em clusters de IA com Topograph

NVIDIA redefiniu gestão de recursos em clusters de IA com Topograph. A tecnologia visa aumentar eficiência do processamento de GPUs. A empresa adiou lançamento da RTX 60 para 2028

NVIDIA apresentou a tecnologia Topograph, que otimiza a alocação de cargas de trabalho em fábricas de inteligência artificial. A empresa também desenvolveu a TensorRT Multi-Device Integration, que permite a execução de redes TensorRT em múltiplos GPUs. Essa solução é compatível com TensorRT 11.0. Ao mesmo tempo, a NVIDIA adiou o lançamento da geração RTX 60 para 2028, segundo informações de um insider. A empresa está focando em servidores e IA, enquanto o segmento de gaming tem prioridade menor. Concorrentes como Cornelis e Huawei também apresentaram tecnologias próprias para competir no mercado de IA.

Representative network topology with a core switch, two spine-to-leaf branches, and two Multi-Node NVLink domains containing — Imagem: Divulgação/developer.nvidia.com

Cornelis levantou US$ 205 milhões para desenvolver tecnologia de rede para AI. A Huawei, por sua vez, apresentou a tecnologia UnifiedBus e o Hi-ONE óptico, que visam otimizar interconexão em clusters de processadores. A empresa também revelou o Ascend 960 SuperPoD, um cluster de computação capaz de conectar até 4.000 processadores.

Topograph ajusta como GPUs trabalham juntas

Topograph ajusta como as GPUs trabalham juntas em clusters, evitando que algumas fiquem ociosas. A tecnologia também permite que os clusters respondam melhor a mudanças súbitas na demanda. A compatibilidade com TensorRT 11.0 torna o sistema mais flexível para quem já usa essa plataforma. A integração com múltiplos GPUs reduz o tempo de espera entre tarefas. A Huawei também apresentou soluções para otimizar clusters, mostrando que a competição está acelerada.

A nova tecnologia da NVIDIA pode mudar a forma como as fábricas de IA operam, mas ainda falta saber como ela será implementada em ambientes reais. Essa solução pode ser usada em conjunto com a Topograph para otimizar a distribuição de tarefas. A Cornelis também investiu em tecnologia de rede para IA, com foco em reduzir o tempo de espera entre GPUs e dados

Concorrentes também inovam em gestão de GPUs

Cornelis, que surgiu da Intel, desenvolveu Active Compute Fabric, que reduz tempo de espera entre GPUs. A tecnologia usa NCCL para distribuir tarefas e mantém otimizações da inferência. A NVIDIA e concorrentes redefinem a gestão de recursos em clusters de IA, com novas abordagens que melhoram a distribuição de tarefas e reduzem gargalos de comunicação. A Topograph da empresa reorganiza a alocação de cargas de trabalho em GPUs, aumentando o uso eficiente do poder de processamento. A Huawei melhora a interconexão entre processadores, permitindo maior throughput.