NVIDIA redefiniu gestão de recursos em clusters de IA com Topograph

NVIDIA redefiniu gestão de recursos em clusters de IA com Topograph. A tecnologia visa aumentar eficiência do processamento de GPUs. A empresa adiou lançamento da RTX 60 para 2028

NVIDIA apresentou a tecnologia Topograph, que otimiza a alocação de cargas de trabalho em fábricas de inteligência artificial. A empresa também desenvolveu a TensorRT Multi-Device Integration, que permite a execução de redes TensorRT em múltiplos GPUs. Essa solução é compatível com TensorRT 11.0.

Ao mesmo tempo, a NVIDIA adiou o lançamento da geração RTX 60 para 2028, segundo informações de um insider. A empresa está focando em servidores e IA, enquanto o segmento de gaming tem prioridade menor. Concorrentes como Cornelis e Huawei também apresentaram tecnologias próprias para competir no mercado de IA.

Cornelis levantou US$ 205 milhões para desenvolver tecnologia de rede para AI. A Huawei, por sua vez, apresentou a tecnologia UnifiedBus e o Hi-ONE óptico, que visam otimizar interconexão em clusters de processadores. A empresa também revelou o Ascend 960 SuperPoD, um cluster de computação capaz de conectar até 4.000 processadores.

Topograph ajusta como as GPUs trabalham juntas em clusters, evitando que algumas fiquem ociosas. A tecnologia também permite que os clusters respondam melhor a mudanças súbitas na demanda. A compatibilidade com TensorRT 11.0 torna o sistema mais flexível para quem já usa essa plataforma.

A integração com múltiplos GPUs reduz o tempo de espera entre tarefas. A NVIDIA adiou o lançamento da RTX 60 para 2028, o que pode afetar o ritmo de atualizações na área. A Huawei também apresentou soluções para otimizar clusters, mostrando que a competição está acelerada.

A nova tecnologia da NVIDIA pode mudar a forma como as fábricas de IA operam, mas ainda falta saber como ela será implementada em ambientes reais. A tecnologia Ascend 960 SuperPoD da Huawei conecta até 4.000 processadores, ampliando a capacidade de processamento em clusters. Essa solução pode ser usada em conjunto com a Topograph para otimizar a distribuição de tarefas. A Cornelis também investiu em tecnologia de rede para IA, com foco em reduzir o tempo de espera entre GPUs e dados

A empresa já testa soluções para melhorar eficiência de GPUs, como TensorRT Multi-Device Integration. Cornelis, que surgiu da Intel, desenvolveu Active Compute Fabric, que reduz tempo de espera entre GPUs. A NVIDIA também está trabalhando com a TensorRT Multi-Device Integration, que permite que redes de inferência rodem em múltiplas GPUs simultaneamente. A tecnologia usa NCCL para distribuir tarefas e mantém otimizações da inferência.

A NVIDIA e concorrentes redefinem a gestão de recursos em clusters de IA, com novas abordagens que melhoram a distribuição de tarefas e reduzem gargalos de comunicação. A Topograph da empresa reorganiza a alocação de cargas de trabalho em GPUs, aumentando o uso eficiente do poder de processamento. A Huawei melhora a interconexão entre processadores, permitindo maior throughput.

Ficha técnica

• #hardware
• #software