NVIDIA troca arquitetura por MoE em Nemotron 3.5 Super VL

NVIDIA lança Nemotron 3.5 Super VL e Bolt, modelos mais eficientes e escaláveis. A família de agentes é focada em tarefas complexas e edge deployment.

O Super VL, com 120 bilhões de parâmetros, é multimodal e baseado em arquitetura MoE, com 12 bilhões de parâmetros ativos. Ele é aberto e disponível em Hugging Face, Open Router, ModelScope e como NVIDIA NIM. O modelo atinge precisão semelhante ao Nemotron 3 Ultra com um quinto dos parâmetros. É 5x mais rápido que concorrentes como Ling 3.0 Flash e V4.1 Flash. Oferece ganho de 44% em análise de seguros médicos. O Bolt E4B 4GB é destinado a edge deployment em dispositivos como RTX, Jetson e Spark.

NVIDIA troca arquitetura por MoE em Nemotron 3.5 Super VL — Imagem: Divulgação/blogs.nvidia.com

Já o Bolt 74B-A9B 24GB é baseado no Super VL, usando 9 bilhões de parâmetros e quantização de 2 bits. Ambos são projetados para serem usados em ambientes corporativos e dispositivos de borda, com alta precisão e velocidade. A nova família de modelos está alinhada com a ferramenta NVIDIA NeMo Gym e com a nova solução para acelerar UDFs de Spark com GPU e agentes de IA.

Parâmetros ativos e eficiência em tarefas complexas

A quantidade de parâmetros ativos é menor do que o Nemotron 3 Ultra, mas a precisão é semelhante, o que reduz o custo computacional. Permite baixa latência e alta eficiência em dispositivos de borda. Essa abordagem permite que os modelos sejam usados em ambientes com restrições de recursos, mantendo a capacidade de processar dados complexos.

NVIDIA amplia sua família de modelos Nemotron com o lançamento do Nemotron 3.5 Super VL e Bolt, voltados para sistemas agentic e eficiência computacional. O Super VL, com 120 bilhões de parâmetros, é multimodal e baseado em arquitetura MoE, com 12 bilhões de parâmetros ativos, permitindo que o modelo realize tarefas complexas, como leitura de documentos e verificação de informações, com eficiência. A evolução dos modelos Nemotron mostra a tendência de empresas buscarem soluções mais eficientes e escaláveis para automatizar workflows complexos. A versão Bolt 74B-A9B 24GB também entra no ecossistema, complementando a geração anterior com opções para diferentes cenários de uso.

A versão Bolt E4B 4GB também acelera workflows de alta volume em dispositivos de borda. A NVIDIA afirma que o modelo é aberto e disponível em plataformas como Hugging Face e NVIDIA NIM, mas o preço e disponibilidade no Brasil ainda não foram confirmados. NVIDIA troca a arquitetura tradicional por MoE em Nemotron 3.5 Super VL, ganhando eficiência e escalabilidade em tarefas complexas.