A NVIDIA troca a segurança de modelos de IA com CVMs e GPUs confidenciais. A nova tecnologia usa criptografia de memória para proteger dados sensíveis. A eficiência energética é prioridade em fábricas de IA.

A empresa apresentou uma nova capacidade chamada TensorRT multi-device inference, que permite executar uma rede TensorRT em múltiplos GPUs. A funcionalidade é suportada a partir da versão 11.0 do TensorRT. A plataforma Vera Rubin foi projetada para otimizar o uso de energia em inferências de alta interatividade. A NVIDIA DSX MaxLPS aumentou a performance por watt em 23% para Lambda e pode permitir até 40% mais capacidade de GPU em ambientes adequados. A próxima geração de GPUs NVIDIA, provavelmente chamada RTX 60, teria sido adiada para 2028. A empresa está focando em soluções para processamento seguro de modelos de IA em ambientes privados, com ênfase em eficiência energética e infraestrutura de IA.

A tecnologia NVIDIA Confidential Computing combina CVMs com criptografia de memória e GPUs confidenciais para proteger dados sensíveis. A colaboração com empresas como Amazon, d-Matrix e Lambda destaca a eficiência energética das soluções. A NVIDIA também trabalha com parcerias para otimizar o uso de energia em fábricas de IA, como a DSX MaxLPS e a plataforma Vera Rubin.

Horizontal paired-bar chart comparing CC off and CC on output-token throughput at concurrency 1, 2, 4, 8, and 16. CC off is n
Imagem: Divulgação/developer.nvidia.com

TensorRT 11.0 divide trabalho entre GPUs e melhora eficiência

Fábricas de IA priorizam essa métrica, já que reduz custos operacionais. Isso significa que o sistema pode lidar com mais cargas de trabalho sem perder velocidade. A nova tecnologia ajuda a otimizar o uso de recursos, tornando a infraestrutura mais flexível. A mudança impacta diretamente quem precisa processar grandes volumes de dados em tempo real. Isso é especialmente útil para aplicações que demandam alta disponibilidade e desempenho contínuo.

A NVIDIA avança em segurança e eficiência para IA. A empresa já trabalhava em soluções para proteger dados em ambientes privados, com parcerias como a DSX MaxLPS e a Vera Rubin. A nova tecnologia expande essa linha, unindo criptografia e multi-GPU. Antes, a empresa focava em otimizar energia em fábricas de IA, mas agora também prioriza proteção de contexto. A mudança reflete a demanda por IA segura e eficiente. A eficiência por watt é prioridade, assim como a capacidade de processar modelos grandes.

A nova capacidade do TensorRT 11.0 permite dividir trabalho entre GPUs, mas agora também protege dados sensíveis. Agora, a empresa amplia essa estratégia com tecnologias que protegem dados sensíveis e contexto proprietário. Isso mostra como a empresa evoluiu para atender demandas de ambientes privados e proteção de informações.

NVIDIA prioriza segurança e eficiência em IA

A NVIDIA amplia a segurança com CVMs e GPUs confidenciais, enquanto a eficiência energética se torna prioridade em fábricas de IA. A nova tecnologia Confidential Computing protege dados sensíveis durante o processamento de modelos de IA, usando criptografia de memória em máquinas virtuais confidenciais. A NVIDIA teria adiado o lançamento da RTX 60 mais de uma vez, inicialmente previsto para 2027.

Horizontal paired-bar chart comparing mean TPOT with CC off and CC on at concurrency 1, 2, 4, 8, and 16. CC off is normalized
Imagem: Divulgação/developer.nvidia.com

Com informações de developer.nvidia.com, blogs.nvidia.com e adrenaline.com.br.

Fontes

  1. Enabling private high performance production ai inference with nvidia confidential computingdeveloper.nvidia.com
  2. Simplifying model serving across multiple gpus with nvidia tensorrt multi device integration in nvidia dynamo tritondeveloper.nvidia.com
  3. How nvidia groq 3 lpx deterministic execution drives power efficient high interactivity inference on nvidia vera rubindeveloper.nvidia.com
  4. Ai infra summit vera rubin dsx energy efficiencies tokens per watt ai factoriesblogs.nvidia.com
  5. Placas nvidia rtx 60 chegam apenas em 2028 diz insideradrenaline.com.br

Texto escrito com IA a partir das fontes listadas e revisado por regras automáticas da redação. Como trabalhamos

Quer ver o resumer primeiro nas buscas do Google?

Adicionar às Fontes Preferidas do Google