A NVIDIA lança a Open Agent Safety Platform, uma plataforma que combina software e hardware para restringir ações de agentes de IA. A nova ferramenta inclui o CuObject e o SDK do servidor SCADA para acesso a dados em tempo real.

A nova ferramenta inclui ferramentas para isolar agentes de IA e monitorar seu comportamento, com o objetivo de aumentar a segurança em processos de inteligência artificial. A plataforma usa o software OpenShell e o hardware Sentry, que inclui BlueField-4-DPUs para proteção em tempo real. A plataforma conta com mais de 100 empresas, incluindo SpaceXAI, Anthropic e Microsoft.

A NVIDIA afirma que a plataforma poderia ter impedido a violação da Hugging Face. O hardware Sentry depende do BlueField-4-DPUs, que só estará disponível a partir de 2026. A disponibilidade das ferramentas foi anunciada em 2024. A NVIDIA também lançou o CuObject e o SDK do servidor SCADA para melhorar o acesso a armazenamento de IA.

A block diagram on the left side illustrates how an AI application can use the cuObject Client API to access object storage s
Imagem: Divulgação/developer.nvidia.com

A Open Agent Safety Platform usa o hardware BlueField-4-DPUs para proteção em tempo real, o que permite isolar agentes de IA e monitorar seu comportamento. O uso desse hardware, porém, só será possível a partir de 2026, quando o Sentry estiver disponível. A plataforma combina software e hardware para restringir ações de agentes de IA, algo que pode ajudar empresas a aumentar a segurança em processos de inteligência artificial.

NVIDIA reforça necessidade de segurança em IA

A NVIDIA reforça a necessidade de ferramentas abertas e personalizáveis para segurança em IA. Segundo a empresa, 'recentes incidentes de segurança destacam a necessidade de equipar organizações com ferramentas abertas e personalizáveis' (em tradução livre). A companhia também destaca que é essencial usar camadas adicionais de controle para agentes de IA autônomos. Huang, líder da NVIDIA, afirma que 'a descoberta da fronteira das capacidades da IA exige acelerar a descoberta na fronteira da segurança da IA'. A empresa reforça princípios como privilégio mínimo e monitoramento detalhado. A Open Agent Safety Platform muda a segurança em IA ao unir software e hardware. Isso permite restringir ações de agentes de forma mais eficaz. A plataforma também acelera acesso a dados com CuObject e SCADA Server SDK. A NVIDIA diz que a ferramenta pode ter evitado violações.

Com informações de techradar.com, multiplayer.it e heise.de.

Fontes

  1. Nvidia launches new ai safety program designed at stopping models escaping their sandboxestechradar.com
  2. Nvidia nuovi strumenti fermare agenti ia fuori controllo caso hugging facemultiplayer.it
  3. Nvidia stellt Sicherheitsnetz fuer autonome KI Agenten vorheise.de
  4. Expanding ai storage access with nvidia cuobject and the nvidia scada server sdkdeveloper.nvidia.com
  5. Ai day singaporeblogs.nvidia.com

Quer ver o resumer primeiro nas buscas do Google?

Adicionar às Fontes Preferidas do Google