AWS roteia agentes de codificação entre modelos NVIDIA NeMo no Bedrock

AWS roteia agentes de codificação entre modelos NVIDIA NeMo no Bedrock. A solução usa LiteLLM e AWS CDK para definir estratégias de roteamento. A AWS publica um post mostrando como executar o Claude Code como agente remoto no Bedrock AgentCore.

A AWS roteia agentes de codificação entre modelos NVIDIA NeMo no Amazon Bedrock para otimizar tarefas de programação. A solução usa o NeMo Switchyard, que define modelos e estratégias de roteamento, como Stage e Random, integrado ao LiteLLM e AWS CDK. O exemplo inclui modelos como Claude Opus 5.5 e Nemotron 3 Super 120B, que executam tarefas em microVMs isoladas dentro de uma VPC.

A arquitetura multi-agente inclui três agentes especializados — Catálogo, Avaliação e Conhecimento — e um supervisor que automatiza a avaliação de substituição de componentes críticos. A solução é adequada para tarefas específicas, como correções e testes, e oferece segurança de dados por meio da execução em ambientes isolados. A arquitetura também inclui ferramentas como o AgentCore e Nova Multimodal Embeddings para automação de processos de engenharia. A solução é experimental e destinada a uso não produtivo, com detalhes da integração entre NVIDIA NeMo e Amazon Bedrock ainda não especificados.

Estratégias de roteamento mudam como agentes lidam com tarefas

Estratégias de roteamento mudam como agentes lidam com tarefas. Essas estratégias fazem com que alguns modelos sejam usados em etapas específicas, enquanto outros são escolhidos de forma aleatória. Isso pode ajudar desenvolvedores a testar diferentes abordagens sem precisar reconfigurar o sistema constantemente. O uso de microVMs isoladas dentro de uma VPC garante que cada agente opere em um ambiente separado, aumentando a segurança e o controle sobre os dados. A integração com o LiteLLM e AWS CDK permite que os usuários definam regras de roteamento com mais flexibilidade, mas ainda é uma solução experimental, limitada a uso não produtivo.

A ideia é permitir que desenvolvedores escolham entre diferentes modelos de IA para tarefas específicas, como análise de código ou geração de scripts, sem comprometer a privacidade ou a eficiência. A publicação da AWS mostra como a plataforma pode ser usada para automatizar processos complexos, como a substituição de componentes em engenharia aeroespacial, onde decisões precisam ser documentadas e revisadas. A novidade está em unir diferentes modelos de IA em uma única plataforma, permitindo que desenvolvedores escolham a ferramenta mais adequada para cada etapa do processo.