A pilha de governança de agentes de IA do Google Cloud: "gerencie agentes como uma organização de engenharia"

A pilha de governança do Gemini Enterprise Agent Platform, anunciada pelo Google Cloud no Cloud Next 26, apresenta um framework sistemático para o gerenciamento de segurança de agentes de IA. A filosofia central é simples: trate a frota de agentes como uma organização de engenharia. Dê identidade, controle permissões de acesso, imponha políticas, monitore comportamentos e audite tudo.

Contexto

• Ferramentas SaaS mal configuradas expõem dados de forma passiva, mas agentes de IA mal configurados executam ativamente ações incorretas. O alerta é que o problema de shadow IT de 2015 — uso não autorizado de TI fora da visibilidade da organização — agora está se repetindo no campo dos agentes de IA.

Resumo da pilha de governança em 5 camadas

• Camada 1 - Identidade do agente (Agent Identity): atribui um ID criptográfico exclusivo a cada agente. Isso corrige a estrutura anterior em que todos os agentes operavam com uma única service account, o que impossibilitava rastrear problemas. Aplica o Principle of Least Privilege para definir com granularidade, por agente, quais tabelas, buckets e endpoints de API podem ser acessados.
• Camada 2 - Registro de agentes (Agent Registry): é um catálogo centralizado para gerenciar todos os agentes, ferramentas MCP e endpoints da organização. O conceito é semelhante a um repositório npm interno da empresa, permitindo que apenas ferramentas aprovadas pela equipe de plataforma possam ser usadas por agentes em produção. Inclui metadados como escopo de acesso a dados da ferramenta, permissões necessárias e lista de agentes em uso, permitindo identificar imediatamente a área de impacto ao aplicar patches de vulnerabilidade.
• Camada 3 - Gateway de agentes (Agent Gateway): é o ponto central de aplicação onde políticas de segurança escritas em linguagem natural passam a valer imediatamente para todos os agentes que atravessam o gateway. Em vez de modificar 50 agentes individualmente, basta escrever uma política uma vez para aplicá-la globalmente. Integra o Model Armor para também se defender contra prompt injection e vazamento de dados sensíveis.
• Camada 4 - Detecção de anomalias e ameaças (Anomaly & Threat Detection): usa modelos estatísticos para estabelecer uma linha de base do comportamento normal de cada agente e alertar quando houver desvios. Um LLM separado assume o papel de judge para detectar saltos lógicos ou decisões fora do escopo no processo de raciocínio do agente. A camada de detecção de ameaças monitora ataques intencionais como reverse shell, conexões com IPs maliciosos e tentativas de escalonamento de privilégios.
• Camada 5 - Dashboard de segurança de agentes (Agent Security Dashboard): com base no Security Command Center, integra e visualiza as informações das quatro camadas acima. Oferece, em uma única tela, mapeamento da relação entre agentes e modelos, descoberta automática de ativos, varredura de vulnerabilidades e análise de correlação de sinais entre camadas.

Diferenciais

• Chama atenção o fato de relacionar agentes ao modelo mental já conhecido de “operação de uma organização de engenharia” e sistematizar a governança de segurança em cinco camadas. Em especial, a redação de políticas em linguagem natural com aplicação global imediata e a auditoria de raciocínio no modelo LLM-as-a-judge se diferenciam das abordagens tradicionais de segurança em nuvem.

Implicações

• Organizações que constroem uma pilha de governança no início da implantação de agentes passam a colher um efeito composto em que o custo marginal tende a praticamente zero à medida que o número de agentes cresce. Em contrapartida, organizações que aumentam o número de agentes sem gestão podem enfrentar expansão da superfície de ataque e aumento da complexidade de auditoria, como ocorreu na era do shadow IT. Em setores regulados, como finanças e saúde, a identidade única por agente e a trilha de auditoria são, na prática, requisitos regulatórios, o que faz desse framework uma das primeiras pressões concretas de adoção nesses segmentos.