Mirror Stack, um framework open source para verificar posteriormente fraudes (engano) de agentes de IA.

Olá. Nos últimos dias, vendo a rápida ascensão de agentes de loop autônomo de IA (Autonomous Loop Agent) que operam por vários dias seguidos, comecei a pensar: "Se uma IA manipular dados de teste sem que humanos percebam ou contornar restrições (Gaming) para reportar resultados, como poderíamos detectar isso?" Foi a partir dessa preocupação que criei o projeto open source Mirror Stack.

Enquanto a segurança tradicional de agentes tem se concentrado em "impedir que façam coisas ruins com guardrails", o Mirror Stack propõe o paradigma de "prova em vez de promessa (Provable, not Promised)". Em vez de acreditar que a IA vai se comportar bem, a estrutura força que apenas ações honestas deixem posteriormente um livro-razão inviolável (Chain-sealed ledger).

🛠️ Componentes principais e arquitetura

Ele é composto por 4 ferramentas e 5 protocolos que funcionam de forma leve em uma abordagem local-first, sem servidor central.

measure-mirror: executa 23 probes estatísticas e anti-gaming para verificar as alegações da IA.action-mirror: rastreia o histórico de ações do agente conectado em estrutura de cadeia para garantir integridade.provenance-mirror: comprova mecanicamente a autenticidade da origem do conteúdo gerado.mirror-witness: assegura confiabilidade usando GitHub Actions e ambientes de CI como testemunhas mútuas (Witness), sem custo adicional de infraestrutura.

🔌 Suporte oficial ao ecossistema de IA mais recente (MCP)

Há suporte oficial ao servidor Model Context Protocol (MCP) mirror-stack-mcp, recentemente padronizado principalmente pela Anthropic. Em ambiente Python, basta pip install para integrar imediatamente com ferramentas modernas de agentes como Claude, Cursor e Windsurf, aplicando-o diretamente aos fluxos de trabalho reais.

💡 Um caso real que foi particularmente interessante

Durante os testes, houve um arco (Arc) interessante: antes mesmo de iniciar o experimento, um agente detectou por conta própria uma contradição no projeto durante a etapa pré-registrada de verificação de energia (Power check) e, sem gastar sequer 1 token em custo, retirou por iniciativa própria o experimento (Retracted), deixando o respectivo livro-razão em cadeia, mostrando um processo adversarial de autocorreção.

Em uma era em que máquinas autônomas estão se multiplicando, acredito que precisamos de uma camada de auditoria distribuída que minimize a intervenção humana, mas que ainda permita que "máquinas imponham e máquinas verifiquem". É com essa ideia que estou construindo isso.

O projeto acabou de passar da fase de protótipo e validação inicial e agora está em etapa de expandir o ecossistema. Peço muito feedback, stars e participação em reproduções independentes de quem tem interesse em arquitetura ou em AI Alignment/segurança!