Ao operar vários agentes de IA conectados a um serviço em produção em uma equipe pequena,
temos esbarrado repetidamente em um problema.
Quando um agente toma uma decisão errada — implanta código incorreto,
dá uma resposta errada ou modifica o arquivo errado —
como vocês rastreiam e gerenciam a responsabilidade por isso?
Estamos testando uma abordagem em que especificamos o papel, as permissões e os limites de cada agente, e colocamos em todas as tarefas
um selo indicando "quem gerou e quem aprovou".
Mas não sabemos se essa é a resposta certa.
Gostaria de perguntar a quem já conectou agentes de IA a serviços em produção.
1. Vocês têm algum método para rastrear erros depois que acontecem?
Logs? Selos? Audit Trail? Ou, no fim, humanos conferem tudo?
2. Vocês realmente seguem o princípio de "a IA propõe, o humano decide no final"?
Não acaba acontecendo de simplesmente deixar decisões da IA passarem em nome da velocidade?
Tenho curiosidade sobre onde vocês encontraram esse ponto de equilíbrio.
3. Quando vários agentes colaboram, como vocês dividem a responsabilidade pelos resultados intermediários?
Se a sequência for Agent A → Agent B → implantação, onde deve ser traçada a linha quando surge um bug?
Não estou procurando uma resposta definitiva; quero ouvir como cada um está resolvendo isso na prática.
Nós também ainda estamos experimentando.
3 comentários
Exatamente. “Prevenir em vez de rastrear” acabou sendo mais realista.
Também estamos seguindo uma direção parecida. A abordagem é definir explicitamente, para cada agente, o que ele pode e o que não pode fazer — e, quando o próprio escopo é reduzido, o ônus de rastrear depois também diminui.
Você comentou que limita via CLI; quando vários agentes trabalham em sequência, você também impõe limites separados de CLI para cada um? Estamos travados exatamente nesse ponto.
Reduzo o escopo das alterações e das responsabilidades usando a CLI. Se deixar por conta da IA, é uma questão de probabilidade, então não dá para evitar erros ou alucinações.
Se vocês impõem limites via CLI, fico curioso para saber se é uma abordagem de restringir os comandos da CLI que cada agente pode usar.