Ao operar vários agentes de IA conectados a um serviço em produção em uma equipe pequena,
temos esbarrado repetidamente em um problema.
Quando um agente toma uma decisão errada — implanta código incorreto,
dá uma resposta errada ou modifica o arquivo errado —
como vocês rastreiam e gerenciam a responsabilidade por isso?
Estamos testando uma abordagem em que especificamos o papel, as permissões e os limites de cada agente, e colocamos em todas as tarefas
um selo indicando "quem gerou e quem aprovou".
Mas não sabemos se essa é a resposta certa.
Gostaria de perguntar a quem já conectou agentes de IA a serviços em produção.
1. Vocês têm algum método para rastrear erros depois que acontecem?
Logs? Selos? Audit Trail? Ou, no fim, humanos conferem tudo?
2. Vocês realmente seguem o princípio de "a IA propõe, o humano decide no final"?
Não acaba acontecendo de simplesmente deixar decisões da IA passarem em nome da velocidade?
Tenho curiosidade sobre onde vocês encontraram esse ponto de equilíbrio.
3. Quando vários agentes colaboram, como vocês dividem a responsabilidade pelos resultados intermediários?
Se a sequência for Agent A → Agent B → implantação, onde deve ser traçada a linha quando surge um bug?
Não estou procurando uma resposta definitiva; quero ouvir como cada um está resolvendo isso na prática.
Nós também ainda estamos experimentando.
Ainda não há comentários.