-
O que é uma estrutura de evasão de responsabilidade?
- Refere-se a um sistema projetado para que, quando algo dá errado, ninguém consiga assumir o problema e resolvê-lo.
- (Original: o sistema já tomou a decisão, e esse sistema não dá nenhuma explicação sobre si mesmo.)
-
Exemplo: central de atendimento de companhia aérea
- Funcionário, gerente e superior dizem que “não podem ajudar porque o computador não permite” e não assumem a responsabilidade.
- No fim, ninguém consegue resolver diretamente o problema.
-
A interpretação de Dan Davies
- Em The Unaccountability Machine, esse tipo de sistema é definido como um “accountability sink”.
- Explica uma situação em que, por depender de procedimentos e regras, não é possível identificar a origem do erro.
-
Na era da IA, o agravamento do problema da evasão de responsabilidade
- “Daqui para frente, teremos de nos acostumar com a frase ‘a culpa é do sistema’ — e aceitá-la literalmente.”
- As críticas às decisões da IA e a transferência de responsabilidade por elas aumentam cada vez mais, tornando ambíguo quem de fato deve responder por isso.
-
O contraste com o Founder Mode
- É uma estrutura em que toda a responsabilidade se concentra no fundador, em contraste com a estrutura de evasão de responsabilidade.
- “O grau em que alguém pode mudar uma decisão é exatamente o grau em que pode ser responsabilizado por ela.”
- A intervenção e a decisão direta das pessoas são essenciais para aumentar a responsabilização dentro das organizações.
-
Loop de feedback e reuniões skip-level
- São apresentados como estruturas de comunicação para reforçar a responsabilização real dentro da organização, como “feedback transmitido de baixo para cima” e “reuniões skip-level”.
-
Caminho para a solução
- Mesmo por trás de sistemas de IA, deve haver necessariamente alguém responsável, e a revisão da decisão precisa ser possível com rapidez.
- É importante redesenhar papéis e sistemas para uma estrutura em que a intervenção humana seja possível.
Ainda não há comentários.