O ralo por onde a responsabilidade desaparece, Accountability Sinks

• Accountability sink é um fenômeno institucional em que o julgamento é substituído por procedimentos formais, de modo que a decisão é executada, mas fica difuso quem é responsável e para quem reclamar
• Procedimentos criam eficiência, segurança e memória organizacional, mas regras impostas de cima para baixo podem induzir à obediência cega mesmo quando quem está na ponta sabe que há um problema
• O descarte de esquilos-terrestres em um aeroporto, funcionários de portão de embarque de companhias aéreas, limite de nome em cartão de crédito, a administração do Holocausto e a divisão de tarefas domésticas mostram todos o vazio de responsabilidade que surge quando o julgamento é absorvido pelo procedimento
• Em contrapartida, a tenure acadêmica, a proteção à pesquisa no estilo Xerox PARC, Bell Labs e DARPA, o venture capital e os blameless postmortems do Google SRE reduzem o peso da responsabilização e tornam possível um julgamento melhor
• Como procedimentos não podem desaparecer em uma sociedade complexa, o ponto central é fazer com que eles não sejam um mecanismo para esconder pessoas, mas um desenho institucional que preserve o julgamento na ponta

---

Estrutura básica de um accountability sink

• O livro de Dan Davies The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind chama de accountability sink o fenômeno em que decisões antes tomadas por pessoas são substituídas por procedimentos formais
• Quando algo que antes era julgado diretamente por uma pessoa vira um procedimento, em vez de alguém ter decidido deliberadamente, o que passa a existir é a execução do processo
• Mesmo quando o procedimento funciona mal, tende a desaparecer tanto a pessoa a culpar quanto o alvo da reclamação
• Organizações têm fortes incentivos para converter julgamento humano em procedimento
  • Decisões podem gerar controvérsia
  • Quando há interesses envolvidos, surgem resistência e ressentimento
  • Procedimentos impessoais permitem repetir a mesma decisão sem senso de responsabilidade ou culpa

O vazio de responsabilidade criado pelos procedimentos

• Em abril de 1999, 440 esquilos-terrestres que chegaram ao Schiphol Airport, nos arredores de Amsterdã, em um voo da KLM vindo de Pequim, não puderam ser entregues a um cliente em Atenas por falta da documentação de importação necessária
  • Também não foi possível corrigir o erro e reenviá-los de volta
  • Diante do problema documental, funcionários do aeroporto colocaram os 440 animais em um triturador industrial
  • A ordem veio dos departamentos de agricultura, gestão ambiental e pesca do governo holandês, e a direção da KLM declarou depois que a ordem era “antiética por sua forma e pela ausência de alternativas viáveis de execução”
  • Os funcionários agiram “formalmente de modo correto” no sentido de terem seguido a ordem, mas a KLM reconheceu que a decisão foi um assessment mistake
• Na prática, a única salvaguarda desse sistema era a expectativa vaga de que as pessoas encarregadas de descartar os animais pudessem se recusar a cumprir a instrução se o resultado parecesse absurdo o suficiente
  • Não é comum que alguém que trabalha em um depósito tenha autoridade para anular uma ordem do governo por razões éticas
  • Esperar que alguém obedeça ordens em 99% dos casos e, no 100º, de repente faça um julgamento independente não é realista nem psicologicamente nem do ponto de vista da gestão
• Funcionários de portão de embarque de companhias aéreas dão aos passageiros más notícias, como impedimento de embarque, mas quase não têm margem para mudar nada por causa da política da empresa
  • O cliente está falando com uma pessoa, mas na prática está lidando com regras e procedimentos definidos em camadas superiores
  • Mesmo querendo se irritar, é difícil culpar o indivíduo à sua frente, e a empresa acaba falando com uma voz organizacional anônima
• No caso de uma empresa de cartão de crédito, o design do cartão plástico só permitia nomes de até 24 caracteres
  • Funcionários levaram ao time de negócios o problema dos candidatos com nomes longos
  • O time de negócios escolheu rejeitar essas solicitações em vez de redesenhar o cartão, alegando que a proporção afetada era muito pequena
  • O solicitante, mesmo com bom histórico de crédito, não conseguia receber o cartão, não ouvia o motivo e tinha dificuldade para encontrar alguém responsável para contestar
  • Um defeito técnico acabou encoberto por um procedimento
• O caso de um casal que alternava semanalmente a ordem de lavar a louça mostra que o mesmo problema pode surgir em escala pequena
  • Quando uma pessoa adoece, a louça se acumula, mas a outra não se sente responsável porque não é a sua vez
  • Também não fica claro quem exatamente culpar

Burocracia e os riscos de procedimentos em larga escala

• Pesquisadores do Holocausto entendem que o extermínio em massa foi possível porque o ódio popular foi convertido em procedimentos administrativos formalizados
• Separar os judeus do restante da população e concentrá-los em um único lugar foi uma etapa central no caminho para o extermínio
  • Na Bulgária, em vez de reunir judeus em guetos ou “campos de trabalho” regionais, eles foram enviados ao interior para ajudar em fazendas
  • Depois de dispersos pelo país, ficou muito mais difícil executar a etapa seguinte de colocá-los em trens rumo a campos de concentração
• O trabalho de concentrar os judeus era crucial para o sucesso do extermínio, mas os burocratas que o executavam não sentiam que estavam matando pessoas diretamente
  • Eles entendiam que apenas realizavam tarefas administrativas tediosas do dia a dia
• Ao olhar para os julgamentos de Nuremberg, fica uma sensação de que “ninguém é responsável”
  • Muitos réus não apenas seguiram ordens, mas também agiram por conta própria em vários casos
  • Também se conecta a estudos que mostram que as consequências para soldados alemães que desobedeciam ordens ilegais foram surpreendentemente leves
  • Ainda assim, como centenas de milhares de pessoas participaram da implementação da solução final, permanece a sensação de arbitrariedade sobre por que apenas alguns foram punidos
• Em uma entrevista com o historiador Götz Aly, aparece a observação de que, se o mesmo padrão tivesse sido aplicado em 1965, seria preciso condenar à prisão perpétua mais de 300 mil homens e mulheres alemães por cumplicidade em homicídio
  • Até trabalhadores de escritório, como a secretária da Wannsee Conference, digitavam ordens, mas na época não se considerava que isso exigisse prisão

As vantagens dos procedimentos e o duplo lado da evasão de responsabilidade

• Procedimentos formais em geral são úteis
  • Aumentam a eficiência e repetem as mesmas decisões, criando economias de escala
  • Melhoram a segurança, como quando pilotos verificam uma checklist antes da decolagem
  • Armazenam memória organizacional ao codificar em etapas as lições e soluções obtidas em casos anteriores
• Mas, nas camadas profundas da burocracia, procedimentos podem deixar de ser apenas instrumentos de eficiência e se tornar uma técnica de gestão e evasão de responsabilidade
• Hoje, boa parte da insatisfação no Ocidente se conecta à raiva de estar preso em sistemas que tratam pessoas não como seres humanos, mas como peças de máquina
  • Procedimentos tomam decisões e, quando falham, não há ninguém para explicar ou assumir a responsabilidade
  • Quando o Estado ou empresas privadas transferem a responsabilidade para procedimentos impessoais e não oferecem meios de reparação, até a democracia pode parecer um conceito vazio
• A reação contra especialistas, o ceticismo em relação a juízes e a tolerância com a corrupção também podem ser vistos de outro modo sob essa lente
  • Especialistas podem parecer os projetistas de sistemas impessoais
  • Juízes podem parecer mais comprometidos com o procedimento do que com a justiça
  • A corrupção é ruim, mas ao menos pode parecer uma decisão tomada por alguém com nome e rosto
• Atendimento telefônico automatizado, menus intermináveis e a experiência de suporte ao cliente que nunca chega a uma pessoa tornam essa ansiedade ainda mais forte

Quando aliviar a responsabilidade produz bons resultados

• Limitar a responsabilização às vezes é uma instituição deliberadamente necessária
• A tenure acadêmica torna, na prática, muito difícil demitir cientistas e lhes dá liberdade para conduzir pesquisas arriscadas ou não convencionais
  • O pesquisador fica menos pressionado a entregar resultados em cronograma para gestores ou a se desculpar por fracassos
• Um padrão parecido aparece em instituições de pesquisa bem-sucedidas como Xerox PARC, Bell Labs e DARPA
  • Havia gestores que protegiam pesquisadores de exigências de utilidade imediata, vigilância burocrática e da necessidade constante de justificar seu trabalho para cima
• O modelo de venture capital também alivia a responsabilidade dos fundadores de startups
  • Espera-se que tentem ter sucesso, mas eles não são cobrados por terem fracassado
  • O risco de fracasso já é precificado pelo VC
  • O VC funciona como um accountability sink entre os donos do capital e os fundadores

O chão de fábrica onde foi preciso quebrar regras

• Após o tiroteio em massa de 1º de outubro de 2017 em Las Vegas, o pronto-socorro de um hospital recebeu de uma vez centenas de pacientes com ferimentos a bala
  • A equipe médica respondeu quebrando repetidamente regras e procedimentos estabelecidos
  • Nos livros, a triage deveria ser conduzida pelo médico mais experiente, mas no local ela foi passada para enfermeiros
  • Quando o processo de autenticação do Pyxis travou o fluxo, etomidate, succinylcholine e sangue O negativo foram colocados mais perto da operação
  • Quando faltaram ventilators, usou-se Y tubing para conectar duas pessoas com porte físico e tidal volume semelhantes ao mesmo ventilator
• Um comentário sobre esse caso resumiu a situação dizendo: “Se ele não fosse um herói, teria sido demitido imediatamente”
• Na experiência do Gmail SRE, quase não havia procedimento obrigatório durante resposta a incidentes
  • O SRE responde perante níveis superiores pela disponibilidade do serviço, mas não havia exigência de seguir um processo fixo durante o tratamento de incidentes
  • Usavam muitos procedimentos, mas mais como diretrizes ou recomendações escolhidas pela equipe do que como regras impostas
  • Depois do incidente, ajustar procedimentos fazia parte da resposta tanto quanto corrigir o software
• A cultura de blameless postmortems do Google SRE limita explicitamente a responsabilidade individual
  • O postmortem deve focar em encontrar as causas que contribuíram para o incidente, sem culpar uma pessoa ou equipe específica por comportamento inadequado
  • Parte-se do princípio de que todos fizeram a coisa certa de boa-fé com base nas informações que tinham naquele momento
  • Quando existe medo de punição, as pessoas tendem a deixar de expor problemas

Segurança aérea e relato honesto

• Em 1º de fevereiro de 1991, um jato de passageiros colidiu com um pequeno turboélice regional na pista do Los Angeles International Airport, deixando ao final 35 mortos
• Um texto da Asterisk trata do caso da controladora Robin Lee Wascher
  • Minutos antes de autorizar o pouso do USAir flight 1493, Wascher havia instruído o SkyWest flight 5569 a “taxi into position and hold” na runway 24L
  • Ela não se lembrava de ter dado autorização de decolagem e percebeu a possibilidade de que a aeronave ainda estivesse na pista
  • Wascher voltou para a torre e disse ao supervisor que acreditava que o USAir havia colidido com o SkyWest flight 5569
• O erro de Wascher e o fato de que ele levou à morte de 35 pessoas eram claros, mas ela não foi punida
  • Colegas guardaram a porta do quarto de hotel para mantê-la longe da imprensa
  • Meses depois, ela testemunhou de forma honesta sobre sua memória na audiência do NTSB
  • Chegou a receber a oportunidade de voltar à torre, mas recusou
  • Ninguém foi processado criminalmente
• Remover Wascher não melhoraria a segurança
  • Ela não era uma controladora particularmente ruim, mas uma profissional mediana com histórico mediano
  • Colegas enfatizaram que o mesmo poderia ter acontecido com qualquer um
• Se o relato honesto levar a melhorias como a compra de um segundo radar de solo, a realocação de luzes que causavam interferência e a remoção de tarefas paralelas, o ganho para a segurança aérea será muito maior do que demitir Wascher
  • A punição pode fazer outros controladores experientes evitarem assumir responsabilidade por coisas fora de seu controle e, no fim, produzir o efeito de substituí-los por pessoas menos experientes

Bypass de responsabilidade para destravar sistemas emperrados

• O HealthCare.gov foi lançado no prazo em 1º de outubro de 2013, mas os visitantes logo enfrentaram vários problemas técnicos
  • Algumas estimativas apontavam que apenas 1% dos interessados conseguiu se inscrever na primeira semana
  • O fracasso do site podia se transformar no fracasso da principal política de Obama, e foi tratado como o primeiro caso em que o desempenho de um website virou prioridade máxima da Casa Branca
• Segundo Jennifer Pahlka em Recoding America, a equipe então montou um plano em duas etapas
  • Reunir uma pequena equipe técnica com experiência e competência relevantes
  • Ganhar a confiança do CMS, órgão responsável pela implementação do website
• Os novos técnicos deixaram claro que não tinham vindo para buscar culpados, mas para ajudar
  • Em vez da resposta usual a fracassos, com mais supervisão e menos margem de ação, o CMS passou a trabalhar com técnicos em quem podia confiar
  • O CMS sabia contratar tecnologia e serviços e havia emitido 60 contratos apenas para o healthcare.gov, mas agora havia no time pessoas capazes de olhar para o código, não apenas para os termos do contrato
• Dominic Cummings relembrou a situação das compras de PPE do NHS durante a crise de COVID em março de 2020
  • Ele ouviu que o PPE encomendado só chegaria no verão, embora o pico de demanda estivesse nas 3 ou 4 semanas seguintes
  • O plano original era usar o método tradicional de transporte marítimo a partir da China, e ele exigiu que, como as companhias aéreas estavam paradas, aviões fossem enviados à China para trazer o material
  • Só Boris Johnson podia mandar contornar a burocracia, regras da UE, orientações do Tesouro e afins, dizendo que “assumiria pessoalmente toda a responsabilidade legal”
• Ao assumir a responsabilidade, Johnson reduziu o peso sobre os servidores e tornou possível resolver o problema em vez de ficar paralisado por procedimentos formais rígidos

O mercado como grande dispositivo de alívio de responsabilidade

• O livre mercado é apresentado como o maior exemplo de accountability sink
• Espera-se que o governo garanta Estado de direito, execução de contratos e cumprimento de leis e tributos, mas não intervenha no funcionamento cotidiano do mercado
• O mercado há muito é descrito como um mecanismo de processamento de informação que agrega dados dispersos pela sociedade para otimizar a alocação de recursos escassos
• A ausência de responsabilização permite que empreendedores assumam grandes riscos
  • Se a empresa fracassa, a culpa recai sobre o próprio fundador, mas ninguém vem atrás dele para puni-lo
  • Isso reduz a necessidade de agir apenas de forma segura
• O fracasso das economias comunistas teve como causa principal a desconsideração das leis de oferta e demanda, mas a estrutura em que todos os executivos empresariais respondiam aos níveis superiores e ao partido comunista também pode ter produzido aversão ao risco
  • Como resultado, mesmo quando cientistas faziam descobertas tecnológicas, o desempenho na implementação de novas tecnologias e práticas de negócio era fraco, levando a uma estagnação econômica geral

Distinções para o desenho institucional

• Procedimentos formais em sua maioria são benéficos, e a sociedade moderna complexa não pode se sustentar sem eles
• Nem todo procedimento formal é um accountability sink
  • Procedimentos que alguém desenha para si e impõe a si mesmo não o isentam de responsabilidade quando surgem problemas
  • Procedimentos impostos de cima podem induzir à obediência cega mesmo quando prejudicam o objetivo
• Nem todo accountability sink leva a rigidez e encobrimento
  • Procedimentos podem ser desenhados para proteger da carga da responsabilização as pessoas afetadas por eles, sem ao mesmo tempo impor uma solução pré-definida
  • O blameless postmortem é um exemplo disso
• Em situações como a de funcionários de portão de embarque, muitas vezes existe, de fato, alguma capacidade excepcional de escalonamento, mas publicamente ela precisa parecer inexistente
  • O resultado é um efeito secundário em que, do ponto de vista do cliente, parece necessário agir de modo suficientemente desagradável para conseguir exceção, escalonamento ou tratamento especial
• A citação de Atlas Shrugged, de Ayn Rand, mostra o mesmo problema de forma literária, com pessoas paradas diante de um sinal vermelho por medo de transferir responsabilidade e com Dagny Taggart assumindo a responsabilidade ao dizer: “Eu estou dizendo”