- Operadores de agências do Post Office no Reino Unido assumiram déficits inexistentes por causa de erros no sistema contábil Horizon criado pela Fujitsu, e entre 1999 e 2015 centenas de pessoas sofreram condenações criminais, falência, prisão e danos à reputação
- O Horizon foi introduzido em 1999 para substituir a contabilidade em papel, mas em várias agências passou a mostrar déficits falsos de milhares ou dezenas de milhares de libras, e houve casos em que o valor aumentava quando o mesmo cálculo era reenviado
- A estrutura contratual fazia os operadores das agências assumirem a responsabilidade pelas perdas, e o Post Office ampliou os danos ao responder às pessoas que questionavam o problema que “só você” passava por isso ou ao bloquear o acesso necessário para provar inocência
- Em 2019, numa ação civil movida por mais de 500 pessoas, foram reconhecidos bugs, erros e defeitos no Horizon; o Post Office pagou mais de 138 milhões de libras em compensação, mas apenas 93 das 700 condenações foram anuladas
- Depois do drama da ITV “Mr Bates vs The Post Office”, a opinião pública explodiu e o governo começou a avançar com uma lei para anular as condenações; a responsabilidade de compensação e eventual responsabilidade criminal da Fujitsu ainda seguem sob investigação
O erro do Horizon que gerou um grande erro judicial
- Os sub-postmasters que operavam agências do Post Office no Reino Unido sofreram punições criminais, falência e danos à reputação por causa dos déficits mostrados pelo Horizon entre 1999 e 2015
- O governo britânico é dono do Post Office e classificou o caso como um dos maiores erros judiciais da história do Reino Unido
- O impacto atingiu milhares de pessoas; entre elas, 700 foram condenadas criminalmente e algumas chegaram a ser presas
- O Horizon foi criado pela japonesa Fujitsu e implantado em 1999 para substituir a contabilidade em papel
- Logo após a implantação, gerentes de agências passaram a reclamar que o software mostrava como se milhares de libras tivessem desaparecido das contas do Post Office
Quando déficits inexistentes viram crime pessoal
- Jo Hamilton disse que, em 2003, enquanto operava uma agência dos Correios numa pequena cidade do sul da Inglaterra, o computador do Horizon mostrou um déficit de 2 mil libras e, ao refazer o mesmo cálculo, o valor dobrou diante de seus olhos
- Hamilton refinanciou a casa para cobrir um déficit inexistente, e quando o Post Office a processou em 2007 por furto e falsidade contábil, o déficit já havia subido para 36 mil libras
- Ela admitiu a acusação de falsidade contábil em troca da retirada da acusação de furto, mas descreveu o processo como uma experiência devastadora
- Wendy Buffrey também passou, em 2008, pela situação em que os déficits inexplicáveis do Horizon dobravam sempre que o mesmo cálculo era reenviado
- Investigadores do Post Office disseram a Buffrey que ela era a única pessoa com aquele problema
- Buffrey concluiu que teria de responder por 36 mil libras e colocou 10 mil libras na conta usando o limite total do cartão de crédito
- Na época, seu advogado disse que, se ela alegasse inocência, havia grande chance de pegar três anos de prisão, e Buffrey admitiu a acusação de falsidade contábil em troca da retirada da acusação de furto
- Buffrey diz que desde então sofre dores constantes por fibromialgia relacionada ao estresse
Contratos e investigações que pesavam contra os operadores
- O contrato do Post Office era mais próximo de uma franquia, e os operadores das agências tinham de responder por perdas financeiras ocorridas em sua unidade
- Alguns operadores cujo contrato foi encerrado foram impedidos por investigadores do Post Office de entrar no local de trabalho, o que dificultou encontrar provas para demonstrar inocência
- Sempre que Hamilton ligava para a central de ajuda do Horizon, os atendentes respondiam que ela era a única pessoa enfrentando problemas no sistema
- O advogado Neil Hudgell disse ter ouvido diretamente relatos de sub-postmasters falsamente acusados, ou que perderam o negócio e a reputação, e depois tiraram a própria vida, bem como de suas famílias
- A esposa de Martin Griffith afirmou em uma declaração de impacto que o marido entrou em profunda depressão depois da decisão do Post Office de encerrar o contrato e caminhou na frente de um ônibus
- Griffith havia pegado dinheiro emprestado com os pais para cobrir o déficit nas contas e depois ainda sofreu um assalto na agência
Compensação lenta e anulação de condenações mesmo após vitória judicial
- Em 2019, na ação civil movida por mais de 500 sub-postmasters, houve a conclusão de que o Horizon tinha “bugs, errors and defects”
- O Post Office afirma que já pagou mais de 138 milhões de libras em compensações e que está comprometido em corrigir os erros do passado, inclusive apoiando a reversão de condenações injustas
- Após a vitória judicial de 2019, mais sub-postmasters passaram a se manifestar dizendo que o Horizon havia mostrado déficits incorretos
- Das 700 pessoas condenadas, apenas 93 tiveram até agora a inocência reconhecida, incluindo Hamilton e Buffrey
- Até o momento, mais de 2,7 mil pessoas pediram compensação, mas muitos sub-postmasters dizem que o valor recebido não é suficiente e cobram responsabilização dos envolvidos
Investigação policial e o alcance da responsabilidade da Fujitsu
- A Metropolitan Police de Londres iniciou em 2020 uma investigação criminal sobre possíveis fraudes cometidas pelo Post Office
- A polícia também investiga a Fujitsu por possíveis crimes relacionados aos processos contra os sub-postmasters
- Dois ministros do governo britânico disseram que, dependendo das conclusões do inquérito público independente, a Fujitsu poderá ser obrigada a pagar compensações às vítimas
- A Fujitsu afirma que está comprometida em apoiar a investigação para entender o que aconteceu e aprender com o caso
- A Fujitsu declarou que a investigação confirmou o impacto devastador do caso na vida dos postmasters e de suas famílias, e pediu desculpas pelo papel da empresa no sofrimento deles
O drama que desencadeou resposta política
- O caso foi tratado por anos nos tribunais e na imprensa britânica, mas a percepção pública e a indignação cresceram fortemente após a exibição do drama da ITV “Mr Bates vs The Post Office”
- O drama mostra a longa campanha dos sub-postmasters para provar a própria inocência e obter compensação
- Alan Bates é o ex-sub-postmaster que liderou esse esforço
- Depois do lançamento do drama, o governo britânico respondeu em poucos dias com a velocidade que os sub-postmasters vinham cobrando havia anos
- O primeiro-ministro Rishi Sunak anunciou que o Parlamento aprovaria rapidamente uma lei histórica para anular as condenações de centenas de sub-postmasters
- No sistema político e judicial britânico, ainda restam perguntas sobre quem sabia o quê e quando, se há indivíduos que devem responder criminalmente, e até que ponto a Fujitsu deve ser responsabilizada pela compensação às vítimas
Um trauma que dura quase 20 anos
- Siema Kamran e o marido, Kamran Ashraf, compraram em 2001 uma agência dos Correios no norte de Londres, e três anos depois uma auditoria do Post Office encontrou um déficit inexplicável de 25 mil libras
- Ashraf se sentiu pressionado por seu advogado a admitir a acusação de furto, recebeu pena de nove meses em 2004 e teve a condenação anulada em 2020
- Nas primeiras semanas da pena, Ashraf ficou em uma prisão de segurança máxima, trancado 23 horas por dia, e depois foi transferido para uma unidade de menor segurança
- Ele foi libertado quatro meses depois, mas ainda usou tornozeleira eletrônica por cinco meses para rastreamento de localização
- Kamran diz que o marido sofre de transtorno de estresse pós-traumático por causa da experiência, e que ela, o marido e os três filhos precisam de tratamento
- Hoje trabalhando por conta própria como maquiadora, Kamran diz que, se o Post Office pôde fazer isso, não dá para saber o que outras marcas podem fazer, e que ela não consegue voltar a trabalhar para uma grande empresa
1 comentários
Comentários do Hacker News
É um texto que reorganiza casos reais, e foi por causa deste incidente que acabei fazendo um doutorado em sistemas de informação.
Eu queria entender por que esse nível de incompetência em TI ainda é possível, apesar de décadas de boas práticas acumuladas em TI e software, mas logo percebi que a pesquisa em sistemas de informação já havia explicado a maior parte disso.
No fim, pessoas são pessoas e organizações péssimas são organizações péssimas; enquanto houver uma distribuição em forma de sino para quase tudo, talvez isso nunca desapareça por completo.
Se todos fossem altruístas, humildes, inteligentes, competentes e honestos, muitos problemas do mundo desapareceriam, não só em TI, mas pessoas, organizações e sociedades são quebradas, cada uma à sua maneira.
Ainda assim, os estudos organizacionais tentam apontar caminhos melhores, mas acho que algumas pessoas simplesmente nunca vão se importar.
Não me concentro mais nesse tema porque ele já parece ter sido bastante pesquisado, mas é interessante que este caso ainda apareça repetidamente nas notícias.
Sistemas importantes precisam ter responsabilização, e essa responsabilidade deve impor a fabricantes e proprietários a obrigação de criar salvaguardas, inspeções e medidas de proteção.
Por que esse princípio não é bem aplicado à engenharia de software é outra conversa, mas acho que deveria ser.
Francamente, não quero ouvir “mova-se rápido e quebre coisas”.
Como este caso foi grande, envolvendo centenas ou milhares de pessoas, ele veio a público e houve tentativas de reparação.
Precisamos perguntar quantos casos dispersos existem em que vidas são destruídas e pessoas inocentes apodrecem na prisão.
Talvez haja algo nessa organização que atraia pessoas excepcionalmente cruéis, ou talvez ela tenha se tornado assim nas últimas décadas.
No início dos anos 2000, nos comerciais de TV “The People’s Post Office”, John Henshaw fazia o papel de subpostmaster; era estranho, mas de certa forma um elenco curiosamente adequado, já que ele era conhecido por interpretar vilões fortes e policiais corruptos.
Depender de “se todos forem inteligentes e agirem de boa-fé” já é um projeto quebrado.
Se você tem interesse acadêmico, recomendo fortemente revisitar o desenho de sistemas que funcionem mesmo com incompetência e até com adversários.
Em vez disso, golpistas fanfarrões que têm uma relação flexível com a verdade tendem a subir em qualquer lugar.
Há mais informações sobre o que de fato aconteceu tecnicamente nos bastidores: https://www.theguardian.com/uk-news/2024/jan/09/how-the-post...
David McDonnell, da equipe de desenvolvimento, disse na investigação que “dos 8 integrantes da equipe de desenvolvimento, 2 eram muito bons, 2 eram razoáveis para trabalhar junto, mas 3 ou 4 não tinham competência para produzir código profissional”.
Não estou tentando jogar a culpa nos desenvolvedores; a responsabilidade claramente é da gestão.
As pessoas que criaram bugs no código não deveriam ser responsabilizadas pelo fato de outras pessoas terem ido para a prisão por causa disso.
Gestores não sabem muito bem o que engenheiros realmente fazem.
Só engenheiros entendem de verdade os trade-offs de engenharia, e se vidas dependem do resultado do nosso trabalho, não deveríamos ficar completamente protegidos das consequências das nossas escolhas.
Isso não é bom para a sociedade nem, no fim das contas, para nós.
Pelos princípios da responsabilidade civil, há responsabilidade por danos previsíveis, e quanto maior a especialização, maior a responsabilidade.
Os engenheiros seniores da equipe deveriam ter feito melhor; acho que houve culpa da parte deles.
Esse ponto sempre me incomoda.
É possível criar uma API que audite completamente o acesso, mas é fácil escrever código que contorne essa API.
Código não é um prédio com paredes e portas; dá para mudar o interior sem tocar na porta.
Colocar um backdoor não auditado para operadores é ruim, mas, se é possível editar o código-fonte, os backdoors são praticamente infinitos.
O Horizon é um produto dos anos 1990, e a indústria de software naquela época era muito diferente da atual.
Na época, praticamente só a Microsoft exigia rotineiramente que programadores escrevessem código em entrevistas, e a contratação era quase aleatória.
Eram comuns equipes em que uma minoria capaz de escrever código que funcionava sustentava uma maioria que não conseguia escrever nada.
The Daily WTF também é produto daquela época, e há muitas histórias como Brillant Paula Bean: https://thedailywtf.com/articles/The_Brillant_Paula_Bean
Hoje em dia ouvimos muito menos histórias assim, porque a indústria se estabilizou em testar habilidades concretas antes da contratação, filtrando muita gente que antes entrava em projetos mesmo sem saber programar direito.
Se eu for o único desenvolvedor e vendedor deste app, não tenho responsabilidade?
Se houver uma pessoa de QA, ou dois desenvolvedores e duas pessoas de QA, isso muda?
A responsabilidade deveria recair no não técnico que vendeu ou promoveu o app?
Não entendo por que a responsabilidade do desenvolvedor por não verificar suficientemente o próprio código desapareceria por completo.
O ponto central deste caso parece ter sido o sistema “judicial” privado dentro do Post Office.
Era opaco, enviesado e se recusava a examinar as provas.
Numa época em que se buscam direitos universais, é absurdo que um local de trabalho possa tirar de alguém o direito de se defender no sistema judicial público.
Os bugs de TI também foram um problema, mas o erro de julgamento político de uma instituição presa ao passado destruiu muita gente, e tudo ficou enterrado até sair uma série de TV.
Na prática, a pessoa que comandava o Post Office chegou até a receber uma condecoração do governo.
Há muitas armadilhas em TI e na geração de código, mas o cerne deste caso está em outro lugar.
A investigação pública revelou que o Post Office usou táticas jurídicas agressivas, como pressionar subpostmasters a se declararem culpados de acusações menores ao imputar-lhes roubo.
O CPS identificou 11 casos de subpostmasters que incluíam “provas notáveis” do sistema Horizon.
Especialistas jurídicos consideram que há anos o governo vinha sendo alertado de que acusações privadas são perigosas, pois quem as promove pode ter motivações além da realização da justiça.
O ex-diretor do Ministério Público Lord Ken Macdonald KC disse que há um risco evidente quando uma entidade com interesse no caso, como o Post Office, atua como promotora.
A CEO foi recompensada porque “gerenciou” a crise, e o governo deveria ter exigido respostas depois dos sinais de alerta dos primeiros anos.
Mas só foi forçado a mostrar liderança depois de 20 anos e de uma série de TV.
Não sei se a Netflix a exibe internacionalmente por licença.
Embora seja um pouco diferente da situação no Reino Unido, as cláusulas de arbitragem obrigatória estão tirando dos funcionários o direito de buscar justiça e se tornando cada vez mais comuns.
A BBC exibiu este caso em 2015 em um documentário do Panorama, e o Post Office ameaçou a BBC por causa do conteúdo.
“O Post Office ameaçou e mentiu para a BBC ao tentar suprimir provas cruciais que inocentavam os postmasters no escândalo Horizon.”
“As alegações falsas não impediram o programa, mas atrasaram a transmissão da BBC por várias semanas.”
https://www.bbc.com/news/uk-67884743
Não foi uma simples “falha”, mas também uma guerra de relações públicas que conseguiu, com bastante sucesso, silenciar as vozes das vítimas até agora.
Quando vi a notícia, pensei: “Ouvi falar disso cinco anos atrás; com certeza já deve ter sido resolvido, não?”
Não deveria ter sido necessário chegar a esse nível de exposição pública para que as engrenagens da justiça se movessem.
Alguns anos atrás, pensei: “a tecnologia está destruindo a vida das pessoas”, mas, vendo a situação continuar em 2024, isso já não parece mais culpa da tecnologia.
No fim, o problema são as pessoas, e as pessoas são terríveis.
Esta história só agora está recebendo a atenção que merece.
Se quiser um resumo da enorme escala da injustiça, vale ler este texto da Private Eye: https://www.private-eye.co.uk/pictures/special_reports/justi...
Um programa de rádio da BBC iniciado em 2020 também traz muitas informações boas, inclusive sobre como o Post Office investigou os subpostmasters suspeitos: https://www.bbc.co.uk/sounds/brand/m000jf7j
É difícil ver isso como uma simples falha de software.
Em todos os níveis da instituição operada pelo governo, a burocracia tentou encobrir o caso para evitar má publicidade.
Dispositivos médicos? Nem pensar.
Claro que nunca dá para saber até o fim onde meu código será executado.
Embora, para chegar a esse tamanho, não tenha havido apenas um problema de software, fico curioso sobre como os desenvolvedores que trabalharam nisso durante anos simplesmente deixaram passar.
É difícil acreditar que nenhum dos desenvolvedores tenha ouvido falar desse problema.
Será que pensaram imediatamente: “Impossível, eu sou o melhor do mundo, então não pode ser problema do sistema; essas pessoas devem ter roubado dinheiro”?
Se fosse eu, acho que não conseguiria dormir e ficaria repassando o sistema inteiro na cabeça, tentando descobrir onde deu errado.
Fico pensando se não é algo como o efeito Dunning-Kruger.
Não acho que eu seja um mago da programação, mas pelo menos sei que vou criar bugs até morrer.
Rust também não impede bugs lógicos.
Não foi um único bug, mas vários bugs diferentes.
O Post Office é uma empresa totalmente privada.
Nesta história há muitos vilões óbvios, mas fico pensando: onde estava o sistema jurídico esse tempo todo?
Quer dizer que processaram 900 casos sem provas reais, ou só porque “o computador disse isso”?
Se é um dos pilares da separação dos três poderes, o sistema jurídico e o Judiciário não deveriam ser o último mecanismo para impedir esse tipo de perseguição em massa arbitrária contra pessoas completamente inocentes?
“Não há prova direta de que ela tenha pegado o dinheiro… ela nega categoricamente o roubo. Não há prova de CCTV. Não há digitais nem notas marcadas. Também não há prova de que ela tenha acumulado dinheiro em outro lugar, gastado grandes quantias ou quitado dívidas, e não há nenhuma prova relativa a contas bancárias. Quando a casa foi revistada, nada que apontasse para culpa foi encontrado”
A única prova era a diferença entre o dinheiro que o sistema computadorizado Horizon, dos Correios, dizia que deveria haver na agência e o dinheiro real
“Vocês aceitam o argumento da acusação de que há provas suficientes de que o Horizon é um sistema comprovado, usado por anos em milhares de agências dos Correios, e que é fundamentalmente robusto e confiável?”
Só a minha palavra contra a sua não atende ao padrão de “além de dúvida razoável”, mas a palavra dos Correios respaldada por um sistema computadorizado parece ter sido suficientemente convincente para o júri
Nesse caso, o júri deu um veredito de culpa
Presume-se que funcionem corretamente, e quem afirma o contrário fica com o ônus da prova
Muita gente diz que essa presunção sobre provas computacionais precisa mudar
https://www.theguardian.com/uk-news/2024/jan/12/update-law-o...
https://www.forbes.com/sites/emmawoollacott/2024/01/15/law-o...
Software é uma máquina, nem inteligente nem burra
Neste caso, ela estava quebrada, e pessoas que de fato tinham capacidade de analisar criticamente a situação e julgar aceitaram como evangelho a saída de uma máquina cujo interior não conseguiam enxergar direito
Em geral, quando um magistrado vê de um lado a honrada equipe jurídica do His Majesty’s Postal Service e, do outro, “um sujeito imundo que, na nossa opinião, roubou”, falando com sotaque regional, vai escolher o lado do governo todas as vezes
Não havia rastros de dinheiro indo para contas, nem patrimônio inexplicável, nem gastos de luxo; era tudo apenas “o computador disse isso”
Também é um problema o sistema judicial tratar cada caso separadamente
Depois de alguns casos, o sistema jurídico precisa ter algum mecanismo capaz de parar e dizer: “espera, tem algo estranho aqui”
Neste caso, a primeira mudança provavelmente será acabar, no Reino Unido, com a prática antiquada de os Correios moverem suas próprias acusações
Na equipe anterior, proibimos o uso da palavra glitch
Desenvolvedores e responsáveis de produto a usavam ao falar com clientes como um termo genérico para “um bug pelo qual não quero assumir responsabilidade”, e isso não tem lugar em uma equipe técnica moderna
Antigamente, havia quem copiasse e colasse respostas do Stack Overflow na base de código da empresa até “funcionar”, e, quando surgia um problema, ele ficava semanas ou meses com uma pessoa e depois passava para outra
Na maioria dos casos, bastaria inserir algumas instruções simples de saída para conseguir uma pista de como corrigir, mas até isso era visto como algo complexo demais
Quando o software gera dinheiro, aumentam os incentivos para reduzir o custo de desenvolvimento, contratar engenheiros mais baratos e menos experientes e pular processos dizendo que “TDD é perda de tempo”
O governo britânico é viciado em grandes consultorias, que há tempos colocam mão de obra barata e inexperiente em projetos do setor público, entregando projetos capengas a preços altos, ou nem entregando, e embolsando o resto
Não existe uma organização disposta a investigar esses contratos
É muito parecido com o esquema Robodebt que aconteceu na Austrália, com resultados igualmente destrutivos: https://en.wikipedia.org/wiki/Robodebt_scheme
Beneficiários da assistência social que receberam notificações automáticas de cobrança de dívida cometeram suicídio, notificações de dívida foram enviadas a pessoas falecidas, e beneficiários de pensão por invalidez também receberam notificações
A Wikipedia parece chamar isso de Algocracy, ou seja, governo por algoritmos
Isso porque ele sugeria resultados favoráveis ao governo da época, ao mesmo tempo em que colocava sobre o indivíduo a responsabilidade de refutar que a dívida estava errada, com exigências absurdas e quase nenhum suporte ou processo de contestação
O Liberal & National Party, então no poder, queria criar uma imagem de linha-dura contra fraudadores da assistência social e usá-la nas eleições, além de incluir no orçamento seguinte uma enorme fonte potencial de receita que, na prática, não existia
Muitos erros de cálculo eram resultado de tirar a média da renda de duas semanas ou de vários períodos quinzenais e extrapolá-la para a renda anual; entre beneficiários da assistência social, há muitos trabalhadores temporários ou de curto prazo, e esse período não representa a renda anual, então era um método completamente equivocado
Em alguns casos, a pessoa apontada como devedora só ficou sabendo ao receber uma carta de cobrança de uma agência de cobrança
Quando um indivíduo entrava com ação, o governo reduzia a dívida para 0,00 dólar e depois alegava que não havia mais motivo para o processo, fazendo o caso cair
No fim, advogados que representavam uma pessoa também cobraram juros sobre a dívida emitida indevidamente, o que impediu o governo de vencer com a mesma tática; só então o governo reconheceu a ilegalidade de um esquema que durou anos
Para entender o contexto completo, recomendo esta série de três partes no YouTube: https://www.youtube.com/watch?v=OfsL9GAbl3M
Ela explica que, desde o começo, isso levou à maior ação coletiva da história da Austrália
Hoje, software é visto como a verdade, mas nem sempre foi assim
É bom que a IA esteja recebendo muita atenção; parece que as pessoas estão ficando mais conscientes de que seus julgamentos podem estar errados
Nos tribunais, decisões tomadas por software deveriam ser obrigadas a revelar os dados e o caminho de tomada de decisão, ou seja, o “algoritmo”
Outra lei necessária é sobre a proibição de uso de sistemas
É absurdo alguém poder ser bloqueado pelo resto da vida sem explicação nem meio de reparação; na prática, é parecido com receber prisão perpétua sem motivo