Um mau design de software pode fazer até navios de guerra colidirem
(imseongkang.wordpress.com)Em 21 de agosto de 2017, o destróier Aegis da Marinha dos EUA John McCain (DDG-56), com deslocamento de 9 mil toneladas, colidiu no estreito de Malaca, perto de Singapura, com o petroleiro Alnic MC, com capacidade de carga de 30 mil toneladas. No acidente, 10 tripulantes morreram e 5 ficaram feridos. O acidente ocorreu porque, em uma rota marítima movimentada, houve um atraso de cerca de 3 minutos no processo de transferência da autoridade de controle do John McCain. Logo após o acidente, o comandante da 7ª Frota da Marinha dos EUA, vice-almirante Joseph P. Aucoin, à qual o navio pertencia, foi destituído do cargo.
O relatório do NTSB dos EUA (National Transportation Safety Board), que investigou o acidente, apontou várias causas, entre elas o design inadequado do IBNS (Integrated Bridge and Navigation System), instalado no John McCain um ano antes do acidente. No processo de modernização do navio, a interface de controle de direção e propulsão foi substituída por um software baseado em tela sensível ao toque, mas a UI geral dessa interface era inadequada e aumentava muito a complexidade, criando um ambiente em que era fácil para as pessoas cometerem erros e difícil perceber isso imediatamente, o que contribuiu para o acidente. Por isso, a Marinha dos EUA decidiu abandonar a interface de operação baseada em touchscreen e voltar aos controles mecânicos tradicionais.
À primeira vista, pode parecer que o erro foi simplesmente adotar touchscreen, mas, na realidade, o problema fundamental foi o aumento da complexidade causado por uma UI mal projetada. Sobre isso, o livro [Meltdown: Why Our Systems Fail and What We Can Do About It](Chris Clearfield · Andras Tilcsik, 2019) explica, com vários exemplos, o quanto é perigoso aumentar a complexidade ou o acoplamento de um sistema. No texto linkado, é explicado em detalhes, com foco no design da interface do usuário do IBNS mencionado acima, quais aspectos eram problemáticos.
5 comentários
A ironia de voltar a interfaces antiquadas por causa do fracasso do UI/UX moderno
O livro [Meltdown] mencionado acima também traz casos de tragédias causadas por problemas de UI/UX. Por exemplo, o [acidente do voo Air France 447 no Atlântico], ocorrido em 2009, aconteceu porque o copiloto, que tinha pouca experiência, entrou em pânico diante de uma situação inesperada e continuou puxando o manche. Entre os fatores que contribuíram para o acidente estava também o fato de que o piloto que percebeu a crise assumiu os controles diretamente, mas só notou tarde demais que o copiloto continuava puxando o manche. Houve um alerta sonoro indicando que comandos diferentes estavam sendo inseridos pelo manche do comandante e pelo manche do copiloto, mas como vários alarmes já estavam soando ao mesmo tempo, quando perceberam isso já era tarde demais.
Acidente do voo Air France 447 no Atlântico:
https://rhfvm1111.blog.me/220275551718
Embora não seja um caso citado no livro acima, há vários exemplos de acidentes causados por interfaces de operação mal projetadas ou software defeituoso, inclusive só no setor da aviação, como os mencionados acima. Por exemplo, no caso do [acidente do voo China Airlines 140 no Aeroporto de Nagoya], ocorrido em 1994, uma grande tragédia aconteceu pela combinação entre uma alavanca fácil de acionar por engano, operada incorretamente pelo piloto, e a falta de atualização de um software de piloto automático com um bug grave. Mais recentemente, no caso do Boeing 737 MAX, que virou tema após os acidentes em sequência do [voo Lion Air 610] e do [voo Ethiopian Airlines 302], a causa central dos acidentes foi um SPOF (ponto único de falha) criado pelo software de piloto automático. No Boeing 737 MAX, foi adicionada ao software de piloto automático, sem explicação suficiente, uma função que em determinadas situações manipulava o estabilizador horizontal independentemente da vontade do piloto. Como essa função usava o valor de apenas um dos dois sensores instalados na aeronave, quando esse sensor falhou a direção de voo foi forçada na direção da queda, levando finalmente ao desastre. Além disso, a função que alertava quando os dois sensores indicavam valores diferentes originalmente era embutida, mas a Boeing a transformou em um opcional pago, o que impediu que os pilotos recebessem um alerta adequado.
Acidente do voo China Airlines 140 no Aeroporto de Nagoya:
https://rhfvm1111.blog.me/220226606257
Defeito do Boeing 737 MAX:
https://namu.wiki/w/%EB%B3%B4%EC%9E%89%20737%20MAX/%EA%B2%B0%ED%95%A8
Outro caso representativo em que problemas de interface do usuário se combinaram com erro humano foi o incidente de 1988 em que o cruzador Aegis da Marinha dos EUA, USS Vincennes (CG-49), confundiu um avião civil iraniano com um caça e o abateu. Isso me veio à cabeça vendo as tensões entre os EUA e o Irã voltarem a subir.
Incidente do abate do voo Iran Air 655 pelo USS Vincennes:
https://namu.wiki/w/…
Há muitos casos lamentáveis. Em áreas em que vidas humanas estão em jogo, parece que confiabilidade e intuitividade são mais importantes do que qualquer outra coisa.
Ao melhorar a UI/UX, nesses campos também é preciso priorizar esse aspecto acima da estética e da conveniência.
Recentemente saiu um vídeo de reconstituição do acidente com a queda do voo China Airlines 140 no aeroporto de Nagoya. A reconstituição mostra como vários fatores se somaram — uma interface de operação propensa a erros, dispositivos de segurança defeituosos, a demora da companhia aérea em corrigir o defeito a tempo e o fato de os pilotos não compreenderem corretamente as funções de automação — e como, menos de dois minutos após um erro, ocorreu uma grande tragédia.
https://www.youtube.com/watch?v=IN4Y7dWXY1s