Exemplos de How Complex System Fail
(how.complexsystems.fail)https://how.complexsystems.fail/
https://www.youtube.com/watch?v=2S0k12uZR14
Em How Complex System Fail, de Richard Cook, são discutidas 18 causas de falha em sistemas complexos e formas de reduzir essas falhas.
1. Sistemas complexos são inerentemente sistemas perigosos.
2. Sistemas complexos se defendem com sucesso contra falhas.
À medida que incidentes ocorrem, várias camadas de defesa são construídas. Essas defesas incluem componentes técnicos (backup, recursos de segurança do sistema etc.), componentes humanos (treinamento, conhecimento), além de organização e processos.
3. Uma catástrofe exige várias falhas. - Um SPoF não é suficiente.
Grandes incidentes surgem da combinação de pequenos acidentes.
4. Sistemas complexos contêm combinações de erros latentes e mutáveis em seu interior.
5. Sistemas complexos operam em modo degradado.
6. A catástrofe está sempre logo ali.
7. Após uma falha, a Root Cause é fundamentalmente equivocada.
8. A avaliação de desempenho após uma falha sofre viés retrospectivo.
9. A operação tem dois papéis. (produtor, defensor contra falhas)
10. Toda ação dos profissionais é uma aposta.
Após uma falha, ela muitas vezes parece inevitável, e a ação do profissional parece um erro. No entanto, toda ação dos profissionais é, na prática, uma aposta — ou seja, uma ação tomada diante de um resultado incerto. O grau de incerteza pode variar. O fato de que a ação do profissional era uma aposta só é percebido depois da falha. Em geral, na análise posterior, essas apostas são consideradas apostas ruins. Porém, resultados bem-sucedidos também são resultado de apostas.
11. A ação nos pontos mais difíceis resolve a ambiguidade.
12. Os profissionais são os elementos adaptáveis de sistemas complexos.
13. A expertise humana em sistemas complexos está em constante mudança.
14. Mudanças trazem novas formas de falha.
15. A visão sobre a 'causa' limita a eficácia das defesas contra eventos futuros.
16. Segurança não é um componente, mas uma característica do sistema.
A segurança é uma propriedade do sistema. O estado de segurança de qualquer sistema está sempre mudando. É necessário um gerenciamento contínuo e sistemático dos riscos.
1 comentários
Não sei se é porque ando me preparando para engenharia do caos, mas os textos abaixo ficaram na minha cabeça.
Grandes catástrofes (Catastrophe) estão sempre logo ali.
Para realizar trabalhos sem falhas, é preciso ter experiência com falhas.