O caso Gettier da engenharia de software (2019)
(jsomers.net)- O artigo de 3 páginas de Edmund Gettier, de 1963, abalou o consenso de que conhecimento era crença verdadeira justificada, e este texto conecta esse problema às ilusões do debugging de software
- Um caso de Gettier aponta para uma situação em que uma crença é justificada por evidências e de fato é verdadeira, mas a razão de ela ser verdadeira é diferente da justificativa, tornando difícil dizer que alguém realmente sabe
- Em um app web, logo após o deploy de um pull request relacionado ao foco da caixa de busca, o autofocus quebrou e a mudança parecia ser a causa, mas o verdadeiro motivo foi uma alteração no binding de eventos do DOM raiz do framework
- Um problema de notificação por email também fazia uma mudança de código parecer o bug, mas a causa direta foi uma falha no serviço de email do qual o sistema dependia, ocorrida quase ao mesmo tempo
- Dar um nome a esse tipo de situação faz você desconfiar mais de suposições sobre cache, branch e caminhos de código, ajudando a julgar com mais cuidado a causa de problemas de software complexos e temporários
O problema de Gettier e as condições do conhecimento
- Edmund Gettier publicou em 1963, na Analysis, um artigo de 3 páginas que se tornou um clássico da filosofia
- Desde o Iluminismo, o conhecimento costumava ser definido como crença verdadeira justificada
- Justificada: derivada de evidências
- Verdadeira: não se pode dizer que se “sabe” algo falso
- Crença: uma proposição na mente
- Gettier levanta a pergunta: “crença verdadeira justificada é conhecimento?” e apresenta casos em que não é
- Esses exemplos passaram a ser chamados de casos de Gettier e deram origem a uma literatura própria de discussão
O caso da vaca no campo
- Você pensa que vê uma vaca ao longe no campo, mas o que está vendo de fato é uma réplica de vaca feita de papel machê
- Porém, logo atrás dessa réplica há uma vaca de verdade
- Nesse caso, a crença “há uma vaca no campo” satisfaz as três condições
- você acredita que há uma vaca no campo
- há fundamento para a crença, porque você viu algo que parece uma vaca
- de fato há uma vaca no campo
- Ainda assim, é difícil dizer que essa pessoa realmente sabia que havia uma vaca no campo
- porque a razão de isso ser verdade não é o objeto que ela viu, mas a vaca real que estava ali atrás por acaso
O uso de “gettier” na Genius
- O CTO da Genius estudou filosofia na graduação e tinha grande interesse nos casos de Gettier
- Na Genius, esse tipo de situação era abreviado como gettier, usado para descrever ilusões comuns durante a programação
- Quando algo ganha um nome, situações parecidas começam a aparecer com mais frequência aos seus olhos
O caso do app web em que o autofocus quebrou
- Uma aplicação web usava um framework client-side desenvolvido internamente
- Em um pequeno app de busca, foi criado um pull request para que, ao pressionar Enter na caixa de busca, o campo perdesse o foco
- a ideia era evitar que usuários que navegam pela web com teclado precisassem sair manualmente da caixa de entrada
- Depois de fazer deploy da nova versão, perceberam que o comportamento de dar foco automático à caixa de busca ao carregar a página havia quebrado
- Mesmo alterando vários trechos de código, comentando linhas e fazendo hard refresh no navegador, o autofocus não voltava a funcionar
- A causa real foi que um colega havia alterado o próprio framework, mudando a forma como certos eventos eram vinculados ao elemento DOM raiz
- como resultado, o atributo
"autofocus"quebrou - durante um rebase rotineiro, outras mudanças não relacionadas entraram junto
- ao fazer deploy do pequeno pull request, bugs sem relação com a alteração principal também foram para produção
- como resultado, o atributo
- Como o código relacionado ao foco da caixa de busca havia sido modificado, parecia que o pull request era o causador do problema
- A crença de que “o pull request que acabamos de fazer deploy quebrou o autofocus do site em produção” era justificada, e o problema realmente apareceu após o deploy, mas a causa da quebra era uma mudança completamente diferente
- Isso deveria ter sido pego nos testes, e também houve comportamentos estranhos, mas continua sendo verdade que desenvolver software é difícil
O caso em que as notificações por email pararam
- Um usuário relatou que as mensagens dentro do site deixaram de gerar notificações por email
- Havia uma mudança recente no código que processava emails no app web, e essa mudança parecia um bug que causava o comportamento problemático
- Mas quase no mesmo momento, o próprio serviço de email do qual esse código dependia saiu do ar
- A crença de que a mudança de código era a causa da interrupção na entrega de emails era justificada, e a conclusão também era verdadeira, mas a causa direta era a falha do serviço
Um termo útil para programadores
- Filósofos podem considerar que esses exemplos não são casos de Gettier em sentido estrito, e gettiers “de verdade” são raros
- Ainda assim, esse conceito foi usado na Genius como um termo prático e continuou útil depois
- Uma das situações complicadas que programadores enfrentam é quando há várias causas potenciais para um problema, existe razão suficiente para acreditar em uma delas, mas a causa real está escondida em outro lugar
- Dar um nome a isso ajuda a ficar mais atento
- verificar se você esqueceu de limpar o cache
- suspeitar se está trabalhando na branch errada
- checar se aquele caminho de código está realmente sendo executado
- Software é algo complexo e transitório, por isso desenvolvedores encontram problemas epistemológicos estranhos com mais frequência do que outras pessoas
- Se você conseguir distinguir entre a vaca no campo e um gettier, pode chegar mais perto de julgamentos melhores como desenvolvedor
1 comentários
Opiniões no Hacker News
Um tweet relacionado, mas que parece ter sido apagado agora:
Os casos citados no texto, na verdade, quase não levantam questões interessantes. Um observador que vê nuvens escuras e “sabe” que há um incêndio simplesmente está errado. Aquelas nuvens poderiam ser um enxame de insetos ou um incêndio, então falta evidência adicional para resolver a ambiguidade
O brilho que um viajante no deserto vê ao longe também pode ser um oásis ou uma miragem; portanto, para chamar isso de conhecimento justificado, seriam necessárias mais evidências
Fico me perguntando se faria sentido incluir poder preditivo como condição para “conhecimento verdadeiro justificado”. Isso resolveria esses dois exemplos e também o exemplo do relógio parado de Russell. Se você acha que sabe algo, mas não consegue fazer previsões válidas com esse conhecimento, então você não sabe de fato. O exemplo do fundo do Zoom poderia satisfazer esse critério se não houvesse engano intencional
a) Como ninguém acha que o fundo do Zoom deve representar o fundo real, não vejo justificativa para sustentar essa conclusão
b) Se o fundo corresponde 1:1 ao fundo real, mesmo que a pessoa tenha pensado que era o fundo real por outros motivos, a proposição é verdadeira, então ela acaba tendo uma crença verdadeira justificada
Por exemplo, embora o espectador ache que não sabe, meu conhecimento de que ele na verdade sabe também se baseia em justificação. Aqui, a base é meu conhecimento de que coloquei um fundo falso
Por outro lado, também é fácil criar uma situação em que eu desligo secretamente o seu fundo. Nesse caso, a pessoa do outro lado do Zoom teria conhecimento, mas você não. Ainda assim, desta vez você passaria a achar que a outra pessoa não sabe
Estudei filosofia na universidade e, na época, era moda ficar fazendo picuinha semântica em torno do problema de Gettier
Sempre acreditei que Gettier ficou famoso porque o artigo tinha só três páginas, então foi o único artigo que os acadêmicos de fato leram até o fim
Nunca achei que houvesse algo especialmente profundo ou notável nesse problema. No fundo, é uma discussão sobre a definição de conhecimento, e dá para discutir isso para sempre. Na prática, era exatamente o que eles faziam: escreviam artigos de 30 páginas, um após o outro, brigando pela definição de conhecimento
Penso que os filósofos de alto nível em geral entendem isso, mas filósofos de poltrona, e até algumas pessoas com formação formal e credenciais, se iludem achando que existe uma definição de “conhecimento” e que disputar essa definição é uma atividade significativa
Agem como se, se apenas chegássemos a um acordo sobre o que é “conhecimento”, isso produziria algum efeito benéfico no universo. Tratam a própria palavra como algo importante, com substância ontológica real, e acham que, ao descobrir “o que exatamente é conhecimento”, terão realizado alguma coisa
Mas, na prática, não é assim. Especialmente a parte de que fixar isso teria algum efeito significativo. Se seria benéfico ou não é outra questão
Há várias definições de conhecimento. Existe a visão de que só se sabe algo quando se tem 100% de certeza e quando, mesmo em abstrato, aquilo tem de estar “correto”. Chamo isso de “em abstrato” porque, para começo de conversa, não temos um oráculo que nos diga se estamos certos sobre fatos como “há uma vaca no campo?”, então é impossível concretizar isso
Essa visão acaba levando a uma posição cartesiana, em que praticamente a única coisa que “sei” é o fato de que eu existo. É uma definição filosófica e historicamente interessante e importante, mas logo chega ao seu limite. Não dá para construir muita lógica apenas com “eu existo”; é preciso mais material
Se adotarmos, por outro lado, uma ideia de conhecimento probabilístico, podemos dizer: “vejo uma vaca no campo, portanto sei que há uma vaca lá”. O que isso quer dizer é que tenho razões indutivas suficientes para acreditar que aquilo que vejo é uma vaca real, e não uma vaca feita de papier-mâché. Afinal, a probabilidade indutiva de alguém ter instalado uma vaca de papier-mâché no campo é baixa
Esse tipo de conhecimento pode estar errado. Não é uma questão puramente de filosofia teórica: na prática, já vi objetos de brincadeira instalados em campos, e também já fui enganado à primeira vista por espantalhos bem feitos o bastante para enganar, ou por enfeites de jardim feitos para parecerem pessoas à distância. É uma pergunta real
Ainda assim, mesmo em uma situação em que o oráculo da verdade dissesse “está errado”, é possível operar com uma definição de conhecimento segundo a qual eu tinha “conhecimento” de que havia uma pessoa ali. Dá para construir algo sobre um conceito de conhecimento que “converge” para a verdade, mas não necessariamente chega a ela. É mais complexo, mas muito mais útil
Esses dois exemplos tampouco abrangem todas as definições interessantes e úteis de conhecimento. O segundo caso se parece mais com uma classe de definições do que com uma definição única
Repito: não quero acusar assim, de modo geral, os filósofos mais bem treinados. Mas muitos filósofos tendem a ficar tempo demais girando em torno do fato de que “não temos acesso a um oráculo da verdade absoluta”
Certo. Esse é um fato com o qual precisamos lidar. O mesmo vale para questões como “penso, logo existo; mas, além disso, o que posso concluir com 100% de rigor?”. Só que ficar preso a isso, repetindo a mesma coisa com pequenas variações de forma, não é produtivo
Esse oráculo não existe. É preciso aceitar esse fato e seguir em frente. Ele não passa a existir porque o definimos, nem porque o desejamos. Não passa a existir quando derramamos tinta no papel, retorcemos a lógica como um pretzel e declaramos que, de algum modo, aquilo é necessário
Se Deus existe — pessoalmente eu tenderia a dizer que sim, mas seja como for —, Deus certamente não é um banco de dados que podemos consultar toda vez que perguntamos “há uma vaca ali?”
Se você não consegue sair daí, por mais palavras que acrescente, fica preso em um parquinho muito pequeno. Talvez seja só isso que eles queiram e estejam dispostos a fazer, mas ainda assim é um parquinho pequeno
Em filosofia, não há realmente como estar “errado”. Isso porque não se prova que ideias estão erradas para então descartá-las. Se isso fosse possível, chamaríamos simplesmente de “ciência”
Por isso, a filosofia se torna um corpo em que se acumulam “fulano disse isto, sicrano disse aquilo”. Quando se faz uma pergunta filosófica, a resposta vira: “Aristóteles disse isto, Kant disse aquilo, Descartes disse isto, Searle disse aquilo”
Se você pergunta “então qual é a resposta?”, a reação é “eu acabei de dizer”. Por isso, se quiser realmente discutir alguma coisa, acaba brigando por definições
Conhecimento e verdade são conceitos centralizados. Prefiro modelos que não tenham esse problema
Todo modelo é incompleto e provisório, e pode haver vários modelos para o mesmo processo. Conhecimento e verdade tendem a levar a debates intermináveis, enquanto modelos permitem entender melhor seus limites, e ninguém afirma alcançar a perfeição. Em programação, chamamos isso de abstração, e sabemos que ela sempre vaza em algum ponto
Acho que muitos problemas filosóficos surgem do desejo de explicar as coisas de forma centralizada. Consciência, compreensão e inteligência são exemplos disso
Prefiro a expressão “exploração”. A exploração é descentralizada e abrange os âmbitos pessoal, interpessoal e social. A exploração define um espaço de busca, enquanto a consciência, quando falamos dela, silencia sobre o ambiente e sobre outras pessoas
Exploração faz o que consciência, compreensão e inteligência tentam fazer. Todas as capacidades mentais, como atenção, memória, imaginação e planejamento, são formas de exploração. Aprender é uma exploração em busca de representações, a ciência também é exploração, mercados também são exploração, assim como a evolução do DNA e o dobramento de proteínas
É mais universal e mais científico. A exploração remove muitos mistérios e não comete o erro de se centralizar dentro de um único ser humano
Problemas filosóficos profundos surgem porque há coisas realmente enigmáticas sobre a existência. Mudar os termos não faz esse enigma desaparecer
No meu primeiro estágio, um veterano com quem trabalhei chamava esse tipo de problema de lei da falha acidental, e isso ficou gravado em mim
Ao depurar, tento muitas coisas óbvias para verificar a verdade. Por exemplo, verifico se reverter todas as minhas alterações corrige o bug
Se também não funcionar ali, considero que algum fator externo mudou, como hardware, serviços de backend ou tremores da Terra. Se funcionar, faço uma busca binária no eixo do tempo para localizar o ponto
Em bugs difíceis que desafiam a lógica, esse método funciona em 99% dos casos. Em vez de vasculhar logs intermináveis, blame e diffs de arquivos, parto de um estado reconhecidamente funcional
Claro que em alguns casos isso é impossível, mas em código com ciclos de build, instalação e teste razoavelmente rápidos, funciona muito bem
Cheguei a escrever testes para ver se eu tinha encontrado um bug de caso-limite no compilador ou um problema no código da biblioteca. Estava prestes a abrir uma issue na biblioteca quando a verdadeira causa apareceu
Na realidade, era a combinação de um bug sutil na configuração de testes com o erro de ter definido incorretamente uma interface de hardware de um protocolo antigo como HREG, e não IREG
Aquilo funcionava por acaso até que, por motivos como corrupção de stack ou um ponteiro errado, criou um loop de callbacks dentro da biblioteca. Foi um bug que realmente começou a me fazer duvidar da minha sanidade
“Estou sentado no jardim com um filósofo. Ele aponta para uma árvore próxima e diz repetidamente: ‘Eu sei que aquilo é uma árvore’. Quando outra pessoa chega e ouve isso, digo a ela: ‘Este homem não é louco. Estamos apenas fazendo filosofia.’”
― Ludwig Wittgenstein
Não entendo muito bem qual é o grande problema. Justificação é uma escala entre 0 e 1, e 1 seria um estado de onisciência e onipotência
Vivemos em um mundo complexo, e ninguém tem tempo para ser Deus, então basta aceitar uma crença verdadeira justificada de 0,5 e seguir em frente
Quanto à parte da crença, também dá para dizer: “se você acredita, não é mentira”
Quanto à parte de ser verdadeira, suponha que de fato exista uma vaca. Mas, antes que você chame alguém para verificar sua crença verdadeira justificada, alienígenas sequestram a vaca e deixam um círculo em uma plantação. Agora tudo o que todos veem é uma vaca de papel machê, então você parece um idiota, mas na prática você tinha uma crença verdadeira justificada que era verdadeira. É uma crença verdadeira justificada de Schrödinger
Se você não consegue convencer os outros, isso realmente importa? E, inversamente, se o conhecimento estiver errado, mas todos concordarem que é verdadeiro, isso importa?
A crença verdadeira justificada existe apenas para revelar premissas equivocadas. É parecido com estar do lado errado de um preditor de desvio. Se você tem uma crença verdadeira justificada de 0,9, mas obtém a resposta certa com a probabilidade de 0,1 e não atualiza suas premissas, há um problema. Uma estátua no campo não é grande coisa
A exceção é se você estiver investigando um assassinato e for Sherlock Holmes. Ele é um preditor de desvios realmente poderoso
Se você colocar um robô dentro de uma carcaça de vaca e ninguém notar a diferença, ainda é uma vaca? Se descobrir um híbrido horrível de vaca e cavalo, como deve chamá-lo? Se aquela vaca tiver uma mutação única que nenhuma outra vaca tem, ela ainda se encaixa no arquétipo de vaca?
Por exemplo, se ela não conseguir produzir leite? Se tiver sido criada em laboratório? Quais características são necessárias para herdar a vacuidade?
Isso também é uma ambiguidade encoberta pela linguagem. Por exemplo, “cow” também é usado como termo pejorativo que não necessariamente se refere a um animal bovino
Há ainda o problema de “o conhecimento é finito ou infinito”. Chegará um dia em que poderemos explicar tudo, a ciência terminará e poderemos descansar sobre nossas conquistas? O que acontece depois? Vamos passar o tempo explicando premissas inexistentes? Matemática teórica pura? Ou isso também pode acabar?
https://www.wikiwand.com/en/articles/Karl_Popper
Vale ler para ver o problema da indução e o problema da demarcação: https://www.wikiwand.com/en/articles/Falsifiability
Em resumo, como não somos “oniscientes e onipotentes”, na prática jamais podemos saber nada
Mas, quando se exige que articulem essa explicação com clareza, as pessoas frequentemente descobrem que sua explicação não é compatível com a de outras pessoas. Ao investigar mais a fundo, a explicação não se sustenta de modo algum. Por isso alguns experimentos mentais da Grécia Antiga podem parecer koans
É possível viver a vida sem procurar uma resposta rigorosa. A maior parte das atividades humanas além da sobrevivência pode ser colocada na categoria de “não entendo qual é o grande problema”
Dizer isso sobre a questão do conhecimento e depois continuar por 200 palavras não é recusar a participação. É ir acrescentando respostas boas o bastante conforme surgem novos desafios e seguir adiante
É exatamente por isso que essas perguntas são difíceis, e por isso algumas pessoas se sentem atraídas a investigar as respostas
Caso de delírio de Capgras de Ramachandran:
https://www.youtube.com/watch?v=3xczrDAGfT4
A pergunta “E, inversamente, se o conhecimento estiver errado, mas todos concordarem que é verdadeiro, isso importa?” é um exemplo de realidade consensual. É uma bomba de intuição emprestada de algum lugar
A realidade consensual é respeitada até no domínio quântico:
https://youtu.be/vSnq5Hs3_wI?t=753
Partículas individuais permanecem em estado de superposição quântica, mas suas posições relativas criam um consenso coletivo dentro da rede de emaranhamento. Esse consenso define a estrutura dos objetos macroscópicos e faz com que eles pareçam bem definidos para observadores, incluindo o gato de Schrödinger
Os casos de Gettier nos mostram algo interessante sobre verdade e conhecimento
Em uma afirmação factual, deve estar desenhado o evento que é a causa efetiva que levou aquela afirmação a ser feita. A descrição é uma relação de representação, isto é, uma correspondência entre palavras e possíveis eventos. Por exemplo, algo como uma vaca no campo
O conhecimento se estabelece quando o evento descrito foi a causa efetiva da crença. Como a vaca de papel machê foi a causa da crença, e não a vaca real, nossa intuição não vê isso como conhecimento normal
Portanto, uma afirmação verdadeira deve ter tanto uma relação causal quanto uma relação descritiva com alguma coisa no mundo. Em outras palavras, uma afirmação verdadeira descreve implicitamente parte de sua própria história causal
Na lógica clássica, uma proposição pode ser verdadeira por si só mesmo sem prova, mas, na lógica intuicionista, uma proposição só é verdadeira quando há uma prova. A prova é a causa que torna aquela proposição verdadeira
Na lógica intuicionista, não é simples como “há ou não há uma vaca no campo”. Como foi dito, para que o conhecimento “há uma vaca no campo” seja verdadeiro, é necessária a prova disso
Por isso surgem muitas sutilezas. Por exemplo, “não é o caso que não haja uma vaca no campo” é um conhecimento mais fraco do que “há uma vaca no campo”
QED, uma prova por convenção terminológica
O problema começa na parte de que “não faz sentido ‘saber’ algo falso, então precisa ser verdadeiro”
Talvez isso fizesse sentido para os gregos, mas no século 21 não faz sentido nenhum. É amplamente reconhecido que todos nós vivemos “sabendo” coisas falsas.
Ou seja, o que estava errado não era o conhecimento, mas a crença de que tínhamos conhecimento.
Claro que, no sentido cotidiano, no fim podemos dizer que sabíamos aquilo, e que essa distinção é, no máximo, um preciosismo exagerado. Mas a filosofia está disposta a dividir cabelos em tantas partes quanto a razão conseguir.
Talvez tenham crenças fundamentais diferentes sobre a natureza da realidade, ou talvez estejam usando definições diferentes para a mesma palavra.
Portanto, não se pode saber como verdadeiro algo que na realidade é falso; só se pode acreditar como verdadeiro algo que na realidade é falso. Descrever exatamente como se passa da crença ao conhecimento é justamente a epistemologia.
E, em algumas discussões concretas sobre determinados temas, para a maioria dos participantes que não ficam em silêncio, o estado de “não saber” às vezes parece praticamente impossível.
O problema é que a palavra “saber” é sobrecarregada.
Saber em primeira pessoa é crença. Em certa medida, é simplesmente fé. Acreditamos que as leis da física não vão mudar amanhã e acreditamos que nos lembramos de que houve um ontem.
A ciência tenta verificar tudo de forma implacável para empurrar essa fé para mais perto dos fatos. Mas nunca podemos saber por que algo é assim.
Outro “saber” é um conceito como verdade absoluta, e a crença de alguém por acaso coincide com ele. Seja esse acaso pura sorte, observação perspicaz, ou ambos, como no caso do artigo.
Na verdade, é mais próximo de um espectro, e essa própria expressão também é uma palavra que uso de forma sobrecarregada. Outra expressão que uso com frequência é: “isto é uma questão probabilística, não há nada absoluto aqui”.
Isso pode ter abalado a filosofia analítica ou seus subcampos, mas na filosofia como um todo não foi percebido muito além disso.
A filosofia analítica gosta de se imaginar como a filosofia de verdade, mas isso é absurdo. É apenas uma facção excessivamente confiante e agressiva na defesa de seu território, que monopoliza recursos.
Isso apesar de muitos estudantes ansiarem pela riqueza e amplitude do que hoje se chama filosofia pós-kantiana, algo mais próximo da antiga filosofia continental ou da filosofia europeia moderna.