Parei de usar box plots (2021)
(nightingaledvs.com)- O box plot é um gráfico clássico para resumir distribuições, mas leva alguns minutos para explicar como lê-lo, então tem baixa relação custo-benefício de aprendizado
- Entre milhares de participantes de workshops, a proporção dos que já sabiam ler box plots normalmente era inferior a 20%, e a carga de compreensão era maior do que em gráficos de dispersão ou histogramas
- O design tradicional, com caixa, bigodes, linha da mediana e comprimento dos intervalos, tende a criar equívocos visuais porque não corresponde bem ao significado real dos dados
- Embora exija conceitos abstratos como quartis, ele esconde lacunas, distribuições multimodais e a quantidade de valores por grupo, além de poder fazer várias distribuições parecerem em forma de sino
- Strip plots, jitter strip plots e mapas de calor de distribuição são compreendidos mais rapidamente e mostram diretamente o formato da distribuição, podendo ser mais práticos para decisões do dia a dia
Por que quase parei de usar box plots
- Explicar como ler um box plot pode levar mais de 4 minutos, e para justificar esse custo de aprendizado ele precisaria oferecer insights importantes que gráficos simples não conseguem transmitir
- Na prática, a maior parte dos insights que se tenta comunicar com box plots também pode ser transmitida com gráficos mais simples e familiares
- Apesar de seu objetivo ser mostrar distribuições, o público precisa primeiro passar por várias regras de interpretação antes mesmo de enxergar os dados
A barreira de compreensão revelada em workshops
- Os milhares de participantes dos workshops em geral tinham um nível de graphicacy acima da média, mas a proporção dos que já sabiam ler box plots normalmente era inferior a 20%
- O box plot era mais difícil de entender do que outros tipos básicos de gráfico e impunha uma carga maior até do que gráficos mais complexos, como gráficos de dispersão ou histogramas
- Mesmo quando o público está acostumado com box plots, eles exigem mais esforço cognitivo para interpretar e oferecem maior chance de mal-entendido do que strip plots ou mapas de calor de distribuição
Onde o design tradicional entra em conflito com a intuição
- O box plot tradicional foi proposto pela primeira vez por Mary Spear em 1952 e refinado por John Tukey em 1969
- Há três problemas principais no design visual
- A caixa espessa parece representar mais valores ou maior importância do que os bigodes finos, mas os quatro intervalos contêm a mesma quantidade de valores
- A caixa central parece um único bloco dividido pela linha da mediana, fazendo o gráfico parecer ter três partes, quando na verdade são quatro intervalos quartílicos
- As pessoas tendem a perceber formas mais longas como quantidades maiores, mas no box plot intervalos mais longos não significam mais valores
- Intervalos curtos na verdade representam maior densidade de valores, mas visualmente parecem quantidades menores, criando um conflito entre a forma visual e o significado dos dados
- Propostas alternativas de design podem deixar mais claro que intervalos curtos significam maior concentração de valores, evitar dar ênfase desnecessária aos dois intervalos centrais e fazer o gráfico parecer composto por quatro formas
- Ainda assim, mesmo essas propostas dificilmente são recomendáveis na maioria das situações, e gráficos de distribuição mais simples podem ser uma escolha melhor
O custo de aprendizado criado pelos quartis
- Para entender um box plot, é preciso conhecer o conceito de quantis — e em especial de quartis — que dividem um conjunto ordenado de valores em faixas com a mesma quantidade de observações
- Muitos públicos não estão familiarizados com esse conceito e, para entendê-lo corretamente, precisam de alguns minutos de explicação com material visual e exemplos
- Isso cria a exigência de compreender bem esses conceitos abstratos antes de interpretar o gráfico corretamente
- Muitos insights úteis sobre distribuições podem ser comunicados com outros gráficos sem recorrer a quantis ou quartis
Familiaridade não garante bom design
- Quem vê box plots há muito tempo pode ter aprendido a contornar seus defeitos de design ao interpretá-los
- Quem entra em contato com eles pela primeira vez pode se confundir facilmente pelos mesmos defeitos
- Em organizações, mesmo que um analista tente comunicar um insight importante com um box plot, a tentativa pode falhar se quem toma decisões não quiser aprender a lê-lo
- Depois disso, se o analista concluir que o público não entende nenhum gráfico de distribuição, pode confundir o problema e achar que a dificuldade está na visualização de distribuições em geral, e não no próprio box plot
- Ao usar gráficos de distribuição mais intuitivos, pode haver mais chance de comunicar os insights valiosos desse tipo de visualização
Como o box plot distorce distribuições
- Ao comparar os mesmos dados em um box plot e em um jitter strip plot, o box plot pode fazer as distribuições de grupos diferentes parecerem quase iguais
- Há uma tendência de ele fazer os dados parecerem uma distribuição em forma de sino, com valores concentrados em torno da mediana e diminuindo gradualmente para os lados
- Mesmo quando o conjunto real de valores não tem forma de sino, o box plot pode dar essa impressão
- Ao olhar apenas para o box plot, o leitor dificilmente consegue saber se todas as distribuições realmente têm forma de sino; no máximo, pode fazer suposições
- Ele também pode esconder lacunas na distribuição e a quantidade de valores em cada grupo
- Existem variações de box plot e gráficos mais sofisticados que mostram a distribuição com mais precisão, mas elas não resolvem o problema central do box plot — ser difícil de aprender — e podem até ser mais difíceis ainda
Alternativas de gráfico mais intuitivas
- A alternativa mais usada com mais frequência é o strip plot
- Pode ser explicado em uma frase, como “cada ponto é a idade de um participante da pesquisa”
- A maior parte do público consegue entendê-lo em poucos segundos
- Ele pode mostrar se a distribuição é mais alta ou mais baixa, concentrada ou espalhada, regular ou assimétrica, e se há outliers
- Também revela lacunas na distribuição, distribuições multimodais e a quantidade aproximada de valores em cada conjunto, coisas que o box plot não mostra
- Quando há mais de algumas dezenas de valores, os pontos podem se sobrepor e o strip plot pode parecer uma linha; nesse caso, o jitter strip plot consegue acomodar mais valores
- Se houver centenas ou milhões de valores, até o jitter strip plot pode virar um aglomerado de pontos sobrepostos; nesse caso, um mapa de calor de distribuição consegue lidar com qualquer quantidade de valores
- O mapa de calor de distribuição introduz o conceito de bins ou intervalos, o que aumenta a complexidade, mas bins são muito mais fáceis de entender do que quartis
- O mapa de calor de distribuição perde a capacidade de mostrar a quantidade de valores por grupo e tem algumas limitações, mas o box plot também tem essa mesma limitação e outras adicionais
- frequency polygons, violin plots, cumulative distribution plots e bee swarm plots também podem ser úteis em situações específicas
- Histogramas em geral são úteis para visualizar um único conjunto de valores, enquanto box plots e suas alternativas servem mais para comparar vários conjuntos
Vantagens do box plot e usos limitados
- A única vantagem que pode ser atribuída ao box plot é mostrar a faixa interquartil
- Mas não são muitos os casos em que é realmente necessário mostrar a faixa interquartil no argumento que se quer construir com os dados
- Na maioria das situações, o que importa é mostrar se distribuições são mais altas ou mais baixas, mais concentradas ou dispersas, e se há outliers; esses insights podem ser comunicados com gráficos mais simples sem a faixa interquartil
- Mesmo quando a mediana é necessária, ela pode ser adicionada facilmente a gráficos mais simples
- É difícil imaginar situações em que o box plot seja realmente a melhor opção, exceto quando ele é exigido porque o público já está acostumado com ele
Por que é preciso deixar os box plots para trás
- A avaliação é que o box plot não é apenas um gráfico que envelheceu com o avanço da tecnologia, mas um gráfico que já não era bem projetado desde o início
- Seus defeitos de design vêm impondo um processo de compreensão desnecessariamente trabalhoso a estudantes, executivos e outros leitores de gráficos
- Hoje, como é fácil criar gráficos melhores, abandonar box plots pode poupar leitores futuros de sofrimento cognitivo desnecessário
- Mesmo para públicos familiarizados com estatística, outros gráficos podem ser uma escolha melhor em quase todas as situações
- Profissionais devem considerar alternativas especialmente quando o público não está familiarizado com box plots, e podem avaliar gráficos mais intuitivos mesmo para públicos acostumados com eles
1 comentários
Opiniões no Hacker News
Parece que o autor e outras pessoas aqui se confundiram. Um box plot não torna a distribuição em formato de sino, nem muda a distribuição, mas pressupõe que os dados sigam uma distribuição em formato de sino/gaussiana
Isso é válido quando o teorema central do limite pode ser aplicado, mas, caso contrário, a premissa está errada e os valores mostrados pelo box plot também não servem para muita coisa. Box plots têm usos reais, mas, para usá-los, é preciso entender o básico de estatística
Por isso dá para criticar o uso de box plots. As alternativas mostram bem distribuições em formato de sino e também conseguem revelar quando elas não têm esse formato
Concordo totalmente que box plots só devem ser usados em distribuições unimodais suficientemente parecidas com uma distribuição em formato de sino/gaussiana. Se a distribuição não tiver formato de sino, como uma distribuição bimodal, eles induzem a erro e não devem ser usados; se tiver formato de sino, não vejo grande problema
Quando se quer tratar a distribuição da própria amostra como uma aproximação da população, o formato da distribuição das médias amostrais não é tão interessante. Estimar a média amostral também não é o único indicador útil, e quase nada na natureza segue uma distribuição normal. A distribuição normal é útil em grande parte porque conhecemos bem a forma analítica da função gaussiana e como lidar com ela, não porque essa estimativa seja tão útil quanto parece. Por exemplo, a distribuição de Poisson é muito mais comum
O exemplo é uma distribuição bimodal, com dois picos, mas ele escolheu um box plot, que é um tipo de gráfico para formas com um único pico. Sinceramente, é meio difícil de entender
A única vantagem de um box plot era que ele podia ser desenhado à mão. Agora que computadores estão em toda parte, esse valor desapareceu
Gráficos de violino e beeswarm plots são melhores, e strip plots com jitter também são aceitáveis se houver cuidado com áreas saturadas. Adicionar mais pontos onde já está saturado pode não escurecer a região e fazer com que pareça desaparecer
Se quiser, também dá para sobrepor pontos com jitter por cima
A Angela Collier tem um bom vídeo-rant explicando por quê: https://youtu.be/_0QMKFzW9fw?si=86mRAZRnFCBfSzw0
Box plots são bem úteis por serem fáceis de ler, mas só quando se confia que quem os criou realmente verificou o histograma; normalmente, essa confiança não existe
As pessoas têm objetivos conflitantes. Por um lado, querem comprimir muitos números em uma ou algumas estatísticas resumidas; por outro, se esse resumo for minimamente enganoso, logo se arrependem da compressão dos dados
Isso acontece porque se deseja simplicidade, especialmente conclusões definitivas, que talvez nem existam de fato; é quase um mal comum da condição humana
A própria distribuição representada por um box plot muitas vezes é apenas a distribuição de “uma amostra”. Visto assim, a distribuição tem uma incerteza inerente e, por exemplo, um gráfico de violino não expressa essa incerteza. Como em toda discussão sobre “a ferramenta certa para o trabalho”, o julgamento varia conforme a experiência de cada pessoa com as ferramentas e a forma como ela simplifica a explicação para os outros
https://github.com/c-blake/bu/blob/main/doc/edplot.md
Há muito mais gente defendendo box plots aqui do que eu esperava
Mas não vejo muita explicação do tipo “box plots são úteis porque são o melhor gráfico para um uso específico”. Não me vem imediatamente à cabeça uma situação em que eu preferiria ver um box plot a um strip plot ou a um gráfico de violino. Quando e por que alguém iria querer resumir os dados de forma tão grosseira e visualizá-los de um jeito pouco intuitivo?
Elas querem ver mediana, percentis baixo/alto, máximo/mínimo ou outliers, mas não querem ver todos os pontos de dados espalhados no meio. Isso vira um ruído informacional esmagador. Na prática, elas gostam de tabelas com esses números, mas querem comparar 10 séries temporais de preços históricos de mercados diferentes em um único slide do PowerPoint. Box plots permitem uma comparação visual rápida da mediana e dos percentis principais. Se forem usados valores não padrão, basta rotular os percentis. Com jitter ou gráficos de violino, elas se prendem a formatos aleatórios estranhos e a reunião sai do rumo
A premissa importante é que os processos que geram esses valores são todos iguais no sentido físico, portanto comparáveis. A distribuição também é aproximadamente uma distribuição unimodal parecida com lognormal. Nesse caso, o objetivo da visualização não é entender as propriedades da distribuição em si, mas mostrar percentis importantes com significado para o negócio
Se a distribuição é mais complexa e você precisa de detalhes, é melhor usar um histograma ou um ridge plot. Gráficos de violino parecem um pouco mais bonitos por causa das curvas, mas não são a melhor escolha para transmitir informação
Nesse caso, não se olha só para a mediana de cada população, mas também se compara a área sombreada
Se você está comparando vários grupos e só se interessa por grandes diferenças, eles são uma ótima ferramenta. Também são bons quando você acredita que os dados têm distribuição normal e acha que um histograma pode ser enganoso; e, mesmo que não sejam normalmente distribuídos, são bons se o seu interesse está nos quartis
Se uma tabela de cinco números — mínimo, máximo, mediana e percentis 25/75 — for suficiente para a situação, um box plot é uma boa ferramenta para comparação gráfica
Durante décadas, usamos box plots em escolas, universidades e no trabalho, então o texto não me convenceu totalmente
Mas, depois de ler estes comentários, o ponto central do autor ficou muito forte para mim: mesmo enchendo uma sala com pessoas inteligentes e bem informadas, todos podem divergir sobre a compreensão e interpretação de box plots
É um pouco surpreendente, mas só com as evidências desta thread isso praticamente fechou a questão para mim
Não é preciso parar de usar box plots. Eles devem ser usados quando forem apropriados, isto é, para mostrar posição e dispersão. Não servem para mostrar o formato da distribuição
Não há nenhuma informação sobre modalidade ou distribuição além dos quartis e limites. São úteis principalmente para comparar vários grupos, mais do que para analisar um grupo individual
O autor fala como se soubesse de algo que claramente não conhece bem. Se ao menos tivesse lido material do Tukey, saberia disso; só citar o nome não basta
Mas o autor vê isso como um problema humano. Plots não são feitos para máquinas, e sim para pessoas lerem; o autor quer que o maior número possível de pessoas consiga lê-los e interpretá-los com facilidade. Mesmo que a educação matemática deixe a desejar, é preciso partir da realidade, e acho esse um objetivo razoável. Concordo que, para ver quão espalhada está uma distribuição, a pessoa não deveria precisar saber o que são quartis
Parece que alguns deixaram passar a parte de maioria das situações. A questão é que, para o público dele, box plots não funcionavam, então ele deixou de usá-los por algum motivo. Como diz o título, nós também deveríamos reavaliar o uso de box plots e ver se há alternativas melhores
Além disso, é preciso lembrar quem são os leitores de que ele fala: não pessoas que entendem box plots, mas pessoas que não os conhecem ou não os compreendem. Segundo ele, era um público de milhares de pessoas para quem ele precisava explicar
Box plot é uma técnica de compressão de dados para trabalho manual. Hoje existem técnicas automatizadas que preservam melhor a qualidade dos dados e a qualidade visual
O autor admite generalizações e “situações específicas” para alguns plots, mas considera sem valor as situações específicas de outros plots
A conclusão que tiro é, no máximo, que não se deve usar box plot quando a distribuição não é unimodal e tem grande chance de ser mal interpretada. Também há um vídeo de um YouTuber de rants de física de que gosto criticando violin plots, então talvez também não devêssemos usá-los
https://youtu.be/_0QMKFzW9fw?si=4VM4DT9Q1zEnV93A
Box plots são uma relíquia de uma época em que não era possível imprimir gráficos bonitos
Dá para exibir a distribuição em uma única linha, como um osciloscópio rolante ou um mapa topográfico, ou desenhar plots de densidade ao longo do tempo e sobrepor sombreamento nos períodos importantes. Basta olhar para processos gaussianos
Box plots simplificam demais a distribuição e facilitam tirar inferências. De modo parecido, a média também pode ser muito enganosa, mas nem por isso vamos proibir o uso da média
Uma boa conclusão talvez seja sempre usar plots que representem de forma justa a distribuição subjacente
Basta fazer do jeito que os periódicos da família Nature agora exigem: sobrepor pontos dos dados brutos ao box plot, obtendo o melhor dos dois mundos