Deseconomias de escala: fraude, spam, suporte e moderação
- Plataformas em larga escala tendem a ter uma proporção maior de fraude, spam e comportamentos maliciosos do que plataformas menores.
- Por exemplo, no Signal ninguém me enviou mensagens de spam, enquanto no WhatsApp eu recebo regularmente.
- Ao comparar lugares para ler conteúdo técnico, fóruns menores e menos conhecidos — ou sites como o lobste.rs — costumam ter uma proporção menor de conteúdo ruim do que plataformas grandes.
- Plataformas sociais de médio e grande porte, como Reddit, YouTube, Facebook e resultados de busca do Google, apresentam uma proporção mais alta de conteúdo negativo.
- Quanto maior o tamanho de uma plataforma, menor a probabilidade de receber suporte adequado, e também menor a chance de restaurar contas de suspensões ou banimentos indevidos.
Problemas de plataformas em grande escala
- Questiona a alegação de que plataformas grandes fazem uma moderação melhor e filtragem superior de spam e fraudes.
- Engenheiros e pensadores da Google argumentam que só plataformas grandes conseguem fazer moderação, filtragem de spam e detecção de fraudes com eficácia, mas na prática pequenos mecanismos de busca são mais resistentes ao abuso de SEO.
- Apesar da percepção comum de que gerenciar e-mail próprio é inviável por causa da carga de spam, muitas pessoas administram o próprio e-mail e conseguem resultados similares ou melhores aos do Gmail.
Problemas de moderação em plataformas grandes
- Mark Zuckerberg afirmou que dividir grandes empresas de tecnologia pioraria os problemas de moderação.
- O argumento de Zuckerberg é que plataformas grandes conseguem fazer melhor moderação por terem mais recursos, mas na prática esses recursos são direcionados para outros fins.
- Por exemplo, a Meta investiu 50 bilhões de dólares no desenvolvimento do metaverso, mas não investiu em plataformas e tecnologia de moderação.
Problemas de suporte
- O suporte aos usuários em plataformas grandes é geralmente insatisfatório.
- Canais de suporte padrão costumam ser ineficazes, e os usuários frequentemente passam por cartas padrão de recusa ou por pesadelos kafkianos.
- Mesmo no caso de suporte pago, relatam uma experiência muito semelhante à do suporte gratuito.
- À medida que as grandes empresas crescem em escala, passam a oferecer suporte de maneira mais barata e voltada para maximização de lucro, em vez de aumentar sua eficiência.
Opinião da GN⁺
- Mesmo com mais recursos, a qualidade da experiência do usuário em plataformas grandes frequentemente é pior do que em plataformas menores porque essas plataformas não usam os recursos para melhorar a experiência do usuário em vez de maximizar lucros.
- A qualidade do suporte ao usuário tende a ser inversamente proporcional ao tamanho da plataforma, devido à complexidade e à ineficiência dos sistemas de suporte em plataformas maiores.
- O artigo aponta falhas de grandes plataformas e destaca fatores importantes para os usuários considerarem ao escolher plataformas menores.
1 comentários
Comentários do Hacker News
Acho que o texto subestima o alcance desse problema. Ele toca nisso de passagem, mas no geral passei a achar que o próprio fato de empresas se tornarem extremamente grandes é ruim, e isso não é um problema só de moderação de conteúdo
Empresas grandes não precisam se importar com consumidores individuais e, na prática, deixam mesmo de se importar. Aí passam mais tempo defendendo sua posição de mercado do que “fazendo bem o que já faziam” e, às vezes, tentam se expandir para mercados totalmente não relacionados, como um conglomerado
Economias de escala só são boas no sentido de gerar lucro para empresas individuais; se olhar para o benefício da economia, da sociedade e da humanidade como um todo, acho que quase todas as economias de escala são prejudiciais
Economias de escala são naturais, como grama ou mato crescendo em excesso, mas isso não significa que sejam boas; para a maioria dos objetivos práticos, deveriam ser ativamente contidas. O crescimento das empresas é natural, mas acho que empresas grandes deveriam ser periodicamente divididas só pelo fato de terem ficado grandes
O risco moral inclui não só danos diretos a outras pessoas, como suporte malicioso ou ruim, mas também danos indiretos por meio de externalidades, como poluição ou enfraquecimento da economia local. Acho essa intuição claramente correta
O risco moral rompe os circuitos de correção social que existiam em pequenos grupos, como família ou aldeia, mas ao mesmo tempo possibilita a criação e acumulação de riqueza em enorme escala. Na filosofia, isso é chamado de problema das mãos sujas
https://en.wikipedia.org/wiki/Moral_hazard
https://plato.stanford.edu/entries/dirty-hands/
Graças às economias de escala em bens essenciais, nem todo mundo precisa viver de agricultura de subsistência, e podemos usar roupas costuradas
Os dois lados têm razão em certa medida. Eu não quero que pregos sejam feitos à mão, mas também quero que, quando eu ligar para o suporte ao cliente, quem atenda seja alguém com autoridade real
O problema dos golpes na internet é que quase ninguém responsabiliza de fato os golpistas. Hoje, na prática, só se faz “expulsar”, e o golpista, depois de ser expulso, tenta de novo até que no fim quase sempre consegue
Por isso, a indústria do golpe em geral é muito lucrativa e continua crescendo
Quando eu trabalhava na Blizzard, havia muitos mecanismos para detectar transações fraudulentas com cartão de crédito e cancelá-las antes da cobrança real, mas não existia um processo para denunciar o golpista e impedir que ele fizesse a mesma coisa no dia seguinte
Imagino que toda empresa use uma estratégia parecida. Nenhuma empresa tem meios práticos de responsabilizar golpistas e impedi-los de tentar novamente
Por isso o problema das fraudes está ficando cada vez maior, impossível de administrar e fora de controle. É um desafio político que exige que o governo crie uma organização dedicada a reduzir o tamanho da indústria do golpe e capture golpistas para responsabilizá-los
O mais difícil é que isso atravessa jurisdições, então governos de vários países teriam de cooperar. Talvez isso pareça impossível agora, mas até lá acho que os golpes só vão piorar
Não dá para chamar o FBI por causa de uma compra de 20 dólares
Dá para usar a guerra às drogas como analogia. Os alvos principais sempre foram os pequenos traficantes e usuários, porque eram fáceis de pegar e permitiam dizer com facilidade que “algo está sendo feito”. Mas o impacto sobre o negócio de venda de drogas e sobre a oferta nas ruas era relativamente pequeno, e atacar as causas estruturais é muito mais difícil
Para a Blizzard, denunciar fraude não traz recompensa de curto prazo, e é difícil saber se ajuda no longo prazo. Ainda assim, no fim das contas, o importante é fazer a coisa certa
“Move fast and break things” pode ser uma ótima estratégia, mas não deve ser usada sozinha. Caso contrário, só deixa para trás rastros de destruição que ninguém limpa. Como é difícil quantificar o objetivo, toda função-objetivo tende a desviar, e pessoas precisam olhar para isso e corrigir a direção o máximo possível
Precisamos tanto de quem acelera quanto de quem desacelera e conserta, e há harmonia nessa tensão. Seja qual for o lado escolhido, é preciso reconhecer que o lado oposto também tem valor
Por exemplo, imagino um modelo em que a empresa paga $X por uma denúncia, recebe $X5 se essa denúncia levar a uma multa e paga mais $X10 se a denúncia se revelar absurda. Se a denúncia parecer válida mas não resultar em multa, não há recompensa
Fico preocupado se incentivos errados acabariam levando a denúncias em excesso ou outros efeitos colaterais
Se de repente começarem a processar golpes, isso vai causar desconforto para atores com muito dinheiro
A verdadeira “economia de escala” dessas plataformas não está em oferecer melhor suporte, coordenação e prevenção a fraudes, mas em basicamente não fazer nada e se apoiar no poder de mercado
Se você administra o serviço de táxi do Andy numa cidade pequena e surge um problema de atendimento ao cliente, precisa resolver direito por conta própria, senão quebra. Se for a Uber, ela simplesmente ignora
Isso não tem relação com eficiência; é uma questão de conquistar poder monopolista que permite tratar mal os clientes e seguir em frente. Somado a uma superfície de ataque maior, plataformas grandes acabam ficando piores em spam, fraude e suporte
Há muitas reclamações sobre a Uber, mas a experiência com táxis antes da Uber era muito pior. O exemplar serviço de táxi do Andy na cidade pequena não existia, ou era uma exceção impossível de encontrar com consistência durante uma viagem
Mesmo nas grandes cidades, a maioria dos táxis era pega na rua ou chamada por uma central, então o motorista individual tinha poucos motivos para se preocupar com a própria reputação. Como ninguém escolhia um táxi específico e havia pouca recorrência nas transações, o atendimento ao cliente não era importante
Não há necessidade de se preocupar, e uma ação coletiva provavelmente nem sairia do papel porque o grupo seria pequeno demais para atrair advogados
Em 2014, quando Jeff Atwood, o codinghorror, saiu do Stack Overflow para criar o Discourse, ele fez uma palestra relacionada, e ficou na memória uma frase curta explicando por que o sistema de níveis de confiança do Discourse foi criado daquele jeito
“A única coisa que escala com uma comunidade é a própria comunidade”
A ideia central é que você precisa fazer os usuários crescerem como moderadores. Conseguir moderadores de outra forma não é sustentável
http://discourse.bridgefoundry.org/t/link-to-jeff-atwood-tal...
Usuário: “IA, qual é meu estado de leitura agora?” IA: “EveningSurfMood2, com ênfase em StuffFromFriends, e EclecticTopicsLarge inclui HighQ Discussion v3 do Dang, Clueful Author Making Coherent Argument Filter da Alice12 e UnusuallyInsightful51 do hugging”
No meio da leitura, a IA: “Chegou um pedido de avaliação do Mastatron. Esta postagem subestima a oportunidade de um híbrido de computação humano-IA em larga escala?” Usuário: “Ah, é mesmo”
O autor parece confundir os benefícios do efeito de seleção com competência
Quem já trabalhou com prevenção a fraudes em plataformas sabe que fraude também é uma espécie de mercado. Em qualquer plataforma surge fraude em nível de equilíbrio de mercado, dependendo do ganho obtido ao explorar uma vulnerabilidade, do esforço necessário e de quantas vezes isso pode ser repetido
Plataformas pequenas têm muito menos fraude principalmente porque valem muito menos a pena como alvo, e isso decorre justamente do fato de serem pequenas
Plataformas grandes de fato têm capacidades muito maiores de combate a fraude e spam, mas, como a escala de operação é um alvo extremamente atraente, ainda assim sofrem bastante
É o mundo inteiro dos golpistas enfrentando Amazon, Google e Facebook. É uma luta muito desigual e, olhando o quadro geral, eu diria que as plataformas até resistem surpreendentemente bem
Mas a objeção é que, se essa lógica estiver certa e os sistemas forem realmente bons, então, em termos absolutos, espalhar spam ou aplicar golpes no Reddit ou no Facebook deveria ser mais difícil do que no HN, e na prática isso não parece nem um pouco verdadeiro
Essa resposta parece intuitivamente válida. Se as grandes empresas fossem mesmo mais competentes em prevenção de abuso e fraude, então as fraudes que escapam por longos períodos deveriam ser mais sutis e menos óbvias
Se o modelo de negócio delas é “escala a qualquer custo” e isso piora a experiência do cliente, então o quanto elas são competentes importa pouco
Isso é inseparável de um modelo de negócio que vende acesso ao maior conjunto possível de usuários
Não concordo com a ideia de que plataformas grandes sejam muito mais competentes em combater fraude e spam. Elas são deliberadamente incompetentes. Não conseguem implementar a capacidade real de fornecer suporte humano suficiente para lidar com o volume de erros criado por algoritmos automáticos
Não por causa do custo, mas porque fazer isso reduziria o valor entregue aos verdadeiros clientes delas: anunciantes ou compradores de acesso
Em geral concordo, mas acho que alguns exemplos erraram o alvo
O Reddit não é um mau exemplo por causa desse efeito; na verdade, é um bom exemplo. O Reddit não é uma única plataforma gigante, mas uma combinação de milhares de subreddits moderados de forma independente. Os subreddits pequenos são o motivo de o Reddit se sustentar, justamente por serem pequenos
Operar seu próprio servidor de e-mail também não é um contraexemplo; na verdade, é um exemplo realmente ruim. Essencialmente, você não está moderando uma comunidade pequena, mas o mundo inteiro, só que do seu próprio ponto de vista. Qualquer pessoa pode enviar e-mail para qualquer outra pessoa
Então ele fica com o pior dos dois lados. Não há o orçamento que vem da grande escala, e os problemas de grande escala continuam os mesmos
Não sou eu que estou sofrendo para moderar o mundo inteiro; é o mundo inteiro que está me moderando
Organizações pequenas não sabem muito bem como não parecer spam e também usam antipadrões como assinaturas de e-mail irritantes, comuns em empresas
Por isso é muito mais difícil para o Gmail ficar tão preciso quanto meu filtro de spam. Meu filtro só precisa aprender as preferências de algumas centenas de pessoas, mas o Gmail inevitavelmente carrega o risco de overfitting
Juntando tudo deste texto, a conclusão é que precisamos de mais concorrência, sem uma líder gigantesca claramente dominante. Potencialmente, várias empresas de médio porte ou menores, e, se o poder não se concentrar em um só lado, surge o incentivo para oferecer uma experiência melhor, enquanto, do ponto de vista de agentes maliciosos, fica mais difícil porque há vários alvos
Em termos de regulação e do espírito de competição de mercado, acho que deveríamos incentivar a criação de empresas de software de médio porte, com valor combinado acima de US$ 100 bilhões, em vez de algumas gigantes de trilhões
Hardware é um pouco diferente em termos de economias de escala, então eu não incluiria isso exatamente no mesmo argumento, embora talvez haja algo aí também
Rockefeller tinha cerca de 90% de participação de mercado antes do início do processo antitruste, mas, na época da decisão, essa participação já havia caído. Isso mostra que, mesmo quando uma entidade chega a 90%, o mercado ainda pode acabar reduzindo esse tamanho
Ao mesmo tempo, Rockefeller também trouxe inovações transformadoras para a sociedade. No começo, foi bom que o capital tenha se concentrado nele, porque isso foi usado para fazer a sociedade avançar; depois, também foi bom que o capital tenha saído naturalmente, porque ele era necessário em outros lugares
Hoje, a centralização em empresas supergigantes é influenciada por vários fatores, e economias de escala são um deles, mas as leis de propriedade intelectual também pesam muito. Na verdade, acho que propriedade intelectual não é necessária
Suspeito que a maioria das regulações é escrita pelas próprias empresas reguladas e serve para bloquear a concorrência. Além disso, acho que a centralização ganhou força de verdade na WWI/WWII porque era mais fácil para o governo mandar só algumas pessoas fabricarem tanques em vez de carros, e isso também era um objetivo estratégico do governo dos EUA
Software e serviços online foram especialmente ruins nesse aspecto porque há maneiras demais de contornar regulações. A conformidade maliciosa da Apple com a UE é um exemplo escancarado, e o caso do Facebook convencerem que chat e rede social eram mercados diferentes para conseguir a aprovação da compra do WhatsApp é mais sutil
No cenário ideal, o objetivo não deveria ser apenas impedir o abuso de monopólios, mas impedir os próprios monopólios: https://pietersz.co.uk/2009/11/fix-capitalism
Dá para corrigir isso facilmente. Basta fazer a Amazon assumir responsabilidade de garantia por todas as vendas em sua plataforma
A Amazon alega que não é a vendedora e que o vendedor é uma parte anônima que publicou o anúncio na plataforma. Houve um processo na Pennsylvania sobre isso, e quando a possibilidade de uma grande derrota da Amazon aumentou, ela fez um acordo para evitar criar jurisprudência
No lado da publicidade, qualquer um que publique anúncios para terceiros deveria ser capaz de apresentar, quando solicitado, o nome real e o endereço do anunciante; se não puder, deve responder pelo conteúdo do anúncio. Empresas não têm direito ao anonimato. Já existem leis assim na UE e na Califórnia
A fraude é um problema não porque seja difícil, mas porque as principais plataformas recebem imunidade mesmo quando a viabilizam
É meio surpreendente que isso já não seja assim, já que o anunciante precisa receber dinheiro. Por outro lado, isso pode dificultar mais anunciar e prejudicar pequenos negócios, mas enganar clientes também é um problema
As grandes plataformas não vão nem piscar diante do custo de verificação, e os golpistas só precisam repetir tudo de novo quando o esquema desmoronar
Para negócios legítimos, isso só cria mais uma dor de cabeça. Em casos específicos, usuários podem acabar presos em um limbo burocrático sem fim. Mesmo com suporte humano, provavelmente só vão repetir frases vazias como “Não foi possível verificar sua identidade com os documentos fornecidos. Este é um requisito de conformidade da Lei de Segurança de Plataformas Online de 2026”
Enquanto isso, os golpistas continuarão produzindo contas com KYC concluído. As plataformas só vão se preocupar em cumprir a nova regulação, e o processo deixará de ter qualquer relação com segurança. A Amazon continuará ganhando comissão por venda, e as grandes plataformas vão adorar usar a conformidade como barreira de entrada contra concorrentes
E um dia todos esses dados pessoais vão vazar. O incidente ficará público para todos, e isso também é uma dor de cabeça que os golpistas não têm
Se eu ganhasse 1 dólar toda vez que visse um texto dizendo “isso pode ser facilmente corrigido usando mais governo”, já teria montado um fundo de VC. Quando se lida com seres humanos e incentivos, nunca é tão simples assim. A sociedade humana não é uma base de código que dá para remendar até os bugs sumirem
Há muita coisa para destrinchar neste texto, mas o ponto central é o mito do gigantismo e o fato de que o pequeno é belo
Não surpreende que a Big Tech tenha construído seus próprios mitos poderosos para ter sucesso. Tanto grandes organizações quanto Estados-nação criam mitos de capacidade singular, infalibilidade e excepcionalismo
Ao mesmo tempo, nem é preciso dizer que escala traz ineficiência, corrupção, lentidão e insensibilidade. Sem medidas protecionistas para manter grandes monopólios, eles teriam sido despedaçados em condições reais de concorrência
A ideia é que é fácil pensar em maneiras pelas quais economias de escala beneficiam os usuários, mas isso não significa que se deva supor que, em todas as áreas, as economias de escala superam as deseconomias de escala
É preciso olhar tanto para o que melhora quanto para o que piora quando uma empresa cresce; não dá para assumir que, se uma parte melhora, então tudo vai melhorar, nem o contrário
É difícil entender por que a Amazon vende cartões SD ou dispositivos de armazenamento flash obviamente falsos. Eles são muito fáceis de identificar, e armazenamento falsificado destrói dados dos usuários, então isso deveria ser tratado com seriedade
https://a.co/d/auXcxrZ vende 1 TB por 29 dólares e ainda aparece como “overall pick”
Porque existe continuidade de custódia do fabricante até a prateleira da loja, então a procedência é clara
Lugares como a Amazon misturam itens “iguais” de vários vendedores em um grande estoque comum
Não parece que eles consigam conter esse fluxo
As pessoas não técnicas ao meu redor insistem que precisam de 1 TB para qualquer coisa. Uma delas comprou um iPad Pro só para ter 1 TB de espaço. Ela usou o iPad anterior por 8 anos e tinha preenchido algo como 64 GB, mas queria garantir que nunca mais faltaria espaço