O vício está sendo projetado
(substack.com/masonyarbrough)- Novas plataformas sociais surgem prometendo corrigir os problemas das anteriores, mas no momento em que recebem capital de risco e passam a sofrer pressão por crescimento, ficam presas a uma estrutura que otimiza engajamento em vez de conexão
- A Circliq tentou criar conexões reais por meio de encontros presenciais e comunidade, mas concluiu que a lógica de escala e investimento acaba exigindo os mesmos incentivos das redes sociais tradicionais
- BeReal, Instagram e Twitter começaram com autenticidade, compartilhamento de fotos e atualizações de status, mas mudaram de direção para ampliar usuários ativos diários e reações emocionais
- Apenas desintoxicação digital individual ou limites de tempo de tela não bastam para enfrentar o design baseado em testes A/B, psicologia comportamental e aprendizado de máquina usado por TikTok, Instagram e X
- A solução não está em mais um aplicativo, mas em mudar o modelo de crescimento movido por publicidade e venture capital, alterando as próprias regras por meio de assinaturas, cooperativas, financiamento como bem público e transparência algorítmica
O caminho que as novas plataformas sociais repetem
- Novas plataformas sociais aparecem dizendo que vão resolver os problemas das plataformas existentes, mas em geral acabam seguindo o mesmo caminho
- Começam com intenções puras
- Recebem capital de risco
- Sofrem pressão por crescimento
- Aumentam o engajamento com manipulação algorítmica
- No fim, seu propósito original é corroído
- BeReal prometia autenticidade, Clubhouse prometia intimidade, mas nenhum dos dois serviços conseguiu escapar das mesmas pressões estruturais
- O cerne do problema não é uma falha que possa ser corrigida com um novo app, e sim a estrutura econômica que coloca preço sobre a atenção e os relacionamentos dos usuários
Por que a Circliq parou
- A Circliq era uma plataforma social que buscava o mundo real em vez de um feed infinito, conexão offline em vez de manipulação algorítmica, e relações de verdade em vez de vício
- Quando investidores começaram a perguntar sobre formas de escalar, número de eventos e como maximizar a atenção dos usuários, o serviço também ficou preso às mesmas perguntas das redes sociais existentes
- Se tivesse captado capital, era muito provável que a Circliq entrasse no mesmo padrão
- Precisaria de mais usuários e mais eventos
- Métricas de crescimento se tornariam o objetivo central
- No fim, poderia deixar de ser parte da solução para virar parte do problema
As etapas da mudança de “conexão” para “extração”
- A degradação das plataformas sociais não acontece porque fundadores são maus ou usuários são fracos, mas porque a estrutura de incentivos praticamente determina o resultado
- As etapas recorrentes são as seguintes
- Intenções puras: tentar conectar pessoas, compartilhar momentos autênticos e criar comunidade
- Mandato de crescimento: para receber investimento, são necessários usuários; para receber mais investimento, passa a ser necessário crescimento exponencial
- Otimização de engajamento: crescimento exige engajamento, e engajamento exige manter o usuário por mais tempo na plataforma
- Manipulação algorítmica: conteúdos que provocam reações emocionais fortes, como raiva, inveja, medo e indignação, passam a ser mais expostos
- Desalinhamento total: a missão original de conectar pessoas se transforma em manipulação emocional para gerar lucro e em rolagem solitária
- BeReal prometia autenticidade com fotos simultâneas e sem filtros, mas depois do capital de risco e da expansão em escala, usuários ativos diários e métricas trimestrais passaram a importar mais que “autenticidade”
- O Instagram começou como um app simples para compartilhar fotos entre amigos, mas depois de ser adquirido pelo Facebook por US$ 1 bilhão, o feed cronológico foi substituído por um algoritmo de otimização de engajamento
- O Twitter começou com atualizações de status em 140 caracteres, mas se transformou em uma plataforma que amplifica conteúdos de forte reação emocional e espalha falas virais
Por que a força de vontade individual não basta
- Desintoxicação digital, limite de tempo de tela, força de vontade e apps de bloqueio de aplicativos se aproximam mais de tentativas de resolver um problema sistêmico no nível individual
- As principais plataformas sociais usam equipes de psicólogos comportamentais, milhares de testes A/B e aprendizado de máquina para encontrar vulnerabilidades psicológicas
- Recompensas intermitentes e variáveis são mais viciantes do que recompensas contínuas, como em caça-níqueis, e isso é explorado no design das plataformas
- TikTok, Instagram e X são menos ferramentas neutras e mais parecidos com caça-níqueis projetados para prender o usuário
- puxar para atualizar
- aba de curtidas
- rolagem infinita
- recompensas aleatórias
- notificações em momentos que estimulam o cortisol
- Depressão e ansiedade na Geração Z aumentaram fortemente depois da explosão dos smartphones e dos apps sociais por volta de 2012
- O ser humano não foi feito para consumir em tempo real todas as catástrofes, se comparar com centenas de avatares cuidadosamente montados e viver conectado 24 horas por dia
Soluções estruturais que podem funcionar
- Como soluções individuais não bastam, são necessárias soluções sistêmicas que mudem o financiamento e as regras das plataformas sociais
- As soluções possíveis são resumidas em quatro pontos
- Outra forma de financiamento: em vez de investimento de risco e da máquina de crescimento baseada em publicidade, adotar modelos de financiamento como utilidade pública ou bem público
- Modelos de assinatura, cooperativas e financiamento público podem priorizar o bem-estar do usuário em vez de métricas de engajamento
- A Wikipedia é um exemplo de modelo cooperativo baseado em doações
- Esses modelos existem, mas não escalam na velocidade exigida pelo venture capital
- Algoritmos regulados: assim como empresas de tabaco são reguladas por causa do potencial viciante e nocivo, é possível reduzir designs viciantes com transparência algorítmica ou maior controle do usuário
- O Digital Services Act da UE exige transparência algorítmica de grandes plataformas
- Separação estrutural: é possível separar plataformas que ganham dinheiro com publicidade da tarefa de projetar interações sociais
- Métricas alternativas: em vez de usuários ativos diários e tempo de permanência na plataforma, avaliar bem-estar do usuário, qualidade das relações e conexão com o mundo real
- Outra forma de financiamento: em vez de investimento de risco e da máquina de crescimento baseada em publicidade, adotar modelos de financiamento como utilidade pública ou bem público
- O problema mais profundo é que entregamos os relacionamentos humanos a sistemas projetados para lucrar
- A conexão real acontece em conversas que não viram dados, relações que não escalam e momentos que não podem ser otimizados para engajamento
- O objetivo pode não ser uma rede social melhor, mas um sistema em que redes sociais sejam menos necessárias
- As plataformas sociais atuais também tiveram um papel positivo ao conectar pessoas entre continentes, organizar movimentos e amplificar vozes necessárias
- Mas, no momento em que passaram a otimizar engajamento acima de conexão, tempo de permanência acima de bem-estar e extração acima de relações reais, perderam o rumo
- Se o modelo econômico que monetiza o vício e dificulta a conexão real não mudar, as tentativas de consertar as redes sociais também voltarão a se tornar parte do problema
1 comentários
Opiniões do Hacker News
Depois de alguns anos no setor de capital de risco, fiquei cada vez mais convencido de que investimento externo é o maior motivo pelo qual uma empresa perde sua moralidade
A obrigação legal de representar os acionistas corrói a moralidade e, quando as pessoas que administram a empresa se sentem presas aos acionistas e incapazes de julgar por conta própria, passam a usar pesquisas sobre vício não como alerta, mas como manual de instruções
Claro, há nuances ao dizer isso em um fórum historicamente ligado à YC, mas existe uma ligação bem forte entre investimento externo e design viciante
Também é lamentável que, sob a administração atual, subsídios e redes de proteção estejam sendo reduzidos, dificultando incentivar a tomada de riscos, e que o caminho mais rápido para abrir ou escalar uma empresa acabe sendo captar investimento. Acho melhor doar para open source
Nesse modo de pensar, perde-se o interesse por aquilo que chamamos de “nosso produto” e ele passa a ser visto apenas como ração para engordar a empresa, que é o produto real. A ideia é engordá-la ao máximo e vendê-la ao maior matadouro
Isso começa quase imediatamente, e até uma rodada Série A é difícil de conseguir sem um plano de exit
Sinto que a própria existência de um plano de exit prejudica os usuários. Ninguém se importa com eles; o foco é apenas engordar a empresa e fazê-la parecer atraente. Com isso, sem nenhuma consideração pela sustentabilidade de longo prazo, acaba-se alimentando-a só com junk food para engordá-la o mais rápido possível
Eu gostaria que o setor de tecnologia voltasse a se concentrar em entregar algo realmente bom ao usuário final. Ainda dá para ter uma vida confortável com isso, mas talvez não os retornos insanos que vemos hoje
Precisamos combater a ideia de que focar exclusivamente em lucro de curto prazo é algo exigido legal, moral ou eticamente. Na prática, isso é antissocial e claramente destrutivo
Se uma empresa recebe simultaneamente ofertas de aquisição de US$ 1 milhão e US$ 2 milhões, e o conselho aceita a de US$ 1 milhão depois de receber propina, isso pode ser um problema. Fora isso, quase nunca aparece
Basta encontrar um único precedente em que acionistas tenham usado essa obrigação para impor com sucesso sua vontade ao conselho ou à diretoria. Mesmo logicamente, isso não faz muito sentido. Tirando casos de aquisição, praticamente qualquer ação de uma empresa pode ser justificada como sendo em benefício dos acionistas
Por exemplo, é possível dizer que tornar um app viciante demais provoca reação social e regulação governamental, prejudicando os acionistas, e essa obrigação também não define nenhum horizonte de tempo específico
Conselho e diretoria podem querer agradar investidores, mas não por causa de uma obrigação legal. Um executivo que ignore os interesses dos acionistas pode se preocupar com sua reputação como fundador competente, com o risco de demissão e com a queda no valor de sua própria participação, mas não está correndo risco jurídico
O exemplo mais ardiloso é a Mozilla. Ela atraiu pessoas com um produto centrado em privacidade e depois literalmente apagou o foco em privacidade de sua declaração de missão e começou o “abate”
O Craigslist é prova de que isso é possível mesmo em grande escala. Mas hoje há gente demais sem essa combinação de meios e moralidade. A parábola de Sodoma e Gomorra é um alerta de que, se deixarmos esse tipo de coisa acontecer, a sociedade desmorona por conta própria
Concordo que investimento externo pode acelerar fortemente esse tipo de coisa, porque permite que fundadores externalizem a responsabilidade
Mas não é a principal razão. Empresas exploratórias já existiam muito antes de o capital de risco ser inventado. No fim, todas as empresas existem para ganhar dinheiro e, portanto, são inerentemente imorais; por isso é necessário um Estado que regule o mercado para que as empresas não prejudiquem demais a sociedade
Esses fundadores não foram corrompidos por venture capital maligno; desde o início, sua moralidade simplesmente não era tão forte assim
[1] https://www.vox.com/2018/6/13/17449118/stanford-prison-exper...
O problema é mais fundamental. Quando o modelo de receita fica atrelado ao uso, naturalmente passa a buscar a maximização do uso acima do interesse do usuário. Se a função de recompensa estiver ligada ao uso do produto, não há como ser diferente
Comparando com carros, o modelo de receita de uma montadora não depende de quanto eu dirijo; basta que eu ache o carro útil o suficiente para comprá-lo. Academias podem funcionar ao contrário. Quanto menos eu uso, mais dinheiro elas ganham, desde que eu não cancele
Microsoft Office ou Mario Kart não precisam me viciar; só precisam me fazer comprar o software. Mesmo o Photoshop, com modelo de assinatura, não tem motivo para buscar uma estratégia de vício. Basta torná-lo útil o suficiente para que eu continue pagando e, nesse sentido, talvez ele seja mais parecido com uma academia
Produtos que precisam de vício são aqueles que são usados de graça, mas têm custo para serem oferecidos. Em muitos aspectos, a culpa também é nossa por esperarmos que redes sociais e muitos serviços sejam gratuitos e que a publicidade cubra os custos
Até daria para criar uma rede social sem dark patterns e cobrar uma assinatura mensal, mas fica a dúvida de quantas pessoas pagariam. Acho que provavelmente seria um número próximo de zero e fracassaria. Ainda assim, eu provavelmente pagaria, e aí seria bem solitário
Pessoalmente, acho que a solução é simples, mas bastante coercitiva, o que a torna difícil de implementar por causa da reação política. Seria proibir toda publicidade direcionada
Em plataformas digitais, os anúncios ainda poderiam continuar rodando, mas o resultado das heurísticas que escolhem o anúncio teria de ser independente de dados derivados do usuário, como dados da sessão, endereço IP, horário, país e histórico de visualização
Uma das decisões pelas quais sou mais grato, tomada desde o primeiro dia com meus cofundadores, foi: 1) ter um modelo de receita que não dependa do uso, 2) não tratar uso como meta
Nosso mercado é um pouco peculiar, pois atendemos pais que querem dar aos filhos uma alternativa sem tela em vez de smartphones e redes sociais. Ainda assim, essa experiência me dá esperança de que outros modelos de receita também possam abrir caminho para produtos sociais não viciantes prosperarem
Esse preço é algo que muitas pessoas em países pobres também conseguem pagar. Se for bem projetado e der às pessoas poder para fazer algo, elas pagarão por isso como pagam por outras coisas
[1] https://news.ycombinator.com/item?id=38117385
Eu também estaria disposto a pagar. Estou procurando ativamente uma comunidade humana online decente que não venda meus dados para fazendas de IA nem tente capturar minha atenção o tempo todo
Infelizmente, as redes sociais devoraram muitos lugares que antes eu considerava minha casa
Tem 20 funcionários e até moderadores humanos. Também existe o Metafilter, que tem modelo pago[2]
[1] https://www.washingtonpost.com/technology/2024/08/10/front-p...
[2] https://www.metafilter.com/
Será que não estamos pensando nisso de forma complicada demais?
Sites especializados antigos continuam vivos, com temas e categorias para o site inteiro, além de discussões
Como alguém que cultiva um pouco de comida em uma área semirrural, gosto de acompanhar o permies.com. Todos os dias, voluntários publicam novas perguntas adequadas à estação ou aos interesses recentes, ou trazem de volta temas relacionados
Mas eles não estão tentando ganhar 1 milhão de dólares, muito menos 1 bilhão. E é por isso que é bom
Eles levantam recursos vendendo livros, cartões e vídeos educativos, e também têm “pequenos anúncios” não invasivos que fazem paródia de si mesmos
Acho que o pequeno é bonito. A internet atual é dominada por répteis malignos que querem arrancar nosso tempo, dados, privacidade e amigos. “Não seja mau” morreu e desapareceu
Basta voltar o relógio 30 anos. Eu fiz isso e estou feliz
É um tempo longe do feed infinito de lixo novo da internet, e as relações humanas presenciais também dão uma camada extra de realidade. Graças às duas atividades, também fiz muitos amigos com personalidades, origens e experiências de vida variadas
Não é exatamente voltar 30 anos; está mais para encontrar muitas outras atividades que possam ser aproveitadas sem tela
Nas duas atividades, se a mente estiver em outro lugar, você não consegue fazer direito. É preciso “estar presente”. O tênis é tecnicamente difícil de jogar bem, e no patins inline você pode se machucar se tirar os olhos e a mente do entorno por um instante
Essa presença, ou concentração única, limpa muito do ruído acumulado na cabeça. E também não há manipulação da minha intenção me desviando do caminho que eu originalmente pretendia seguir
Recomendo Addiction by Design. É um livro excelente sobre a dinâmica de projetar vício na indústria de jogos de azar, e é muito parecido com o que vemos hoje no mundo dos smartphones/internet
Agradeço ao usuário esquecido do HN que me recomendou esse livro tempos atrás. Foi um dos melhores e mais certeiros livros que li nos últimos anos
Lembro de uma tentativa quase exaustiva de criar uma wiki de golfe que não fosse exploratória como a maioria dos sites de golfe.
Tentar fazer isso por bootstrapping, sem investimento, é pesado, mas necessário, e precisa ser operado com um custo muito baixo. O frustrante é que, em toda rede, o flywheel é tudo.
Quando o produto entra no celular das pessoas, o valor fica fácil de enxergar, mas para colocar o app nesses celulares é preciso muito dinheiro para criar valor suficiente para atrair as pessoas.
É por isso que o dinheiro de venture capital é tão prejudicial, e por que projetos como mastodon, lemmy e pixelfed têm dificuldade para sair do chão. O ponto central quase sempre é a própria rede, mais do que o produto.
Pretendo continuar de forma lenta e constante, mesmo que leve 10 anos. Se fracassar, sinceramente não importa. Porque sei que pessoas interessadas em arquitetura de campos de golfe querem um lugar para falar sobre os campos que amam.
https://golfcourse.wiki
Conversei com um amigo que é monitor de um pequeno acampamento de verão, e ele disse que, de cerca de 35 crianças no acampamento, 4 foram embora porque não conseguiam ficar longe dos dispositivos.
A força do reforço intermitente atuando como porta de entrada para o vício é assustadoramente poderosa.
Será que existe uma forma de imunizar nós mesmos e as futuras gerações contra isso?
O autor propõe como solução apoio para mudar o próprio jogo. A moda do “jejum de dopamina” ou períodos semanais sem telas podem ser ferramentas. Também talvez seja possível ampliar a educação sobre reforço intermitente, ou criar algo parecido com o D.A.R.E. voltado a apps. É dito em tom de brincadeira, mas não é totalmente brincadeira.
Em produtos de tecnologia, um nerd excêntrico pode rodar um fórum ativo em um computador velho debaixo da mesa, dois jovens “cofundadores” cheios de garra podem criar uma empresa do nada, e o HN também já conseguiu, em certo momento[0], abalar toda a cultura tecnológica com um único processo em um único servidor. Então talvez também seja possível escolher não crescer?
Na era dos grandes modelos de linguagem, é verdade que criar um produto confiável exige mais capital do que antes. Ainda assim, os fornecedores estão praticando preços agressivos, e, mesmo que tentem aumentá-los depois, metade dos modelos-base melhores do que os melhores do ano passado é open source.
Se você brinca com muito dinheiro e busca muito dinheiro, há muito dinheiro por aí tentando puxá-lo para esse jogo. Mas, se você só quer criar algo pequeno, bom e em escala humana, será que já houve momento melhor do que agora?
O caminho para bilhões de dólares pode exigir comportamentos mercenários de extração de dinheiro, mas isso não significa que a pressão por crescimento seja uma lei natural inevitável.
Não consigo me livrar da sensação de que o pessoal da Small Web está percebendo algo importante.
[0] https://news.ycombinator.com/item?id=5229522
A solução que este texto sugere, mas não chega a dizer em voz alta, é regulação governamental.
“Algoritmos regulados: empresas de tabaco são reguladas porque seus produtos são viciantes e nocivos. Transparência algorítmica ou dar controle aos usuários pode reduzir padrões de design viciantes, preservando os benefícios. O Digital Services Act da UE já exige transparência algorítmica de grandes plataformas.”
Em vez de ensinar as pessoas a pensar criticamente e resistir a armadilhas de dopamina projetadas, basta deixar burocratas de carreira que pesquisam “AI” no Wordpad ou no Internet Explorer escreverem a legislação, né xD
Psicólogos empregados retratados como vilões não são a causa deste problema, nem alguma força imparável que manipula tudo o que fazemos.
Muito antes de existir o conceito de rede social no sentido atual, a internet já era “viciante”. Em meados dos anos 90, eu também ficava sentado diante do computador do pôr do sol ao nascer do sol, e conhecia centenas de pessoas que faziam a mesma coisa.
Já éramos “viciados” em espaços online iniciais como message boards, IRC, AIM, ICQ e MMORPGs, que antecederam as estruturas modernas de capital.
Eu era viciado em ler newsgroups com o programa trn, do Larry Wall.
No trn, era muito fácil abrir uma nova tela cheia de texto, mas era difícil voltar ao ponto em que você estava lendo três telas atrás. Se ainda estivesse na mesma mensagem, bastava rolar três vezes para cima, mas, caso contrário, era trabalhoso, e isso desestimulava voltar.
Com isso, havia menos motivo para não continuar procurando a próxima recompensa de dopamina: o próximo fragmento de texto que ensinasse alguma coisa.
O ponto principal é que nem o trn nem os newsgroups haviam recebido financiamento de venture capital de qualquer forma. Nenhuma startup ou empresa não-VC também estava envolvida.
Quando comecei a ver newsgroups em 1991, o software era totalmente projetado, implementado e operado por voluntários. Esses voluntários em geral trabalhavam em empresas de tecnologia, universidades e laboratórios de pesquisa do governo, mas isso acontecia porque, na época, o acesso à internet era obtido principalmente por meio do trabalho; a participação em newsgroups não entrava na avaliação de desempenho feita pelos empregadores.
Portanto, venture capital não é o problema inteiro. Nem mesmo o motivo do lucro é o problema inteiro. Esse problema também pode aparecer em programas distribuídos sob licenças open source por motivos de hobby ou de comunidade.