Meta e Google são acusadas de ter ‘projetado o vício’ em julgamento dos EUA sobre redes sociais

• O primeiro julgamento com júri nos EUA sobre a acusação de que empresas de redes sociais priorizaram o lucro acima da saúde mental de crianças e projetaram intencionalmente plataformas viciantes começou para valer em Los Angeles
• Os advogados dos autores afirmam que a Meta e o YouTube seguiram uma estratégia de "vício por design (addiction by design)" e implantaram o vício no cérebro das crianças
• A defesa da Meta rebateu dizendo que os problemas mentais da autora decorreram do ambiente familiar e do bullying no mundo real, e não do Instagram
• O julgamento é um processo bellwether, que deve servir de precedente para definir a direção e o nível de indenizações em centenas de ações semelhantes nos EUA
• Mark Zuckerberg deporá na próxima semana, enquanto estratégias dos processos contra a indústria do tabaco nas décadas de 1990 e 2000 estão sendo aplicadas de forma semelhante às empresas de redes sociais

---

Visão geral do julgamento e pontos centrais

• Começou em um tribunal da Califórnia um julgamento histórico sobre redes sociais, com a acusação de que a Meta e o YouTube, do Google, empurraram para crianças apps altamente viciantes
• O julgamento, conduzido diante de um júri em Los Angeles, pode estabelecer um precedente legal sobre se gigantes das redes sociais projetaram deliberadamente suas plataformas para causar vício em crianças
• O CEO da Meta, Mark Zuckerberg, deve depor na próxima semana, e o chefe do Instagram, Adam Mosseri, deve comparecer ao tribunal a partir de quarta-feira
• As plataformas da Meta incluem, além do Instagram, o Facebook e o WhatsApp

Alegações dos autores

• Na abertura, o advogado dos autores, Mark Lanier, disse que "este caso trata de duas das empresas mais ricas da história projetando o vício no cérebro das crianças"
• Chamando-o de "um caso tão simples quanto A-B-C", ele empilhou blocos infantis para explicar que A simboliza Addicting (viciantes), B Brains (cérebros) e C Children (crianças)
• Ele afirmou que "eles não criam apenas apps, eles criam armadilhas", usando como adereços uma Ferrari de brinquedo e uma mini máquina caça-níquel
• Os autores argumentam que a Meta e o YouTube perseguiram o "vício por design (addiction by design)"
• Também alegam que o YouTube não informou à mãe da autora Kaley que seu objetivo era viciar o espectador, e que ignorou um risco de vício "grave" ao mirar até mesmo crianças de 2 anos

Contestação da Meta

• O advogado da Meta, Paul Schmidt, rebateu afirmando que os problemas da autora com autoestima, imagem corporal e sensação de felicidade vieram de problemas familiares e de bullying no mundo real, não do Instagram
• Ele perguntou aos jurados: "Se o Instagram não existisse, e todo o resto na vida de Kaley continuasse igual, a vida dela teria sido completamente diferente ou ela ainda sofreria com os mesmos problemas?"
• Também apontou que em nenhum dos prontuários médicos incluídos nas provas há menção a vício em Instagram

Contexto do caso e autora

• O julgamento, presidido pela juíza Carolyn Kuhl, trata das alegações de que uma mulher de 20 anos identificada como Kaley G.M. ficou viciada em redes sociais desde a infância e sofreu graves danos mentais
• Em centenas de ações contra empresas de redes sociais, jovens usuários afirmam ter ficado viciados em conteúdo e chegado a depressão, transtornos alimentares, internação psiquiátrica e até suicídio
• O caso foi classificado como um processo bellwether, e seu resultado deve servir de referência para a condução e o nível de indenizações em ações semelhantes em todo o país

Semelhanças com os processos contra a indústria do tabaco

• Os advogados dos autores estão adotando estratégias usadas nos processos contra a indústria do tabaco nas décadas de 1990 e 2000
  • A estrutura é semelhante à lógica de que as empresas de tabaco venderam produtos nocivos sabendo dos danos
• Matthew Bergman, fundador do Social Media Victims Law Center, disse que "esta é a primeira vez que empresas de redes sociais vão a julgamento perante um júri por danos causados a crianças"
  • A equipe do centro está envolvida em mais de 1.000 ações semelhantes

Section 230 e questões jurídicas

• Grandes empresas de internet vêm alegando, com base na Section 230 do Communications Decency Act dos EUA, que estão imunes à responsabilidade por conteúdos publicados por usuários de redes sociais
• No entanto, esta ação sustenta que as empresas são responsáveis pelo próprio modelo de negócios projetado para prender a atenção do usuário e promover conteúdo capaz de prejudicar a saúde mental
• Os autores pretendem chamar especialistas que argumentarão que o cérebro de adolescentes não está desenvolvido o suficiente para suportar o impacto dos algoritmos do Instagram e do YouTube

Resposta das empresas

• A Meta citou recentemente esforços para reforçar salvaguardas para usuários jovens e afirmou que "sempre estamos trabalhando para melhorar"
• O porta-voz do YouTube, Jose Castaneda, rebateu dizendo que as alegações da ação "não são verdadeiras"
• A equipe jurídica do YouTube fará sua sustentação inicial ao júri na terça-feira

Outros réus e ações relacionadas

• Snapchat e TikTok também foram nomeadas como rés, mas fecharam acordos antes do início do julgamento, com termos mantidos em sigilo
• Ações que denunciam práticas arriscadas das plataformas de redes sociais para adolescentes, incluindo processos movidos por distritos escolares, estão em andamento na Justiça Federal do Norte da Califórnia e em tribunais estaduais de todo o país
• Uma ação separada alegando que a Meta priorizou o lucro acima do bem-estar de usuários adolescentes também foi iniciada na segunda-feira, no Novo México

[GN⁺]

Opiniões do Hacker News

• Quando eu trabalhava nessa empresa, toda semana aparecia um novo panfleto colado na parte de dentro da porta da cabine do banheiro
  Em certa semana, dizia que “um vídeo no feed precisava capturar o usuário em 0,2 segundo”, enfatizando que assim seria possível produzir efeito viciante cientificamente
  Foi nesse momento que percebi — a empresa via o usuário como uma “presa”. Nosso objetivo era convencer os anunciantes de que “temos ferramentas para reprogramar o cérebro dos usuários”
  • No fim, isso também pode ser interpretado como dizer que as pessoas perdem o interesse muito rápido, então, para mostrar anúncios, é preciso transmitir a mensagem central imediatamente
  • A expressão “o usuário é a presa” assusta, mas, na prática, não está tão longe da realidade
  • Pessoas fora da área técnica não percebem o quanto estão sendo manipuladas de forma explícita
    Eu já trabalhei com experimentos estatísticos como testes A/B e algoritmos de precificação dinâmica, e amigos ficam chocados quando descobrem isso
    Reações como “A Amazon não mostra a mesma tela para todo mundo?” sempre me surpreendem
    Essa manipulação nem é segredo dentro das empresas, e ninguém sente culpa por essa manipulação sob o nome de ‘otimização’
    Por isso acabei saindo da área de D2C. Percebi que ali eu não entregava valor real ao usuário e, ao contrário, estava causando dano
    Em B2B ainda existe uma relação concreta, então a manipulação de curto prazo é menos tentadora
  • Ironicamente, se um panfleto de banheiro tão simples funcionava com os funcionários, talvez os empregados do Facebook sejam justamente os mais fáceis de “programar”
  • Nunca trabalhei em uma FAANG, então esse negócio de panfleto no banheiro soa meio estranho
    Parece algo entre comunicado da empresa e atitude pessoal. Se houver foto, eu realmente gostaria de ver
• Uma grande parte da indústria de tecnologia se baseia na economia da atenção
  Quando se otimizam dados com o objetivo de manter o usuário no app o dia inteiro, acaba surgindo um produto parecido com um vício
  • Não consigo entender como pessoas tão inteligentes não perceberam que estavam ajudando a construir um sistema viciante
    Fico me perguntando se isso é simplesmente uma questão moral ou uma falta de senso social
  • Num mundo ideal, empresas que causam vício em crianças deveriam sofrer punição criminal e ter seus lucros confiscados
    Mas a realidade não é essa. Sem regulação, as empresas continuam com condutas nocivas desde que ainda gerem lucro líquido
  • Isso me lembra a história de “Umpty Candy” nos quadrinhos do Judge Dredd dos anos 80
    Não era droga, e sim um doce que gerava dependência apenas por otimização do sabor
  • Na verdade, o que mais me viciou nos últimos 5 ou 6 anos foi o Hacker News
    O algoritmo do HN também me faz entrar várias vezes por dia.
    Se ele atualizasse só uma vez por dia, esse vício não existiria.
    No fim, o HN também está fazendo ‘design de vício’
  • Muitos dos problemas da internet vêm do modelo “serviço gratuito + receita publicitária”
    Hoje em dia, chego a pensar que precisamos de uma internet paga.
    Antes eu acreditava que ‘a informação deveria ser livre’, mas agora sinto que barreiras são necessárias
• Mesmo que o dano real seja comprovado legalmente, ainda é duvidoso se haverá alguma medida corretiva
  Na crise dos opioides, a família Sackler também acabou resolvendo tudo com negociação de multas
  Vendo esses precedentes, parece que as big techs vão recorrer por décadas para escapar da responsabilidade
  • Já houve antes esse padrão recorrente das indústrias do vício, como tabaco, drogas e alimentos processados
    Como no caso da Philip Morris, que trocou o cigarro por um negócio de alimentos que vai ‘da caixa para a boca’
    Mas as empresas de mídia social de hoje parecem não ter nem esse nível de senso de responsabilidade
  • Especialmente se este caso estiver tratando de design viciante voltado a menores de idade, fico curioso se a avaliação legal pode ser diferente
• Ouvi dizer que um advogado empilhou blocos dizendo “este caso é tão simples quanto A-B-C”
  Sinceramente, achei infantil demais, mas esse tipo de encenação teatral pode funcionar com o júri
  • No processo de seleção do júri, pessoas muito engajadas ou especializadas já são excluídas
    No fim, o tribunal vira uma espécie de palco, e o advogado atua como se fosse um ator
  • Esse tipo de encenação com adereços também pode ser sinal de tentativa de compensar evidências fracas
    O advogado da Meta, por outro lado, teria enfatizado que “o problema é o ambiente familiar e o bullying escolar”
    e destacou que não há menção a vício nos prontuários médicos
    Como na época em que videogames eram culpados, dá a sensação de que mais uma vez se repete a narrativa de que ‘estão viciando o cérebro das crianças’
    Também é preciso pensar no fato de que processos assim acabam levando a regulações como a política de verificação de identidade do Discord
  • Esse tipo de encenação em forma de quebra-cabeça verbal é uma estratégia para fixar “vício, cérebro, crianças” na cabeça do júri
  • No fim, o slogan precisa ser simples e fácil de lembrar emocionalmente
• A frase “não estamos criando apps, estamos criando armadilhas” foi marcante
  Ainda é só a declaração de abertura dos advogados, então é preciso esperar pelas provas reais
  • Mas quem já usou o YouTube Shorts talvez já tenha vivenciado a prova
  • Estou esperando aparecerem e-mails internos dizendo que a receita vinha antes da saúde do usuário
• Ao aumentar o engajamento com testes A/B, pode-se acabar criando, sem intenção, um sistema viciante
  É parecido com a forma como a comida americana vai ficando cada vez mais doce
  No fim, como na tragédia dos comuns, todos têm um pouco de responsabilidade, mas ninguém para
  • Mas, segundo documentos internos, a empresa sabia do vício das crianças e deixou isso acontecer
    Foi por isso que este processo foi aberto
  • Permitir que esse fenômeno continuasse foi uma falha de políticas públicas. O governo deveria ter regulado padrões estatisticamente nocivos
  • Como executivos não deixam provas em e-mails, vai ser difícil provar a intencionalidade
  • À pergunta “quem deve ser responsabilizado?”, a resposta é clara — a empresa, não as crianças
• Uma vez perguntei a um funcionário do YouTube se os filhos dele usavam o YouTube Kids
  Ele respondeu: “de jeito nenhum, é proibido lá em casa”
  Aquilo me fez entender tudo — ficou claro por que ele não consumia o próprio produto
• “Um restaurante também quer que o cliente volte, e um escritor também escreve para você não conseguir largar o livro, não?”
  No fim, toda mídia está em competição por atenção
  Acho importante que cada pessoa mantenha uma boa higiene informacional
  • Mas isso é diferente. Restaurante não coloca cocaína na comida
    Vício em leitura é, na verdade, algo positivo
    O problema é uma estrutura que enfraquece o autocontrole durante o consumo
    Carros, medicamentos e equipamentos de refrigeração têm padrões de segurança, mas mídia social não tem regulação alguma
    O ponto central é que ainda não existe um mecanismo de equilíbrio para proteger o consumidor
  • Em alimentos, substâncias viciantes são proibidas, e livros são uma escolha voluntária,
    mas a mídia social provoca vício não intencional. No fim, não há alternativa além de cortar o uso
  • Se você entende o mecanismo de liberação de dopamina, sabe que isso é diferente de simplesmente ‘chamar atenção’
  • Se eu misturasse escondido uma substância formadora de hábito na sua bebida, isso seria claramente errado
  • Se um restaurante viola normas sanitárias, ele pode ser fechado, mas plataformas não sofrem sanção alguma
• No fim, como na indústria do tabaco, os CEOs vão dizer que “não sabiam”
  Mas, desta vez também, parece improvável que alguém seja realmente responsabilizado
  • Como na frase “não fui eu que usei a droga e fiquei alterado, foi a droga que me alterou”,
    o vício em mídia social também corre o risco de virar uma lógica de fuga de responsabilidade
• Se a estrutura dos algoritmos de recomendação é tentar capturar sua atenção em intervalos de 1 ou 2 segundos, então isso se aproxima menos de ‘engajamento’ e mais de design viciante
  Quase não sobra espaço para uma escolha consciente do usuário