Segundo documentos judiciais, Meta teria minimizado riscos para crianças e induzido o público ao erro

• Documentos judiciais recém-divulgados apresentam indícios de que a Meta tinha conhecimento de problemas de segurança infantil e, ainda assim, minimizou ou ocultou os riscos
• Segundo depoimentos internos, existia uma política branda de “suspensão após 17 violações” para contas ligadas à prostituição, e o processo de denúncia de exploração sexual infantil também era complexo
• Os documentos incluem diversos resultados de pesquisas internas sobre agravamento da saúde mental de adolescentes, contato inadequado entre adultos e menores e algoritmos viciantes
• Alega-se que a Meta não divulgou esses resultados ao Congresso nem ao público e adiou por anos a adoção de recursos de proteção para adolescentes
• O processo é uma ação coletiva de grande porte com mais de 1.800 autores e participação de vários governos estaduais, ampliando o debate sobre a responsabilidade das big techs na proteção de adolescentes

---

Visão geral do processo

• Documentos apresentados pelos autores no Tribunal Distrital do Norte da Califórnia afirmam que a Meta tinha conhecimento de danos graves causados por suas plataformas e, mesmo assim, os minimizou ou ocultou
  • A acusação se baseia em documentos internos, depoimentos de executivos atuais e ex-executivos, além de materiais de pesquisa interna
• O processo inclui as controladoras de Instagram, TikTok, Snapchat e YouTube, com participação de mais de 1.800 autores
• Os autores alegam que essas empresas ignoraram a saúde mental e física de crianças em nome de uma “estratégia de crescimento em primeiro lugar”

Alegações sobre prostituição e denúncias de exploração sexual infantil

• Embora o Instagram declarasse uma política de “tolerância zero” para material de exploração sexual infantil, os autores afirmam que não havia uma forma simples para usuários fazerem esse tipo de denúncia
• Um ex-responsável pela área de segurança do Instagram testemunhou sobre uma política pela qual contas ligadas à prostituição só eram suspensas após 17 violações
• Um porta-voz da Meta negou a alegação, afirmando que contas suspeitas de tráfico humano ou exploração sempre foram removidas imediatamente

Alegações de enganar o Congresso e ocultar pesquisas sobre saúde mental

• Pesquisas internas concluíram que o uso de Instagram e Facebook aumenta ansiedade e depressão entre adolescentes
• Em um “estudo de desativação” de 2019, interromper o uso reduziu ansiedade, depressão e solidão, mas a Meta encerrou a pesquisa e não divulgou os resultados
• Em uma sabatina no Senado em 2020, à pergunta sobre haver correlação entre uso e depressão ou ansiedade em adolescentes, a empresa respondeu “não (No)”
• Os autores afirmam que isso mostra que a “Meta mentiu ao Congresso”

Alegação de omissão diante de contato inadequado entre adultos e adolescentes

• Em 2019, pesquisadores propuseram tornar contas de adolescentes privadas por padrão, mas a equipe de crescimento se opôs por temer queda no engajamento
  • A previsão era de redução anual de 1,5 milhão de usuários adolescentes com a mudança para privado
• Segundo análises internas, aplicar a configuração privada poderia eliminar 5,4 milhões de interações indesejadas por dia
• Mesmo assim, a Meta só aplicou isso de forma ampla em 2024, e nesse intervalo bilhões de contatos inadequados teriam ocorrido
• A Meta rebate dizendo que passou contas de menores de 16 anos para o modo privado desde 2021

Estratégia para conquistar usuários adolescentes

• Documentos internos indicam que “capturar o tempo dos adolescentes” passou a ser uma meta central a partir de 2017
• A Meta conduziu ações de divulgação voltadas a estudantes em parceria com escolas, PTAs e a Scholastic
• Pesquisas internas mostraram que a empresa sabia da presença de usuários com menos de 13 anos, e em 2018, 40% das crianças de 9 a 12 anos usavam o Instagram diariamente
• Alguns funcionários criticaram a estratégia, dizendo que “mirar em crianças de 11 anos parece estratégia de empresa de cigarro”
• Em 2022, havia 216 milhões de usuários com idade não verificada

Tentativas frustradas do Instagram de mitigar danos

• Em 2019, o recurso de ocultar curtidas (Project Daisy) mostrou efeito positivo na autoestima dos usuários, mas foi interrompido por temor de queda na receita publicitária
• Os filtros de beleza apresentaram risco confirmado de agravar insatisfação corporal e transtornos alimentares, mas foram reintroduzidos por receio de queda em métricas de crescimento
• Pesquisadores desenvolveram um classificador de IA para bloquear conteúdo que estimula comparação com a aparência, mas a liderança encerrou o projeto

Falhas na remoção automática de conteúdo nocivo

• A IA da Meta não remove automaticamente conteúdo sobre suicídio, transtornos alimentares ou exploração sexual infantil, mesmo com 100% de certeza
  • Conteúdo que glorifica automutilação só é removido com 94% de certeza
• Em uma investigação interna de 2021, mais de 8% dos usuários de 13 a 15 anos relataram ter visto posts relacionados à automutilação na última semana
• A Meta afirma que lidera o setor em detecção e denúncias de material de exploração sexual infantil e que combina IA com revisão humana para evitar falsos positivos

Alegação de reconhecer e minimizar o caráter viciante

• Um pesquisador interno descreveu o Instagram como “uma droga”
• Em uma pesquisa de 2018, 58% dos usuários nos EUA relataram “uso problemático”, mas apenas 3,1% foram mencionados em relatório público
• Recursos para limitar o uso, como o Quiet Mode, foram adiados por preocupação com impacto negativo nas métricas de crescimento
• Pesquisadores defenderam a divulgação pública, afirmando que o produto explora a psicologia humana para aumentar o tempo de uso, mas a Meta não levou isso adiante

Posição oficial da Meta

• A Meta negou integralmente as acusações, chamando-as de “alegações distorcidas baseadas em citações seletivas e mal-entendidos”
• A empresa destacou que, há mais de 10 anos, vem fortalecendo recursos de proteção para adolescentes, oferecendo ferramentas de controle parental e implementando Teen Accounts
• As Teen Accounts, lançadas em 2024, incluem contas privadas por padrão para usuários de 13 a 18 anos, bloqueio de notificações noturnas, restrição de mensagens de adultos e recursos com aprovação dos pais

Conclusão

• Os documentos dos autores apresentam evidências internas de que a Meta priorizou crescimento e receita acima da segurança de adolescentes
• A Meta contesta, afirmando que segue reforçando continuamente seus recursos de segurança
• O caso chama atenção como uma disputa central sobre a responsabilidade das empresas de redes sociais na proteção de crianças e a questão da transparência

[GN⁺]

Comentários do Hacker News

• Um porta-voz da Meta disse que “há mais de 10 anos ouvimos a opinião dos pais e fizemos mudanças para proteger adolescentes”, mas para mim isso soa como uma empresa de tabaco dizendo que se preocupa com a saúde ao criar filtros

  • Todos os executivos das empresas de tabaco mentiram sob juramento e, no fim, só pagaram multas em dinheiro

• A maioria das pessoas sabe que a Meta é uma empresa que vem fazendo coisas terríveis
  Mas fico me perguntando o que de fato está mudando. Até agora, só houve multas simples e sanções de fachada. Quero perguntar se existe algum plano real para parar essa situação

  • Já trabalhei em uma empresa que cometia atos antiéticos dentro dos limites da lei. No fim, entendi como aquela estrutura funcionava e saí de lá
    A razão de empresas assim poderem existir é, no fim das contas, porque desenvolvedores tornaram isso tecnicamente possível
    Se estamos insatisfeitos, precisamos dizer às pessoas para saírem dessas empresas. Só porque paga muito não significa que tenha valor
    Mas, se os EUA fechassem todas as gigantes de mídia social como a Meta, um enorme número de desenvolvedores perderia o emprego
  • Isso é essencialmente uma questão antitruste. A Meta é grande demais e tem uma estrutura incapaz de se corrigir sozinha
    No fundo, a estrutura de incentivos do sistema de governo está presa aos interesses do capital
    Mesmo que se consertem os problemas de saúde ou moradia, no fim seguradoras ou o setor imobiliário acabam lucrando
    Há uma ligação fraca entre a tomada de decisão e a vontade dos cidadãos, e uma ligação forte demais com o capital
    Se isso não mudar, toda mudança vai ficar só no nível da maquiagem
    Acho que precisamos migrar para uma democracia direta, mas a maioria considera isso irrealista
    Ainda assim, reformas institucionais como voto por ordem de preferência podem ser um pequeno ponto de partida
  • Quero fazer a pergunta: “Então, o que exatamente deve ser feito?” Em vez de apenas raiva ou punição, precisamos de alternativas práticas
  • Enquanto o capital for muito mais poderoso que o trabalho, esse tipo de história vai continuar se repetindo
  • Fico curioso se nos EUA existe alguma tentativa real de implementar algo como a pena de morte corporativa (corporate death penalty)

• Como muita gente já sabe, o trabalho dessas empresas é coletar dados sem analisar os efeitos externos
  Ou seja, lucro e impacto negativo estão inseparavelmente ligados

  • O que mais choca é que funcionários da Meta sabiam que sua tecnologia facilitava a exploração sexual infantil e mesmo assim ignoraram isso
    Talvez bônus e stock options tenham abafado a culpa

• O modelo de negócios da Meta entra em choque frontal com a felicidade humana

  • Isso é verdade, mas ao mesmo tempo também é preciso responsabilizar as pessoas que tomaram decisões nocivas

• Alguém pergunta: “Isso é a mesma coisa que este post?” e menciona uma thread anterior

  • Sim. Por isso denunciei como duplicado

• Fiquei chocado ao saber que a Meta tinha uma política de “contas ligadas a tráfico humano são suspensas após 17 violações”
  A crítica foi: “Até a 16ª vez é só advertência — que regra insana é essa?”

  • Foi mencionado que este comentário está recebendo downvotes por ser controverso

• Aconselham verificar se já existe uma discussão anterior antes de publicar um novo post

• “Isto é um post duplicado”, e compartilham o link para a discussão existente

• Acho que a Meta é o tabaco da nossa era. Os funcionários deveriam ter vergonha
  É uma das maiores organizações a prejudicar a saúde mental de adolescentes, especialmente meninas adolescentes

  • Mas eles não se importam. Oportunistas (grifters) continuam vivendo desse jeito

• As redes sociais serão vistas pelas gerações futuras como algo tão nocivo quanto tabaco ou álcool
  A saúde mental de meninas adolescentes, em especial, está piorando rapidamente
  Filtros, plataformas de fãs e pressão estética alimentam a ansiedade e, na prática, colocam vidas em risco