Júri decide que a Meta é responsável em caso de exploração sexual infantil ocorrido em suas plataformas

• Um júri do estado do Novo México concluiu que a Meta não conseguiu proteger crianças de predadores sexuais no Facebook e no Instagram, violando a lei estadual
• A Meta foi considerada responsável por “práticas comerciais desleais e enganosas” e “conduta inescrupulosa”, sendo condenada a pagar US$ 375 milhões em indenização, e informou que pretende recorrer
• O caso é o primeiro veredito de júri sobre o dever de empresas de mídia social de proteger adolescentes, e a primeira vez que a Meta foi considerada responsável em tribunal
• No julgamento, depoimentos de denunciante interno e de ex-executivos levantaram críticas de que o algoritmo atuava de forma favorável a criminosos
• O veredito é visto como um precedente importante para o fortalecimento da responsabilidade legal de empresas de mídia social e o estabelecimento de padrões de proteção a adolescentes

---

Júri do Novo México responsabiliza Meta por falhar em prevenir exploração sexual infantil

• Um júri do estado do Novo México decidiu que a Meta violou a lei estadual ao não alertar sobre os riscos de suas plataformas nem proteger crianças de predadores sexuais
  • A Meta foi considerada responsável por “práticas comerciais desleais e enganosas” e “conduta inescrupulosa”, e condenada a pagar um total de US$ 375 milhões em danos
  • A Meta informou que pretende recorrer do veredito e declarou: “Respeitosamente, discordamos desta decisão”
• O caso decorre de uma ação movida em 2023 pelo procurador-geral do Novo México, Raúl Torrez, com base na alegação de que a Meta transformou Facebook e Instagram em espaços de atuação para criminosos sexuais contra crianças
  • O governo estadual pediu indenização de vários bilhões de dólares, mas o júri reconheceu um valor menor
  • Em etapas posteriores do processo, o tribunal poderá impor sanções adicionais ou ordenar mudanças na plataforma
• Este veredito é o primeiro de um júri em uma série de processos que cobram a responsabilidade de empresas de mídia social pela proteção de adolescentes, e a primeira vez que a Meta foi considerada responsável em tribunal
  • Ao mesmo tempo, em Los Angeles, segue o veredito de outro processo contra Meta e YouTube, que alega que recursos viciantes prejudicaram a saúde mental de adolescentes
  • Em todo os Estados Unidos, centenas de ações semelhantes foram propostas por indivíduos, escolas e governos estaduais
• No julgamento, que durou seis semanas, houve depoimentos de denunciantes internos da Meta e de ex-executivos
  • Arturo Bejar, ex-diretor de engenharia da Meta, testemunhou que sua filha de 14 anos recebeu abordagens sexuais no Instagram e afirmou que o algoritmo de personalização da Meta também favorece criminosos
  • O ex-vice-presidente Brian Boland declarou que “segurança não era prioridade para o CEO Mark Zuckerberg e para a então COO Sheryl Sandberg”
  • Já o chefe do Instagram, Adam Mosseri, afirmou que a empresa introduziu recursos de proteção para adolescentes, como as ‘Teen Accounts’
• A Meta sustenta que 40.000 funcionários trabalham com segurança e que a empresa faz investimentos massivos na proteção de adolescentes
  • Sobre a crítica da Meta de que contas disfarçadas usadas na investigação pelo gabinete do procurador-geral utilizaram fotos reais de crianças, Torrez rebateu chamando isso de “ataque para fugir da responsabilidade”
  • A Meta destacou o desenvolvimento de tecnologias para prevenir exploração sexual infantil e a cooperação com as forças de segurança, e anunciou que descontinuará o recurso de mensagens com criptografia de ponta a ponta no Instagram
  • Torrez classificou o veredito como uma “vitória histórica contra a Meta por priorizar lucro acima da segurança das crianças”

Principais pontos analisados pelo júri

• O júri avaliou se a Meta fez declarações falsas ou enganosas sobre a segurança da plataforma ou se adotou intencionalmente um design que prejudica adolescentes
  • O gabinete do procurador-geral do Novo México afirmou que, após criar contas falsas de crianças e operá-las no Facebook e no Instagram, recebeu propostas sexuais e pedidos de material obsceno
  • Três homens adultos que tiveram contato com essas contas foram presos em maio de 2024, e dois deles são acusados de tentar encontros reais com contas que se passavam por meninas de 12 anos
• Depoimentos internos da Meta indicaram que os recursos de conexão do algoritmo podem ser explorados por criminosos
  • Foi apresentado o testemunho de que “se o interesse for por meninas jovens, a plataforma reforça as conexões de acordo com esse interesse”
• A decisão da Meta de encerrar o recurso de criptografia de ponta a ponta foi citada como uma medida para ampliar o acesso de autoridades investigativas
  • A Meta explicou que “quase ninguém usa esse recurso, então ele será removido do Instagram, enquanto o WhatsApp continuará oferecendo mensagens criptografadas”
• Ravi Sinha, responsável pelas políticas de segurança infantil da Meta, testemunhou que a empresa vem cooperando com autoridades policiais e desenvolvendo tecnologias para prevenir a exploração infantil
  • O porta-voz da Meta, Andy Stone, criticou a investigação do Novo México como “eticamente problemática”, mas Torrez rebateu dizendo que isso era uma “tentativa de escapar da responsabilidade”
• O veredito é considerado um precedente importante dentro do movimento de fortalecimento da responsabilidade legal das empresas de mídia social
  • Ele pode influenciar futuramente outros processos relacionados à proteção de adolescentes em nível estadual e federal

[GN⁺]

Comentários do Hacker News

• Muitas pessoas comemoram qualquer decisão desfavorável à Meta sem nem ler os detalhes, mas é preciso reconhecer que processos como este são um dos principais motivos para o retrocesso de recursos como criptografia de ponta a ponta (E2EE)
  No processo do estado do Novo México, foi levantada a preocupação de que permitir que adolescentes usem E2EE no Instagram tornaria mais difícil para as autoridades prender criminosos. Durante o julgamento, a Meta anunciou que encerrará o suporte a mensagens com E2EE no Instagram até o fim deste ano
  A ação do estado de Nova York atacou diretamente o próprio suporte a E2EE (matéria da Reuters)

  • O ponto central é garantir transparência e poder de escolha do consumidor
    Contas de crianças devem ser classificadas em uma estrutura supervisionada pelos pais, permitindo que eles revisem conteúdo ou configurem as ferramentas necessárias
    Ainda assim, online todos devem ser tratados como adultos por padrão, e se os pais permitem a atividade online dos filhos, devem assumir a responsabilidade correspondente pela supervisão
    Esse tipo de regulação deveria se aplicar apenas a produtos comerciais, e não a projetos comunitários sem fins lucrativos
  • Não permitir que menores usem E2EE tudo bem, mas sou contra bloquear isso para todo mundo. Tenho dois filhos
  • Como operador de plataforma, acho que E2EE em serviços gratuitos não traz benefício real. Em vez disso, só cria responsabilidade jurídica imprevisível
  • Organizações centralizadas e software proprietário não conseguem oferecer E2EE de verdade. Sempre podem inserir um backdoor por meio de uma atualização
    Seria melhor forçar o fim desse teatro de segurança (security theater), e quem realmente precisa de privacidade vai procurar alternativas
  • Esse é o problema central. Isso não ajuda de verdade as crianças, e a Meta também não será muito afetada. No fim, isso vai levar a menos privacidade e mais vigilância

• É suspeito ver se formando internacionalmente um consenso de que “agora é hora de agir”. Fico especialmente preocupado com o avanço simultâneo de verificação de identidade (ID verification) por vários caminhos

  • As duas coisas podem ser verdade ao mesmo tempo. É preciso impedir que crianças sejam expostas a algoritmos de publicidade, mas a solução não pode levar a um regime de vigilância em massa
  • O problema não é regular os usuários, e sim regular a própria indústria de redes sociais. Usuários não têm dinheiro para lobby, mas as empresas despejam bilhões nisso
  • Dizem que a Meta gastou 2 bilhões de dólares em lobby por essa política de verificação de identidade (comentário relacionado)
  • O curioso é que hoje em dia a Geração Z usa as redes sociais com muito mais cautela
    Meus filhos adolescentes e os amigos deles usam quase só chats privados em grupo, e as redes sociais são praticamente de “somente leitura”. Não publicam fotos nem informações pessoais
    Quem se expõe demais são os millennials. Dá até vergonha ver o quanto compartilham fotos de família e detalhes da vida privada
  • Ver esse movimento acontecendo ao mesmo tempo que E2EE e a computação de uso geral são restringidas faz parecer que a direção do Ocidente não é tão diferente da da China

• O processo do estado do Novo México surgiu após uma investigação na plataforma da Meta com perfis falsos se passando por contas infantis, em que homens adultos de fato se aproximaram e fizeram propostas sexuais
  Pelo conteúdo da reportagem, E2EE não parece ser a questão central. A Meta anunciou o fim da E2EE durante o julgamento, mas a relação direta não está clara

  • Ainda assim, há anos existe pressão para desativar a E2EE sob o argumento de que ela dificulta a detecção de crimes sexuais contra crianças. É bem possível que esta decisão faça parte dessa mesma linha
    Outra interpretação é que isso pode ter sido uma mudança decorrente do abandono do plano da Meta de integrar as mensagens de WhatsApp, Facebook e Instagram

• Nós não queremos verificação de idade, e queremos E2EE. Mas comemoramos esta decisão porque não gostamos da Meta. Na prática, não dá para ter as duas coisas ao mesmo tempo

  • As duas coisas são separadas. A verificação de idade, na verdade, causa danos ainda maiores. Também não ajuda a resolver o problema real
  • Há dois tipos de oposição à verificação de idade: quem é contra por princípio e quem é contra porque sabe que a implementação será abusada
  • A ausência de obrigação legal não pode servir de escudo para tudo. A Meta já sabe praticamente a idade de todos os usuários
    Se um usuário de 40 anos manda mensagem todo dia para alguém de 13, é importante perceber isso. A Meta sabe dessas coisas e mesmo assim só se concentra em evitar responsabilidade
    De qualquer forma, é bem provável que a E2EE da Meta tenha backdoor
  • Falta base para dizer por que não seria possível ter as duas coisas ao mesmo tempo

• A Meta sabia e ignorou a nocividade de seus produtos com base em pesquisas internas. Agora que a proteção da Section 230 está enfraquecendo, temo que outras empresas tirem a lição de que “é melhor nem fazer pesquisa”
  A Meta fingia valorizar “segurança” para atrair talentos, mas na prática sempre foi crescimento em primeiro lugar
  Nos últimos anos, tanto a Meta quanto o X passaram a bloquear o acesso de pesquisadores externos e se tornaram mais fechados em relação a dados

• Multas assim só funcionam se forem grandes o suficiente para mudar o comportamento da empresa. 375 milhões de dólares, no tamanho da Meta, é só ajuste contábil

  • É uma decisão apenas do estado do Novo México. A Meta recebeu multa de até 5 mil dólares por cada uma de milhares de violações, e também há um processo semelhante sobre vício em Los Angeles
  • Sim, o Novo México é um estado pequeno, e ações parecidas devem continuar surgindo em outros estados

• Redes sociais para crianças devem ser supervisionadas diretamente pelos pais. E2EE já existe e não pode ser eliminada. Quem quiser pode criar seu próprio serviço de chat criptografado

• Esta multa equivale a cerca de 0,6% do lucro anual da Meta.
  Se os 50 estados entrarem com ações na mesma proporção, o impacto pode chegar a 30%. Se os processos envolverem valores maiores, isso pode virar uma punição histórica. É preciso expandir isso globalmente

  • Sim, por que limitar isso aos 50 estados dos EUA? O mundo inteiro deveria fazer o mesmo

• Essa multa é pequena demais. Faltam alguns zeros

  • Tecnicamente, está mais para uma taxa (fee) do que para uma multa