Apple se livra da responsabilidade por não escanear CSAM no iCloud

• O tribunal entendeu que a alegação de que a Apple não detectou material de abuso sexual infantil (CSAM) armazenado e compartilhado por usuários no iCloud buscava responsabilizá-la como publicadora de conteúdo de terceiros, reconhecendo a imunidade com base na Seção 230 da Lei de Decência nas Comunicações
• A implantação do PhotoDNA ou do NeuralHash está diretamente ligada à moderação de conteúdo — monitoramento e denúncia —, portanto o tribunal decidiu que não é possível contornar a Seção 230 enquadrando isso como defeito de projeto
• Mesmo que a Apple soubesse da possibilidade de circulação de CSAM no iCloud, isso não afetaria a imunidade; e, se a empresa não identificou CSAM, tampouco surgiria a obrigação de denunciar ao NCMEC
• Ao rejeitar a terceira petição emendada, o tribunal manifestou preocupação de que a lei atual não exija detecção proativa pelas empresas e, por isso, não proteja as vítimas; afirmou que cabe aos legisladores decidir se isso deve se tornar obrigatório
• Como uma obrigação de escanear CSAM poderia comprometer a privacidade de milhões de pessoas e a criptografia de ponta a ponta, o governo deveria priorizar encontrar e processar criadores, distribuidores e baixadores de CSAM, em vez de enfraquecer a criptografia

---

Mudança na política da Apple para detecção de CSAM

• A Apple desenvolveu sua própria tecnologia, NeuralHash, em vez de usar o PhotoDNA para examinar arquivos enviados por usuários a áreas privadas de armazenamento do iCloud, mas depois retirou seu plano de escaneamento de CSAM na nuvem
• Em vez disso, introduziu criptografia de ponta a ponta para arquivos do iCloud
• Essa mudança de política confundiu o público e manteve a pressão de governos e vítimas de CSAM, já que a Apple havia demonstrado voluntariamente uma forma de intervenção mais ativa

Alegações e tramitação do processo

• Os autores alegaram que a não implementação, pela Apple, de recursos para detectar CSAM conhecido constituía defeito de projeto
  • O argumento era que a Apple continuava sem adotar um recurso que poderia implementar com segurança para impedir a disseminação de CSAM já conhecido
• O tribunal rejeitou a terceira petição emendada, deixando o caso em estágio apto a seguir para a Corte de Apelações do Nono Circuito
• O caso é Amy v. Apple Inc., 2026 WL 2031817, decidido pelo Tribunal Federal do Distrito Norte da Califórnia em 13 de julho de 2026
  • A petição inicial também está disponível publicamente

Imunidade sob a Seção 230 da Lei de Decência nas Comunicações

• Os causadores diretos dos danos aos autores foram usuários terceiros que compartilharam CSAM via iCloud, e a Apple não aprovou nem bloqueou expressamente esse uso
• A obrigação exigida pelos autores era que a Apple impedisse a distribuição de conteúdo de terceiros, algo decorrente da posição de publicadora da Apple
• Para evitar a responsabilidade, a Apple teria de examinar conteúdo e decidir se ele poderia circular; portanto, a própria medida exigida corresponde ao papel de publicadora
• Com isso, o tribunal concluiu que a Seção 230 se aplica a todas as alegações dos autores e que a Apple recebe imunidade total
• Mesmo assumindo, como em mensagens internas, que a Apple soubesse da possibilidade de suas ferramentas do iCloud serem usadas para distribuir material de abuso sexual infantil, o conhecimento geral do réu não altera a imunidade atual da Seção 230

Adoção do PhotoDNA também é moderação de conteúdo

• Para operar uma ferramenta de detecção de CSAM, é preciso revisar conteúdo a fim de determinar se um arquivo é CSAM
• O PhotoDNA, usado por concorrentes da Apple, e o NeuralHash da Apple foram projetados para monitorar e denunciar imagens infratoras enviadas aos servidores das empresas
• Decidir qual ferramenta implantar também está ligado à moderação de conteúdo, portanto a Apple não pode ser responsabilizada com base em uma decisão de projeto que poderia ter escolhido
• Se a Apple não identificou CSAM desde o início, também não havia nada a denunciar ao NCMEC, de modo que não se configura violação de dever de denúncia

Diferenças em relação a precedentes que contornaram a Seção 230

• Os autores tentaram aplicar a nova exceção reconhecida em Doe v. Twitter, mas o argumento não foi aceito
  • O Twitter poderia corrigir falhas em sua infraestrutura de denúncias sem monitorar ou remover conteúdo de terceiros
  • Já a Apple, para criar salvaguardas contra CSAM, teria de monitorar diretamente conteúdo de terceiros com NeuralHash ou PhotoDNA
• Lemmon v. Snap também não se aplica
  • Ao contrário daquele caso, não há alegação de que a Apple tenha criado conteúdo, como um filtro do Snapchat, que causou o dano; todas as alegações estão inseparavelmente ligadas a conteúdo de terceiros
• Tampouco se configura uma forma de contorno baseada em Roommates.com
  • Isso porque não há alegação de que a Apple tenha modificado ou ampliado CSAM em seus servidores

Lacuna legal que preocupou o juiz

• A lei atual não impede que a Apple e outras empresas usem ou desenvolvam tecnologias para identificar e denunciar material de abuso sexual infantil armazenado ou distribuído em servidores ou na nuvem
• Ao mesmo tempo, também não há lei que imponha às empresas a obrigação de adotar proativamente essas medidas
• Medidas voluntárias das empresas são insuficientes para impedir a circulação de CSAM; se a intenção é exigir uma resposta da Apple e de outras empresas, os legisladores devem tornar isso obrigatório por lei
• No entanto, uma lei assim poderia causar pelo menos algum grau de perda de privacidade para milhões de pessoas

O custo para a criptografia de ponta a ponta

• Embora a decisão mencione criptografia apenas duas vezes, a criptografia de ponta a ponta é um elemento central da mudança de política da Apple
• Obrigar o escaneamento de CSAM no iCloud exigiria quebrar a criptografia de ponta a ponta aplicada a todos os usuários e a todos os fins
  • Agentes mal-intencionados que queiram interceptar arquivos privados para fins criminosos poderiam explorar isso
  • Atores governamentais também poderiam invadir repositórios de arquivos privados para distribuir ou instrumentalizar materiais
• Imagens sensíveis, privadas ou relacionadas a abusos poderiam ser interceptadas e divulgadas sem consentimento, criando novas vítimas
• A criptografia de ponta a ponta não é um recurso opcional de conveniência, mas um elemento essencial da arquitetura técnica que sustenta a segurança das pessoas

O conflito entre a realidade das vítimas e a lei atual

• A decisão não se baseou em saber se a escolha da Apple contribuiu para os danos, mas em se todas as alegações tratavam a Apple como publicadora de conteúdo de terceiros
• Isso não significa que as vítimas não tenham sofrido danos reais e contínuos
  • As vítimas alegam que cenas de abuso sexual sofrido na infância foram registradas e que sofrem novos danos cada vez que essas imagens e vídeos são repetidamente armazenados e distribuídos no iCloud
• Ganha força a crítica de que a Corte de Apelações do Nono Circuito ampliou o alcance da Seção 230 para um nível de imunidade funcional, mesmo quando empresas de internet sabiam ou deveriam saber da existência de conteúdo ilegal
• Em uma realidade em que dados pessoais, incluindo informações financeiras e de saúde, são armazenados e transmitidos online, a privacidade é importante; mas permanece o problema de criadores, consumidores e distribuidores de CSAM usarem a proteção da privacidade para escapar de investigações
• O sistema jurídico atual não oferece meios para proteger as vítimas abrangidas pela ação coletiva, que acabam arcando com os danos colaterais de um ambiente legal ineficiente

Prioridades regulatórias

• O núcleo do enfrentamento ao CSAM é o governo encontrar e processar criadores, distribuidores e baixadores
• A principal prioridade deve ser garantir que o governo realize as investigações e acusações possíveis
• A destruição da criptografia de ponta a ponta não deve fazer parte dos instrumentos regulatórios

[GN⁺]

Opiniões no Hacker News

• Legisladores e alguns grupos pressionam por vigilância, varredura e até verificação de identidade para combater material de abuso sexual infantil (CSAM), mas parecem fazer muito pouco pela prevenção do abuso sexual infantil (CSA) em si
  A repressão ao CSAM só funciona depois que o abuso já ocorreu; muitas prisões acontecem por posse ou distribuição, mais do que pelo abuso real; e isso vem se expandindo até para obras fictícias, como histórias e imagens geradas por IA. Se esse tipo de tecnologia for aplicado a discurso político ou a materiais indesejados pelo governo, o problema se torna grave, e estados conservadores poderiam até proibir toda pornografia sob o argumento de que ela incentiva prostituição, estupro e CSA
  Do lado do CSA, faltam educação preventiva e proteção infantil; paradoxalmente, igrejas e os Scouts, que tiveram escândalos de abuso no passado, são os que implementam medidas preventivas de forma mais ativa. Checagens de antecedentes não impedem réus primários nem pessoas que nunca foram pegas, e os registros de criminosos sexuais também incluem gente aparentemente sem relação com CSA, como um conhecido que foi registrado depois de urinar na rua a menos de 500 pés de um parquinho de madrugada
  No fim, em vez de proteger crianças com base em dados, parece que se ampliam gradualmente punições extremas que o público deseja e se empurram apenas soluções grosseiras e fáceis, como exigir varredura e documento de identidade para usar a internet

  • Acho que o cerne não é CSAM. Em várias questões sociais, incluindo posse de armas, dizem que vão restringir, licenciar ou proibir algo “pelas crianças”, mas, se fosse uma abordagem baseada em dados, o foco estaria em serviços de saúde comportamental infantil, prevenção de suicídio etc.
    A tecnologia usada para identificar CSAM também pode encontrar arquivos protegidos por copyright ou materiais que não apoiem o governo atual. A criptografia de ponta a ponta (E2EE) aumenta muito o custo da vigilância em massa, por isso o governo dos EUA vem se opondo a ela há 30 anos
  • CSAM é um cavalo de Troia para enfraquecer a privacidade em todos os domínios. Se políticos ou empresas se opõem em nome da proteção da privacidade, é fácil que a reputação deles seja destruída primeiro
    Enquanto isso, há também o problema de que os pedófilos reais são pessoas ricas que frequentam resorts famosos
  • O problema de CSAM é real, mas também é explorado politicamente. Pelo que ouvi ao trabalhar com órgãos policiais, as coleções tendem a crescer cada vez mais e a escalar para ações reais, e os detetives encarregados também não aguentam muito tempo por causa do impacto desses crimes horríveis
    Como em outras formas de violência sexual, é um crime que combina desejo de controle e dopamina, e líderes de igrejas e dos Boy Scouts usaram influência social e poder para exigir até submissão e lealdade das vítimas. A organização Boy Scouts estava entranhada em estruturas de poder existentes, como igrejas e polícia, então era difícil para uma criança de 11 anos denunciar uma figura local respeitada, e o agressor também fazia a vítima sentir que era cúmplice. Mesmo quando a vítima se manifesta, é difícil obter uma condenação e ela fica exposta à vergonha pública; por isso, muitas vezes se fazem acordos de culpa por acusações mais leves para proteger a vítima
    Eu não fui vítima direta, mas o líder dos Boy Scouts da paróquia que eu frequentava era um agressor reincidente que abusou de dezenas ou centenas de pessoas, e depois descobri que alguns dos meus amigos quase certamente também foram vítimas. Na época, todos os que tinham autoridade ignoraram isso
  • Na Suécia, um registro pré-crime ao estilo Minority Report voltado a potenciais agressores sexuais de crianças será de fato implementado, e já existe uma lista de potenciais autores de violência doméstica. Quero sair deste país antes que piore ainda mais
  • O agressor de CSA quase sempre é alguém conhecido, e ouvimos menos notícias de prisões porque, mesmo quando há provas claras, as pessoas acreditam que aquela pessoa jamais faria isso. A proporção da população que de fato abusa de crianças pode ser chocantemente alta, mas ninguém quer encarar de frente essa realidade desconfortável
    Talvez eu esteja especialmente cínico hoje, mas, olhando para as coisas que aconteceram com pessoas que conheço a vida toda, passei a acreditar que isso é muito comum

• É difícil entender a visão de que a Apple não está do lado da privacidade. Ela está longe de ser perfeita, mas, comparada a outras grandes empresas de tecnologia, está em outro patamar, e talvez fosse até mais fácil para ela não tomar medidas como essa

  • A Apple abriu a caixa de Pandora com a varredura no lado do cliente. Criou um precedente de que isso é tecnicamente possível e “preserva a privacidade”, mas, se a mesma tecnologia for usada para encontrar e perseguir opositores políticos ou religiosos, eles não verão isso como proteção da privacidade
    No fim, a Apple forneceu um exemplo de como escanear todas as mensagens e materiais enquanto afirma manter a privacidade
  • A Apple só fica do lado da privacidade quando isso ajuda no marketing. Para continuar promovendo o iCloud como “seguro e privado”, tentou construir e normalizar a varredura de conteúdo no lado do cliente
    É ótimo quando os interesses da Apple se alinham aos nossos, mas não devemos atribuir altruísmo a uma empresa de cerca de US$ 5 trilhões
  • A Apple é parecida com o WhatsApp. Mesmo que não dê para confiar plenamente em E2EE contra atores estatais, é fato que ambos tentaram aumentar um pouco a privacidade no mundo
    No desktop existe Linux utilizável, mas em smartphones, por causa do Google, migrar para o GrapheneOS faz inúmeros apps não funcionarem ou quebrarem a cada poucos meses. Mesmo para pessoas familiarizadas com tecnologia, reduzir a vigilância do Android é muito inconveniente, e o Google piora a plataforma a cada lançamento
    Graças à “segurança” do Google, dá para usar apps bancários em um aparelho de 9 anos que ficou sem atualizações de firmware por 6 anos, mas não no GrapheneOS
  • A Apple piorou a privacidade online com o particionamento de armazenamento com privilégio para cookies do Safari. Funcionalidades de sites que usam localStorage privado são prejudicadas, e web apps do mesmo site que usam vários subdomínios às vezes precisam vazar dados pela rede
    No Firefox e no Chrome, é possível compartilhar estado local de forma privada e offline, mas em geral acaba-se usando cookies para também dar suporte ao Safari. A Apple só apoia a privacidade quando há benefício financeiro
  • Concordo que a Apple tem vantagem em privacidade, mas isso vem se enfraquecendo gradualmente. Ela começou a trazer anunciantes para dentro de seu ecossistema fechado, e o negócio de publicidade está crescendo a ponto de ser difícil ignorar. No futuro, vai piorar ainda mais, até que um dia o governo dos EUA apareça com um cheque enorme e a situação mude

• Considero que a verdadeira criptografia de ponta a ponta é impossível se os servidores onde os dados são armazenados e o aplicativo forem operados pela mesma empresa, o app for de código fechado e puder, a qualquer momento, descriptografar e processar os dados baixados.
  Proton, MEGA e outros também só são úteis enquanto a empresa optar por não abusar da função de descriptografia local. É pelo mesmo motivo que desconfio de E2EE baseada na web, em que o operador do site pode alterar o código JavaScript como quiser.

  • Além do marketing de privacidade, E2EE ajuda empresas que operam globalmente a evitar dores de cabeça quando recebem uma intimação em algum lugar remoto.
    NSA, GCHQ ou Mossad provavelmente teriam como extrair dados não criptografados, mas E2EE proprietária ainda é benéfica para a maioria. Isso porque o risco muda de “a maioria das agências de aplicação da lei do mundo poderia, em tese, ver minhas mensagens” para “posso me tornar alvo do Mossad”. No lugar onde moro, o equivalente ao FBI nem quer gastar dinheiro com uma licença da Cellebrite, então isso é especialmente vantajoso.
    https://www.usenix.org/system/files/1401_08-12_mickens.pdf e https://arstechnica.com/gadgets/2025/10/leaker-reveals-which... também valem a leitura. O motivo de a Meta apoiar varreduras e querer remover E2EE das mensagens do Facebook é captura regulatória; Zuckerberg quer o privilégio de “proteger” crianças e eliminar concorrentes “inseguros”.
  • Esse argumento entende mal o sistema subjacente. Não é uma arquitetura em que o provedor do serviço promete não descriptografar os dados que possui; é uma arquitetura em que ele promete não inserir uma nova chave no escopo de confiança para poder começar a descriptografar depois.
  • O problema só surge quando a empresa engana os usuários e coloca um backdoor no aplicativo de front-end. Se a empresa já for enganosa desde o início, nenhuma tecnologia de criptografia tem valor.
  • Tecnicamente, é perfeitamente possível. A propriedade do servidor e o envio de chaves ao servidor são coisas separadas, e a maioria dos apps com E2EE opera tanto o cliente quanto o servidor. O ponto central é se a empresa já teve acesso às chaves.
  • A MEGA não tem esse problema. Se você não fizer login em mega.nz pelo site e usar um app de terceiros, está tudo bem; a MEGA também oferece um SDK difícil de controlar ou manipular sem que o usuário perceba.

• A lei dos EUA tem o paradoxo de tornar a conduta B ilegal para impedir o crime A. Por exemplo, se A é abuso sexual real de crianças, B é posse e distribuição de CSAM; se A é tráfico de drogas ou sonegação fiscal, B é saque fracionado de dinheiro em espécie.
  Quanto mais rigidamente B é coibido, mais difícil fica detectar A, e mais difícil também é usar B como prova de A. Pelo que sei, alguém pode ser condenado por acusações relacionadas a CSAM por desenhos ou obras de personagens fictícios, mesmo que não tenha havido nenhum ato real envolvendo uma pessoa existente; e saques fracionados sem qualquer relação com crime também podem ser punidos.

  • Nos EUA, pelo menos no caso de desenhos, isso não é necessariamente verdade, e CSAM gerado por IA provavelmente também terá dificuldade para ser aceito em tribunal.
    É ingênuo ver a lei apenas como um “sistema utilitarista para compensar o dano causado por um indivíduo a outro”. Isso se aproxima mais de ilícitos civis do que de crimes, e o direito penal também serve para impor costumes e normas sociais, tanto quanto para lidar com danos entre indivíduos. O motivo de o Canadá proibir todo CSAM, incluindo material fictício, é que ele vê a própria sociedade como vítima.
  • Não acho que os dois sejam iguais. Ao criminalizar CSAM, as autoridades podem fechar mercados e impedir a distribuição comercial. O abuso sexual infantil em si já é abominável, mas abuso com fins lucrativos é ainda mais grave.
  • A divulgação de imagens sexuais sem consentimento é um dano separado, e há forte consenso social de que isso é crime. Pornografia de vingança também é crime, e é desejável que material de exploração sexual infantil possa ser processado sem que a criança precise apresentar queixa diretamente, ao contrário de casos envolvendo adultos.
  • Pelo menos nos EUA, conteúdo fictício é legal mesmo que retrate menores de forma sexualizada: https://en.wikipedia.org/wiki/Ashcroft_v._Free_Speech_Coalit...
    Houve algumas condenações com base em conteúdo fictício, mas, em geral, o réu também possuía CSAM real, então não havia benefício prático em contestar separadamente as acusações relativas às imagens fictícias.
  • Se o saque foi feito com a intenção de evitar a comunicação de transações em moeda, isso se torna crime mesmo que o método real de saque não se enquadre como transação estruturada. O status jurídico de representações fictícias de CSAM também ainda continua sendo discutido nos tribunais.

• É lamentável a avaliação do juiz de que as crianças vítimas acabaram ficando como “dano colateral” da proteção à privacidade, mas criptografia de ponta a ponta significa que a varredura de CSAM é impossível
  Como alternativa, a Apple tentou fazer varredura no próprio dispositivo e recebeu fortes críticas. É um compromisso infeliz, mas não vejo alternativa além de priorizar a privacidade

  • Também é possível enviar material horrível pelo correio, mas o governo não chegou ao ponto de ler todas as cartas dizendo que procuraria ideias erradas
    Só porque é tecnicamente possível criar uma rede de vigilância total que destrói a privacidade, isso não significa que ela deva ser criada. Se celulares existissem há 250 anos, os fundadores dos EUA certamente teriam considerado o conteúdo dentro deles documentos pessoais que não poderiam ser vasculhados sem mandado
  • Crianças são usadas com frequência como arma para violar a privacidade e a liberdade de expressão, e raramente quem empurra isso adiante está de fato preocupado com elas
  • É, na verdade, muito preocupante que o juiz pareça querer uma lei que obrigue empresas a violar a privacidade dos usuários. A varredura no lado do cliente é tão perigosa quanto um backdoor de criptografia, e houve bons motivos para a Apple ter sido criticada apenas por considerar isso: https://arxiv.org/abs/2110.07450
  • No longo prazo, acho que a varredura de CSAM em comunicações privadas não será eficaz. No começo, pegaria muitos abusadores, mas eles não são burros; reconstruiriam suas redes e, no fim, passariam a compartilhar por entrega direta de mídia física
    A prioridade máxima deve ser sempre prevenir a produção de CSAM em si. É preciso oferecer educação sexual abrangente desde cedo, para que as crianças reconheçam grooming e peçam ajuda a adultos de confiança mesmo quando o agressor for alguém da família. É preciso melhorar as escolas para reduzir o apelo do homeschooling, verificar também se crianças educadas em casa estão socialmente isoladas e investir muito mais recursos em investigações de campo
    Isso não significa que homeschooling seja abuso infantil; significa que, nesse ambiente, faltam mecanismos para detectar abuso
  • Fico curioso se o juiz também seria a favor de empresas entrarem aleatoriamente nas casas das pessoas para inspecionar preventivamente seus pertences e fotos inadequadas. Só é mais difícil de executar; conceitualmente é a mesma coisa
    Não é diferente da lógica de que, se a inspeção for feita escondida quando não houver ninguém, ninguém vai perceber, então não há problema

• É uma vitória da privacidade e da liberdade

• Como criador do mediaden.ca, pensei muito sobre isso, mas, mesmo que a varredura no lado do cliente possa ser só um pouco melhor que a varredura no lado do servidor, ambas levam à corrupção da privacidade
  O governo deve capturar criminosos, mas não à custa de todas as outras pessoas: https://mediaden.ca

• Acho que o desenho da Apple não era escanear no armazenamento do iCloud, mas sim verificar no próprio dispositivo no momento em que o arquivo fosse enviado ao iCloud. Se for assim, isso é compatível com o Advanced Data Protection, então pode ser que a Apple não tenha dado uma guinada brusca, e que o ADP já estivesse planejado
  Pelo contrário, é possível que a Apple, no processo de adoção do ADP, tenha previsto as preocupações de órgãos governamentais e proposto o NeuralHash como meio de alcançar criptografia de ponta a ponta. O desenho em si era elegante e oferecia proteções de privacidade e salvaguardas muito mais fortes que as da Microsoft ou do Google, mas a comunicação da Apple foi péssima e provocou uma enorme reação negativa. Não quer dizer que eu apoie a implementação, mas era muito melhor que a abordagem dos concorrentes

  • O iCloud E2EE da Apple existia muito antes do trabalho no NeuralHash
  • A varredura obrigatória no lado do cliente usando um banco de dados opaco, cheio de itens que não podem ser verificados, torna sem sentido uma parte considerável das proteções oferecidas pelo ADP. O simples fato de a Apple ter cogitado essa ideia desde o início já era absurdo

• A Apple lidou muito mal com a resposta ao caso de CSAM. Talvez isso tenha tirado “Hair Force One” da lista de possíveis sucessores ao cargo de CEO

• Não sou advogado, mas entendo que a varredura era possível porque não era obrigatória, então não gerava um problema com a Quarta Emenda da Constituição dos EUA