1 comentários

 
GN⁺ 2024-10-31
Opiniões do Hacker News
  • Apenas a correspondência de hash do Google pode ter estabelecido causa provável suficiente para a polícia obter um mandado que permitisse acessar diretamente os arquivos de Maher
    Parece muito razoável a conclusão de que o Google pode sinalizar uma conta por material de exploração sexual infantil, mas, para a polícia ver os arquivos reais, um juiz ainda precisa emitir um mandado. Também é bom que tenham levado em conta até o valor de hash

    • Isso vale daqui para frente. A condenação de Maher foi mantida mesmo tendo se baseado em uma busca sem mandado
      Porque o tribunal entendeu que se aplicava a exceção de boa-fé e aceitou a conclusão do juízo distrital de que os policiais que fizeram a busca sem mandado acreditavam de boa-fé, na época, que um mandado não era necessário
    • Tentei pensar em um exemplo realista. Não gosto da ideia de abrir mais uma brecha para acessar dados das pessoas por motivos legais, mas essa abordagem parece razoável e um objetivo que vale perseguir
      Por exemplo, talvez seja parecido com alguém ver uma caixa com exatamente o formato de uma metralhadora, avisar a polícia, e a polícia ir verificar se ela estava registrada. Isso me parece bastante razoável, mas gostaria de ouvir contra-argumentos
    • Seria assim se a polícia “quisesse ver”, mas, se ela foi informada de que o material existia, parece que a polícia não precisaria de um mandado
    • Não. O que eu mando por e-mail é assunto entre mim e Deus
    • Isso é razoável? Mesmo que o hash fosse MD5, a probabilidade de uma colisão acidental em um arquivo de imagem válido é muito menor do que a probabilidade de outras provas apresentadas ao juiz serem falsas ou terem sido mal interpretadas
  • Uma grande parte da decisão parece depender do fato de que o Google comparou hashes de imagens com hashes de imagens conhecidas de material de exploração sexual infantil, mas não exigiu que um funcionário visse as imagens reais antes de fazer a denúncia à polícia
    Se o Google tivesse confirmado visualmente que as imagens suspeitas com base no hash eram de fato aquelas, talvez não fosse necessário um mandado, mas o juiz parece ter entendido que uma correspondência de hash de imagem não é o mesmo que confirmação visual. Dependendo do método de hash, pode haver alguma dúvida sobre a possibilidade de colisão, e, em certas estratégias de hash, colisões podem ser extremamente raras ou quase impossíveis
    Claramente não é desejável exigir que um funcionário do Google veja pessoalmente material de exploração sexual infantil identificado por hashes de imagem e depois avise uma autoridade de aplicação da lei, como a polícia. Por isso, a solução prática provavelmente é a polícia obter um mandado depois de receber a denúncia e antes de solicitar os dados originais ao Google
    Na página 4, o juiz não cravou como precedente se uma correspondência de hash de imagem é causa provável suficiente para a emissão de mandado. Pessoalmente, isso me parece uma causa provável sólida, mas juízes e tribunais às vezes interpretam tecnologia de maneiras peculiares, e deixar isso para interpretações individuais pode gerar resultados conflitantes

    • Hashes usados para esse tipo de finalidade, assim como na correspondência automática de direitos autorais, não são hashes criptográficos, mas hashes perceptuais (https://en.wikipedia.org/wiki/Perceptual_hashing)
      Falsos positivos são comuns o bastante para que ataques a hashes perceptuais já estejam sendo usados para manipular resultados de mecanismos de busca. Um exemplo de artigo relacionado está em https://gangw.cs.illinois.edu/PHashing.pdf
    • As funções de hash usadas para esses fins geralmente não são hashes criptográficos. São hashes perceptuais, que permitem correspondências aproximadas mesmo com redimensionamento da imagem ou ajuste de brilho. https://en.wikipedia.org/wiki/Perceptual_hashing
      Esses hashes não têm resistência a colisões
    • Mesmo que fosse um hash criptográfico, esse tipo de quase certeza matemática é uma condição necessária, mas não suficiente. Como na criptografia usada para confidencialidade ou integridade, a matemática não garante o resultado; a implementação é o mais importante
      Por exemplo, cada item no banco de dados de hashes ilegais depende do fato de alguém ter classificado a imagem original como ilegal. Não existe uma fórmula matemática que defina imagens ilegais, e essa classificação pode estar incorreta. Também é preciso confiar na integridade do banco de dados, no aplicativo e na implementação do usuário, e até na calculadora de hash
      Se eu fosse juiz, só iria querer saber se alguém viu de fato o material de exploração sexual infantil. Pode ser uma tarefa desagradável, mas prender alguém sob acusação de material de exploração sexual infantil pode causar danos graves e destruir a vida e a reputação da pessoa mesmo sem condenação, com detenção, fiança ou espera por julgamento, e tratamento como agressor sexual de crianças
    • Parece necessário haver jurisprudência sobre quais requisitos um hash de imagem precisa cumprir para ser aceito como causa provável para a emissão de um mandado. É claro que hashes de imagem podem ser construídos de formas boas ou ruins
      Não me oponho de forma alguma à tendência de juízes pressionarem com um “por favor, obtenham um mandado primeiro”
      Também não me oponho ao Google procurar esse tipo de conteúdo em seu próprio armazenamento em nuvem. Muitas vezes não gosto da ideia de provedores de nuvem saírem vasculhando possíveis atividades ilegais, mas este caso me parece aceitável
      Por outro lado, sou fortemente contra empresas vasculharem o conteúdo dentro de dispositivos que eu possuo para detectar atividades ilegais sem causa provável e sem mandado. Da mesma forma, sou contra quase tudo o que faço nos meus dispositivos ser transmitido ampla e quase invisivelmente para a nuvem
      Em outras palavras, quero manter a custódia dos meus próprios bens, a posse física dos meus bens deve ser protegida pela Quarta Emenda, e eles também não devem ser alvo de buscas corporativas. Se eu entrego voluntariamente algo a um provedor de nuvem para que ele armazene, então buscas limitadas e denúncias necessárias às autoridades são aceitáveis. A linha de base é em cima de coisas nas mãos de quem os bits realmente existem
  • Deixando de lado a regra sobre usar o título original, gostei desta citação na primeira página da decisão
    “Hash” ou “valor de hash” é explicado como “uma string geralmente curta, gerada por meio de um algoritmo a partir de uma string de dados muito maior, como uma imagem eletrônica, e calculada de modo que seja muito baixa a probabilidade de outro conjunto de dados produzir o mesmo valor”
    Acho interessante que, para explicar o que é um hash, a referência não seja um livro didático, mas um caso da Suprema Corte. Pensando em como o sistema judicial funciona, faz sentido, mas ainda é curioso que exista uma espécie de literatura própria de ciência da computação dos tribunais
    Alguém poderia publicar um livro de CS para juízes, ensinando o máximo possível de ciência da computação apenas com jurisprudência. Pensando bem, talvez isso fosse realmente útil. Dito isso, como outros comentários apontaram, a definição de hash aqui precisa de mais nuances, especialmente em relação à “probabilidade de outro conjunto de dados produzir o mesmo valor”: é preciso distinguir hashes de redes neurais de hashes tradicionais como MD5

    • Um livro de “CS para juízes” — finalmente parece ter surgido uma forma de participação cívica que é ao mesmo tempo útil e interessante
      Ainda assim, boa parte do conteúdo necessário talvez não seja fácil de apresentar apenas com precedentes consolidados. Fico preocupado que aconselhamento direto ou dicta talvez não sejam permitidos dentro de um caso, por não fazerem parte de um procedimento adversarial. Mesmo sendo um tema de computação, uma nova carreira como perito parece bem tediosa
    • Esse livro provavelmente teria um conteúdo bem estranho, do tipo patent trolls aparecendo como se tivessem inventado todo tipo de coisa óbvia
    • Por que isso seria estranho? A literatura de ciência da computação não tem força vinculante jurídica de nenhuma forma. É natural que um juiz prefira citar decisões anteriores de colegas em vez de materiais como livros didáticos ou a Wikipedia
  • Se a ideia é que, “como as autoridades tinham uma base de boa-fé para acreditar que não precisavam de mandado no momento em que abriram o arquivo enviado, a exceção de boa-fé à regra de exclusão sustenta a rejeição do pedido de Maher para excluir as provas”, então esta condenação é mantida, mas casos futuros semelhantes sem mandado poderiam ser revertidos?

    • Essa “exceção de boa-fé” é tão absurda que é difícil acreditar que ela exista de verdade
      Espera-se que cidadãos comuns entendam e sigam rigorosamente todas as leis, mas para órgãos de aplicação da lei basta acreditar que o que estão fazendo é legal, mesmo que na verdade seja ilegal?
      Isso parece menos uma parte racional do sistema judicial e mais a punchline de uma piada do Chapelle[1]
      [1] https://www.youtube.com/watch?v=0WlmScgbdws
    • Na época, ninguém havia decidido aquela questão, então o que eles fizeram era considerado legal
      Agora existe um precedente declarando que aquilo é ilegal
      Esta decisão foi proferida mais ou menos no sentido de “vínhamos permitindo isso, mas não deveríamos, então daqui para frente não vamos permitir”
      Não sou jurista, mas essa é a melhor explicação que consigo dar. A forma como o sistema judicial se aplica à lei é extremamente complexa e inconsistente
    • Esta condenação específica, sim, deve ser mantida. Mas esta decisão não diz se condenações futuras serão revertidas
      Ela apenas significa que, em circunstâncias semelhantes, se a acusação em primeira instância obtiver provas incriminatórias sem mandado, será difícil se apoiar na exceção de boa-fé à regra de exclusão. Se o governo tentar apresentar esse tipo de prova no julgamento, o réu se opuser e ainda assim o juiz admitir, aí isso se torna um fundamento concreto para recurso
      Esta decisão apenas reforça o espírito da Quarta Emenda de que “é melhor obter um mandado”
    • Em linhas gerais, é isso mesmo
  • Não faz sentido que algumas das pessoas mais perigosas entre as que encontramos regularmente possam fazer qualquer coisa desde que acreditem que podem
    A exceção de boa-fé me parece uma das leis mais fascistas hoje nos códigos
    Em nenhum outro contexto ou profissão alguém consegue sair ileso fazendo o que quiser só dizendo “achei que podia fazer isso”. Policiais deveriam estar sujeitos a um padrão mais alto, não a nenhum padrão

    • Especialmente quando se trata da lei, uma pessoa comum violar a lei e alegar “eu não sabia que era errado” não é uma defesa válida no nosso sistema judicial
      O mesmo padrão deveria ser aplicado de forma mais rigorosa, não mais branda, a órgãos de aplicação da lei treinados. Caso contrário, é um duplo padrão
    • “Se você acha que pode, faça o que quiser e saia ileso” não é o lema do venture capital? Vêm à mente casos como Uber, AirBnB e WeWork
    • Não é isso que significa. Dá para examinar se a crença é razoável, isto é, se ela pode ser justificada por algum processo de raciocínio
      Neste caso, o argumento para aplicar a exceção de boa-fé é que a probabilidade de falso positivo de uma correspondência de hash perceptual era baixa o bastante para que fosse legítimo abrir a imagem e verificar se ela era de fato material de exploração sexual infantil. Depois, com base nessa confirmação, eles obtiveram mandados para vasculhar a conta do Gmail e a casa da pessoa
    • Leis do bom samaritano também tendem a funcionar de modo parecido
    • Não é “basta dizer que achou que podia”; é “há evidências razoáveis de que um crime está ocorrendo”
      A razoabilidade aqui é o fato de que “o Google disse isso”, e na prática estava certo
      Se a polícia recebe uma denúncia de violência doméstica, chega à casa e ouve gritos pedindo ajuda, arrombar a porta para entrar também não seria algo feito de boa-fé?
  • Eu realmente não sei como encarar a exceção de boa-fé
    Parece que ela cria um incentivo para que a polícia minimize seu entendimento da lei, porque assim pode acreditar que está cumprindo a lei

    • Exatamente. Na prática eles fazem isso, e é por isso que muitos policiais sabem menos sobre a lei do que um cidadão aleatório
      Em uma sociedade melhor, manteríamos um padrão elevado de conhecimento esperado de policiais e exigiríamos, como requisito de contratação, algo como um diploma de quatro anos em justiça criminal ou pré-direito. Em vez de impor um teto de QI ou preferir experiência prévia em praticar violência
    • Não é tão frouxo assim. Ela se limita a situações em que uma pessoa razoável, conhecendo exatamente o que dizem a lei e os precedentes existentes, poderia concluir que uma determinada conduta é legal
      Neste caso, outros tribunais federais de apelação já haviam considerado condutas semelhantes legais
    • A exceção de boa-fé exige que a crença seja razoável. Desconhecer uma lei claramente estabelecida não é razoável
      É preciso que a lei fosse incerta, que houvesse interpretações conflitantes, ou que uma pessoa razoável pudesse interpretá-la da forma como a polícia interpretou
  • O problema da internet hoje é que algumas gigantes estão criando suas próprias leis
    Muitas vezes elas entram em conflito até com leis locais, mas ninguém consegue enfrentá-las. Por exemplo, alguém cria um conteúdo, outra pessoa faz upload dele, recebe uma pontuação maior e o autor original acaba bloqueado. Ou crianças tocam em um concerto de violino e o áudio é removido por suspeita de violação de direitos autorais. Não há como recorrer, e nenhuma pessoa sensata levaria isso aos tribunais. Simplesmente fica por isso mesmo

  • A Quarta Emenda não ajudou aqui. Não sei se isso é ruim ou bom.
    Ainda assim, 25 anos de prisão por posse de material de exploração sexual infantil é pesado.

    • A pena é severa não pelo ato em si de guardar fotos, mas pelos danos individuais e sociais causados pelo consumo desse tipo de conteúdo.
  • Há um trecho dizendo que “a doutrina da busca privada permite que agentes do governo repitam, sem obter um mandado, uma busca já realizada por um particular”.
    Não sou jurista, mas isso quer dizer que, se alguém invadir minha casa para procurar drogas, encontrar e roubar uma parte, depois for pego pela polícia e confessar tudo, a polícia poderia então revistar minha casa sem mandado?

    • Também não sou jurista, mas, pelo que li, os tribunais tratam buscas em residências com especial cautela sob a Quarta Emenda.
      Pelo menos um tribunal de apelação freou a aplicação da jurisprudência sobre busca privada a espaços de moradia, e esse caso envolvia um quarto de hotel[0].
      Diferentemente do pacote em Jacobsen, o quarto de motel de Allen não era um objeto contendo apenas contrabando, mas uma moradia temporária com pertences pessoais. Allen tinha um interesse legítimo e significativo de privacidade em relação ao conteúdo do quarto de motel, e esse interesse de privacidade como um todo não foi violado apenas porque o gerente do motel viu parte dele. Jacobsen, que mediu o escopo de uma busca privada em relação a um pacote postal, tinha fatos diferentes, e este tribunal afirmou que não estenderia essa decisão a casos de busca privada em residências.
      Então, nesse cenário hipotético, acho que a polícia poderia examinar “suas drogas” apreendidas com o ladrão e, com base nisso, solicitar um mandado de busca para a casa, mas uma busca sem mandado seria ilegal.
      [0] https://casetext.com/case/us-v-allen-167
    • Imagino que a própria busca privada precise ser legal.
  • “Isso não significa, porém, que Maher tenha direito a reparação em relação à sua condenação. Como o tribunal distrital decidiu corretamente em caráter alternativo, quando as autoridades abriram os arquivos enviados por ele, havia uma base de boa-fé para acreditar que um mandado não era necessário; portanto, a exceção de boa-fé à regra de exclusão sustenta a rejeição do pedido de Maher para suprimir as provas.”
    “O réu foi condenado no Tribunal Distrital do Norte de Nova York, após declarar-se culpado das acusações de receber e possuir aproximadamente 4.000 imagens e 5 vídeos retratando material de exploração sexual infantil.”
    Uma vitória para o Google, para o sistema judicial dos EUA e para os direitos constitucionais, e uma derrota para um abusador de crianças.

    • Os direitos constitucionais não venceram plenamente. Deveria ser algo como: se os direitos constitucionais são violados, o réu deve obrigatoriamente ser solto, ponto final.