- Varredura no lado do cliente é uma forma de inspecionar mensagens ou arquivos no dispositivo antes da criptografia
- Esse método é promovido com o objetivo de proteger crianças, mas na prática compromete a promessa central da criptografia
- São usadas ferramentas de detecção com alta probabilidade de causar falsos positivos e vulnerabilidades de segurança
- Uma vez que a varredura é permitida, há expansão do escopo alvo, aumentando o risco de violação de privacidade
- Como resultado, essa tecnologia enfraquece a segurança de todos
O que é a varredura no lado do cliente (CSS)
- A varredura no lado do cliente é um método de inspecionar mensagens, fotos e arquivos do usuário no dispositivo antes da criptografia
- Esse método costuma ser promovido como uma medida de segurança infantil
Comprometendo a promessa da criptografia
- Na prática, a varredura no lado do cliente enfraquece as promessas de segurança e privacidade oferecidas pela criptografia
- Ferramentas para detectar conteúdo "desconhecido" têm alta probabilidade de gerar falsos positivos e podem criar novas vulnerabilidades de segurança
Risco de ampliação do escopo de aplicação
- Mesmo que no início seja usada para fins limitados, como proteção infantil (ex.: CSAM), depois o escopo do conteúdo submetido à varredura pode ser facilmente ampliado
- Se a criptografia for enfraquecida, aumentam diversos riscos, como hackers roubando informações sensíveis, agressores rastreando pessoas vulneráveis e vigilância por Estados autoritários
Enfraquecimento real da segurança
- A varredura no lado do cliente apresenta pouco efeito real no fortalecimento da segurança
- O resultado é o enfraquecimento da segurança de todos
1 comentários
Comentário do Hacker News
Gosto de comparar isso a instalar câmeras de vigilância em todas as casas: na prática, realmente ficaria mais fácil detectar ou investigar crimes, e o governo poderia até prometer, de mindinho, que nunca olharia sem mandado, podendo inclusive cumprir essa promessa de fato. Mas essa ladeira escorregadia perigosa é só parte do problema. O mais perigoso é que, enquanto um sistema desses existir, independentemente de como ele seja usado na prática, ele se tornará um dos alvos mais valiosos para organizações criminosas ou hackers de Estados hostis. Isso abre espaço para todo tipo de abuso, como espionagem, chantagem e mais, comprometendo gravemente a privacidade e a segurança.
Há um motivo para terem incluído cláusulas de imunidade para si mesmos. Talvez seja porque não consideram isso seguro, ou porque acham que também poderia ser usado para esconder questões relacionadas a abuso infantil entre deputados do Parlamento Europeu. Chegamos a um ponto em que nem deveria ser necessário explicar, uma por uma, as razões para se opor a isso. Acho que é preciso responsabilizar os membros do Parlamento Europeu e, se isso não acontecer, então responsabilizar a UE como um todo. E, se nem isso for possível, então a UE não tem legitimidade para esse tipo de lei. No fim, talvez seja preciso voltar à lógica de responsabilização no nível dos Estados nacionais.
Não acho apropriado comparar isso a vigilância por câmera dentro de casa. A casa é quase minha propriedade, então, se alguém colocar uma câmera, eu posso cobri-la ou removê-la. Se eu fosse preso por fazer isso, o mundo já seria uma distopia por si só. O celular é diferente: basicamente o usuário não o possui por completo. O bootloader é bloqueado, não é possível executar livremente o código que quiser, e existe uma app store que determina o que você pode instalar. No fim das contas, Apple/Google podem impedir o uso de um app pela app store.
Uma comparação mais realista seria o sistema ECHELON. Desde 1971, os países dos 5 eyes fazem vigilância em massa e varredura de comunicações. Acho que o motivo de você não gostar dessa comparação é porque quer criar um senso de urgência como se isso fosse um fenômeno novo. Tudo o que você teme já foi comprovado na prática há muito tempo.
Se a UE, que se apresenta como bastião dos direitos humanos, levar adiante uma lei dessas, fico me perguntando com que argumento poderemos nos opor quando países mais autoritários exigirem exatamente a mesma coisa de Apple, Google e Meta.
Não acho que a UE vire um bastião dos direitos humanos só por ser menos grave do que outras regiões. Como em qualquer lugar do Ocidente, há sempre uma disputa de poder em curso.
A questão é: você não se pergunta por que eles mesmos se posicionam como esse símbolo dos direitos humanos? Acho que é porque repetiram isso tantas vezes que agora todo mundo acredita.
Queria perguntar por que não fazem primeiro um projeto-piloto. Que tal tornar totalmente públicas todas as comunicações entre os parlamentares da UE? A ideia seria todos nós testarmos a quebra dessa criptografia.
Acho que muitas pessoas fora da UE tratam esse tema como se fosse apenas um problema europeu.
Ylva Johansson, a idealizadora desta proposta, não foi para a UE por ser popular na Suécia, mas sim indicada pelo governo social-democrata em 2019, e os comissários, para começar, nem são eleitos por voto. Em Bruxelas, o que importa é lealdade ao partido, décadas de experiência ministerial, equilíbrio de gênero e coisas do tipo. Na prática, os governos nacionais usam a UE como um “estacionamento” para políticos que perderam popularidade em casa. Agora ela é conhecida acima de tudo pela proposta do 'Chat Control', o que só reforça a ironia de uma política impopular em seu próprio país liderar uma das políticas mais controversas da UE.
Sempre que vejo uma lei dessas, fico em dúvida se quem a criou não sabe que, para grampear uma única pessoa, no fim é preciso tornar fácil vigiar todo mundo, se não se importa com isso, ou se esse sempre foi o objetivo.
Antes houve uma proposta de obrigar o governo a participar de todas as salas de conversa, e esta até parece um pouco mais razoável do que aquilo.
Acho irônico que as pessoas apliquem aos políticos o princípio de “não atribua à malícia o que pode ser explicado pela incompetência”. Políticos podem usar o orçamento e os talentos que quiserem, além de contarem com análises de especialistas de todas as áreas. Num ambiente desses, acho que na prática quase ninguém poderia ser incompetente. O que vemos, no fim, não é incompetência, mas conflito de interesses, e um cabo de guerra entre o que eles querem e o quanto de concordância conseguem arrancar dos cidadãos.
Os políticos não resolvem diretamente os problemas técnicos; a função deles é decidir o que consideram melhor para a sociedade como um todo. Pensar que “se quebrarmos a criptografia só para criminosos, todo mundo ficará mais seguro” não é irracional em sua base. O problema é que isso é impossível. Mas, para políticos, criptografia é praticamente “mágica”. Eles não sabem que algo é inviável na prática. O mesmo acontece com a mudança climática: pensam que “os cientistas simplesmente deveriam conseguir remover o CO2 da atmosfera”. Não entendem o processo da solução, mas acham que é possível, como se fosse um feitiço.
A discussão sobre a própria abordagem de análise de texto ainda continua e não foi totalmente descartada.
Na prática, muitas leis são apresentadas aos parlamentos nacionais quase como cópias de “leis-modelo” propostas por grupos como comitês de ação política. É também por isso que vários estados dos EUA apresentam ao mesmo tempo textos idênticos.
O partido decide internamente em quais projetos votar, e às vezes uma proposta perigosa até é barrada na comissão, como proibições totais de vacinas mRNA ou leis exigindo apenas sangue de não vacinados.
O andamento de projetos nas legislaturas estaduais pode ser visto aqui e, no Congresso federal, aqui.
Por exemplo, o projeto HR 22 tem só duas páginas, mas deixa claro quem está tentando bloquear o voto federal. Na prática, estrangeiros já são proibidos de votar em eleições federais. Apenas 5 estados emitem Enhanced Driving License. Em resumo, há vários grupos que podem acabar privados do direito de voto, como pessoas trans, não cidadãos, mulheres que adotaram o sobrenome do marido após o casamento, pessoas que mudaram de nome e pessoas que não conseguem arcar com o custo de emitir passaporte.
A lógica de quebrar a criptografia para acabar com crimes e com o compartilhamento de CSAM não funciona e só prejudicará cidadãos que cumprem a lei. Criminosos poderão continuar usando, sem dificuldade, formas reais de criptografia, mesmo que se tornem ilegais. A UE sabe muito bem disso. Sempre usam “proteger as crianças” como justificativa, mas o verdadeiro objetivo é vigilância.
Um ponto pouco mencionado no debate da UE sobre o "Chat Control" é que essa lei se aplicaria apenas a certas "plataformas".
Ou seja, chats criptografados que não passem por plataformas de terceiros, como a Meta, ficariam na prática fora do escopo da lei.
Se alguém acha que não é possível ter chat pela internet sem terceiros, então já enfrenta uma barreira de privacidade ainda pior do que o próprio Chat Control da UE.
Acho que, mais do que comentários de fórum atacando frontalmente a política da UE, o contexto maior é que a UE está, no fim das contas, regulando as Big Techs.
Esta proposta pode atingir a Meta, e isso provavelmente levará a uma campanha pública de desinformação direcionada.
Na prática, (a) usar um terceiro como a Meta já cria por si só uma grande brecha para vigilância governamental, e (b) quem realmente vigia não é o governo, mas a Meta.
A UE continua multando a Meta por ignorar a privacidade e lucrar com um modelo de negócios baseado em surveillance. Para conversas privadas, acho difícil haver escolha pior do que a Meta.
O projeto de Chat Control, na verdade, não mira pessoas preocupadas com privacidade. Essas sempre encontrarão um meio de continuar usando criptografia; a base matemática disso não pode ser apagada por lei, e projetos open source também não vão desaparecer.
Essa lei acaba institucionalizando uma realidade em que as pessoas “comuns”, do mainstream, vivem se autocensurando por saber que alguém pode estar ouvindo. Só as pessoas normais perdem ferramentas; os workarounds já conhecidos continuam disponíveis.
Toda vez que aparece uma proposta dessas, desejo sinceramente que seja enterrada de vez. É cansativo demais ver isso voltar à vida como um zumbi a qualquer momento.