Vigilância não é segurança: declaração sobre a mais recente ameaça à privacidade no Reino Unido [pdf]
(signal.org)- Exigir que todo o conteúdo de todos os dispositivos vendidos ou usados no Reino Unido seja escaneado com base em critérios de detecção de nudez não é proteção infantil, mas uma medida que coloca em risco a privacidade e o direito à comunicação de todas as pessoas
- Combinar verificação de idade com escaneamento de conteúdo, exigindo de todos os residentes do Reino Unido comprovação de idade ou escaneamento completo do conteúdo, cria uma estrutura que impõe condições perigosas ao exercício de direitos básicos de comunicação
- Capacidades de vigilância e censura em massa, uma vez criadas, não permanecem restritas a um escopo limitado e se expandem para censurar e monitorar alvos considerados ameaças ou conteúdo nocivo no Reino Unido e no exterior
- A promessa de execução no dispositivo também não é uma salvaguarda suficiente, e o escopo do escaneamento fica sujeito à discricionariedade do governo, podendo mudar da detecção de nudez de hoje para discurso político amanhã
- A segurança real das crianças depende de financiamento adequado para a educação, serviços sociais sólidos e salvaguardas significativas para tecnologias de IA e plataformas; uma infraestrutura invisível de vigilância ativada por padrão não é alternativa para isso
Posição central
- As crianças devem ser protegidas e criadas com segurança, e não tratadas como alvo de vigilância, cortes orçamentários e ocultação
- Todas as pessoas, incluindo as crianças, têm o direito humano à privacidade, e as exigências do governo britânico seguem na direção de violar esse direito
- As exigências do governo britânico impõem que todo o conteúdo de todos os dispositivos vendidos ou usados no Reino Unido seja escaneado com base em critérios de detecção de nudez
- Essa abordagem combina verificação de idade e escaneamento de conteúdo
- É uma medida que não protege as crianças e coloca todos em risco
- O resultado é reforçar o poder de mercado e o controle sobre dados pessoais de Apple, Google e Microsoft
Medidas propostas e riscos
- É uma proposta perigosa criar uma estrutura em que todos os residentes do Reino Unido precisem comprovar a idade ou se submeter ao escaneamento de todo o conteúdo para exercer direitos básicos de comunicação
- Capacidades de vigilância e censura em massa são tecnologias que não permanecem restritas a um escopo limitado, por mais sinceras que pareçam as promessas de quem as introduz
- Uma vez criadas, tendem a se expandir
- Tornam-se ferramentas perigosas para censurar e vigiar alvos considerados “ameaças” ou “conteúdo nocivo” no Reino Unido e no exterior
- A promessa de que o sistema funcionará apenas no dispositivo não é motivo suficiente para tranquilidade
- Seja dentro do aparelho, na própria câmera ou em qualquer outro ponto, o escopo é definido pelo julgamento do governo e por regras de proibição
- O que hoje é detecção de nudez pode amanhã se tornar detecção de discurso político
- Historicamente, esse tipo de tecnologia segue uma dinâmica em que o escopo do conteúdo monitorado e das pessoas vigiadas se expande de forma autoritária
- Essas ferramentas podem ser usadas para denunciar automaticamente pessoas às autoridades governamentais
- Órgãos de aplicação da lei já pediram poderes amplos semelhantes, e são poderes com alto potencial de abuso em um ambiente político cada vez mais instável
- A segurança das crianças está mais próxima de educação bem apoiada, serviços sociais robustos e salvaguardas significativas para tecnologias e plataformas de IA
- O que o governo britânico quer é uma infraestrutura invisível de vigilância ativada por padrão
- Uma estrutura em que a legislação pode ser acelerada sob um pretexto cínico
- Uma abordagem que considera pouco as necessidades reais das crianças que alega proteger e as consequências terríveis e abrangentes que se seguiriam na prática
1 comentários
Comentários do Hacker News
Às vezes me pergunto se as pessoas da indústria de tecnologia que criaram coisas como secure boot, attestation e DRM viam esse desfecho como a inevitável consequência que os defensores do open source sempre enxergaram
Ao transferir o poder de decisão final do usuário para as empresas por meios técnicos, será que achavam que os políticos não poderiam transferir esse poder de controle para si mesmos por meios políticos?
Ao trancar tudo para arrancar a taxa de 30% da app store, impor regras com revisão de apps e até demonstrar censura de sites como o Tumblr, será que achavam que os políticos não iriam querer o mesmo poder de definir regras e censurar?
Achavam que os empregadores impediriam essa transição, que empresas de trilhões de dólares virariam guerrilheiros à la Che Guevara para derrubar o sistema que as transformou em empresas de trilhões?
Está mais perto de uma atitude de que não cabe a mim decidir se DRM ou attestation remota são práticas normais de negócios ou não; isso é apenas a realidade
É parecido com os dois tipos de pessoas diante da lei. Um lado diz “esta é a lei, então devemos obedecer”, e o outro diz “esta lei não faz sentido, então devemos mudá-la”
É também a diferença entre quem olha o semáforo de pedestres e atravessa quando está verde, e quem olha os carros e atravessa quando não vem nenhum. O primeiro diz que é preciso seguir as regras de trânsito; o segundo acha que, se tivesse olhado só para o vermelho/verde da lei, não teria sobrevivido. Verde não significa segurança, e mesmo no vermelho, se não há carros, não há motivo para não atravessar
Por mais eticamente duvidoso que seja, ainda é muito raro alguém abrir mão do emprego para manter sua posição
Acho que dá para aprender mais sobre esse problema lendo textos de pessoas inteligentes e competentes das big techs. O enquadramento delas muitas vezes é o de um trade-off com pressões sociais lentas, mas inevitáveis, que seriam mitigadas ao se comprometer a liberdade
Então não acho que elas desconheçam o ponto acima. Parece mais que não enxergam uma forma realista de avançar rumo a algo melhor, mais rico ou mais sofisticado, em tecnologia, nas empresas e talvez até para as pessoas comuns, sem esse compromisso
É como se vissem a bifurcação do futuro e concluíssem que, façam elas mesmas ou a situação piore e outra pessoa faça, nenhum caminho termina sem restrições técnicas
Era algo como: “secure boot pode ser desligado, então não tem problema”. É verdade, mas aí cada vez mais coisas deixam de funcionar. Por exemplo, não poder usar apps de iOS no Mac. No fim, como já acontece nos celulares, o padrão será permanecer dentro de um confortável jardim murado, e, se você sair dele, simplesmente será bloqueado dos apps que fazem coisas úteis
Também existe a lógica da attestation: “as empresas precisam verificar se você é quem diz ser”. Certo, mas, se puderem lucrar com esse poder, elas vão abusar dele
Em ordem, seria assim
O próximo passo provavelmente será tornar a maioria dos sistemas operacionais e dispositivos antigos efetivamente ilegais. Excelente notícia para Google, Apple e Microsoft, e péssima notícia para Linux e sistemas operacionais alternativos. Vale lembrar da época em que distribuíam Raspberry Pi nas escolas
E, além disso, como ninguém entende como engenharia de software funciona, estão exigindo que isso seja implementado de graça em 3 meses. Grande demonstração de competência
Em vez disso, basta criar novas tecnologias essencialmente obrigatórias que não rodem em dispositivos antigos. Atualize-se ou deixe de existir socialmente
Celulares e e-mail já parecem bem próximos desse status de “obrigatório”. Digo isso como usuário de internet que pessoalmente não usa celular nem e-mail. Quando respondo “não tenho telefone nem e-mail”, ninguém acredita. Sou a pessoa viva mais livre que existe; eles não acreditarem é problema deles
Ou, para quem tem paciência, há Tor e um gerenciador de downloads. Também dariam certo galerias de fotos e vídeos geradas estaticamente, espalhadas por milhares de sites pequenos
A desvantagem de empurrar as pessoas para cantos escuros é que toda regulação some, e junto vai parte da arrecadação. Perda de arrecadação pode muito bem ser a forma de chamar a atenção deles
O Signal precisa resistir com firmeza. Seria bom dizer algo assim
O governo quer colocar um dedo-duro em todo celular, instalar escutas em todo quarto e bisbilhotar toda casa todas as noites. Em todo consultório, toda sala de atendimento, todo pub, toda rua, toda loja
Quando esse dedo-duro reportar para casa, a polícia pode bater à sua porta por causa de algo que você digitou para a pessoa amada
Haverá uma Stasi artificial em todo desktop, notebook, tablet, câmera e celular. Em toda esquina e em toda sala de estar. Não haverá exceção a esse olhar
Seu aspirador está pronto para dedurar você para casa?
Às vezes ele fica bloqueado por semanas seguidas. Outras coisas costumam funcionar mais ou menos com VPN
Já passamos por isso antes. A única forma de vencer esse jogo é não jogá-lo. Especialmente com o governo: no momento em que você começa a jogar, já perdeu
A vigilância substitui ameaças pessoais e periféricas, que ela alega combater, por uma ameaça clara, perigosa, abrangente e praticamente irreversível. Essa ameaça continua acumulando uma alavanca centralizada sobre todos os aspectos diretos e indiretos de nossas vidas
Conhecimento é poder. Quando somos forçados a expor nossa vida interior, cada um de nós fica em posição vulnerável
Mesmo “sem abuso”, a própria ameaça potencial de fato retira a liberdade de pensar e agir
Isto é abuso extremo
O Estado passa a funcionar como uma ameaça unilateral maximizada contra todos os cidadãos, destruindo a sensação de que o Estado trabalha para o povo
A análise combinada com IA multiplica exponencialmente essa ameaça e os danos passivos e ativos
Uma das noções éticas e de segurança mais sábias da história é esta: “O direito do povo à segurança de suas pessoas, casas, papéis e pertences contra buscas e apreensões injustificadas não deve ser violado”
Uma democracia que instala a alavanca de uma ditadura total é a maior distorção e ameaça à própria democracia. A democracia só funciona enquanto reconhece que o governo é a maior ameaça à liberdade. Limitar estritamente o poder do governo sobre os cidadãos é a única defesa
O governo vem empurrando vigilância desde os primórdios da internet de consumo
O exemplo mais antigo de que me lembro é o Clipper Chip. Morreu três anos depois de ser proposto
Esta ideia idiota vai fracassar de forma parecida. Também foi proposta por um primeiro-ministro que promoveu a embaixador um amigo muito próximo de um dos pedófilos mais notórios dos últimos tempos, contrariando a recomendação do funcionalismo
Implementar uma mudança gigantesca em todos os sistemas operacionais do planeta em 3 meses? Não parece minimamente plausível
Eu não desgostava tanto do Starmer, mas isso finalmente me colocou no campo anti-Starmer
Que legado horrível para deixar. É uma triste tentativa de obter o maior efeito com o menor custo. E ainda por cima em 3 meses? Talvez seja esse o tempo que ele mesmo espera continuar como primeiro-ministro
É uma catraca apertando cada vez mais. Inspeção no lado do cliente, atestação remota para garantir que essa inspeção no lado do cliente está realmente funcionando, verificação de identidade digital, e por aí vai
É louvável que o Signal tenha se posicionado rapidamente do lado contrário nessa questão. Espero que essa posição se espalhe logo como contraponto à narrativa forte demais de que uma lei mal pensada, feita às pressas e baseada em força bruta seria o melhor próximo passo
O verdadeiro avanço deveria estar em criar entendimento e soluções para a erosão de comunidade, confiança e empatia pelos outros. Tenho a sensação de que essas coisas talvez sejam sintomas da falta de investimento, de políticas e de governança para uma sociedade saudável. Claro, talvez nem devêssemos falar em responsabilização para não parecer cínicos com a política
Quando vamos descobrir que os políticos colocaram cláusulas de exceção para eles mesmos e para os aparelhos de segurança? Espero que, desta vez, meu pessimismo esteja errado, mas não é um pessimismo sem base
“Vigilância não é segurança”
Pode não ser, mas enquanto a pessoa média achar que é, na prática acaba sendo
Não é a pessoa média que está empurrando isso