- O projeto de lei da UE sobre varredura de CSAM pode obrigar serviços de mensagens a inspecionar automaticamente as comunicações dos usuários, fazendo a questão ir além de medidas de proteção infantil e tocar os limites dos direitos fundamentais em uma sociedade democrática
- As exigências podem incluir detecção de CSAM conhecido e desconhecido, além de grooming em tempo real; críticos temem que as comunicações privadas de todos os usuários entrem em uma rede de vigilância não direcionada
- A questão jurídica vai além da proporcionalidade e chega à possível violação da essência dos direitos fundamentais; Frederik Borgesius avalia que o acesso em larga escala ao conteúdo das comunicações pode comprometer a essência do direito à privacidade
- A detecção por IA e a varredura do lado do cliente ainda não estão prontas para implantação em grande escala e podem causar danos não intencionais a crianças e adultos devido a falsos positivos, evasão e possibilidades de manipulação
- Proteção da criptografia de ponta a ponta, investigações direcionadas, crawling de materiais públicos na web, prevenção, apoio a vítimas e fortalecimento da cooperação com a aplicação da lei são citados como alternativas; legisladores da UE estão diante da necessidade de reescrever fundamentalmente as cláusulas sobre ordens de detecção
Principais pontos da proposta da UE para varredura de CSAM
- O projeto de lei sobre varredura de CSAM em discussão na Europa pode exigir que serviços de mensagens inspecionem o conteúdo das comunicações dos usuários
- O escopo inclui CSAM conhecido, CSAM desconhecido e até detecção de grooming em tempo real
- Em apps sujeitos a ordens de detecção, as comunicações de todos os usuários podem ser monitoradas de forma automática e não direcionada
- Em um seminário organizado pelo European Data Protection Supervisor, mais de 20 palestrantes se opuseram à proposta
- O seminário durou cerca de 3 horas
- Ylva Johansson, da European Commission, foi convidada, mas não compareceu, e não houve nenhum outro representante da Commission
- A Commission tem defendido a proposta como uma resposta proporcional e direcionada a um problema crescente
- Também foram apontados indícios de uso recente de anúncios com microtargeting para promover o plano
- A UE também tem em andamento outra proposta legislativa para restringir o uso de microtargeting político
O ponto de virada para a privacidade alertado pela EDPS
- Wojciech Wiewiórowski, da EDPS, alertou que, se uma lei que obrigue a vigilância sistemática e em massa de mensagens privadas for aprovada, a UE pode chegar a um ponto sem retorno
- A proposta não é apenas uma questão de “proteção infantil”, mas algo que abala a base sobre a qual a privacidade funciona em sociedades democráticas
- Se aprovada sem alterações, ela pode mudar fundamentalmente a natureza da internet e das comunicações digitais
- Há um ano, a EDPS e o European Data Protection Board afirmaram em uma opinião conjunta que a proposta legislativa levantava sérias preocupações de proteção de dados e privacidade, incluindo sobre criptografia
Proporcionalidade jurídica e a essência dos direitos fundamentais
- A Commission apresentou o rascunho da lei sobre CSAM em maio de 2022 e, desde então, a oposição relacionada ao impacto sobre direitos humanos e à legalidade aumentou
- A legislação da UE exige que restrições a direitos fundamentais, como privacidade e liberdade de expressão, sejam necessárias e proporcionais
- É proibido impor a plataformas online uma obrigação geral de monitoramento de conteúdo
- Uma lei que, por desenho, torna as mensagens de centenas de milhões de europeus alvo de vigilância pode entrar em conflito com esse princípio
- Frederik Borgesius, da Radboud University, avalia que a proposta não é uma forma proporcional de restringir direitos fundamentais
- Ele citou como comparação casos de retenção de dados relacionados ao terrorismo e observou que a mais alta corte da UE anulou repetidamente o armazenamento geral e indiscriminado de metadados de europeus
- Esta proposta gera um problema ainda mais forte porque trata não de metadados, mas de análise de conteúdo das comunicações
- Borgesius entende que, sob a perspectiva da Carta dos Direitos Fundamentais da UE, se a essência de um direito fundamental for violada, a medida pode ser ilegal mesmo sem uma análise de proporcionalidade
- Se autoridades puderem acessar conteúdo de comunicações em larga escala, isso se conecta à violação da essência do direito à privacidade
Objetivo de proteção infantil e possibilidade de danos reais
- Vários palestrantes criticaram a proposta por não se adequar ao problema social complexo do abuso sexual infantil
- Uma parcela significativa das imagens sexuais envolvendo menores compartilhadas online pode ter origem em sexting consensual entre menores
- Nesse caso, a lei pode levar à investigação ou criminalização de crianças que exploram sua identidade sexual
- Determinar se algo é CSAM é difícil apenas pela imagem em si; o contexto é importante
- Arda Gerkens, dos Países Baixos, considera que a varredura de comunicações privadas pode detectar situações problemáticas, mas não é a solução para enfrentar o abuso sexual infantil
- Ela apoia a varredura restrita de CSAM conhecido em sites de hospedagem de imagens para impedir sua disseminação
- Porém, vê isso como uma medida para impedir a disseminação, não para fins de acusação criminal
- Gerkens apontou que a proposta da Commission se concentra demais em comunicações privadas e em acusações subsequentes, em vez de sites de hospedagem de imagens
- O volume de imagens pode sobrecarregar os sistemas existentes e aumentar a pressão sobre sistemas frágeis de aplicação da lei
- A cooperação entre países da UE e o fortalecimento dos sistemas de aplicação da lei podem ser investimentos melhores
Criptografia de ponta a ponta e abordagem centrada em prevenção
- Susan Landau, da Tufts University, avalia que a proposta da Commission não diferencia os diferentes tipos de abuso e exploração sexual infantil que ocorrem na internet
- Uma abordagem centrada em investigação e acusação pode encontrar limites em muitos casos
- Na esmagadora maioria dos casos de tráfico sexual viabilizado pela internet, o agressor é alguém próximo da vítima, e a vítima pode não querer denunciar
- O que é necessário são espaços que tornem as crianças seguras, espaços comunitários, educação sobre segurança online, educação em segurança e design seguro
- Landau considera que há vários métodos de prevenção e investigação de abuso sexual infantil que não são afetados pela criptografia de ponta a ponta
- A criptografia de ponta a ponta é uma tecnologia que protege tanto crianças quanto adultos
- Helen Charles, do WhatsApp, afirmou que a plataforma de mensagens da Meta apoia o objetivo de combater o abuso sexual infantil, mas que a abordagem da Commission não se ajusta bem ao problema e pode criar grandes consequências não intencionais para usuários da web de todas as idades
- A varredura de conteúdo em mensagens com criptografia de ponta a ponta enfraquece direitos fundamentais
- São necessárias condições razoáveis e proporcionais para que serviços possam combater CSAM sem acessar o conteúdo das mensagens
- Charles sugeriu permitir, sob a ePrivacy Directive da UE, que plataformas usem mais dados de tráfego, ou seja, metadados, para fins de prevenção
- A exceção temporária atual da ePrivacy trata apenas de detecção, denúncia e remoção de CSAM em mensagens sem criptografia de ponta a ponta, sem incluir prevenção
- A Meta afirmou que, onde é legal, identifica comportamentos problemáticos por meio de técnicas que incluem dados de tráfego
Limitações técnicas da detecção por IA e da varredura do lado do cliente
- Jaap-Henk Hoepman, da Karlstad University, apontou que tecnologias de detecção de CSAM são proprietárias, dificultando a verificação independente das alegações de precisão
- PhotoDNA, da Microsoft, e NeuralHash, da Apple, não são algoritmos públicos que possam ser estudados por pesquisadores
- Por isso, é preciso depender dos números de eficácia fornecidos pelas empresas
- Hoepman disse que uma pesquisa que fez engenharia reversa do PhotoDNA revelou falhas básicas
- Foram mencionadas evidências de que a detecção pode ser facilmente contornada ao girar ou espelhar imagens em relação a impressões digitais de CSAM conhecido
- Um atacante poderia manipular uma imagem aparentemente inofensiva para que fosse detectada como CSAM, incriminando uma pessoa inocente ou sobrecarregando o sistema de detecção
- Alexander Hanff alertou que, em um cenário no qual dezenas de bilhões de comunicações são escaneadas todos os dias, uma taxa de erro de apenas 0,1% ainda poderia gerar milhões de falsos positivos ou falsos negativos diariamente
- Claudia Peersman, da University of Bristol, apresentou resultados de uma avaliação do Rephrain Centre
- Cinco projetos de prova de conceito de varredura de CSAM em ambientes E2EE, desenvolvidos com apoio do governo do Reino Unido, não atenderam aos critérios de avaliação
- Ela não se opõe ao desenvolvimento de ferramentas de proteção infantil online assistidas por IA em si, mas considera que elas não estão prontas para implantação em larga escala em mensagens privadas em ambientes com criptografia de ponta a ponta
- Matthew Green, da Johns Hopkins University, disse que a pesquisa sobre varredura do lado do cliente está em estágio muito inicial
- O primeiro artigo de ciência da computação sobre o tema saiu em 2021 e, menos de 2 anos depois, já se discute uma lei para torná-la obrigatória
- Pesquisadores continuam descobrindo formas de quebrar esses sistemas, o que pode resultar em violação da confidencialidade dos usuários, falsos positivos e injeção de dados maliciosos
- É preciso tempo para pesquisar se isso pode ser implementado com segurança
Direitos e opiniões das crianças ausentes da legislação
- Vários palestrantes criticaram os legisladores por não tratarem suficientemente das opiniões e dos direitos das crianças
- Gerkens entende que, embora julguem o que crianças fazem online, os legisladores não envolveram as próprias crianças no processo legislativo
- Sabine Witting, da Leiden University, avaliou que a proposta tem impacto negativo sobre a privacidade das crianças, a proteção de dados pessoais, a liberdade de expressão e o direito de acesso à informação
- O General Comment No. 25 do Comitê dos Direitos da Criança da ONU considera a privacidade essencial para a segurança infantil
- A privacidade não é um obstáculo à segurança infantil, mas uma condição prévia importante
- Witting considera que, se mensagens privadas entre adolescentes forem capturadas pela varredura de CSAM, a própria investigação pode ser prejudicial
- Especialmente para jovens de comunidades marginalizadas, como crianças LGBTQ+, isso pode levar à exposição indevida, maior marginalização e, no pior caso, perseguição política
- A varredura de comunicações privadas, a revisão adicional pelo setor privado e pelo governo e o envolvimento de autoridades de aplicação da lei constituem uma grave violação do direito das crianças à privacidade
- Ella Jakubowska, da EDRi, citou uma pesquisa representativa com adolescentes de 13 a 17 anos em 13 Estados-membros da UE
- 80% responderam que não se sentiriam confortáveis com atividade política ou exploração sexual se autoridades pudessem monitorar comunicações digitais para fins de varredura de CSAM
Vigilância digital sem mandado e temores de expansão de missão
- Iverna McGowan, do Center for Democracy and Technology, considera que ordens de detecção equivalem a uma busca sem mandado no mundo digital
- Sua posição é que, assim como não aceitaríamos que autoridades entrassem em casas ou espaços privados e revistassem tudo sem mandado ou suspeita razoável, isso também não deve ser permitido em espaços online
- McGowan entende que as cláusulas sobre ordens de detecção precisam ser reescritas fundamentalmente
- Elas devem ser suficientemente precisas para não se aplicar a pessoas sem suspeita de crime
- É necessária aprovação por uma autoridade judicial independente, com verificação do objetivo e da base da suspeita
- Também deve haver uma avaliação independente de proporcionalidade
- Vários palestrantes expressaram preocupação com a possibilidade de expansão de missão envolvendo a Europol
- Segundo documentos obtidos pela imprensa, a Europol queria acesso sem filtros aos dados obtidos por meio da proposta de varredura de CSAM
- A eurodeputada Saskia Bricmont entende que a Europol pretende se tornar um hub de dados e ampliar e fortalecer sua missão
- A proposta inicial da Commission determinava que todas as denúncias que não fossem “manifestamente infundadas” fossem enviadas simultaneamente à Europol e às autoridades nacionais de aplicação da lei
- Bricmont entende que a Europol pressionou para expandir a detecção para áreas criminais além do CSAM
Problema de confiança entre a Commission e os críticos
- O seminário ocorreu dois dias antes de Ylva Johansson comparecer a uma audiência da comissão de liberdades civis do European Parliament
- Críticos avaliam que Johansson e a Commission não demonstraram transparência e prestação de contas suficientes nesta proposta controversa
- Bricmont criticou o uso de uma questão sensível como abuso sexual infantil para impulsionar um plano de vigilância abrangente com grande impacto sobre os direitos fundamentais de centenas de milhões de europeus
- Ela afirmou que é preciso saber mais sobre a reportagem investigativa do BalkanInsight e possíveis conflitos de interesse
- Também entende que a ausência da Commission aumenta a falta de diálogo e as suspeitas
- Em um post de blog, Johansson criticou ataques pessoais contra ela e acusações de lobby opaco
- Ela mencionou que a EDRi, maior ONG europeia de direitos digitais, recebe financiamento da Apple, sugerindo que a oposição da sociedade civil pode representar interesses da Big Tech
- Jakubowska entende que a Commission apresenta uma falsa escolha entre privacidade e segurança
- Privacidade e segurança se reforçam mutuamente
- Ela alertou que há riscos também para o sigilo profissional, como o sigilo advogado-cliente, e que isso pode dificultar o acesso de sobreviventes à Justiça
Alternativas: investigações direcionadas, organização de material público e design seguro
- O eurodeputado Patrick Breyer descreveu a proposta como “sem precedentes no mundo livre” e tem chamado-a de “Chatcontrol”
- Ele entende que, em vez de polarizar o debate, é preciso preservar as partes com as quais todos podem concordar e acrescentar abordagens novas e eficazes
- A direção proposta por Breyer é remover as ordens de detecção, ponto central da controvérsia, e adotar direcionamento
- A varredura de comunicações deve ser estritamente limitada a pessoas suspeitas de envolvimento em exploração sexual infantil
- A detecção voluntária não direcionada apresenta os mesmos problemas de proporcionalidade que a detecção obrigatória
- A varredura do lado do cliente, que transforma dispositivos pessoais em scanners, deve ser excluída explicitamente
- Como alternativa à vigilância em massa, foi proposto crawling prévio de materiais publicamente acessíveis
- Foi mencionado que essa abordagem já é usada no Reino Unido e no Canadá
- O novo EU Centre poderia se concentrar em limpeza da web pública, prevenção de crimes, apoio a vítimas e melhores práticas de aplicação da lei
- Breyer considera que o foco deve estar em design seguro, e não em verificação obrigatória de idade
- Ele levantou questões de design, como restringir perfis para serem privados por padrão, permitir ou não que qualquer pessoa envie fotos a novos usuários e permitir que o usuário escolha se quer ver fotos de nudez
- Para prevenir abuso sexual infantil, abordagens técnicas por si só não bastam, e soluções não técnicas são importantes
- Se os legisladores não conseguirem fazer emendas razoáveis, mensagens privadas realmente secretas e criptografia segura podem chegar ao fim, abrindo caminho para a introdução de métodos autoritários sem precedentes na democracia
1 comentários
Opiniões no Hacker News
“O simples fato de pessoas verem essas imagens é justamente o ato que a Comissão está tentando combater e, por si só, é uma forma de abuso. Então, se você pega uma foto inofensiva compartilhada entre indivíduos que consentiram e, no processo investigativo, potencialmente a expõe a centenas de pessoas, no fim das contas está criando ainda mais vítimas reais”
Esse é o ponto central. Esse plano não é apenas algo com muitos efeitos colaterais; ele vai, de fato, prejudicar justamente as pessoas que pretende proteger
Falando sério, toda vez que alguém justifica uma ação com um apelo emocional simplista como “pensem nas crianças” ou “pensem nos terroristas”, não consigo ver isso como nada além de manipulação barata
Acho que quem é a favor precisa demonstrar suas alegações de segurança com números concretos. Estão exigindo que abramos mão de coisas demais sem assumir responsabilidade, e não acho que o dano seja menor que o benefício
Por exemplo, o Patriot Act não gerou uma onda de repressão ao terrorismo; em vez disso, facilitou violações de direitos humanos em larga escala, mas os direitos tomados não voltaram. O grande reforço da segurança em aeroportos foi parecido: não sei quantos terroristas foram pegos levando cortadores de unha, mas parece que a maioria das tentativas de terrorismo poderia ser contida por meios menos invasivos
Um nível ainda pior é o de pessoas que precisam encontrar, em posts de redes sociais, os tipos horríveis de violações dos termos de serviço: imagens de violência extrema, sangue e atrocidades. Muitas pessoas nesses cargos precisam de muita terapia para suportar, mas infelizmente parece que muitas vezes não têm acesso a ela
Se alguém tivesse que passar o dia inteiro olhando CSAM suspeito e decidindo se permite ou bloqueia? É difícil até imaginar o efeito disso sobre uma pessoa
CSAM é só uma cortina de fumaça. O objetivo é vigilância e, se conseguirem empurrar isso à força, logo será expandido rapidamente para abranger absolutamente qualquer coisa
Sinceramente, já não vejo a UE como um bem público. Na verdade, faz bastante tempo que não vejo; ela degenerou em uma tecnocracia burocrática
Antes que alguém tente dizer “você pode votar no Parlamento e também pode votar em um dos membros da Comissão, então está tudo bem”, eu sei. Ainda assim, nada melhora. Na implementação atual, a democracia é tão indireta que praticamente poderia nem existir. Projetos de lei como este continuarão sendo despejados até que um deles passe. Não dá para apoiar
Precisamos impedir, mas temo que acabe acontecendo em algum lugar. Assim que for implementado em alguns países ocidentais, outros terão um modelo para copiar. Cidadãos estão sendo enganados em toda parte, e muita gente — tanto fora da área técnica quanto dentro dela — acha que isso é uma coisa boa. Amigos meus nos EUA, no Reino Unido e na Austrália também aplaudem a entrada dessas coisas em seus países. Porque é pelas crianças
Infelizmente, ninguém leva esse problema a sério o suficiente para fazer grandes campanhas de publicidade e TV nos Estados-membros ensinando que isso é ruim para todos e que também não ajuda as crianças
Acho que esta tentativa de escaneamento do lado do cliente vai ruir, e espero muito que isso aconteça. Não só porque ela destrói claramente as liberdades civis na UE, mas também porque, mesmo que seja implementada, está fadada ao fracasso
A ideia básica não é eficaz contra CSAM nem contra qualquer cenário de usuários adversariais. Mas minhas esperanças não têm exatamente um bom histórico na realidade legislativa
Não se pode confiar no cliente. Mesmo deixando de lado o fato de que inúmeros serviços existentes, e muitos que ainda surgirão, simplesmente não implementarão isso, versões dos apps sem essa telemetria ficarão relativamente fáceis de obter. Algo como a relação entre VScode e VScodium, mas com WhatsApp e WhatsAppium
Também é preciso considerar a possibilidade de spoofing. Alguém pode enviar uma mensagem a outra pessoa para obter o ID do cliente dela e, então, denunciar que aquele cliente detectou o pior CSAM imaginável
É preciso pensar nos falsos positivos. Pensar nos custos. Pensar nas crianças. Pensar nas crianças cujos pais não abusivos serão perseguidos por suspeita de CSAM por trocarem entre si fotos normais, mas que podem ser confundidas, e algumas delas serão separadas de seus filhos
A aprovação desta lei seria um desperdício enorme de tempo que os legisladores poderiam usar melhor. Implementar esta diretriz consumirá uma quantidade enorme de dinheiro e conhecimento técnico para criar um sistema falho e abusável. A execução de suas consequências causará sofrimento incalculável sem relação com CSAM. E, depois que os primeiros criminosos forem pegos, é bastante provável que agentes adversariais simplesmente passem a usar outros canais
Mas, a essa altura, o assunto já terá passado para escaneamento do lado do cliente de pensamentos
Fico curioso para saber como você acha que falsos positivos levariam à separação dos filhos
Mesmo pessoas de fato condenadas por posse de CSAM atualmente não perdem necessariamente o direito de acesso aos filhos
“CSAM conhecido e desconhecido”
Vendo até onde a IA de imagens chegou hoje, é certo que isso vai gerar uma quantidade enorme de falsos positivos. Na verdade, se já não for o caso, em breve será impossível até filtrar os falsos positivos. Esse plano parece estar tentando lutar a guerra passada enquanto um problema muito maior e diferente se aproxima
O resultado é que muita gente será sinalizada por causa de fotos dos próprios filhos. Porque quase todos os pais têm, em algum lugar, fotos dos filhos nus
Acho que discussões sobre por que medidas como essa não seriam eficazes para reduzir CSAM, ou sobre haver falsos negativos demais ou falsos positivos demais, perdem o ponto central
Embora os legisladores possam até ter interesse em reduzir o abuso infantil, eles usam isso principalmente como justificativa para ampliar a vigilância e o controle sobre os cidadãos. Isso é apenas um movimento para tornar obrigatório software do lado do cliente que contraria os interesses do dono do hardware
Uma vez que esse software esteja instalado, ampliar o escopo das exigências para coisas com as quais o público não concordaria — seja por meios legais, seja por algum caminho obscuro de bastidores — passa a ser um passo muito menor
Varredura do lado do cliente não pode funcionar, e não vai funcionar
Não há cenário em que a varredura do lado do cliente funcione, a menos que se impeça o usuário de modificar qualquer coisa no sistema. Ele teria de não conseguir modificar nem as imagens nem o software
É bom guardar isso. A única coisa que isso fará bem é identificar cidadãos honestos e cumpridores da lei que tenham uma causa política desalinhada com o governo atual. Se isso for aprovado, a verdadeira democracia capaz de pôr fim a leis impopulares aprovadas pelo governo, como racismo ou Lei Seca, morrerá na UE
A European Commission está embriagada de poder
Há um ditado: não desperdice uma boa crise. Está bem documentado que situações de crise são a oportunidade perfeita para governos empurrarem abertamente leis antidemocráticas e anticidadãs. Essas leis corroem liberdades e transferem riqueza dos pobres para os ricos, e a crise oferece a justificativa perfeita para contornar o processo democrático normal, longo e minucioso, em que todos dedicam tempo a dissecar, analisar e debater
Crises recentes não faltaram. Tivemos Covid, inflação, ondas de refugiados, a guerra na Ucrânia, a guerra em Israel
“Pobre contribuinte, não pense muito a fundo. Você não entende esse problema mesmo. É complexo demais e, além disso, você está distraído e preocupado demais com o vírus/a inflação fora de controle/o custo de vida/a guerra para ter tempo de pensar em questões pequenas como privacidade. Então relaxe, preocupe-se com o aluguel, e nós protegeremos sua privacidade online, certo?”
Órgãos de investigação adoram o fato de que grande parte de nossas vidas agora está nas mãos de terceiros e, portanto, é mais facilmente acessível; desde que uma pessoa comum passou a poder usar criptografia em suas comunicações, os ataques contra a criptografia têm sido constantes
Além disso, para quem cria software de proteção à privacidade, esse também é um problema que terá de encarar em algum momento ao levar seus objetivos a sério. Se a ferramenta é forte o bastante para proteger jornalistas sob regimes hostis, ou qualquer grupo oprimido de sua preferência, também é forte o bastante para proteger criminosos que fazem coisas que você pessoalmente abomina
Organizações que empurram esse tipo de coisa atraem naturalmente pessoas ávidas por poder, que veem a maioria das pessoas não como colegas, mas como sujeitos a serem governados
Funciona do mesmo jeito em qualquer lugar. Não é um problema exclusivo da Europa
A lógica toda pode ser resumida assim
Com a tecnologia atual, é impossível eliminar completamente a própria existência de qualquer foto ou vídeo. Enquanto a internet existir e as pessoas puderem acessar mídia proibida, essa mídia proibida continuará se espalhando
Para combater isso, o Estado precisa receber poderes extraordinários para vasculhar os dispositivos e contas das pessoas e ver arquivos, para então poder processar quem possua mídia proibida. E o Estado promete de verdade, de verdade mesmo, que a única mídia que vamos proibir é pornografia infantil, e nada mais. Claro que, quando tentarem ampliar esses poderes mais tarde, não haverá como impedir de fato. E nós certamente faremos isso
Esta é uma tentativa de resolver o problema correto, abuso sexual infantil, mas é claro que o método está errado
É parecido com dizer, 30 anos atrás: “as pessoas gravam esse tipo de abuso em fitas VHS, então, se falarmos com a Sony e a Scotch, dá para impedir de algum jeito”. Na verdade, a situação atual é um pouco mais realista, mas ainda é a mesma coisa. A prevenção do abuso sexual infantil deveria ser uma prioridade muito grande e elevada para todos os governos e todos os cidadãos
Se houvesse um método certo e garantido, deveríamos fazê-lo amanhã, custe o que custar
Mas, na prática, não sabemos bem como. É uma questão que exige uma combinação de reforma da saúde mental, reforma educacional em larga escala e reforma da assistência social infantil, para que crianças realmente em risco sejam protegidas e, ao mesmo tempo, essa proteção significativa seja estendida a todas as crianças
Se alguém tiver uma ideia inteligente, tenho interesse
De jeito nenhum
Se uma nova lei ou programa é anunciado sob o pretexto de combater terrorismo, abuso infantil ou drogas, mas seu escopo real de aplicação vai além de terrorismo, abuso infantil ou drogas, você está sendo manipulado para votar contra seus próprios interesses. 100% das vezes
“Garantimos a privacidade com algoritmos inteligentes no dispositivo. Os dados do seu filho nunca serão enviados, a menos que a IA no dispositivo detecte uma situação de abuso. E quem, além de um abusador, gostaria de impedir o envio desses dados?”
Faça o relógio verificar continuamente se foi retirado e, se for, envie os últimos 30 segundos de vídeo para identificar quem o retirou
Se a criança ou os pais o retirarem, aplique uma multa aos pais e imponha à criança uma entrevista obrigatória com o órgão de proteção infantil para descobrir o ‘verdadeiro’ motivo da remoção
Basta fornecer dois por criança para fins de recarga. Um fica sempre carregando e o outro é usado. Se o relógio em uso detectar que o outro relógio não está carregando, envia uma notificação ao usuário. Se não for corrigido dentro de um certo prazo, isso é tratado como infração
Violações repetidas de retirada ou de ‘bateria descarregada acidentalmente’ podem levar a multas cada vez maiores e, potencialmente, à separação da criança dos pais
Tudo isso é possível com a tecnologia de hoje. Bastaria fabricar consentimento por meio de alguns casos de grande repercussão em que smartwatches salvaram crianças de pais abusivos, ou alguns casos em que a polícia recuperou crianças em tentativas de sequestro rastreando o smartwatch, criando a lição de que “todas as crianças precisam desse tipo de rastreamento”
Será mesmo? Punir a posse de CSAM realmente afeta a incidência de abuso sexual infantil?
Não estou dizendo que criminalizar CSAM não seja correto, mas existe algum dado, por menor que seja, de que punir o tipo de pessoa que seria pega escaneando armazenamento em nuvem de fato afeta o número de crianças vítimas?
Se não, o que essa medida alcança é apenas o ato reconfortante de colocar pedófilos na prisão. Mas minha preocupação não são pedófilos, e sim estupradores de crianças e produtores de pornografia infantil que de fato cometem crimes contra crianças
Não sei que efeito rastrear usuários finais teria sobre a cadeia de suprimentos. Por outro lado, quando se torna possível rastrear usuários finais, vejo um milhão de maneiras pelas quais o Estado ganha o direito de revistar pessoas por praticamente qualquer crime que ele defina como importante. Se permitirem isso, a probabilidade de ser expandido para além de CSAM em poucos anos é de 100%
E, para começo de conversa, o “material” nem precisa necessariamente existir. Gravar é apenas uma opção, mas não vejo nada que trate desse problema
A proposta atual não será aprovada como está. Vários Estados-membros, como Holanda, Espanha e Polônia, são contra, e provavelmente ela é ilegal
Para ser aprovada, teria de ser revisada de forma profunda. Essas mudanças provavelmente tornariam uma proposta já inútil ainda mais inútil, mas espero que pelo menos desta vez nos salvem da backdoor de privacidade/criptografia
Isso não deve ser aprovado em hipótese alguma, e o conjunto inteiro deve ser rejeitado. Não há espaço para compromisso