- O Ombudsman Europeu considerou “maladministration” o fato de a European Commission ter ocultado a existência de uma lista de empresas das quais recebeu consultoria técnica ao responder a um pedido de documentos sobre a proposta de regulação de CSAM
- Essa lista foi entendida como claramente incluída no escopo do pedido do ICCL, por se tratar de uma relação de consultados sobre se é possível detectar CSAM sem enfraquecer a criptografia
- Tecnólogos de interesse público e mais de 450 acadêmicos alertam que a tecnologia para detectar CSAM em conteúdo criptografado não está madura hoje e não estará madura nos próximos 2 a 5 anos
- A proposta de regulação de CSAM vem sendo criticada por causa de vigilância em massa, enfraquecimento da criptografia e possível conflito com a legislação da UE que proíbe monitoramento geral e indiscriminado das comunicações
- Como a lista não foi identificada, o solicitante não teve a oportunidade de contestar os motivos da não divulgação, ampliando as preocupações com a transparência do debate regulatório
Decisão do Ombudsman e a lista de consultoria ocultada
- A European Commission, ao responder a um pedido de documentos relacionados à tomada de decisão sobre a proposta de regulação de CSAM, não divulgou a lista de empresas consultadas sobre a possibilidade de detectar CSAM sem comprometer a criptografia
- O European Ombudsman concluiu que essa lista “clearly fell within the scope” do pedido feito pelo Irish Council for Civil Liberties
- A Commission admitiu ao EU Ombudsman que de fato possuía essa lista de especialistas, mas não informou sua existência ao Dr. Kris Shrishak
- Como a lista não foi identificada como documento abrangido pelo pedido, o solicitante ficou sem a chance de contestar os próprios motivos da recusa de divulgação
- A decisão do Ombudsman pode ser consultada aqui
A controvérsia central sobre a tecnologia de detecção de CSAM
- Na negociação da regulação de CSAM, a questão mais sensível é se realmente existe tecnologia capaz de detectar material de abuso sexual infantil dentro de comunicações com criptografia de ponta a ponta
- Muitos especialistas alertam que essa tecnologia ainda não é viável na prática
- Tecnólogos de interesse público e mais de 450 acadêmicos alertaram publicamente que “a tecnologia para detectar CSAM em conteúdo criptografado não está madura hoje e não estará madura nos próximos 2 a 5 anos”
- Essa posição contrasta fortemente com a visão dos especialistas em que a Commission se apoiou, mas a Commission não divulga os nomes desses especialistas
- O ICCL apresentou uma reclamação ao European Ombudsman afirmando que, em dezembro de 2022, a Commission recusou fornecer a lista de especialistas que ajudaram a elaborar um documento sobre possíveis soluções para detectar CSAM em comunicações com criptografia de ponta a ponta
- A proposta de regulação de CSAM, além das preocupações com vigilância em massa e enfraquecimento da criptografia, também pode entrar em conflito com a legislação existente da UE que proíbe o monitoramento geral e indiscriminado das comunicações das pessoas
- Essas preocupações foram levantadas por diversas organizações, incluindo o próprio serviço jurídico do European Council, o European Parliamentary Research Service, o United Nations High Commissioner for Human Rights e o European Data Protection Board and Supervisor
1 comentários
Opiniões no Hacker News
Não sei se alguém já examinou direito a teoria do dano quando material de abuso sexual infantil (CSAM) circula em comunicações privadas.
Não fica claro que dano concreto às crianças é causado pelo simples fato de bytes serem copiados em segredo.
Criar pornografia infantil intencionalmente é obviamente errado, mas isso já é ilegal, e essas pessoas têm uma segurança da informação ridiculamente fraca.
Ao observar casos em que “estúdios” reais de produção de CSAM foram pegos, ou a aplicação da lei é tão incompetente que qualquer criminoso minimamente esperto escapa, ou os criminosos não são tão habilidosos tecnicamente quanto se imagina.
De qualquer forma, as ferramentas para pegar abusadores sexuais infantis reais parecem eficazes e suficientes.
É bastante plausível que a criação e a distribuição do conteúdo original de abuso infantil deem recompensas sociais a pedófilos e, como resultado, os incentivem a continuar ou intensificar seus atos.
Também podem servir de base para um sistema de “reputação” que mantém unidas comunidades online de abusadores de crianças.
Assim como, em um fórum de carros, quem faz certa modificação pela primeira vez pode parecer legal, nessas comunidades alguém que abusa de uma criança ainda não vista antes, ou a abusa de uma forma nova e criativa, pode virar uma pessoa “legal”.
Separadamente, pegar criminosos com segurança da informação ridiculamente ruim não permite concluir que não existam criminosos com excelente segurança operacional (OPSEC) que consigam se esconder com sucesso.
Não se deixe levar por cortinas de fumaça e pautas plantadas; é preciso manter a conversa focada na questão básica da privacidade e evitar por completo os argumentos frequentemente usados envolvendo CSAM, violação de direitos autorais e terrorismo.
Se eu tivesse sido abusado na infância, não iria querer que aquelas imagens continuassem circulando e sendo vistas por alguém.
Isso é parecido com as leis contra pornografia de vingança, e eu gostaria de ter controle sobre imagens minhas nuas.
Ainda assim, não concordo com esse tipo de lei.
Os pontos negativos superam os positivos.
Além disso, no futuro, CSAM gerado por IA provavelmente será mais interessante e satisfatório para quem quer esse material, e isso cria uma discussão totalmente separada.
Trata-se de usar as impressões digitais de materiais existentes já identificados pelas autoridades.
Materiais “novos” ainda não teriam impressão digital.
Por definição, eles são pessoas que cometeram algum erro, seja em segurança da informação ou de outra forma.
Recomendo ler a decisão completa do ombudsman: https://www.ombudsman.europa.eu/en/decision/en/176658
Ela mostra como tudo isso é uma bagunça burocrática absoluta.
Governos nacionais comuns já passam do ponto, mas conseguem se sustentar somehow com uma mistura de nacionalismo e tribalismo; a UE passa tanto dos limites que, no fim, as pessoas vão se rebelar ou quem tiver juízo vai ir embora.
Infelizmente, isso não é novidade.
Governos do mundo todo estão tentando evitar a fiscalização pública do que fazem.
Lembro do Acordo Transpacífico de Parceria Econômica (TPP) de cerca de 8 anos atrás.
Pouquíssimas pessoas puderam ver o texto do tratado [1], enquanto representantes do povo tinham de ratificar algo que seus próprios eleitores não podiam ver.
O Wikileaks e outros vazaram rascunhos, e eles eram ruins, como as pessoas esperavam.
Os defensores dizem que negociações comerciais precisam acontecer em segredo para não enfraquecer a posição de negociação.
Na prática, isso quer dizer: “não queremos dar ao público a chance de se opor”.
Agora a UE também está encontrando pretextos absurdos para trabalhar nas sombras.
[1]: https://www.npr.org/sections/itsallpolitics/2015/05/14/40667...
Para esse sistema funcionar, o banco de dados de CSAM precisaria ser administrado por consenso entre rivais geopolíticos.
Ou seja, teria de incluir também Russia e China.
Só assim seria possível garantir que governos Western não abusem do acesso no futuro para vigiar grupos dissidentes.
Acreditar que o NCMEC não será comprometido é impossível desde o ponto de partida.
Eu confiaria em um sistema no qual polícias Chinese, Russian, American, British etc. concordassem que o banco de dados contém apenas CSAM.
Um crime cometido contra uma parte da população não justifica esse nível de alvoroço.
Nem crianças assassinadas recebem tanta atenção.
Esse problema não vai unir rivais internacionais nem mais do que um asteroide vindo em direção à Terra.
É uma questão com a qual só o Ocidente se importa, portanto pode ser facilmente transformada em arma por qualquer um fora do Ocidente.
Em vez de colocar backdoors em todos os dispositivos do planeta, uma solução mais realista talvez seja tomar o celular das crianças e amarrá-las ao radiador.
Ou seja: se quiser proteger as crianças de CSAM, tranque-as.
Não gostamos de admitir isso, mas é preciso encarar a realidade.
Do ponto de vista do Estado, crianças são propriedade.
Assim como outros bens, gado ou armas, crianças podem ser “tiradas” de você e “dadas” a outra pessoa, gerando dividendos no processo.
Pensando bem, isso também explica o próprio ato de tráfico humano.
Você não deixa as portas de todas as outras casas abertas para proteger a sua.
Esse tipo de “solução” transforma você em uma ameaça social real.
Não seria melhor simplesmente defender que nada disso seja criado?
Isso atende ao critério?
Na seção “Sugestão de melhoria”, diz que, como a Comissão não identificou a lista de especialistas apesar do claro interesse do complainant, isso deve ser registrado como uma nova solicitação de acesso a documentos e tratado de acordo com o Regulation 1049/2001
Sei que o ombudsman não tem poder real e só pode fazer recomendações, mas fico pensando se não seria possível acrescentar algo como “as pessoas que recusaram a solicitação inicial deveriam ser multadas, demitidas e presas”
Essa ideia de “basta ignorar a lei até que alguém supere obstáculos consideráveis para apresentar uma reclamação dizendo que ignoramos a lei, e só então cumprir a lei” não é boa para a democracia
Na New Zealand e na Australia, não é ilegal armazenar, assistir ou publicar o vídeo do ataque a tiros na New Zealand?
Por que não colocar esse hash na lista também?
Se a mesma lógica distorcida usada nesse raciocínio de cruzada vale, ela não deveria se aplicar não só a estupro, mas também a vídeos de pessoas sendo assassinadas?
Ou existe alguma estranheza puritana singular que faz com que, apenas no caso de CSAM, o Estado possa invadir todos os nossos dispositivos?
Se Auschwitz tivesse sido coberta por asfalto, e fosse ilegal falar sobre isso?
A lista secreta de especialistas agora foi publicada
https://news.ycombinator.com/item?id=38205743#38205787
https://netzpolitik.org/2023/geheime-liste-wie-der-sicherhei...
Mais incômodo do que o encobrimento da lista secreta de “especialistas” sobre a regulamentação de CSAM da UE ter sido má administração é o fato de haver pouquíssimas instituições e empresas europeias nessa lista
Representantes da Comissão disseram que muitas empresas participantes do EUIF têm preocupações com segurança e imagem pública
Também disseram que os temas discutidos no EUIF são em grande parte sensíveis e operacionais, e que, se divulgados, poderiam ser explorados por agentes mal-intencionados para contornar mecanismos de detecção e os esforços de coordenação das empresas
Disseram ainda que revelar estratégias e táticas das empresas, bem como abordagens técnicas específicas, traria o risco de ensinar criminosos a evitar a detecção
Mas, se o objetivo da empresa é pressionar para que dispositivos de escuta sejam inseridos secretamente em todos os dispositivos e apps de mensagens, ela realmente deveria se preocupar com sua imagem pública
Também deveria se preocupar com os direitos humanos e com sua própria bússola moral
Está na hora de trazer essa gente para a luz
O que acontece aqui é que a UE não quer parecer que consultou esse tipo de gente, então inventa motivos arbitrários para esconder isso
Eles estão usando crianças como arma política para fazer os cidadãos aceitarem qualquer coisa
Quem se opõe à sua vigilância total é retratado como apoiador de criminosos hediondos, tendo sua reputação arrastada pela lama
https://news.ycombinator.com/item?id=38205743#38205787