UE: recusar varredura pode levar à proibição de compartilhar fotos e links
(patrick-breyer.de)- A proposta da UE para regular material de abuso sexual infantil, chamada chat control, voltou a entrar em uma fase em que pode obter aprovação dos governos da UE devido à possível mudança de posição da França
- O rascunho de 28 de maio de 2024 pergunta aos usuários de apps e serviços de chat se aceitam a varredura automática e a possibilidade de denúncia de imagens, fotos e vídeos privados; em caso de recusa, restringe o envio e recebimento de fotos, vídeos e links
- Até serviços com criptografia de ponta a ponta como WhatsApp e Signal teriam de implementar busca automática antes do envio, o que na prática funciona como varredura no lado do cliente
- A varredura de texto por sinais de grooming e a varredura de comunicações por voz saem do rascunho atual, mas os chats de agentes de segurança e militares devem ficar fora do escopo
- O Council Legal Service considerou que a varredura indiscriminada de pessoas não suspeitas viola direitos fundamentais, mas vários governos da UE planejam continuar a discussão em 4 de junho
O que muda no rascunho de “upload moderation”
- A polêmica proposta de regulação de material de abuso sexual infantil, conhecida como chat control, voltou a um cenário em que pode ser aprovada no nível dos governos da UE
- Segundo reportagem da Euractiv e documentos internos, a França pode abrir mão do veto que mantinha até agora
- A França considera a nova proposta de “upload moderation” uma opção viável em princípio
- O rascunho mais recente de 28 de maio de 2024, Council document 9093/24, aplica-se a apps e serviços com função de chat
- Os usuários seriam questionados se aceitam a possibilidade de varredura e denúncia indiscriminadas e sujeitas a erro de imagens, fotos e vídeos compartilhados de forma privada
- Imagens e vídeos antes desconhecidos também passariam a ser investigados com tecnologia de inteligência artificial
- Usuários que recusarem a varredura não poderão enviar nem receber imagens, fotos, vídeos ou links
- Até serviços com criptografia de ponta a ponta como WhatsApp ou Signal teriam de implementar busca automática antes do envio das mensagens
- O rascunho trata isso como varredura no lado do cliente no Article 10a
- Patrick Breyer critica essa abordagem por enfraquecer a criptografia de ponta a ponta existente e transformar smartphones em ferramentas de vigilância
Escopo excluído e questões que permanecem
- No rascunho mais recente, parte do escopo de varredura presente na proposta inicial foi removida
- A varredura de mensagens de texto por sinais de grooming, que até agora quase não foi usada, deve ser eliminada
- A varredura de comunicações por voz, que nunca foi implementada até hoje, também deve ser removida
- Como concessão à França, os chats de agentes de segurança e militares podem ser excluídos do chat control
- Na última discussão de 24 de maio, o Council Legal Service afirmou que ainda se prevê uma varredura indiscriminada de chat control sobre pessoas não suspeitas, o que constitui violação de direitos fundamentais
- Mesmo assim, vários governos da UE demonstram intenção de seguir adiante
- Os governos da UE planejam continuar as discussões em 4 de junho
- O eurodeputado Patrick Breyer critica a Belgian proposal por implementar, na prática, o núcleo da proposta inicial de chat control da Comissão Europeia
- Para ele, usar mensageiros no século 21 apenas para texto puro não é uma opção
- Ele aponta que remover elementos excessivos que na prática nunca são usados é apenas maquiagem
- Também alerta que chats privados e fotos de cidadãos inocentes podem ser vasculhados por tecnologia não confiável e acabar vazando
- Na visão dele, se os governos da UE entrarem nas negociações de trilogue com essa posição, há o risco de o Parlamento abandonar gradualmente sua posição inicial em negociações fechadas e concordar com um compromisso que coloque em risco a segurança online
3 comentários
Neste caso, parece realmente um problema bem sério, mas pelo visto vão empurrar isso mesmo.
Gostei do que a UE fez com a Apple, mas acho que aqui passaram dos limites.
Talvez o erro tenha sido, em primeiro lugar, o que fizeram com a Apple... buá buá
Opiniões no Hacker News
Se “chats de funcionários de autoridades de segurança e das forças armadas também ficam excluídos do controle de chats”, então justamente as áreas de segurança e militares, onde a probabilidade de realmente haver necessidade de examinar conversas privadas é maior, ficam de fora?
Então, se você hospedar por conta própria, como em [1], não precisa cumprir essa lei
Mas isso quer dizer que, se um agente de segurança usar um serviço público em vez de uma infraestrutura auto-hospedada, ele poderia enviar dados confidenciais partindo do pressuposto de que está isento?
E, como @WA disse, isso significa que a lista de contatos desses servidores públicos será fornecida a todas as organizações com fins lucrativos?
Parece mesmo uma piada idiota
[1]: Veja a terceira linha em https://www.patrick-breyer.de/en/posts/chat-control/#current...
Mesmo supondo que essa afirmação seja verdadeira, para que serve a funcionalidade de abrir exceção para determinados grupos? A menos que a ideia seja deliberadamente permitir que esse grupo produza e distribua material de abuso sexual infantil, não há explicação
A conclusão mais plausível é que as alegações sobre proteção de privacidade ou limitação de finalidade são falsas
É difícil acreditar que achem que uma medida dessas vá sequer atrasar alguma coisa. Algumas leis podem ser vistas como um compromisso entre segurança e liberdade, mas neste caso nem fica claro o que exatamente se torna mais difícil para criminosos
Se alguém consegue enviar texto enquanto compartilha algo problemático nessas plataformas, também consegue enviar links. Mesmo em plataformas que “não permitem links”, as pessoas compartilham como texto comum, criando alguma nova convenção de escrita ou algo assim. Também dá para usar outra plataforma, então não vejo onde estaria o efeito dissuasório
No fim, é apenas uma regulação incômoda criada por pessoas que não entendem de tecnologia
Claro que não vai pegar 100%, mas quase nenhuma lei ou medida pega. E medidas que alcançam esse nível geralmente vêm acompanhadas de um volume enorme de falsos positivos
Links também não são difíceis de escanear, e é difícil esperar que simplesmente postar material de abuso sexual infantil em qualquer lugar “qualquer” acabe não gerando problema. Se a pessoa sabe exatamente o que está fazendo, então voltamos ao parágrafo anterior
É difícil negar que essa lei pegará alguém diferente de zero, e é difícil avaliar de antemão exatamente quantas pessoas. Isso não significa que seja uma boa lei, mas argumentos do tipo “não vai pegar ninguém” são argumentos ruins
Primeiro, fazer parecer que alguém está fazendo alguma coisa. Eleitores não aceitam o fato de que seus representantes não têm poder para resolver determinado tema quente. Mesmo que uma nova lei ou regulação tenha pouco ou nenhum efeito, se os legisladores conseguirem fazer “especialistas” dizerem coisas favoráveis, muitos eleitores que não entendem a questão ficam de certa forma satisfeitos
Segundo, continuar construindo e normalizando tecnologias de vigilância até que se tornem parte do cotidiano. Quanto mais o pessoal do governo tornar obrigatórias coisas que não poderia fazer privadamente, mais fácil fica fazer praticamente qualquer coisa que quiserem
A questão separada é quão acessível isso seria no celular, mas não parece tão difícil
Conteúdo público também pode ser escaneado como parte de uma defesa em profundidade
Quando responsáveis com autoridade se sentem impotentes para cumprir sua responsabilidade, entram em pânico e colocam pessoas inocentes em situações inconvenientes ou prejudiciais, tornando todos menos seguros. Isso acontece em vez de capturar o número relativamente pequeno de perpetradores que causam o problema real
Vi exemplos demais disso ao longo dos anos, e quanto maior a indignação pública, maior foi o dano causado ao público em geral do que ao minúsculo grupo envolvido ou responsável. No fim, eles apenas mudam um pouco o método e continuam, enquanto o público é que se ferra
Em vez de terceirizar isso para o governo ou para empresas de capital aberto, é melhor dar ferramentas e educação para que os pais possam proteger seus filhos
Por isso, os cidadãos que elegeram as pessoas que fazem essas coisas precisam demitir esses políticos na próxima oportunidade e dizer a eles por que foram demitidos. A polícia é um escorpião, e escorpiões agem conforme sua natureza. É preciso demitir os idiotas que criam as leis que eles aplicam; a origem real das novas leis são eles, não a polícia
A confusão que uma lei dessas pode causar é algo assim
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
O verdadeiro problema é que o suporte do Google é notoriamente inexistente ou difícil de entender. Some-se a isso uma abordagem em preto e branco, como “banimento vitalício”, e uma estrutura em que é difícil recorrer a uma instância razoavelmente independente. Há muitos motivos inocentes pelos quais uma conta pode ser banida, e este é apenas um deles
Serviços que permitem que qualquer pessoa faça upload ou envie coisas viram uma fita pega-moscas para os piores seres humanos. Alguma forma de salvaguarda é realmente necessária
Indo um passo além, se você oferece uma plataforma gigantesca que se entrelaça com muitos aspectos da vida, precisa aceitar certa responsabilidade, queira ou não. No mínimo, deve oferecer um suporte que ajude ao menos aproximadamente, e não deve se tornar um host em larga escala de material de exploração sexual infantil
Na época em que eu trabalhava como técnico de reparos, cliquei em qualquer coisa na página inicial do Google Video para ver se o Flash Player estava funcionando, e apareceu um vídeo de um homem estourando a própria cabeça. Mesmo em lugares como Kazaa ou sites de warez, era bastante comum esbarrar em coisas do tipo “Alice, de 12 anos, orgulhosamente mostrando seus peitinhos”, sem nem procurar por isso
Onde traçar o ponto de equilíbrio em tudo isso é uma pergunta difícil, mas fingir que o equilíbrio em si não existe não ajuda
Esta proposta está sendo empurrada pelo Conselho, mas ainda é possível influenciar o resultado final. Basta votar em partidos que não se envolveram com esse lixo, para que ela seja rejeitada. O EU Pirate Party ainda está nas cédulas em algumas regiões
Se isso virar lei, minha previsão é o retorno da arte ASCII
Não estamos falando de compartilhar fotos de férias com amigos, mas de coisas como
“Aqui está o link explicando como lidar com os impostos da organização sem fins lucrativos”, “Este é o novo logotipo da escola”, “Este é o link da agenda do torneio de futebol”
Fugindo um pouco do tema, mas fiquei curioso se a UE já desregulamentou alguma coisa. Ela só adiciona novas leis e artigos? São pagos por número de linhas de código? Quais são exemplos de leis revogadas ou de regulamentações flexibilizadas?
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
Há um resumo aqui: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
Essa diretiva revogou várias leis nacionais sobre volumes de produtos. Por exemplo, na França, era possível vender xampu em frascos de 250 ml ou 500 ml, mas não de 295 ml; e cogumelos podiam ser vendidos em caixas de 250 g ou 500 g, mas não de 230 g ou 490 g
Agora isso passou a ser possível e, como resultado, virou uma desregulamentação que possibilitou a shrinkflation
Para mim, a forma como a UE e os EUA lidam com segurança alimentar resume bem as duas filosofias. Na UE, para um alimento ser permitido, é preciso comprovar que ele é seguro; nos EUA, para um alimento ser proibido, é preciso comprovar que ele não é seguro
Hoje em dia, desregulamentação não é muito popular, mas ainda aconteceu aqui e ali de vez em quando
Então, o que acontece com nossos direitos fundamentais, o Artigo 7º?
Apoio totalmente esta lei, desde que se acrescente apenas uma coisa
Todos os dados compartilhados dentro da UE por políticos, servidores públicos e suas famílias devem ser divulgados, analisados para investigações de corrupção e armazenados permanentemente
Se todos nós somos considerados pedófilos, todos os políticos são criminosos
Claro que alguns serão acusados injustamente, e todos nós perderemos liberdades, mas a cada eleição haverá uma pequena chance de o governo anterior ser auditado e de corrupção e outros crimes virem à tona
Isso me parece valer a pena tentar
Vendo pelo lado positivo, a reação vai estimular a nova geração a mandar esses fósseis ultrapassados para a lata de lixo da história
https://youtube.com/watch?v=-wntX-a3jSY
Quanto mais forte apertarem, mais sistemas estelares vão escapar por entre os dedos
Claro, não é muito diferente das gerações anteriores, mas definitivamente não é uma enorme onda anti-autoritária
Pessoas de qualquer idade só reagem de forma consistente quando de fato sofrem algum incômodo. A maioria vai aceitar a vigilância e voltar a compartilhar memes idiotas. Pelo menos até ser tarde demais
O motivo de propostas como essa continuarem voltando é que há preocupações legítimas que a autorregulação do setor não resolveu
Se ninguém quiser conversar sobre boas medidas, os políticos, mesmo que sejam novos políticos, vão tentar de novo
O que a implantação irresponsável da IA generativa está fazendo nessa área é realmente horrível. Mas todo mundo descarta isso com algo como "não dá para impedir matemática mesmo, então não vou fazer nada", ou implicitamente "os fins justificam os meios, então tudo bem sacrificar algumas crianças para obter AGI". A imagem para quem vê de fora é péssima
Se o setor de tecnologia não assumir responsabilidade por conta própria, a privacidade vai morrer em breve. Os políticos só precisam vencer uma vez
É só esperar as primeiras centenas de falsos positivos e suas histórias aparecerem no noticiário, e ver que efeito isso terá na próxima eleição. Alguns partidos vão fazer campanha com isso
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
Para implementar essa lei, eles só precisam ter sucesso uma vez, e então ela fica. Nós precisamos conseguir revogá-la todas as vezes, sem falhar nem uma única vez