Críticas dizem que a polêmica investida da Comissão Europeia por vigilância digital enfraquece a democracia
(dannymekic.com)- A proposta de regulamento CSAM da Comissão Europeia vem sendo criticada como uma proposta de vigilância em massa que faria a varredura automática de conversas, fotos e vídeos de cidadãos em apps de comunicação como WhatsApp, iMessage, Instagram, TikTok e X
- Como até cidadãos sem suspeita de crime poderiam ser alvo, acadêmicos, autoridades reguladoras de privacidade e especialistas jurídicos internos do Conselho da UE apontam violação do direito à privacidade e falhas técnicas
- Em 14 de setembro de 2023, depois de surgirem indícios no Conselho da UE de que não havia apoio suficiente, no dia seguinte a comissária para Assuntos Internos Ylva Johansson lançou anúncios pagos no X voltados a países contrários ou indecisos
- Os anúncios tiveram mais de 4 milhões de visualizações e, segundo o relatório de transparência do X, usaram microtargeting para excluir usuários interessados em Julian Assange, Brexit, AfD e cristianismo
- A exclusão publicitária com base em crenças políticas e religiosas entra em conflito com a política de anúncios do X, o Digital Services Act e o GDPR, levando a críticas de que a Comissão pressionou a opinião pública de forma manipuladora
A estrutura de vigilância das comunicações que a proposta CSAM pretende criar
- A Comissão Europeia está promovendo a proposta de regulamento CSAM para transformar apps de comunicação digital como WhatsApp, iMessage, Instagram, TikTok e X em ferramentas de vigilância em massa
- O escopo da varredura cobre as comunicações digitais dos cidadãos da UE como um todo, incluindo conversas em tempo real, fotos e vídeos
- Até comunicações de cidadãos sem suspeita de crime poderiam ser escaneadas automaticamente
- Centenas de acadêmicos, autoridades reguladoras de privacidade e especialistas jurídicos internos do Conselho da UE criticam a proposta por violar o direito à privacidade e por a tecnologia de implementação ser fundamentalmente falha
- A inteligência artificial pode não detectar com precisão atividade criminosa e denunciar por engano milhões de cidadãos inocentes como suspeitos
- Criminosos podem contornar o sistema com facilidade apagando o app ou migrando para a dark web
- A proposta é criticada por significar o fim das conversas digitais privadas e por contrariar também a liberdade de comunicação e o princípio da presunção de inocência
Anúncios no X começaram logo após a falta de apoio no Conselho
- Em 14 de setembro de 2023, ficou claro no Conselho da UE que não havia apoio suficiente para essa proposta
- No dia seguinte, 15 de setembro, a comissária europeia para Assuntos Internos Ylva Johansson encomendou uma campanha de anúncios pagos no X
- O alvo dos anúncios eram os países que, segundo a ata vazada da reunião de 14 de setembro, não pretendiam apoiar a proposta em sua forma atual
- Países Baixos
- Suécia
- Bélgica
- Finlândia
- Eslovênia
- Portugal
- República Tcheca
- A campanha teve mais de 4 milhões de visualizações
- Os anúncios usavam a imagem de uma menina pequena, homens com aparência ameaçadora e música sombria, exercendo pressão emocional ao sugerir que opositores da lei não querem proteger crianças
Problemas com pesquisas de opinião e com a forma de apresentar apoio
- Os anúncios afirmavam que a lei proposta tinha apoio da maioria dos europeus
- A pesquisa usada como base foi criticada por destacar apenas as vantagens da lei e não apresentar os pontos negativos
- Pesquisas da YouGov e da Novus apresentaram também os pontos negativos e mostraram que quase não havia apoio à proposta entre os cidadãos europeus
- Depois, a metodologista Dr. Vera Wilde escreveu um texto detalhado sobre os resultados de pesquisa usados na campanha publicitária
- Ela avaliou que o instrumento de pesquisa era enviesado e que a pesquisa não era válida
- Considerou que os responsáveis pela pesquisa violaram padrões profissionais e éticos amplamente aceitos, além de códigos de conduta relacionados
- Entendeu que apoiadores do programa representaram de forma incorreta os resultados da pesquisa
- Avaliou que essa pesquisa e sua apresentação configuram uma campanha de desinformação que induz participantes e leitores ao erro
Microtargeting no X e conflito jurídico
- Segundo o relatório de transparência do X, a Comissão usou microtargeting para impedir que determinados grupos vissem os anúncios
- Entre os grupos excluídos estavam pessoas interessadas em privacidade e usuários com inclinação eurocética
- pessoas interessadas em Julian Assange
- pessoas interessadas em nexit, brexit e spanexit
- pessoas interessadas em Victor Orbán, Nigel Farage e no AfD da Alemanha
- Por um motivo não esclarecido, pessoas interessadas em cristianismo também foram excluídas
- Após excluir grupos políticos e religiosos críticos, o algoritmo do X foi configurado para encontrar, entre os demais, usuários que provavelmente demonstrariam interesse na mensagem do anúncio
- Como resultado, avalia-se que foi criada uma câmara de eco sem crítica, com menos reações críticas
- Esse tipo de microtargeting com base em crenças políticas e religiosas entra em conflito com:
- política de anúncios do X
- Digital Services Act Article 26(3)
- General Data Protection Regulation
- Em especial, o Digital Services Act é uma lei cuja supervisão cabe diretamente à própria Comissão
Procedimento democrático e exigências à Comissão
- A posição defendida é que, se não há apoio suficiente ao projeto, a resposta democrática seria retirá-lo ou revisá-lo, como propôs a Alemanha, para obter apoio suficiente
- Nesse caso, menciona-se uma revisão que não introduza um “telescreen” inconstitucional
- O uso, pela Comissão, de anúncios manipuladores, estatísticas enganosas e microtargeting com base em religião e crenças para mudar a opinião pública em Estados-membros considerados suspeitos é criticado por lembrar campanhas de desinformação nas eleições dos EUA e durante o Brexit
- Também se avalia que deixar de lado valores europeus para empurrar uma lei controversa prejudica não só os cidadãos, mas os próprios fundamentos da União Europeia
- Exige-se que a Comissão retire a campanha publicitária e pare a campanha manipuladora de desinformação que tenta dobrar a opinião pública europeia por meio de anúncios ilegais em redes sociais
Atualizações posteriores e materiais
- Após a publicação do texto, foi atualizado que a conta @DannyMekic e seus tuítes deixaram de aparecer no mecanismo de busca do X/Twitter
- O acesso à conta foi restaurado depois, mas o autor afirma que não se sabe por quê, como, para quem isso foi feito ou se foi uma decisão do próprio X
- O relatório de transparência relacionado do X parece ter sido removido do X/Twitter em 14 de novembro de 2023, e um arquivo espelho está no GitHub
- O texto também fornece uma lista de links para o relatório de transparência relacionado do X e para publicações da EUHomeAffairs
1 comentários
Opiniões no Hacker News
A própria forma como os políticos tentam aprovar esse tipo de lei controversa parece realmente errada
Políticos, influenciados por lobbies que têm pouco interesse no bem público, levantam pautas controversas, e para barrá-las muitos cidadãos precisam gastar tempo e energia se mobilizando
Mas, quando a poeira baixa, os mesmos políticos e lobistas voltam com a mesma coisa, só mudando o nome ou enfiando escondido em outro projeto de lei; depois de um caso que mobiliza muita emoção, também fica mais fácil conquistar apoio público sem contexto
Políticos e lobistas são pagos para fazer isso, mas os cidadãos não são; no fim, enquanto os cidadãos gastam a própria vida, eles conseguem continuar empurrando a mesma bobagem
No passado, também tentaram aprovar patentes de software em uma reunião de ministros da agricultura; naquela ocasião, a delegação polonesa conseguiu barrar, mas no fim a indústria acabou conseguindo o que queria
Por um lado, parece que essa loucura acabaria; por outro, tenho medo de que, por alguns meses, também tentassem coisas como vigilância total e bissecção como método de pena de morte
Ainda assim, haveria a vantagem de corrigir leis ruins muito mais rapidamente
Muitas vitórias de direitos, como sufrágio feminino, direitos civis, direitos de pessoas gays e cannabis medicinal, também foram resultado de políticos e lobistas insistirem, perderem repetidamente e, um dia, conseguirem aprovar algo que se consolidou
Pessoalmente, acho que governos locais menores e mais descentralizados são a melhor forma de reduzir danos, mas aí todos os grupos precisam repetir a mesma luta em várias regiões, o que também causa seus próprios prejuízos
Não consigo imaginar uma forma de derrotar permanentemente projetos de lei ruins que não prejudique do mesmo modo os movimentos de direitos do passado
Em geral, para impedir uma ação, é preciso controle total ou incentivos fortes, e o desenvolvimento de recursos de navegadores segue a mesma dinâmica
Adicionar é fácil, mas impedir que algo seja adicionado é difícil; no fim, acabamos dizendo sim até para coisas prejudiciais à maioria
Mais gente até se informa um pouco, mas não faz nada; um grupo ainda maior reclama em fóruns e só pede para os outros fazerem
Dá para gerar mudança com pouquíssimas pessoas, mas, na realidade, menos gente ainda se mexe, então nada acontece
Pessoas que se mexeram, como eu, acabam exaustas e desesperançadas, sentindo que desperdiçaram uma parte considerável da vida
Se apenas mais algumas pessoas tivessem participado, talvez tivesse sido diferente, mas isso não aconteceu
Se você quer mudança, pode conquistá-la, mas a maioria não vai fazer isso
Separadamente do debate mais amplo sobre privacidade e vigilância, se a European Commission usou publicidade segmentada sofisticada para influenciar a opinião pública e excluiu deliberadamente pessoas preocupadas com privacidade e eurocéticos, isso é muito preocupante
Se instituições como a EC começarem a empurrar agendas por meio de câmaras de eco cuidadosamente construídas e a excluir determinados grupos populacionais da discussão, o espaço comum de debate político público desaparece
Será que é gerrymandering digital?
Não há nada de novo nisso; agora só não são mais apenas populistas de direita que fazem isso
Hoje em dia, no Twitter, por algum motivo, esse tipo de populismo de direita passou a ser visto como algo totalmente aceitável
Por exemplo, ao fazer propaganda voltada para Belgium ou NL, as pessoas que estão ali há várias gerações muitas vezes são eleitorado de partidos de direita
As pessoas que seguem o espírito da lei frequentemente não se registram localmente, como estudantes nos EUA
No fim, cria-se um ciclo de retroalimentação em que mais conteúdo vai para o feed de pessoas parecidas com aquelas que produziram o Brexit
Concordo com o autor quando ele diz que, se a proposta de lei não tem apoio suficiente, a resposta democrática correta é retirá-la
Estou cansado desse modelo de política pública de fraternidade universitária, em que continuam perguntando até obter o exemplo desejado de pessoas que não foram bloqueadas para não poderem ouvir
Descobri recentemente que, antigamente, as votações no Congresso dos EUA eram anônimas, no sentido de que o número de votos era público, mas quem votou em quê permanecia secreto
Depois, em nome de aumentar a transparência, os votos individuais passaram a ser divulgados, o que teve o efeito de parecer mais aberto aos cidadãos, mas também mostrou aos lobistas exatamente quais parlamentares votavam a favor ou contra seus interesses
Como resultado, dinheiro passou a fluir para parlamentares favoráveis ao lobby, acelerando um ciclo vicioso
Esta palestra em vídeo trata desse processo e de seus efeitos com muito mais detalhes: https://www.youtube.com/watch?v=Qz27n1tNNMg
Além disso, lembro também de uma história sobre um órgão político real que testou votação aberta e secreta para a mesma lei e obteve resultados completamente diferentes. Acho que talvez tenha sido o Parlamento italiano
European Parliament é provavelmente a melhor instituição que temos na Europa, e boa parte das mudanças positivas e dos novos direitos vem de lá
Em contrapartida, a European Commission é quase o pior que poderíamos ter
Ou é totalmente corrupta, como no caso da vice-presidente que recebeu malas de dinheiro do Qatar e de outros, ou no mínimo está moralmente corrompida por lobby
Além disso, ninguém elegeu essas pessoas com tanto poder
Também vale pensar por que os EUA obtiveram acesso compartilhado a todas as transações financeiras dos cidadãos europeus, mas o inverso não se aplica
Isso enfraquece o argumento original
Por exemplo, os EUA arcam com a maior parte dos custos de defesa da Europa
Além disso, por algum motivo ela era vice-presidente responsável por AI e Blockchain, embora não tivesse qualificação nenhuma
O problema tanto da EC quanto do EP é a falta de accountability, e o sistema é muito indireto
Não há nada de novo na EU Commission
Entre as instituições da UE, é a menos democrática, e até o nome commission parece muito apropriado, vindo do commissar da Soviet Union
Basta ver como ela ataca países que tiveram a coragem de eleger forças contrárias a seus patrocinadores, principalmente grupos de interesse alemães e a Rússia como representante
Redefine termos como Estado de Direito para mirar a Poland, governada por um partido contrário ao EPP, o partido no poder na UE, enquanto ignora completamente a corrupção terrível da Bulgaria, que está do seu lado
Não reage à enorme corrupção no Court of Justice of the EU, e hoje esse tribunal está praticamente no lado oposto do Estado de Direito, mas isso é uma longa história
Ao mesmo tempo, tenta ampliar seus poderes contra os tratados, acabar com o direito de veto e empurrar projetos de lei como este
A própria UE era uma ideia excelente, o que torna tudo mais triste; qualquer coisa pode se corromper
Tenho curiosidade sobre as opiniões de pessoas que já pensaram a fundo sobre o papel do anonimato na democracia
É interessante que pessoas com a atitude de que, se você não fez nada de errado, não deveria se importar em ser vigiado, muitas vezes apliquem essa filosofia só em uma direção
Vejo pessoas irritadas com Snowden por ter exposto atividades do governo, mas indiferentes ao fato de que o que foi exposto era o governo vigiando seus próprios cidadãos
Isso significa que o governo tem direito à privacidade, mas os cidadãos não?
Tenho a intuição de que a privacidade individual é importante para manter a democracia, mas também a intuição de que o sigilo institucional do governo é prejudicial à democracia
Claro que a maioria argumentaria que algum nível razoável de sigilo governamental é necessário para a segurança nacional, e eu preferiria apenas o mínimo, mas a maioria ao meu redor não concorda
Gostaria de explorar os dois lados e encontrar argumentos que vão além da intuição; links para argumentos ou referências de diferentes posições seriam bem-vindos
Uma das obrigações do governo é a defesa militar, e o governo deve proteger o povo; a realidade da guerra exige certo grau de sigilo
Não reconhecer isso poderia equivaler a abandonar uma obrigação do governo
Já indivíduos privados não podem travar guerras, e a razão pela qual o governo deve proteger o povo também é que indivíduos são proibidos de fazer guerra por conta própria
Portanto, a lógica da realidade da guerra justificaria o sigilo do governo, mas não justificaria segredos privados dos indivíduos
Como contraponto, historicamente, especialmente no século 20, dezenas de milhões de pessoas foram mortas por seus próprios governos
Para que o governo proteja efetivamente o povo contra ameaças externas, algum sigilo pode ser necessário, mas o povo também precisa do direito de manter segredos em relação ao governo para se proteger de uma ameaça interna igualmente realista e preocupante: o próprio governo
As pessoas precisam de alguma forma de pressão social para cooperar, seja feedback positivo dos pares, seja feedback negativo como a vergonha
Aqui a autenticidade é importante, e os pares precisam conseguir dar feedback positivo e negativo preciso
O anonimato quebra esse modelo, permitindo que as pessoas finjam ter certas visões para obter recompensas, enquanto evitam feedback negativo por comportamento antissocial
Isso fica evidente ao observar comentaristas pseudônimos na internet
Pessoas comuns podem se comportar de forma completamente horrível online porque conseguem esconder suas ações de quem poderia impor consequências sociais
Se você descobrisse que um amigo próximo é alguém que demonstra a crueldade cotidiana de um troll online, talvez encerrasse a amizade
É claro que os benefícios da privacidade não são todos ruins, e pessoas vulneráveis recebem grande ajuda da privacidade, especialmente em ambientes hostis
Mas em ambientes menos hostis, como democracias diretas ou indiretas, a resposta talvez não seja mais privacidade, e sim uma cultura menos julgadora
Outro enquadramento é a confiança
O anonimato enfraquece a confiança, mas ações coletivas exigem confiança
Visto dessa perspectiva, fica bastante claro que democracia e proteção da privacidade perseguem objetivos opostos
Também no que diz respeito ao voto, não acho uma boa ideia criar incentivos para mentir — pior ainda, incentivar ativamente isso como algo positivo
Se o voto público cria externalidades negativas, pode haver outras soluções além de permitir que as pessoas mintam sobre como votaram
É realmente terrível
O Reino Unido também está fazendo tentativas desse tipo sob o pretexto de proteger crianças
Mas não apoia organizações da sociedade civil que fazem um bom trabalho nessa área, e suas ações concretas mostram que o controle tem prioridade muito maior do que a proteção infantil
Mesmo deixando de lado a obsessão geral por controle e a perda de liberdade, fico me perguntando se já foi estudado o quanto isso realmente ajuda a deter abusadores sexuais de crianças
Parece muito menos eficaz do que organizações da sociedade civil que combatem crimes sexuais contra crianças e, no fim, soa como uma tentativa de imitar a China para controlar a população
Burocratas estão esmagando os cidadãos com uma quantidade enorme de texto
Aqui, até a expressão de opiniões está sendo regulada, quando alguns princípios bastariam
O princípio mais importante deveria ser que todo cidadão pode expressar livremente sua própria opinião
https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CEL...
Isso também não é novidade
Qualquer país pode adotar proteções mais fortes à liberdade de expressão se quiser, e as instituições da UE não podem impedir isso
A lógica original não faz sentido
A maioria dos países da UE tem leis que proíbem explicitamente discurso de ódio, como nazismo ou antissemitismo
Ninguém chora porque as opiniões deles são restringidas, e nem deveria
Debater com pombos não funciona
Isso é justo
Difamação é um crime punido por lei em todo o Ocidente, mas isso não significa que você seja proibido de dizer o que quiser
Uma democracia sem o poder de controle chamado sistema judicial não é uma democracia no sentido moderno
Acho que não há democracia de verdade nem na European Union nem em qualquer Estado-membro
Não há separação de poderes, e o Executivo e o Legislativo tentam controlar tudo como se fossem um só
Dá para perceber isso pelas leis que contornam o sistema judicial ao censurar conteúdo na internet
Quem decide se Russia Today ou Twitter serão banidos não é um juiz
Isso é como ver a lei de ferro da oligarquia de Michels se desenrolando diante dos nossos olhos
Eles fazem as leis, as executam e punem quem não as segue
Vi essa iniciativa pela primeira vez em um site de VPN há quase um ano
O mais preocupante é que esse assunto quase não é noticiado pela imprensa
Como as pessoas podem protestar contra algo de que nunca ouviram falar?
O poder hegemônico que, sob o pretexto de uma burocracia complexa, da repressão à imprensa e da proteção infantil, corrói às escondidas os direitos fundamentais não só dos europeus, mas de todos, é mais assustador do que a própria proposta
Combater material de abuso sexual infantil e outras atividades criminosas é absolutamente importante, mas vigilância em massa não é a resposta