Por que devemos dizer “NÃO” à ‘nova lei anti-Nth Room’

 (m.zdnet.co.kr)
5 pontos por kunggom 2020-05-09 | 6 comentários | Compartilhar no WhatsApp

Provavelmente todos já conhecem o caso conhecido como “Nth Room”, que veio à tona há pouco tempo e gerou indignação em todo o país. Essa indignação popular acabou pressionando o Legislativo a criar novas leis e, de fato, uma série de projetos de alteração legislativa apelidados de “lei anti-Nth Room” está surgindo. No entanto, este artigo distingue parte dessas propostas como “lei anti-Nth Room 2” e argumenta contra elas. (coreano)

A proposta em questão são emendas à Lei de Redes de Informação e Comunicações e à Lei de Negócios de Telecomunicações, atualmente em discussão na Comissão de Ciência, Tecnologia, Informação, Radiodifusão e Comunicações da Assembleia Nacional, que impõem aos operadores de plataformas de internet várias obrigações para impedir a circulação de diversos tipos de ‘conteúdo obsceno ilegal’. Em especial, entre essas obrigações está a ‘obrigação técnica’ especificada no [Decreto de Execução da Lei de Negócios de Telecomunicações] (Artigo 30-3). Essa obrigação técnica exige que a empresa identifique ‘informações obscenas ilegais’, impeça que usuários pesquisem ou transmitam tais conteúdos, envie mensagens de aviso a quem tentar transmiti-los e mantenha os logs relacionados por 2 anos. Em caso de descumprimento, a proposta permite aplicar uma multa administrativa de até 3/100 do faturamento da empresa ou até 1 bilhão de won.

O ponto mais problemático é justamente o fato de a empresa ter de identificar ‘informações obscenas ilegais’. Por exemplo, verificar o conteúdo de vídeos ou arquivos trocados em um mensageiro e bloqueá-los se forem ilegais é claramente [censura]. Naturalmente, isso pode levantar problemas de violação de privacidade. Os critérios para julgar o que é conteúdo obsceno ilegal também são vagos. Como na história de “bloquearam fotos com muita pele exposta e acabaram cortando fotos de luta de sumô”, também podem ocorrer falsos positivos, com bloqueio de conteúdos que não são obscenos ilegais. E no caso de E2EE (criptografia de ponta a ponta)? Se a criptografia de ponta a ponta estiver aplicada corretamente, o normal é que a empresa não consiga ver o conteúdo de forma alguma. Mesmo que quisesse identificar conteúdo obsceno ilegal conforme a lei, nem conseguiria fazer isso.

Outro problema é que o ônus recai apenas sobre as empresas nacionais. A proposta até introduz regras de aplicação extraterritorial para impor essas obrigações também a empresas estrangeiras, mas, no caso de empresas sem pessoa jurídica no país, que medida prática de coerção existiria além de exibir warning.or.kr se elas simplesmente não cumprirem? O próprio Telegram, onde o ‘Nth Room’ existia, é famoso por sua política de não fornecer informações a órgãos de nenhum país. E também é problemático impor o peso apenas às empresas. Para impedir crimes sexuais, não seria melhor acabar com punições brandas para esse tipo de crime?

Ainda assim, isso não significa que as empresas realmente não possam tomar nenhuma medida. Por exemplo, o serviço de armazenamento e compartilhamento em nuvem MEGA compara o hash dos arquivos enviados com hashes conhecidos de pornografia infantil e, em caso de correspondência, reporta às autoridades. Se esse método for adaptado, seria possível inibir em certa medida a circulação de pornografia infantil ou pornô de vingança. Se for um método que aplica a técnica de Perceptual hashing no lado do cliente e consulta apenas o hash, talvez seja possível reduzir os danos dos crimes de pornô de vingança minimizando a violação de privacidade. No entanto, isso reduziria a velocidade de processamento, geraria custos de operação do banco de dados e ainda teria a falha de não bloquear vídeos cujos hashes não estejam registrados na base. Além disso, mesmo que o vídeo já esteja cadastrado, não seria impossível contornar o hashing se alguém realmente quisesse. E desde o início já é duvidoso que criminosos desse tipo usem plataformas nacionais, que são mais fáceis de rastrear. Bloqueio perfeito simplesmente não existe. Portanto, esse tipo de medida técnica está longe de ser uma solução fundamental.

Essa questão pergunta até onde devem ir a responsabilidade e as obrigações das plataformas de internet, e até onde deve ir a proteção da privacidade. Uma coisa é certa: isso não é um problema que possa ser resolvido apenas jogando a responsabilidade inteiramente sobre empresas individuais. Antes de tudo, as leis já aprovadas precisam ser aplicadas adequadamente para que criminosos desse tipo de crime sexual não recebam punições brandas. Além disso, talvez o governo também devesse assumir algum ônus. Por exemplo, se realmente cada empresa tiver de fazer censura baseada em hash, que tal o Estado operar de forma centralizada um banco de dados com os hashes dos vídeos problemáticos e fornecê-lo às empresas, registrando imediatamente nesse banco os casos denunciados por vítimas de vazamento de vídeos? Pelo menos algo nesse nível teria de ser assumido pelo Estado para que houvesse um mínimo de justificativa ao forçar as plataformas a censurar.

※ Embora este não seja originalmente um espaço apropriado para publicar conteúdos sensíveis relacionados a política ou legislação, peço compreensão, pois considerei uma exceção por este artigo tocar diretamente em legislação relacionada a TI.

Leituras relacionadas

6 comentários

 
sduck4 2020-05-11

Uma associação relacionada enviou uma carta de consulta à Assembleia Nacional.

https://www.yna.co.kr/view/AKR20200508148851017
 
gwanryo 2020-05-11

Acho que apresentar uma legislação relacionada à TI e defender argumentos a favor ou contra ela são coisas diferentes.

Teria sido melhor se vocês tivessem publicado as opiniões dos dois lados de forma equilibrada.
 
gwanryo 2020-05-11

"O que não deve ser postado?

Não tratamos de muitos assuntos relacionados a política, religião, acontecimentos e acidentes, esportes etc.

A maioria das coisas que provavelmente apareceriam na seção de notícias dos portais não combina com este espaço."

Esse conteúdo também aparece no guia de uso do GeekNews (https://news.hada.io/guidelines).

Não é que o texto que você postou não tenha conteúdo técnico, mas acredito que o fato de incluir outros elementos além disso, como opiniões políticas e impressões pessoais, pode entrar em conflito com essas diretrizes de uso.

Partindo dessa linha de raciocínio, gostaria de dizer que teria sido melhor se você tivesse apresentado de forma equilibrada as opiniões dos dois lados.
 
kunggom 2020-05-11

Acredito que a regra “coisas que provavelmente apareceriam na seção de notícias dos portais em geral não combinam muito com este espaço” não significa que “se saiu na seção de notícias de um portal, então de forma alguma deve ser postado aqui”. Também acho difícil interpretar essa regra como uma proibição total de expressar opiniões no corpo do texto ou como uma exigência de neutralidade mecânica incondicional. Há também a regra “por favor, não usem isto para brigas sobre política/religião/ideologia etc.”, mas penso que fazer uma crítica é algo diferente de provocar uma briga de forma emocional.

Quanto a tratar os dois lados de forma equilibrada, ao escrever o texto eu parti do pressuposto de que, neste momento, a maioria das pessoas que o leria já conhece o contexto do caso da sala N e compartilha o entendimento de que crimes sexuais como os da sala N precisam ser erradicados. Por isso, considero que apresentar um projeto de lei com a proposta de “impor aos operadores de plataformas de internet o dever de censura para eliminar crimes sexuais como os da sala N” já contém, por si só, o argumento favorável de maneira suficiente. Assim, achei que desenvolver isso longamente seria mera repetição, e optei deliberadamente por não acrescentar mais. Se a discussão técnica sobre métodos de censura ficou insuficiente por estar limitada a certas técnicas específicas, peço compreensão, pois isso se deve à limitação do meu conhecimento. Se possível, seria bom que a discussão técnica continuasse nos comentários.
 
verysatisfying 2020-05-09

Há cláusulas de exceção aí. Em vez disso, talvez não combine mais com este espaço pensar em como poderíamos contribuir tecnicamente para bloquear conteúdo pornográfico ilegal nesse tipo de questão.

No Artigo 95-2, os itens 1-2 e 1-3 são respectivamente incluídos da seguinte forma.

1-2. Quem, nos termos do Artigo 22-5, parágrafo 1, não tomar as medidas necessárias para impedir a circulação, como a remoção e o bloqueio de acesso de material de filmagem ilegal etc. No entanto, isso não se aplica nos casos em que, ao reconhecer o material de filmagem ilegal etc., a pessoa não negligenciou a devida diligência para tomar sem demora as medidas necessárias para impedir sua circulação, como a remoção da informação e o bloqueio de acesso, ou quando isso for tecnicamente extremamente difícil.

1-3. Quem não adotar as medidas técnicas e administrativas previstas no Artigo 22-5, parágrafo 2.

No entanto, isso não se aplica nos casos em que a pessoa não negligenciou a devida diligência para adotar as medidas técnicas e administrativas previstas no Artigo 22-5, parágrafo 2, ou quando isso for tecnicamente extremamente difícil.
 
kunggom 2020-05-09

Parece que as considerações técnicas sobre o bloqueio de pornografia ilegal não ficaram totalmente de fora do texto principal, mas pelo visto isso lhe parece insuficiente. Pessoalmente, acho que, por enquanto, um método baseado em perceptual hashing é o mais realista entre as opções.