Fóruns e comunidades da Coreia do Sul agora terão de inspecionar todas as imagens com ferramentas de censura por IA
(discuss.privacyguides.net)- Uma mudança na Lei de Negócios de Telecomunicações passa a exigir que operadores de comunidades e fóruns online sul-coreanos usem IA para inspecionar todas as imagens e vídeos enviados por usuários
- O governo não fornecerá o hardware para executar os modelos de IA, e os operadores dos sites terão de comprar por conta própria GPUs Nvidia de nível de data center, o que deve gerar pressão financeira sobre pequenos negócios e fóruns
- Os sites terão de implementar imediatamente o hardware necessário e as funções de software a partir de 1º de julho
- A política de censura prévia por IA sobre imagens em comunidades online do país está ligada à emenda de 2021 da Lei de Negócios de Telecomunicações, conhecida como “Lei de Prevenção do Nth Room”, e a opinião pública se divide entre a necessidade de uma rede de proteção social e a violação da liberdade de expressão
- A implementação da política vem gerando ao mesmo tempo custos para os operadores, prazo curto de preparação, problemas de fornecimento de equipamentos e controvérsia sobre a liberdade de expressão
Mudança regulatória e cronograma de aplicação
- Com a mudança regulatória na Lei de Negócios de Telecomunicações, o governo sul-coreano exige que operadores de comunidades e fóruns online inspecionem com IA as imagens e vídeos enviados por usuários e publicados nos sites
- Os sites precisam implementar imediatamente o hardware necessário e as funções de software a partir de 1º de julho
- O autor da publicação aponta que essa data de entrada em vigor cai no mês seguinte à data do post
Hardware e custos
- O governo não fornecerá o hardware necessário para executar os modelos de IA
- A estrutura exige que os operadores dos sites comprem por conta própria GPUs Nvidia de nível de data center
- O problema é que essa exigência impõe pressão financeira a pequenos negócios e fóruns
Cobertura relacionada e reação de operadores de comunidades
- A reportagem relacionada Mesmo ao enviar imagens, haverá censura prévia? O contexto por trás do confronto entre prós e contras informa que a política de censura prévia por IA até mesmo para imagens publicadas em comunidades online do país começou a se concretizar, e que a opinião pública se divide entre a necessidade de uma rede de proteção social e a violação da liberdade de expressão
- A reportagem informa que a emenda da Lei de Negócios de Telecomunicações conhecida como “Lei de Prevenção do Nth Room” entrou em vigor em 2021
- No post do administrador do Ruliweb, há o relato de que alguns participantes esperavam um período de carência de seis meses, mas, ao ouvirem que o fornecimento de equipamentos era inviável, o lado do governo respondeu que não sabia sobre os equipamentos e que, como o critério legal passa a valer a partir de julho, isso teria de ser feito
Pontos centrais
- A inspeção por IA de imagens e vídeos enviados por usuários é uma política em que entram em choque o debate sobre a necessidade de uma rede de proteção social e a violação da liberdade de expressão
- Como foi apresentado um cronograma de aplicação imediata sem que o governo forneça os equipamentos, os custos operacionais e a obtenção do hardware acabam ficando diretamente sob responsabilidade de operadores de comunidades e fóruns
4 comentários
Também ouvi dizer que, mesmo que isso seja muito usado, na prática não dá para impor isso a comunidades sediadas no exterior, então só as comunidades nacionais é que vão acabar sendo ferradas.
Pelos posts no Hacker News, muitas das vítimas de deepfake são celebridades coreanas, e a produção real provavelmente é obra de grupos criminosos da China ou do Sudeste Asiático, então ficar censurando sites domésticos é meio inútil mesmo.
Finalmente esse assunto apareceu aqui.
Comentários do Hacker News
O problema é que, para usar uma ferramenta de censura por IA, é preciso comprar a solução de um fornecedor específico, e o prazo, na prática, é de menos de um mês
Na Coreia, há muitas empresas zumbis de TI que sobrevivem de contratos governamentais, então isso não é algo especialmente incomum, e na prática existe uma estrutura de CMS local já estabelecida
Programadores coreanos com pouca proficiência em inglês acabam dependendo desse CMS local, e como resultado surge uma estrutura que também enfraquece a capacidade de programação
Acho que isso ajuda a explicar por que, apesar de a Coreia ser um país com alta proporção de pessoas altamente escolarizadas, há relativamente poucos programadores de destaque
A Coreia foi o primeiro país do mundo a implementar uma lei de censura na internet, e há registros históricos de censura sob governos tanto de esquerda quanto de direita
No entanto, é uma questão complexa, porque esse tipo de sistema de censura também acaba gerando contratos estatais de TI e empregos
Mais especificamente, a maioria das plataformas domésticas de quadros de discussão e fóruns está fortemente presa a um determinado CMS comercial, e em muitos casos projetos ligados ao governo praticamente exigem esse CMS
Os desenvolvedores ficam presos nesse ecossistema por falta de domínio do inglês e de experiência com alternativas globais de código aberto, e até mesmo funções básicas de censura por IA passam a depender de módulos proprietários monopolizados por esse fornecedor
Quando um prazo apertado de menos de um mês força a compra, desaparece qualquer espaço para avaliar opções melhores, mais baratas e mais transparentes
No fim, a própria estrutura continua criando um ciclo de dependência de fornecedores, capacidade técnica fraca e conformidade superficial em vez de inovação real
Há um problema real, depois surge uma solução apressada e provavelmente inferior no estilo NIH, uma única implementação é imposta a todos, e então seguem anos de estagnação tecnológica — a combinação é a mesma
Espero que essa obrigatoriedade não se expanda, como o SEED, a ponto de prender a web coreana a um Internet Explorer obsoleto e a controles ActiveX inseguros por muito tempo
https://archive.is/ermII
Fico me perguntando se isso vai criar um mercado para fóruns mais livres para coreanos, hospedados em outros países
Faltou um contexto cultural: na Coreia, deepfakes, pornografia sem consentimento e abuso de imagens pessoais são problemas disseminados e quase constantes
A Coreia tem muitas qualidades, mas o ambiente sexual envolvendo homens, mulheres e crianças é bem horrível
É difícil julgar isso apenas com uma forma de pensar ocidental sem entender a gravidade do problema, e independentemente de como se veja o mecanismo, o problema por trás dele é muito real
A proposta de colocar um filtro de IA em um fórum pequeno parece estranha e provavelmente meio desajeitada, mas a Coreia tende a agir primeiro e ir na linha do “vamos só tentar” quando encara um problema real
Por isso saem resultados estranhos, mas isso também permite uma resolução de problemas mais dinâmica
O que eu quero evitar de antemão aqui é a postura de medir essa questão com os chamados valores “universais”
A noção de direitos universais no estilo da Revolução Francesa e do Iluminismo, na prática, não é tanto universal quanto a lógica de uma esfera cultural; ela é coerente dentro da própria bolha, mas vem sendo exportada como se fosse o padrão básico de todo mundo
Pessoalmente eu até gosto desses valores, mas também existem outras lógicas autoconsistentes, e vejo a lógica coreana como uma delas
Pode soar clichê, mas a Coreia se apoia em harmonia e coletivo, enquanto o Ocidente se apoia no indivíduo, e os dois produzem desvios, só que de tipos diferentes
Quando cheguei à Coreia, achei insano haver tantas câmeras de fiscalização de velocidade e CCTVs, mas alguns anos depois, mais do que me acostumar, passei a ver isso como um compromisso que em geral funciona e até a valorizar isso
A Coreia prefere um policiamento leve que parece amistoso e fiscalização automática em massa, em vez de uma aplicação pesada com blindados aparecendo de vez em quando
Isso é uma escolha de projeto, não um sinal de que se está escorregando para uma distopia
O ponto é ter a mente aberta e não aplicar sem crítica os valores de uma cultura como se fossem a régua de todo mundo
Pode-se criticar o mecanismo à vontade, mas sem tomar a visão de valores de uma cultura como critério para medir todas as outras
Pessoalmente, acho que essa política é uma tentativa equivocada, mas não vejo isso como uma ladeira rumo à distopia
Está mais para uma terça-feira comum na Coreia
Dito isso, é difícil concordar com classificar a política de internet da Coreia como “leve”
A política de internet coreana normalmente obriga tecnologias muito específicas, como o SEED ou este novo modelo, e entrelaça regulações detalhadas feitas sob medida para a Coreia, criando monopólios ou oligopólios de softwares objetivamente inferiores e muito inseguros
Isso não é uma política leve
Até o Online Safety Act do Reino Unido, criticado no Ocidente como um exemplo clássico de exagero estatal por impor verificação de idade, é muito mais leve do que a política ao estilo coreano
Ele não obriga software, hardware, cifra ou protocolo específicos, e a lista de métodos permitidos de verificação de idade é explicitamente não exaustiva
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
Em grande parte das políticas digitais, eu diria que o exemplo realmente leve é o Japão
Os requisitos são vagos, os exemplos não são exaustivos, há muitas exceções, e é algo como “se for tecnicamente incômodo, você não precisa implementar X”, além de poder ser feito manualmente ou de forma totalmente automatizada
Isso não quer dizer que o Japão seja sempre bom; em coisas como requisitos de segurança, às vezes ele é excessivamente frouxo, mas objetivamente é uma política leve
A política digital coreana não é leve sob definição nenhuma
Se você chama de leve o fato de não mandarem tanques para pegar quem distribui pornô de vingança, tudo bem, mas que país faz isso?
Se a gravidade da política for julgada pelo quanto ela restringe, poucos países conseguiriam competir com a Coreia
Em 2024, alguém chegou a criar um mapa de denúncias de deepfakes em escolas, que viralizou no país todo: https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
Existe um problema realmente horrível, e isso é muito parecido com a verificação de idade no sentido de que pessoas que parecem não entender a internet estão propondo soluções horríveis
É aquela sensação de “cuidado com o que deseja”
É um bom exercício imaginar isso transposto para uma situação não tecnológica
Seria como se administrar um bar, restaurante, livraria, ateliê de arte, ou até apenas reunir pessoas em escala média ou grande, fosse ilegal a menos que censores designados pelo governo tivessem autoridade para ouvir e mandar as pessoas se calarem
Ainda parece “harmonioso”?
Não dá para dizer que a Coreia não tenha um problema com pornô de vingança, e essa é basicamente a lógica do governo coreano também
Mas o problema é que as principais fontes de pornô de vingança na prática são comunidades no exterior usadas por coreanos
Claro que a maior comunidade doméstica da Coreia também teve problemas de filtragem, e houve casos como ameaças terroristas e estupros
Mas isso acontece porque o DCinside é enorme
Na prática, os incidentes que realmente deixaram o público furioso começaram no Twitter(X) e no Telegram
Então os principais agentes desse problema viram alvo da censura? Não
A censura realmente elimina os problemas mencionados acima? Ou só os empurra para um lugar mais sombrio e pior?
Pessoalmente, tenho um modo de pensar tipicamente do Leste Asiático, então acredito que algum nível de restrição à liberdade seja necessário
Mesmo assim, honestamente isso parece lei marcial na internet
Obrigar CUDA e orientar o uso do Ubuntu 18.04 é estranho
Só para constar, o Ubuntu 18.04 perdeu suporte em 2023
Será que eles realmente acham que um servidor com uma única GPU Quadro consegue lidar com tráfego alto em tempo real?
Ou houve um acordo de bastidores, ou isso soa como incompetência grave
A mídia tradicional não está cobrindo esse problema o suficiente
Parece que ninguém liga, exceto as pessoas que estão sempre irritadas e vivem na internet
Eu não tinha grandes expectativas para uma internet livre neste país, mas está ficando pior do que eu imaginava
O futuro será de comunidades privadas auto-hospedadas que convidam apenas pessoas verificadas como reais, e provavelmente essa verificação acontecerá offline
Sinceramente, acho que tudo bem se a internet pública morrer e as pessoas voltarem para encontros locais menores
Sem controle das big techs, sem a baboseira cripto tipo nostr, e sem administradores ruins apagando postagens como no Mastodon
Eles só podem bloquear no próprio servidor
Dá para criar por cima uma rede de confiança ou sistema de verificação, como o tangled faz com código
Algo como um sistema de “eu garanto essa pessoa”?
Os fóruns de internet coreanos parecem mais sites antigos como o Hacker News do que apps modernos como o Reddit
Pela UI/UX e pela forma como usam tecnologias web, e mesmo assim é surpreendente que tenham visitantes equivalentes a 20% da população
Fico curioso se, por causa do coreano, eles permaneceram num estilo de fórum mais antigo do que os apps do mundo anglófono
Pessoalmente, gosto muito mais daquele jeito
Parece que a Coreia do Sul está seguindo o método do vizinho do norte
Isso vai afetar também o software exportado pela Coreia?
Não parece que a popularidade subiria se celulares Samsung viessem com uma ferramenta de censura por IA instalada por padrão
A Apple também sofreu uma reação forte quando tentou fazer isso no iPhone
Testei por curiosidade e ele recusava muita edição de imagem como “inadequada”, especialmente violência
A base já está toda pronta
O caso da Nth Room pode ter aberto caminho para esse clima de aprovação forte
https://en.wikipedia.org/wiki/Nth_Room_case
A Coreia está tecnologicamente atrasada em praticamente todos os aspectos possíveis
Por muito tempo, era preciso um computador com Windows para usar serviços do governo ou de bancos, e em muitos casos ainda é assim
Por causa da dependência de notebooks Windows ruins, é comum ver gente usando notebook em cafés e carregando mouse externo
O formato de documento padrão de fato é o bagunçado formato da Hancom
Quando vejo notícias coreanas, acho ridículo que, toda vez que exibem vídeo em local público, 80% da tela esteja borrada
Quase não parece haver motivo para assistir
APIs e documentação de API são realmente pessimamente projetadas e escritas, num nível de piada
Provedores externos de mapas ficaram efetivamente excluídos do mercado até o ano passado
Se você quiser se cadastrar em qualquer coisa, literalmente sempre precisa de número de telefone
Há muitos outros exemplos, mas estes são só os que me vieram à cabeça agora
Não existe espaço nenhum para dinamismo respirar
O problema da Coreia não é político, é algo que acontece por causa de puro oligopólio
No Twitter, gostam de imaginar a Coreia como um país tecnofuturista, mas a realidade é que a cultura de startups é terrível, não existe ecossistema de venture capital e as grandes corporações escrevem todas as regras
Isso vem da natureza de um país pequeno
Na prática, na Coreia, o Twitter(X) é desprezado como um lugar que só gente maluca usa e não tem boa imagem
De forma geral, é uma estrutura em que oligopólios de grandes empresas se sobrepõem a um sistema nacional operado por famílias e centrado nos chaebols
Dentro disso, a questão principal passa a ser sobreviver por contratos com empresas, e não por investimento agressivo
Pessoalmente odeio essa cultura, então estou tentando arrumar trabalho nos EUA
Cansa trabalhar 84 horas por semana durante 3 meses e não conseguir ganhar nem 8 milhões de won
O fato de provedores externos de mapas terem sido excluídos foi literalmente positivo para todos os residentes da Coreia e negativo apenas para os acionistas do Google e para alguns turistas que tiveram de baixar um app de mapa local
Foi um caso de político fazendo algo que beneficia a população, então qual é o problema?
O fato de precisar de número de telefone ao se cadastrar em algo também tem, na prática, muitas vantagens
No HN isso não costuma ser bem recebido quando alguém admite, mas na verdade é um meio-termo defensável
Você pode discordar, mas fingir que é claramente ruim é ignorância
O formato da Hancom, em 2026, ninguém usa, exceto ao lidar com órgãos do governo
Dizer que é o padrão de fato de toda a Coreia é uma generalização exagerada