Projeto de lei NO FAKES é alterado… ameaça ainda mais grave à expressão na internet e à inovação

• O projeto de lei NO FAKES foi alterado e se transformou em uma ameaça grave à liberdade de expressão na internet e à inovação
• A versão revisada vai além da simples regulação de réplicas digitais e passa a exigir bloqueio e filtragem até de ferramentas, serviços e apps
• Foi introduzido um sistema coercitivo que permite bloquear imediatamente conteúdo, ferramentas e até divulgar a identidade de quem fez o upload apenas com uma notificação
• Com o enfraquecimento do direito à expressão anônima e a criação de uma nova infraestrutura de censura, tanto usuários comuns quanto desenvolvedores passam a ficar ameaçados
• Isso favorece ainda mais as grandes empresas de tecnologia e eleva fortemente as barreiras de entrada no mercado para novos serviços e desenvolvedores

---

Visão geral do projeto e principais mudanças

• O NO FAKES(Nurture Originals, Foster Art and Keep Entertainment Safe) Act originalmente tinha como objetivo resolver o problema das réplicas digitais baseadas em IA generativa
• Esta revisão cria um novo e amplo regime de propriedade intelectual (IP) e, em vez de apenas prevenir danos, passa a exigir censura em escala de todo o sistema da internet
• O projeto anterior se concentrava em um sistema de licenciamento de imagens, mas a nova versão amplia o escopo regulatório para imagens, ferramentas, serviços e apps, ou seja, todos os elementos usados na geração

Ordens de bloqueio de ferramentas e serviços

• O NO FAKES revisado passa a enquadrar como alvo regulatório qualquer empresa que forneça, distribua ou hospede ferramentas, serviços ou apps para geração de imagens ilegais
• Se a ferramenta for usada principalmente para esse fim ou tiver uso comercial limitado, ela poderá ser bloqueada apenas com uma notificação
• Há o risco de que o próprio desenvolvimento de ferramentas inovadoras seja interrompido só por causa de uma notificação, fortalecendo o “direito de veto à inovação” dos detentores de direitos nas guerras de copyright

Ampliação do sistema de notificações e filtragem

• Com salvaguardas ainda mais fracas do que as da DMCA (lei de direitos autorais), passa a ser possível bloquear imediatamente conteúdo e ferramentas apenas com uma notificação
• Obrigatoriedade de filtros para impedir reenvio (Replica Filter), com bloqueio automático até de casos semelhantes
• Ferramentas, apps e serviços podem ser removidos e até a identidade de quem fez o upload pode ser divulgada apenas com uma notificação
• Há exceções para paródia, sátira e comentário, mas sua eficácia prática é baixa por causa do custo real de litígio

Riscos para expressão anônima e privacidade

• Sem aprovação de um juiz, basta um escrivão do tribunal emitir uma subpoena (ordem de apresentação de informações) para exigir dados de identidade de quem fez o upload
• Já houve muitos casos de abuso de sistemas semelhantes para reprimir falas críticas
• Só a divulgação da identidade já pode causar danos concretos à reputação, à privacidade e a outros aspectos da vida pessoal

Ameaça à inovação e aos novos serviços

• A exigência de criar nova infraestrutura jurídica e técnica faz com que as barreiras de entrada no mercado para startups e novos serviços aumentem drasticamente
• Isso favorece as grandes empresas de tecnologia já estabelecidas, enquanto novas ferramentas e serviços inovadores passam a ter seu desenvolvimento e lançamento desestimulados
• Como a estrutura permite bloqueio com base em simples notificação, criação legítima e direitos dos usuários também acabam violados

Objetivo da regulação e efeitos reais

• Recentemente, o Congresso dos EUA também aprovou medidas como o Take It Down para regular imagens sexuais, ampliando a pressão por monitoramento online excessivo
• O objetivo real do NO FAKES não parece ser proteger vítimas, mas sim concentrar o controle comercial sobre imagens digitais
• Como resultado, usuários comuns e desenvolvedores saem prejudicados, gerando efeitos negativos para o ecossistema de inovação da internet

[crawler]

Li e mesmo assim não entendi o que queria dizer, então fiquei um bom tempo pesquisando.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Parece que a probabilidade de esse projeto de lei revisado ser implementado é de 5%.
Isso não faz o menor sentido.

[GN⁺]

Opinião no Hacker News

• A nova versão do NO FAKES inclui que praticamente todos os gatekeepers da internet sejam obrigados a a) remover conteúdo rapidamente quando houver uma denúncia, b) aplicar obrigatoriamente filtros de cópia, além dos já problemáticos filtros de copyright, para impedir reuploads recorrentes, c) filtrar e remover até ferramentas que possam ter sido usadas para criar imagens, e d) revelar a identidade do uploader apenas com base na alegação de alguém de que foi “copiado” Esse é o tipo de sistema que pequenas empresas não conseguem implementar, enquanto as grandes não se importam tanto

  • Esse tipo de regulação parece ser justamente o resultado de lobby feito por grandes empresas para elevar a barreira de entrada para concorrentes menores Esse tipo de captura regulatória faz com que, quando uma empresa atinge certo porte ou nível de lucro, até companhias que antes falavam em inovação acabem migrando para o lado pró-regulação
  • As grandes empresas acabam tendo recursos para cumprir isso, e essa própria regulação passa a funcionar como um moat intransponível para empresas pequenas Mas o problema é muito mais grave do que isso: esse próprio sistema pode acabar funcionando como a infraestrutura típica de controle social de um regime autoritário Há o risco de eliminar a voz de grupos críticos ao sistema, tirar deles os espaços de fala e os meios de publicação, entregar suas identidades ao governo e fazer com que até se solidarizar com dissidentes se torne algo assustador
  • Na prática, em grandes plataformas que operam comunidades online relevantes, esse sistema tende a ser ainda mais usado para suprimir vozes de que o governo não gosta
  • Em essência, há a possibilidade de que a intenção seja um sistema que rotule tudo como “fake” para detectar e reprimir vozes consideradas impuras pelo regime
  • A observação de que pequenas empresas teriam dificuldade para adotar isso é correta Tenho a impressão de que a EFF (Electronic Frontier Foundation) já quase não se importa com a verdadeira essência da liberdade na internet e virou uma organização focada apenas em manchetes do tipo “Big Tech é ruim” Acho que, por décadas, Big Tech de fato atuou como administradora benevolente da informação social e, ao mesmo tempo, num momento como o atual, em que jovens na casa dos 20 anos sem nenhuma supervisão estão despejando dados federais em seus próprios MacBooks, esse tom parece anacrônico O que estamos vivendo é uma catástrofe absoluta de privacidade, e a EFF só fica criticando o clickstream da Meta e da ByteDance

• Há 15 anos isso teria parecido absurdo, mas agora soa como uma discussão que já passou

  • Na verdade, o ponto de virada foi algo como 25 anos atrás, e depois de 2001, com leis como o PATRIOT Act destruindo a privacidade, a situação já ficou irreversível
  • Não chega a surpreender Como o capitalismo de vigilância se tornou por muito tempo a base do funcionamento da sociedade, isso acabou virando o normal Há um amargor na sensação de que o mundo atual é um “jogo de sobrevivência” em que cada um tenta se salvar e cuidar apenas do próprio interesse
  • Em algum momento, até a esquerda passou a apoiar ativamente sistemas de censura sob a justificativa de combater “fake news” e evitar danos emocionais, e a ironia é que esse sistema depois se volta e é reutilizado tanto contra críticos de esquerda quanto de direita

• No fundo, esse debate parte do pressuposto de que esse meio está sendo compartilhado socialmente como “rede social” Na prática, fica a dúvida se esse tipo de projeto de lei não seria inútil em comunidades fechadas ou espaços privados Talvez o que a gente realmente quisesse fosse o fim das redes sociais

  • No meio acadêmico, já se sabe que a questão central é de design de plataforma Não é um debate superficial entre liberdade e responsabilidade; a solução real seria o governo obrigar as redes sociais a introduzirem coeficientes de fricção algorítmica Mas, por interesses econômicos e políticos muito concretos, não existe nenhuma vontade no meio político de promover essa mudança Pelo contrário: o caos, a divisão e a confusão da estrutura atual beneficiam as classes dominantes Pesquisas de referência: • MIT Aral & Eckles (2019): ao introduzir friction, a disseminação de desinformação cai de forma significativa sem restringir a liberdade de expressão • Mozilla/Stanford (2020~2022): fricções como “confirmar compartilhamento” reduzem em até 50% a propagação de fake news • Twitter (2021): quando prompts de checagem de fatos são exibidos antes do envio, cerca de 25% optam por editar ou apagar o tweet
  • Na prática, definir juridicamente a categoria “rede social” seria extremamente difícil

• Por que simplesmente não proíbem a mentira em si e criam um órgão da “verdade”? Tentar regular mentiras na prática acaba resultando em empurrar apenas certas narrativas conforme o gosto do governo

• Mesmo que todas as imagens passem por filtros de cópia, com AI dá para gerar centenas de resultados totalmente diferentes com o mesmo prompt, então agora a ideia seria mandar a AI julgar até o “significado” da imagem No fim, isso é ótimo para fabricantes de chips e companhias de energia

• Pessoalmente, talvez eu esteja em posição oposta à do autor do post original Comparar o NO FAKES com a DMCA me parece pouco fundamentado Veja também um artigo com outra perspectiva: https://www.recordingacademy.com/advocacy/news/no-fakes-act-introduced-in-the-senate

  • Essas empresas (atores com interesses políticos) têm influência suficiente para vender couro de cobra para um elefante É impressionante como eu mesmo caio fácil nesse tipo de artigo promocional

• Quero um resumo em uma linha, explicado de forma bem simples, sem entrar em lobby nem alarmismo Esse projeto legaliza o uso de watermark de conteúdo para impedir transformações derivadas de obras, ou é outra coisa? Quero entender exatamente o que de fato seria aplicado e em que extensão

  • Não tem relação com watermark Se qualquer pessoa alegar, sem apresentar nenhuma prova, que qualquer conteúdo hospedado é “fake”, o host passa a ter o ônus legal de provar que é legítimo A remoção imediata vira a regra, e o potencial de abuso é parecido com o da DMCA, mas muito mais amplo É criado um novo conceito de direito, e na prática se torna quase impossível comprovar a titularidade legítima dos dados No fim, isso só aumenta o incentivo para mover servidores para fora dos EUA
  • Li o texto original mais ou menos por cima, e a sensação é de que seria uma versão da DMCA voltada a imagens/ferramentas/obras derivadas, mas exigindo também logs completos para rastrear criador, ferramenta e publicador Mas não tenho domínio completo do contexto integral do projeto

• No Tennessee, a partir de 1º de julho, várias leis tratando de AI generativa de forma ampla entrarão em vigor ao mesmo tempo O problema é que, talvez por a assembleia estadual nem entender direito os termos, o texto ficou tão amplo que na prática quase equivale a criminalizar a própria posse de GPUs Chegou ao ponto de surgirem piadas do tipo: “você tem licença para usar tensor cores?” Além disso, em nível nacional também há propostas para regular cannabis de forma ainda mais dura do que o próprio Farm Bill federal Em contraste, o governador do Texas já vetou adequadamente um projeto semelhante por razões constitucionais e legais

• Não concordo com a ideia de que “essa lei vai acabar com o Reddit” Você tem medo de existir um espaço em que qualquer pessoa possa falar livremente? Em lugares assim, às vezes inevitavelmente aparecem opiniões “ruins” ou inesperadas

  • O importante é distinguir entre uma plataforma fazer curadoria exatamente da forma como o usuário quer e uma plataforma recomendar aleatoriamente conteúdo novo por conta própria Fora coisas claramente ilegais, como CSAM, a plataforma não deveria decidir o que colocar diante dos olhos do usuário
  • Pela mesma lógica, então o Hacker News também teria de desaparecer
  • Vale continuar citando o texto “You are Wrong About Section 230”: https://www.techdirt.com/2020/06/23/hello-youve-been-referred-here-because-youre-wrong-about-section-230-communications-decency-act/ O ponto central é que a própria Section 230 não traz em nenhum lugar uma distinção entre publisher e platform Essa distinção e esse significado só foram inflados como objeto de disputa, mas não têm substância real