Revisão do projeto NO FAKES… uma ameaça ainda mais séria à expressão na internet e à inovação
(eff.org)- O NO FAKES Act, que promete evitar danos causados por réplicas geradas por IA generativa, vem sendo criticado por se expandir na direção da criação de um novo direito de propriedade intelectual e de uma infraestrutura de censura, o que pode inibir a expressão na internet e a inovação
- O escopo de aplicação se estende além das próprias réplicas para incluir ferramentas, apps e serviços capazes de criá-las, colocando desenvolvedores e provedores de hospedagem sob risco de responsabilização com base apenas em alegações de titulares de direitos
- Os provedores de serviços seriam obrigados não apenas a remover materiais ou ferramentas após notificação, mas também a impedir novos uploads, assumindo na prática uma obrigação de filtragem
- Como informações de identificação de usuários poderiam ser exigidas até mesmo por meio de intimações emitidas por escrivães judiciais, e não por juízes, expressões legais como críticas anônimas, sátiras e comentários poderiam ser inibidas
- Os custos de conformidade e o risco de remoções podem dificultar que serviços emergentes enfrentem a Big Tech e também reduzir os incentivos para investir no desenvolvimento de ferramentas criativas legais
De uma resposta a réplicas de IA generativa para um regime amplo de direitos
- NO FAKES Act é a sigla de Nurture Originals, Foster Art and Keep Entertainment Safe Act, um projeto de lei que busca criar um novo direito de propriedade intelectual para lidar com preocupações sobre “réplicas” criadas por IA generativa
- A EFF critica que, desde a versão original, o projeto não era uma salvaguarda voltada a combater representações falsas prejudiciais, mas uma abordagem que ampliava para o âmbito federal um sistema de licenciamento de imagem
- O motivo é que ele não equilibrava adequadamente a necessidade de proteger paródias, sátiras e expressões legais
- A emenda reforça ainda mais essa abordagem, exigindo uma nova infraestrutura de censura que inclui não só imagens, mas também produtos e serviços usados para criá-las
Estrutura que mira também ferramentas e serviços
- A primeira versão se concentrava em réplicas digitais, mas a nova versão amplia o alvo para ferramentas capazes de criar imagens não autorizadas por indivíduos, titulares de direitos ou pela lei
- Quem cria, faz marketing ou hospeda ferramentas também pode se tornar alvo de responsabilização
- Há algumas limitações
- A ferramenta deve ter sido projetada com o objetivo principal de produzir imagens não autorizadas, ou
- Deve ter usos comerciais limitados além da produção de imagens não autorizadas
- No entanto, como desenvolvedores podem ser alvo apenas com base em alegações, a EFF considera que essas limitações dificilmente oferecem proteção suficiente
- Esse dispositivo é criticado por poder, na prática, oferecer o poder de veto à inovação que titulares de direitos vêm buscando em disputas sobre copyright
Notificações de remoção e obrigação de filtros
- O NO FAKES existente criou um sistema de notificação e remoção semelhante ao DMCA, e a EFF avalia que ele já tinha menos salvaguardas
- A emenda passa a abranger mais provedores de serviços e exige não apenas a retirada de materiais ou ferramentas, mas também o bloqueio de reuploads posteriores
- O resultado é uma estrutura em que provedores podem perder a imunidade se não adotarem filtros amplos
- Filtros de copyright já causam vários problemas
- Originalmente, deveriam no máximo sinalizar para revisão humana uploads que parecessem cópias integrais de obras protegidas
- Na prática, também podem sinalizar conteúdos semelhantes, mas não idênticos, como quando pessoas diferentes executam a mesma música em domínio público
- Há também casos em que apenas alguns segundos de correspondência foram sinalizados como infração
- Em outros casos, eles não conseguem refletir suficientemente contextos que podem ser legalmente permitidos
- Hoje, filtros de copyright não são uma obrigação legal, mas o NO FAKES pode transformar esse tipo de filtragem em exigência prevista em lei
- O projeto inclui exceções para paródia, sátira e comentário, mas elas dificilmente oferecem proteção prática para quem não consegue arcar com os custos de um processo
Dispositivo de intimação ameaça a expressão anônima
- O texto atual permite que qualquer pessoa obtenha uma intimação de um escrivão judicial, e não de um juiz, para obrigar um serviço a fornecer informações de identificação de usuários
- A EFF aponta que esse procedimento não exige nenhum tipo de prova
- Regimes semelhantes já foram abusados em casos de copyright
- Pessoas incomodadas com críticas obtêm intimações para silenciar críticos
- Críticas frequentemente incluem como base as próprias declarações do reclamante, o que pode ser um caso típico de uso justo
- Ainda assim, a intimação é emitida, e a identidade do usuário pode ser exposta se o serviço não reagir de forma muito ativa
- A exposição da identidade inibe manifestações futuras e pode causar danos reputacionais ou pessoais ao usuário
Peso sobre inovação e concorrência
- A EFF considera que muitas pessoas estão insatisfeitas com o estado atual da Big Tech, sendo cada vez mais pressionadas a usar gigantes de tecnologia enquanto a qualidade dos serviços piora
- O NO FAKES pode aumentar significativamente a infraestrutura necessária para que novos serviços cumpram a lei, dificultando que serviços novos desafiem a Big Tech
- Para a EFF, talvez não seja coincidência que algumas grandes empresas vejam com bons olhos a nova versão do NO FAKES
- Exigências de remoção de ferramentas, apps e serviços também podem bloquear a inovação
- Isso pode prejudicar pessoas que usam esses serviços para criação legal
- O incentivo para investir em ferramentas ou serviços que podem sair do ar com base em uma simples alegação diminui
- A EFF observa que, há alguns meses, o Congresso aprovou o Take It Down, focado em imagens com conteúdo íntimo ou sexual
- A EFF também vê nesse projeto o problema de pressionar plataformas a monitorar ativamente a expressão online, inclusive expressões atualmente criptografadas
- Se o Congresso está preocupado com danos à privacidade, a posição da EFF é que ele deveria aguardar os efeitos da regulação anterior antes de avançar com novas regras para a internet
- A EFF critica o NO FAKES como um projeto que, em vez de proteger vítimas de réplicas digitais prejudiciais, concentra o controle sobre o uso comercial de imagens digitais
2 comentários
Li e mesmo assim não entendi o que queria dizer, então fiquei um bom tempo pesquisando.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Parece que a probabilidade de esse projeto de lei revisado ser implementado é de 5%.
Isso não faz o menor sentido.
Comentários do Hacker News
A nova versão do NO FAKES parece criar uma estrutura em que praticamente todos os gatekeepers da internet, ao receberem uma notificação, teriam de remover falas, continuar impedindo repostagens, introduzir filtros de réplica inevitavelmente excessivos em cima de filtros de copyright já muito falhos, derrubar e filtrar até ferramentas que talvez tenham sido usadas para criar imagens, e exigir a divulgação da identidade de quem fez upload com base apenas na alegação de alguém de que foi “replicado”
Parece um sistema que empresas pequenas não conseguiriam implementar, e que empresas grandes provavelmente não implementariam com cuidado
Por causa dessa captura regulatória, empresas que no início, quando faziam “inovação disruptiva”, detestavam regulação tendem a passar para o lado pró-regulação depois que atingem certo tamanho e nível de receita
Mas parece muito pior do que isso. É infraestrutura de tirania de manual
É uma estrutura para reprimir a fala de quem se opõe ao regime, tirar seus megafones e impressoras, exigir que opositores sejam identificados e entregues ao regime, e incutir medo de sanções em qualquer pessoa que o regime possa considerar que ajuda opositores, seja por ação ou omissão
A EFF parou há muito tempo de se preocupar com os grandes temas de liberdade na internet, e agora parece fazer apenas uma sequência de manchetes do tipo Big Tech Bad
Depois de décadas em que a Big Tech permaneceu como uma gestora relativamente moderada da informação social, e ao mesmo tempo em que jovens MAGA de vinte e poucos anos, sem supervisão, colocam o governo federal inteiro em seus MacBooks, essa postura parece extremamente sem noção
O fim da privacidade tecnológica já chegou, mas a EFF ainda resmunga sobre Meta e ByteDance para manter o fluxo de cliques. Como todo o resto da internet, parece que no fim é isso que eles realmente levam em conta
Há 15 anos isso teria sido absurdo, mas agora já é praticamente chutar cachorro morto
Pessoalmente, sinto que o mundo está cada vez mais lutando para sobreviver e, ao mesmo tempo, se aproximando de “eu já garanti o meu, você que se vire”
Agora isso será usado contra a própria esquerda e também contra dissidentes de direita que se opõem às narrativas de conto de fadas da ordem estabelecida
Acho que tudo isso parte da premissa de que esse tipo de mídia é compartilhado em redes sociais
A redação dessa lei parece sem sentido dentro de comunidades privadas. Talvez seja aquilo que queríamos, mas que ainda não se concretizou: o fim das redes sociais
A solução é exigir que o governo force as empresas de redes sociais a introduzir coeficientes de atrito algorítmico
Só que os incentivos econômicos envolvidos eliminam a vontade política necessária para produzir essa mudança
As classes dominantes se beneficiam da confusão, da divisão e do caos espalhados pelas redes sociais em sua forma atual. Elas gostam bastante das coisas como estão
Entre as pesquisas relacionadas, Aral & Eckles (MIT, 2019) disseram que a introdução de atrito reduz a disseminação de desinformação sem limitar a liberdade de expressão; estudos da Mozilla e de Stanford (2020–2022) apontaram que atritos como induzir o cancelamento de compartilhamento reduzem em até 50% a propagação de fake news; e, em um experimento do Twitter em 2021, quando avisos de checagem de fatos eram exibidos antes da publicação, usuários modificavam ou apagavam o tweet em 25% dos casos
Por que não simplesmente proibir mentiras e criar um Ministério da Verdade?
Tentativas de regular mentiras são apenas uma embalagem para empurrar narrativas favoráveis a determinadas visões políticas
Neste caso, talvez eu não concorde nem um pouco com o autor. Ele faz várias afirmações bastante ousadas, inclusive comparações com a DMCA, mas não parece apresentar muitas evidências
Contraponto: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
Eu também poderia ser facilmente enganado por um post de blog desses
Todas as imagens teriam de passar por um filtro de réplica, mas a IA facilita demais gerar imagens bem diferentes a partir de um único prompt. Então agora seria necessário uma IA que inferisse o “significado” da imagem
No geral, isso soa como uma ótima notícia para fabricantes de chips e geradoras de energia
Eu realmente preciso de uma explicação em inglês simples do que essa lei faz de fato, sem lobby nem alarmismo panfletário
Isso quer dizer que a lei permite que empresas coloquem marcas d’água em seu próprio conteúdo para impedir que outra empresa crie conteúdo derivado com base nele? Como exatamente isso funciona?
Parece algo como a DMCA para imagens, ferramentas e obras derivadas, incluindo todos os logs necessários para rastrear criadores, ferramentas e publicadores
Mas, como eu disse, foi só uma olhada por cima
A lei permitiria que qualquer pessoa, sem provas, apresentasse reclamação sobre qualquer conteúdo hospedado em qualquer lugar, colocaria sobre quem hospeda esse conteúdo o ônus legal de provar um fato negativo — isto é, que ele não é “fake” — e criaria uma exigência legal para remover o conteúdo assim que fosse tecnicamente possível, na prática imediatamente
Então, é passível de abuso de modo parecido com a DMCA, mas o escopo das exigências é mais amplo e a comprovação de legitimidade é quase impossível, porque cria uma nova categoria, definida de forma vaga, de propriedade legal sobre conteúdo
Em resumo, é um excelente motivo para transferir a hospedagem para fora dos EUA
O Tennessee vai colocar em vigor em 1º de julho várias leis de IA generativa e, curiosamente, talvez porque a assembleia estadual tenha entendido mal a terminologia, essa proibição abrangente é tão ampla que na prática tem o efeito de proibir até a posse de GPUs
Tipo: “ei, você tem licença para esse tensor core?”
Ainda assim, pelo menos estão proibindo a maconha nacionalmente além do que o Farm Bill federal de 2018 permitiu, que alívio /s
O sábio governador do vizinho Texas vetou um projeto parecido por causa de sua inconstitucionalidade e da possibilidade de contestação judicial