Meta distribuiu torrent e fez seed de dataset de 81,7 TB com dados protegidos por direitos autorais
(arstechnica.com)- E-mails internos e documentos judiciais tornados públicos detalham a alegação dos autores de que a Meta baixou por torrent um dataset de livros pirateados para treinar IA e fez seed de parte dele
- A questão central é se o volume de dados obtido em fontes como Anna’s Archive e LibGen chegou a pelo menos 81,7 TB e se esse processo foi além do simples download e envolveu distribuição
- Mensagens internas registram preocupação com o uso de torrent em notebooks da empresa e com endereços IP da Meta, o que, segundo os autores, mostra que a Meta reconhecia o risco jurídico
- Indícios de que a Meta evitou usar servidores do Facebook e alterou configurações para minimizar o seeding se tornam prova central para definir se ela estava tentando evitar o rastreamento de downloads e seed
- A Meta rebate dizendo que o treinamento de IA com base no LibGen configura uso justo e afirma que os autores não conseguiram provar casos reais de download por terceiros
E-mails tornados públicos revelam os pontos centrais do processo
- Em um processo de direitos autorais movido por autores de livros contra a Meta, e-mails tornados públicos estão sendo usados como prova central contra a empresa
- Os autores afirmam que a Meta treinou modelos de IA com livros pirateados
- No mês passado, a Meta admitiu ter baixado por torrent o controverso grande dataset LibGen, mas o modo exato e a escala não estavam claros até a divulgação dos documentos
Escala do torrent e origem dos dados
- Segundo documentos apresentados pelos autores ao tribunal, a Meta teria baixado por torrent pelo menos 81,7 TB de várias shadow libraries por meio do Anna’s Archive
- Desse total, ao menos 35,7 TB eram dados do Z-Library e do LibGen
- Os documentos também incluem a alegação de que a Meta anteriormente baixou por torrent 80,6 TB do LibGen
- Os autores classificam a escala do torrent da Meta como “surpreendente” e apresentaram ao tribunal casos em que pirataria de volume muito menor — equivalente a 0,008% das obras que alegam que a Meta copiou — resultou em encaminhamento para investigação criminal
Como o seeding afeta a alegação de infração direta
- Os autores concentram-se em saber se o uso de torrent pela Meta foi além do download simples e incluiu seeding
- Como o seeding pode levar ao compartilhamento externo dos arquivos de torrent, isso fortalece a teoria de distribuição dentro da alegação de infração direta de direitos autorais
- A Meta se opôs às tentativas dos autores de examinar seus dados de torrent e seeding, e anteriormente o tribunal havia negado esse pedido de revisão
- Depois disso, os autores obtiveram outras provas e alegam que documentos internos mostram que funcionários da Meta estavam conscientes dos riscos jurídicos do uso de torrent
Preocupações jurídicas registradas em mensagens internas
- O engenheiro de pesquisa da Meta Nikolay Bashlykov escreveu em abril de 2023 que “não parece certo usar torrent em um notebook corporativo” e expressou preocupação com o uso de endereços IP da Meta para “carregar conteúdo pirateado via torrent”
- Em setembro de 2023, Bashlykov consultou diretamente a equipe jurídica e destacou que usar torrent implica seeding de arquivos, ou seja, compartilhamento externo de conteúdo, e que isso “pode não ser juridicamente aceitável”
- Para os autores, esses e-mails são prova de que a Meta sabia da ilegalidade desse comportamento
- Segundo a alegação dos autores, até abril de 2024 a Meta tentou ocultar ao máximo o uso de torrent enquanto baixava e fazia seed de dados em escala de terabytes de várias shadow libraries
Suspeita de ocultação do seeding e resposta da Meta
- Os autores afirmam que a Meta não usou servidores do Facebook para baixar os datasets, evitando assim o risco de que os “seeders/downloaders” fossem rastreados até os servidores do Facebook
- Uma mensagem interna do pesquisador da Meta Frank Zhang descreve a operação como stealth mode
- Segundo o depoimento do executivo de gestão de projetos Michael Clark, a Meta alterou as configurações para minimizar o seeding o máximo possível
- Os autores dizem que as novas informações entram em conflito com depoimentos anteriores e sustentam que precisam voltar a interrogar funcionários da Meta envolvidos na decisão de baixar o LibGen por torrent
- Mark Zuckerberg afirmou não ter participado da decisão de usar o LibGen para treinar modelos de IA, mas os autores entendem que as mensagens divulgadas mostram que a decisão foi tomada depois de uma escalada prévia ao “MZ”
Alegação de uso justo e próximos passos do processo
- Ao longo do processo, a Meta tem sustentado que o treinamento de IA com o LibGen constitui uso justo
- No pedido de rejeição apresentado no mês passado, a Meta alegou que os autores não conseguiram apontar um único caso em que um terceiro realmente tenha baixado parte de um livro por meio dos torrents da Meta, nem provaram que seus livros foram distribuídos pela empresa
- Enquanto uma fase limitada de produção de provas avança sobre a questão do seeding pela Meta, a empresa no momento não está contestando essa parte da acusação de infração direta de direitos autorais
- A Meta informou ao tribunal que pretende corrigir o registro na fase de julgamento sumário e rebater a alegação, que considera sem fundamento
1 comentários
Opiniões no Hacker News
Vendo como os LLMs conhecem obras protegidas por direitos autorais como se fossem enciclopédias, imagino que todos tenham feito algo parecido
Olhando de forma mais ampla, o YouTube também era uma cidade fantasma no início, cresceu quando programas de TV com copyright começaram a ser enviados, o Google também cresceu indexando dados dos outros sem compensação, e a biblioteca musical inicial do Spotify também era pirataria
Empresas protegem agressivamente sua própria propriedade intelectual, mas não têm escrúpulos em violar os direitos dos outros; indivíduos, porém, não têm esse privilégio. Se você pluga um notebook num armário do MIT e baixa artigos, perde sua vida
Não pague por produtos digitais. Se a Netflix aumenta o preço, todos os programas estão em torrent; se o Spotify aumenta o preço, toda a discografia do seu artista favorito está em torrent; se uma empresa de jogos exige preços do mundo real por roupas digitais, procure um crack e jogue em servidores privados
Empresas de bilhões de dólares já mostraram que não se importam com você, e a quem reclamar que perde salário basta responder: “obrigado por pagar”. Se quiser ajudar criadores diretamente, vá a shows ou mande um cheque; se não conseguir identificar uma pessoa real que será prejudicada, não precisa se preocupar
Hoje quase não acredito mais na lógica de que “direitos autorais incentivam a criação”. Direitos autorais incentivam a criação de grandes empresas como a publicidade, mas, como a publicidade, também incentivam em grande parte criações de baixo valor
O que indivíduos criativos precisam não são direitos autorais, e sim uma rede de proteção que lhes dê liberdade para dedicar tempo à criatividade que surge naturalmente. Se o objetivo é incentivar a criação, direitos autorais são um substituto ruim e caro para uma renda básica
Cofundador do Reddit e ativista, ele teve de enfrentar 35 anos de prisão e uma multa de US$ 1 milhão apenas por baixar muitos artigos acadêmicos do JSTOR, e acabou tirando a própria vida por causa dessa pressão. Que descanse em paz
Raspar sites públicos para criar um índice de busca não é o mesmo que criar um LLM capaz de reproduzir o texto original integralmente sem sequer indicar a fonte. Ainda assim, há espaço para debate sobre a natureza transformativa final dos LLMs
A biblioteca musical do Spotify também não era a versão disponibilizada ao público geral, e parece que foi feita com permissão dos detentores dos direitos
Antes disso, o Império Britânico já havia dado seu salto roubando ouro da Espanha, enquanto a Espanha explorava os astecas e os povos indígenas do México
Isso sempre aconteceu, mas cultura não funciona como widgets físicos; portanto, não devemos permitir que dispositivos de escassez artificial como DRM, direitos autorais e patentes façam com que poucos roubem os benefícios da cópia digital
Quanto mais descobrimos como as empresas de AI treinaram seus modelos, mais fica claro que o resto de nós era simplesmente trouxa
Acreditávamos que a lei importava, que nunca deveríamos distorcer ou esconder o que fazemos no trabalho, e que deveríamos respeitar nossos termos de uso e os termos de outros sites e produtos
Ao se cadastrar em sites ou conteúdos, achávamos que deveríamos sempre usar o e-mail corporativo para que a outra parte pudesse decidir de forma razoável se permitiria o acesso, mas na verdade deveríamos ter tocado tudo no estilo YOLO desde o início. Não é ilegal até você ser pego; e, se você crescer o suficiente antes de ser pego, as regras não se aplicam
Infelizmente, às vezes a recompensa por agir de forma ética é apenas satisfação pessoal. Pensando nos exemplos que as crianças veem ao redor, deve ser realmente difícil criar filhos nesse ambiente
Mesmo que seja por respeito a si próprio, é preciso agir com moralidade e honestidade. Nunca tive a ilusão de que as grandes empresas de tecnologia respeitassem a lei, mas isso é um problema separado de mim
Eles parecem ter avançado às apalpadelas, realizando um experimento de growth hacking após o outro, sem muita avaliação de risco nem senso ético
Só é ilegal se você for pego e for o tipo errado de pessoa. Para o tipo certo de pessoa, nem um tapinha no pulso acontece
Não entendo por que é sequer uma pergunta se a Meta treinou LLMs com material protegido por direitos autorais. Isso está escrito no artigo deles
O artigo do LLaMA [Touvron et al., 2023] diz que “incluímos dois corpora de livros no conjunto de dados de treinamento: Gutenberg Project e a seção Books3 do ThePile”
Seguindo essa referência, aparece que o Books3 é um dataset de livros derivado de uma cópia do conteúdo do tracker privado Bibliotik, divulgada por Shawn Presser. (Presser, 2020) aponta para https://twitter.com/theshawwn/status/1320282149329784833 e, de forma engraçada, também referencia esta política de DMCA: https://the-eye.eu/dmca.mp4
Além disso, eles disseram que também treinaram com GitHub, páginas da web e ArXiv, todos contendo conteúdo protegido por direitos autorais. A questão central é se é legal treinar, usar e distribuir modelos de IA, pesos e saídas treinados com material protegido por direitos autorais; o fato em si de que treinaram com material protegido por direitos autorais é certo
[Touvron et al., 2023] https://arxiv.org/pdf/2302.13971
[Gao et al., 2020] https://arxiv.org/pdf/2101.00027
Isso é uma infração independente, separada do debate sobre LLMs treinados
A primeira é treinar com material protegido por direitos autorais que está acessível publicamente. Se você escreve um poema e o publica online para o mundo todo ler, isso é sua propriedade intelectual e outra pessoa não pode pegá-lo e vendê-lo, mas é livre para lê-lo e se inspirar nele. Nesse caso, a legalidade do treinamento está sendo tratada nos tribunais e, até agora, parece favorecer o lado dos LLMs
A segunda é treinar com material protegido por direitos autorais que não foi tornado público. Na prática, é material pirateado ou obtido por uma via alternativa para evitar custos. Se um poema atrás de um paywall é conhecido por um LLM sem pagamento, isso é simplesmente ilegal, porque para ver a obra é preciso pagar legalmente. Ainda assim, dá para discutir condições como comprar acesso a um arquivo e depois treinar com tudo que há nele
Se um usuário consegue hackear e extrair do modelo pedaços de dados brutos que permitem apenas mudar facilmente o estilo e fazê-lo parecer parecido, fico em dúvida se isso é de fato violação de direitos autorais. E se forem necessários dois modelos?
Talvez agora precisemos aceitar que a capacidade humana de julgar diretamente tentativas de plágio já chegou ao limite. Como é difícil distinguir a voz de Sky da voz de Her
Recomendo fortemente ler o discurso sobre direitos autorais de Thomas Babington Macaulay. Ele explica de forma muito lógica o propósito, a duração e os riscos dos direitos autorais
Em especial, costumava-se argumentar que, quando um autor morria deixando a família na pobreza, prorrogar os direitos autorais era uma forma justa de evitar isso, mas na maioria dos casos a família sobrevivente nunca teve esses direitos
O autor inicialmente vendia o direito de reprodução a uma editora, e a editora deixava a obra engavetada sem publicá-la até levar o autor, pressionado pela pobreza, a transferir integralmente os direitos autorais por uma ninharia. Nesses casos, prorrogar os direitos autorais beneficia apenas a editora e, na verdade, aumenta o incentivo para extorquir esses direitos
Esse cara vai nos ensinar sobre direitos autorais? Dispenso
Vendendo ou não os direitos, o autor e a família ficam igualmente em melhor situação quando há direitos autorais
A Libgen é um projeto civilizacional que deveria ser apoiado, não processado
Espero que um dia as pessoas olhem para trás e vejam como nós, hoje, fomos tolos por rejeitar a maior coleção de obras literárias da história humana
O site tem uma página dedicada, e se você pagar pode baixar o dataset inteiro em alta velocidade
Quando o Metallica processou o Napster, a reação de muita gente foi: “peraí, dá para baixar música de graça?”
Porque isso rende dinheiro para fabricantes de GPUs ou permite que elas mesmas ganhem dinheiro com serviços pagos, como a OpenAI
A biblioteca local provavelmente também participa de um sistema de empréstimo entre bibliotecas, permitindo solicitar de graça livros de qualquer biblioteca do país
A LibGen só dá acesso a um conjunto de obras muito menor do que esses dois e é um pouco mais conveniente. A maior diferença é que ela não remunera os autores de forma alguma. É só ir a uma biblioteca de verdade
Todo mundo adora odiar as grandes empresas, especialmente a Meta, e parece usar isso como oportunidade para defender punições.
Mas o caminho mais sensato é defender mudanças nas leis de propriedade intelectual.
https://en.wikipedia.org/wiki/Aaron_Swartz#United_States_v._...
https://en.wikipedia.org/wiki/Aaron_Swartz#Death
Aaron Swartz foi levado ao suicídio após perseguição, enquanto essas empresas vão sair livres e ganhar bilhões. Acho que deveríamos dar a todos os CEOs de empresas de tecnologia o tratamento à la Swartz e depois mudar a lei.
Grandes empresas são grandes demais e simplesmente não deveriam existir. Quando uma empresa se torna mais poderosa que os maiores governos estaduais, isso não é uma funcionalidade, é um bug.
As leis de propriedade intelectual podem precisar ser revistas. Mas não ajuda dizer que devemos acabar com a lei porque as grandes empresas estão acima dela. Primeiro é preciso acabar com as grandes empresas e, depois, pensar em leis justas. Mesmo que mudemos a lei agora, nada mudará, porque essas empresas já estão acima dela.
Ainda assim, se eles devem queimar, que seja pelos motivos certos. Ter baixado dados que deveriam ser públicos não é esse motivo.
Não adianta reclamar com a Meta ou com o Zuck. A Meta se comporta exatamente como foi projetada para se comportar. Se você não gosta, vote por mais regulação.
Isso me lembra os antigos malucos da internet que achavam que a lei de direitos autorais era rígida demais e que restringir assim o acesso da humanidade ao conhecimento fazia todo mundo ficar para trás em benefício de uma minoria minúscula.
Ou seja, é preciso haver processos, penas de prisão e multas de milhões de dólares. E isso só pela parte da pirataria; ainda há a parte das mentiras e fraudes.
Curiosamente, um projeto de LLM na Holanda recebeu uma exigência para parar depois que o lobby local de direitos autorais descobriu que ele tinha sido treinado com um monte de e-books pirateados. É uma pena que isso não tenha sido discutido no tribunal, e eu queria ver se esse mesmo lobby conseguiria derrubar o ChatGPT e outras empresas de IA que fizeram a mesma coisa.
Com bilhões de dólares em recursos, não havia ninguém disposto a usar pelo menos uma parte disso para digitalizar novos dados? Até o Google fez isso.
Pessoas que realmente defendem ideais que prejudicam a própria vida são raras a ponto de ser difícil acreditar.
Além do download e da distribuição ilegais de conteúdo protegido por direitos autorais, o artigo também diz que funcionários da Meta parecem ter mentido sobre isso em seus depoimentos.
Potencialmente, isso pode incluir o próprio Mark Zuckerberg.
É uma reação meio irônica, mas gente demais cultua o altar dos criadores de empregos e acredita que essas pessoas são cidadãos morais e exemplares.
Se eu tivesse baixado por torrent e feito seeding, mesmo que fosse para entretenimento pessoal e não para fins comerciais, os grandes detentores de direitos autorais viriam atrás de mim.
Quando é a Meta, tudo bem porque ela tem advogados melhores? Pode virar uma jurisprudência interessante.
Neste exato momento, penso em Aaron Swartz.