As perspectivas para a IA criativa devem piorar

Perspectivas sombrias para a IA criativa

• Sistemas de IA criativa são treinados com materiais protegidos por direitos autorais e podem gerar conteúdo com potencial de violar esses direitos.
• A OpenAI não é transparente sobre quais materiais seus sistemas usaram no treinamento.
• Usuários podem acabar infringindo direitos autorais sem qualquer informação sobre a origem das imagens geradas.

Limitações dos sistemas

• Sistemas como DALL-E e ChatGPT são essencialmente "caixas-pretas", e atualmente não têm capacidade suficiente para rastrear ou fornecer a procedência do conteúdo.
• Até que novas arquiteturas com rastreabilidade de origem sejam desenvolvidas, as violações de direitos autorais continuarão ocorrendo, independentemente da intenção dos usuários.

Riscos legais e financeiros

• O processo do New York Times é apenas o primeiro entre muitos contra a IA criativa e, mesmo que seja resolvido, estima-se que seu valor ultrapasse milhões de dólares.
• Não só a OpenAI, mas também a Microsoft, que usa o DALL-E por meio do Bing, está exposta a riscos legais.

Opinião do GN⁺

• O avanço da tecnologia de IA criativa está aumentando o risco de violação de direitos autorais, um problema importante que evidencia a tensão entre a tecnologia e o arcabouço jurídico.
• O fato de os usuários não conseguirem saber a origem do conteúdo gerado é um elemento central para o debate sobre ética em IA e transparência.
• Este artigo oferece uma visão interessante sobre efeitos colaterais inesperados que o rápido avanço da tecnologia de IA pode trazer e sobre seu impacto em setores relacionados.

[GN⁺]

Comentários no Hacker News

• Resumo do primeiro comentário:

  • Um dos motivos do sucesso da Disney foi adaptar histórias já existentes, como contos populares transmitidos por gerações.
  • A cultura é um patrimônio da comunidade e evolui e cresce por meio da narrativa coletiva e da reinterpretação.
  • O debate atual sobre IA e violação de direitos autorais tende a ignorar esse aspecto fundamental da evolução cultural.
  • Ao entender a essência de uma sociedade criativa, não se deve ignorar as implicações legais nem o contexto histórico da narrativa cultural.

• Resumo do segundo comentário:

  • Na União Europeia (UE), os artigos 3 e 4 da "Diretiva de Direitos Autorais no Mercado Único Digital" já regulam essa questão.
  • Todos, incluindo desenvolvedores comerciais de machine learning (ML), só podem usar obras legalmente acessíveis se o titular dos direitos não tiver reservado explicitamente esse uso para fins de mineração de texto e dados.
  • Está sendo discutido o uso de algo como um "robots.txt" para indicar o que não pode ser usado em treinamento, e os usuários finais devem ter cuidado ao usar o conteúdo gerado.

• Resumo do terceiro comentário:

  • Já é sabido que IA treinada com material protegido por direitos autorais pode produzir resultados semelhantes.
  • Grandes empresas já adotaram esse método, e agora a situação parece irreversível.
  • Como o público em geral não entende bem como a IA é produzida nem as questões de direitos autorais, a pergunta importante agora é: "o que fazer daqui para frente?"

• Resumo do quarto comentário:

  • A responsabilidade de garantir que não haja violação de direitos autorais é de quem publica a obra.
  • Supor que o ChatGPT ou outras ferramentas não vão gerar conteúdo protegido por direitos autorais é ingenuidade.

• Resumo do quinto comentário:

  • O objetivo central da arte e da publicação deveria ser influenciar a cultura e a sociedade, e não apenas ganhar dinheiro.
  • As obras criativas precisam de proteção, mas sua passagem para o domínio público deveria acontecer muito mais rápido para estimular criatividade e inspiração.

• Resumo do sexto comentário:

  • Resolver o problema não parece tão difícil.
  • Expressões como "encanador de videogame" são abreviações que apontam para uma entidade específica, e a maioria das pessoas as associa a "Mario".
  • Não seria difícil usar ferramentas de IA para descrever imagens semelhantes ao Mario e remover esses resultados quando alguém pedir por um "encanador de videogame".

• Resumo do sétimo comentário:

  • O precedente jurídico para IA generativa é semelhante ao caso do Google ao rastrear sites e indexá-los para busca.
  • Ninguém diz que o Google comete violação de direitos autorais ao exibir o conteúdo original de sites tal como está.
  • Se a IA generativa tivesse de remover todas as referências culturais e propriedades intelectuais (IP) populares, ela se tornaria inútil.

• Resumo do oitavo comentário:

  • Considera-se a questão da violação de direitos autorais no caso de contratar músicos de estúdio para tocar partes de uma música famosa e usar isso como sample.
  • Surge a pergunta sobre quem deve ser responsabilizado pela violação de direitos autorais.

• Resumo do nono comentário:

  • Menciona-se um tópico relacionado e em andamento no qual o New York Times exige a destruição de todos os large language models (LLMs) treinados com seus dados.

• Resumo do décimo comentário:

  • Por meio de um experimento sobre o quão bem o modelo Llama2 comprime texto, descobriu-se que ele contém uma parte considerável do primeiro capítulo dos livros de Harry Potter.