Sobre ser listado como artista de uma obra usada no treinamento do Midjourney

• O título aponta para a questão da listagem de artistas nos dados de treinamento do Midjourney, mas o corpo incluído na entrada se parece mais com reações curtas de leitores do que com detalhes da controvérsia em si
• Um leitor afirma que tinha Feeling Hard Or Hardly Feeling salvo no disco rígido desde 2005-07-17 sem saber quem era o criador
• Depois de procurar quem fez a obra só muito tempo depois, deixou a frase “It means something”, revelando que a obra permaneceu com significado pessoal ao longo dos anos
• Outra reação destaca a generosidade do criador, a indignação justificada e a gratidão pela arte, considerando que essa arte resume lindamente as duas primeiras
• Apenas com o texto fornecido, não é possível confirmar informações concretas como os critérios da lista de treinamento do Midjourney, o escopo das obras usadas ou medidas de resposta

---

Uma obra guardada por muito tempo e uma descoberta tardia

• Um leitor tinha Feeling Hard Or Hardly Feeling salvo no disco rígido desde 2005-07-17
• Na época em que salvou, não sabia quem havia criado a obra, e só foi procurar o autor muito tempo depois
• Com a frase “It means something”, revela que a obra permaneceu com um significado pessoal

O alcance das reações visíveis no texto

• As reações curtas incluem generosidade do criador, indignação justificada e gratidão pela arte
• Também incluem a avaliação de que essa arte resume lindamente as duas coisas anteriores
• A lista de obras usadas no treinamento do Midjourney, a forma de listagem dos artistas e os detalhes jurídicos e técnicos não podem ser confirmados no texto fornecido

[GN⁺]

Opiniões no Hacker News

• Para mim, esse é o ponto central. Mesmo que a OpenAI não seja uma empresa com fins lucrativos, ela claramente é uma empresa valiosa, e esse valor vem de ter pegado conteúdo criado por outras pessoas sem devolver valor a elas.
  Independentemente do aspecto legal, acho isso errado. Se todo conteúdo protegido por direitos autorais e não autorizado fosse removido do treinamento da OpenAI, quanto valor restaria no produto? Se você acha que o valor da OpenAI cairia sem usar conteúdo protegido por direitos autorais, então parte desse valor deveria voltar para o lado do conteúdo.

  • Usar conteúdo protegido por direitos autorais é permitido, mas reproduzir conteúdo protegido por direitos autorais não é. Podemos vê-lo, consumi-lo, ser influenciados por ele e, em muitos casos, até copiá-lo.
    Se você não quer que ninguém veja, consuma ou seja influenciado pela sua obra, deve colocá-la numa caixa e não mostrá-la a ninguém. Tenho certa empatia por artistas que gritam que a IA cria imagens parecidas demais com as obras deles, mas essa empatia está diminuindo. A saída pode realmente parecer parecida, mas, se você comparar essa obra com milhões de outras, provavelmente encontrará algo semelhante entre obras humanas já existentes.
    É por isso que roupas não são protegidas por direitos autorais. Por mais original que você ache que algo seja, alguém já fez isso nos últimos milhares de anos da história da moda. As artes visuais podem estar chegando a um ponto parecido. Por mais original que você ache que sua pintura seja, em algum lugar já existe algo parecido, e a IA tampouco reproduz imagens literalmente. Assim como essa realidade não matou a indústria da moda, ela também não matará as artes visuais.
  • Vejo a OpenAI mais como uma empresa com fins lucrativos, com os mesmos incentivos para ganhar dinheiro que outras empresas americanas com fins lucrativos. Entendo que existe uma empresa sem fins lucrativos separada e que ela dirige a empresa com fins lucrativos, mas isso é mais uma nota de rodapé de governança do que algo que torne a OpenAI uma organização sem fins lucrativos.
    No site, está assim: “Uma nova subsidiária com fins lucrativos foi criada para levantar capital por meio da emissão de participações acionárias e contratar talentos de nível mundial, permanecendo sob a direção da entidade sem fins lucrativos. Os funcionários que cuidavam dos negócios com fins lucrativos foram transferidos para a nova subsidiária.”
    https://openai.com/our-structure
  • Isso se refere a plataformas como o Instagram. Ao distribuir ilustrações lá, implicitamente a máquina de anúncios deles passa a lucrar com o meu trabalho.
  • Vejo de outra forma. Se um artista colocou sua obra online, ela passou a estar em um estado em que todos podem vê-la e se inspirar nela.
    Desde que alguém não a copie exatamente, não acho que haja dano por ela ser usada para outro fim. Se outro artista a vê e se inspira, tudo bem; se uma IA a vê e se inspira, também não vejo dano.
  • Não dá para aplicar a mesma lógica aos mecanismos de busca? Qual seria o valor do Google se não houvesse conteúdo para pesquisar?
    Então deveríamos obrigar mecanismos de busca a pagar royalties? Na escala do Google, isso parece inviável. Deveríamos simplesmente tornar o Google ilegal? Isso também seria um resultado ruim. Acho bom que mecanismos de busca existam.
    Por isso não gosto desse argumento. Porque, se ele for levado naturalmente até o fim, acabará impondo a mesma conclusão a outros projetos.

• Outro webcomic sobre o mesmo tema: https://www.penny-arcade.com/comic/2024/01/03/terminarter
  Se o sistema operacional escondeu a barra de rolagem e você não percebeu que a página era mais longa, veja também o comentário em texto abaixo da tirinha.

  • “Qualquer que seja a composição daquele momento, eu sempre hesito em mergulhar totalmente na ‘conversa’. É como um smoothie de marcadores. Essas coisas deveriam ser detectáveis mesmo em níveis de algumas ppm. Porque, uma vez transmitidas, elas se afastam do tema original e viram uma recitação cada vez mais alta de catecismos e juramentos de lealdade.”
    Soa muito certeiro.
  • Fico curioso se o Gabe, da Penny Arcade, ficaria bravo se suas tirinhas fossem usadas em aulas de arte para treinar a próxima geração de artistas.
  • Isso explica por que as imagens do Midjourney parecem tão medonhas.

• Não é tanto que seja difícil refutar este texto ou as frases da Penny Arcade; é mais difícil entender, em meio à retórica, qual é o argumento concreto. Eu também teria cuidado ao discutir esse tema na seção de comentários deles ou em canais sociais.
  Então, sob quais condições a arte de IA seria aceitável? Por exemplo, realmente importa se esse modelo foi criado por uma grande empresa? Se uma pessoa física criasse o mesmo modelo, não sei o que mudaria em termos legais ou éticos.
  Importa se as obras desses artistas entraram nos dados de treinamento? E se um novo modelo, treinado apenas com fotos, vídeos e obras de arte em domínio público, fosse igualmente poderoso? E se um modelo futuro conseguisse imitar um estilo depois de ver apenas uma ou duas obras? Pode ser só uma questão de tempo até surgir um modelo assim. Nesse caso, tudo bem? Se não, por quê?
  Pessoalmente, acho que o usuário do modelo de IA tem a responsabilidade de usá-lo de forma legal e ética, como se a pessoa que criou a imagem de IA tivesse feito a imagem diretamente.

  • Sobre a pergunta “sob quais condições a arte de IA é aceitável?”, embora soe como uma refutação típica da internet, artistas ou a sociedade não têm obrigação de necessariamente deixar, dentro da cultura, um espaço onde a arte de IA seja aceitável.
    Essa possibilidade pode existir ou não. Mas, se a IA atual está próxima de uma média complexa, porém meio literal, das obras de arte que várias grandes empresas conseguiram raspar da internet, a reação contrária a isso parece bastante legítima.
  • Acho essas perguntas interessantes. Especialmente quando o usuário fornece contexto de estilo como amostra.
    Mesmo hoje, mostrar imagens a um artista e dizer “quero algo com esta sensação, mas diferente nestas partes” se enquadra em uso justo. Você também pode pedir a um roteirista que assista a Star Wars e escreva algo parecido.
    A questão de direitos autorais não depende de uma obra protegida ter sido usada como inspiração, mas de a saída ser suficientemente transformativa.
  • A pergunta “sob quais condições a arte de IA é aceitável?” não aparece com frequência suficiente. Dedicar tempo para torná-la aceitável é um objetivo valioso e, na minha visão, não é um obstáculo, mas parte do caminho.

• Quem lucra com modelos treinados em conteúdo exclusivo de criadores deveria começar logo a pagar custos de conteúdo; isso é bom para os criadores, para a sociedade e até para as empresas de IA
  Ficar discutindo se a lei de direitos autorais se aplica ou não às empresas de IA é cansativo. Ela se aplica. Basta organizar um modelo de licenciamento adequado

  • A a16z escreveu que “impor aos criadores de modelos de IA custos reais ou potenciais de responsabilidade por direitos autorais mataria ou prejudicaria gravemente o desenvolvimento”
    Também disse que, se todo o material protegido por direitos autorais já usado em grandes modelos de linguagem fosse pago, as empresas que os criaram teriam de pagar “dezenas a centenas de bilhões de dólares” em royalties por ano
    https://www.businessinsider.com/marc-andreessen-horowitz-ai-...
  • Seria bom se bastasse dizer “aplica-se” para que fosse assim, mas na prática não é fácil
    A lei de direitos autorais protege apenas expressões fixadas em forma tangível, não ideias, conceitos, princípios etc., e como também há o grande buraco do uso justo, a argumentação jurídica não é simples
  • Certo. Fazer isso pode matar as alternativas gratuitas. Quem não tiver dinheiro para licenciar com grandes detentores de direitos não conseguirá entrar, e o Google vai gostar disso
    Os criadores receberiam trocados, todos teriam de passar por APIs proprietárias, e o open source poderia ser ilegalizado. Não é um futuro que eu queira ver
  • Na verdade, o problema não é “qualquer um que lucre com um modelo”, mas “qualquer um que crie um modelo”
    Mesmo que alguém treine um modelo com a arte de outras pessoas sem permissão e distribua o modelo ou suas saídas de graça, sem ganhar dinheiro nenhum, ainda assim está roubando o trabalho delas
  • Vale observar que o Adobe Firefly e o iStock já têm geradores que usam apenas conteúdo licenciado

• Se a licença de um artista se limitava a uso não comercial, usar isso para treinamento comercial de IA não é uma violação óbvia? Eu realmente gostaria de saber por que não seria

  • Por causa do uso justo. Essas licenças são aplicadas via direitos autorais; se o uso em questão não estiver sujeito a direitos autorais, os termos da licença não significam nada
  • Uso justo é o argumento que explica por que houve violação de licença ou de direitos autorais. Ele se apoia no fato de que houve cópia sem permissão
  • Se o uso justo realmente se aplicar, a licença não importa
  • Então essa condição de uso não comercial deveria se estender também a obras cocriadas ou produzidas com essa IA?

• Aplausos ao autor, porque este foi o primeiro texto sobre o assunto que conseguiu fazer algo bater emocionalmente em mim
  A IA generativa que está mudando o mundo hoje foi construída sobre o trabalho de três grupos: desenvolvedores de software, comentaristas do Reddit e artistas digitais. Os comentaristas do Reddit abriram mão dos direitos há muito tempo e não se importam. Restam os desenvolvedores de software e os artistas digitais
  Em geral, desenvolvedores de software foram bem remunerados, e artistas digitais não. Desenvolvedores de software publicaram seu trabalho de forma modificável, mas artistas não. Talvez a diferença mais importante seja que foram os desenvolvedores de software que criaram a IA generativa. Em certo sentido, ela é nossa própria criação; a sensação de a própria profissão ser devorada por algo que nós mesmos criamos é muito diferente de ser devorada por um grupo externo e desconhecido
  Se Washington tiver de arder, é melhor que sejam os britânicos a incendiá-la do que marcianos. Como teríamos reagido se o que fizemos não tivesse acontecido pelas nossas próprias mãos?

• Acho que, estando nessa situação, seria muito difícil superar a sensação ruim
  Para quem não é técnico, a tecnologia parece indecifrável; para o público em geral, a lei parece indecifrável; e a ética parece indecifrável para todos
  Com tanta confusão, pode ser difícil sentir que se recebeu um tratamento justo apenas entrando em uma ação coletiva para resolver o passado. Por exemplo, um protocolo ou site que conectasse pessoas interessadas em processar empresas ajudaria na confiança pública. É preciso algo que mostre que a sociedade apoia os valores de igualdade e justiça

  • Acho que a ética é bem clara
    1. Não fazer com as pessoas coisas que elas não querem
    2. Tratar os outros como eu gostaria de ser tratado
       É realmente simples assim

• Há uma solução simples
  Proibir grandes modelos fechados treinados com dados públicos e exigir que esses modelos tenham pesos abertos. Se uma empresa quiser treinar um grande modelo fechado, que o faça com seus próprios dados

  • Não vejo muitas propostas assim, mas gosto bastante desse modo de pensar. A ideia de que deveria ser ilegal um modelo aprender com artistas, ou de que artistas têm o direito de extrair dinheiro de modelos, não faz muito sentido. Isso se afasta de forma radical demais de como tratamos o aprendizado humano
    Mas parece injusto que uma empresa possa possuir esse tipo de modelo. Ele não é obra da empresa; é, na prática, uma representação codificada da produção cultural de toda a humanidade. Todos nós deveríamos possuí-lo
  • A solução simples é outra IA que verifique se a saída viola direitos autorais
    O problema aqui é o modelo gerar literalmente obras protegidas por direitos autorais. Quem argumenta que treinar com obras protegidas por direitos autorais é, por si só, violação de direitos autorais não tem base jurídica. Só está confundindo deliberadamente os conceitos para fazer parecer que tem, e qualquer juiz competente perceberia isso na hora
  • Como parte dos dados públicos também pode ter licença, questões de rastreamento de origem, atribuição e direitos autorais ainda permanecem
    Comparando com software, existe a licença MIT, que permite uso comercial e fechado de código-fonte publicado. Para a direção imaginada aqui, uma licença copyleft talvez seja mais próxima
  • Sinceramente, é um ótimo meio-termo. Algo só um pouco relacionado: e se a lei de direitos autorais fosse baseada em opt-out? Você poderia ignorá-la se quisesse, mas, em troca, também não poderia reivindicar nenhum direito autoral. Acho que eu participaria
  • Acho que isso não resolveria muita coisa. As pessoas simplesmente usariam geradores de imagens open source. Os artistas ainda enfrentariam o mesmo dilema

• Antes do surgimento da câmera — e talvez até hoje em alguns casos — vários pintores administravam empresas que vendiam principalmente cópias de obras de artistas famosos. Algo que permitia pendurar em casa uma bela reprodução de uma pintura célebre.
  Dá para pensar que ferramentas como o Midjourney entram na mesma categoria, mas há uma diferença essencial. Até agora, os sistemas de reprodução giravam em geral em torno de artistas bem-sucedidos e famosos. Para ganhar dinheiro, era preciso copiar algo que as pessoas já valorizavam muito, e também ficava muito claro que aquilo era uma reprodução.
  Agora isso mudou. Em grande parte, um enorme volume de trabalhos de artistas praticamente desconhecidos é parcialmente reproduzido e usado de uma forma em que a origem fica ainda mais nebulosa. É legítimo que esses artistas se sintam roubados. Eles estão suportando um tratamento à la Van Gogh, sem a riqueza da fama nem o consolo da fama póstuma.

• Eu não conhecia bem Cat and Girl, então fui ver algumas tiras aleatórias e encontrei esta: https://catandgirl.com/heroes-and-villains/
  Às vezes acho que o universo tem um senso de humor sombrio.