Não pergunte a escritores “O que você acha de IA?”
(benjaminhollon.com)- Benjamin Hollon diz que, toda vez que se apresenta como escritor, a pergunta sobre IA que vem em seguida corroeu por anos sua motivação para escrever e transformou a própria criação em alvo de dúvida sobre si mesmo
- Ele tem preocupações técnicas, profissionais e éticas com o desenvolvimento e o uso da IA, e acredita que ela não substitui a qualidade da escrita de um escritor sério nem a relação que leitores esperam ter com uma pessoa
- Muitas vezes, a conversa acaba virando uma tentativa do interlocutor de obter validação para seus próprios casos de uso de IA, reforçando a crença que justifica uma tecnologia que desvaloriza o trabalho humano e a criatividade
- A pergunta repetida soa como um sinal de que as pessoas pensam em IA antes de pensarem no trabalho real do escritor; nos últimos três anos, ele escreveu pouco além de algumas obras como “Those Who Breathe Easy”
- Mesmo que empresas acreditem que podem substituir artistas por IA, escritores e artistas continuarão criando fora do sistema comercial, e leitores querem obras feitas por pessoas
O cansaço causado pela pergunta recorrente sobre IA
- Benjamin Hollon diz que, quando conta a alguém novo que é escritor, quase sempre ouve a pergunta: “Então, o que você acha de IA?”
- Sua resposta básica é que há sérias preocupações técnicas, profissionais e éticas com o desenvolvimento e o uso da IA
- O problema é que, em geral, as pessoas não param nessa resposta e exigem uma conversa mais longa
- Essa repetição prejudicou gravemente sua motivação para escrever ao longo de vários anos, e ele sente que precisa abordar esse problema antes de voltar ao tema que ama
Posição sobre escrita por IA e criação humana
- Ele avalia que a tecnologia chamada “Artificial Intelligence” não chega perto da qualidade de escrita alcançada por escritores sérios
- Para ele, leitores leem livros porque querem encontrar uma criação feita por uma pessoa real, e não é possível estabelecer esse tipo de relação com uma máquina
- A IA já causou danos sistemáticos ao seu ofício criativo e provavelmente continuará causando, mas ele não vê benefício real nela
- Mesmo repetindo a mesma conversa, quase não há sinais de que a outra pessoa se importe o suficiente para mudar de opinião, o que faz o cansaço se acumular
Conversas que buscam validação para casos de uso
- Muitas conversas passam a ser sobre a forma como a outra pessoa usa IA
- Ele sente que a pessoa quer uma validação do tipo: “até um escritor crítico da IA acha que o meu caso de uso é aceitável”
- Para ele, qualquer caso de uso mantém viva a crença de que a IA ficará melhor no futuro, e essa própria crença é a causa da maior parte dos problemas atuais
- Esse tipo de uso justifica uma tecnologia que subestima o trabalho humano e a criatividade, beneficiando o 1% que quer demitir trabalhadores e ganhar mais dinheiro
- Ainda assim, ele diz que tem sido educado demais para falar isso diretamente a alguém que acabou de conhecer
A dor causada pela própria pergunta
- Quando alguém ouve sobre o trabalho de um escritor e pensa primeiro em IA, ele entende isso como sinal de que a pessoa não o valoriza
- A atitude de perguntar sobre IA como se ela tivesse relação com o trabalho de um escritor soa como um sinal de falta de interesse pelo trabalho real
- Ele acredita que as pessoas podem se interessar por um livro escrito por uma pessoa, mas não se interessariam de fato se alguém dissesse que mandou o ChatGPT escrever um livro e apenas colocou seu nome nele
- O que as pessoas querem ler é algo escrito por outra pessoa; como IA não é pessoa, ela não atende a esse desejo
- Ele também avalia que dizer que “o ChatGPT pode escrever um romance”, ou que esse romance seja legível, não tem relação com os motivos pelos quais as pessoas leem livros
Três anos de bloqueio na escrita
- A pergunta sobre IA soa como se colocasse sua escrita no mesmo nível de lixo, fazendo-o duvidar se seus textos realmente têm significado
- Ele passou a ter medo de pegar a caneta e a duvidar de quão verdadeiro era chamar a si mesmo de escritor
- Nos últimos três anos, ficou preso nesse estado, e escrever se tornou um processo de lutar contra a dúvida sobre si mesmo
- Alguns leitores talvez tenham visto “Those Who Breathe Easy”, publicado em agosto do ano passado, ou a série de histórias mitológicas lida por beta readers, mas ele diz que, na prática, não conseguiu escrever muito
- Toda vez que tenta sair desse estado, aparece uma nova pessoa perguntando “o que você acha de IA?”
O futuro da arte humana
- Ele acredita que a IA não pode substituir a arte humana, e que também não poderá no futuro
- Ainda assim, algum dia chefes podem achar que ela consegue substituir, e podem demitir escritores, artistas e músicos
- Mesmo que artistas sejam demitidos, eles não desaparecem; continuam sendo artistas, como pessoas reais que existem no mundo real
- Mesmo que empresas não os contratem, escritores não deixarão de escrever; continuarão escrevendo e publicando fora do sistema comercial existente
- Se leitores tiverem de escolher entre um romance escrito pelo ChatGPT e lançado por uma grande editora e um livro feito por uma pessoa real que colocou o coração nele, ele diz que leria o livro feito por uma pessoa
- Ao comparar um filme hollywoodiano clichê de grande orçamento com um filme independente feito depois do expediente por um pequeno grupo de jovens pelo prazer do ofício criativo, ele considera que o segundo pode ser mais atraente
- No momento em que editoras comerciais demitirem artistas humanos, ele acredita que elas terão esquecido o que as tornou grandes e estarão liberando seu ativo mais precioso
Escritores feridos e Writing Month
- No longo prazo, ele não vê a IA como uma ameaça séria ao ofício criativo da escrita, e acredita que, se empresas cometerem o erro de tentar substituir escritores, os escritores podem acabar em uma posição mais forte
- Isso não significa que ele queira que isso aconteça; alguns escritores já foram feridos e outros ainda podem ser
- Quando alguém recebe repetidamente o sinal de que “nossos sonhos não têm valor”, alguns escritores podem de fato parar de escrever
- Ele diz aos escritores que quer ler qualquer coisa que eles escrevam mais do que algo cuspido por uma IA, e pede que continuem escrevendo
- Quando o National Novel Writing Month publicou uma declaração chamando críticas à Artificial Intelligence de “classist and ableist”, seu maior medo era que pessoas feridas desistissem de escrever
- Ele criou o Writing Month para construir um novo espaço onde escritores possam continuar escrevendo
Perguntas melhores para fazer a um escritor
- Ele quer conversar sobre escritores e o ofício criativo, e também quer ouvir se outras pessoas tiveram experiências dolorosas com a mesma pergunta
- Mesmo sem intenção de ferir, a pergunta sobre IA pode soar como algo vindo da mesma direção da desvalorização constante contra a qual o escritor vem lutando
- Ele sugere perguntar a um escritor “posso ler sua obra?” em vez de “o que você acha de IA?”
- Esse tipo de pergunta sinaliza que o trabalho que o escritor ama realmente importa
1 comentários
Comentários no Lobste.rs
Por pior que você ache que seja, acho muito melhor ler algo escrito pela própria pessoa do que qualquer coisa cuspida por “IA”
É triste, engraçado e depois triste de novo que o NaNoWriMo tenha desmoronado por causa da própria defesa da IA. Fiz NaNoWriMo uma vez há muito tempo, não cheguei a terminar uma história e mostrei só para duas pessoas, mas ainda sinto um orgulho estranho de que aquelas poucas palavras, embora não fossem lá muito originais, eram claramente minhas. Foi um esforço que eu não teria passado se tivesse usado um modelo de linguagem, e sinto que isso me tornou melhor
Também gosto da resposta do Nick Cave quando perguntaram a ele sobre IA:
https://www.theredhandfiles.com/chat-gpt-what-do-you-think/
https://theredhandfiles.com/chatgpt-making-things-faster-and-easier/
Não vejo por que não poderia ser recomeçado como outro grupo. Parece algo que também daria para fazer aqui, como o Blog Carnival
Perguntar sobre IA é bem-vindo, mas só se você estiver preparado para ouvir a resposta
Isso não tem absolutamente nada a ver com computação nem com vibe coding
É impressionante o trecho em que o NaNoWriMo, em sua declaração péssima sobre inteligência artificial, chamou críticas à IA de “classistas e capacitistas” e revelou o quanto não se importa com escritores
Deveria haver um nome para a falácia informal de pegar uma crítica legítima a um agente nocivo e jogá-la de volta contra quem está criticando esse agente nocivo. Penso em whataboutism, mas não parece 100% adequado
Aqui, “indignação weaponizada” é o que chega mais perto, mas também soa parecido com “indignação fabricada”
Você está dizendo que o autor comete esse erro? Se for isso, então a crítica legítima seria chamar a condenação da IA de “classista e capacitista”, e o autor teria invertido isso ao afirmar que o NaNoWriMo não se importa com escritores
Acho que a arte de IA vai seguir o caminho das fotos de banco de imagens e da música de biblioteca. Amplamente disponível, genérica e de grande abrangência, mas, por não acrescentar significado, a maioria das pessoas acaba nem prestando atenção
Uma boa parte do público teria preferido que não houvesse conteúdo de banco, e agora menos gente vai perceber que esse tipo de conteúdo é uma distração que encobre a ausência de conteúdo de verdade
Quando se tem acesso ilimitado a todo o conteúdo do mundo, o que toca no “interessante” é o julgamento sobre o que remover e a capacidade de escolher menos em vez de mais
Dito isso, “interessante” e “recompensa financeira” são coisas diferentes, e cada uma tem seu lugar na sociedade
Por um lado, entendo que possa ser frustrante sentir que o próprio trabalho está sendo desvalorizado desse jeito. Por outro, eu receberia bem qualquer oportunidade de me opor ao uso de LLMs e divulgar seus danos
É realmente irritante quando as pessoas querem validação para seus casos de uso. Pelo menos eu não vou dar essa validação a ninguém. Cada um tem seus próprios padrões morais, mas, se perguntarem pelos meus, a resposta é oposição
Não sei por que isso recebeu a tag “vibcoding”. O texto não é sobre programação
Acho que às vezes é um bom exemplo de que “o dano está nos olhos de quem vê”
A frase “se, ao ouvir falar da técnica que eu pratico, seu primeiro pensamento é sobre uma tecnologia que não pode fazer diferença alguma nela e que foi criada para desvalorizar meu esforço e trabalho, isso significa que você não me respeita” é, francamente, uma interpretação que só existe na cabeça do autor
Não estou negando que Benjamin realmente se sinta assim, mas é uma leitura bastante hostil da intenção alheia. Todo mundo está tentando entender o que essa tecnologia significa e onde ela se encaixa na vida. As pessoas perguntam porque respeitam sua opinião. Claro, como não viveram da sua perspectiva, às vezes perguntam de forma ingênua, mas será mesmo que isso é uma ofensa tão profunda?
Como escritor, gosto de conversar com as pessoas. Gosto de debater de boa-fé com seres humanos. É verdade que falamos demais sobre IA, mas, se a ideia é tentar entender seu significado, por mim podemos conversar à vontade
Não tenho certeza se é realmente verdade que “quando as pessoas querem ler um livro, na verdade querem ler uma criação feita por outra pessoa real, e não conseguem se relacionar com uma máquina”
Antigamente eu era esnobe com música e dizia que “só gosto de música tocada com instrumentos de verdade”. Com o tempo, mudei. Se soa bem, já não me importo tanto com o que a produziu
Acho escrita por IA bem ruim, e também não respeito quando as pessoas compartilham ensaios escritos por IA, mas esta pessoa parece estar agindo de forma bastante misantropa
Reações como “só o fato de fazer a pergunta já é, para mim, o problema” ou “quando, ao ouvir falar da técnica que eu pratico, seu primeiro pensamento é…” são exageradas
O Comic Book Guy não tem o direito de policiar a curiosidade das pessoas. Se alguém tentar obrigá-lo a usar IA, tudo bem ficar irritado. Mas se a pessoa só está pedindo sua opinião? Perguntando sobre algo que parece uma grande mudança? Muita gente está preocupada com empregos, com o futuro da criatividade humana e com a educação. Elas estão perguntando se sua técnica será afetada ou como você se sente a respeito, e essa é uma pergunta razoável
Se você não consegue aprender a dizer, sem se irritar, “acho que isso não é importante para romancistas”, então deveria pelo menos aprender a dizer, sem se irritar, “não quero falar sobre IA”
O trecho “depois de me conhecer pessoalmente e eu dizer que publiquei um livro, espero que eles queiram lê-lo” soa como alguém recém-chegado por aqui
Se acreditarmos no autor do texto original, em geral a pergunta não é investigação genuína, e sim uma tentativa de obter justificativa para desvalorizar a escrita. Nesse cenário, é bastante compreensível que um escritor fique irritado
Claro que entendo que ele esteja cansado do assunto. Já foi repetido demais, e eu também me sinto assim com frequência. Ainda assim, se dá para discutir o tema de forma madura com alguém, ele ainda pode ser intelectualmente estimulante, e é por isso que ainda leio a maioria das discussões relacionadas no Lobste.rs