- O Substack lançou o Pangram Scan, que permite aos leitores estimar a proporção entre escrita humana e assistência de IA em uma publicação, além do recurso “How I make this”, que revela o processo de criação
- Em vez de focar no uso de IA em si, a proposta se concentra na falta de transparência, para que os autores recebam reconhecimento por sua contribuição e os leitores possam avaliar melhor o que vão ler
- Os escritores comemoram o avanço na transparência, mas também levantam preocupações sobre falsos positivos, processos criativos difíceis de capturar com um único rótulo e o risco de vigilância sobre a forma de trabalho uns dos outros
- Após o feedback, passou a ser possível desativar o escaneamento do leitor por publicação sem precisar interagir com o Pangram ou fazer um escaneamento prévio
- Como a IA é usada em várias etapas, como pesquisa, tradução, edição e rascunho, é difícil julgar o pensamento e o trabalho do autor apenas pelo resultado da detecção; por isso, a divulgação detalhada do processo de trabalho é usada para construir confiança com os leitores
Recursos de transparência de IA com base no Pangram
- Os leitores podem escanear textos publicados no Substack para ver a proporção estimada entre trechos escritos diretamente por humanos e trechos assistidos por IA
- Também há recursos voltados aos autores
- É possível executar o Pangram no rascunho antes da publicação
- É possível desativar o escaneamento dos leitores em cada publicação
- É possível adicionar o texto “How I make this”, explicando o processo criativo e ajustando a expectativa do leitor
- O recurso está disponível em web, iOS e Android
- O Substack e o Pangram não usam o conteúdo dos autores para treinar modelos de IA generativa
Foco na transparência, não no uso de IA
- Embora as normas sobre uso e divulgação de IA ainda não estejam consolidadas, o Substack entende que o uso de IA em si não é necessariamente um problema, mas a falta de transparência sim
- O objetivo é ajudar os autores a receberem o devido reconhecimento por seu trabalho e os leitores a decidirem, com mais informação, onde gastar seu tempo
- A premissa é que, independentemente do desempenho da IA, a perspectiva humana continua sendo um elemento necessário para a cultura
O debate sobre criação humana e IA
- Archie Hall é otimista quanto ao potencial econômico da IA, mas considera que, mesmo quando o texto é legível, deve-se evitar frases escritas por IA
- Lincoln Michel avalia que a arte exige intenção e escolha, portanto uma saída de IA que não seja fruto de escolha não pode ser arte
- O Hinternet Editorial Board propôs classificar o grau de dependência de IA em uma escala em código Morse de 0 a 10
- Sam Kriss rejeita em tom forte a prática de delegar a escrita à IA
- Os autores vêm testando por conta própria o que a IA consegue ou não gerar
- Freddie deBoer experimenta se grandes modelos de linguagem conseguem escrever elementos de um romance, exceto as frases literárias em si
- Rohit Krishnan mede características estatísticas do estilo literário e observa se os modelos conseguem aprendê-las
- Hollis Robbins compara poemas gerados por dois LLMs diferentes para avaliar se eles podem se aproximar de uma grande poesia, e considera que, para o poeta, a expressão excepcional em si é poesia
- Elle Griffin escreve uma ficção sobre um dia passado em uma futura utopia de IA
- Andrea Bartz apresenta argumentos detalhados contra a IA generativa atual
- Teddy(T.M.) Brown argumenta que boa parte da escrita comercial nunca foi expressão criativa em essência, então o que desaparece não é tanto a alma, mas o meio de subsistência dos escritores
Reações positivas logo após o lançamento
- Alguns autores avaliam as ferramentas de transparência como um primeiro passo correto para proteger escritores e melhorar a experiência dos leitores
- Katie Harbath apoia a transparência, embora tema que ferramentas de detecção de IA apaguem nuances do uso ético
- Ela afirma que a IA a ajudou a manter uma newsletter regular enquanto conciliava consultoria, preparação para o lançamento de um livro e a vida cotidiana
- Gergely Orosz afirma que, quando descobre que um texto foi escrito por IA, entende que o criador não dedicou tempo para escrevê-lo diretamente e, por isso, não lê
- Joe Hill avalia que a IA escreve melhor do que uma pessoa mediana, mas pior do que um escritor profissional, e que essa diferença gera em massa conteúdo de baixa qualidade que afasta leitores
- Helen Lewis revelou como usa IA depois que um texto seu de 2.000 palavras foi classificado como escrito por humano
- Ela escreve o texto diretamente e não usa IA para checagem de fatos nem correção ortográfica
- Quando usa IA na pesquisa, verifica diretamente as fontes originais, como faria ao usar um mecanismo de busca
Preocupações com falsos positivos e com a cultura da comunidade
- As críticas apontam três limitações de reduzir o uso de IA a um único rótulo
- Falsos positivos que classificam um texto humano como escrito por IA
- A dificuldade de captar todo o processo criativo de um texto com apenas um rótulo
- O risco de o interesse se deslocar da obra para a vigilância sobre a forma de trabalho de outras pessoas
- Emma Richmond teme que frases acadêmicas que seguem certas regras possam ser classificadas incorretamente como IA
- Kathleen Schmidt considera que, se qualquer pessoa puder usar uma ferramenta de detecção sujeita a erros, até autores que não usaram IA de fato poderão ser acusados de tê-la usado
- Monica Hebert critica a detecção de IA como um teste disfarçado de pureza moral
- Detectores podem estimar a possibilidade de envolvimento de IA, mas não sabem quem teve a ideia original, quem viveu a experiência, quem contou a história ou quem a revisou
- Também não conseguem medir o trabalho humano de rejeitar rascunhos, mudar a linha de argumentação, restaurar o humor e reescrever parágrafos e finais
Desativação do escaneamento após feedback
- O Substack mudou a implementação após o feedback, permitindo que autores escolham desativar o escaneamento do leitor por publicação sem precisar primeiro escanear o texto ou interagir com o Pangram
- Como as formas de usar IA são tão variadas quanto o número de criadores, o texto “How I make this”, exibido junto ao resultado do escaneamento, permite divulgar o processo concreto em mais detalhe
Exemplos de uso de “How I make this”
- Claudia Sahm afirma que sempre escreve o primeiro rascunho sozinha e usa IA principalmente para edição voltada à clareza
- Antes de escrever, ela discute ideias com a IA e também a usa para reunir material de apoio, incluindo análises de dados e gráficos feitos a partir de instruções suas
- Ela declara que a responsabilidade por erros e omissões é dela
- Thierry, que não tem o inglês como língua nativa, usa a IA como uma editora de inglês
- Ela lapida as frases, mas não altera os pensamentos nem o conteúdo substantivo
- Plum Sykes simplesmente informa que não usa IA de forma alguma
- Nate usa IA em toda a cadeia de pesquisa, rascunho, escrita e edição
- Primeiro, converte sua fala em texto por 10 a 15 minutos para registrar suas ideias em forma bruta
- Depois, cria rascunhos com o modelo e os revisa repetidamente até refletirem com precisão suas ideias e intenções
- Ele considera correto e esperado que isso seja classificado como assistência de IA
- Morgan Vogel usa uma descrição bem-humorada dizendo que escreve com Google Docs público, bebidas cafeinadas e oração
- Sara Szal MD afirma que suas ideias vêm de sua pesquisa, de 30 anos de prática clínica e de seis livros publicados
- Ela usa uma ferramenta de IA treinada com sua própria escrita para melhorar a eficiência de edição e publicação, mas estrutura pessoalmente frameworks e modelos, pensamento crítico e recomendações clínicas
- Anthony Lawrance usa o Claude como um editor que coordena uma equipe de repórteres
- Depois de fazê-lo reunir materiais e histórias, ele revisa as fontes e edita minuciosamente os rascunhos, assumindo ele mesmo os títulos e a responsabilidade pela publicação
- Jim Waterson afirma que seu trabalho envolveu muito trabalho humano e que ele não usou IA
Próximos planos
- O Substack pretende construir confiança entre criadores e leitores e criar um ambiente em que cada um possa fazer escolhas adequadas à sua atividade criativa e ao seu negócio
- A partir da próxima semana, começará a série “Model Behavior”, abordando as formas de trabalho na era da IA e os sentimentos sobre IA de escritores, criadores e pensadores
- A empresa continuará pedindo a opinião dos autores sobre como apoiar escritores e criadores no ambiente de IA por meio de compartilhamentos, comentários e da divulgação de “How I make this”
Ainda não há comentários.