Produção de conteúdo com IA da AdVon e uso de autores falsos
- Um escritor de um país em desenvolvimento trabalhou como contratado na AdVon Commerce, recebendo alguns centavos por palavra para escrever reviews de produtos online
- O papel do escritor logo mudou para lapidar rascunhos gerados pelo sistema de IA "MEL", que a AdVon estava desenvolvendo
- Foi pedido ao escritor que deixasse notas detalhadas sobre o trabalho do MEL, e ele acredita que isso foi usado para ajustar finamente a IA que acabaria substituindo sua função
- Quando o MEL ficou "treinado o suficiente para escrever sozinho", os escritores foram demitidos
- O escritor disse que "sofreu bastante" e que "eles eram exploradores"
Casos de uso de autores falsos pela AdVon
- Um funcionário da Gannett descobriu que reviews de produtos estavam sendo publicados no site do USA Today com assinaturas que não pareciam ser de pessoas reais
- Na Sports Illustrated, a AdVon também operava de forma semelhante, usando assinaturas de autores falsos e fotos de perfil geradas por IA
- A AdVon não negou que as assinaturas eram falsas nem que as fotos de perfil eram geradas por IA, mas afirmou que os artigos em si haviam sido escritos por pessoas reais
Publicação ampla de conteúdo da AdVon
- Os autores falsos e os textos da AdVon foram encontrados amplamente, de veículos de fofoca de celebridades como Hollywood Life e Us Weekly até jornais renomados como o LA Times
- A McClatchy encerrou sua relação com a AdVon e removeu centenas de artigos da AdVon de mais de 20 jornais, incluindo Miami Herald e Sacramento Bee
- No passado, o site da AdVon dizia colaborar com muitos veículos conhecidos, como PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens e Southern Living
Vídeo de demonstração da geração de reviews com a IA MEL da AdVon
- Um gerente da AdVon mostra o processo em que, ao inserir apenas o título do artigo e um link de produto da Amazon, a IA MEL gera todas as palavras do artigo
- O trabalho do MEL costuma ser estranho, vago e às vezes até se contradiz
- Se a saída não fizer sentido, o gerente simplesmente manda gerar uma nova versão
- "Nosso objetivo é fazer com que não soe como algo escrito por um robô", disse o gerente
Baixa qualidade dos reviews da AdVon e erros estranhos
- Os reviews da AdVon estão cheios de enchimento e obviedades e às vezes incluem erros bizarros, tornando difícil acreditar que tenham sido seriamente revisados por uma pessoa antes da publicação
- Há casos em que o assunto muda abruptamente sem explicação, como um review de cinta de levantamento de peso que de repente passa a falar de cintos de roupa, ou um review de micro-ondas que vira um texto sobre forno convencional
- Em outro review de micro-ondas do mesmo autor, o mesmo tipo de erro estranho se repete, incluindo a afirmação de que se pode usar papel-alumínio no micro-ondas
Atribuição de autores falsos e substituição por nomes de pessoas reais
- Depois que o trabalho em um artigo terminava, cabia a pessoas de dentro da AdVon atribuir a ele o nome de um autor falso
- Após um funcionário da Gannett apontar os autores falsos da AdVon no USA Today, os nomes falsos desapareceram e começaram a ser substituídos por nomes de pessoas aparentemente reais, especialmente de pessoas com relações pessoais com o CEO da AdVon, Ben Faw
- Surgiu uma assinatura com o nome Julia Yoo, que parece ser esposa de Ben Faw e ter um currículo excessivamente impressionante em comparação com outros funcionários da AdVon, incluindo diploma do MIT, carreira executiva na Autodesk e atuação como conselheira econômica na Casa Branca durante o governo Obama
- Também apareceu uma assinatura com o nome Denise Faw, que parece ser mãe de Ben Faw
Reviews patrocinados da AdVon via SellerRocket
- O CEO da AdVon, Ben Faw, e o presidente Eric Spurling também administram outra empresa, a SellerRocket, que cobra de vendedores de produtos da Amazon em troca de promoção nos mesmos veículos onde a AdVon publica reviews de produtos
- Funcionários da SellerRocket explicam de forma bastante direta em vídeos no YouTube como esse esquema funciona
- Os produtos de clientes da SellerRocket são marcados no CMS da AdVon com um "fofinho ícone de foguete" e "sempre recebem prioridade"
Carreira e práticas de negócios do CEO da AdVon, Ben Faw
- Faw tem um currículo vistoso, mas, segundo ex-colegas, estava constantemente tentando ganhar mais dinheiro com conteúdo de baixa qualidade
- Dizem que Faw "desprezava totalmente o consumidor" e "só se importava em encontrar maneiras rápidas e baratas de ganhar mais dinheiro para si mesmo"
- Faw tentou influenciar a cobertura ao enfatizar suas relações pessoais e comerciais com executivos da empresa-mãe da Futurism
Mudanças e contradições nas alegações da AdVon
- A AdVon inicialmente negou usar IA, mas, quando foram apresentadas evidências em vídeo de reviews gerados por IA, admitiu que usava IA para alguns clientes
- O histórico de edição de artigos fornecido pela AdVon não é convincente, pois mostra uma velocidade de escrita rápida demais para parecer trabalho humano
- A AdVon afirma que a IA MEL não estava em operação até 2023, mas perfis de funcionários no LinkedIn contradizem isso
- A AdVon afirma que não demitiu escritores por causa da transição para IA, mas o número de escritores no LinkedIn parece ter despencado
Reação dos leitores ao conteúdo gerado por IA e tendência da indústria
- Em uma pesquisa logo após o caso dos autores falsos da Sports Illustrated, 80% dos respondentes disseram que isso deveria ser tornado ilegal
- O jornalismo é uma indústria baseada em confiança, mas, no labirinto de autores falsos e ameaças legais da AdVon, fica difícil confiar até em perguntas básicas, como se o autor é uma pessoa real ou se a IA gerou o artigo
- Alguns veículos estão buscando maneiras de usar IA de forma honesta, mas a maioria dos experimentos enfrenta constrangimentos por causa de erros e possibilidade de plágio
- No pior cenário, a IA ameaça permitir que golpistas produzam em massa conteúdo de baixa qualidade em escala sem precedentes, cobrindo toda a web de spam
- Não surpreende que empresas como a AdVon estejam expulsando escritores enquanto despejam conteúdo ruim feito por IA, mas o fato de veículos confiáveis distribuírem isso é uma tragédia da era da IA
1 comentários
Será que, desse jeito, a única solução mesmo vai ser obrigar a criação de contas com verificação de identidade baseada em um número único atribuído a cada pessoa, como na Coreia do Sul ou na China...? Dá medo.