Estou ficando maluco por causa dos bots do Reddit

• Um post no Reddit carregado de desespero humano reuniu cerca de 6.000 upvotes e centenas de comentários, mas, ao rastrear a atividade do autor e os links, revelou-se uma publicação promocional com características de bot
• A conta apresentava um padrão de karma farming, postando vários vídeos de pets, histórias edificantes recicladas e memes repetidos por dia, sem comentar
• O link rddit.org no fim do texto não pertencia ao Reddit, mas era um domínio de um serviço premium de encurtamento de links registrado anonimamente
• O link levava a uma edição moderna ilustrada de Propaganda, obra de Edward L. Bernays, na Amazon, e a URL incluía a tag de afiliado manwithhairwe-20
• A estrutura era a de um bot de IA que conquistava confiança explorando o sentimento de que “a internet foi arruinada por bots de IA” e promovia discretamente um texto clássico com ilustrações geradas por IA

---

Os rastros estranhos de um post no Reddit que parecia humano

• O feed do Reddit estava cheio de posts feitos para provocar indignação política, vídeos reciclados de gatos, relatos sensacionalistas sobre relacionamentos e memes antigos de wojack
• Entre eles, um post com o título "Anyone else feel like the internet is just… broken now?" chamou atenção por sua emoção que parecia vir de uma pessoa real
  • A publicação recebeu quase 6.000 upvotes e centenas de comentários
  • O texto dizia que tudo online parecia anúncio, venda ou tentativa de viralizar, e que nada parecia real
• Mas o ritmo das frases e as expressões pareciam otimizados demais para gerar empatia, o que levou à verificação do perfil do autor
• O perfil estava cheio de clipes virais de pets, histórias edificantes recicladas e memes repostados
  • A conta publicava várias threads todos os dias
  • Não participava dos comentários
  • Esse padrão de atividade parecia próximo do comportamento típico de bots

Link de afiliado oculto e a Dead Internet Theory

• A frase final do post original trazia um link com o texto "This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading."
• O link usava o domínio rddit.org, que à primeira vista parecia um link encurtado do Reddit
  • Era possível imaginar que fosse um encurtador da plataforma, como o t.co do Twitter ou o fb.me do Facebook
  • Uma consulta WHOIS mostrou que rddit.org não era propriedade do Reddit
  • O domínio era de um serviço premium barato de encurtamento de links, registrado anonimamente
• Ao clicar, o usuário era levado a uma edição moderna ilustrada do clássico Propaganda, de Edward L. Bernays, na Amazon
  • A URL exibia a tag de afiliado manwithhairwe-20
  • O livro tinha 13 avaliações um tanto genéricas
  • Ao seguir o perfil do ilustrador na Amazon, via-se que o vendedor comercializava livros que adicionavam imagens geradas por IA a textos clássicos
• Centenas de usuários reagiram nos comentários, mas não parecia haver sinais de que tivessem percebido o truque
• O principal comentário mencionava a Dead Internet Theory
  • Trata-se da crença de que a maior parte das interações online acontece entre bots, dentro de loops automatizados
• No fim, era como se um bot de IA estivesse agindo como humano, lamentando que “a internet foi arruinada por bots de IA” e usando esse sentimento para vender, por link de afiliado, um livro com ilustrações de IA
• O final do texto distorce uma frase ao estilo de Orwell para descrever o futuro como “um bot que deixa humanos tristes e irritados para incentivar engajamento e vender conteúdo ruim gerado por IA para sempre”

[GN⁺]

Opiniões no Hacker News

• Larguei o Reddit por volta da crise da API do Reddit, mas mesmo antes disso ele já era um serviço péssimo que eu usava por hábito
  A opinião manipulada era comum demais, e bate uma tristeza profunda ao perceber que aquela internet de antes, em que todo dia se descobriam pessoas e coisas surpreendentes e interessantes, desapareceu. Antes era realmente mágico; agora é só tedioso

  • Nem precisa ser necessariamente bots ou opinião manipulada. Moderadores enviesados ideologicamente podem banir quem discorda deles, controlar vários subreddits, e alguns lugares banem alguém só por ter postado em outro subreddit
    O Reddit como um todo não parece se importar com imparcialidade, e a direção que o site escolheu parece bem clara
  • Da perspectiva de alguém que era profundamente viciado nos fóruns da GameFAQs, o ciclo de deterioração do serviço (enshittification) é quase uma sequência previsível
    Primeiro, uma empresa gasta muito dinheiro para criar uma comunidade na internet. Em algum momento, com ou sem justificativa, a torneira do dinheiro seca, e a degradação começa quando anúncios e posts de baixa qualidade viram o padrão. As pessoas primeiro procuram alternativas devagar, mas em certo momento vão embora muito rapidamente. Então uma nova empresa captura a imaginação do público insatisfeito e cria uma nova comunidade online
    Agora o Reddit está na parte final desse ciclo de deterioração. Chegou até o IPO, e os donos originais embolsaram bilhões de dólares no mercado de ações. Não parecem mais ter apego ao Reddit, e está na hora de procurar substitutos
    O próprio Reddit também foi o lugar escolhido por sorte no ponto em que se sobrepuseram as saídas de LUEsers, Digg e Slashdot. Antes disso havia comunidades como Usenet, BBS e MUD, e como a tecnologia muda muito a cada geração, é difícil prever o que vai despontar a seguir
  • Se você ainda não encontrou o lemmyverse, talvez fique feliz de novo indo para piefed.social
    O piefed é federado com instâncias do lemmy e, embora eu não tenha relação com nenhum dos dois projetos, estou curtindo muito o feed
  • Dá para recuperar um pouco disso desistindo da tecnologia e das plataformas e entrando em canais de IRC
  • Hoje em dia é difícil postar no Reddit. Até uma alternativa leve como o 9gag, por algum motivo, parece muito mais acolhedora

• Eu gostava do Reddit antigamente, mas a opinião manipulada, especialmente por grupos políticos, chegou a um ponto insuportável
  Depois da última eleição, parece que grupos políticos perceberam que os subreddits locais não estavam sendo aproveitados o suficiente e se reorganizaram nessa direção. Ainda confio em parte dos resultados quando pesquiso no Google acrescentando Reddit, mas essa confiança também está diminuindo. Threads de recomendação de produtos e serviços são realmente muito fáceis de manipular

  • Para mim, o Reddit parece uma câmara de eco extrema, e acho que o sistema de votos e karma é otimizado para o tipo errado de conteúdo
    Tentei participar algumas vezes de subreddits de interesses de nicho, como produção caseira de cerveja, eletrônica e instrumentos musicais, mas no geral foi decepcionante. Minha hipótese é que as pessoas que dizem que o Reddit é um bom lugar para hobbies de nicho nunca passaram pelos fóruns à moda antiga, que tinham membros realmente apaixonados e muito engajados
    Nos últimos 2 ou 3 anos, esse problema só piorou. Por outro lado, para memes o Reddit é excelente, e há subreddits realmente engraçados. Mas quase não participo; só consumo
  • É sempre tão descarado que chega a ser engraçado. Em um Reddit local, um post bem pontuado normalmente fica por volta de +70 votos, mas um post político aleatório —sempre só posts políticos— recebe +2000 votos. É tão na cara que eles nem ligam
  • O ponto central não é esse, e sim que as pessoas estão filtrando subreddits manipulados em /r/all, e descobriram que a lista de filtros do r/all tem um limite de 100 subreddits
    Então, se manipularem mais de 100 subreddits, conseguem garantir aos clientes que seus posts aparecerão na primeira tela do r/all de todo mundo
  • Depois da última eleição, um pequeno subreddit local que por anos manteve a mesma cultura geral virou, da noite para o dia, como num estalar de dedos, para o extremo completamente oposto
    Se você compartilha mesmo que um pouco alguma ideia que era amplamente aceita ali durante anos, agora é atacado, ridicularizado e enterrado em downvotes
    O nível de manipulação direcionado a esse subreddit é tão descarado e evidente que chega a ser comprovável. Parece que alguém, em algum lugar, o colocou numa lista de subreddits-alvo de manipulação. Mas como dizer, por um canal de comunicação já danificado, que aquele canal foi danificado?
    A maioria das pessoas parece nem perceber esse tipo de manipulação da comunicação, e ela ficou sofisticada a esse ponto. Antes, contas de bots eram muito mais fáceis de detectar, mas agora o histórico das contas é construído de forma engenhosa e os posts são quase indistinguíveis dos de uma pessoa. Claro que nem toda manipulação é feita por bots ou IA; também há campanhas organizadas de propaganda, contas falsas e manipulação conduzidas por pessoas reais
    As pessoas inteligentes já foram embora para o próximo lugar, mas esse lugar também acabará não sendo autorizado a crescer o suficiente para ser grande ou relevante antes que a mangueira de incêndio da propaganda seja ligada. Para consertar isso, é preciso uma estrutura completamente diferente para a comunicação
  • Sou bem cético quanto à ideia de que a maior parte seja opinião manipulada. Contas de bots certamente existem, mas o pensamento de grupo do Reddit cria uma câmara de eco muito forte
    Qualquer pessoa logo aprende que, se escrever algo que não combine com as opiniões populares do Reddit, receberá downvotes rapidamente. Se tocar em pontos sensíveis, recebe mensagens privadas raivosas, ou alguém vasculha seu histórico de posts e puxa até comentários antigos para a discussão
    Fóruns grandes sempre foram assim. Eles são dominados por uma minoria de usuários que tem mais tempo para postar o dia inteiro. Às vezes recebo uma resposta especialmente raivosa no Reddit e, por curiosidade, clico no perfil; muitas vezes é alguém que passou as últimas 10 horas comentando sem parar. Não dá para competir com alguém que tem tempo livre infinito e raiva para despejar, e no fim essas pessoas se reforçam umas às outras e expulsam opiniões diferentes

• O domínio posthuman.blog foi registrado ontem mesmo, 12 de abril, data em que este texto foi escrito — https://www.whois.com/whois/posthuman.blog
  E lá há apenas dois posts, sendo que o primeiro aparece como se tivesse sido escrito em julho de 2022. Considerando tudo isso, fica uma suspeita razoável de que essa pessoa seja, na verdade, quem criou o próprio post do qual está reclamando

  • É irônico que esse comentário tenha vindo de uma conta com nome de usuário verde, o que indica que foi criada nos últimos dias
  • O blog existe desde 2022 em outro domínio. Como o arquivo mostra, na época ele era focado em economia. Agora os posts estão sendo migrados do host antigo
  • Talvez você também faça parte disso. Uma conta recém-criada no HN é meio suspeita, não? Seria uma denúncia falsa dupla?
  • A única jogada vencedora é não jogar. É preciso sair dos fóruns da internet e viver a vida no mundo real. Infelizmente, estamos todos presos aqui
  • Então fica ambíguo se é mais uma tentativa de vender lixo usando IA ou uma campanha manipulada de opinião pública contra IA
    A menina daquele anúncio da Old El Paso provavelmente teria algo a dizer

• O relatório de 2020 de Oxford sobre manipulação por atores estatais mostra que esse problema é extremamente amplo. 57 países usam contas de bots, e 79 países usam contas humanas de propaganda
  Eu diria que isso está entre os 5 problemas mais urgentes do nosso tempo. Odeio o fato de os governos informarem tão pouco o público sobre isso
  https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (comunicado à imprensa)
  https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (o relatório propriamente dito. Muito interessante; se você for ler apenas um relatório este mês, recomendo este. Ele se aprofunda em quais setores as tropas cibernéticas de cada país estão ligadas — Estado, influenciadores, partidos, ONGs etc. — e se usam humanos ou bots)
  Além disso: o controle governamental da mídia está aumentando no mundo todo
  https://digitalcontentnext.org/blog/2024/10/22/government-co...

  • Por volta de 2008, no meu primeiro emprego depois da faculdade, trabalhei em uma empresa que fazia esse tipo de gestão de reputação. Já era um mercado grande naquela época, e hoje quase tudo é fortemente controlado. Especialmente o Reddit
    Também odeio o novo feed do Facebook. Ele regurgita infinitamente lixo caça-cliques e indutor de raiva
    As melhores comunidades reais que conheço online são Heavyequipmentforums.com e newagtalk.com. Mas não é fácil encontrar fóruns de verdade assim pelo Google. O produto cuja qualidade provavelmente mais caiu com o tempo é a Busca do Google e, sinceramente, todos os problemas acima também podem ser atribuídos à queda na qualidade dos resultados do Google

• Depois do caso da API do Reddit, há 2 anos, a situação piorou muito rápido. Agora tudo está mais sem graça, há menos comentários perspicazes e mais comentários degradados e tóxicos
  A maioria das pessoas entra por hábito, mas em geral se sente pior depois de visitar. Antes não era assim
  Até comunidades como r/woodworking, que antes reuniam pessoas gentis, estão assim. Não sei como alguém pode ser marceneiro e, ao mesmo tempo, tão tóxico. Claro, de vez em quando havia alguém que tinha acertado o polegar com o martelo, mas isso era exceção

• Material relacionado: “Containment Control for a Social Network with State-Dependent Connectivity” (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
  Também conhecida como a “Most-Addicted City” do Reddit em 2013: https://web.archive.org/web/20160604042751/http://www.reddit...

  • Lembro de ter mergulhado na toca do coelho da teoria da internet morta no Reddit, e foi realmente horrível
    Há uma quantidade enorme de pessoas que recebem dinheiro de verdade para seguir roteiros de conversa e empurrar narrativas
  • É uma descoberta enorme. Mostrar o número de acessos de Eglin como se fosse um indicador positivo mostra bem o quanto as empresas de mídia social eram ignorantes sobre todo esse problema

• Às vezes me pergunto se um usuário que esquece que postou a mesma coisa um dia antes não seria, na verdade, um bot ;)
  https://news.ycombinator.com/item?id=43664383

  • Agora estamos entrando fundo em território existencial de Blade Runner
    O que é real… será que eu também sou só um bot?
    Meu Deus… eu era um bot
  • Já repostei um dia depois e fui parar na front page várias vezes. Não dá para saber como o timing vai funcionar. Esse tipo de comportamento também está de acordo com as diretrizes
  • Recentemente, na seção “new”, reposts e textos com origem lavada estão ficando cada vez mais comuns. Aqui também está afundando nessa direção
  • Algumas pessoas postam em fusos horários diferentes para capturar “o máximo possível” de atenção. Mas, neste caso, o post anterior foi 22 horas antes, praticamente no mesmo horário de ontem, e não 4/8/12/16/20 horas antes, então é bem possível que você esteja certo

• Se o Reddit chegou ao ponto de causar mais irritação do que diversão, basta aprender a desligá-lo. É preciso tratar o vício

  • A melhor forma de curar um vício é encontrar outro um pouco menos nocivo, como HN, Ars, Econo ou IEEE
  • Para mim, o Reddit já tinha chegado a esse ponto há alguns anos
  • Sim. Por vários motivos, evito o Reddit na maior parte do tempo. Às vezes substituí por este site e pelo Twitter
  • Quando vi, na crise da API, a comunidade sendo descaradamente ignorada, concluí que não precisava mais usar o Reddit
    Por um tempo usei só o Hacker News, e depois comecei a usar o TikTok. Não é ruim, mas é preciso tomar cuidado porque o feed às vezes tenta me empurrar conteúdo que apodrece o cérebro

• Humanos programam outros humanos desde o princípio, e, embora seja discutível, outras espécies também fazem isso[0]
  A ironia de o link de afiliado ser justamente para um livro sobre esse tema é excelente. LLMs são verdadeiras máquinas de memes, as melhores que já criamos até agora
  Qual é a diferença entre um bot e um humano que imita outros humanos como um papagaio?
  Agência + novidade é a nova versão do teste de Turing?
  [0] https://www.scientificamerican.com/article/bonobo-calls-are-...

  • Se fosse para chutar, este post parece ter maior probabilidade de ser uma reciclagem de um texto que funcionou bem no passado do que algo escrito por um LLM do zero
    O restante das postagens dessa conta também recicla posts antigos que deram certo antes. A explicação mais simples é que este também seja o caso
  • A ideia de que interações sociais — isto é, a capacidade de inferir que informação outro ser possui, empatizar com a perspectiva dele, prever suas reações e usar isso para manipular a próxima ação — podem ter sido um dos principais motores da explosão de inteligência em humanos, aves e outros animais inteligentes aparece com frequência
    O motivo de isso ser interessante é que, nas imaginações da era de ouro da ficção científica sobre máquinas inteligentes ao estilo de Asimov, normalmente se retratavam seres mecânicos extremamente lógicos, que calculavam e raciocinavam friamente. Mas o que de fato criamos foram geradores de texto nebulosos e dependentes de contexto, excelentes em produzir lixo manipulador. Talvez isso não seja acaso, mas reflita em alguma medida a direção geral da inteligência avançada

• A barreira de entrada é baixa demais, e o cardume é grande demais, então as pessoas vão pescar. É fácil demais ganhar dinheiro
  Por isso, na prática, não há solução aqui. O máximo é se afastar de lugares como o Reddit

  • Estou abandonando o Reddit e migrando para comunidades menores que também fazem eventos presenciais. Está difícil participar de comunidades anônimas. Qualquer um pode ser bot. Ironicamente, ainda uso o Hacker News
  • Sinceramente, é deprimente ver tanta gente colocando dinheiro acima da honestidade. Pessoas assim sempre existiram, mas a internet certamente amplificou sua presença