Como as elites podem moldar as preferências do público à medida que a IA reduz o custo de persuasão?

• As técnicas de persuasão baseadas em IA estão em avanço, o que reduziu drasticamente o custo de ajustar com precisão as preferências de política pública do público pelas elites
• O estudo analisa, por meio de um modelo dinâmico, como as elites reestruturam a distribuição de opiniões do público considerando a restrição da regra da maioria e os custos de persuasão
• Em um regime de elite única, quanto maior a eficácia da técnica de persuasão, maior é a tendência da sociedade de convergir para um estado de polarização extrema
• Em contrapartida, quando duas elites opostas se revezam no poder, a tecnologia de persuasão pode também induzir a sociedade a um estado de ‘semi-lock’, reduzindo a polarização
• Em consequência, se a IA reduz o custo de persuasão, a polarização deixa de ser um fenômeno espontâneo e passa a ser uma ferramenta de estratégia de governança, com implicações profundas para a estabilidade democrática

---

Mudança da tecnologia de persuasão na democracia

• Em democracias, é indispensável conquistar apoio popular para implementar políticas; assim, as elites precisam moldar ou alterar crenças do público para obtê-lo
  • No passado, dependeram de meios lentos e pouco eficientes como escolas, televisão pública, propaganda e redes de patrocínio
  • Essas abordagens tornavam difícil manipular a opinião pública em grande escala devido ao alto custo e à baixa precisão
• A expansão da IA mudou essa restrição de forma fundamental
  • Modelos generativos e sistemas de agentes permitem criar em massa, em tempo real, conteúdos de persuasão personalizados
  • Com a queda do custo de persuasão, a própria distribuição de preferências do público passa a ser uma variável de escolha da elite

Modelo dinâmico de elite única: ‘puxão de polarização’

• A elite única ajusta o apoio do público em cada período para implementar políticas sob a regra da maioria
  • Quando há custo de persuasão, é vantajoso para a elite manter a sociedade em um estado relativamente dividido para se proteger da incerteza futura
  • Quanto mais próxima a opinião pública estiver de 50:50, menor é o custo para converter apoio caso a direção da política mude no período seguinte
• Por isso, a elite tende a afastar a opinião da convergência, isto é, movê-la em direção à extrema
  • À medida que a tecnologia de persuasão avança, a taxa de convergência da polarização acelera
• A análise matemática mostra que a estratégia ótima para a elite é mover a opinião para perto do valor mediano (1/2), com ajustes apenas no sentido de se afastar do consenso

Modelo de competição entre duas elites: efeito ‘semi-lock’

• Quando duas elites com preferências de política opostas se revezam no poder, o efeito da tecnologia de persuasão muda
  • Ambas tentam manter a opinião pública perto do limiar de maioria, mas a polarização extrema aumenta o risco de perder para o adversário com facilidade
  • Por isso, cada elite busca deslocar a opinião para uma faixa intermediária de semi-trava, onde é difícil para o outro revertê-la
• Como resultado, a tecnologia de persuasão pode intensificar ou atenuar a polarização dependendo do contexto
  • Quanto mais acirrada a competição, maior a possibilidade de aumento da coesão social

Diferenças em relação à literatura existente

• A literatura existente trata a polarização como resultado de fatores exógenos como renda, identidade e estrutura midiática
• Esta pesquisa modela a polarização como um instrumento de política que as elites escolhem estrategicamente
• Além disso, conecta como o avanço da tecnologia de persuasão baseada em IA pode, no longo prazo, reconfigurar o equilíbrio político e a distribuição de opiniões
  • Referências relacionadas incluem experimentos de persuasão baseados em LLM (Salvi et al., Schoenegger et al., Tappin, entre outros) e os efeitos da IA na economia política (Korinek, 2024)

Implicações para a estabilidade democrática

• À medida que o custo de persuasão diminui, a polarização funciona como ferramenta de governança estratégica, não como fenômeno espontâneo
• Isso pode aumentar a instabilidade política e o risco de manipulação de informação
• Como o avanço da IA reposiciona a estrutura e os custos da persuasão política, surgem novos desafios para a sustentabilidade das instituições democráticas

[GN⁺]

Opinião no Hacker News

• Ao ler o ensaio de Converse, fico em dúvida se o público realmente tem opiniões próprias
  Por exemplo, no caso das tarifas, as pesquisas mostram algo como 38% de aprovação, mas olhando pelos interesses de cada setor, parece que seria bem menos
  Varejo, serviços e construção não ganham nada com tarifas, e a manufatura também é ambígua por causa da dependência de matérias-primas importadas
  No fim, quem apoia com força mesmo é só a indústria de aço e alumínio, que representa algo como 2% do PIB
  Curiosamente, esse livro foi publicado em 1964, tratando do período imediatamente anterior à explosão do descontentamento social, como a Guerra do Vietnã e o movimento de contracultura

  • Quem apoia tarifas não está agindo por mera emoção, mas fazendo um julgamento racional em favor da reindustrialização e do fortalecimento da segurança nacional
    Vejo isso como resultado de uma análise de custo-benefício para reduzir a dependência externa e aumentar empregos
  • O problema não é dar voz ao público, mas não escolher pessoas instruídas
    As pessoas acham que sabem muito e acreditam que suas opiniões devem receber o mesmo peso nas decisões de políticas públicas
    Nas sociedades ocidentais, cresceu uma cultura de não desafiar nem cobrar responsabilidade pelas opiniões dos outros, o que agrava esse fenômeno

• O artigo não é uma discussão específica sobre IA
  O ponto central é a estrutura de custos da persuasão, e a IA é citada apenas como ferramenta para produzir propaganda de forma barata
  A mesma lógica também se aplica a anúncios segmentados no Facebook ou a fazendas de trolls russas

  • As pessoas tendem a confiar mais em resultados de LLM do que em outras mídias
    Como a IA fala com confiança, isso transmite uma sensação de autoridade
    O verdadeiro problema é a influência dos ultrarricos que controlam esse tipo de mensagem
  • A IA pode reforçar a pressão por conformidade (enforced conformity) muito mais rápido do que os meios existentes
    Organizei algumas ideias sobre isso neste post de blog
  • A IA aproveita mecanismos já existentes de forma mais poderosa
    Trolls russos podem produzir 10 vezes mais conteúdo com automação, enquanto movimentos espontâneos de oposição não conseguem escalar no mesmo ritmo
  • Reduzir o custo da persuasão pela metade é uma mudança quantitativa, mas torná-lo 100 vezes menor provoca uma mudança qualitativa
  • A promessa da IA é baratear tarefas que antes exigiam trabalho humano
    Isso amplia muitas coisas boas, mas o problema é que coisas ruins também passam a ser baratas de fazer

• A manipulação da opinião pública pelas elites já existe desde a era dos jornais e da radiodifusão
  O mesmo vale para livros didáticos e currículos educacionais
  Na verdade, LLMs talvez sejam mais resistentes à propaganda, perdendo só para enciclopédias
  Como existe competição comercial, se um modelo específico ficar enviesado, os usuários vão perceber rapidamente e abandoná-lo
  A própria ideia de “jornalismo objetivo” na verdade surgiu como uma estratégia comercial para conquistar confiança

• Tornar-se um “pensador livre” muitas vezes equivale a virar um “esquisito”
  A multidão pode estar errada, mas pensar diferente sozinho tem um custo social alto
  Por exemplo, eu acho mais confortável usar só o colchão, sem cama, mas a maioria considera isso estranho

  • Isso me faz lembrar da frase: “se todos os seus pensamentos coincidem com a linha de um determinado partido, talvez você não esteja pensando por conta própria”
  • Viver de forma livre já é uma recompensa em si
    No fim das contas, nascemos sozinhos e morremos sozinhos, e o reconhecimento dos outros é passageiro
  • Usar só o colchão traz o problema do frio e da umidade do chão
    Sem ventilação, pode surgir mofo, e isso também é inconveniente para idosos ou pessoas fisicamente fragilizadas
    Um produto projetado para o chão, como um futon, é mais adequado

• Os grandes modelos de IA já estão sendo ajustados (fine-tuning) para temas sensíveis
  Eles são alinhados à direção acordada entre as equipes jurídica, de marketing e de governança das empresas, e milhões de pessoas usam esse resultado como está

  • Antes, os mecanismos de busca filtravam a informação, mas o fine-tuning de modelos é muito mais difícil e opaco

• Eu usei IA e consegui recuperar 200 dólares do banco
  A IA redigiu um pedido formal com base em um PDF do banco
  Quando bancos começarem a tratar esse tipo de solicitação com IA, vamos entrar numa era em que IA estará persuadindo IA
  Precisamos de um novo benchmark de LLM: AI-persuasion™

• A manipulação de influência baseada em machine learning já existe há 10 anos
  Mineração de dados e segmentação publicitária são tecnologias maduras
  O preocupante não é a persuasão improvisada, mas a influência estrutural que molda crenças desde a infância
  A “geração do iPad” parece um exemplo assustador disso

  • Perguntas como “Grok/Alexa, isso é verdade?” passam a funcionar como autoridade
    As pessoas tendem a aceitar como verdade a primeira informação que ouvem, e depois reagem emocionalmente quando ela é contestada
    “Fatos” inculcados na infância são difíceis de mudar mais tarde, e sistemas automatizados podem fazer isso em larga escala
    Isso é perigoso porque o custo da manipulação converge praticamente para zero

• Não temos salvaguardas contra uma sociedade de vigilância privada
  O que realmente precisa ser resolvido são problemas cotidianos como educação, moradia, alimentação e custo de vida

  • Mas esse período foi uma curta exceção entre o pós-Segunda Guerra e antes da globalização
    Durante a maior parte da história humana, predominou uma estrutura quase feudal em que uma pequena elite monopoliza riqueza e poder
    A desigualdade atual é o resultado pretendido do sistema, e tende a piorar no futuro
  • Ainda assim, a humanidade avançou em muitos aspectos
    Alfabetização, acesso à educação e estado nutricional estão muito melhores do que em 1925
    Mas moradia e custo de vida pioraram novamente nos últimos 20 anos
  • A solução é simples: desligar os aparelhos e preservar a capacidade de aprender por conta própria

• Graças a redes sociais e IA, o custo da “Grande Mentira (Big Lie)” caiu drasticamente
  Por isso, governos podem espalhar com facilidade mensagens como a de enfatizar queda de preços

  • “O custo caiu” talvez também signifique uma democratização da propaganda?
  • Mas, na prática, ter muito dinheiro não significa que seja possível manipular a mídia como a CBS
    A verdadeira “Big Lie” se viabiliza por meio da infiltração de poucos insiders, e a CIA já demonstrou a eficiência disso

• Há quase um século, 1984 de George Orwell já previa esse cenário
  Ele descreve o pesadelo do controle da informação, com registros sendo alterados em tempo real e o passado sendo apagado
  Ver original

  • Agora é hora de levar esses alertas a sério também nas comunidades centradas em IA