A Rússia está contaminando a Wikipedia
(bettedangerous.com)- O Atlantic Council considera que a Rússia expandiu, desenvolveu e adaptou operações de influência para espalhar conteúdo pró-Kremlin em verbetes da Wikipedia e em ferramentas populares de IA, além de tentar lavar conteúdo de veículos de imprensa sancionados para alinhar fontes de informação do mundo todo à narrativa do Kremlin
- A rede Pravda é um conjunto de portais de notícias fraudulentos voltados a mais de 80 países e regiões, funcionando como uma lavanderia de informação ao amplificar textos de veículos russos e de canais pró-Kremlin no Telegram para saturar o fluxo de notícias
- A VIGINUM analisou 193 sites entre setembro e dezembro de 2023 e concluiu que a rede não produz conteúdo próprio, mas retransmite em massa redes sociais russas e pró-russas, agências de notícias russas e sites oficiais locais, caracterizando interferência digital estrangeira
- O Institute for Strategic Dialogue aplicou uma abordagem de agrupamento semântico a 48 páginas sobre a Ucrânia ligadas ao verbete Russo-Ukrainian war da Wikipedia em inglês para detectar, em larga escala, manipulação coordenada e encoberta na plataforma
- Como o conteúdo da Wikipedia é frequentemente usado no treinamento de LLMs, a inserção de portais pró-russos como fontes aparentemente confiáveis pode expor usuários de chatbots de IA a mensagens pró-Kremlin, anti-Ucrânia e anti-Ocidente
Manipulação informacional pró-russa mirando Wikipedia e ferramentas de IA
- Segundo o Atlantic Council em Exposing Pravda: How pro-Kremlin forces are poisoning AI models and rewriting Wikipedia, a operação intensificou sua atividade em contextos como as eleições na Romênia e na Moldávia, e em discussões políticas entre Donald Trump e Volodymyr Zelenskyy
- O Atlantic Council vê a rede Pravda como um conjunto de portais de notícias fraudulentos voltados a mais de 80 países e regiões do mundo, e considera que a Rússia a iniciou em 2014
- O órgão francês de monitoramento de desinformação VIGINUM confirmou em um relatório de 2024 atividades maliciosas de uma empresa de TI baseada na Crimeia, e o Digital Forensic Research Lab (DFRLab) do Atlantic Council afirmou ter confirmado o envolvimento direto da Rússia nessa rede
Detecção de manipulação na Wikipedia e verbetes sobre a guerra Rússia-Ucrânia
- Identifying Sock Puppets on Wikipedia, do Institute for Strategic Dialogue, adota uma abordagem de “semantic clustering” para analisar o verbete Russo-Ukrainian war da Wikipedia em inglês e 48 páginas sobre a Ucrânia diretamente ligadas a ele
- Vários ambientes informacionais, como Twitter, Facebook, YouTube, Instagram, TikTok e sites independentes, têm sido alvo de atividades maliciosas, mas a Wikipedia continua sendo um espaço muito menos estudado do que as redes sociais tradicionais
- O objetivo da pesquisa é criar, testar e avaliar métodos para detectar, em larga escala, manipulação coordenada e encoberta na Wikipedia
- A estrutura colaborativa da Wikipedia tem a vantagem de influenciar o conhecimento público, mas também pode servir como superfície de ataque para manipulação organizada que altera o conteúdo dos verbetes e as fontes citadas
- A “manipulação organizada” em torno de verbetes da Wikipedia sobre a invasão russa da Ucrânia já foi tema de vários relatórios
Portal Kombat e interferência digital estrangeira
- A agência francesa de defesa VIGINUM analisou “portais de informação” que difundiam conteúdo pró-russo entre setembro e dezembro de 2023 e miravam vários países ocidentais, incluindo a França
- PORTAL KOMBAT: A structured and coordinated pro-Russian propaganda network, da VIGINUM, investigou inicialmente uma rede de 193 sites que cobria notícias da “região da Rússia e da Ucrânia”
- A linha editorial dessa rede mudou no dia seguinte à invasão russa da Ucrânia, passando a mirar os territórios ucranianos ocupados e os países ocidentais que apoiam a Ucrânia e seu povo
- Esses sites não produzem conteúdo próprio e retransmitem em massa, principalmente, três tipos de fontes
- Conteúdo de contas de redes sociais de atores russos ou pró-russos
- Conteúdo de agências de notícias russas
- Conteúdo de sites oficiais de instituições ou atores locais
- A VIGINUM considera que o principal objetivo da rede é abordar o conflito Rússia-Ucrânia de forma a apresentar de modo positivo a “operação militar especial” e difamar a Ucrânia e seus líderes
- A VIGINUM avalia que esse conteúdo é fortemente enviesado ideologicamente e repete de forma recorrente narrativas imprecisas ou enganosas
- A análise aponta que o pravda-fr[.]com, voltado à França, contribui diretamente para polarizar o debate público digital francófono
- A VIGINUM identificou indícios de que o pravda-fr[.]com foi inserido como fonte em um verbete da Wikipedia sobre a “geopolitical situation” no Mar Vermelho
- O verbete em francês da Wikipedia “Operation Guardian of Prosperity”, criado em 22 de dezembro de 2023, foi editado no dia seguinte pelo usuário “@ Lataupefr”
- Nessa edição, foram inseridos dois artigos do pravda-fr[.]com, cujas fontes eram os canais pró-russos no Telegram “@ BrainlessChanel” e “@ kompromatmedia”
- Histórico da edição: https://fr.wikipedia.org/w/index.php/…
- A VIGINUM considera que a seleção precisa de fontes pró-russas demonstra um esforço real de direcionamento para disseminar narrativas estratégicas
- A VIGINUM concluiu que a rede se enquadra em interferência digital estrangeira (foreign digital interference), considerando suas características técnicas, seus procedimentos operacionais e seus objetivos
Storm-1516 e a expansão da guerra informacional
- Segundo reportagem da Meduza, JD Vance e Marjorie Taylor Greene promoveram uma história falsa da rede russa de desinformação Storm-1516
- A Storm-1516 seria ligada à GRU e teria recrutado pessoas oriundas da Internet Research Agency, sediada em St. Petersburg, conhecida por atacar a percepção dos americanos para ajudar na eleição de Donald Trump em 2016
- A história promovida por Vance e Greene afirmava falsamente que ajuda militar à Ucrânia teria sido usada para comprar um iate
- Dez anos após a eleição presidencial dos EUA de 2016, o cenário evolui para uma expansão da guerra informacional com novas ferramentas sendo transformadas em armas
Modelos de IA e lavagem de conteúdo
- O Atlantic Council considera que a Rússia está contaminando ferramentas de IA e a Wikipedia ao tentar contornar sanções globais contra veículos de mídia russos
- Portais pró-russos funcionam se apresentando na Wikipedia como fontes autorizadas e como veículos de notícias confiáveis citados por grandes modelos de linguagem (LLMs)
- Nesse processo, as narrativas russas sobre a guerra na Ucrânia são reescritas e, quando LLMs são treinados com materiais como a Wikipedia, usuários de chatbots de IA podem ser expostos a mensagens pró-Kremlin, anti-Ucrânia e anti-Ocidente
- O Atlantic Council considera que, à medida que os chatbots de IA evoluem, o conteúdo manipulado pelo Kremlin pode ser adaptado para afetar a internet global, distorcendo a compreensão dos fatos e a capacidade de tomar decisões
- A operação levanta questões sobre a transparência no treinamento de modelos de IA e sobre o desafio de moderar conteúdo vindo de fontes de manipulação russas que têm dividido o apoio ocidental à Ucrânia
- O Atlantic Council define isso como uma operação russa de influência online enraizada na internet global
Fork russo da Wikipedia e manipulação do conhecimento
- Characterizing Knowledge Manipulation in a Russian Wikipedia Fork analisa um conjunto de dados com 1,9 milhão de verbetes da Wikipedia em russo e seu fork, tratando isso como um “esforço organizado para manipular o conhecimento”
- A Wikipedia é a maior enciclopédia do mundo e o nono site mais visitado globalmente, ocupando uma posição influente no ecossistema da web
- A Wikipedia é apresentada como um projeto que busca se tornar “a soma de todo o conhecimento humano” por meio do esforço de uma comunidade colaborativa
- O estudo considera que o conhecimento da Wikipedia tem grande impacto social e cita casos em que países autoritários como China e Turkey bloquearam a plataforma por completo
- A seção “Relevance” do estudo considera que as informações que cidadãos encontram online sobre a própria história nacional podem influenciar a identidade nacional e a opinião pública
- A Wikipedia foi avaliada como a sexta fonte de informação mais importante sobre história, acima de visitas a museus, aulas universitárias e redes sociais
- Portanto, a manipulação do conteúdo da Wikipedia pode ter grande impacto social, mesmo quando se origina em outras plataformas
- Como o conteúdo da Wikipedia é frequentemente usado no treinamento de LLMs, se versões manipuladas da Wikipedia forem usadas como dados de treinamento, podem surgir sistemas de IA que reforçam vieses específicos
Grokipedia e a pressão em torno da Wikipedia
- A Grokipedia, de Elon Musk, foi avaliada logo após o lançamento em reportagem do The Guardian como promotora de ideologias extremistas e propaganda russa
- Musk pediu o boicote à Wikipedia no ano anterior, chamando-a de “Wokepedia”
- O governo Trump teria ameaçado revogar o status de isenção fiscal da Wikipedia, organização sem fins lucrativos que completou 25 anos
- Com Wikipedia, dados de treinamento de IA, enciclopédias alternativas e pressão política se cruzando, ganham destaque tanto a confiabilidade quanto a possibilidade de manipulação das plataformas de conhecimento
1 comentários
Comentários do Hacker News
O link ao qual o texto queria se referir parece ser https://arxiv.org/abs/2504.10663
Dando uma olhada no artigo, os autores tentam distinguir entre artigos da Wikipedia em russo e os artigos do fork russo
Os artigos do fork que diferem da Wikipedia em russo tinham muito mais edições na Wikipedia em russo, e os autores veem isso como um possível sinal de manipulação, mas na seção de discussão dizem que não dá para concluir necessariamente que a qualidade piorou
É bem possível que haja atividade patrocinada por Estados na Wikipedia, mas isso ainda não me convence como prova clara de que a Rússia contaminou a Wikipedia com sucesso
Depois de se recuperar do choque, investigou a relação entre a Rússia e a Wikipedia e concluiu que o Estado russo vem explorando a estrutura de crowdsourcing da Wikipedia para distorcer sistematicamente o conhecimento público
Por exemplo, no artigo “Child abductions in the Russo-Ukrainian war”, a primeira frase repete como propaganda ucraniana o número de 20 mil crianças, mas o fato de que a lista realmente apresentada pela Ucrânia tem só 339 nomes fica escondido na seção “Russian reaction”
Acho que só 5% dos leitores vão ler além do resumo, e a maioria deles provavelmente vai pular uma seção que tem um artigo de “propaganda russa”. Tentar colocar esse fato no resumo provavelmente seria difícil
https://en.wikipedia.org/wiki/Child_abductions_in_the_Russo-...
https://en.wikipedia.org/wiki/Child_abductions_in_the_Russo-...
O problema especial da Rússia é que ela gasta dinheiro demais com esse tipo de coisa. Segundo o almirante Giuseppe Cavo Dragone, a Rússia gasta cerca de US$ 2 bilhões por ano em guerra cognitiva
Há uma longa lista de controvérsias: https://en.wikipedia.org/wiki/List_of_Wikipedia_controversie...
Se você olhar versões iniciais de artigos da Wikipedia sobre a história e informações de vários países, muitas delas dizem explicitamente que vieram do Departamento de Estado dos EUA ou de materiais históricos da CIA sobre aquele país
Enquanto eu editava o artigo sobre o massacre de civis cometido pelo Exército dos EUA em No Gun Ri, na Coreia, algum IP do CENTCOM ficava revertendo minhas edições
Eu tentava inserir fatos no meu tempo livre, enquanto os impostos que eu pagava no horário de trabalho eram usados por uma organização de propaganda militar dos EUA para apagar isso
Enquanto os EUA sequestram o presidente da Venezuela e sua esposa, bloqueiam Cuba e bombardeiam o Irã, alguém ainda difama a Rússia para que meus impostos sejam ainda mais usados em guerras sem fim ao redor de suas fronteiras, excelente
Especialmente agora que a Wikipedia é usada de forma bastante ampla no treinamento de grandes modelos de linguagem, não dá para tratar o impacto dessas edições com leviandade
Há 25 anos havia pouca coisa pública online que desse para reaproveitar, e para fatos básicos não controversos aquele compêndio provavelmente servia como referência online razoavelmente atual até surgirem outras fontes
Mas isso é uma questão bem diferente de um funcionário do CENTCOM alterar a descrição histórica de atrocidades do governo dos EUA
Ainda bem que o nosso governo jamais desceria a esse nível
https://web.archive.org/web/20240630174704/https://ru.wikipe...
Fizeram de conta que não se podia saber, apesar de haver até fotos, que McCain, Nuland e outros estiveram envolvidos na troca de regime em Kyiv em 2013
Basta imaginar o escândalo que haveria se autoridades do Ministério das Relações Exteriores da Rússia estivessem distribuindo comida para as pessoas que atacavam o Capitólio em 2021
https://web.archive.org/web/20240630174704/https://ru.wikipe...
Acho comum governos fazerem edições na Wikipedia como estratégia de relações públicas
Eu vejo com frequência a Wikipedia em inglês, polonês e russo, e aparecem muitos sinais de atuação estatal
Por exemplo, em temas ligados à Polônia, os artigos em russo costumam ter um tom negativo e muitas citações muito estranhas, como se figuras dos anos 1920 tivessem sido entrevistadas num bar. Na maioria dos casos são anedotas privadas ou algo muito próximo de invenções do autor
Independentemente dos temas poloneses, editores russos dominam a Wikipedia em russo e também exercem forte influência sobre artigos importantes de outros países russófonos, como Belarus, Ucrânia e países do leste pós-soviético
Além disso, artigos em inglês sobre a Comunidade Polaco-Lituana são ativamente retrabalhados por editores lituanos. Mesmo quando nobres poloneses não sabiam absolutamente nada de lituano e tinham nomes claramente eslavos, seus nomes são trocados para formas lituanas modernas só porque ocuparam cargos em territórios da atual Lituânia ou participaram de eventos que historiadores lituanos consideram “bons”
Essas coisas são irritantes, mas eu diria que é uma grande vitória quando um país consegue fazer isso. Conseguir moldar a opinião pública por meio de fontes “neutras” é um enorme sucesso de propaganda
A propaganda estatal é muito importante. Basta ver a Switzerland e o Japan com sua imagem “boa”, o fracasso horrível de propaganda de Israel nos últimos anos e o que os países árabes produtores de petróleo estão fazendo agora
É uma estratégia bem interessante, e a palavra “contaminação” parece se encaixar melhor no lado da inteligência artificial, que aprende dependendo da Wikipedia
Felizmente, parece difícil para eles realmente removerem informações consolidadas sobre o próprio sistema de governo. Essas informações estão ficando cada vez mais fáceis de entender, inclusive com ajuda oficial
O desespero interno só vai crescer, e não há canal de mudança democrática quando o conhecimento da explicação oficial se afasta cada vez mais da compreensão da real governança dos sujeitos federais
Claro que no Distrito Federal Central, ou até mesmo em Pecherskyi raion, provavelmente não vão perceber isso
A Rússia é, como sempre, um fardo para a humanidade
A Wikipedia é útil por causa das fontes citadas. Como as escolas não ensinam filosofia, as pessoas não têm uma noção real do que significa verdade