- Durante a eleição presidencial dos EUA de 2020, em uma amostra de eleitores americanos no X (antigo Twitter), cerca de 2 mil supersharers disseminaram 80% do conteúdo de sites de fake news, mostrando que a propagação de desinformação ficou concentrada em um número ínfimo de contas
- Esse grupo tinha média de 58 anos, 17 anos acima da média da amostra; quase 60% eram mulheres; e a filiação partidária registrada era de 64% republicanos e 16% democratas
- Os pesquisadores esperavam automação por causa do alto volume de atividade, mas não encontraram padrões de bots nos horários e intervalos dos tweets, e o comportamento se parecia mais com usuários reais fazendo retweets manualmente
- Estima-se que, se essas contas tivessem sido suspensas em agosto de 2020, o volume de notícias eleitorais falsas visto pelos eleitores teria caído em dois terços; já um limite de 50 retweets por dia afetaria cerca de 90% dos supersharers, enquanto atingiria apenas 1% dos usuários em geral
- Limites de retweet ou etapas de reconfirmação podem reduzir a disseminação sem prejudicar muito a experiência da maioria dos usuários, mas a eficácia real depende de entender por que essas pessoas continuam compartilhando esse conteúdo
Disseminação concentrada revelada nos dados da eleição de 2020
- Segundo uma análise publicada na Science, a disseminação de conteúdo de sites de fake news em uma amostra de mais de 600 mil eleitores americanos no X (antigo Twitter) estava fortemente concentrada em poucos usuários
- Se conteúdo sobre a eleição presidencial dos EUA de 2020 vindo de sites como Infowars e Gatewaypundit apareceu em feeds sociais, é muito provável que tenha se originado em um grupo muito pequeno de usuários
- Os pesquisadores usaram dados de 660 mil usuários americanos do X que utilizavam nome real e localização, fazendo correspondência com dados de registro eleitoral
- Das notícias políticas compartilhadas por esses usuários por dia, cerca de 7% vinham de sites não confiáveis como Infowars e Gatewaypundit
- Desses, 2.107 usuários foram responsáveis por 80% da disseminação de fake news, e mais de 1 em cada 20 usuários do conjunto de dados seguia pelo menos um supersharer, mostrando o grande alcance desse pequeno grupo
Características dos supersharers e possíveis respostas
- A idade média dos supersharers era de 58 anos, 17 anos acima da média geral do estudo, e quase 60% eram mulheres, o que contraria o estereótipo de que manipuladores de redes sociais seriam jovens homens alt-right
- A filiação partidária registrada apareceu como 64% republicanos e 16% democratas
- Apesar do alto volume de atividade, não foram identificados padrões nos horários ou intervalos dos tweets que indicassem automação, e a coautora Briony Swire-Thompson explicou que essas pessoas parecem realmente estar diante do computador apertando o botão de retweet
- Para Nir Grinberg, o supersharing se parece menos com uma intervenção eleitoral pontual de indivíduos tecnicamente habilidosos e mais com um processo sociotécnico de longo prazo que polui o ecossistema de informação de parte da sociedade
- Pesquisas anteriores também mostraram concentração semelhante
- Em 2019, Nir Grinberg e colegas analisaram uma amostra de mais de 16 mil usuários do Twitter antes e depois da eleição presidencial dos EUA de 2016 e concluíram que 80% das notícias de sites não confiáveis tuitadas vieram de apenas 16 pessoas
- As respostas podem ser desenhadas para mirar diretamente os supersharers ou restringir o processo de retweet
- Se os supersharers tivessem sido suspensos em agosto de 2020, estima-se que o volume de notícias eleitorais falsas visto pelos eleitores teria caído em dois terços
- Um teto de 50 retweets por dia afetaria cerca de 90% dos fake news supersharers no estudo
- Com a mesma limitação, apenas cerca de 1% dos usuários em geral atingiria o limite
- Stephan Lewandowsky avalia que, em vez de um limite absoluto, o X poderia tornar o processo um pouco mais trabalhoso, por exemplo perguntando ao usuário se ele realmente quer fazer o retweet
- A questão que permanece deixa de ser o que os supersharers fazem e passa a ser por que fazem isso
1 comentários
Comentários do Hacker News
A pergunta certa não é “como impedir o compartilhamento de notícias falsas?”, e sim “como fazer com que as pessoas tenham ferramentas para identificar notícias falsas?”
Se você deu as ferramentas e, mesmo assim, alguém espalha algo que eu considero notícia falsa, então você já fez tudo o que podia. Gente demais fica indignada com os outros compartilharem coisas diferentes das suas e quer reprimir a comunicação. Mas isso só significa que essas ideias perderam na persuasão, e as pessoas têm liberdade para pensar e compartilhar ideias que me irritam. Se você pegar a arma da censura, a última pessoa a brandi-la não será você
Notícia falsa costuma estar mais próxima de amplificar boatos falsos ou alegações indemonstráveis e sem fundamento, e isso destrói profundamente o debate público. Mesmo que seja uma opinião contrária, se for apresentada e sustentada com fatos verificáveis, eu leio com prazer
Quantidade não é fato nem verdade. Censura realmente é perigosa, mas este texto não está defendendo censura. Como naquela frase do Mark Twain, “uma mentira dá a volta ao mundo enquanto a verdade ainda está calçando as botas”, as redes sociais jogam combustível de foguete nesse efeito. Se algum grupo amplifica mentiras de forma consistente e desproporcional, é razoável introduzir um pouco de atrito ou priorizar melhor o que vai ser repostado. Isso não impede a publicação de mentiras; só faz a pessoa escolher o que ela própria considera mais importante.
No Hacker News também aparece uma mensagem tipo “Please slow down, you're posting too fast.” se você posta demais, e aí não pode postar de novo por algumas horas. Nunca vi ninguém chorar “censura!!” por causa disso, e pouca gente diria que a discussão no Twitter é melhor que no HN. Então, se alguém quer chamar de “censura” uma proposta de limite de volume de postagens em outras redes sociais, precisa explicar por quê, inclusive considerando que não há nenhuma restrição a conteúdo específico
O que você quer, na verdade, é que as pessoas sejam bloqueadas pela notícia falsa do inimigo — ou até pela verdade, se foi o inimigo que falou. Assim, as pessoas acreditam em tudo que eu digo e o inimigo não consegue ter influência
Lá por 1990, quando o e-mail da internet começou a ser disponibilizado para funcionários não técnicos em organizações tecnicamente avançadas, um grupo muito pequeno de pessoas apresentava algo como um comportamento de distúrbio recreativo de compartilhamento
Não importava se era piada de loira, “por favor, rezem todos pela Katie com câncer” ou “encaminhe isso 1.000 vezes e a paz mundial virá”. Não havia filtro de credibilidade, nem filtro de respeito pelo tempo e pelos interesses dos outros. À medida que o número de usuários conectados crescia, uma fração minúscula de casos assim já gerava tráfego suficiente para prejudicar serviços de e-mail no nível de modems discados ou linhas parciais T-1. Matematicamente era interessante e, com alguns lembretes ocasionais dos administradores, era razoavelmente controlável no trabalho. Hoje isso ficou muito mais tóxico com a camada de política e emoção, mas vale lembrar que a base continua sendo, em grande parte, uma rede muito grande e uma distribuição em forma de sino do comportamento humano
Parece que seria fácil, se as plataformas quisessem, criar configurações de usuário para filtrar política, conteúdo que provoca raiva etc. Por exemplo, o Reddit coloca na minha home links para vídeos de brutalidade policial mesmo que eu não participe daquela subcomunidade. Parece um padrão ruim, parecido com colocar barras de chocolate no caixa para me fazer lutar de propósito contra meu autocontrole
Eu trabalhava numa empresa pequena a algumas horas de carro de Nova York, subsidiária de uma empresa grande cuja sede ficava mais a oeste. Alguém da organização administrativa da matriz encaminhou fotos em altíssima resolução do evento do dia anterior, mas usou um endereço de e-mail de grupo que incluía todas as organizações sob aquela estrutura administrativa, então é possível que 10 mil a 20 mil pessoas tenham recebido as imagens. Depois de umas três mensagens, parou — ou foi interrompido. Para o bem ou para o mal, as pessoas com tendência a RSD parecem ter migrado para o Facebook
https://www.youtube.com/watch?v=KCSA7kKNu2Y
É um fato bem conhecido que grupos pequenos e concentrados podem ter grande impacto na sociedade, e ideias progressistas que no início eram marginais, como os direitos LGBT, também avançaram assim
O problema das notícias falsas é que parte delas acaba se revelando verdadeira, o que reduz a confiança nas pessoas que se opuseram a elas, leva à desconfiança em relação aos “árbitros da verdade” e dá ainda mais credibilidade aos supercompartilhadores. Vira algo como: “se a imprensa oficial mentiu naquele caso, por que essa pessoa também não poderia estar certa?”. Agora até pessoas respeitadas como Jeffrey Sachs, que passaram a vida inteira nos círculos de poder, levantam dúvidas sobre várias narrativas oficiais. Isso enfraquece ainda mais o sinal de “verdade” e aumenta a confusão. A IA também parece prestes a piorar a situação
Basta lembrar de quando só de mencionar a hipótese de vazamento de laboratório a pessoa já era estigmatizada. No fim, a grande mídia também mudou de posição, mas nesse processo prejudicou muito a própria credibilidade. Muita gente também cresceu vendo a narrativa de que o Iraque tinha armas de destruição em massa ser exposta diretamente como falsa. Agora não acreditam em mais nada. Ainda bem que, se você tem uma mentalidade científica, pode fazer seu próprio julgamento e ter alguma confiança de que não está maluco, mas o problema central parece ser que isso não funciona bem para a maioria das pessoas
Em qualquer organização, uma minoria bem organizada exerce poder sobre a maioria desorganizada ou sobre o restante das pessoas. É assim que surgem coisas como regulações municipais absurdas. Um grupo pequeno, mas bem organizado, cria pressão, enquanto a oposição está dispersa e indiferente. Desde que esse grupo minoritário não seja pequeno demais, justamente por ser menor ele consegue organizar com mais facilidade um entorno maior de simpatizantes ou idiotas úteis. Marchando juntos numa tarde de sábado, ideias marginais passam a parecer opinião majoritária, e até quem não se importava acaba pensando “é, tanto faz”
Pessoalmente, prefiro redes sociais que simplesmente não tenham a função de “retweet”
Quero ver as atualizações originais reais das pessoas que sigo, e não notícias, notícias falsas ou correntes
A maioria das contas que sigo eu descobri porque alguém que eu já seguia retuitou ou, no Mastodon, impulsionou
Então não sei se seria possível impedir isso completamente
O problema é que as pessoas acreditam sem senso crítico em fontes originais do tipo “Ouvi dizer que X está acontecendo!”, sem evidência real
Se voltarmos muito no tempo, dá para imaginar estranhos se encontrando na natureza e desconfiando uns dos outros
Para decidir se alguém era uma ameaça ou um amigo em potencial, era preciso construir confiança. De onde a pessoa vinha, quem ela conhecia, se havia conhecidos em comum, se estava mentindo — esse tipo de coisa. As primeiras redes de confiança se baseavam em conhecimento pessoal sobre outras pessoas. Acho que uma teia de confiança parecida precisa ressurgir. Uma estrutura em que você avaliza alguém e, se essa pessoa estraga tudo, quem a avalizou também é afetado. Pense em como o grafo de relações pode ruir se você deixar um lobo entrar no círculo de confiança
Se, quando um círculo de confiança é corrompido, for possível cortá-lo por inteiro, talvez possamos recuperar uma web mais autêntica. Se eu vir publicidade lixo ou spam de blog, passo a não ver mais o conteúdo do círculo que hospedou aquilo, como uma punição. Pequenos círculos se conectam a outros círculos, e no primeiro círculo há pessoas que eu realmente conheço. Uma espécie de novo webring. Se a minha única porta de entrada para a internet forem o meu anel e os anéis relacionados, isso pode criar uma câmara de eco, mas também dá a capacidade de remover agentes maliciosos do círculo imediato. Se aparecer propaganda de fake news, o anel e todos os seus membros recebem uma punição até que o lobo seja removido
Se usarem uniforme então, bônus: todo mundo vai confiar. Saber em quem confiar nunca foi exatamente um ponto forte dos seres humanos
Posso confiar em alguém em um assunto e revirar os olhos em outro. Essa confiança muda, e na prática muda com frequência. Às vezes porque a outra pessoa mudou, às vezes porque eu mudei. Pelo menos para mim, isso se parece mais com inúmeros vínculos de profundidade 1 piscando ligados a um único nó
Acho que a maioria das pessoas pensa de forma parecida, mesmo sem perceber claramente. Existe uma democracia em que todo mundo aparentemente vota no candidato que quer ver vencendo, mas a aprovação do Congresso cai para perto de um dígito. [1] Isso só é possível porque as pessoas ficam extremamente insatisfeitas mesmo quando o seu lado e o seu partido controlam tudo; se não fosse assim, pelo menos se manteria perto de 50%
[1] - https://news.gallup.com/poll/1600/congress-public.aspx
O indivíduo já não existe mais. Todo mundo é moldado principalmente pela mídia de massa e pela educação de massa em escolas. Os poucos indivíduos que existem podem exercer influência excessiva, como os supercompartilhadores
O termo “fake news” é amplo demais e mistura posicionamento ideológico, exagero linguístico e um realismo ingênuo e dogmático, a ponto de praticamente merecer ser banido
Parece ter o objetivo de fazer as pessoas serem mais críticas com o que leem e compartilham, mas na prática funciona ao contrário. Só rotula fontes como ruins ou boas, o que é muito próximo de propaganda. Há uma necessidade urgente de uma classificação muito mais sutil do que essa dicotomia entre fake news/notícia boa
Não é nada surpreendente que toda disseminação de informação siga uma lei de potência. Se tivessem comparado categorias de informação como política, conteúdo que provoca raiva, discussões técnicas e notícias neutras e entediantes, teriam algo interessante a dizer. Mas aqui o foco fica quase todo em uma categoria estreita de desinformação baseada em juízo de valor. Seria muito mais interessante saber como certos tipos de informação diferem em suas propriedades topológicas
Nos últimos anos, experimentei promover vários tweets pagos e sempre notei uma certa proporção de usuários que parecem retuitar quase tudo no feed
Meu conteúdo é de nicho, então normalmente tem pouquíssimos leitores; por isso, quando olho quem interagiu com meus tweets, essas contas de retweet cego chamam muito a atenção. O comportamento que observei bate com o conteúdo do texto. O momento das rajadas de retweets pode sugerir muito bem uma pessoa real apertando o botão, e suspeito que de fato seja isso. Se você olhar, na longa cauda, fake news absurdas com pouquíssimos leitores por tweet individual, também não seria surpresa que a maior parte dos retweets dessas falsidades óbvias venha dessas contas de retweet cego
O efeito geral é só uma pequena amplificação da bolha à qual esses usuários pertencem, inclusive até o absurdo, mas sou cético quanto ao papel disso em fazer algo realmente se tornar popular. O problema real é mais sutil. É maior no caso de fake news menos óbvias, que enganam até pessoas que não clicam cegamente; fake news menos óbvias que muita gente acha plausíveis e que por isso ganham grande audiência; e enganações que permanecem no inconsciente coletivo mesmo depois de perderem força por causa de refutações ou checagens de fatos. Acho que o efeito de superespalhadores repetindo completo absurdo é pequeno perto do efeito de absurdo quase plausível que realmente vira mainstream
Ela diz que, em redes sociais ou sites de avaliação, só 1% dos usuários cria conteúdo ativamente, 9% participam comentando, avaliando ou compartilhando, e os 90% restantes apenas veem e leem sem reagir. Isso bate com a minha experiência, e no HN a maioria também é de leitores silenciosos. Acho que, ao apenas ficar na espreita, a chance de consumir algo sem pensar muito é bem maior. Como diz o ditado de que, para realmente conhecer algo, você deve tentar ensiná-lo, no mínimo é preciso conseguir explicá-lo — e isso não acontece na passividade. Acontece na conversa
Vivemos em um mundo reducionista, e isso não vai mudar. Como outra pessoa disse corretamente, a saída é apenas ter ferramentas melhores
Agora já não conseguimos distinguir pessoas falsas de pessoas reais, e julgar com precisão a qualidade da informação é mais difícil ainda. Este é o lamaçal criado por uma internet baseada em publicidade; foi até aqui que chegamos, e não há saída à vista
Já trabalhei muito com organizações em crise ou caminhando para o fim. Chega um momento em que todos sabem que é o ato final, mas continuam marchando assim mesmo. O comportamento das pessoas passa a ser como o de uma aldeia Potemkin. Foi assim no fim da União Soviética
Acho que as ferramentas de que vamos precisar daqui para frente quase não têm relação com programação. Precisamos de pequenos grupos de confiança formados por pessoas reais, compartilhamento gradual, interesses e grupos sobrepostos, e dispositivos que façam apenas uma coisa de cada vez. Então eu e meu grupo social precisamos conseguir monitorar e otimizar o uso. Sabemos que essas coisas funcionam para os humanos, e fazemos isso há milhares de anos. Talvez isso não seja popular no HN, mas essas são as ferramentas necessárias para avançarmos como espécie. A tecnologia certamente pode ajudar, mas nem chega perto de substituir a experiência social e evolutiva compartilhada que está gravada em nós
No longo prazo, sou otimista quanto à tecnologia e ao progresso, mas, como sempre acontece com grandes mudanças nas ferramentas, é preciso limpar a besteirada e readaptar as normas sociais. Já fizemos isso muitas vezes, e espero que façamos de novo
A solução de que “uma simples limitação de retuítes reduziria a disseminação dessa informação, quase sem afetar a maioria dos usuários” é boa
Acho que foi na Índia, por exemplo, que o WhatsApp limitou o número de usuários para os quais se podia compartilhar de uma vez quando a plataforma passou a ser usada para incitar violência étnica. Colocar um freio nessa viralidade em cadeia só pode ajudar qualquer rede de comunicação a manter a sanidade
A combinação de contas individuais transmitindo na velocidade de grandes emissoras de telejornal, sem qualquer verificação, nunca poderia produzir algo próximo da verdade. A premissa de que um grupo produz a verdade está no efeito da sabedoria das multidões quando elas são representativas. É um estado profundamente patológico quando 0,1% dos usuários, altamente correlacionados, sacodem toda a discussão
O maior problema é que limitar usuários virais entra em choque direto com os incentivos de negócio das plataformas de mídia social com fins lucrativos, e especialmente no Twitter isso parece improvável de acontecer
Não há como eliminar as “fake news”
E provavelmente nem seria desejável eliminá-las. Em muitos casos, o que as pessoas chamam de fake news é notícia com a qual discordam. O ponto central é educar as pessoas para pensar por si mesmas e questionar tudo
Não existe solução, e a educação certamente é um passo adiante, mas o problema é muito mais complexo
Não sei com que frequência as pessoas veem fake news como opinião contrária, mas o termo é definido como significando desinformação. https://en.wikipedia.org/wiki/Fake_news
É uma tática bastante comum que pessoas que espalham desinformação de fato digam que sua posição não é mentira, mas uma opinião contrária, e que elas são o lado fraco sendo excluído por causa dessa opinião
Fazer as pessoas duvidarem de tudo também é parte do que elas querem. O objetivo da desinformação é a desconfiança, e questionar tudo é difícil demais. Basta ver a lei de Brandolini. Não sei qual é a solução, mas eu também sou uma pessoa instruída e conheço pessoalmente gente que caiu na toca do coelho da desinformação. Desconfiança e teorias da conspiração, uma vez instaladas, destroem a capacidade de avaliar fontes confiáveis e científicas. Não se deve presumir que a educação seja a chave. Fake news são muito, muito eficazes, e é por isso que as pessoas as fazem