Meta em Mianmar
(erinkissane.com)- Em meio à abertura da internet em Mianmar no início dos anos 2010 e à explosão da adoção de celulares, o Facebook se tornou para muitos usuários a internet de fato, e o principal investigador da missão internacional independente de apuração de fatos da ONU para Mianmar avaliaria mais tarde que o Facebook teve um “papel determinante” na crise rohingya
- O preço dos cartões SIM caiu de cerca de US$ 2.000 em 2009 para US$ 1,50 em 2014, e a penetração móvel disparou de menos de 0,25% da população em 2011 para mais de 90% em 2017, criando a base para a disseminação do Facebook
- Entre 2011 e 2014, conteúdos que negavam a existência dos rohingya, os desumanizavam e incitavam violência se espalharam no Facebook, e durante a violência no estado de Rakhine em 2012 e os motins de Mandalay em 2014, rumores, alegações falsas e discurso de ódio se combinaram com a violência offline
- A sociedade civil de Mianmar, especialistas em direitos humanos e jornalistas alertaram repetidamente a Meta de 2012 a 2015, mas esses alertas não chegaram a equipes com poder real de resposta, e no fim de 2015 havia apenas 4 moderadores em birmanês
- A Meta recebeu repetidas vezes exemplos concretos de que o Facebook agravava os conflitos étnicos em Mianmar, mas sem adotar medidas estruturais como ampliar a moderação em larga escala, banir permanentemente os piores agentes ou conter a disseminação de incitação à violência, passou em 2016 para a etapa de atrair mais usuários de Mianmar ao Facebook
A abertura da internet e a ascensão meteórica do Facebook
- Em 2011, um governo mais democrático assumiu em Mianmar, e as restrições à internet e à expressão foram gradualmente afrouxadas
- Para pessoas que saíam de um longo período de controle militar, a abertura da internet trouxe grande expectativa, e ONGs locais de inclusão digital e ativistas de tecnologia também receberam positivamente o novo ambiente online
- O acesso móvel mudou drasticamente em poucos anos
- O preço dos cartões SIM caiu de cerca de US$ 2.000 em 2009 para US$ 250 em 2012 e US$ 1,50 em 2014
- A penetração móvel aumentou de menos de 0,25% da população em 2011 para mais de 90% em 2017
- O uso de smartphones e da internet também disparou com a revolução móvel
- No trabalho etnográfico sobre internet rural de Craig Mod em 2015, aparecem condições em que pessoas carregavam smartphones com baterias de carro por falta de eletricidade e usavam dados raspando cartões pré-pagos de recarga
- Nessas condições, o Facebook virou a plataforma que reunia notícias, atualizações políticas, busca por interesses e conversas com amigos e desconhecidos, e um dono de loja de celulares disse: “Facebook is the Internet”
Como o Facebook virou a ‘internet’
- O Facebook oferecia um app simplificado que consumia menos dados do que serviços concorrentes, e a Telenor da Noruega, uma operadora forte entre as teles estrangeiras que entraram em Mianmar, fazia zero-rating do Facebook
- Zero-rating é a prática de isentar um serviço específico da cobrança de dados, e clientes da Telenor podiam usar o Facebook de graça
- A denunciante da Meta Frances Haugen disse em uma entrevista de 2021 que o Facebook subsidiou o uso da própria plataforma em vários idiomas e “comprou o privilégio de virar a internet”, com o resultado de que, em muitas línguas, 80% a 90% do conteúdo passou a existir no Facebook
- Organizações da sociedade civil de Mianmar viam que a conectividade acelerada trazia não só liberdade, mas também riscos
- Muitos usuários passaram a acessar a rede sem aprender gradualmente a usar a internet, com a percepção de que “se está na internet, é verdade”
- A situação política de Mianmar já era instável, e os militares Tatmadaw travavam uma longa guerra civil com vários grupos armados de minorias étnicas
- A tomada de decisão da Meta sobre Mianmar não foi ajustada a essas duas condições
A base de ódio que já existia antes de 2012
- Em janeiro de 2012, uma grande anistia libertou duas figuras que depois teriam papéis opostos
- Nay Phone Latt era um blogueiro pioneiro e ativista de direitos digitais que havia sido preso por bloguear sobre a Saffron Revolution de 2007; depois, cofundou a MIDO para ajudar cidadãos a obter benefícios da nova internet e responder a campanhas de ódio online
- Ashin Wirathu era um monge budista preso em 2003 por sermões que incitavam violência contra a comunidade muçulmana de Mianmar; depois, digitalizou um movimento budista nacionalista radical e teve papel importante na disseminação da violência antimuçulmana
- No primeiro Internet Freedom Forum de Mianmar em 2013, discutiram-se liberdade na internet e privacidade, mas ao mesmo tempo foi identificado o aumento do discurso de ódio contra os rohingya no Facebook
- A cofundadora da MIDO Htaike Htaike Aung avaliava que, ao contrário de países onde as pessoas aprenderam a usar a internet de forma gradual, os birmaneses entraram de repente no ambiente online e, por causa da atitude de que “se está na internet, é verdade”, eram vulneráveis à propaganda e a agendas enganosas
- Já em 2011, a página do BBC Burmese no Facebook recebeu uma enxurrada de comentários violentos por identificar os rohingya como um grupo étnico de Mianmar, incluindo expressões sobre expulsão, assassinato e incêndio criminoso
- Em 2014, Nay Phone Latt alertou que o discurso de ódio estava envenenando a mente das pessoas e poderia explodir quando chegasse a hora
Os rohingya e a existência negada
- A Médecins Sans Frontières descreve os rohingya como um grupo étnico apátrida, majoritariamente muçulmano, que vive há séculos principalmente no norte do estado de Rakhine, em Mianmar, um país de maioria budista
- As autoridades de Mianmar negam isso e afirmam que os rohingya seriam imigrantes bengalis que chegaram no século 20
- Em 2013, a ONU descreveu os rohingya como uma das minorias mais perseguidas do mundo, e a lei de Mianmar não lhes reconhece cidadania
- Vários governos de Mianmar não reconheceram sequer a existência dos rohingya, chamando-os de imigrantes ilegais “Bengali”
- Nesse contexto, os rohingya existem de fato e viveram por muito tempo sob fortes restrições, enquanto o mainstream político budista de Mianmar demonstrava interesse explícito em pureza racial e segurança
A violência de 2012 no estado de Rakhine e a incitação online
- Em 28 de maio de 2012, Ma Thida Htwe, uma mulher budista de Rakhine, foi assassinada no estado de Rakhine, e no dia seguinte um jornal noticiou que ela havia sido estuprada e assassinada por “kalars”
- A missão de apuração de fatos da ONU para Mianmar considerou que o assassinato era claro, mas a alegação de estupro e a origem étnica dos suspeitos permaneciam duvidosas, e que nos dias e semanas seguintes a acusação de estupro foi mais usada do que o assassinato em si para incitar violência e ódio contra os rohingya
- Em 1º de junho, o porta-voz do presidente de Mianmar, Zaw Htay, publicou no Facebook um alerta de que “Rohingya terrorists” estariam atravessando a fronteira armados
- Em 3 de junho, um grupo budista nacionalista distribuiu panfletos dizendo que muçulmanos atacavam mulheres budistas, e no mesmo dia 10 homens rohingya que estavam em um ônibus foram arrastados para fora e espancados até a morte
- Na sequência de violência militar e comunitária, tanto rakhaine quanto rohingya cometeram assassinatos e incêndios, mas o peso dos danos recaiu sobre os rohingya
- A investigação da ONU registrou incêndio de casas, saques, assassinatos extrajudiciais e indiscriminados de mulheres, crianças e idosos, além de prisões arbitrárias em massa e tortura por militares e polícia
- Mais de 100 mil pessoas foram forçadas a deixar suas casas, a maioria delas rohingya
- A onda seguinte de violência, em outubro de 2012, trazia evidências de planejamento organizado, e a Human Rights Watch registrou que ativistas partidários arakaneses locais, grupos de monges budistas e arakaneses comuns organizaram, incitaram e participaram, às vezes com apoio direto das forças de segurança do Estado
- No pior ataque de outubro, policiais e soldados do Tatmadaw confiscaram previamente armas rudimentares, como bastões, dos moradores de vilas rohingya e ficaram olhando enquanto uma multidão rakhaine matou ao menos 70 rohingya ao longo de um dia
- A Human Rights Watch registrou que 28 crianças foram mortas nesse ataque, 13 delas com menos de 5 anos de idade
A disseminação do ódio pelo Facebook
- Em entrevista à Amnesty International, o professor rohingya e refugiado Mohamed Ayas disse que a violência comunitária de 2012 foi um ponto de virada que levou da retórica anti-rohingya à perseguição e, por fim, ao genocídio
- O analista político baseado em Mianmar Richard Horsey explicou que já havia violência de grupos budistas contra grupos muçulmanos antes, mas a novidade era que a informação agora podia ser transmitida e amplificada facilmente via Facebook e celulares
- Em junho de 2012, Sai Latt registrou que a campanha de ódio anti-rohingya era um movimento público e transnacional organizado abertamente nas redes sociais, com comentários e postagens espalhados por milhares de murais e páginas do Facebook
- Grupos no Facebook como “Kalar Beheading Gang” continuaram surgindo, e essas páginas chegaram à imprensa internacional
- Quando a Hindustan Times noticiou o caso em 14 de junho de 2012, a página já tinha mais de 500 curtidas
- A mensagem central repetida online e offline era que os rohingya não eram um grupo étnico real, mas imigrantes ilegais “Bengali”, seres desumanos que se reproduziam mais do que os budistas, indistinguíveis de terroristas e uma ameaça imediata às mulheres budistas e a Mianmar como um todo
Ashin Wirathu e a incitação baseada no Facebook
- Ashin Wirathu era um monge budista radical que usava ativamente o Facebook, e disse que sua primeira conta foi removida por moderadores da plataforma por violar os padrões da comunidade
- A segunda conta cresceu rapidamente até 5.000 amigos; depois ele criou uma nova página e contratou dois funcionários dedicados para atualizá-la de hora em hora
- Na época da entrevista à BuzzFeed News, ele tinha 190 mil seguidores na conta do Facebook, uma página de notícias no Facebook e dezenas de outras páginas, e defendia o boicote a lojas muçulmanas e a expulsão de muçulmanos
- Em entrevista à Global Post em 2013, Wirathu afirmou que os muçulmanos queriam transformar Mianmar em um Estado islâmico, embora os muçulmanos representassem cerca de 5% da população do país
- Em 2013, a Time colocou Wirathu na capa da edição internacional como “The Face of Buddhist Terror”, e ele disse na reportagem que 90% dos muçulmanos de Mianmar eram “radical bad people”
- Uma ONG registrou que, depois de outubro de 2012, quase todos os grandes surtos de violência comunitária no estado de Rakhine foram precedidos por turnês de sermões patrocinadas pelo movimento 969, geralmente com envolvimento direto de Wirathu
- Wirathu disse à BuzzFeed News que, sem a internet, tantas pessoas não conheceriam suas opiniões e sua mensagem como conhecem hoje, e que a internet era um meio mais rápido de espalhar sua mensagem
Os alertas iniciais enviados à Meta
- Em novembro de 2012, a diretora de programas da MIDO, Htaike Htaike Aung, informou ao Global Public Policy Director e ao Europe Policy Director da Meta, em uma mesa-redonda no Azerbaijão, sobre a disseminação de discurso de ódio no Facebook
- Em outubro de 2013, ela levantou a mesma preocupação novamente em uma mesa-redonda na Indonésia, no contexto de “rising inter-communal tensions”, com a presença de três executivos de políticas públicas da Meta
- No mesmo período, ativistas e pesquisadores da MIDO e da aceleradora de tecnologia Phandeeyar, sediada em Yangon, enviaram e-mails perguntando como revisar conteúdos problemáticos e como fazer escalonamento urgente, mas o Facebook não respondeu
- Em novembro de 2013, a jornalista Aela Callan encontrou o VP de Communications and Public Policy do Facebook, Eliot Schrage, e alertou sobre o discurso de ódio anti-rohingya no Facebook e as contas falsas que impulsionavam esse conteúdo
- A Meta encaminhou Callan para a Internet.org e para a “Compassion Team”, focada em assédio, mas não conseguiu conectá-la a pessoas do Facebook que realmente pudessem ajudar
- Em março de 2014, Htaike Htaike Aung e Aela Callan foram a Menlo Park após a RightsCon Silicon Valley e voltaram a alertar integrantes da Compassion Team da Meta sobre as ameaças causadas pelo serviço do Facebook em Mianmar
- No mesmo mês, Susan Benesch, do Dangerous Speech Project, organizou uma call de briefing para a Meta, e o especialista em direitos humanos baseado em Mianmar Matt Schissler explicou que mensagens desumanizantes, imagens manipuladas e desinformação estavam se espalhando no Facebook
- Segundo a Reuters, um dos exemplos apresentados por Schissler era uma página birmanesa no Facebook chamada “We will genocide all of the Muslims and feed them to the dogs”
- O livro An Ugly Truth, de Frenkel e Kang, relata que funcionários da Meta achavam que esse problema poderia ser tratado com uma abordagem parecida com ferramentas para responder a cyberbullying no ensino médio
Os motins de Mandalay em 2014 e a falta de resposta do Facebook
- A violência em Mandalay em 2014 reuniu todos os elementos que observadores da sociedade civil temiam
- Dois homens muçulmanos inocentes foram falsamente acusados de estuprar uma mulher budista
- Houve uma explosão de cobertura jornalística sensacionalista
- Ashin Wirathu usou essa história em favor de sua causa
- Relatos falsos e pedidos de violência se espalharam no Facebook
- Quando a violência piorou, o porta-voz do presidente de Mianmar, Zaw Htay, pediu ao diretor da Deloitte Myanmar que o ajudasse a entrar em contato com a Meta, mas apesar de tentar a noite toda, não recebeu resposta
- No terceiro dia dos motins, o governo bloqueou o acesso ao Facebook em Mandalay, e depois do bloqueio os motins perderam força
- Quando o Facebook foi bloqueado, funcionários da Meta começaram a enviar e-mails perguntando por que o Facebook havia sido barrado
- Alguns meses antes, alguns funcionários do Facebook haviam criado um grupo privado na plataforma para que especialistas da sociedade civil de Mianmar pudessem relatar problemas diretamente, mas quando relatos falsos e incitação à violência se espalharam em Mandalay, o Facebook não respondeu mesmo após alertas de ativistas e ocidentais
- Um integrante do grupo disse que, enquanto o Facebook não dizia nada sobre os motins, respondeu imediatamente assim que a internet foi bloqueada e as pessoas perderam acesso à plataforma
Ferramentas de tradução e denúncia, mas moderação insuficiente
- Algumas semanas após a violência em Mandalay em 2014, a diretora de políticas públicas para a Ásia-Pacífico do Facebook, Mia Garlick, visitou Mianmar pela primeira vez
- Em um debate, Garlick discutiu políticas da Meta e prometeu acelerar a tradução para o birmanês dos Facebook Community Standards
- Esse trabalho de tradução levou 14 meses e acabou dependendo da ajuda da equipe da Phandeeyar em um grupo privado no Facebook
- Em 2014, a Meta decidiu localizar as ferramentas de denúncia de discurso de ódio e conteúdo problemático e, após tradução e ajustes com a MIDO e outras pessoas da sociedade civil de Mianmar, lançou esses recursos até o fim do ano
- Mas havia apenas 1 contratado em Dublin capaz de revisar tudo o que chegava pelas ferramentas de denúncia em birmanês, ou seja, apenas 1 moderador com conhecimento de birmanês
- Htaike Htaike Aung e Victoire Rio chamaram essa ferramenta de denúncia em birmanês de “a road to nowhere”
Os alertas continuaram em 2015
- Em fevereiro de 2015, Susan Benesch apresentou “The Dangerous Side of Language” no Compassion Day do Facebook e, segundo documentos judiciais, a apresentação explicou como falas anti-rohingya se espalhavam por meio do Facebook
- Em março de 2015, Matt Schissler visitou Menlo Park e apresentou a mais de 12 funcionários do Facebook sobre a nova mídia em Mianmar, especialmente Facebook e a violência antimuçulmana
- Frenkel e Kang resumem que a apresentação documentou a gravidade do fato de que “o discurso de ódio no Facebook está levando à violência real em Mianmar e matando pessoas”
- Quando Schissler respondeu “Absolutely” à pergunta se o Facebook poderia contribuir para genocídio em Mianmar, um funcionário do Facebook reagiu no sentido de dizer que isso não era possível
- Em maio de 2015, David Madden, fundador da Phandeeyar, alertou a Meta em Menlo Park sobre a dinâmica perigosa em Mianmar
- Em entrevista à Amnesty International, Madden disse que sentiu que as pessoas dentro do Facebook não entendiam adequadamente a situação política de Mianmar
- Nas reuniões com a Meta, foram discutidos exemplos concretos de conteúdo de risco, e foi feita a analogia de que o Facebook poderia exercer em Mianmar um papel semelhante ao do rádio em Ruanda
- Em setembro de 2015, Mia Garlick voltou a Mianmar para lançar a versão em birmanês dos Community Standards do Facebook, e a Phandeeyar reuniu mais de 15 líderes da sociedade civil de todo o país para apresentar casos e agentes específicos
- Segundo Victoire Rio, vários líderes da sociedade civil disseram diretamente a Garlick que os Facebook Community Standards não estavam sendo aplicados em Mianmar
- Segundo a Reuters, em 2015 o Facebook tinha ao todo 2 moderadores com conhecimento de birmanês, número que subiu para 4 no fim do ano
O estado das coisas no fim de 2015
- Até o fim de 2015, a Meta já sabia que tanto especialistas internacionais da sociedade civil quanto o governo de Mianmar consideravam que o Facebook havia desempenhado papel importante nos motins de Mandalay em 2014
- Diversas organizações da sociedade civil e de direitos humanos alertaram repetidamente que o Facebook estava agravando os conflitos étnicos
- A Meta recebeu várias vezes exemplos de conteúdo desumanizante, incluindo posts e comentários pedindo diretamente assassinato em massa e genocídio
- David Madden disse diretamente a funcionários da Meta que o Facebook poderia exercer em Mianmar o papel que o rádio teve em Ruanda
- Ainda assim, a Meta não ampliou significativamente sua capacidade de moderação, não baniu permanentemente os piores agentes já conhecidos nem implementou mudanças estruturais de produto que reduzissem de forma confiável a disseminação de posts de ódio e incitação à violência
- O passo seguinte foi levar mais pessoas de Mianmar ao Facebook em 2016, e o texto seguinte continua em Part II: The Crisis
1 comentários
Opiniões no Hacker News
Tenho amigos que moram em Mianmar, e posso confirmar que a situação no local foi muito pior do que a matéria descreve.
Quando tudo o que se vê são postagens de discurso de ódio pedindo decapitações ou, no mínimo, algo como “vamos expulsar essa ralé”, o ódio se normaliza e as vítimas são desumanizadas.
A história está cheia dessas atrocidades e, embora a liberdade de expressão seja importante, propaganda de violência é um problema real. Vemos um pouco disso também nos EUA.
Para quem não leu a matéria: muitas aldeias foram queimadas e, antes disso, mulheres foram estupradas e assassinadas; aldeias inteiras foram saqueadas, depois pessoas morreram e as aldeias foram incendiadas. O objetivo era criar terror para que as vítimas não tivessem escolha senão deixar o próprio país, e foi exatamente o que aconteceu.
Por que impor limites arbitrários apenas à fala e à expressão? A lógica é que não podemos deixar as ações totalmente livres porque elas podem prejudicar outras pessoas, mas que deveríamos permitir qualquer fala por causa do princípio de “paus e pedras”, segundo o qual palavras não podem ferir ninguém.
No fim, toda a liberdade de expressão se apoia nesse princípio instável.
As forças iniciais de fundação de Israel fizeram o mesmo, e centenas de milhares de palestinos fugiram e continuam refugiados até hoje. Alguns dos que executaram essa estratégia depois se tornaram líderes da sociedade israelense.
https://en.m.wikipedia.org/wiki/Deir_Yassin_massacre
https://en.m.wikipedia.org/wiki/List_of_Irgun_members
Como pessoas cuja identidade é conhecida pelo público podem estuprar e matar diante das câmeras e ainda assim não ir para a prisão?
Este texto é muito bem apurado e vale a leitura. Como plataformas baseadas em algoritmos não vão desaparecer, ele organiza bem um caso do qual a sociedade precisa aprender.
É estranho ver argumentos de “liberdade de expressão” nesta thread. Parece que não leram a matéria; o texto lista vários exemplos de falas equivalentes a gritar fogo em um teatro lotado.
Como Kissane diz, Mianmar ficou online muito rapidamente depois das reformas, e havia poucos falantes de birmanês não só dentro do Facebook, mas também nas organizações de direitos humanos que tinham bom acesso ao Facebook.
Ao contrário dos casos do Oriente Médio ou da China, Mianmar parecia menos uma continuação de repressão autoritária e mais uma “libertação” da repressão, por isso não se encaixava bem nos modelos de resposta que as empresas de tecnologia estavam aprendendo. Alguns anos antes, com a Primavera Árabe e os protestos no Irã, Facebook e Twitter começaram a reconhecer uma certa responsabilidade, mas o resultado foi uma visão muito centrada nos EUA sobre a repressão no mundo.
A narrativa de budistas massacrando muçulmanos violentamente em um país liderado por Aung San Suu Kyi, ganhadora do Nobel da Paz e defensora da democracia, só podia ser ouvida se contrariasse muitos pressupostos políticos e culturais dos EUA e da Europa.
Também é possível observar que a expressão “gritar fogo em um teatro lotado” foi historicamente usada para tratar pessoas que tentavam impedir violência em massa como “encrenqueiras” e silenciá-las.
Ainda assim, as falhas do Facebook e de outros naquela época ocorreram porque eles afirmavam ser capazes de moderar e oferecer um espaço em que as pessoas teriam debates civilizados e discutiriam apenas a “verdade”. Tanto organizações de liberdade de expressão quanto organizações humanitárias em campo argumentavam que o Facebook não podia e não deveria desempenhar esse papel; quanto mais o Facebook afirmava poder assumir essa responsabilidade, mais terríveis eram os resultados.
As redes sociais apenas amplificam aquilo que suas conexões sociais consideram interessante ou valioso. Se uma sociedade considera interessante algum autor de textos odiosos, o conteúdo dessa pessoa é impulsionado.
Se houve décadas de ditadura militar e décadas de conflito, não é surpresa que cada grupo não elogie seus rivais nas redes sociais.
O autor nunca enfrenta de verdade o problema óbvio. Isso não era uma questão de restringir falas nem de culpar o Facebook; sempre foi um problema dos algoritmos de recomendação.
Se você eliminar ou desativar os algoritmos, a base deste texto praticamente desaparece.
Não acho que os motivos apresentados por Kissane aqui justifiquem um ataque à Meta
Há um parágrafo dizendo que, em 2018, os militares de Mianmar mataram milhares de rohingyas, incluindo bebês e crianças, e empurraram muitos outros para espancamentos, estupros, tortura, fome e encarceramento; cerca de 750 mil rohingyas fugiram para enormes campos de refugiados em Bangladesh, tomados por doenças
Essa era a situação em campo; o país era um barril de pólvora e o mal estava em ação. A parte 2 pode trazer mais contexto, mas, de uma perspectiva externa, atribuir isso à responsabilidade do Facebook parece forçado. O Facebook não pediu espancamentos, estupros nem assassinatos
A direção do Facebook poderia ter se preocupado com o risco de relações públicas e tomado medidas, mas isso criaria outros problemas. Quais, exatamente, seriam os critérios que o Facebook deveria aplicar? Deve banir todos os responsáveis por assassinatos sem sentido? Se for assim, isso incluiria a liderança dos EUA que votou a favor de guerras como a do Iraque, Afeganistão e Vietnã? No fim, uma empresa grande e poderosa acabaria aplicando critérios desiguais e subjetivos
O ponto central é o mesmo, qualquer que seja a influência exercida pelo Facebook. O problema é que a vontade do povo e a vontade da liderança do Facebook são fundamentalmente diferentes. Neste caso, a vontade popular foi excepcionalmente maligna, mas a questão não é qual lado estava certo naquele dia, e sim o conflito e a posição de influência do Facebook. Algum dia, o Facebook ficará do lado do mal
Não é difícil entender por que a Meta tem responsabilidade, mas esse ponto não foi abordado. O Facebook não é um retransmissor inofensivo de mensagens. Além disso, nem tinha pessoal nativo suficiente para moderar o conteúdo; no pior dos casos, isso é negligência
Permitir que as pessoas falem para a internet em uma plataforma traz responsabilidades. A liberdade de expressão não é absoluta
Ainda assim, as ações do Facebook não ficam imunes a críticas. A parte 1 parece tratar principalmente de omissão passiva, mas estou curioso porque a parte 2 deve abordar ações mais ativas do Facebook na época
Não aplicar suas próprias políticas também é uma ação, e o Facebook parece muito culpado nesse aspecto
Acho que eu não ficaria irritado se o Facebook banisse Bush. Concordo com o princípio, mas o exemplo dado é justamente um caso que eu aceitaria com facilidade
Para referência, o Facebook já baniu outro ex-presidente, então o ponto sobre a posição de influência do Facebook está correto
A diferença é que o Facebook poderia ter removido o conteúdo explícito se tivesse alocado recursos suficientes
Isso teria impedido os assassinatos? Talvez pudesse ter desacelerado a disseminação da raiva
Além disso, o Facebook não é um quadro de avisos passivo, e sim uma plataforma que expõe ativamente a tantos usuários quanto possível os posts com alto “engajamento”
Ao mesmo tempo em que valorizamos a liberdade de expressão e a livre troca de ideias, também precisamos aceitar que sites suspeitos que incitam guerra e violência inevitavelmente existirão. Ao mesmo tempo, meios de comunicação de massa precisam responder por seus próprios atos
Os operadores do Facebook devem ser responsabilizados da mesma forma que os operadores desses sites suspeitos. Aqui, não deveríamos falar de um debate filosófico, mas de responsabilidade pessoal legal em sentido literal
Também é preciso lembrar que, na época, o Facebook tentava substituir fóruns da web e não perdia a chance de dizer que, embalado pela Primavera Árabe, podia mudar o mundo e tinha influência política para isso
Quero dizer isto às pessoas que odeiam a liberdade de expressão. Eu moro lá, e vocês jamais saberão o quanto a liberdade de expressão é valiosa e importante quando você e sua família podem ser mortos, presos ou torturados simplesmente por motivos como estes:
Por ter feito o
3 finger salutede Hunger GamesPor ter postado uma foto de uma cidade vazia para mostrar a verdade ao mundo
Por ter respondido a um jornalista da BBC
Não sei sobre Mianmar, mas não se deve confundir nem enxergar de forma enviesada o papel do meio, da mensagem e dos participantes
Na Índia, vi que a maior parte das mensagens nocivas circula em grupos de WhatsApp. São espaços privados, sem algoritmo de ranqueamento ou recomendação; as pessoas apenas encaminham mensagens. Fundamentalmente, isso acontece porque a radicalização da própria sociedade aumentou
As pessoas não acordam subitamente radicalizadas; elas são apresentadas a isso e doutrinadas por algum meio de comunicação
O Facebook combina não só o fato de ser o maior, mas também o de reforçar e promover conteúdo incendiário por meio de algoritmos de recomendação
Acho que o ponto central deste texto é a descrição da situação em 2014, que aparece lá pelo 100º parágrafo
O Facebook tinha apenas um moderador que falava birmanês para revisar tudo o que entrava, e ele era um contratado em Dublin
O birmanês é o 43º idioma mais falado do mundo, então não é exatamente surpreendente que o Facebook tenha tido dificuldade para contratar moderadores
http://www2.harpercollege.edu/mhealy/g101ilec/intro/clt/cltclt/top100.html
É uma história triste. Eu gostaria que “liberdade de expressão” fosse a resposta, mas isso é uma consequência a jusante bastante assustadora de uma plataforma não conseguir fazer moderação humana intensa
A internet sempre foi moderada dentro de cada comunidade. Seja fórum, página ou chat em grupo, moderar a própria comunidade é responsabilidade dos administradores. O mesmo vale para igrejas, clubes de vôlei e escolas
Não há desculpa
O fato de um depósito cheio de moderadores deixar de aparecer para trabalhar um dia não faz surgir imediatamente um genocídio. A resposta não é moderação por remoção indiscriminada em massa
Uma ideia muito melhor é a velha transparência e dados brutos. Não censura, mas melhorar as informações de contexto anexando, acima e abaixo da tela, fatos precisos e úteis e informações relacionadas. Isso se mostrou útil e de fato equilibra a desinformação no momento em que ela surge
É assim que se respeita as pessoas. Inclusive aquelas que precisam de educação e correção em relação a métodos violentos. Elas têm telefonia pela internet e, se não for a Meta/Facebook, usarão outra coisa
Este texto precisa ser lido. Assim que comecei, não consegui parar, e a leitura flui muito mais rápido do que parece. Ainda é apenas a parte 1, mas é realmente essencial
Kissane faz um resumo conciso, legível e terrível do contexto do genocídio rohingya e de como a Meta atiçou ativamente as chamas
O argumento sobre a responsabilidade da Meta é simples e eficaz. A Meta enfrentava dois problemas em Mianmar. Primeiro, não havia usuários suficientes do Facebook; segundo, estavam aumentando a agitação e o discurso de ódio que incitavam de forma clara e repetida a violência contra os rohingya
A empresa mostrou repetidamente que só se importava com o crescimento da base de usuários, embora soubesse claramente que esse crescimento alimentava o genocídio
Qual era a motivação do Facebook? Que conteúdo deveria ter sido proibido, e por que esse conteúdo era tão popular entre os birmaneses?
O primeiro crime do Facebook aqui foi incentivar a violação da neutralidade da rede
Mas o ponto central é que não havia um livre mercado para apps de redes sociais ou de notícias. O Facebook estava em uma posição privilegiada, subsidiado por grandes operadoras de telecomunicações
Uma plataforma com posição monopolista privilegiada deve assumir uma responsabilidade maior. Não dá para aproveitar os benefícios dos dois lados ao mesmo tempo
A situação toda é horrível. Fico curioso para saber como eram as discussões internas no Facebook na época
Como foi que todas as organizações de direitos humanos acabaram falando com um departamento que encaminhava as pessoas de volta, em vez de um departamento que de fato pudesse fazer algo? Talvez esse departamento também estivesse tentando fazer alguma coisa, mas não tivesse força política suficiente dentro do Facebook
Só que acho que essas discussões ou e-mails dificilmente viriam a público sem um processo judicial, e não sei que tipo de processo seria
Olhando para o que o Facebook faz, às vezes parece que eles se importam bastante em não querer vários comportamentos ruins na plataforma. Não sei se antes o escopo era muito mais estreito, ou se o problema surgiu por estarem desconectados demais dos usuários de Mianmar. Por exemplo, barreiras linguísticas ou a aplicação de políticas desenhadas para os EUA
É difícil pensar em contrafactuais. Por exemplo, isso poderia ter acontecido também no Twitter? A maior vantagem do Facebook parece ter vindo dos subsídios, e, se essa vantagem não existisse ou se os preços tivessem caído um pouco ao longo de alguns anos, talvez a mesma coisa pudesse ter acontecido no Twitter
Também não está claro o quanto o governo queria o genocídio. Uma grande vantagem do que acontece no Facebook seria a possibilidade de negação; se eles não se importassem com isso e fossem competentes o bastante, poderiam ter colocado pregadores de ódio no rádio em vez de deixá-los encontrar audiência na internet
https://www.rohingyafacebookclaim.com/
https://www.theguardian.com/technology/2018/dec/09/twitter-ceo-jack-dorsey-accused-of-ignoring-plight-of-rohingya-in-tweets-promoting-myanmar
O Facebook foi muito mais destrutivo porque fazia parte da iniciativa Internet.org, que impulsionou a adoção do Facebook
https://en.m.wikipedia.org/wiki/Internet.org
O Arakan National Party, principal partido em Rakhine/Arakan, tem posição anti-rohingya, e sua liderança participou dos distúrbios de 2012 junto com o movimento 969. Depois, aliou-se à National League for Democracy, o partido de Aung Sang Syu Ki, e chegou a obter o cargo de Ethnic Affairs Minister, mantendo-o inclusive durante o genocídio
https://en.m.wikipedia.org/wiki/Arakan_National_Party
A questão de Rakhine também foi agravada pela rivalidade India-China. Ambos os países fizeram vista grossa para o Tatmadaw e armaram milícias étnicas em Rakhine e por toda Mianmar. Isso porque Mianmar é uma zona-tampão entre os dois países, os problemas étnicos de Mianmar repercutem nos Kokang Chinese do Southwest China e na Manipur Ethnic Violence do Northeast India, e ambos os países têm projetos concorrentes de defesa e infraestrutura dentro de Mianmar
https://www.lowyinstitute.org/the-interpreter/how-china-india-bangladesh-could-be-drawn-myanmar-s-conflict
Se Jinnah tivesse anexado ao Pakistan as áreas de maioria rohingya de Rakhine, como os rohingya pediram em 1946, muita coisa talvez pudesse ter sido evitada. É mais um capítulo esquecido da partição da Índia britânica e da descolonização
https://thediplomat.com/2018/01/rohingyas-and-the-unfinished-business-of-partition/
Se você mora em San Francisco, uma parcela considerável dos chineses de Chinatown hoje é Kokang, e eles são donos da maioria dos restaurantes birmaneses da moda, como Burma Love ou Manadaly
Os Chin/Zo, um subgrupo dos Kukis em Mianmar, também têm presença considerável em San Francisco e Daly City
O artigo chamou “Arturo Bejar” de “chefe de engenharia” do Facebook, mas isso simplesmente não é verdade
Ao que parece, ele era Director, um cargo de gestão que normalmente gerencia menos de 100 pessoas. Não chega nem perto de “chefe de engenharia”
Levanto esse ponto porque ele também faz duvidar da precisão sobre o quanto o problema foi comunicado claramente às pessoas relevantes no Facebook
Não basta falar sobre um problema social complexo com algum engenheiro aleatório ou com um vice-presidente de comunicação. Essas pessoas não são treinadas para identificar ou responder a genocídios, nem têm autoridade organizacional ou experiência especializada para iniciar uma resposta séria
É triste que tenha havido uma falha de comunicação, mas não é surpreendente