A abordagem de moderação em camadas do Bluesky
(bsky.social)- O Bluesky adota uma moderação em camadas, sobrepondo filtros de serviços independentes às proteções básicas, para que os usuários ajustem a experiência social de acordo com suas preferências
- O Ozone, agora open source, é uma ferramenta colaborativa que permite a equipes revisar denúncias, criar rótulos e examinar conteúdo na rede atproto
- A experiência padrão do app fica a cargo da equipe de moderação do Bluesky, ativa 24 horas por dia, junto com sistemas automatizados, e os usuários podem adicionar filtros extras por cima disso
- Os filtros de serviços independentes de moderação serão oferecidos primeiro no app para desktop e depois expandidos para o mobile, em um modelo de descoberta e assinatura semelhante ao de seguir contas
- Labelers e serviços de moderação podem operar em toda a rede atproto, indo além do app do Bluesky e permitindo diferentes configurações de moderação por aplicativo
Estrutura de moderação ajustada pelo usuário
- O Bluesky tem como objetivo permitir que os usuários ajustem por conta própria seus espaços sociais online
- As redes sociais tradicionais conectaram o mundo inteiro, mas também concentraram poder em poucas empresas e líderes
- Como é difícil para uma única empresa definir perfeitamente padrões de segurança adequados para todos os países, culturas e comunidades, o Bluesky está construindo um ecossistema de moderação por comunidade
- Sua própria equipe de moderação opera 24 horas por dia para aplicar as Diretrizes da Comunidade
- Ao mesmo tempo, fornece ferramentas open source de segurança e um ecossistema de moderação para que comunidades criem espaços alinhados às suas próprias normas e preferências
Lançamento do Ozone e serviços independentes de moderação
- O Bluesky lançou como open source a ferramenta colaborativa de moderação Ozone
- Com o Ozone, indivíduos e equipes podem revisar conteúdo em toda a rede e aplicar rótulos
- A partir do fim desta semana, usuários poderão operar diretamente serviços independentes de moderação integrados ao app do Bluesky
- Os usuários poderão criar e assinar serviços adicionais de moderação sobre a moderação básica exigida pelo Bluesky
- O repositório do Ozone está disponível no GitHub
Três princípios de design
- O design dos serviços de moderação do Bluesky segue três princípios
- Simple and Powerful: manter a experiência padrão simples e oferecer opções de personalização para quem precisar
- User Choice: permitir que usuários e comunidades criem seus próprios sistemas de moderação
- Openness: buscar um sistema aberto que aumente a confiança na governança dos espaços digitais
- O Bluesky compartilha a ideia de composable moderation desde antes de ter 20 mil usuários e hoje já atende mais de 5 milhões
Escolha do usuário sobre a camada padrão
- Quem se cadastra no Bluesky é inscrito por padrão no serviço de moderação nativo da plataforma
- Esse serviço padrão combina o tratamento de denúncias por uma equipe ativa 24 horas por dia com vários sistemas automatizados de moderação
- O usuário pode instalar filtros de serviços independentes de moderação e empilhar camadas como blocos sobre a base padrão do app do Bluesky
- Na primeira etapa de lançamento, os filtros de serviços independentes de moderação estarão disponíveis na versão desktop
- Depois, também serão oferecidos no mobile, permitindo ajustar a experiência social em várias plataformas
- A estrutura técnica pode ser vista em mais detalhes na documentação da arquitetura de moderação do AT Protocol
Como isso funciona para o usuário
- O Bluesky prioriza oferecer uma experiência padrão intuitiva desde o momento em que o app é instalado
- Usuários que quiserem um ajuste mais fino poderão encontrar, selecionar e assinar serviços independentes de moderação dentro do app do Bluesky
- O modelo de assinatura foi projetado para ser tão simples quanto seguir outra conta
- O exemplo Spider Shield é um serviço de moderação que pode ser criado para bloquear fotos de aranhas
- Se o usuário instalar esse serviço, fotos de aranhas que tenham recebido rótulo desaparecem da experiência dele
- Se encontrar uma foto de aranha sem rótulo, poderá solicitar revisão ao Spider Shield pelo fluxo de denúncia dentro do app
O que muda para moderadores
- Quem quiser oferecer uma camada separada sobre a moderação padrão do app do Bluesky não precisa operar muita infraestrutura nem criar seu próprio app cliente
- Hoje ainda é necessário algum conhecimento técnico, mas o Bluesky acredita que esse processo ficará mais simples com o tempo
- Já é possível manter listas de silenciamento ou listas de bloqueio que outros usuários podem assinar
- Listas de bloqueio populares tendem a ficar fortemente ligadas a contas pessoais, e isso pode se tornar um peso à medida que crescem, por exemplo quando usuários marcam diretamente o operador no app
- O Ozone permite operar serviços parecidos com listas de bloqueio de forma mais detalhada
- É possível aplicar rótulos não só a contas, mas também a posts específicos
- É possível acessar filas de denúncias
- Usuários podem enviar denúncias pelo fluxo de denúncia dentro do app
- É possível criar rótulos personalizados e definir que ação cada rótulo deve acionar
- O serviço não fica vinculado a um usuário individual e pode ser administrado por várias pessoas
- No exemplo do Spider Shield, o painel do Ozone fornece uma fila de fotos de aranhas denunciadas, reduzindo a necessidade de marcar diretamente o operador toda vez
- Os rótulos podem ser configurados de maneiras diferentes, como bloquear fotos reais de aranhas e desfocar ilustrações de aranhas
- Várias pessoas podem ajudar a gerenciar denúncias ou assumir o projeto depois, sem incomodar os usuários
Como desenvolvedores aplicam rótulos
- Ao aplicar rótulos a conteúdo, desenvolvedores podem usar software do Bluesky como o Ozone ou aplicar os rótulos diretamente via API
- O Ozone é uma ferramenta para ajudar humanos a revisar denúncias de moderação, mas também é possível operar serviços de moderação com rotulagem automatizada
- Se quiser criar o Spider Shield como um serviço automático baseado em machine learning para localizar e rotular fotos de aranhas, isso pode ser feito mesmo sem o Ozone
- Para adaptar o Ozone ao seu objetivo, é possível enviar um PR ou fazer um fork do projeto
- O Bluesky oferece ferramentas open source de moderação para que apps do ecossistema AT Protocol não precisem reconstruir do zero questões de confiança e segurança
Rótulos e a escalabilidade da rede atproto
- Os rótulos foram projetados para serem genéricos e personalizáveis
- As funções iniciais dos labelers estão focadas em ocultar, bloquear ou desfocar conteúdo
- No futuro, também poderão ser usados para curadoria ou verificação
- Por exemplo, seria possível usar rótulos para “verificar” contas de natureza que não postam fotos de aranhas
- Os serviços de moderação não se limitam ao app do Bluesky e podem operar em toda a rede atproto
- Se surgir um novo app de compartilhamento de fotos chamado Skygram, o serviço de moderação Spider Shield criado para o Bluesky também poderá ser usado no Skygram
- Essa possibilidade de combinação é a essência da composable moderation, permitindo misturar componentes entre diferentes apps
Opções fora da moderação padrão
- Usuários do app do Bluesky utilizam por padrão o serviço de moderação do Bluesky
- Todo conteúdo exibido no app do Bluesky deve seguir as Diretrizes da Comunidade do Bluesky
- Se a moderação padrão do Bluesky não atender às necessidades, é possível criar ou usar outro app cliente e conectar seu próprio serviço de moderação
- Essa opção exige um app cliente separado conectado ao AT Protocol, mas oferece a flexibilidade de implementar um sistema de moderação próprio desde o início
Relação entre servidor e moderação, diferente do Mastodon
- A moderação do Bluesky não é vinculada ao servidor como no Mastodon
- A defederation do Mastodon trata problemas de moderação por meio do bloqueio de conexão entre servidores, mas no Bluesky há outras camadas, então esse modelo é menos relevante
- Operadores de servidor podem definir regras para o conteúdo que hospedam, e listas de bloqueio e serviços de moderação ajudam comunidades a se auto-organizarem de acordo com suas preferências de moderação
- As diferenças na estrutura federada do Bluesky são detalhadas no texto sobre federação
- É provável que serviços de moderação comecem como projetos comunitários, assim como os geradores de feed
- O Bluesky já tem mais de 40 mil feeds personalizados, e serviços de moderação também podem ser operados como projetos independentes de pessoas ou organizações
- Também são possíveis serviços de moderação com assinantes pagantes
1 comentários
Comentários do Hacker News
Faço parte da equipe que implementou esse recurso e posso responder perguntas. Em termos técnicos, de forma simples, no geral é um sistema que emite metadados chamados Labels para as postagens.
Se o cliente do aplicativo especificar no cabeçalho da requisição qual serviço de rotulagem quer usar, esse rótulo é anexado à resposta e o cliente pode interpretá-lo.
Como este é um sistema aberto, o cliente pode escolher qual rotulador usar, e o cliente do Bluesky embute a moderação do Bluesky em código, mas outros clientes podem escolher outros rotuladores padrão. Os usuários podem adicionar rotuladores da comunidade, e queremos que a maior parte da moderação seja tratada nessa camada. Para conteúdo ilegal ou abuso da rede, também existe a “remoção em nível de infraestrutura”, executada na camada de serviço, ou seja, no relay.
Dentro do app, isso parece uma conta especial que você pode assinar para receber filtros adicionais. Os rótulos podem ser neutros ou negativos, então na prática também podem funcionar como distintivos de usuário. No futuro, pretendemos expandir isso para dar suporte a metadados e comportamentos mais ricos, para que também possa ser usado em recursos como notas da comunidade ou restrições de resposta baseadas em rótulos
Fico curioso se você conhece algum precedente. O mais próximo talvez seja este próprio site, embora aqui seja opt-out e não substituível. Ou talvez filtros de spam de e-mail, do ponto de vista do administrador do servidor
Quero entender se isso também afeta clientes de terceiros, se é um ponto de centralização e algo aberto a abuso de moderação. Ou se o Bluesky funciona como protocolo e, mesmo que queira, não consegue remover algo fora do próprio cliente
Em especial, aplicar uma funcionalidade no estilo Steam Curator à moderação de conteúdo parece muito apropriado, a ponto de dar a impressão de que era algo óbvio demais para ninguém ter pensado antes
Relendo, isso talvez não seja um comentário muito útil no estilo HN, então acrescento o seguinte: acho que uma das coisas mais úteis da internet é explorar lugares e ideias com os quais normalmente você não se depararia nem pensaria. Assim como pegar um barco de madeira para ir ao Ártico, circular pela internet também envolve riscos consideráveis, mas, considerando a possibilidade de crescimento e mudança pessoal, esses riscos podem valer a pena.
Esse modelo de internet é um pouco antiquado. Hoje a internet é mais entretenimento do que qualquer outra coisa, e o Bluesky também existe para manter seus olhos presos à tela do celular, como TikTok ou Instagram. O Bluesky é um pouco mais intelectual, mas só um pouco.
Como as pessoas normalmente não sentem prazer com aquilo que as frustra, dá para entender por que uma empresa de entretenimento como o Bluesky é obcecada por moderação de conteúdo para fazer chegar aos usuários apenas conteúdo agradável. Nesse sentido, a rotulagem parece útil, como classificação indicativa de filmes, para informar ao consumidor se aquilo é apropriado para ele.
Então, do ponto de vista do Bluesky, é excelente. Mas eu, educadamente, vou recusar e usar uma plataforma com outro propósito
Vejo muitas vantagens nessa abordagem, mas sou cético em relação a uma coisa.
O texto menciona várias vezes moderação por cultura, e fico pensando qual é a cultura padrão assumida pela moderação do site como um todo. A dos EUA?
Também quero saber se a equipe de moderação bancada pelo Bluesky cobre todos os idiomas ou apenas postagens em inglês. E também é uma questão o que significa pertencer a uma cultura sem “suporte oficial”
Parece muito parecido com o sistema de servidores do Mastodon. É a mesma estrutura de entrar em um servidor que combine com a sua política, mas aqui mudar de servidor é muito mais fácil. É uma ideia excelente
O Bluesky tem uma identidade via DID. Se você usar
web DID, a identidade fica vinculada ao nome de domínio e não se conecta em nada à infraestrutura do Bluesky. Fica totalmente sob seu controle, mas não é fácil trocar de nome ou de domínio. Por outro lado, se usarplc DID, por enquanto você usa uma infraestrutura centralizada, mas consegue trocar de nome ou de domínio com facilidade. Nesse caso, cada conta tem um DIDExiste o PDS, ou “repositório de dados”, que guarda o conteúdo das postagens. Você pode hospedar o seu ou usar o PDS central do Bsky, e só é possível usar um por conta
Há um indexador que reúne as postagens de todos os PDS/repositórios de dados, e isso forma o que o Bluesky chama de “firehose”. Também existem relays que roteiam o tráfego e fazem cache
Existem as aplicações de fato, como a app view que oferece o Bluesky, e também os serviços de feed, que fornecem “algoritmos” que determinam como a página vai aparecer. Você pode assinar quantos feeds quiser ou hospedá-los por conta própria
Por fim, há os rotuladores tratados aqui. Ao contrário do Mastodon, é possível seguir vários rotuladores ao mesmo tempo. Os rotuladores podem fornecer avisos automáticos de conteúdo ou moderação manual. O ponto importante é que, independentemente do que o rotulador faça, no fim das contas o usuário controla se isso vai ficar só em aviso/desfoque ou se vai realmente ocultar o conteúdo
No Mastodon, tudo fica preso a um único servidor/instância, e o controle sobre a moderação acaba se resumindo a “rodar sua própria instância e assumir todo o trabalho de moderação” ou “depender de outra instância sem nenhum meio de fiscalização”
Isso não quer dizer que a abordagem do Mastodon não fizesse sentido na época, mas, como foi dito, o jeito do Bluesky faz muito mais sentido e também torna bem mais fácil para o usuário transitar entre as opções
Isso acontece porque a agregação é feita no lado do servidor, e não no cliente, como no RSS. Além disso, só de não bloquear um determinado servidor, o seu próprio servidor pode acabar entrando em listas de bloqueio. Então, em vez de uma rede, acaba parecendo mais um grafo em que você precisa escolher de forma exclusiva uma entre várias redes isoladas entre si
Esse deveria ser o jeito certo. Posso bloquear quem posta coisas que não quero ver, e também grupos dessas pessoas. Por outro lado, posso identificar pessoas e grupos que quero ver e deixá-los passar para a minha timeline
Dito isso, em teoria talvez dê para fazer seu próprio cliente, embora eu não saiba bem como isso funcionaria na prática. Imagino que conteúdo de que o Bluesky não goste não vá ser armazenado nos servidores do BlueSky
Uma comunidade não deveria ser banida só por falar de coisas ruins que aconteceram com seus membros. Tenho curiosidade de ver como esse tipo de cenário seria tratado
Talvez o conteúdo só fique acinzentado. Mas e o usuário, como fica? Fico curioso se o conteúdo desse usuário também seria acinzentado
É uma ideia realmente ótima. Gostei do Spider Shield usado como exemplo. Espero que isso seja usado para todo tipo de finalidade próxima de moderação, como spoilers ou assuntos que a pessoa não queira ler por um tempo
Sinceramente, é muito bom. É a versão oficial e escalável de extensões de navegador que bloqueiam pessoas de forma recursiva, bloqueiam usuários do Twitter Blue, bloqueiam quem postou em um determinado subreddit ou marcam usuários como o masstagger fazia
Transformar listas de bloqueio programáveis em um recurso de primeira classe é algo muito positivo
Não parece que isso vai salvar ninguém de dramas como https://www.techdirt.com/2022/11/02/hey-elon-let-me-help-you..., mas ainda assim é um recurso bem-vindo. Vai ser interessante ver como as pessoas incluídas em listas de bloqueio populares de terceiros vão reagir
Será que isso realmente alinha os incentivos?
Acho que não. Mesmo que o usuário escolha a moderação, ele deveria poder desativá-la temporariamente a qualquer momento e ver uma tela sem filtros. Deveria ser possível tirar os óculos a qualquer momento. Caso contrário, em um contexto ideológico, a moderação pode se degradar em censura, e o BlueSky se torna amigo de quem quer conduzir a opinião pública
Mesmo que o usuário possa tirar os óculos, a moderação ainda tem grande chance de desestimular a produção de conteúdo. Se ninguém vai ouvir, por que falar? Mas, se o usuário puder experimentar desligar a moderação, cada pessoa poderá sempre julgar se ela está ajudando ou se é censura. Assim, como a moderação pode ser facilmente percebida e medida, surge uma pressão para que os moderadores ajam de forma razoável
Acho que isso também é bom para os grupos. Se as regras de moderação do grupo inteiro forem definitivas e o usuário não puder olhar além delas, a própria moderação vira uma posição poderosa, então pessoas que querem administrar a opinião pública vão, como sempre, disputar poder. Por outro lado, se a moderação for sempre enfraquecida por depender de consentimento, o jogo em torno do controle da opinião pública deve diminuir
É melhor que os grupos se administrem por meio da filiação de seus membros. Pode ser difícil entrar, mas, uma vez dentro, todos deveriam ter sua voz ouvida por todos, independentemente da moderação. Uma moderação fraca aumenta o valor de pertencer ao grupo e facilita impor condições de entrada que ajudem os membros a confiar uns nos outros. Observar essas condições e aplicá-las de forma consistente é outro problema
Falando com sinceridade, eu realmente gostei da ideia do BlueSky e fui um usuário inicial. Mas, na semana passada, quando vi a notícia de que tinham anunciado uma equipe de Trust & Safety ou ao menos contratado uma nova liderança, apaguei o app
Na minha cabeça, e para muita gente, Trust and Safety é sinônimo de censura
Estamos em uma época em que a censura representa um enorme risco à liberdade. Uma sociedade livre precisa poder debater, e qualquer pessoa ou organização que julgue ter a sabedoria necessária para definir os limites do que as pessoas podem discutir é uma ameaça à liberdade
Eu esperava que o BlueSky escolhesse outro caminho, mas agora parece que não
Estou curioso para saber se o blog do Bluesky tem um feed RSS
Mas existe este feed (https://bsky.app/profile/did:plc:z72i7hdynmk6r22z27h6tvur/fe...) que reúne todas as postagens da equipe do Bluesky. Infelizmente, também não é possível consumir feeds do bsky como RSS. Ainda assim, contas individuais podem ser assinadas em RSS acrescentando
/rssà URL do perfil. Por exemplo, a conta que publicou o anúncio original é https://bsky.app/profile/safety.bsky.app/rssUma sociedade extremamente polarizada certamente será muito beneficiada por câmaras de eco configuráveis
Ao contrário do mundo físico, não há limite de terra, e o ciberespaço é infinito. Não sei por que pessoas que não se suportam insistem tanto em querer enfiar a cara umas nas outras
Qualquer pessoa que tenha usado fóruns da internet, mesmo que só um pouco, sabe que, em sentido amplo, algum tipo de moderação é necessário. Pessoalmente, eu não usaria uma rede social que me expusesse a transfobia cotidiana. Não é porque eu não queira ouvir “os dois lados”, mas porque já tenho uma posição contrária o mais firme possível e não preciso ouvir mais. Talvez não exista uma solução geral, mas valorizo o fato de o Bluesky estar tentando