Meta deve encerrar imediatamente seu feed invasivo do AI Discover

• A Meta está gerando preocupação com violações de privacidade ao tornar públicas no feed Discover conversas pessoais geradas em chats de IA sem o consentimento dos usuários
• A comunidade da Mozilla exige a suspensão do feed Discover, configuração privada por padrão para conversas com IA, divulgação de informações com base no consentimento do usuário e transparência
• É necessário criar um sistema universal de opt-out de fácil acesso para qualquer pessoa e conceder o direito de exclusão permanente quando conversas privadas forem expostas publicamente
• Muitas pessoas não percebem que suas informações pessoais estão sendo expostas publicamente
• Esta campanha pede que seja garantido que o conteúdo das conversas dos usuários não seja divulgado sem consentimento prévio claro

---

Resumo do conteúdo

Preocupações com violação de privacidade

• A Meta vem avançando discretamente na transformação de conversas pessoais realizadas em seu serviço de inteligência artificial (IA) em conteúdo público por meio do feed Discover
• Muitos usuários não percebem que o conteúdo que inserem nas conversas está sendo publicado publicamente

Exigências da comunidade da Mozilla

1. Suspensão imediata do feed Discover
   • A comunidade pede que o feed Discover seja interrompido até que proteções reais de privacidade sejam implementadas
2. Conversas com IA privadas por padrão
   • Exige-se que todas as interações com IA permaneçam privadas por padrão e que recursos públicos não sejam permitidos sem informação adequada e consentimento
3. Pedido de transparência
   • Exige-se a divulgação de números claros sobre quantos usuários compartilharam informações pessoais sem conhecimento prévio ou consentimento
4. Criação de um sistema universal de opt-out
   • A Meta deve oferecer um sistema de opt-out facilmente acessível para qualquer pessoa em todas as suas plataformas, para que dados pessoais não sejam usados no treinamento de IA
5. Notificação e direito de exclusão
   • Deve-se notificar imediatamente os usuários cujas conversas privadas foram tornadas públicas e conceder a eles o direito de excluir permanentemente esse conteúdo, se desejarem

Fronteira borrada entre vida privada e espaço público

• As mudanças de política da Meta tornam mais difusa a fronteira entre conversas privadas e conteúdo público
• As pessoas acreditam estar conversando em um espaço privado, mas na prática existe o risco de que suas informações se espalhem publicamente

Campanha e pedido de assinaturas

• Está em andamento uma campanha para interromper a divulgação de conversas sem consentimento individual e garantir um direito de escolha claro para os usuários
• Usuários que concordarem com a campanha podem participar de um abaixo-assinado deixando seu nome para pressionar a Meta a mudar sua política

[GN⁺]

Comentário do Hacker News

• Compartilha o link de um artigo sobre o novo app independente de IA da Meta e observa que o fato de as conversas se tornarem públicas acontece por erro do usuário. Enfatiza que, por padrão, as conversas são privadas e só se tornam públicas se a pessoa apertar o botão de “compartilhar”. Diz que o tom agressivo da Mozilla pode levar a mal-entendidos sobre a experiência do usuário

  • Menciona que serviços como Google Docs, ChatGPT e Notion deixam bem clara a diferença entre “compartilhar com quem tem o link” e “tornar o conteúdo compartilhado pesquisável/publicamente visível para todos”. Argumenta que, se a Meta faz o botão de compartilhamento tornar o conteúdo imediatamente pesquisável ou nem oferece essa distinção, isso é claramente um dark pattern. Levanta a questão de que clicar no ícone de “compartilhar” talvez não possa ser considerado consentimento de verdade
  • Diz que não usou o app na prática, mas que o artigo não explica como o usuário acaba consentindo com o compartilhamento, o que gera confusão. Em geral, outros apps mostram um modal depois do botão de compartilhar para escolher destinatários e a forma de envio; se aqui apertar “compartilhar” já publica imediatamente para o mundo inteiro, qualquer pessoa ficaria surpresa
  • Ao fornecer o link do artigo, comenta que a petição da Mozilla praticamente não traz contexto útil de forma concreta, o que é uma pena
  • Afirma que usa o app de fato, mas nunca recebeu incentivo nem notificação para compartilhar
  • Dá o feedback de que o artigo compartilhado parecia muito vago, sem deixar claras nem a causa nem o ponto central

• Ao usar o app diretamente, acha que só dá para interpretar que a Mozilla está espalhando informação falsa. O compartilhamento nesse app é simplesmente igual ao de qualquer outro app de rede social. Há um botão “Share” no canto superior direito do app e, ao tocar nele, aparece um grande botão “Post” na parte inferior. Ao tocar nele, a conversa é compartilhada publicamente.

  • Explica que a maioria das exigências da Mozilla já está sendo atendida: todas as conversas são privadas por padrão, fica claro se algo é público ou não, não concorda que a Meta precise divulgar com transparência quantas informações pessoais os usuários expuseram por engano, na Europa já existe opção de opt-out, e quem publicou algo publicamente já recebe aviso e tem função de exclusão permanente
    • Aponta como dark pattern o fato de um botão chamado “compartilhar” funcionar como publicação para todo o público, e não como escolha de destinatários específicos, fazendo com que muita gente compartilhe com o mundo sem querer. Para a maioria das pessoas, “compartilhar” remete a enviar para alguém ou dar acesso limitado; publicar para todos talvez nunca tenha sido a intenção
    • Mesmo sem ser usuário do app, aponta que o problema central é as pessoas acharem, por engano, que o conteúdo compartilhado será visto só por amigos
    • Pergunta: “Estou vendo a mesma tela que os outros?”. Diz que o problema essencial da Meta é uma UI inconsistente e cheia de dark patterns, com equipes competindo para induzir comportamentos do usuário e levando as pessoas a compartilhar amigos ou publicações sem querer. Observa que a experiência varia por região e idioma, e que o Meta Business Suite em especial parece um labirinto de dark patterns
    • Não concorda com a exigência de divulgar com transparência quantos usuários tornaram informações públicas por engano. Destaca que a Meta não tem como saber se foi erro ou intenção do usuário
    • Diz que a Mozilla já repetiu atitudes que minaram a confiança no passado — instalação de complementos duvidosos, integrações com serviços de terceiros, envio de dados de uso sem autorização, imposição de rastreamento do Google — e vê o suposto comportamento mentiroso da Mozilla como continuação desse histórico

• Como o texto da Mozilla não explicava direito o problema, foi testar o app da Meta pessoalmente.

  • Na tela de chat há um botão “Share”; ao tocar nele, aparece um botão “Post” na parte inferior da página de rascunho; ao tocar nesse botão, o chat é publicado para todos na aba Discover; depois disso, o ícone de “enviar” pode ser usado para mandar o link individualmente
  • Diz que essa estrutura é claramente um dark pattern e reclama que não existe uma forma simples de compartilhar o link com parentes, conhecidos ou uma única pessoa sem torná-lo público antes
  • Conta que, na aba Discover, a publicação com foto no topo era a foto de um bebê, e que até a imagem original estava publicada; por isso, suspeita que o usuário provavelmente queria enviar apenas para família ou amigos
  • Conclui que isso tem a cara típica da Meta de “fazer primeiro”, valorizando mais pedir desculpas depois do que obter consentimento prévio
    • Opina que, se a pessoa não tem certeza do que está fazendo, então o correto é simplesmente não fazer. Diz que, ao clicar em “submit” no Hacker News, ele próprio tinha consciência de que aquilo seria publicado para toda a internet, e considera que quem usa a internet deve assumir essa responsabilidade

• Pergunta por exemplos mais concretos, capturas de tela e o momento exato em que isso ocorre no caso levantado pela Mozilla

  • Diz que a explicação está muito incompleta e comenta que a situação envolve o novo app social de IA da Meta. Informa que alguns usuários estão tornando públicos resultados de chats com IA sem perceber link de apresentação do Meta AI
  • Explica ainda que, pela aba “Discover” do app, até perguntas sensíveis — sobre doenças, términos etc. — acabam expostas para qualquer pessoa ver, e fornece também um artigo mais detalhado

• Critica a mensagem da campanha da Mozilla por faltar contexto e soar como uma ordem incondicional

• Observa que a frase “Meta: shut down [...]” parece dizer que a Meta está mandando alguém “shut down”; sugere corrigir com uma vírgula ou usar o formato “Dear Meta: ...” para ficar mais claro

  • Acrescenta que, em apps de chat antigos, era comum usar dois-pontos (:) depois do apelido para chamar a atenção do interlocutor

• Opina que o melhor é simplesmente não usar plataformas da Meta

  • Explica que, na maior parte dos países fora dos EUA, o WhatsApp é o meio padrão de comunicação e SMS custa por mensagem. Diz também que a interoperabilidade do WhatsApp só está sendo planejada na UE e fornece um artigo relacionado
  • Também conecta o assunto a uma matéria recente sobre a Meta ter rastreado secretamente usuários Android por meio dos web pixels do Instagram e do Facebook. Diz que os serviços onion do Tor já foram a única forma real de escapar de problemas de privacidade, mas que hoje evitar rastreamento é praticamente impossível
  • Recomenda não sair totalmente da Meta, mas adotar uma estratégia “parasita”: apenas consumir conteúdo, sem deixar publicações nem sinais. Também aconselha apagar todos os apps da Meta do dispositivo
  • Observa que, por causa do efeito de rede, muita gente fica conectada de forma quase forçada. Para manter planos com amigos ou comunidades, é difícil sair; por isso, proteger a privacidade e garantir interoperabilidade seria papel do governo. “Simplesmente não use” não é realista
  • Acrescenta que também é preciso ficar atento ao impacto comercial da Mozilla

• Aponta a ironia de que, para enviar o formulário da petição sobre privacidade, é obrigatório concordar com a política de privacidade da Mozilla

• Compartilha um caso em que o site em questão não é exibido corretamente no Firefox Mobile e pede melhorias à Mozilla

• Avalia, por fim, que tudo isso está sendo levado ao topo do HN por meio de artigo exagerado, buzzwords e geração de polêmica em torno do fato óbvio de uma empresa de rede social incentivar o compartilhamento de resultados de IA