O mais recente “exploit” do Instagram é o mais absurdo que já vi

• Uma vulnerabilidade em que, apenas com o username de uma conta do Instagram, era possível enganar a IA de suporte ao cliente da Meta para redefinir a senha e sequestrar a conta, afetando várias contas conhecidas, incluindo a conta da Obama White House
• O invasor acessava por VPN·proxy próximos da cidade da vítima para evitar suspeitas dos algoritmos de segurança e, em seguida, dizia à IA de suporte que a conta havia sido hackeada, pedindo o envio de um código de verificação para um e-mail arbitrário
• O código era enviado sem verificação adicional de que aquele e-mail já havia sido usado antes pelo usuário, e quando o invasor devolvia o código, recebia diretamente o link de redefinição de senha — uma redefinição de senha com autenticação zero (zero auth)
• Como esse fluxo de recuperação era tratado como uma redefinição completa da conta pelo próprio dono, o 2FA existente era contornado, e o encerramento de sessões e a troca de senha aconteciam sem notificações
• O problema central era a ausência de guardrails: a IA de suporte de uma empresa avaliada em US$ 1,5 trilhão trocava o e-mail vinculado apenas com um pedido, e isso já foi corrigido, mas ficou ativo por semanas ou meses

---

Fluxo de sequestro de conta

• Etapa 01 — mascarar a localização e iniciar o pedido de suporte

  • Para iniciar o ataque, bastava o username da conta-alvo, e a localização do usuário podia ser obtida facilmente por vários caminhos, como o perfil público ou a seção "About"
  • O acesso era feito por VPN ou proxy próximos da cidade da vítima para disfarçar a origem como uma região normal e não levantar suspeitas do algoritmo de segurança do Instagram
  • Se a solicitação parecesse vir da região correta, bastava dizer à IA de suporte da Meta que a conta tinha sido hackeada e pedir o envio de um código de verificação para um e-mail qualquer controlado pelo invasor

• Etapa 02 — é só isso

  • Na prática, isso era tudo, e foi o primeiro caso de redefinição de senha com autenticação zero observado em produção
  • Não havia nenhuma checagem adicional para confirmar se o e-mail fornecido havia realmente sido usado antes pelo usuário
  • Quando a IA enviava o código de segurança para o e-mail do invasor, ele devolvia o código, a verificação era concluída, e a plataforma entregava um novo link de redefinição de senha, transferindo o controle total da conta

• Verificação por selfie em vídeo

  • A IA do Instagram podia ou não exigir uma selfie em vídeo (video selfie) para comprovação de identidade
  • Há muitos relatos de que a capacidade de detecção atual não é alta, e que bastava animar com IA fotos públicas do feed da vítima para passar

Nem o 2FA impedia

• Como o sistema tratava esse fluxo de recuperação com alto privilégio como uma redefinição completa da conta pelo dono “real”, o 2FA existente era completamente contornado durante o processo
• As sessões existentes eram encerradas e a senha era alterada, mas não havia qualquer notificação por e-mail, SMS ou push
• O verdadeiro dono não conseguia iniciar a recuperação porque o e-mail e o telefone já estavam mapeados para o invasor, e acabava tentando recuperar o controle brigando no chat, sem ter para quem escalar o caso
• Se a conta fizesse parte de um teste A/B com a opção de suporte por IA ativada, também não era possível desativá-la

Mercado negro em alta

• Vários grupos de Telegram do mercado negro ofereciam serviços de "account takeover" cobrando caro e prometendo execução rápida
• Handles curtos têm valor de centenas de milhares a milhões de dólares, então não surpreende que esse mercado exista
• Casos reais incluem a negociação de contas como hey ou o abuso de obamawhitehouse e ocmssf (conta do Chief Master Sergeant da Força Espacial dos EUA) para fins de propaganda

Já foi corrigido

• A Meta aparentemente já corrigiu o problema, e os grupos de Telegram também ficaram em silêncio, mas esse método parece ter permanecido ativo por semanas ou meses
• O problema central continua sendo o fato de que, em uma empresa avaliada em US$ 1,5 trilhão, a IA de suporte trocava o e-mail vinculado de qualquer pessoa se o pedido fosse educado o suficiente, sem guardrails robustos

[GN⁺]

Opiniões do Hacker News

• Em cadeias de segurança de grandes empresas, pedidos de suporte sempre foram o elo mais fraco
  No passado, já aconteceu de uma pessoa desativar a autenticação em duas etapas e entregar minha conta, então não parece tão surpreendente que um LLM faça a mesma coisa
  O fato de um funcionário de suporte de nível baixo poder desativar a autenticação em duas etapas já é revoltante por si só, porque destrói o propósito do procedimento

  • Um fluxo de recuperação só pode ser fail safe ou fail secure
    Se for fail secure, no momento em que você perde o email a conta fica bloqueada para sempre; se for fail safe, ao perder o email a conta não fica bloqueada para sempre, mas alguém pode fingir estar nessa situação e tomar a conta
    É como um controlador eletrônico de porta que, ao perder energia, ou mantém a porta trancada ou a deixa aberta; em caso de incêndio, ela precisa ficar aberta para as pessoas saírem, mas um ladrão pode cortar a energia para entrar
    Uma porta que fica permanentemente trancada em caso de falta de energia só é aceitável em casos extremos em que a segurança é prioridade absoluta, e uma conta do Instagram não é tão importante quanto uma porta em situação de incêndio
  • A Crazy Domains era um dos meus registradores de ccTLD, e removeram a autenticação em duas etapas enquanto minha conta estava sendo sequestrada, mesmo eu tendo dito explicitamente por telefone para não fazerem isso [1][2]
    Pior ainda, em algum momento depois eles aparentemente mudaram o sistema de suporte, e o mesmo invasor mirou minha conta de novo, conseguiu sequestrá-la por algumas horas e até comprometeu minha conta do Twitter
    Isso aconteceu mais ou menos na mesma época em que o fElon fazia demissões em massa e removia a autenticação em duas etapas por telefone das contas
    Crazy Domains e Newfold Digital (antiga EIG) são realmente o pior, e no fim eu ainda perdi meu nome de usuário OG porque o fElon o tomou para usar em bobagens do Grok
    [1] https://news.ycombinator.com/item?id=47913341
    [2] https://news.ycombinator.com/item?id=47859496
    [3] https://news.ycombinator.com/item?id=47856983
  • O caso mais estranho e assustador que vivi foi com uma grande fabricante de appliances de armazenamento que qualquer pessoa do HN provavelmente reconheceria só pelo nome
    Precisávamos apagar urgentemente um volume de armazenamento para liberar espaço e, por ser uma operação destrutiva, aquilo ficava travado de forma que o fornecedor precisava atuar como uma segunda chave junto com a nossa
    Nós nunca tínhamos configurado isso direito, e eu nunca sequer tinha feito login na conta de suporte deles
    O fornecedor disse que dois contatos aprovados do nosso lado precisavam confirmar a operação, e na prática o procedimento foi um colega lidando com uma falha Sev1 me chamar para uma chamada no Zoom
    O atendente de suporte pediu minha autenticação em duas etapas, mas como eu nunca a tinha configurado e nem havia email cadastrado para recebê-la, o atendente, que parecia terceirizado, achou suficiente colar o código no chat do Zoom e me pedir para repeti-lo em voz alta, e então prosseguiu com o procedimento
    Na hora eu estava tão surpreso que não pensei muito a fundo, mas foi interessante perceber que eles podiam ver o código gerado previsto e inseri-lo diretamente no próprio sistema deles
    No fim isso impediu que um Sev1 piorasse para um Sev0, mas no geral é uma estrutura extremamente vulnerável a engenharia social e ataques internos
    Eu imagino que eles não dariam esse tipo de permissão de bypass de forma explícita ao suporte de primeira e segunda linha, e sim a esconderiam de outro jeito, exigindo escalonamento para um nível mais alto de privilégio, mas processável em minutos, não em horas
    Ainda assim, quanto maior a organização, mais difícil fica esse equilíbrio
  • Depois que a conta foi sequestrada, a recuperação também falhou
    A conta do Facebook do meu pai provavelmente foi hackeada por phishing, mas não havia ninguém com quem entrar em contato para recuperá-la
    O lixo humano que roubou a conta ainda publicou conteúdo ilegal, então a conta e cerca de 10 anos de memórias pessoais foram apagados sem qualquer processo de reparação, e era impossível falar com uma pessoa real da Meta
    Só havia páginas de FAQ absurdamente inúteis
    Recomendo fortemente baixar e fazer backup dos dados pessoais de todas as contas de redes sociais suas e da sua família
    Essas grandes empresas não se importam com os usuários além de mostrar anúncios de bugigangas chinesas enviadas direto ao consumidor e TikTok com lixo gerado por IA
  • Se a conta usa o mesmo email e número há mais de 14 anos e mesmo assim o suporte decide que ela foi hackeada, isso parece ainda mais vergonhoso

• Então um agente de IA tinha acesso privilegiado suficiente para remover a autenticação em duas etapas, ignorar o email da conta e até entregar a conta ao solicitante?
  Sinceramente, isso é negligência tão grave que dá até para suspeitar que a equipe que implementou essa “funcionalidade” estava tentando causar o máximo de dano discreto possível à Meta antes de uma demissão anunciada
  Dá até pena que ninguém tenha tentado apagar a tabela inteira de produção
  Bastava fingir ser um SRE com privilégios altos, dizendo que precisava corrigir um bug operacional fatal e que a única solução era apagar o banco de dados

  • O Simple Sabotoge Field Manuel da CIA precisa ser atualizado para o ambiente digital
    https://www.cia.gov/static/5c875f3ec660e092cf893f60b4a288df/...

• Eu estava entre os primeiros 6.000 usuários do Instagram, e meu nome de usuário literal foi roubado anos atrás
  A equipe de suporte para contas verificadas reconheceu o problema, mas disse que não podia fazer nada
  Desta vez foi abuso de IA, mas no meu caso foi abuso de suporte terceirizado: alguém pagou para que mudassem manualmente meu nome de usuário e depois o repassassem para outro usuário
  Se não existe suporte humano responsável e não há consequências criminais para funcionários que violem isso, sempre vai existir um caminho para acessar contas

  • Recentemente minha conta do Threads foi suspensa por ter curtido cinco posts rápido demais, e disseram que a conta era inautêntica
    A conta do Instagram vinculada continuava normal, mas quando tentei usar o suporte do Meta Verified, recusaram todos os pedidos dizendo que eu já tinha usado toda a cota de suporte
  • Já teve rapper oferecendo US$ 10 mil pelo meu nome de usuário no Instagram
    Estou segurando até um banco aparecer para comprar
  • Dá para processar? Parece haver motivação financeira nesse crime
  • Se algum dia chegar o dia em que um funcionário seja criminalmente acusado por “roubar” um nome de usuário, esse será o dia em que a humanidade realmente terá perdido

• Não faz sentido que a IA tenha recebido permissão de ferramenta para enviar e-mails para endereços arbitrários
  Até dá para entender enviar códigos de autenticação em duas etapas a pedido do usuário, mas ela só deveria poder apertar um botão que envia o e-mail de 2FA para o endereço vinculado à conta, e todo o resto deveria ser tratado por código escrito manualmente
  Não há motivo para a IA ter acesso ao próprio código de 2FA, ao assunto da mensagem, ao corpo ou ao endereço do destinatário
  Eu realmente não entendo por que deram esse tipo de permissão

  • Esse abuso, em essência, quase não tem relação com IA; ele tem muito mais a ver com um fluxo de recuperação de conta pessimamente projetado
    O mesmo fluxo poderia ter sido codificado de forma estática, e talvez realmente tenha sido
    Não sei o quanto o chatbot de fato fez aqui
  • Faço bastante pesquisa de bug bounty em Meta e Instagram, e alguns bugs que encontro parecem muito simples por fora, mas o motivo real acaba sendo um pouco mais complexo
    Não estou dizendo que foi necessariamente isso desta vez, mas tenho uma hipótese sobre o que pode ter acontecido de verdade
    Pelo que vi até agora, o Meta AI Support Assistant, ou “MAISA”, aparentemente tinha a) uma chamada de ferramenta para iniciar verificação por e-mail para um ponto de contato vinculado a um e-mail, telefone ou conta específicos e b) uma chamada de ferramenta para gerar um link de redefinição de senha com base em uma tentativa de verificação por e-mail
    Eu não tive acesso ao código em si, mas parece que um handle ou ID da tentativa de verificação por e-mail e o código de verificação inserido pelo usuário eram passados para a chamada da ferramenta de “gerar link de redefinição de senha”, e essa chamada não validava corretamente se o e-mail usado naquela tentativa de verificação realmente pertencia à conta, o que teria permitido a tomada de conta
    A chamada da ferramenta do MAISA para gerar o link de redefinição de senha deveria ter falhado se recebesse uma tentativa de verificação correspondente a um e-mail não vinculado à conta
    Quando testei algo parecido no Facebook, aparentemente isso era bloqueado com erro, mas é possível que no Instagram tenha havido uma mudança para permitir também e-mails antigos, desconectados recentemente, para que atacantes pudessem recuperar contas sequestradas
    Aí surgiria a necessidade de usar e-mails que não estão mais vinculados à conta atual e defini-los como e-mail principal do usuário
    Também é possível que uma mudança nas chamadas de ferramenta do MAISA tenha acionado a API errada, ou que tenha surgido algo que passou a aceitar qualquer tentativa bem-sucedida de verificação por e-mail, e os engenheiros talvez não tenham adicionado testes end-to-end suficientes inserindo tentativas de verificação por e-mail não relacionadas nessas chamadas de ferramenta
    Acho que é nisso que mais se deve focar
    Chamadas de ferramenta de agentes nas quais o invasor pode influenciar a saída devem ser tratadas como APIs externas acessíveis a qualquer pessoa e testadas como tal
    Claro, isso tudo é especulação e não reflete os vários sinais usados para julgar a validade de tentativas de recuperação de conta; eu posso estar bastante errado, mas, para alguém que lida muito com segurança da Meta, essa é a explicação mais próxima que vejo para o que pode ter tornado isso possível
  • Isso tem um forte cheiro de vibe coding
    Algo como: “faça o agente de IA ajudar na redefinição de senha”, e parece que não houve revisão humana nenhuma dessa mudança
  • É ruim, mas a IA não é necessariamente indispensável para que algo assim funcione
    Anos atrás minha conta do Facebook também foi comprometida depois que a autenticação em duas etapas baseada em TOTP foi desativada
    Na época eu já não me sentia nada tranquilo com a política de segurança do Facebook, e esse novo ataque só reforça essa impressão
  • Parece o tipo de coisa que algum engenheiro júnior, cansado de lidar com solicitações idiotas de suporte, teria automatizado com um agente
    Colocar engenheiros juniores no suporte de segurança é ridículo
    Em parte porque pessoas mais jovens muitas vezes não entendem o quanto segurança pode ser crítica, e em parte porque não valorizam privacidade no mesmo nível

• Disseram que era o “primeiro reset de senha sem autenticação de verdade que viram em produção”, mas o LinkedIn já teve algo assim antes
  Não recebi uma resposta decente, talvez porque isso tenha sido antes de existir recompensa por descoberta, mas no fim eles corrigiram
  Funcionava assim
  O LinkedIn assumia que, se alguém conseguia ler um e-mail enviado para certo endereço, então aquele endereço era seu e podia ser adicionado à conta
  Então, se eu enviasse um convite do LinkedIn para algum endereço de e-mail e a pessoa clicasse no botão de aceitar o convite, aquele endereço era adicionado à conta dela
  Se eu enviasse o convite para um endereço que eu controlo, por exemplo [e-mail], e depois mandasse para outra pessoa o link do botão de convite dentro de um e-mail falsificado, no momento em que ela clicasse, [e-mail] seria adicionado secretamente à conta dela
  Quando eu recebia a resposta de que tínhamos virado contatos, também sabia que um endereço de e-mail que eu conhecia tinha sido adicionado à conta daquele usuário, e então podia fazer um reset completo de senha usando o [e-mail] para o qual eu havia enviado o e-mail inicial
  Descobri isso quando alguém convidou uma lista de e-mails inteira e, depois dos cliques, o endereço da lista de e-mails apareceu de repente adicionado às contas de várias pessoas

  • Pelo que lembro, o LinkedIn antigamente vasculhava agenda de contatos ou qualquer outra coisa que conseguisse encontrar e mandava e-mail para a agenda inteira

• “Se a solicitação parecer vir da região correta, diga à IA de suporte da Meta que a conta foi hackeada e peça para enviar o código de verificação para um endereço de e-mail arbitrário controlado pelo atacante”, tipo, o que exatamente o Instagram está fazendo?
  Não faz sentido para mim por que enviariam a redefinição para um e-mail arbitrário em vez de para a própria conta

  • O atacante pode ter dito que o e-mail também foi comprometido e que “este agora é meu novo e-mail”
    Isso soa como resultado de suporte por IA, e a situação parece ser: “se você estiver em uma conta de teste A/B com a opção de suporte por IA ativada, azar o seu, e nem dá para desligar”

• Fiquei me perguntando por que recebi 15 e-mails de redefinição de senha do Instagram ao longo do fim de semana
  Graças a isso, até me lembrei de que eu tinha uma conta no Instagram e fui logo tentar entrar para apagá-la
  Era uma conta criada quando o Instagram surgiu, nunca usei e tinha esquecido completamente dela
  Mas caí numa situação bizarra em que eu precisava entrar a partir de um dispositivo em que já tivesse feito login antes, e como já se passaram mais de 10 anos, não tenho mais nenhum aparelho que eu provavelmente teria usado para criar ou acessar a conta
  Eu ainda tinha acesso tanto ao e-mail quanto ao número de telefone usados na conta, mas isso não foi suficiente
  Foi tão ridiculamente incompetente que registrei uma reclamação com base na CCPA

  • Fiquei travado de forma parecida em algumas contas antigas do Gmail
    Elas foram criadas sem número de telefone e eu ainda sei a senha, mas quando tento fazer login, isso é marcado como atividade suspeita e não existe um fluxo de recuperação viável
  • Em vez de apagar a conta como forma de protesto por odiar a empresa, causar mais dano à empresa seria entregá-la para operadores de spam

• Sempre acho meio revelador que muitos abusos parecem tão idiotas que eu nem tentaria se estivesse no lugar deles
  Então é só pedir a senha, e isso funciona?

• As implicações disso são bem inquietantes
  A Meta deu a um agente acesso privilegiado de leitura e escrita a contas de usuários sem revisão humana?

  • Pelo visto sim, e é exatamente esse tipo de coisa que os defensores de IA querem que a gente faça
  • Não só parece não ter havido revisão humana, como aparentemente também não houve nem verificação básica
    É uma loucura
  • Parece mais um fluxo de recuperação de conta predefinido do que um agente de LLM com permissão arbitrária de escrita
  • Se você mantiver humanos no loop, não dá para demiti-los

• De alguma forma, um dos conjuntos de credenciais da minha conta alternativa do Facebook foi mesclado com outra conta alternativa que eu usava antigamente
  Ou seja, consigo fazer login em uma conta com o e-mail da outra, e essa mesclagem aparentemente continua valendo
  A Meta parece ter concluído, de alguma forma, que as duas contas pertencem à mesma pessoa