O futuro do golpe já chegou, só não está distribuído de forma uniforme

• LLMs podem criar golpes personalizados com pretextos individuais como entrevistas de emprego, emergências familiares, e-mails de banco e romances, e depois da tomada de conta ainda manter vigilância de longo prazo e lançar ataques posteriores
• Os golpes tradicionais se dividiam entre envios em massa de baixo custo e ataques direcionados de alto custo, mas os LLMs preenchem esse espaço intermediário e tornam possível repetir ataques direcionados de forma barata
• Um artigo de 2024 estimou o custo de e-mails de spear phishing baseados em LLM em cerca de 4 centavos de dólar, e embora o cenário de golpe de recrutamento seja mais complexo, com o nível dos LLMs em 2026 ele pode valer a pena
• Heurísticas como “texto natural”, “presença web sólida” e “confirmação por chamada de voz ou vídeo” funcionavam como indicadores indiretos de custo e capacidade, mas sua confiabilidade está enfraquecendo com clonagem de voz e deepfakes em tempo real
• A defesa não pode se resumir a desconfiar mais de toda mensagem; são necessárias novas práticas como senhas verbais entre familiares, confirmação por canal separado, maior confiança em canais iniciados por você e 2FA por hardware

---

Cenário de golpe de recrutamento criado por LLM

• Um candidato recebe no LinkedIn uma proposta de vaga que parece muito adequada ao seu perfil e participa de um processo seletivo que parece oferecer boas condições em uma empresa conhecida
• Antes da entrevista, ele faz login em uma plataforma que parece um SaaS jurídico para assinar um NDA, usando um fluxo do tipo “Sign in with Google/iCloud”
• A tela de login parece real, e a senha digitada pelo usuário junto com o fluxo de 2FA de “toque em sim no dispositivo” são usados pelo atacante, do outro lado, para entrar na conta verdadeira
• O atacante salva o cookie de sessão e faz o usuário acreditar que se tratou de um login normal, ocultando o acesso à conta
• Depois disso, a entrevista e a mensagem de reprovação funcionam como uma encenação para evitar suspeitas da vítima
• Meses depois, a vítima descobre roubo de identidade, gastos em cartão de crédito em seu nome, vazamento parcial de conta de investimentos e perda de acesso ao e-mail e a várias contas online

Fluxo de ataque possível após a tomada da conta

• O atacante mantém acesso contínuo ao e-mail e às contas e monitora os padrões de comportamento do usuário
  • Filtra antecipadamente os e-mails de alerta das contas invadidas para que as notificações não cheguem à vítima
  • Baixa arquivos da nuvem e usa a conta para fazer login em outros sites
  • Abre cartões de crédito usando as informações da vítima
• Desviar dinheiro de contas financeiras não é tão simples por causa das proteções do sistema financeiro moderno
  • Transferências bancárias online podem ser detectadas, levam alguns dias e, por causa das regras de KYC, pode ser possível rastrear a conta de destino
  • Sites de bancos frequentemente usam 2FA e alertas de login
• Ainda assim, com acesso prolongado sem detecção, o atacante pode mirar contas verificadas com menos frequência, como contas de corretora
  • Pode encontrar contas para as quais o salário é transferido automaticamente
  • Pode obter acesso por redefinição de senha e criar um padrão de uso com pequenas transferências
  • Pode usar informações do calendário, como períodos de férias, para escolher momentos em que a vítima terá mais dificuldade de perceber
• Se concluir que o golpe será descoberto em breve, pode bloquear a vítima das próprias contas para dificultar o entendimento do que aconteceu

O ponto em que a estrutura de custos do golpe muda

• Os golpes tradicionais em geral se dividiam em duas categorias
  • Envio em massa: barato, fácil de executar e voltado a pessoas menos experientes
  • Direcionado: caro e sofisticado, voltado a pessoas de alto valor ou com autoridade dentro de organizações
• A razão de golpes de spam parecerem deliberadamente malfeitos é fazer com que pessoas mais experientes saiam logo no início, reduzindo o custo de atendimento posterior
• Pessoas com familiaridade técnica eram relativamente protegidas de golpes em massa apenas com práticas básicas de segurança digital e alguma noção de como os sistemas funcionam
• Golpes sofisticados voltados a patrimônio pessoal sempre existiram, mas a maioria das pessoas presumiu que a chance de virar alvo era baixa
• Os LLMs mudam essa estrutura polarizada da capacidade dos atacantes
  • O artigo de 2024 estimou o custo de spear phishing feito por LLM em cerca de 4 centavos de dólar por e-mail
  • O cenário de golpe de recrutamento é mais complexo e caro, mas como os LLMs de 2026 estão mais avançados, ele pode passar a valer a pena
  • Golpistas podem operar milhares de golpes ao mesmo tempo e pesquisar dados individuais para criar pretextos personalizados

Capacidades que os LLMs oferecem aos golpes

• Os LLMs podem realizar a baixo custo tarefas que antes exigiam esforço significativo de humanos qualificados para cada alvo
  • Pesquisa sobre a vítima e escolha da melhor abordagem
  • Comunicação personalizada ajustada conforme as respostas
  • Clonagem de voz de familiares ou outras pessoas de confiança
  • Deepfakes em chamadas de vídeo quase em tempo real
  • Construção de uma presença web falsa, porém convincente
  • Monitoramento em tempo real dos recursos comprometidos e expansão do ataque com base nisso
  • Busca e seleção de alvos
  • Evasão de filtros de spam baseados em assinatura
  • Busca e encadeamento de CVEs conhecidas em software implantado sem patch
• Essas capacidades já existem e provavelmente vão melhorar ainda mais
• Golpes operados com custo de tokens podem ser repetidos como um for loop, e o aumento de escala torna possíveis estratégias que antes eram difíceis em golpes individuais

Três mudanças que a escala possibilita

• A escala permite paciência
  • É difícil para uma equipe humana esperar meses ou anos por uma única pessoa, mas ao lidar com muitas ao mesmo tempo com LLMs, uma operação pode ficar adormecida por um período
  • Também é possível sobrepor vários golpes em momentos diferentes
• A escala permite combinação
  • É possível, por exemplo, recrutar laranjas com pequenos golpes e depois combiná-los com desvios maiores de dinheiro
  • O modo como o filme The Sting imitava instituições de confiança com vários golpes pequenos pode se tornar viável hoje com custo muito menor
• A escala cria novos alvos
  • 1.000 contas comprometidas se tornam 1.000 posições autenticadas dentro de cada plataforma
  • Pontos que a plataforma aceitava como “falhas em que o benefício supera o custo de fraudes ocasionais” se tornam grandes brechas que precisam ser fechadas imediatamente quando 1.000 contas são exploradas ao mesmo tempo
  • O cálculo descrito em “The optimal amount of fraud is nonzero” pode mudar diante de abuso simultâneo em larga escala
• Ainda é preciso técnica para combinar esses ataques, mas se ferramentas reutilizáveis começarem a ser vendidas no mercado de golpistas, podem surgir “script kiddies do golpe”
• Alguns golpistas talvez já usem essas capacidades, mas como isso ainda não se popularizou, as heurísticas de pessoas e empresas ainda não foram suficientemente recalibradas

Por que as heurísticas antigas estão enfraquecendo

• Ao receber contato de desconhecidos, as pessoas costumavam pesquisar quem está do outro lado; no caso de familiares, confirmar por telefone ou vídeo; e ficar atentas ao ponto em que a conversa passa a exigir alguma ação de alto impacto
• Parte dessas heurísticas funcionava como indicador indireto de custo
  • Um texto fluente e personalizado sinalizava que uma pessoa real havia investido tempo
  • Uma forte presença web era um sinal difícil e caro de fabricar
  • Havia a suposição de que um golpista não colocaria esse nível de esforço para uma única pessoa
• Outras heurísticas partiam de limites de capacidade
  • Antes era difícil imitar de forma natural a voz de um familiar por telefone
  • Havia a expectativa de que uma pessoa encontrada em chamada de vídeo fosse real e, se necessário, pudesse ser identificada pela polícia
• LLMs e deepfakes abalam ao mesmo tempo essas duas bases: custo e capacidade
• Como resultado, as pessoas precisam fazer mais esforço não só para evitar golpes, mas também para ter certeza do que é real
  • Quando um familiar em outra cidade pede uma transferência urgente, é preciso considerar ao mesmo tempo invasão de conta, interceptação de comunicação e a possibilidade de deepfake
  • Pode ser necessária uma verificação extra no nível de uma visita presencial ou de pedir confirmação a outra pessoa na região

Heurísticas institucionais também estão sendo abaladas

• Não são só indivíduos; instituições financeiras e reguladores também dependem de heurísticas
• A proteção ao consumidor bancário nos EUA traça uma linha forte em torno de quem autorizou a transferência
  • Se alguém acessou a conta e fez uma transferência fraudulenta, a estrutura é tal que o banco arca com a perda
  • Se o usuário foi enganado e fez a transferência pessoalmente, ainda é possível denunciar o crime, mas não há alguém necessariamente obrigado a ressarcir
• Essa distinção faz sentido em um mundo em que “roubo de senha” era mais fácil do que golpes manuais e direcionados de persuasão, mas ela enfraquece quando os LLMs reduzem o custo da persuasão direcionada
• O Reino Unido aprovou em 2024 uma lei exigindo que os bancos reembolsem clientes enganados a fazer transferências
• Ainda assim, obrigar os bancos a cobrir toda perda com fraude pode transferir custo demais para eles e levá-los a evitar clientes com maior probabilidade de sofrer golpes

Novas formas de defesa necessárias

• Não basta adotar apenas uma postura de extrema desconfiança em relação a todo e-mail e toda voz ao telefone
  • As heurísticas antigas eram indicadores indiretos de sinais que agora podem ser forjados de forma barata
• Como na época em que não se podia usar a Wikipedia em trabalhos escolares, insistir em regras antigas de confiança pode ser uma correção na direção errada
  • Depois da explosão de informação na internet, passaram a ser necessárias novas heurísticas, como verificação de fontes e cruzamento de informações
  • A era dos golpes com LLM também exige novas heurísticas
• Pode ser útil olhar para a estrutura comum dos golpes
  • Urgência, sigilo e exigência de usar canais fora do normal são padrões recorrentes
  • Mesmo que o texto fique mais sofisticado, a estrutura de “alguém está pedindo alguma coisa” permanece
• Com familiares, é útil combinar senhas verbais
  • Se não houver senha, pode-se usar como confirmação algum evento passado que dificilmente apareça em registros públicos
  • Para familiares com pouca familiaridade técnica, vale orientar: “se receber uma ligação minha sobre algo sério, urgente ou secreto, desconfie, desligue e confirme por outro canal”
• É difícil confiar na autenticidade de comunicações recebidas, mas caminhos iniciados deliberadamente pelo próprio usuário são relativamente mais confiáveis
  • Um e-mail escrito para um endereço específico em geral chega àquela caixa de entrada
  • Uma ligação feita para um número específico em geral chega àquele aparelho
  • Já o cabeçalho from: de e-mail e o número exibido de quem liga podem ser facilmente falsificados

Práticas de segurança e adaptação futura

• 2FA por hardware pode ajudar a bloquear grande parte das ferramentas dos golpistas
  • Quando disponível, FIDO2/WebAuthn inclui o domínio do site na troca criptográfica, o que dificulta que um site de phishing simplesmente retransmita a assinatura
  • É tratado como uma proteção mais forte do que SMS ou aplicativos autenticadores
• Não é realista esperar nunca ser enganado, mas é possível se tornar um alvo mais caro e mais difícil
• Defensores também podem usar capacidades de LLM
  • A Mozilla fez red teaming do Firefox com o Mythos e concluiu que pode haver uma possibilidade real de encontrar todas as vulnerabilidades de segurança com ferramentas desse tipo
  • O Android introduziu recentemente detecção de chamadas com identidade falsificada
• Instituições e sistemas podem desenvolver proteções melhores com o tempo, mas isso levará tempo e pode virar uma corrida armamentista
• No curto prazo, espera-se um forte aumento dos golpes, e as pessoas precisam pensar no que essa mudança significa para si mesmas, seus amigos e suas famílias, e em como podem ajudar

[GN⁺]

Opiniões no Lobste.rs

• Ainda bem que trabalho em saúde pública. Se o processo de contratação fosse tão polido assim, eu desconfiaria na hora, e um posto de saúde local não tem esse tipo de orçamento
• Não consigo entender como isso seria possível só com a senha nesse fluxo. O atacante não precisaria controlar também o celular?
  A vítima não recebe um e-mail de alerta de novo login? Também não consegue ver as sessões conectadas?
  • Não é só a senha, e sim o cookie de sessão. Quando a vítima fez login no site de phishing, o atacante provavelmente também estava fazendo login do lado dele e, se surgiu um fluxo de autenticação em dois fatores, pode ter simplesmente retransmitido. O e-mail de alerta pode ser apagado ou filtrado
    As sessões conectadas apareceriam, mas nem todo mundo vai conferir isso imediatamente depois de receber uma mensagem pedindo login. Não é raro que contas do Google às vezes peçam para você entrar de novo por vários motivos
    Existem formas de mitigação, como prestar mais atenção na barra de URL, mas todo o contexto de processo de entrevista é desenhado para baixar a guarda
    E, vale reforçar, o golpe com que o texto original começa é só um exemplo de um tipo de fraude que hoje é muito mais fácil de automatizar do que antes, e não é o único tipo com que devemos nos preocupar
• Não me convence esse enquadramento de que “essa capacidade já existe e só vai melhorar; devemos ver essa tecnologia como piso, não como teto”. Não há garantia de que essa tecnologia vá evoluir além do ponto atual, e esse jogo econômico de investimento circular parece que no fim vai estourar
  • Concordo. Parte-se de casos reais, como spear phishing com deepfake, e então se salta para tomada de contas totalmente automatizada em larga escala e ataques man-in-the-middle
    Assume-se que, porque os componentes existem em algum grau, dá para montar tudo, mas os modelos de linguagem de grande porte ainda não têm confiabilidade suficiente para que isso funcione direito em escala