Um profissional de finanças transferiu US$ 25 milhões para golpistas após uma videochamada com um CFO criado por deepfake

• Segundo a polícia de Hong Kong, um profissional de finanças de uma empresa multinacional foi enganado e induzido a transferir US$ 25 milhões para golpistas que se passaram pelo diretor financeiro (CFO) da empresa usando tecnologia de deepfake
• Os golpistas enganaram o profissional de finanças por meio de uma videoconferência com funcionários falsos recriados por deepfake
• O profissional de finanças recebeu uma mensagem de um CFO baseado no Reino Unido pedindo uma transação secreta e, inicialmente, suspeitou de phishing, mas abandonou a suspeita após ser enganado pela aparência e pela voz de pessoas que reconheceu como colegas na videoconferência

Golpe com deepfake ocorrido em Hong Kong

• A polícia de Hong Kong anunciou recentemente que vários casos ocorreram usando tecnologia de deepfake para enganar pessoas e roubar dinheiro
• A polícia prendeu seis pessoas em conexão com o caso
• A polícia informou que, entre julho e setembro do ano passado, foram feitos 90 pedidos de empréstimo e abertas 54 contas bancárias usando oito documentos de identidade de Hong Kong reportados como perdidos
• Em pelo menos 20 casos, deepfakes de IA imitaram as pessoas dos documentos de identidade para enganar programas de reconhecimento facial
• O golpe envolvendo o falso CFO só foi descoberto depois que o profissional de finanças confirmou a situação com a matriz

Cresce a preocupação global com a tecnologia de inteligência artificial

• Em todo o mundo, cresce a preocupação com o avanço da tecnologia de deepfake e seu potencial de uso indevido
• No fim de janeiro, imagens pornográficas geradas por IA da popstar americana Taylor Swift se espalharam pelas redes sociais, destacando o potencial nocivo da tecnologia de inteligência artificial
• As fotos da cantora em poses sexualmente sugestivas e explícitas foram vistas dezenas de milhões de vezes antes de serem removidas das plataformas sociais

Opinião do GN⁺

• O avanço da tecnologia de deepfake mostra que ela pode se tornar uma ameaça séria nas esferas social e econômica. É importante entender como essa tecnologia pode ser usada indevidamente em fraudes e crimes
• Este artigo aumenta a conscientização sobre os riscos da tecnologia de deepfake e destaca por que indivíduos e empresas devem dar mais atenção à segurança
• O artigo ajuda a despertar atenção para os aspectos negativos trazidos pelo avanço tecnológico e para a importância de preparar medidas de resposta a isso

[GN⁺]

Opiniões do Hacker News

• Muitos hotéis de porte médio e alto nos Estados Unidos são de propriedade de pessoas de origem indiana com o sobrenome Patel.

  • É comum haver golpes em que alguém com o sobrenome Patel liga pedindo uma transferência de dinheiro sob o pretexto de uma situação urgente.
  • Funcionários de hotel às vezes acreditam nisso e chegam a arrombar o cofre ou transferir dinheiro de contas pessoais.
  • Esses golpes usam engenharia social, sem necessidade de IA ou tecnologia de deepfake.

• Um fator cultural chamado "distância de poder" pode influenciar esse tipo de golpe.

  • Em algumas culturas, procedimentos são ignorados e as ordens do superior são obedecidas sem questionamento.
  • Situações parecidas também já foram relatadas em algumas empresas americanas de tecnologia de hardware.

• Na França, houve funcionários que transferiram dinheiro após serem enganados por ligações de pessoas se passando por CEO, CFO ou advogados.

  • Uma quadrilha franco-israelense presa em 2022/2023 aplicou pelo menos 38 milhões de euros em golpes.
  • Eles se passavam pelo CEO sem usar IA de deepfake.

• Há a alegação de que, em uma videoconferência com vários participantes, todos os participantes eram falsos.

  • Isso pode ser verdade, mas também pode ser que o funcionário esteja alegando deepfake como desculpa.
  • Surge a pergunta de quando golpistas passarão a fazer videochamadas em massa para pais ou avós fingindo ser seus filhos e pedindo dinheiro, e como isso poderá ser impedido.

• Um profissional de finanças baseado em Boston transferiu US$ 6 milhões para golpistas em 2023.

  • Houve elementos de engenharia social, mas não houve menção a deepfake.
  • No caso do ataque ao cassino MGM em 2023, golpistas usaram deepfake para enganar funcionários de suporte técnico e contornar a MFA.

• Há especulações sobre a possibilidade de o CFO estar em conluio com especialistas em deepfake para dividir os lucros.

  • Isso não aconteceu de fato, mas o foco está em um cenário futuro.

• A alegação de que todos os participantes de uma videoconferência com múltiplas pessoas eram falsos é mencionada novamente.

  • Isso sugere uma preparação considerável, como a coleta de imagens e amostras de voz de cada participante.
  • Se esse nível de sofisticação já está aparecendo, é provável que surjam novas formas de verificação de participantes para reuniões sensíveis.

• É difícil entender como isso pode acontecer em uma empresa de grande porte.

  • Deve haver procedimentos claros e documentados para que uma transação aconteça.
  • Para que uma transação seja aprovada, várias etapas de aprovação são necessárias, e quem lança o pagamento deve ser diferente de quem o aprova.
  • Quando a transação é lançada, ela deve passar pela primeira aprovação, e aprovações adicionais são necessárias conforme o limite de pagamento.

• Surge curiosidade sobre softwares capazes de enganar pessoas usando deepfake.

  • Ainda não foi visto esse tipo de software, e há dúvidas sobre a existência de produtos que realmente consigam enganar pessoas.

• Esses golpes parecem ser consequência de processos ruins dentro da empresa.

  • Para valores altos, uma videochamada por si só não é suficiente.
  • É necessário haver confirmação por e-mail, conversa pelo chat corporativo e ligação para o celular de executivos de alto escalão.