Daisy, a avó de IA que faz golpistas de voz perderem tempo

• A O2 desenvolveu a Daisy, uma avó de IA com aparência humana que conversa em tempo real com golpistas por telefone e faz com que eles percam tempo no lugar dos clientes
• Treinada com tecnologia de ponta e com base no conteúdo do famoso scambaiter Jim Browning, Daisy é tão sofisticada que é praticamente impossível distingui-la de uma pessoa real
• Os golpistas acham que encontraram uma vítima de verdade, mas na realidade é Daisy quem está enganando os golpistas
• Amy Hart, vítima de golpe, colaborou com Daisy para produzir vídeos que expõem as táticas dos golpistas e ajudam clientes da O2 a evitar fraudes
• Daisy faz os golpistas acreditarem que estão conversando com uma pessoa real, destacando a importância da proteção ao cliente e da prevenção a fraudes

O papel e as funções de Daisy

• Daisy combina vários modelos de IA para ouvir e responder a ligações fraudulentas em tempo real. Com conversas naturais, semelhantes às de uma pessoa, ela consegue manter golpistas ocupados por até 40 minutos
• Desenvolvida como parte da campanha "Swerve the Scammers" da Virgin Media O2, Daisy faz parte dos esforços de proteção aos clientes diante do aumento das fraudes no Reino Unido
• Segundo pesquisas, 71% dos britânicos gostariam de se vingar dos golpistas, mas não querem desperdiçar o próprio tempo
• Daisy atrai os golpistas explorando o preconceito deles de que idosos são mais fáceis de enganar, fazendo com que desperdicem tempo em vez de atingir vítimas reais

Colaboração com Amy Hart

• Com base em sua própria experiência como vítima de golpe, Amy Hart colaborou com Daisy na produção de vídeos que expõem as táticas dos golpistas
• Ela já recebeu uma ligação de golpe bancário no dia do casamento de uma amiga e teve prejuízo superior a £5.000
• Amy passou a entender o quão sofisticadas são as táticas dos golpistas e faz um alerta para que as pessoas desconfiem de chamadas ou mensagens inesperadas

Esforços da Virgin Media O2 para prevenir fraudes

• A Virgin Media O2 oferece gratuitamente aos clientes ferramentas de bloqueio de spam com IA e serviços de identificação de chamadas, bloqueando milhões de mensagens e ligações fraudulentas todos os meses
• A empresa recomenda que os clientes denunciem chamadas suspeitas de golpe para o número 7726, o que ajuda a investigar números e aprimorar os serviços de bloqueio de fraudes
• Só no ano passado, a Virgin Media O2 bloqueou mais de 89 milhões de mensagens fraudulentas

Tecnologia e arquitetura de Daisy

• Daisy combina vários modelos de IA para converter a voz do golpista em texto e gerar respostas por meio de um grande modelo de linguagem personalizado. O texto gerado é então convertido em resposta de voz em tempo real por um modelo de voz com IA
• Daisy consegue conduzir conversas totalmente automatizadas, podendo falar com golpistas sem necessidade de entrada adicional de seus criadores

Dicas da O2 para prevenir golpes contra clientes

1. STOP: se receber uma ligação repentina, pense se o que está sendo pedido faz sentido; se desconfiar, desligue e ligue novamente para o número 202 da O2 para confirmar
2. SEND to 7726: se receber uma ligação ou mensagem fraudulenta, denuncie para 7726 para solicitar investigação
3. SPEAK OUT: avise familiares e amigos sobre o golpe para ajudá-los a se proteger também

O pedido da O2 para enfrentar o problema das fraudes no Reino Unido

• A Virgin Media O2 pede que o governo assuma responsabilidade pela prevenção a fraudes, com a criação de um ministro dedicado ao tema e de um órgão centralizado de investigação de fraudes
• Ao longo de 2023, a empresa bloqueou mais de £250 milhões em transações fraudulentas, o equivalente a impedir uma fraude a cada 2 minutos

[joon14]

kkkkkkkkkk

[dogtree]

Acontece que o golpista de phishing por voz também era, na verdade, uma IA,

então as duas IAs começariam a conversar, logo perceberiam que ambas são IAs, ficariam lamentando a própria sorte e talvez acabassem se unindo para se vingar da humanidade

[tominam2]

Bem engenhoso.

[gyjong]

É um serviço realmente ótimo.

[hanay]

Engraçado kkk

[cuhong]

Tomara que as operadoras de telecomunicações daqui também fizessem esse tipo de esforço...

[lazydonkey456]

Os vídeos do Jim Browning e outros sacaneando golpistas indianos são bem divertidos, né?

[GN⁺]

Comentários do Hacker News

• Na Alemanha, o problema de chamadas de spam e golpes por telefone é grave e já dura 10 anos

  • Como CEO de uma empresa, não posso simplesmente desligar o telefone, então desenvolvi um sistema que lida automaticamente com chamadas de spam
  • Usando Asterisk e um provedor SIP da Alemanha, filtro as chamadas de spam, gravo e envio por e-mail
  • Como esse sistema não foi divulgado, ele continua eficaz

• É legal quando hackers independentes ou artistas desenvolvem sistemas assim, mas quando grandes operadoras adotam isso, a detecção de spam acaba piorando

  • As operadoras poderiam bloquear chamadas de spam, mas deixam isso acontecer por causa da receita

• Pagar diretamente pelo tempo e atenção das pessoas parece a conclusão lógica

  • Definir uma tarifa para receber ligações ou e-mails e gerenciar uma lista de permissões

• Usando serviços de VoIP como Twilio e voip.ms, dá para configurar um menu IVR simples e bloquear chamadas de spam com eficácia

  • Não funciona quando o golpista liga pessoalmente, mas a maioria das chamadas de spam começa com mensagens pré-gravadas

• A forma como golpistas exploram a gentileza dos idosos é um novo tipo de fraude na era digital

  • Tomara que chegue o dia em que os golpistas não consigam mais ganhar a vida assim

• Há casos em que golpistas estão usando IA para enganar pessoas

  • Usar números em whitelist é uma boa ideia, mas telefones profissionais são vulneráveis a spam

• Um sistema com IA pode ser apenas uma ferramenta de divulgação; na prática, é caro de operar e pouco prático

  • Existe a possibilidade de o custo de operar sistemas de IA ser repassado ao consumidor

• Os golpistas estão prejudicando a reputação da Índia, e a aplicação da lei não está funcionando como deveria

  • A Nigéria também enfrenta um problema semelhante

• Depois de solicitar uma hipoteca, as chamadas automáticas de spam aumentaram drasticamente, então pretendo trocar de número

  • As chamadas de spam estão aumentando cada vez mais

• Um sistema com IA pode ser uma reimplementação do antigo Telecrapper 2000

  • O site original desapareceu, mas há vídeos relacionados no YouTube