Sistema de suporte com IA do Cursor IDE alucina e causa confusão entre usuários

• O Cursor IDE tem como vantagem permitir login simultâneo em vários dispositivos e alternância de trabalho entre eles
• Porém, a partir de certo momento, começou a ocorrer um problema em que o usuário era desconectado automaticamente ao trocar do desktop para o notebook ou ao fazer login em vários dispositivos
• O sistema operava desconectando sem qualquer aviso ou notificação, o que deixou os usuários confusos
• Como o trabalho em múltiplos dispositivos é um recurso essencial para desenvolvedores, os usuários naturalmente interpretaram o bloqueio repentino como uma nova política

A "falsa orientação de política" do sistema de suporte

• Quando os usuários enviaram perguntas ao e-mail de suporte do Cursor, a resposta recebida foi que "isso é um funcionamento normal de acordo com a nova política de login"
• O problema é que essa resposta foi gerada por um chatbot de IA, não por uma pessoa real, e era informação falsa, não uma política real
• Essa explicação criada autonomamente pela IA se espalhou rapidamente entre os usuários e foi confundida com uma política oficial
• Com base nessa informação falsa, vários usuários anunciaram publicamente o cancelamento da assinatura e perderam a confiança no Cursor

Reação da comunidade e falta de resposta

• A principal thread no Reddit, onde a situação estava sendo compartilhada e discutida, foi trancada e depois removida
• Com isso, passou a impressão de que houve silêncio, sem resposta oficial nem esclarecimento sobre o caso
• Na prática, não se tratava de uma mudança de política, mas de um simples erro de backend no tratamento de sessões; ainda assim, a explicação gerada pela IA causou danos maiores

Significado do caso

• Este caso mostra que não se trata apenas de um erro técnico simples, mas de um exemplo de como um sistema de suporte com IA pode destruir a confiança do usuário
• Quando a IA, e não a equipe real, assume o atendimento ao cliente, pode ocorrer o fenômeno de "alucinação", no qual informações falsas são produzidas, e os danos resultantes podem ser grandes
• Quando a falta de transparência na comunicação com os usuários se combina com má gestão do sistema de IA, o resultado pode ser desastroso

[GN⁺]

Comentários no Hacker News

• Há uma ironia no fato de as pessoas insistirem tanto que alucinação não é mais um grande problema, enquanto a empresa que teria a ganhar com esse discurso está sendo diretamente prejudicada

  • Claro, eles vão tentar ignorar esse problema
  • É melhor do que admitir que esse problema ainda existe e não vai desaparecer tão cedo

• Sinto um incômodo em relação aos LLMs

  • Fico me perguntando por que um desenvolvedor de software com amor-próprio usaria algo assim
  • É preciso aprender a escrever bom software e se tornar especialista nessa área
  • A IA reduz o valor do software, estraga o processo e destrói completamente a esperança de desenvolvimento de habilidades dos futuros desenvolvedores juniores
  • Vou continuar usando Debian, Python e Vim
  • Vou escrever código fácil de manter, com orgulho, mesmo sem LLM, LSP ou autocompletar

• Em tom conspiratório, parece que queriam culpar um "agente de suporte com IA" pela mudança de política e torcer para que ninguém investigasse a fundo

  • Não tenho nenhum conhecimento ou motivo específico sobre isso além de uma desconfiança geral em relação à empresa

• Compartilha um link arquivado da postagem original no Reddit

• Não cancelei a assinatura por achar que a mudança de política era real, mas porque isso me lembrou que eu quase não usei o serviço neste mês

• O Cursor é estranho

  • Há milhares de issues sem solução em um GitHub que quase não é usado
  • Tem mais bugs que o VSCode
  • Eu uso todos os dias e pago, mas odeio
  • Você teve sucesso quando criou um produto que as pessoas usam mesmo odiando
  • Fico me perguntando se existem outras alternativas
  • Tentei o Continue, mas a experiência de completar com Tab e de digitação foi decepcionante

• O Cursor está preso em um jogo de gato e rato com o "hack" de usuários criarem contas novas para usar ilimitadamente

  • Isso chegou a ficar em alta no GitHub
  • O Cursor sempre vai ter dificuldade para manter seu próprio fork do VSCode
  • Outras empresas nesse setor estão crescendo rápido, e eu também comecei a migrar para Roo e Cline

• Qual é a evidência de que "dezenas de usuários cancelaram publicamente a assinatura"?

  • Nos comentários, um total de 4 usuários disse que cancelou ou cancelaria a assinatura, e 3 desses 4 disseram que cancelariam se esse problema fosse real ou acontecesse com eles
  • Só 1 pessoa afirmou que já havia cancelado
  • Fico curioso se há outras discussões sobre isso

• Na principal postagem do Reddit:

  • Há um pedido de desculpas pela confusão
  • Se fosse um pedido de desculpas sincero, eles teriam parado de tentar fazer suporte com chatbot

• Este caso vai entrar para a história como um exemplo de o hype da IA ter ultrapassado as capacidades reais da IA