Google escolhe resposta (errada) do ChatGPT no Quora como correta

• Ao pesquisar no Google, perguntas e respostas do Quora aparecem com frequência
• O Quora está exibindo respostas geradas com ChatGPT
• O Google selecionou uma alucinação produzida pelo ChatGPT no site do Quora como a resposta correta com maior probabilidade
• Agora, uma alucinação do ChatGPT virou oficialmente uma resposta do Google
• Exemplo de pergunta usada e a resposta errada do ChatGPT
  • P: "É possível derreter ovos? (Can you melt Eggs)"
  • R: "Sim, é possível. A forma mais comum de derreter ovos é aquecê-los usando um fogão ou micro-ondas."
• "Vicious Self-Degradation (autodegradação maliciosa)"

[vmflvm0]

Me dê os números da loteria

[GN⁺]

Opiniões no Hacker News

• O recurso de "respostas" do Google foi criticado por não ser confiável, citando como exemplo informações incorretas sobre a capacidade de disquetes do Amiga.
• Há suspeitas de que o Quora esteja usando conteúdo gerado por IA para obter posições altas no Google e atrair cliques.
• Há surpresa pelo fato de o Google não parecer se importar com isso, apesar de sua política contra manipular o ranking dos resultados de busca usando automação.
• Há preocupação com a disseminação de desinformação em um mundo de "pós-verdade", e a IA pode piorar esse problema.
• Há confusão sobre por que o Quora gera respostas automaticamente para perguntas que já têm respostas escritas por pessoas.
• Espera-se que a internet fique cada vez mais cheia de spam e propaganda maliciosa, e encontrar informações confiáveis se tornará uma tarefa sobre-humana.
• Foi observado que há tópicos no Reddit cheios de contas de bots, o que sugere um aumento no conteúdo automatizado.
• Há dúvidas sobre como o Quora configurou essa integração com o "ChatGPT", com a sugestão de que eles possam estar usando GPT3.5 ou GPT4 via API.
• Há a sugestão de que plataformas como Quora e StackOverflow podem estar supervalorizando quem procura respostas e subestimando a comunidade de pessoas que respondem regularmente.
• Outros mecanismos de busca, como Kagi e DDG, também estão sendo criticados por linkarem para o mesmo tópico do Quora.
• Uma possível solução proposta é rotular conteúdo de IA com um wrapper ou atributo HTML para que mecanismos de busca o indexem de forma diferente.
• A situação é descrita como "enshitification", sugerindo que a qualidade das informações disponíveis online está piorando.