Lançada a extensão experimental para Chrome "Citation Needed", de LLM/RAG, da Wikimedia Foundation

Extensão para Chrome Wikipedia Citation Needed

• Durante a navegação na web, permite selecionar um trecho específico de texto para verificar essa afirmação
• Usa a API do ChatGPT para buscar artigos relacionados na Wikipedia e citar esses artigos
• Fornece sinais de qualidade do artigo, como a data da última edição e o número de referências do artigo, junto com informações sobre se a afirmação selecionada é sustentada pela Wikipedia, ajudando o usuário a entender melhor o contexto das informações que recebe, incluindo as da Wikipedia

Pedido de feedback dos usuários

• Este recurso é experimental e usa IA generativa, e a equipe reconhece que ele pode cometer erros às vezes
• Para entender e melhorar a qualidade dos resultados, pedem que os problemas encontrados sejam reportados pelo link de feedback da extensão
• Feedback geral e ideias sobre outras formas de a Wikipedia ser útil na navegação cotidiana na web também são bem-vindos

Informações para desenvolvedores

• Esta extensão foi desenvolvida pela equipe Future Audiences da Wikimedia Foundation, organização sem fins lucrativos que apoia a Wikipedia e seus projetos irmãos

Opinião do GN⁺

• Esta extensão pode ajudar os usuários a avaliar a confiabilidade das informações que encontram na web. No entanto, como os próprios artigos da Wikipedia podem ter limitações de qualidade e precisão, parece difícil usá-los como critério absoluto.
• Automatizar resumo e verificação com o uso de grandes modelos de linguagem, como o ChatGPT, pode aumentar a conveniência para o usuário, mas ao mesmo tempo também traz o risco de gerar informações incorretas. Parece necessário haver monitoramento contínuo e esforços de melhoria.
• Além da Wikipedia, se também forem utilizadas fontes confiáveis validadas por especialistas de cada área, será possível aumentar a precisão e a abrangência da verificação. No longo prazo, também vale considerar a construção de uma base de conhecimento descentralizada baseada em blockchain.

[GN⁺]

Opiniões no Hacker News

• Um aplicativo experimental de RAG (Retrieval Augmented Generation) com tecnologia de LLM verifica afirmações na internet comparando-as com a Wikipedia.
• Houve uma pergunta sobre se as citações são alucinadas ou se ele usa algo como "citações determinísticas".
• Foi fornecido o repositório Git da Wikimedia para esta extensão. As instruções de build no README estão incompletas, e o hot reload aparentemente não funciona. É possível obter um build funcional com npm run build-dev.
• Não há extensão para Firefox. Isso pode ser por causa das diferenças entre as APIs de sidebar/sidepanel.
• Também seria promissor que um LLM verificasse fatos e sinalizasse artigos da Wikipedia.
• Combinado com um gerador de artigos e um verificador de artigos, seria possível gerar 1 trilhão de páginas. Isso pode ser conteúdo de treinamento útil para LLMs, mas as pessoas também poderiam usar.
• Parece funcionar apenas no Chrome. No Arc, não funciona.
• No meio acadêmico, citações da Wikipedia geralmente são proibidas. A confiabilidade é menor (o autor cita uma fonte que ele mesmo pode editar) e, embora seja boa para encontrar fontes primárias, ela própria é uma fonte secundária.
• Perguntar sobre si mesmo retorna a resposta "Citation Needed é um recurso experimental desenvolvido em 2024". Porém, o parágrafo fornecido não contém informações sobre um recurso chamado 'Citation Needed' desenvolvido em 2024.