- UI amigável para QA baseada em RAG (geração aumentada por recuperação)
- Projetado para usuários em geral que querem fazer QA sobre documentos e para desenvolvedores que desejam construir seu próprio pipeline de RAG
- Suporte a vários LLMs: provedores de API de LLM como OpenAI, AzureOpenAI e Cohere, além de LLMs locais (
ollama, llama-cpp-python)
- Instalação simples: oferece scripts para começar rapidamente
- Permite testar seu próprio pipeline de RAG com uma UI feita em Gradio (com temas disponíveis)
Principais recursos
- Hospedagem de UI web para QA de documentos:
- Suporte a login de múltiplos usuários
- Organize documentos em coleções privadas/públicas
- Compartilhamento e colaboração em históricos de chat
- Gerenciamento de LLMs e modelos de embedding:
- Suporte a LLMs locais e provedores de API populares como OpenAI, Azure, Ollama, Groq etc.
- Pipeline híbrido de RAG:
- Por padrão, combina recuperadores híbridos (texto completo e vetorial) com reranking para garantir a melhor qualidade de busca
- Suporte a QA multimodal:
- Pode responder perguntas sobre vários documentos que incluem diagramas e tabelas
- É possível selecionar opções de parsing de documentos multimodais na UI
- Citações avançadas e pré-visualização de documentos:
- Fornece informações detalhadas de citação para garantir precisão
- Permite verificar citações e pontuações relacionadas com destaque no visualizador de PDF no navegador
- Exibe alertas quando retornar documentos com baixa relevância
- Suporte a raciocínio complexo:
- Pode responder perguntas complexas/de múltiplas etapas por meio de decomposição de perguntas
- Suporte a raciocínio baseado em agentes usando
ReAct, ReWOO e outros agentes
- UI de configurações configurável:
- Permite ajustar diretamente na UI os principais elementos do processo de busca e geração (ex.: configurações de prompt)
- Extensível:
- Construído com base em Gradio, permitindo personalizar livremente os elementos da UI
- Planeja oferecer suporte a várias estratégias de indexação e busca de documentos. Fornece um pipeline de indexação
GraphRAG como exemplo
3 comentários
Existem frameworks de QA RAG demais, mas quais são as vantagens deste?
Na área de recuperação de informação e no QA dentro da explicação, QA não significa quality assurance, e sim question answering.
O nome é divertido. Pelo nome apenas, chutando, acho que pode ser
kotae(resposta) + Doraemon (mon), ou seja, algo como Kotaemon.