Korvus - SDK de busca open source que unifica pipelines de RAG em uma única consulta

• Pipeline de RAG (geração aumentada por recuperação) open source
  • Combina LLM, memória vetorial, geração de embeddings, reranqueamento, sumarização e modelos personalizados em uma única consulta
  • Maximiza o desempenho e simplifica a arquitetura de busca
• Construído com base em Postgres. Oferece bindings para Python, Javascript, Rust e C
  • Usa a extensão pgml do PostgresML e a extensão pgvector para condensar todo o pipeline de RAG dentro do PostgreSQL
• Fornece recursos de busca personalizados de alto desempenho, minimizando problemas de infraestrutura

Principais recursos

• Simplifica a arquitetura ao substituir arquiteturas complexas orientadas a serviços por uma única consulta poderosa
• Oferece processamento mais rápido e maior confiabilidade ao eliminar chamadas de API e movimentação de dados
• Melhora a experiência do desenvolvedor usando software open source e modelos executados localmente, inclusive com Docker
• Suporte a várias linguagens, como Python, JavaScript e Rust
• Unifica geração de embeddings, busca vetorial, reranqueamento e geração de texto em uma única consulta
• Executa internamente as operações do Korvus com consultas SQL eficientes sobre uma plataforma de banco de dados comprovada ao longo do tempo

O poder do SQL

• O Korvus oferece interfaces de alto nível em várias linguagens de programação, mas suas operações principais se baseiam em consultas SQL otimizadas
• Usuários avançados podem inspecionar e entender as consultas subjacentes
• É possível expandir os recursos do Korvus modificando ou adicionando operações SQL
• É possível aproveitar os benefícios dos recursos avançados de otimização de consultas do PostgreSQL