NeumAI - framework open source de RAG em grande escala

• Plataforma de dados que ajuda desenvolvedores a usar dados para contextualizar grandes modelos de linguagem por meio de Retrieval Augmented Generation (RAG)
  • Extrai dados de fontes existentes, como repositórios de documentos e NoSQL
  • Processa o conteúdo em embeddings vetoriais
  • Coleta embeddings vetoriais em bancos de dados vetoriais para busca por similaridade
• Solução abrangente de RAG que pode escalar conforme a aplicação e reduzir o tempo necessário para integrar serviços como conectores de dados, modelos de embedding e bancos de dados vetoriais

Características

• Arquitetura distribuída de alto desempenho capaz de processar dezenas de bilhões de pontos de dados: otimiza a geração e a coleta de embeddings por meio de alto paralelismo
• Conectores de dados integrados que oferecem suporte a fontes de dados comuns, serviços de embedding e vector stores
• Sincronização em tempo real das fontes de dados para manter os dados sempre atualizados
• Pré-processamento de dados personalizável em formas como carregamento, chunking e seleção
• Gerenciamento consistente de dados com suporte a busca híbrida por meio de metadados: enriquece e rastreia metadados automaticamente para oferecer uma experiência de busca mais rica