llmware - Framework unificado para desenvolvimento de aplicações baseadas em LLM, incluindo RAG

• Permite criar rapidamente aplicações corporativas com LLM, com foco em integrar facilmente modelos LLM de código aberto e conectá-los com segurança ao conhecimento interno da empresa
• Principais recursos
  • Catálogo de modelos: acesso uniforme a todos os modelos, independentemente da implementação subjacente, com consulta simples
  • Biblioteca: coleta, organiza e indexa coleções de conhecimento em grande escala, incluindo parsing, fragmentação de texto e embeddings
  • Consultas: permite consultar bibliotecas com uma combinação de texto, semântica, híbrido, metadados e filtros personalizados
  • Prompts com fontes incluídas: a forma mais fácil de combinar busca de conhecimento com inferência de LLM
  • Modelos otimizados para RAG - modelos de 1 a 7B parâmetros, projetados para integração com fluxos de trabalho de RAG e executados localmente
  • Opções de banco de dados fáceis de escalar - armazenamento de dados integrado, de notebooks a clusters paralelizados
• Agentes multimodais, início rápido mesmo sem instalar banco de dados (SQLite, FAISS), integração com Postgres (pgvector), suporte a GCUF