KubeAI - Operando IA privada sobre Kubernetes
(github.com/substratusai)- Fornece uma API HTTP compatível com OpenAI
- Escalonamento automático com base na carga
- Possibilidade de servir LLMs open source com CPU/GPU
- Zero dependências (Istio, Knative etc.)
- Chat UI integrada
Ainda não há comentários.