BricksLLM - Gateway de IA para LLMs
(github.com/bricks-cloud)- Gateway de IA cloud-native escrito em Go
- Funciona como um proxy para a OpenAI
- Permite criar chaves de API com limite de taxa, limite de custo e TTL, oferecendo recursos detalhados de controle de acesso que a OpenAI não fornece
- O objetivo é oferecer suporte a diversos LLMs, como LLama2, Claude e PaLM2, e simplificar a operação de LLMs
Ainda não há comentários.