liteLLM - servidor proxy com suporte a mais de 50 LLMs

• Permite chamar a API /chat/completion para diversos LLMs, como Azure, OpenAI, Replicate, Anthropic e Hugging Face
• Unifica os formatos de entrada/saída no padrão da OpenAI
• Suporta fallback de modelos (ex.: se o GPT-4 falhar, chama o llama2)
• Suporte a logging: Supabase, Posthog, Mixpanel, Sentry, Helicone
• Rastreamento de uso de tokens
• Implementa Semantic Caching
• Suporte a streaming e assíncrono