Portkey AI Gateway - use mais de 100 LLMs com uma única API

• Como interface entre apps e LLMs, permite chamar todos os LLMs por meio de uma API unificada
  • OpenAI, Anthropic, Mistral, LLama2, Anyscale, Google Gemini etc.
• Muito rápido (9,9x) e com baixo footprint (~45 kb)
• Permite balanceamento de carga entre vários modelos/provedores/chaves
• Oferece suporte para que os apps funcionem de forma estável com fallback e novas tentativas automáticas

[ragingwind]

Se funcionar bem, será útil.

[vrv18]

Sou um dos mantenedores — estou ansioso pelo feedback da comunidade!