Token Cost - Calcule o custo por token de mais de 400 LLMs
(github.com/AgentOps-AI)- Calcula o custo estimado de prompts e respostas completadas para medir quanto custa usar as principais APIs de LLM
- Acompanha os modelos e preços mais recentes de cada provedor de LLM
- Mede o número de tokens antes do envio do prompt e o número de tokens da resposta gerada, e calcula o valor total com base no custo por token de cada LLM
- Pode ser integrado e usado no seu próprio sistema conectado a LLM com apenas uma função
Ainda não há comentários.