Tanuki - Desenvolva facilmente apps baseados em LLM
(github.com/Tanuki)- Em Python, permite chamar LLMs facilmente no lugar de funções, fornecendo os mesmos parâmetros e saídas esperados de uma função implementada manualmente
- Funções baseadas em LLM são bem tipadas, confiáveis e stateless, podendo ser adicionadas diretamente a apps em produção
- Quanto mais funções forem usadas, mais barato fica por meio de destilação automática de modelos (Distillation), chegando a até 9~10x de economia
- Suporte a RAG e Output Align
Ainda não há comentários.