- Funções de LLM são templates de prompt com algumas variáveis de entrada definidas e tipos de saída específicos, como classes, enums, unions e strings opcionais
- O BAML ajuda a escrever essas funções de LLM de forma melhor/mais limpa
- Escreva templates de prompt bagunçados como funções tipadas fáceis de executar e testar (sem regex, loops de try-catch ou erros de tipo)
- Suporte a Python e TypeScript
- Suporte a vários modelos: Ollama, OpenAI, Anthropic
- Pré-visualização de prompt em tempo real: é possível ver o prompt completo mesmo quando há loops/condicionais
- Teste no playground com um clique
- Resilience & Fallback: adiciona retentativas e redundância às chamadas de LLM
- Type Validation: torna o sistema mais resiliente a erros comuns de LLM do que Pydantic/Zod
- Observability Platform: suporte à visualização de funções e replay de requisições com o Boundary Studio
Ainda não há comentários.