Whisper Jax: a implementação de API do Whisper mais rápida
(github.com/sanchit-gandhi)- Implementação rápida do modelo de reconhecimento de fala Whisper da OpenAI com otimizações
- Executado em JAX no TPU v4-8. Até 70 vezes mais rápido em comparação com a execução em PyTorch em uma GPU A100
- Pode ser executado em CPU/GPU/TPU, de forma independente ou como endpoint de inferência
Ainda não há comentários.