- Recebe um modelo de IA como entrada e cria uma versão otimizada para executá-lo mais rapidamente
- Testa vários compiladores de deep learning para encontrar o melhor método para um hardware específico
- Agnóstico em relação ao modelo de deep learning: não importa se é Transformer, LSTM, CNN, FCN etc.
- Agnóstico em relação ao hardware: oferece suporte à maioria das CPUs e GPUs. Em breve também terá suporte a TPUs e ASICs dedicados a deep learning
- Agnóstico em relação ao framework: suporte a PyTorch, TensorFlow, HuggingFace, e em breve a outros também
- Tudo é executado localmente, garantindo segurança
- É fácil de usar, bastando apenas algumas linhas de código
1 comentários
(Autor da biblioteca) Obrigado por compartilhar! Fico feliz em saber que foi um trabalho prazeroso.
Ela continuará evoluindo e melhorando o desempenho... feliz aceleração!