11 pontos por xguru 2023-09-07 | Ainda não há comentários. | Compartilhar no WhatsApp
  • Modelo originalmente implementado em Python foi portado para C++ usando a biblioteca GGML
  • O código mais leve permite uso em diversos contextos
  • GGML, nomeada em homenagem ao autor original Georgi Gerganov, é uma biblioteca de tensores com suporte a quantização usada para criar llama.cpp/whisper.cpp
    • Otimizada para CPU em vez de GPU, especialmente no Apple Silicon M1/M2

Ainda não há comentários.

Ainda não há comentários.