Jan - framework multiplataforma para uma alternativa open source ao ChatGPT

 (github.com/janhq)
18 pontos por xguru 2024-01-13 | 1 comentários | Compartilhar no WhatsApp
  • 100% local, roda em qualquer hardware: de GPUs NVidia e Apple Silicon até clusters com múltiplas GPUs
  • O objetivo final é permitir que qualquer pessoa incorpore IA com facilidade
    • Jan Framework, Jan Desktop Client + Server, Nitro
  • Nitro: mecanismo de inferência de alta eficiência escrito em C++ (3 MB)
    • Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion

Leituras relacionadas

1 comentários

 
riskatcher 2024-01-14

Fico curioso para saber como é o desempenho em coreano.