11 pontos por xguru 2024-02-19 | 4 comentários | Compartilhar no WhatsApp
  • Ollama é um software de código aberto que facilita a execução local de LLMs como Llama 2 e Mistral
  • Agora também é possível importar, executar e gerar com LLMs no ambiente Windows
  • Há compatibilidade com a API do Ollama compatível com OpenAPI, aceleração por hardware e acesso à biblioteca completa de modelos
    • Utiliza GPU NVIDIA e conjuntos modernos de instruções de CPU, como AVX/AVX2

4 comentários

 
minho2da 2024-02-19

O Defender está identificando isso como vírus...

 
yonaa 2024-02-19

Não é vírus; como é um executável desconhecido, ele só mostra um aviso.

 
cosine20 2024-02-19

Ollama inicia prévia da versão para Windows