Dalai - A forma mais simples de executar o LLaMA no seu computador

• É possível executar o modelo LLaMA 7B localmente com apenas 2 linhas
  npx dalai llama
npx dalai serve
• llama.cpp + CDN do llama-dl
• Webapp hackeável embutido (inclui API JavaScript e API Socket.io)
  • Acesse em localhost:3000

[ragingwind]

Quando sai uma, as outras vão saindo em sequência, como uma fileira de batatas-doces puxadas do chão.

[xguru]

Dalai Lama, né... que senso de naming...
llama.cpp - Inferindo o modelo LLaMA do Facebook em C/C++ puro