FullMoon - app open source de LLM local para Mac/iOS

• Permite conversar de forma privada com LLMs locais otimizados para Apple Silicon
  • 4 modelos, incluindo Llama-3.2-1B/3B-Instruct-4bit e DeepSeek-R1-Distill-Qwen-1.5B-4/8bit
• Permite personalizar tema/fonte/system prompt
• Suporte à integração com Shortcuts
• Gratuito e open source, com download disponível na Mac App Store e na App Store do iOS
• Swift MLX + Metal 3

[jyha81]

Por enquanto, ainda é só um app, então fiquei um pouco tentado.

[dicebattle]

Parece bom que também dê para rodar no iOS.
No Mac, eu simplesmente uso o LM Studio...

[laeyoung]

Até suporta o Apple Vision; se só tiver entrada de áudio, já parece bem legal.

[yangeok]

Então a diferença para o ollama é... ah, é um app mesmo haha