[Open Source] Cliente multi-LLM com suporte a iOS e macOS - LLM Bridge
(github.com/bipark)Anteriormente, eu havia criado separadamente um cliente LLM exclusivo para Ollama no iOS e no macOS e o disponibilizado como open source, mas agora refiz tudo com base em Swift/SwiftUI, unificando o código para iOS e macOS e adicionando APIs compatíveis.
- Suporte a Ollama e LMStudio como LLMs locais.
- Se você abrir externamente a porta do computador onde o LLM está instalado no Ollama, poderá usar um LLM gratuito remotamente também.
- O LMStudio é um programa de gerenciamento de LLM local com interface própria, no qual é possível buscar e instalar modelos do HuggingFace, permitindo testar diversos modelos.
- No LLM Bridge, é possível configurar IP e porta e usar os modelos instalados para obter respostas às consultas.
- Suporte ao OpenAI
- É possível emitir uma API key, inseri-la no app e usar o ChatGtp por meio de chamadas de API.
- Usar a API pode sair mais barato do que pagar uma assinatura mensal.
- Suporte ao Claude
- Uso de API Key
- É possível enviar imagens para modelos com suporte a imagem
- Suporte a arquivos PDF e TXT
- Extração e envio de texto usando PDFKit
- Suporte a arquivos de texto
- Open source
- Swift/SwiftUI
- Link do código-fonte
Ainda não há comentários.