ShowHN: Clippy - UI dos anos 90 para LLMs locais

• Clippy é um aplicativo que permite executar diversos LLMs localmente por meio de uma interface de usuário dos anos 1990
• Oferece uma interface de chat simples e clássica, permitindo enviar e receber mensagens com o modelo
• Sem configuração complexa, basta abrir o aplicativo e usá-lo imediatamente, enquanto llama.cpp e node-llama-cpp encontram automaticamente a forma de execução mais eficiente
• É possível ajustar a configuração carregando modelos, prompts e parâmetros personalizados
• Todos os recursos funcionam offline e localmente, e as requisições de rede ocorrem apenas para verificar atualizações

---

Introdução ao Clippy

• Clippy é um aplicativo que permite executar diversos modelos de linguagem de grande porte (LLMs) localmente por meio de uma interface de usuário dos anos 1990
• Oferece uma interface de chat simples e clássica, permitindo enviar e receber mensagens com o modelo

Facilidade de uso

• Sem configuração complexa, basta abrir o aplicativo e usá-lo imediatamente, enquanto llama.cpp e node-llama-cpp encontram automaticamente a forma de execução mais eficiente

Personalização e execução offline

• É possível ajustar a configuração carregando modelos, prompts e parâmetros personalizados
• Todos os recursos funcionam offline e localmente, e as requisições de rede ocorrem apenas para verificar atualizações

Opções de download

• Disponível para download em macOS (Apple Silicon), macOS (Intel), Windows, Linux (RPM, x64) e Linux (Debian, x64)

[GN⁺]

Comentários do Hacker News

• Excelente ideia. Eu costumava chamar agentes de chat de a próxima geração do Clippy meio em tom de piada, porque a personalidade padrão deles, alegre e tagarela, é irritante demais
  • É chocante que a Microsoft ainda não tenha feito isso como uma versão alternativa da interface do CoPilot. O jeito como eles enfiam isso goela abaixo no SO, nos apps e no teclado do meu notebook é demais. Se pelo menos assumissem e reconhecessem o que estão fazendo (com uma piscadinha, talvez), eu odiaria um pouco menos. Eu até consideraria colar um adesivo "Clippy is my CoPilot" no notebook
• Um caso claro de "faça o que as pessoas querem"
  • Isso foi pedido quase todos os dias no x.com
• Fato curioso: o Clippy veio do Microsoft Bob, e Melinda Gates era gerente de marketing
  • Eu sempre me perguntei que papel o relacionamento deles teve em manter o Clippy. Agora me pergunto se o Clippy deixa o Bill Gates triste depois do divórcio
• Fico imaginando se dá para adicionar narração com a voz de Gilbert Gottfried
• A funcionalidade mais famosa do Clippy era interromper para dar conselhos. Normalmente, esses conselhos eram básicos, inúteis ou irritantes. Mas um LLM poderoso poderia realmente fazer o conceito original funcionar. Não apenas como um chatbot que responde a texto, mas observando a tela e entendendo-a por meio de um modelo de visão para oferecer conselhos apropriados. Algo como "há uma maneira mais fácil de fazer o que você está fazendo agora". Ainda não existe confiança para fazer isso usando APIs públicas de LLM, e também não existe o hardware para fazer isso localmente. Mas se um desses dois problemas for resolvido, o ClipGPT poderia ser realmente útil
• Eu estava me perguntando quando alguém finalmente iria turbinar o Clippy com um LLM
• Muito legal! Escrevi um post curto no blog sobre como isso combina perfeitamente com o meu projeto bootc Blue95, inspirado no Windows 95
• Ótimo trabalho! Suporte ao ollama também seria útil
• Incrível, agora também temos o CowPilot
• A ideia é ótima, mas a personalidade precisa de um pouco mais de sagacidade. E talvez de pistas contextuais para fazê-lo agir exatamente ao contrário do que teria sido mais útil na época
  • Acho que a combinação de um editor de texto com o Clippy seria ainda mais poderosa. Afinal, esse era o contexto original do Clippy