Reor - app de notas com IA que executa modelos localmente

• App de notas para desktop com IA, que conecta automaticamente ideias relacionadas, responde perguntas sobre as notas e oferece busca semântica
• Todos os dados são armazenados localmente, e é possível editar as notas com um editor Markdown semelhante ao Obsidian
• A hipótese do projeto é que ferramentas de pensamento com IA devem, por padrão, executar modelos localmente
• O Reor é baseado em Llama.cpp e Transformers.js, permitindo executar localmente LLMs e modelos de embeddings
• Também oferece suporte à conexão com APIs compatíveis com OpenAI, como o Oobabooga

Como ele se "auto-organiza"?

• Todas as notas escritas são divididas em chunks e transformadas em embeddings em um banco de dados vetorial interno
• Notas relacionadas são conectadas automaticamente por meio de similaridade vetorial
• O Q&A baseado em LLM realiza RAG sobre o corpus de notas
• Tudo pode ser pesquisado semanticamente

Primeiros passos

• Pode ser baixado em reorproject.org ou em releases, com suporte a Mac, Linux e Windows
• Instale como um app comum

Executando modelos localmente

• O Reor interage diretamente com a biblioteca Llama.cpp, então não é necessário baixar o Ollama
• No momento, ele não baixa modelos automaticamente, então o usuário precisa fazer o download manualmente
• É possível baixar os modelos mais populares no HuggingFace, e recomenda-se começar com um modelo 7B de 4 bits
• Nas configurações do Reor, é possível conectar o modelo em "Adicionar novo modelo local"
• Também é possível conectar a APIs compatíveis com OpenAI, como Oobabooga, Ollama ou OpenAI

Importando notas de outros apps

• O Reor funciona em um único diretório dentro do sistema de arquivos
• Na primeira execução, é preciso escolher um diretório; para importar notas/arquivos de outros apps, é necessário preencher manualmente esse diretório com arquivos Markdown
• A integração com outros apps deve chegar em breve

Opinião do GN⁺

• O Reor é um app de notas com IA executado localmente, uma ferramenta inovadora que pode ajudar a expandir e organizar o pensamento do usuário
• O recurso de conectar automaticamente as notas do usuário e responder perguntas sobre elas parece ser de grande ajuda para gestão de informação e aprendizado
• Com potencial para evoluir continuamente por meio das contribuições da comunidade open source, pode se tornar um projeto interessante para desenvolvedores e pesquisadores

[GN⁺]

Comentários do Hacker News

• Um bom lembrete da utilidade das notas do Obsidian salvas como arquivos Markdown individuais:
  • Em vez de armazenar as notas em um banco de dados e usar Markdown como formato de exportação, poder manipular os arquivos diretamente permite que vários apps façam trabalhos úteis sobre os mesmos arquivos.
• Expressão de apreço pela ideia de que a IA deve ser o mais pessoal possível e rodar localmente:
  • Agradecimento por essa perspectiva e pelo esforço contínuo nessa direção.
• Compartilhamento de experiência pessoal com ferramentas de gestão do conhecimento:
  • Usando o modelo Hermes, o recurso de "notas relacionadas" muitas vezes fornece conexões sem sentido, então tem pouco valor.
  • O modo de perguntas e respostas é útil para consultar notas e fornecer uma visão geral, mas não ajuda em perguntas específicas ou dá respostas erradas.
• Forte apoio ao desenvolvimento de ferramentas de gestão do conhecimento que valorizem privacidade e interoperabilidade:
  • Os usuários deveriam poder exportar e migrar facilmente suas notas para novos serviços conforme necessário.
  • Preferência por uma solução totalmente local, como o Obsidian, com a capacidade de o usuário trazer seu próprio modelo ou combinar plugins.
• Compartilhamento de informação sobre o Smart Connections v2 do Obsidian:
  • Suporta embeddings locais e mostra notas relacionadas com base em similaridade semântica.
  • Ainda não é perfeito em repositórios multilíngues, mas está melhorando e em breve talvez suporte modelos multilíngues.
• Sugestões para o Reor:
  • Criar vários "cofres" independentes.
  • Adicionar links às notas relacionadas para representar as conexões de IA em um grafo.
  • Minimizar a UI para uma janela de chat.
  • Ler outros formatos (principalmente PDF).
  • Integrar com histórico/favoritos do navegador (fornecendo scripts de importação manual para Markdown).
• Visão cética sobre o futuro da gestão do conhecimento com IA:
  • Confiar demais na IA para fazer todo o trabalho de organização pode reduzir a capacidade de pensar.
  • Ainda não há dados porque a disseminação dessas ferramentas está em estágio inicial, mas tornar aprendizado, pensamento e "gestão do conhecimento" mais passivos não melhora os resultados.
• Expressão de simpatia pelo Obsidian e por conexões baseadas em grafos:
  • Reconhecimento da semelhança entre a estrutura de notas do Obsidian e o conceito de "segundo cérebro" para gestão pessoal do conhecimento.
  • Implementar busca em notas para referências inteligentes parece um próximo passo natural.
• Interesse pelo projeto e apreço pelo foco adotado:
  • Curiosidade sobre se houve investigação de Cozodb ou de outros bancos de dados que combinem vetores com grafos/triplas.
  • Talvez uma abordagem neuro-simbólica seja a melhor opção.
• Compartilhamento de experiência pessoal com um projeto semelhante para Obsidian:
  • Entusiasmo ao ver algo que já está mais avançado.
  • Está trabalhando em um grande projeto de escrita usando Obsidian, e o objetivo final é conversar com o que foi escrito, lapidar ideias e experimentar novas formas de explorar o conteúdo.
  • Não há certeza de que LLMs locais já sejam fortes o bastante para fornecer resultados significativos/confiáveis, mas há grande empolgação com o futuro dessa tecnologia.
• Compartilhamento de experiência na busca por uma forma melhor de tomar notas:
  • Baixou e está testando a nova ferramenta, e ela parece muito promissora.
  • A capacidade de manter separadas notas de contextos completamente diferentes é importante.
  • É preciso evitar trazer LLMs que soam parecidos, mas têm contextos diferentes.
  • Pensou que "novo diretório" faria isso, mas aparentemente não é o caso.
  • Gostaria de saber se há planos para implementar um alternador de banco de dados e precisa de informações sobre como mudar a localização atual.
  • Ficou feliz ao ver que isso já está em um PR.