Maek, um AI Memory Workspace local-first criado pela equipe que contribuiu para o core de busca do Lucene

Olá. Somos a cognica, uma equipe que desenvolve infraestrutura de busca e AI Memory.

Para apresentar brevemente a equipe: nosso trabalho de busca híbrida probabilística (probabilistic hybrid search) baseada no BB25 (Bayesian BM25), proposto pela cognica, foi recentemente incluído oficialmente no core do Apache Lucene 10.5.0 (BayesianScoreQuery, LogOddsFusionQuery).

Estamos trabalhando para levar essa tecnologia de infraestrutura de busca e memória a um produto que usuários reais possam perceber na prática. Gostaríamos de apresentar o Maek, um app de IA para macOS, nosso primeiro resultado, e receber feedback.

Download e site: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

1. O problema que queremos resolver: “basta aumentar a janela de contexto?”

Ao usar chats de IA, há o incômodo de ter que explicar repetidamente, a cada conversa, o mesmo contexto: o histórico do projeto, decisões passadas, documentos consultados com frequência etc.

Para resolver isso, simplesmente “empurrar todo o texto das conversas anteriores para o prompt” tem limitações claras.

• Desperdício da Context Window e aumento de custos

• Aumento de Hate/Noise causado pela mistura de conteúdos antigos irrelevantes

• Perda justamente do contexto passado que era importante

O Maek se concentra em: “quando chega uma pergunta, como reconstruir (Reconstruct) as memórias necessárias para essa pergunta na melhor forma possível?”

2. Arquitetura central: dados separados e Retrieval baseado em Evidence

O Maek armazena conversas e documentos em um repositório local e, a cada nova pergunta, reconstrói o contexto combinando os sinais abaixo.

• Messages: são o histórico comum do chat e também o alvo de busca por palavras-chave/vetores.

• Document Chunks: em vez de tratar arquivos como itens descartáveis de prompt, lidos uma vez e esquecidos, ele os divide em pequenos chunks e os armazena localmente, para então buscá-los e citá-los (Citation) como base das respostas sempre que necessário.

• Graph: extrai das conversas pessoas, organizações, eventos, decisões, compromissos etc. e os organiza na forma de relações (Connection). Mesmo que o usuário não se lembre das palavras-chave exatas, é possível encontrar pelo contexto conectado.

• Conversation State: é um painel situacional que comprime a situação atual, threads abertas, perfis de pessoas etc. (No entanto, se houver conflito com a mensagem mais recente do usuário, ela funciona como uma “Memory Hint”, dando prioridade à mensagem do usuário.)

• Combinação híbrida baseada em Evidence: BM25, Vector Similarity, Graph e Recency têm escalas diferentes, então simplesmente somar pontuações faz com que um dos sinais domine em excesso. Com base no know-how acumulado ao contribuir com o BB25 para o core do Lucene, tratamos esses sinais como “evidências” (Evidence) necessárias para a pergunta atual e os combinamos de forma refinada.

3. Principais características: Inspectability e Local-First

• Visualização das bases da resposta: além de a IA afirmar que “lembrou e respondeu”, o usuário pode verificar diretamente quais mensagens, quais chunks de documentos, quais Graph Hits e quais informações de State foram incluídos no contexto ao criar aquela resposta (informações de Reconstruction). Isso porque é preciso conseguir depurar “por que ela lembrou” e “por que não encontrou” para confiar na IA e corrigi-la.

• Diferença em relação ao ChatGPT Memory: se o ChatGPT Memory é um recurso de memória personalizada dependente do serviço, o Maek é uma ferramenta independente que acumula os ativos do usuário (conversas, documentos, grafo, estado) em um workspace local e reconstrói o contexto a cada turno.

• Transparência do fluxo de dados: ao usar um modelo local, até a inferência permanece totalmente offline; porém, ao integrar modelos em nuvem como OpenAI/Claude, a entrada atual e o contexto local recuperado são enviados à respectiva API. Esse fluxo de dados é claramente separado na UI e na documentação, para que você possa usar com tranquilidade.

Atualmente estamos em uma versão inicial e conduzindo testes principalmente no ambiente de Macs com Apple Silicon. Seria de grande ajuda receber opiniões nos seguintes pontos.

• Clareza do conceito: se o Maek é explicado como uma abordagem de “AI Memory Workspace”, e não apenas como uma UI de chat simples

• Validade da abordagem: se a forma de reconstruir dinamicamente o contexto a cada turno faz sentido tecnicamente

• Diferenciação em relação ao ChatGPT Memory: se as diferenças em comparação aos recursos de memória dos serviços existentes ficam claras

• Transparência: se a explicação sobre fluxo de dados e segurança ao usar modelos locais/em nuvem está clara

• UX/primeira impressão: se a instalação e a primeira execução como app para macOS são naturais

Link: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

Agradecemos feedbacks críticos. Obrigado.