Codex para o Honcho feito com vibe coding + gateway local de embeddings

(Este projeto foi feito usando vibe coding.)

Olá! Sou um pós-graduando da área farmacêutica que costuma acompanhar o GeekNews com frequência.

Conheci o Hermes Agent aqui e vinha usando bem nas minhas pesquisas, mas descobri que também dava para adicionar um adaptador de memória chamado Honcho.
Só que, ao analisar melhor, vi que ele não usava a cota de assinatura do Codex, e sim um método que funciona enviando requisições de API baseadas em tokens, então fiquei preocupado com cobranças extras. Tive a sensação de que, se usasse sem pensar, poderia acabar perdendo todo o pequeno salário de pós-graduando.

Então, inspirado na ideia de usar no Hermes Agent a cota do Codex incluída na assinatura do ChatGPT como se fossem requisições baseadas em tokens,
criei uma espécie de adaptador que substitui o backend do Honcho por uma assinatura do Codex.

O funcionamento é o seguinte.

1. Ao observar como o Honcho funciona, vi que, na configuração padrão, a avaliação da importância da memória envia requisições para o OpenAI GPT 5.4 mini, e os embeddings de busca também usam um modelo de embeddings da OpenAI.
2. Então usei o código OAuth do Codex do Hermes Agent para fazer a resposta sair como se fosse de um endpoint da OpenAI, e alterei os embeddings para usarem localmente o BGE-M3 fp16.gguf via llama.cpp.
3. A dimensão dos embeddings era 1536 por padrão, mas como há poucos modelos públicos com 1536 dimensões, usei o BGE-M3, que é um modelo de 1024 dimensões.
4. Como a configuração do Honcho oferece suporte a servidor local, instalei antes a stack Docker honcho-codex-gateway e fiz com que a stack Docker original do Honcho se conectasse ao servidor executado por ela.
5. Além disso, como a forma de tokenização do honcho é diferente da do bge, surgiram problemas de comprimento; por isso, fiz com que a tokenização fosse realizada no bge-m3 para que o chunking funcionasse dessa forma.

Como não tenho muita confiança para escrever código, usei no Hermes Agent, como backend, o GPT 5.5 baseado em assinatura do Codex, com esforço de raciocínio em Low.
Confirmei que funcionou bem em um modelo MSI EdgeXpert 1TB da linha GB10 (ARM Ubuntu), comprado para hobby.
Não consegui verificar se funciona em outros sistemas operacionais, como Windows/Mac.

Meu objetivo inicial era publicar também no GeekNews se cerca de 100 pessoas fizessem git clone, e como esse critério foi atingido em apenas 13 dias, resolvi postar aqui para receber avaliações em um lugar que visito com frequência.

Obrigado por lerem até aqui!