Um vetorDB ultra simples para Node.js
(github.com/golbin)Hoje em dia, muita gente usa LLMs para fazer protótipos ou projetos de brincadeira.
Na maioria dos casos, acaba usando busca vetorial como base. Mas, ao prototipar, normalmente você testa busca vetorial com apenas algumas centenas de textos, e mesmo em produtos reais, na maior parte das vezes o uso é responder buscando informações dentro de documentos. Para esse nível de uso, recorrer a um vetorDB separado acaba sendo exagerado ou simplesmente incômodo. Além disso, na prototipagem é importante mostrar tudo visualmente, então geralmente se usa Next.js, e para Node.js havia ainda menos pacotes adequados, o que estava me frustrando. Foi então que vi uma issue do DHH sobre TypeScript e pensei: será que criar um pacote em TypeScript é tão trabalhoso assim? Fiquei curioso, bateu a inspiração de repente e acabei fazendo um..
Ah... eu não queria descobrir por que o pessoal do Svelte e tantos outros estão tentando sair do TypeScript, mas acabei descobrindo.
Não é que o TypeScript em si seja ruim, mas no processo de criar um pacote npm, o sofrimento com testes e tooling realmente pesa bastante. Se para fazer uma ferramentinha pequena já é assim, imagino quem trabalha em projetos grandes...
De qualquer forma, depois de pronto vi que ele é mais útil para prototipagem do que eu esperava, então estou compartilhando.
Obrigado.
4 comentários
Produto relacionado: biblioteca de chunking extremamente simples para Node.js -> https://pt.news.hada.io/topic?id=10801
Isso é uma pergunta separada do open source que você criou, mas a tendência hoje em dia é todo mundo abandonar TS? Fiquei muito curioso.
Não acho que a tendência seja abandonar o TS. O que existe é muita insatisfação. Por isso, parece que estão se esforçando mais, no nível do runtime e dos frameworks, para descobrir como tornar o TS mais fácil de usar.
Ahá~ obrigado