Olá. Há quase 1 ano eu compartilhei aqui uma ferramenta chamada loz.
https://pt.news.hada.io/topic?id=8594
Na época, era uma ferramenta baseada na API da OpenAI que se integrava com pipes do Unix para executar várias funções, e também oferecia suporte à escrita de mensagens de commit do git. Nesta atualização, ela passa a oferecer suporte ao ollama, permitindo instalar e usar facilmente, localmente, o modelo de LLM que você quiser.
O que eu testei foram o Llama2 e o Code Llama, e eles funcionam bem localmente. Como o ollama funciona com base no llama-cpp, ele pode ser usado mesmo sem GPU.
Como referência, a maior parte das mensagens de commit do projeto loz foi escrita com gpt-3.5-turbo e code llama.
No momento, testei no Ubuntu 22.04. Provavelmente também vai funcionar bem no Mac. Experimentem e, se encontrarem bugs ou tiverem ideias, por favor me avisem.
Ainda não há comentários.