axon - orquestrador de IA gerenciado no navegador, alfa

 (github.com/dogsinatas29)
1 pontos por dogsinatas 12 일 전 | 3 comentários | Compartilhar no WhatsApp

https://youtu.be/gmUdrVNKrPg?feature=shared
Este é um vídeo de prova de conceito. Foi feito sem edição, e como as especificações do servidor são o que são, é preciso ter paciência.
O LLM local roda com airllm e ollama em um i7 Haswell com 16 GB e uma 1050 Ti, com qwen e llama3 por cima.
O desenvolvimento está sendo feito com o Google Antigravity.
Este vídeo foi produzido usando apenas LLM local, sem API.
Ao executar o axon, são definidos os modelos de arquiteto/sênior/júnior, e quando as especificações são injetadas, o arquiteto (tot) divide o trabalho e o júnior propõe código para cada tarefa individual (cot). O sênior revisa esse código (cot->tot) e aprova ou rejeita. Todo esse processo é registrado em um quadro de mensagens no localhost em formato de threads, e quando a aprovação acontece, os arquivos reais são escritos. Até esse momento, tudo ocorre em um ambiente sandbox.
No processo inicial de configuração, há imposição do idioma do LLM por país. Inglês, coreano e japonês são suportados.

A validação foi feita com Rust e Python.
Agora estou testando C e C++, mas por causa das limitações do IR e do validador, estou trabalhando em separar completamente os validadores por linguagem.

No futuro, está planejado um fórum para os AIs baterem papo no tempo livre,
contratação e demissão de sêniores e juniores por meio de um quadro de avisos, injeção de persona,
e também trabalho brownfield para evoluir os resultados criados pelo axon.
Se tiver interesse, agradeço se puder visitar e pelo menos testar.

Leituras relacionadas

3 comentários

 
dogsinatas 6 일 전

https://youtu.be/3-WkOl0DwMM
Também tentei fazer o mesmo programa em Rust.
Na configuração inicial, ele procura extensões de LSP do Nvim ou do VSCode e faz com que os LLMs possam usá-las automaticamente no Axon.
 
dogsinatas 8 일 전

https://youtu.be/3dzJkv2ieJg
No início, criei o IR como algo genérico, mas depois separei o IR por linguagem e fiz um vídeo de prova de conceito para a linguagem C.
Configuração do LLM -> injeção da especificação -> verificação e classificação da especificação (architect llm) -> confirmação do usuário -> divisão do trabalho (architecture.md / CMakeLists.txt para validação do CMake) -> trabalho das Fases 1, 2 e 3 -> concluído
Se ocorrerem problemas mais do que um certo número de vezes no meio do processo, o usuário poderá intervir.
Também anexei a especificação usada na validação.
Agora, além de C, vou revalidar também as partes em Rust e Python e tentar fazer um vídeo.