Hodu: toolkit de ML amigável ao usuário desenvolvido em Rust
(github.com/daminstudio)De prototipagem a implantação, este é um toolkit de machine learning fácil de usar, com segurança de memória e abstrações de custo zero.
Atualmente, este é um projeto desenvolvido por uma única pessoa. Ainda está em estágio inicial de desenvolvimento, mas os recursos principais já atingiram certo nível de estabilidade, então decidi compartilhá-lo. Agradeço qualquer feedback ou opinião.
O que o Hodu oferece:
- hodu-lib: biblioteca principal de ML que fornece operações de tensores seguras em memória e construção de modelos por meio do sistema de ownership do Rust e de abstrações de custo zero. Suporta diversos backends, como CPU, CUDA e Metal
- hodu-cli: ferramenta de linha de comando que oferece suporte a inferência de modelos, conversão de formatos e compilação AOT para bibliotecas nativas. Inclui gerenciamento de plugins integrado
- hodu-plugin-sdk: SDK para criar plugins personalizados via JSON-RPC. Permite adicionar novos formatos de modelo (ONNX, TensorFlow), formatos de tensor (NumPy, SafeTensors) e backends de execução
Ainda não há comentários.