Carton - executar modelos de ML com uma única API em várias linguagens

• API open source para todos os frameworks
• Compacta o modelo junto com os metadados em um único arquivo Zip e depois carrega esse arquivo
• O código de inferência pode funcionar independentemente do framework. Ao chamar a API do Carton, o Carton faz as chamadas internas ao framework
• Implementado em Rust, com bindings para cada linguagem
• Suporte a x86_64 Linux e macOS, aarch64 Linux e macOS, e WebAssembly
• Diferente do ONNX, que converte modelos, o Carton não converte e faz apenas o wrapping