ChatLLaMA - implementação open source do ChatGPT baseada em LLaMA
(github.com/nebuly-ai)- O LLaMA, lançado recentemente pela Meta, não foi ajustado para o processo de treinamento RLHF
- O ChatLLaMA é uma implementação de RLHF usando LLaMA, totalmente open source, que permite criar serviços no estilo ChatGPT
- Pode ser treinado cerca de 15 vezes mais rápido que o ChatGPT
- Suporte integrado ao DeepSpeed ZERO para acelerar o processo de fine-tuning
- Oferece suporte a 7B, 13B, 33B e 65B do LLaMA, permitindo escolher o tamanho mais adequado para você
Ainda não há comentários.