- A OpenAI anunciou suporte a modelos com ajuste fino para o GPT-3.5 Turbo.
- Com o ajuste fino, o modelo passa a seguir melhor as instruções e consegue manter o formato de saída e o tom de voz com muito mais consistência.
- Além do ganho de desempenho, o ajuste fino é especialmente eficaz para encurtar prompts, permitindo reduzir em até 90% o tamanho do prompt e, assim, cortar custos.
- Basta enviar os dados de treinamento e chamar a API para que o modelo com ajuste fino fique pronto.
- Modelos com ajuste fino têm cobrança separada tanto para treinamento quanto para uso.
- Os modelos com ajuste fino baseados nos modelos GPT-3 existentes deixarão de funcionar em 4 de janeiro de 2024, sendo necessário migrar para o GPT-3.5 Turbo.
1 comentários
Há um ponto que ficou de fora do texto principal:
foi relatado que, em uma parcela extremamente pequena de tarefas específicas, o modelo com fine-tuning do GPT-3.5 Turbo apresentou desempenho melhor que o GPT-4.
Em especial, como ele pode reduzir o tamanho do prompt, considerando que o GPT-4 custa dezenas de vezes mais, talvez possa servir como alternativa.