- A OpenAI tem mais uso do que todos os outros provedores de modelos, incluindo Google e Anthropic
- Essas empresas coletam grandes volumes de dados, incluindo prompts dos usuários e feedback explícito e implícito, para ajudar no treinamento de modelos futuros
- As principais vantagens dessas empresas são a escalabilidade da infraestrutura e a qualidade do serviço
- O custo de usar a OpenAI para fazer fine-tuning do GPT-3.5 é de 3 a 8 vezes menor do que alugar uma
p4d.24xlarge da Amazon
- Os custos da OpenAI incluem treinar e armazenar os pesos do modelo, construir e manter a infraestrutura de fine-tuning e o conhecimento especializado necessário para gerenciar milhares de GPUs
- O argumento é que, para a maioria das organizações, não faz sentido operar sua própria implantação de LLM open source por causa do tempo, da equipe e do capital necessários
- Os modelos open source precisam reduzir cada vez mais os custos, a complexidade e o tempo necessário para personalizá-los e executá-los
- Mesmo que os preços acabem subindo, grandes provedores de LLM como a OpenAI provavelmente dominarão o mercado por causa da capacidade de oferecer modelos com economias de escala extremas
5 comentários
Só pelo título, achei que seria muito fácil vencer a OpenAI na concorrência, mas ao ler o original vi que a ideia era que o custo para vencer a OpenAI na concorrência é baixo demais... hahaha
O título e o conteúdo estão dizendo exatamente o oposto um do outro... como você conseguiu interpretar dessa forma?
A IA fez uma tradução estranha, então eu dei uma leve corrigida manualmente.
Originalmente, o título era "É barato demais para vencer a OpenAI".
kkkkk