- "Só conseguem sobreviver se o mercado for irracional"
Algo está errado
- Construir modelos de linguagem de grande porte custa muito caro
- A OpenAI gasta US$ 7 bilhões por ano em pesquisa, novos serviços de IA e contratação de funcionários
- Também se espera que a Anthropic gaste US$ 2,7 bilhões neste ano
- O Facebook também está investindo bilhões de dólares
- Não vai ficar mais barato
- À medida que os modelos evoluem, a pesquisa fica mais difícil e o poder computacional necessário também aumenta
- Para criar novos modelos, são necessários mais cálculos matemáticos e mais complexos
- Apesar dos custos, as pessoas continuam construindo novos modelos
- As pessoas acreditam que os LLMs são a próxima era de ouro da tecnologia, então continuarão investindo
- É da natureza humana tentar tornar tudo mais rápido, mais alto e mais poderoso
- Se a indústria continuar criando novos modelos, o valor dos modelos existentes cai rapidamente
- Se um concorrente lançar um modelo novo e melhor, é possível migrar mudando apenas algumas linhas de código
- Para vender um LLM atraente de forma consistente, é preciso se manter no topo
- Mesmo que a indústria deixe de criar novos modelos ou chegue a um assíntota tecnológica, o valor dos modelos antigos também cai rapidamente
- Existem alguns modelos open source, como Llama e Mistral, que no pior caso ficam apenas um ou dois passos atrás dos melhores modelos proprietários
- Se os modelos proprietários pararem de evoluir, os modelos open source fecharão essa lacuna rapidamente
- Portanto, para a OpenAI, a Anthropic ou qualquer outro fornecedor de IA, há duas opções
- A primeira é investir somas enormes para se manter à frente do mercado. Mas isso parece muito arriscado:
- É provável que o custo de construir esses modelos continue subindo, os funcionários mais brilhantes podem ir embora, e talvez você não queira apostar o negócio em ser sempre a primeira empresa a encontrar o próximo grande avanço
- Especialização técnica raramente é um fosso defensivo para sempre
- A segunda é... não sei
- Tentar ainda mais a primeira opção?
Previsão sobre a situação atual
- Há 18 meses, previa-se que os fornecedores de LLM se tornariam os provedores de nuvem da próxima geração
- Na superfície, isso parece semelhante porque construir exige muito capital, mas há diferenças importantes
- Um provedor de nuvem não pode ser criado da noite para o dia
- Já um fornecedor de LLM pode ter seu negócio central ameaçado por uma pequena equipe em poucos meses
- Qual é o fosso defensivo dos fornecedores de LLM?
- Marca, inércia, aplicações melhores, queima massiva de caixa para manter modelos à frente dos concorrentes etc.
- Mas as empresas de IA são um exemplo extremo de um mercado que classifica erroneamente custos de desenvolvimento de software como investimento antecipado
- Empresas pequenas têm dificuldade para investir continuamente bilhões de dólares como as gigantes
A importância do timing
- Neste mercado, o timing pode ser o fator mais importante
- Em algum momento, o hype vai desaparecer e as pessoas não conseguirão mais captar rodadas desse tipo
- E o vencedor não será quem correu mais rápido ou chegou à linha de chegada primeiro, mas quem estava na liderança quando o mercado decidiu que a corrida tinha acabado
Opinião do GN⁺
- Fica a dúvida se o modelo de negócios das empresas de IA é realmente sustentável
- O desenvolvimento de modelos custa somas enormes, e a tendência é que isso continue aumentando
- Como a evolução tecnológica é rápida, os modelos anteriores se tornam obsoletos em pouco tempo
- Portanto, para manter modelos de ponta, é preciso investir continuamente valores muito altos
- Os modelos de IA open source também estão evoluindo rapidamente, e a diferença em relação aos modelos comerciais parece estar diminuindo
- Stable Diffusion, Llama e Mistral são exemplos representativos
- Se as empresas pararem de desenvolver novos modelos, o open source logo vai alcançá-las
- No desenvolvimento de tecnologia de IA, as grandes empresas de TI têm vantagens claras
- Google, Microsoft e Meta podem investir continuamente graças à enorme capacidade financeira
- Também podem aproveitar o alto reconhecimento de marca e a base de clientes existente
- Por outro lado, startups que chegaram depois não parecem ter facilidade para sobreviver apenas com capacidade técnica
- Mesmo que recebam um grande investimento inicial, o ponto crucial é garantir financiamento contínuo
- Quando a bolha estourar, captar investimento ficará mais difícil
- O timing do mercado é importante, e a empresa que estiver na liderança quando o entusiasmo esfriar terá mais chances de vencer
3 comentários
O grande fator é que a OpenAI parece decidida a operar no vermelho para conquistar o monopólio do mercado. De qualquer forma, sempre que a OpenAI fica sem dinheiro, ela atrai investimento do mundo inteiro, mas todas as outras empresas acabam morrendo.
Não seria um enorme jogo de desgaste?
No fim, todos vão morrer e só um modelo gigante vai sobreviver e monopolizar o mercado..
Opiniões no Hacker News
Opinião de um líder de equipe de pesquisa em IA
A curva S da inovação tecnológica
Mudança na definição de IA
Formas de monetizar IA
Situação semelhante ao início do ride-sharing
Fatores de diferenciação dos modelos
Período de confusão no mercado
Problema de otimização dos modelos
Substituibilidade dos produtos