Construir LLMs provavelmente não vai virar um grande negócio

xguru · 2024-12-02T11:02:01+09:00

Grandes modelos de linguagem (LLMs) são revolucionários e muita gente os vê como o "futuro" Mas a chance de que "construir LLMs" seja necessariamente um negócio lucrativo é baixa É semelhante a casos em que a inovação tecnológica deu certo, mas terminou em fracasso para os investidores Nos anos 1960, companhias aéreas eram o futuro e pareciam incríveis, aparecendo bastante até em filmes, mas inúmeras faliram. Mesmo com a mudança dos tempos, fundar uma companhia aérea continua não sendo uma boa ideia As ferrovias melhoraram a vida de inúmeras pessoas, mas os investidores foram recompensados com um "colapso dramático" Outros negócios que parecem realmente simples por fora são muito mais lucrativos Por exemplo, vender refrigerante é, surpreendentemente, um negócio gigantesco. Talvez seja até um dos negócios mais bem-sucedidos que existem O retorno sobre patrimônio líquido (ROE) da Coca-Cola quase nunca caiu abaixo de 30% na maior parte dos anos Isso pode até parecer um pouco injusto, já que esse resultado vem de fabricar uma bebida relativamente simples, e não de um setor difícil e complexo como o da aviação Mais interessante ainda é que a Coca-Cola nem sequer fabrica de fato a bebida A fabricação é terceirizada para as "engarrafadoras", e a empresa na prática apenas vende o produto Aviação - uma estrutura industrial desfavorável Tornar-se uma companhia aérea significa ficar, de forma quase única, em uma "posição de mercado terrível" Fornecedores limitados: só existem dois fabricantes de aeronaves, Airbus e Boeing. Por razões de treinamento e eficiência operacional, é preciso escolher um dos dois, o que dá aos fabricantes um grande poder de precificação Clientes volúveis: quem compra passagens é volúvel, tem baixa fidelidade e troca facilmente de companhia por pequenas diferenças de preço Concorrência excessiva no setor: de forma irritante, há muitas companhias operando as mesmas rotas, o que gera uma competição feroz por preço Facilidade de entrada de novos concorrentes: Abrir uma nova companhia aérea é surpreendentemente fácil Aviões têm alto valor como ativo, o que facilita conseguir empréstimos bancários É fácil contratar funcionários qualificados, então novas companhias conseguem entrar no mercado com facilidade Novas companhias aceitam prejuízos iniciais e vendem passagens baratas, acabando às vezes em falência Muitos substitutos disponíveis: pode ser substituída por "trens de alta velocidade" subsidiados pelo governo ou plataformas de videoconferência como Zoom Criação de valor limitada: além disso, mesmo quando companhias aéreas aumentam a eficiência ou lucram com inovação, os fabricantes de aviões percebem isso e elevam os preços na renovação dos contratos de serviço, absorvendo o lucro extra A estrutura favorável da indústria de refrigerantes Ser a Coca-Cola é algo e tanto Poder dos fornecedores Cola leva apenas ingredientes baratos e fáceis de obter, como água, corante, aromatizantes, cafeína e adoçantes Nem é preciso integrar isso diretamente: dá para terceirizar às engarrafadoras e produzir com custo mínimo Forte lealdade à marca por parte dos compradores: Consumidores são exigentes com o que colocam na boca A ponto de o lema informal de um grande concorrente ser algo como "Pepsi serve? (Is Pepsi Ok?)", mostrando que os consumidores têm preferência clara Chama atenção o fato de que, mesmo com sabor e cor idênticos, um número considerável de consumidores responde de fato "não" Barreiras à entrada de novos concorrentes: O nome "Coke" é protegido por marca registrada, então um novo concorrente não pode usar o mesmo nome Consumidores rejeitam refrigerantes de marcas novas e acham estranho beber uma bebida substituta de outra marca A estrutura do setor determina o sucesso do negócio Um bom negócio é determinado pela estrutura do setor, mais do que por fatores como eficiência interna, paixão, inovação ou o quanto as pessoas são inteligentes Segundo o framework das "5 Forças" de Michael Porter, a estrutura do setor se divide nos cinco pontos abaixo: Poder dos fornecedores (poder de precificação) Poder dos compradores (poder de barganha sobre preços) Poder dos concorrentes diretos do setor Potencial/ameaça de novos entrantes Ameaça de substitutos Se nenhuma dessas forças atuar fortemente contra você, seu negócio irá bem Se todas atuarem contra você, você estará na posição de uma companhia aérea E se todas jogarem a seu favor, você será a Coca-Cola A estrutura do setor dos criadores de LLM: OpenAI/Anthropic/Gemini etc. A posição dos criadores de LLM é boa? Não Poder dos fornecedores: a posição dominante da NVIDIA Criadores de LLM às vezes citam provedores de nuvem como Amazon Web Services (AWS) e Google Cloud como fornecedores, mas na prática a NVIDIA é o único fornecedor central A NVIDIA produz de forma monopolista os chips usados por todos os LLMs e tem enorme poder de precificação A posição da NVIDIA diante de Anthropic ou OpenAI é muito mais forte do que a de Airbus ou Boeing Poder de barganha dos compradores: que força eles têm sobre o preço do token de LLM? Usuários de LLM ainda têm baixa fidelidade à marca e podem trocar facilmente de Chat-GPT para Claude Empresas tornam fácil mudar entre modelos de LLM por meio de camadas de abstração, transformando LLMs em commodities intercambiáveis Isso joga contra os vendedores de LLM Concorrentes diretos fortes Existem muitos criadores de LLM, e a competição por preço é intensa O pior é que o Facebook distribui modelos praticamente de graça, derrubando os preços de mercado Isso lembra a estratégia de participação de mercado do Internet Explorer nos anos 1990 e dificilmente é um sinal positivo Facilidade de entrada de novos concorrentes A tecnologia para criar LLMs é publicada em artigos, então novos entrantes conseguem desenvolver modelos com facilidade Mesmo modelos de qualidade inferior conseguem conquistar clientes com preços baixos, o que incentiva novas entradas Situação mista dos substitutos Em vez de texto gerado por LLM, ainda é possível contratar pessoas, o que custa mais, mas tem a vantagem de evitar problemas de alucinação (hallucination) Ex.: a área jurídica tem menor probabilidade de adotar LLMs Quando um caso de uso específico se consolida, metadados tendem a substituir a IA Um pequeno ponto positivo sozinho não basta para virar um negócio lucrativo A estrutura do setor dos criadores de LLM se parece com a da Netscape (que inventou o navegador gráfico da web, mas faliu), e não com um modelo de negócio bem-sucedido como o do Google, que construiu algo em cima do navegador Como é possível captar tanto dinheiro assim? Mesmo com uma estrutura industrial desfavorável, parecida com a de companhias aéreas, como os criadores de LLM conseguem captar tanto dinheiro? Por exemplo, a OpenAI levantou apenas dois meses atrás US$ 6,6 bilhões com valuation de US$ 157 bilhões Isso pode até ser um dos maiores investimentos da história do venture capital Será que eles sabem algo que eu não sei? É um mistério, mas dá para considerar algumas possibilidades: Desenvolver chips para reduzir a dependência da NVIDIA É possível que a OpenAI queira projetar seus próprios chips para reduzir a dependência da NVIDIA e cortar o custo de uso de GPUs US$ 6,6 bilhões não bastam para erguer uma nova fábrica de semicondutores, mas talvez sejam suficientes para projetar um novo chip capaz de permitir a migração para longe da NVIDIA Mas como a própria NVIDIA participou como investidora desta rodada, é provável que "desenvolver chips concorrentes da NVIDIA" não estivesse no pitch deck Fortalecer a marca OpenAI para impedir a concorrência Isso pode ser visto como uma tentativa de construir uma marca forte para evitar que clientes troquem facilmente para modelos concorrentes No setor de tecnologia, há evidências de que estratégias de marca e lock-in podem funcionar Mas como LLMs operam por meio de uma interface textual simples, sem uma API poderosa, há limitações para construir uma marca forte Expulsar novos concorrentes Se esses US$ 6,6 bilhões forem usados para melhorar bastante o desempenho do modelo, isso pode elevar o custo para concorrentes e expulsar players menores do mercado Mas capital é o ativo mais líquido que existe, e US$ 6,6 bilhões não são tanto assim No setor bancário, dá para levantar esse montante com uma única emissão de títulos Portanto, só esta rodada dificilmente será suficiente para convencer os outros Uma empresa que capta muito dinheiro não necessariamente tem um modelo de negócio bem-sucedido Por exemplo, a WeWork captou mais de US$ 10 bilhões e já foi avaliada em US$ 47 bilhões, mas acabou ficando claro que o modelo de negócio não se sustentava Na reestruturação financeira recente, foi avaliada em US$ 560 milhões, e mais de 95% do valor investido evaporou Nem toda empresa de IA vai fracassar O fato de os criadores de LLM terem baixa viabilidade de negócio não significa que o futuro da tecnologia de IA seja sombrio Isso não quer dizer que a tecnologia seja ruim: sucesso tecnológico e sucesso de negócio são coisas separadas Se essa tecnologia será boa ou não tem pouca relação com OpenAI/Anthropic/Mistra/quem quer que seja conseguindo ganhar dinheiro com ela Mesmo com avanço tecnológico, lucratividade não é garantida Tecnologia de virtualização por contêineres: Docker foi um sucesso técnico, mas fracassou na monetização Navegadores web: são softwares altamente avançados, mas criar navegadores não é um negócio bem-sucedido CRM é terrível e, ainda assim, a Salesforce foi um enorme sucesso empresarial Nem toda empresa de IA constrói modelos Se eu tivesse um negócio de IA, jamais construiria um modelo Construir o próprio modelo é trabalho bruto e pouco diferenciado Aproveitando parte dos modelos avançados criados por Anthropic e outras, dá para viabilizar ideias de negócio que antes seriam impossíveis Cuidado com empresas de software que não são empresas de software Empresas de software, por natureza, têm um excelente modelo de negócio: Sem dependência de fornecedores: na prática não existe fornecedor relevante Produto único: software costuma ser original e ter poucos concorrentes Poucos substitutos: a alternativa normalmente é o próprio usuário fazer o trabalho manualmente Por isso, empresas de software mantêm margens altas O problema é que nem toda empresa de tecnologia é uma empresa de software Se ela depende de um fornecedor único e poderoso como a NVIDIA, sua estrutura econômica fica mais parecida com a da Pan-Am (companhia aérea falida) do que com a do Microsoft Office Outras notas Movimento de segurança em IA e marketing da tecnologia LLM: O movimento de segurança em IA funciona como um excelente marketing para a tecnologia LLM Alegações exageradas do tipo "a crise da IA é iminente" acabam funcionando, na prática, como uma estratégia eficaz de promoção do produto Por isso, parece que empresas como a OpenAI contratam tantos especialistas em segurança de IA Coca-Cola e investimento em pesquisa: A Coca-Cola basicamente fica sentada gerando lucros enormes, mas investe parte deles em pesquisa Mesmo que seja "um pouco de investimento", como o lucro é tão grande, o valor acaba sendo considerável Pesquisas de mercado mostraram que a Coke Zero é, na prática, uma Diet Coke voltada para homens, o que mostra como a segmentação por gênero pode funcionar Leituras adicionais sobre estrutura industrial e estratégia de mercado: Recomenda-se consultar a revisão de 2008 de Michael Porter, "The Five Forces that Shape Corporate Strategy" O texto acima talvez não seja a resposta final, mas é um bom primeiro texto para ler e aprender mais. Outros textos de Porter também podem ser úteis

(calpaterson.com)

28 pontos por xguru 2024-12-02 | 3 comentários | Compartilhar no WhatsApp

Grandes modelos de linguagem (LLMs) são revolucionários e muita gente os vê como o "futuro"
Mas a chance de que "construir LLMs" seja necessariamente um negócio lucrativo é baixa
É semelhante a casos em que a inovação tecnológica deu certo, mas terminou em fracasso para os investidores
- Nos anos 1960, companhias aéreas eram o futuro e pareciam incríveis, aparecendo bastante até em filmes, mas inúmeras faliram. Mesmo com a mudança dos tempos, fundar uma companhia aérea continua não sendo uma boa ideia
- As ferrovias melhoraram a vida de inúmeras pessoas, mas os investidores foram recompensados com um "colapso dramático"
Outros negócios que parecem realmente simples por fora são muito mais lucrativos
Por exemplo, vender refrigerante é, surpreendentemente, um negócio gigantesco. Talvez seja até um dos negócios mais bem-sucedidos que existem
- O retorno sobre patrimônio líquido (ROE) da Coca-Cola quase nunca caiu abaixo de 30% na maior parte dos anos
- Isso pode até parecer um pouco injusto, já que esse resultado vem de fabricar uma bebida relativamente simples, e não de um setor difícil e complexo como o da aviação
- Mais interessante ainda é que a Coca-Cola nem sequer fabrica de fato a bebida
- A fabricação é terceirizada para as "engarrafadoras", e a empresa na prática apenas vende o produto

Aviação - uma estrutura industrial desfavorável

Tornar-se uma companhia aérea significa ficar, de forma quase única, em uma "posição de mercado terrível"
Fornecedores limitados: só existem dois fabricantes de aeronaves, Airbus e Boeing. Por razões de treinamento e eficiência operacional, é preciso escolher um dos dois, o que dá aos fabricantes um grande poder de precificação
Clientes volúveis: quem compra passagens é volúvel, tem baixa fidelidade e troca facilmente de companhia por pequenas diferenças de preço
Concorrência excessiva no setor: de forma irritante, há muitas companhias operando as mesmas rotas, o que gera uma competição feroz por preço
Facilidade de entrada de novos concorrentes:
- Abrir uma nova companhia aérea é surpreendentemente fácil
- Aviões têm alto valor como ativo, o que facilita conseguir empréstimos bancários
- É fácil contratar funcionários qualificados, então novas companhias conseguem entrar no mercado com facilidade
- Novas companhias aceitam prejuízos iniciais e vendem passagens baratas, acabando às vezes em falência
Muitos substitutos disponíveis: pode ser substituída por "trens de alta velocidade" subsidiados pelo governo ou plataformas de videoconferência como Zoom
Criação de valor limitada: além disso, mesmo quando companhias aéreas aumentam a eficiência ou lucram com inovação, os fabricantes de aviões percebem isso e elevam os preços na renovação dos contratos de serviço, absorvendo o lucro extra

A estrutura favorável da indústria de refrigerantes

Ser a Coca-Cola é algo e tanto
Poder dos fornecedores
- Cola leva apenas ingredientes baratos e fáceis de obter, como água, corante, aromatizantes, cafeína e adoçantes
- Nem é preciso integrar isso diretamente: dá para terceirizar às engarrafadoras e produzir com custo mínimo
Forte lealdade à marca por parte dos compradores:
- Consumidores são exigentes com o que colocam na boca
- A ponto de o lema informal de um grande concorrente ser algo como "Pepsi serve? (Is Pepsi Ok?)", mostrando que os consumidores têm preferência clara
- Chama atenção o fato de que, mesmo com sabor e cor idênticos, um número considerável de consumidores responde de fato "não"
Barreiras à entrada de novos concorrentes:
- O nome "Coke" é protegido por marca registrada, então um novo concorrente não pode usar o mesmo nome
- Consumidores rejeitam refrigerantes de marcas novas e acham estranho beber uma bebida substituta de outra marca

A estrutura do setor determina o sucesso do negócio

Um bom negócio é determinado pela estrutura do setor, mais do que por fatores como eficiência interna, paixão, inovação ou o quanto as pessoas são inteligentes
Segundo o framework das "5 Forças" de Michael Porter, a estrutura do setor se divide nos cinco pontos abaixo:
- Poder dos fornecedores (poder de precificação)
- Poder dos compradores (poder de barganha sobre preços)
- Poder dos concorrentes diretos do setor
- Potencial/ameaça de novos entrantes
- Ameaça de substitutos
Se nenhuma dessas forças atuar fortemente contra você, seu negócio irá bem
- Se todas atuarem contra você, você estará na posição de uma companhia aérea
- E se todas jogarem a seu favor, você será a Coca-Cola

A estrutura do setor dos criadores de LLM: OpenAI/Anthropic/Gemini etc.

A posição dos criadores de LLM é boa? Não
Poder dos fornecedores: a posição dominante da NVIDIA
- Criadores de LLM às vezes citam provedores de nuvem como Amazon Web Services (AWS) e Google Cloud como fornecedores, mas na prática a NVIDIA é o único fornecedor central
- A NVIDIA produz de forma monopolista os chips usados por todos os LLMs e tem enorme poder de precificação
- A posição da NVIDIA diante de Anthropic ou OpenAI é muito mais forte do que a de Airbus ou Boeing
Poder de barganha dos compradores: que força eles têm sobre o preço do token de LLM?
- Usuários de LLM ainda têm baixa fidelidade à marca e podem trocar facilmente de Chat-GPT para Claude
- Empresas tornam fácil mudar entre modelos de LLM por meio de camadas de abstração, transformando LLMs em commodities intercambiáveis
- Isso joga contra os vendedores de LLM
Concorrentes diretos fortes
- Existem muitos criadores de LLM, e a competição por preço é intensa
- O pior é que o Facebook distribui modelos praticamente de graça, derrubando os preços de mercado
- Isso lembra a estratégia de participação de mercado do Internet Explorer nos anos 1990 e dificilmente é um sinal positivo
Facilidade de entrada de novos concorrentes
- A tecnologia para criar LLMs é publicada em artigos, então novos entrantes conseguem desenvolver modelos com facilidade
- Mesmo modelos de qualidade inferior conseguem conquistar clientes com preços baixos, o que incentiva novas entradas
Situação mista dos substitutos
- Em vez de texto gerado por LLM, ainda é possível contratar pessoas, o que custa mais, mas tem a vantagem de evitar problemas de alucinação (hallucination)
  - Ex.: a área jurídica tem menor probabilidade de adotar LLMs
- Quando um caso de uso específico se consolida, metadados tendem a substituir a IA
Um pequeno ponto positivo sozinho não basta para virar um negócio lucrativo
- A estrutura do setor dos criadores de LLM se parece com a da Netscape (que inventou o navegador gráfico da web, mas faliu), e não com um modelo de negócio bem-sucedido como o do Google, que construiu algo em cima do navegador

Como é possível captar tanto dinheiro assim?

Mesmo com uma estrutura industrial desfavorável, parecida com a de companhias aéreas, como os criadores de LLM conseguem captar tanto dinheiro?
Por exemplo, a OpenAI levantou apenas dois meses atrás US$ 6,6 bilhões com valuation de US$ 157 bilhões
Isso pode até ser um dos maiores investimentos da história do venture capital
Será que eles sabem algo que eu não sei? É um mistério, mas dá para considerar algumas possibilidades:
- Desenvolver chips para reduzir a dependência da NVIDIA
  - É possível que a OpenAI queira projetar seus próprios chips para reduzir a dependência da NVIDIA e cortar o custo de uso de GPUs
  - US$ 6,6 bilhões não bastam para erguer uma nova fábrica de semicondutores, mas talvez sejam suficientes para projetar um novo chip capaz de permitir a migração para longe da NVIDIA
  - Mas como a própria NVIDIA participou como investidora desta rodada, é provável que "desenvolver chips concorrentes da NVIDIA" não estivesse no pitch deck
- Fortalecer a marca OpenAI para impedir a concorrência
  - Isso pode ser visto como uma tentativa de construir uma marca forte para evitar que clientes troquem facilmente para modelos concorrentes
  - No setor de tecnologia, há evidências de que estratégias de marca e lock-in podem funcionar
  - Mas como LLMs operam por meio de uma interface textual simples, sem uma API poderosa, há limitações para construir uma marca forte
- Expulsar novos concorrentes
  - Se esses US$ 6,6 bilhões forem usados para melhorar bastante o desempenho do modelo, isso pode elevar o custo para concorrentes e expulsar players menores do mercado
  - Mas capital é o ativo mais líquido que existe, e US$ 6,6 bilhões não são tanto assim
    - No setor bancário, dá para levantar esse montante com uma única emissão de títulos
  - Portanto, só esta rodada dificilmente será suficiente para convencer os outros
Uma empresa que capta muito dinheiro não necessariamente tem um modelo de negócio bem-sucedido
- Por exemplo, a WeWork captou mais de US$ 10 bilhões e já foi avaliada em US$ 47 bilhões, mas acabou ficando claro que o modelo de negócio não se sustentava
- Na reestruturação financeira recente, foi avaliada em US$ 560 milhões, e mais de 95% do valor investido evaporou

Nem toda empresa de IA vai fracassar

O fato de os criadores de LLM terem baixa viabilidade de negócio não significa que o futuro da tecnologia de IA seja sombrio
Isso não quer dizer que a tecnologia seja ruim: sucesso tecnológico e sucesso de negócio são coisas separadas
- Se essa tecnologia será boa ou não tem pouca relação com OpenAI/Anthropic/Mistra/quem quer que seja conseguindo ganhar dinheiro com ela
- Mesmo com avanço tecnológico, lucratividade não é garantida
  - Tecnologia de virtualização por contêineres: Docker foi um sucesso técnico, mas fracassou na monetização
  - Navegadores web: são softwares altamente avançados, mas criar navegadores não é um negócio bem-sucedido
  - CRM é terrível e, ainda assim, a Salesforce foi um enorme sucesso empresarial
Nem toda empresa de IA constrói modelos
- Se eu tivesse um negócio de IA, jamais construiria um modelo
- Construir o próprio modelo é trabalho bruto e pouco diferenciado
- Aproveitando parte dos modelos avançados criados por Anthropic e outras, dá para viabilizar ideias de negócio que antes seriam impossíveis

Cuidado com empresas de software que não são empresas de software

Empresas de software, por natureza, têm um excelente modelo de negócio:
- Sem dependência de fornecedores: na prática não existe fornecedor relevante
- Produto único: software costuma ser original e ter poucos concorrentes
- Poucos substitutos: a alternativa normalmente é o próprio usuário fazer o trabalho manualmente
- Por isso, empresas de software mantêm margens altas
O problema é que nem toda empresa de tecnologia é uma empresa de software
- Se ela depende de um fornecedor único e poderoso como a NVIDIA, sua estrutura econômica fica mais parecida com a da Pan-Am (companhia aérea falida) do que com a do Microsoft Office

Outras notas

Movimento de segurança em IA e marketing da tecnologia LLM:
- O movimento de segurança em IA funciona como um excelente marketing para a tecnologia LLM
- Alegações exageradas do tipo "a crise da IA é iminente" acabam funcionando, na prática, como uma estratégia eficaz de promoção do produto
- Por isso, parece que empresas como a OpenAI contratam tantos especialistas em segurança de IA
Coca-Cola e investimento em pesquisa:
- A Coca-Cola basicamente fica sentada gerando lucros enormes, mas investe parte deles em pesquisa
- Mesmo que seja "um pouco de investimento", como o lucro é tão grande, o valor acaba sendo considerável
- Pesquisas de mercado mostraram que a Coke Zero é, na prática, uma Diet Coke voltada para homens, o que mostra como a segmentação por gênero pode funcionar
Leituras adicionais sobre estrutura industrial e estratégia de mercado:
- Recomenda-se consultar a revisão de 2008 de Michael Porter, "The Five Forces that Shape Corporate Strategy"
- O texto acima talvez não seja a resposta final, mas é um bom primeiro texto para ler e aprender mais. Outros textos de Porter também podem ser úteis

3 comentários

dalinaum 2024-12-02

A Netscape não inventou o navegador gráfico da web. Já existia o Mosaic...

kandk 2024-12-02

Na indústria da aviação, o hw é importante e o sw tem limitações. (no máximo, comissárias de bordo)
Na inteligência artificial, o sw tem vantagem. No momento, como os modelos são todos divulgados em artigos, parece não haver competitividade, mas os modelos realmente úteis vão ser mantidos em sigilo. Ou então vão seguir com um negócio de licenciamento.

nowdoit7 2024-12-02

Agora é concorrência, mas se virar um monopólio, dá para acumular lucros enormes. O futuro é impossível prever.