Boom de investimento em IA

Anúncios da Microsoft no último mês

• A Microsoft é uma das principais investidoras e fornecedoras de computação da OpenAI
• A Microsoft anunciou que pagará pelo religamento da unidade 1 da usina nuclear de Three Mile Island
• Isso visa atender à disparada da demanda de energia dos data centers
• Com isso, torna-se a segunda grande empresa de tecnologia dos EUA a depender de usinas nucleares legadas, depois da Amazon

Situação atual de uso dos produtos de IA

• São amplamente usados para geração de código, texto e imagem, análise de dados, automação de tarefas e aprimoramento de plataformas online
• Modelos de ponta exigem recursos computacionais enormes para treinamento e inferência
• É necessário um grande conjunto de hardware avançado, abrigado em instalações de escala industrial
• Essas instalações precisam de acesso a grandes quantidades de energia, água, banda larga e outras infraestruturas para operar

Consequências indiretas do boom da IA

• Forte aumento do investimento fixo nos EUA para atender ao crescimento da demanda por computação
• Dezenas de bilhões de dólares estão sendo direcionados para computadores avançados, instalações de data centers, usinas de energia e mais
• A construção de data centers nos EUA atingiu o recorde histórico de US$ 28,6 bilhões por ano
• Isso é quase o mesmo que os EUA gastam, somados, com a construção de restaurantes, bares e lojas de varejo

Escala do investimento em data centers

• Os números de construção se referem apenas aos edifícios físicos e excluem computadores, cabos, ventiladores etc.
• Nos últimos 12 meses, foram importados mais de US$ 6,5 bilhões em grandes computadores e componentes
• Empresas de tecnologia da informação estão comprando a maior parte desses novos data centers e equipamentos
• Nos últimos 12 meses, o estoque líquido de propriedades, fábricas e equipamentos aumentou em mais de US$ 95 bilhões, o maior nível já registrado

Mudanças em comparação com 10 anos atrás

• O Facebook adquiriu o Instagram por US$ 1,2 bilhão e o WhatsApp por US$ 15 bilhões
• Essas estavam entre as maiores aquisições da história da tecnologia na época
• O Instagram tinha apenas 13 funcionários, o WhatsApp 55, e ambos quase não tinham presença física
• Hoje, a Meta gastou US$ 15,2 bilhões em despesas de capital apenas no primeiro semestre de 2024
• O boom da IA é mais intensivo em hardware do que em qualquer outro momento da história

Impacto do boom da IA sobre os investimentos

• O investimento de empresas dos EUA em computadores e equipamentos relacionados disparou para níveis recordes
• Depois de passar por relativa estagnação ao longo de toda a década de 2010, cresceu 16,6% no último ano
• Isso só havia sido superado pelo boom do trabalho remoto na era da pandemia
• Em 2022, o investimento em computadores caiu um pouco, mas voltou a disparar no fim de 2023 com o boom da IA

Aumento da demanda por semicondutores da TSMC

• A TSMC é a principal fabricante mundial de semicondutores avançados
• A demanda por computação de IA elevou as importações de chips, computadores e peças relacionadas vindas de Taiwan
• Nos últimos 12 meses, elas superaram US$ 38 bilhões, alta de mais de 140% em relação ao ano anterior
• As importações diretas de chips lógicos cresceram de um patamar relativamente pequeno para quase US$ 5 bilhões por ano
• Peças e componentes de computador continuam sendo a maior categoria de importação

Análise dos dados de investimento até 2023

• Processadores de dados e empresas de busca na web, como Amazon/Google, mantiveram os maiores níveis de investimento no setor de tecnologia
• Desenvolvedoras de software mostraram o crescimento mais rápido nos investimentos
• O investimento real em propriedade intelectual das empresas de software aumentou 40% desde 2021
• O investimento real em equipamentos como computadores aumentou 96%
• Empresas de software estão competindo para ver quão rápido conseguem construir capacidade de hardware

Desequilíbrio regional na construção de data centers

• Os data centers precisam ser distribuídos até certo ponto para atender às exigências de rede e evitar restrições de infraestrutura
• Mas concentrá-los em grandes clusters ajuda a maximizar os efeitos e reduzir custos/latência
• Os números oficiais de construção fornecem o detalhamento dos gastos com data centers apenas no nível regional
• A construção de data centers está mais ativa nos clusters históricos do sul dos EUA
• O crescimento foi muito mais rápido em mercados do Meio-Oeste e da Costa Oeste
• O Nordeste permanece praticamente sem impacto funcional

Impacto dos data centers na demanda de energia

• A Energy Information Administration (EIA) revisou repetidamente para cima suas projeções de aumento de carga com base na demanda dos data centers
• A previsão é de que o consumo de eletricidade do setor comercial aumente 3% este ano e 1% no próximo
• Os usuários comerciais são um fator menor no aumento do consumo de energia do que a eletrificação residencial e o reshoring industrial
• Ainda assim, entre 2007 e 2023, o consumo de eletricidade do setor comercial cresceu apenas 5% no total
• Estimativas anteriores à IA mostravam que computadores e equipamentos de escritório representavam apenas 11,4% do consumo comercial de eletricidade

Situação do consumo de energia de data centers por estado

• O consumo comercial de eletricidade em Dakota do Norte aumentou mais de 45% desde a abertura de um grande data center em 2022
• No entanto, Dakota do Norte é um mercado relativamente pequeno de energia e computação
• Os maiores aumentos na demanda de energia ocorreram em grandes clusters de data centers como Virgínia e Texas
• O consumo comercial de energia na Virgínia aumentou 30% desde 2019, registrando o maior crescimento de demanda comercial de eletricidade do país
• No Texas, o consumo comercial de eletricidade cresceu 10% desde 2019, e uma expansão muito maior é esperada nos próximos anos

Tendências de investimento em energia por empresas de IA

• Empresas de IA estão tentando se concentrar perto de grandes recursos de energia
• Com isso, o interesse por energia nuclear está ressurgindo
• À medida que empresas de tecnologia constroem capacidade computacional, cresce o desejo de investir diretamente em infraestrutura de geração de energia
• A receita do setor de tecnologia da informação se recuperou da desaceleração de 2022 e 2023
• A receita de desenvolvedoras de software, portais de busca na web e fornecedoras de infraestrutura computacional aumentou entre 12% e 15% no último ano

Fraqueza no emprego tech apesar do boom da IA

• Os EUA adicionaram apenas 32 mil empregos de tecnologia no último ano
• Esse nível é menor do que em 2021, 2022 ou em qualquer momento dos nove anos anteriores à pandemia
• Mesmo as desenvolvedoras de software e a indústria de infraestrutura computacional, no centro do boom da IA de ponta, não registraram crescimento relevante de emprego no último ano
• O mercado de trabalho fraco que vinha afetando recém-formados em engenharia da computação não melhorou muito

Efeitos do boom do investimento em IA no mercado de trabalho

• A remuneração total da manufatura de semicondutores aumentou 25% do 1º trimestre de 2023 ao 1º trimestre de 2024
• Trabalhadores de empresas como a NVIDIA estão recebendo opções de ações muito mais valiosas
• O aumento de 30 mil empregos em construção comercial no último ano reflete o impacto da demanda por data centers
• Há também um boom de empregos na construção industrial ligada a fábricas de semicondutores e outros segmentos de manufatura, além de mais contratações para energia e infraestrutura
• Mas, até agora, a dinâmica de empregos do boom da IA é bem diferente da do mercado de trabalho tech da última década
• O foco está mais em investimento em hardware, empresas de manufatura/projeto e construção de infraestrutura do que em programadores tradicionais

A competição entre desenvolvedores de IA e a visão dos formuladores de políticas

• Desenvolvedores de IA competem ferozmente, esperando validar a atual escala de investimentos com melhorias de produto e comercialização
• No curto prazo, espera-se que os investimentos continuem crescendo à medida que modelos mais avançados forem desenvolvidos e o uso de IA se expandir para mais aplicações reais
• Formuladores de políticas veem a IA como núcleo da futura economia dos EUA
• Desenvolvimento de IA e capacidade de data centers são setores avançados nos quais os EUA têm uma liderança considerável
• O boom da IA provavelmente beneficiou o investimento nos EUA mais do que em qualquer outro país

Possível intensificação da competição geopolítica por capacidade de hardware

• A lei CHIPS buscava reduzir a dependência das importações de Taiwan, mas o aumento da demanda por semicondutores avançados acabou elevando essa dependência
• Para atender ao fornecimento em escala de data center, os EUA ainda dependem da China
• Os EUA provavelmente continuarão restringindo o acesso da China a chips avançados para conter o desenvolvimento de IA chinês
• A China continua expandindo sua capacidade de fabricação de chips para reduzir a dependência de importações
• Se o boom de investimento em IA continuar, isso deve levar a disputa ainda mais fundo na linha de frente da guerra dos chips em curso

Opinião do GN⁺

• Garantir competitividade em semicondutores é uma tarefa extremamente importante na era da IA
• A demanda por semicondutores avançados está disparando, e sem boa tecnologia de semicondutores é difícil criar modelos de IA competitivos
• Além da liderança tecnológica, a capacidade em semicondutores também desempenha papel importante no poder militar e econômico
• A disputa por semicondutores entre EUA e China deve se intensificar ainda mais, com foco em assegurar capacidade produtiva doméstica
• A cooperação e o comércio entre os dois países também podem sofrer algumas restrições
• É necessário reduzir a dependência de um único lado da cadeia de suprimentos de semicondutores e diversificar
• Investimentos massivos em P&D e mão de obra qualificada são essenciais para desenvolver novos semicondutores avançados
• Também vale acompanhar o papel de países asiáticos como Coreia do Sul, Taiwan e Japão
• No longo prazo, este deve se tornar um dos principais campos da disputa por hegemonia tecnológica entre EUA e China

[GN⁺]

Comentários do Hacker News

• Um usuário prevê que grandes booms de investimento de capital, como os das ferrovias, das montadoras e da fibra de telecomunicações na história dos EUA, voltarão a se repetir. Ele acredita que, embora muitas empresas quebrem no início, esses investimentos acabarão trazendo grandes benefícios para a economia e a sociedade. Em especial, acha que os investimentos em energia ajudarão na transição para longe dos combustíveis fósseis

• Outro usuário argumenta que comparar as ferrovias com os investimentos atuais em hardware é inadequado. As ferrovias permanecem sustentáveis por muito tempo, mas ele considera que o hardware atual não terá valor daqui a 6 anos. Também alerta para o risco de que futuros sistemas de IA não funcionem de forma eficiente no hardware atual

• Outro usuário aponta que é contraditório investir enormes recursos em LLMs e ao mesmo tempo defender a pauta da destruição ambiental. Argumenta que, no fim, será preciso abandonar as expectativas em relação aos LLMs ou abandonar a alegação sobre destruição ambiental

• Um usuário afirma que o boom atual de IA está concentrado em GPUs e investimento em hardware, e que o investimento em software e plataformas de IA também deveria receber atenção. Na visão dele, essa história poderia ser descrita com mais precisão como um “boom de investimento em GPUs”

• Um usuário que demonstra preocupação com os custos de nuvem se pergunta que impacto os investimentos em larga escala terão nesses custos. Ele imagina que os preços podem cair com economias de escala, mas também podem subir se os recursos se esgotarem

• Um usuário que prevê que a bolha da IA estourará em breve compara a situação atual à bolha das pontocom de 1998. Ele acredita que LLM e IA generativa serão as palavras da moda deste ano

• Um usuário que aponta o problema das alucinações da IA argumenta que esse tipo de IA não será útil fora de nichos específicos

• Um usuário observa que está ocorrendo um boom de investimento voltado para capacidade futura e se pergunta se a demanda acompanhará isso. Ele prevê que uma capacidade excessiva poderá ser construída, causando algumas falências e custos mais baixos de computação/IA. Na visão dele, isso criará oportunidades para a próxima geração de startups ou empresas prosperar

• Um usuário, ao relembrar uma fala do Dr. Robert Martin, menciona uma situação em que a capacidade de largura de banda aumenta indefinidamente e o custo se aproxima de zero. Ele levanta a possibilidade de a demanda por inteligência ser infinita e de o custo da inteligência convergir para o custo da eletricidade

• Um usuário diz que produtos de IA estão sendo usados para várias finalidades, como geração de código, texto e imagem, análise de dados e automação de tarefas, mas que, pessoalmente, passou a usar menos o Copilot. Ele afirma que a IA cria bugs sutis e faz com que mais tempo seja gasto em depuração. Também tentou modelos de "chain of thought", mas obteve resultados ainda piores