OpenAI desenvolve seu primeiro chip em parceria com Broadcom e TSMC e reduz planos de fundição

• A OpenAI está desenvolvendo um chip de inferência para IA e abandonando seu plano de rede de fundições
• A Broadcom está ajudando no design do chip da OpenAI e dando suporte para que ele seja fabricado pela TSMC
• A OpenAI está adicionando chips de IA da AMD para diversificar seu fornecimento de chips

Esforço interno de design de chips da OpenAI e uso de parcerias na indústria

• A OpenAI está avaliando várias opções para diversificar o fornecimento de chips e reduzir custos
• Por enquanto, a empresa pretende interromper seus ambiciosos planos de fundição e se concentrar em seus esforços internos de design de chips
• A estratégia da OpenAI mostra, assim como a de grandes concorrentes como Amazon, Meta, Google e Microsoft, como usar parcerias na indústria e abordagens internas e externas para garantir o fornecimento de chips e administrar custos
• A OpenAI é uma das maiores compradoras de chips, e sua decisão de desenvolver chips personalizados enquanto busca fornecimento de vários fabricantes pode ter amplo impacto no setor de tecnologia
• A Broadcom ajuda empresas como o Google a ajustar com precisão projetos de chips para fabricação e fornece componentes de design que ajudam a movimentar informações rapidamente dentro dos chips
• A OpenAI garantiu, por meio da Broadcom, capacidade de fabricação com a TSMC para produzir seu primeiro chip de design personalizado em 2026
• Atualmente, as GPUs da Nvidia detêm mais de 80% de participação de mercado
• No entanto, a escassez de oferta e o aumento dos custos estão levando grandes clientes como Microsoft, Meta e agora OpenAI a buscar alternativas internas ou externas
• A decisão da OpenAI de usar chips da AMD por meio do Azure da Microsoft mostra que o novo chip MI300X da AMD está tentando conquistar parte do mercado dominado pela Nvidia
• Treinar modelos de IA e operar serviços como o ChatGPT custa caro
• A OpenAI espera um prejuízo de US$ 5 bilhões sobre uma receita de US$ 3,7 bilhões neste ano
• Os custos de computação são a maior despesa da empresa, o que impulsiona seus esforços para otimizar a utilização e diversificar fornecedores

Opinião do GN⁺

• O esforço interno de design de chips da OpenAI e sua colaboração com vários fabricantes representam uma mudança importante no setor de IA. Isso pode criar novas alternativas capazes de desafiar o domínio da Nvidia e acelerar o avanço das tecnologias de IA
• No entanto, podem surgir preocupações relacionadas à estrutura de custos da OpenAI. Em um cenário em que o desenvolvimento de modelos de IA e a operação de serviços exigem gastos enormes, há dúvidas sobre a rentabilidade e a sustentabilidade de longo prazo
• Ao mesmo tempo, o surgimento de novos chips de IA, como o MI300X da AMD, deve estimular a concorrência no mercado e oferecer mais opções aos clientes. Isso pode contribuir para a popularização e a comercialização das tecnologias de IA
• Com o aumento da concorrência no mercado de chips para IA, espera-se que a inovação tecnológica acelere e que a demanda por chips de alto desempenho e baixo consumo de energia cresça. Com isso, a disputa por investimentos e talentos nas áreas de design e fabricação de chips também tende a ficar ainda mais acirrada
• Ao adotar chips de IA, as empresas precisam considerar de forma abrangente fatores como desempenho, custo, compatibilidade e escalabilidade. É importante escolher o chip mais adequado ao roadmap tecnológico de longo prazo e à estratégia de negócios

[GN⁺]

Comentários do Hacker News

• A OpenAI abandonou os planos de construir uma rede de fábricas chamada "foundries" para fabricar chips, por causa do custo e do tempo envolvidos

  • O plano da OpenAI era levantar 7 trilhões de dólares e construir 36 fábricas de fabricação de silício para IA
  • Executivos da TSMC teriam rido ao ouvir esse plano

• A OpenAI está contratando muitos engenheiros de hardware do Google

  • Ao olhar os perfis de engenheiros de hardware da OpenAI no LinkedIn, dá para ver que muitos são ex-funcionários do Google
  • A equipe de TPU do Google está mais fraca do que antes, e é possível que os futuros TPUs do Google fiquem inferiores aos chips da OpenAI

• O desenvolvimento dos TPUs do Google contou com ajuda da Broadcom

  • Considerando a contribuição da Broadcom no desenvolvimento dos TPUs do Google, é natural que ex-funcionários do Google mantenham essa relação também na nova empresa

• Há um movimento para adicionar chips da AMD e da NVIDIA para atender à demanda de infraestrutura

  • A demanda está crescendo "como louca", o que pode levar a problemas de oferta
  • Empresas da Fortune 500 não concentram todos os recursos em um só lugar, e faz sentido diversificar as fontes de hardware e software de IA

• Parece que a OpenAI está construindo seus próprios data centers, mas a matéria não menciona isso claramente

  • Fica a dúvida se existe algum fabricante ocidental, além da TSMC, produzindo chips de IA/multiplicação de matrizes
  • NVIDIA, AMD, Google e OpenAI todos usam a TSMC
  • Fica a dúvida se a Samsung não é competitiva

• Fica a dúvida de quanto tempo vai levar para produzir o novo chip e colocá-lo em uso em treinamento/inferência

• Tirando o GH Copilot, ainda não vi impacto social/cultural dos LLMs

  • Espero que haja um impacto cultural produtivo, amplamente disseminado e duradouro na sociedade

• A OpenAI queria garantir vantagem competitiva com design e fabricação próprios de chips

  • Chips próprios podem oferecer uma grande vantagem em custo
  • Talvez tenham concluído que começar apenas com o próprio design de chip já seja suficiente

• Gastar 7 trilhões de dólares para construir fábricas próprias era um plano ambicioso e imprudente

  • Parece que encararam a realidade e reduziram o escopo do plano
  • Espero que mantenham a qualidade

• É engraçado que fazer o próprio chip com a TSMC seja o plano "reduzido"