CEO da Intel: "toda a indústria está motivada a eliminar o mercado da CUDA"

CEO da Intel ataca a tecnologia CUDA da Nvidia no setor de IA

• O CEO da Intel, Pat Gelsinger, afirmou em um evento realizado na cidade de Nova York, ao apresentar o Intel Core Ultra e os chips de datacenter Xeon de 5ª geração, que a tecnologia de inferência em IA será mais importante do que o treinamento.
• Gelsinger mencionou que a CUDA da Nvidia domina a área de treinamento, mas não será assim para sempre, explicando que MLIR, Google, OpenAI e outros estão migrando para uma 'camada de programação ao estilo Python' para tornar o treinamento de IA mais aberto.
• A Intel enfatizou que é competitiva não apenas na área de treinamento, mas também em inferência, destacando que o importante é a capacidade de executar bem os modelos.

Estratégia de IA da Intel e o padrão OpenVINO

• Gelsinger afirmou que está impulsionando os esforços de IA da Intel por meio do padrão OpenVINO e previu um futuro de computação híbrida acontecendo na nuvem e no PC.
• Sandra Rivera, vice-presidente do grupo de datacenter e IA da Intel, acrescentou que a Intel pode ter vantagem na escolha de parceiros com base em sua escala, do datacenter ao PC.
• Gelsinger disse que a Intel competirá por 100% do mercado de IA em datacenters com CPUs líderes, aceleradores e foundry, e mencionou que também buscará oportunidades comerciais com Nvidia, AMD e outras.

Opinião do GN⁺

• As declarações do CEO da Intel, Pat Gelsinger, mostram uma nova tentativa de desafiar o domínio da tecnologia CUDA da Nvidia no setor de IA. Isso pode ser visto como parte de um movimento dentro da indústria de tecnologia em direção a uma abordagem mais aberta e padronizada.
• A estratégia da Intel de colocar foco na tecnologia de inferência em IA sinaliza uma nova dinâmica competitiva no mercado de IA. Isso sugere uma mudança na direção de atribuir mais valor à execução e ao uso eficiente de modelos de IA.
• Oferece uma visão sobre como a Intel está tentando fortalecer sua posição no setor de IA por meio de padrões como o OpenVINO. Isso pode contribuir para promover a democratização da tecnologia e a inovação.

[GN⁺]

Comentários do Hacker News

• Discussão sobre a importância do CUDA

  • CUDA não é apenas uma questão da velocidade de produção de chips, mas de software e ecossistema. Os concorrentes precisam competir com o ecossistema.
  • Uma Mi100 usada no eBay oferece desempenho quase igual ao da A100 por um preço 5 vezes menor, mas, devido à incompatibilidade de software, leva muito mais tempo para colocar em funcionamento em comparação com uma GPU da Nvidia.
  • O Google oferece compatibilidade com o PyTorch por meio da interface XLA, e a Intel está em situação semelhante.
  • Os concorrentes precisam testar todos os modelos e construir uma grande suíte de testes para encontrar e corrigir problemas.
  • A Intel tende a anunciar iniciativas publicamente e oferecer apenas suporte mínimo, e é pouco provável que o OpenVino tenha sucesso. Em contraste, o Triton da OpenAI parece ser mais popular.

• A estratégia de engenharia de software da NVIDIA

  • Mais da metade dos engenheiros da NVIDIA são engenheiros de software. Jensen construiu uma stack de software poderosa ao longo de décadas.
  • Até que a Intel encontre um CEO técnico e estratégico, será difícil organizar uma resposta bem-sucedida ao CUDA.

• Expectativas e realidade sobre alternativas ao CUDA

  • Se houver ferramentas, ecossistema e experiência de programação melhores do que os do CUDA, todos sairão ganhando.
  • No entanto, no momento, essa afirmação soa um tanto ridícula, considerando tentativas anteriores como o fracasso do OpenCL.
  • Intel e AMD fizeram muito menos esforço do que o investimento no CUDA, e o resultado é decepcionante.

• Questionamento sobre a verdadeira vantagem do CUDA

  • A vantagem do CUDA está no ecossistema de software, não no hardware.
  • Para a maioria dos usuários, talvez não haja muito custo de migração, mas para pesquisadores e pessoas que expandem os limites, isso pode não ser verdade.

• Críticas aos esforços de resposta baseados em OpenCL

  • Intel e AMD tiveram vários anos para oferecer funcionalidades semelhantes com base em OpenCL, mas falharam.

• Falta de motivação para se afastar do CUDA

  • A maioria dos modelos e ferramentas ainda usa CUDA, e quase não se vê uso do middleware de redes neurais da AMD.

• Fracasso da estratégia de software da Intel e da AMD

  • A Intel não fez nada nos últimos 10 anos e desperdiçou bilhões de dólares em GPUs que mal funcionam.
  • A Nvidia investiu com sucesso em ajudar o avanço da IA.

• Críticas à estratégia de software da Intel e da AMD

  • Pat Gelsinger e Lisa Su têm pouca compreensão de software e estão contando com a comunidade para o software de hardware complexo.
  • A Nvidia vem evoluindo hardware e software em conjunto, e o modelo de programação do CUDA era uma grande aposta desde muito tempo atrás.
  • Se Intel e AMD não fizerem mudanças fundamentais, perderão para ARM e Nvidia.

• Expectativas em relação às GPUs da Intel

  • Se fosse possível rodar bem o PyTorch em uma GPU da Intel com desempenho superior pelo mesmo custo de uma GPU da Nvidia, haveria disposição para comprar uma GPU da Intel.

• Críticas ao monopólio do CUDA

  • É compreensível que a NVIDIA tenha motivação para manter o monopólio do CUDA, mas também é verdade que AMD/Intel/outras empresas perderam a oportunidade.
  • Quando barreiras técnicas/de capacidade mantêm um monopólio de fato em determinados casos de uso, o consumidor sai prejudicado.