A avaliação equivocada da YC sobre LLMs para projeto de chips

A YC está entendendo errado o papel dos LLMs no projeto de chips

• A YC sugeriu recentemente, em um pedido voltado a startups, o uso de LLMs em projeto de chips. No entanto, essa proposta parece partir de uma compreensão equivocada dos principais desafios do projeto de chips. LLMs às vezes conseguem escrever código Verilog, mas seu desempenho ainda é inferior ao humano. Em particular, LLMs não conseguem projetar novas arquiteturas de chips, e isso é o principal motor do ganho de desempenho nos chips aceleradores modernos.

Síntese de alto nível, mais uma vez

• A síntese de alto nível (HLS) começou em 1998, quando a Forte Design Systems desenvolveu uma ferramenta chamada Cynthesizer. Essa ferramenta conseguia converter automaticamente SystemC em Verilog. No entanto, a HLS não teve grande sucesso no projeto de chips. A Xilinx (hoje AMD) apoiou a HLS com o objetivo de acelerar FPGA, mas o desempenho das ferramentas de HLS ainda é limitado.

Que tipo de novo acelerador os LLMs poderiam criar?

• Ferramentas de HLS não tiveram sucesso em chips de alto valor e grande volume. Os LLMs provavelmente enfrentarão desafios semelhantes. Ainda assim, eles podem ajudar engenheiros sem conhecimento especializado em silício a aproveitar aceleração por hardware. Por exemplo, houve sucesso na aceleração com FPGA de tarefas de genômica e CFD.

O que os LLMs podem fazer no projeto de chips

• Os LLMs podem reduzir o custo do projeto de chips, mas principalmente para mercados de baixo valor. No entanto, eles podem ser úteis para resolver a escassez de pessoal de verificação no projeto de chips. São necessários o dobro de engenheiros de verificação em relação aos projetistas, mas hoje é difícil encontrar bons engenheiros de verificação. Se os LLMs puderem tornar a verificação mais rápida e fácil, isso poderá gerar grande valor para as empresas de semicondutores.

• Em última instância, os LLMs vão tornar o projeto de chips mais barato. Mas isso beneficiará principalmente grandes empresas de semicondutores, startups tradicionais de chips e startups de software EDA que vendem ferramentas baseadas em LLM. Os LLMs não vão criar chips 100 vezes melhores nem ajudar a atacar mercados que carecem de aceleração por hardware.

[GN⁺]

Comentários do Hacker News

• Há a opinião de que os LLMs ainda têm um longo caminho a percorrer na área de EDA

  • Os LLMs entendem mal problemas de projeto de circuitos e também erram nos cálculos
  • Ferramentas de IA ajudam a entender circuitos, mas deixam passar algumas funcionalidades
  • São necessárias ferramentas especializadas

• Os LLMs podem ser úteis na geração de ideias e na fase de aprendizado

  • Usar LLMs no núcleo de sistemas complexos pode causar problemas de confiabilidade

• Opinião de alguém com experiência trabalhando na equipe de arquitetura DSP da Qualcomm

  • Muito tempo no projeto de chips é gasto escrevendo documentação e respondendo perguntas
  • Os LLMs podem ajudar a tornar esse trabalho mais rápido

• Tentativa na Silogy de melhorar o depuramento de testes usando agentes de IA

  • Eles analisam código e logs e refinam hipóteses incorporando o feedback dos engenheiros

• Há a opinião de que aplicar LLMs ao projeto de chips não é algo simples

  • Quando o mercado é pequeno ou o chip é crítico, a eficácia dos LLMs é limitada
  • Ao contrário do software, projeto de chips é uma área à qual hackers não conseguem acessar facilmente

• Contestação à opinião de que aplicar IA ao projeto de chips é complexo

  • Há expectativa de que o desempenho dos LLMs melhore mais no futuro
  • São citados casos de avanço dos LLMs nas áreas de arte digital e música

• Crítica à forma como a YC investe em IA

  • Há a opinião de que usar LLMs em projeto de chips não faz sentido do ponto de vista técnico
  • Crítica de que o objetivo da YC é gerar lucro, e não inovação

• Há a opinião de que os LLMs ainda não estão prontos para projeto de ASIC

  • Aponta-se a ineficiência da arquitetura de von Neumann e propõe-se uma nova abordagem
  • É sugerida uma forma de acelerar a computação com uma solução geral

• Opinião de alguém com 30 anos de experiência em projeto de chips

  • Há tentativas de automatizar o fluxo de projeto usando IA
  • Ferramentas de síntese de alto nível quase não são usadas em projeto real de chips