Vida longa à "escassez de GPUs" — subsídios para IA de código aberto

• Os modelos de IA de código aberto estão se tornando competitivos em relação às alternativas de código fechado.
• Muitas equipes pequenas e indivíduos estão trabalhando para aprimorar e otimizar esses modelos.
• No entanto, esses projetos frequentemente não têm recursos para continuar ou manter o trabalho no longo prazo.
• Para resolver isso, foi lançado o programa a16z Open Source AI Grant, que apoia desenvolvedores de código aberto por meio de financiamento com subsídios.
• O programa tem como objetivo dar aos desenvolvedores a oportunidade de continuar seu trabalho sem a necessidade de gerar retorno financeiro.
• Foram anunciados os primeiros beneficiários do subsídio e os projetos apoiados, incluindo projetos focados em instruction tuning de LLMs, fine-tuning de LLMs sem censura e no desenvolvimento de novas ferramentas para inferência de modelos.
• O programa tem o objetivo de promover colaboração aberta, aprendizado e avanço na área de IA.
• As opiniões expressas neste artigo são as opiniões das pessoas citadas e não refletem necessariamente as opiniões da a16z ou de suas afiliadas.
• Este conteúdo é fornecido apenas para fins informativos e não deve ser considerado aconselhamento jurídico, comercial, de investimento ou tributário.

[GN⁺]

Comentários do Hacker News

• O programa de subsídios para inteligência artificial apoia indivíduos, equipes e hackers na área de IA de código aberto.
• Este programa não apoia empresas comerciais.
• Os beneficiários dos subsídios agradecem pelo apoio e elogiam a transparência e a justiça do processo.
• Os subsídios incluem a compra de hardware, como GPUs, para apoiar projetos de IA.
• O programa busca avançar o estado da arte da IA de código aberto e contribuir para uma melhor compreensão da tecnologia.
• Oobabooga é elogiado como um excelente portal para experimentar vários modelos de geração de texto.
• Os atuais beneficiários dos subsídios são vistos como indivíduos/equipes influentes escolhidos com sabedoria.
• Alguém pergunta se é possível configurar sua própria GPU para apoiar o esforço de "escassez de GPU".
• A iniciativa é considerada muito legal e avaliada como um excelente uso das taxas de administração.
• São apresentadas sugestões de futuros beneficiários dos subsídios, como MLC LLM, ExLlama e forks de código aberto de inferência para geração de texto.
• A16z é elogiada por uma abordagem voltada para resolver pontos de dor reais, e há expectativa de que outros líderes de pensamento/venture capitalists sigam esse exemplo.
• Os primeiros beneficiários dos subsídios são considerados importantes e sólidos para experimentação orgânica.
• É expressa curiosidade sobre por que projetos de IA para imagem não receberam subsídios.