A abordagem errada para desenvolver produtos de IA
- A maioria dos produtos de IA é implementada como um invólucro em torno de outro modelo, por exemplo, chamando a API do ChatGPT.
- Essa abordagem é fácil de implementar e pode executar funcionalidades impressionantes, mas tem problemas: não se diferencia, custa caro e é lenta.
- Quando a proposta de valor única de um produto de IA é importante, depender de uma tecnologia que pode ser facilmente copiada significa estar em uma posição arriscada.
O problema do alto custo e da lentidão dos LLMs
- Modelos de linguagem de grande porte (Large Language Models, LLMs) oferecem versatilidade, mas, por causa de seu tamanho e complexidade, o custo operacional é muito alto.
- Por exemplo, o GitHub Copilot tem um custo médio de US$ 20 por usuário, mas cobra apenas US$ 10, operando no prejuízo.
- Os LLMs podem causar problemas significativos em aplicações que exigem resposta em tempo real por causa de sua lentidão.
As limitações dos LLMs e o problema da customização
- Os LLMs oferecem suporte a ajuste fino, mas têm limitações quando se trata de fornecer soluções para problemas específicos.
- Ao desenvolver o Visual Copilot da Builder.io, tentou-se usar LLMs para converter designs do Figma em código, mas o resultado foi lento, caro e de baixa qualidade.
A solução: criar sua própria cadeia de ferramentas
- A Builder.io resolveu o problema criando sua própria cadeia de ferramentas.
- Ela combinou LLMs ajustados finamente, um compilador personalizado e modelos treinados sob medida.
- Esse método permite criar um produto mais rápido, mais confiável, mais barato e mais diferenciado.
Equívocos comuns sobre o desenvolvimento de produtos de IA
- Muitas pessoas entendem erroneamente que, em um produto de IA, todas as tecnologias centrais são tratadas por um único supermodelo.
- Usando o exemplo dos veículos autônomos, imagina-se que uma única IA gigantesca processa todas as entradas e toma decisões, mas, na prática, trata-se da combinação de vários modelos especializados com código convencional.
Como começar a construir IA de verdade
- Vale a pena explorar a abordagem usada no Visual Copilot para soluções de IA.
- Explore o espaço do problema usando práticas comuns de programação e determine em que áreas são necessários modelos especializados.
- Se a codificação padrão não resolver bem um problema específico, gere dados com modelos de IA já consolidados e treine seu próprio modelo.
A opinião do GN⁺
- O mais importante é evitar, ao desenvolver produtos de IA, a mesma abordagem que todo mundo usa e criar sua própria cadeia de ferramentas para oferecer valor diferenciado.
- Este texto é interessante e envolvente por apresentar usos inovadores da tecnologia de IA e mostrar como desenvolvedores podem aproveitá-la para criar produtos originais.
Ainda não há comentários.