- "Software is Changing (Again)"
- O paradigma do software está mudando de forma essencial pela primeira vez em 70 anos e, nos últimos anos, evoluiu rapidamente para Software 1.0 (código tradicional), 2.0 (pesos de redes neurais) e 3.0 (LLMs e prompts em linguagem natural)
- Os LLMs estão se consolidando não como simples ferramentas, mas como um novo ecossistema de software semelhante a um sistema operacional (Operating System), inaugurando uma era em que qualquer pessoa pode programar computadores em inglês e outras linguagens naturais
- A colaboração com ferramentas e agentes de AI, com "autonomia parcial (Partial Autonomy)", está se tornando o núcleo dos futuros produtos de software, e só é confiável quando acompanhada de validação e controle rápidos por humanos
- AI e LLMs têm características de "espíritos de pessoas (people spirits)", com memória e conhecimento enormes, mas também com limitações próprias como alucinações, perda de contexto e riscos de segurança
- No futuro, software, documentação e infraestrutura precisarão ser redesenhados para serem "agent-friendly (llms-friendly)", mudando estrutura e forma de expressão para que os LLMs consigam entender e agir com facilidade
Software 1.0 → 2.0 → 3.0: a evolução do paradigma
- Software 1.0: código-fonte tradicional escrito diretamente por pessoas
- Software 2.0: modelos criados ajustando pesos (parâmetros) de redes neurais com datasets e otimizadores
- Software 3.0: geração de programas (instruções) com base em grandes modelos de linguagem (LLMs), usando prompts em linguagem natural como inglês
- Recentemente, no GitHub, o código vem evoluindo para uma forma misturada entre inglês e código, com o inglês como linguagem de programação se espalhando rapidamente
- Hugging Face e outros estão assumindo o papel de ‘GitHub’ do Software 2.0, liderando o ecossistema de modelos open source
LLM é o novo sistema operacional (OS)
- Os LLMs estão evoluindo para plataformas em que diversos softwares rodam, como se fossem sistemas operacionais, indo além de APIs e utilitários simples
- Hoje, seu uso acontece em uma estrutura centralizada e orientada à nuvem, semelhante à era dos mainframes dos anos 1960
- Também se menciona a possibilidade de, no longo prazo, chegar a era dos LLMs pessoais (uso distribuído e local)
- O ambiente de uso dos LLMs se parece com terminais e interfaces de linha de comando tradicionais, mas ainda não há uma GUI genérica suficientemente desenvolvida
Capacidades e limites dos LLMs
- Os LLMs têm enorme memória e capacidade de adquirir conhecimento, mas também apresentam falhas próprias, como alucinações (informações falsas), perda de memória de contexto e vulnerabilidades de segurança
- A memória de trabalho (working memory) dos LLMs ainda precisa ser gerenciada explicitamente por humanos, e o aprendizado de contexto de longo prazo ainda é limitado
- Como existem riscos reais, como segurança e prompt injection, é preciso cautela no uso
Autonomia parcial (Partial Autonomy) e colaboração entre humanos e LLMs
- Apps baseados em LLM, como Cursor e Perplexity, estão evoluindo para combinar operação manual tradicional com automação por LLM, com o conceito de um "slider de autonomia" (ajuste do nível de controle do usuário vs. delegação à AI)
- Auditoria via GUI e loops rápidos de validação, além de uma metodologia de manter a AI sob controle em ciclos curtos, são essenciais na prática
- A previsão é que software, produtos e serviços fortaleçam gradualmente sua "autonomia parcial"
Casos reais e a cultura de ‘Vibecoding’
- Está se espalhando a cultura de ‘Vibecoding’, em que qualquer pessoa cria apps diretamente com LLMs em inglês
- Karpathy também compartilhou a experiência de criar, em apenas um dia, um app iOS em uma linguagem na qual não tinha experiência de programação (Swift), e depois expandi-lo para um serviço real
- O desenvolvimento de protótipos reais é facilitado pelos LLMs, mas transformá-los em serviços reais (autenticação, pagamento, deploy etc.) ainda continua sendo um gargalo manual e de DevOps
- Daqui para frente, o grande desafio será projetar software e documentação agent-friendly, para que os agentes possam assumir as partes que hoje ainda exigem cliques e configurações manuais por pessoas
Mudanças na documentação e infraestrutura, e compatibilidade com agentes
- Como a documentação tradicional, centrada em humanos (cliques, ordem de passos etc.), é difícil de usar diretamente por LLMs e agentes, ela precisa ser reorganizada em formatos baseados em Markdown e comandos
- Vercel, Stripe e outras empresas já começaram a converter documentação para formatos agent-friendly (por exemplo, comandos
curl)
- Diversas ferramentas, como GitHub Ingest e DeepWiki, transformam repositórios de código e documentação em formatos que os LLMs podem usar imediatamente
Conclusão e perspectivas
- Este é o melhor momento para escrever muito código novo e reescrever código existente
- Os LLMs, como uma "ferramenta auxiliar (traje do Iron Man)", colaborarão com desenvolvedores humanos, enquanto avança uma inovação gradual rumo à autonomia total
- Ao longo dos próximos 10 anos, a tendência central deve ser elevar gradualmente o "slider de autonomia"
- Desenvolvedores e organizações precisam acelerar o redesenho de software, documentação e infraestrutura otimizados para LLMs e agentes
2 comentários
Eu gostei muito deste vídeo! Ao mencionar a fala do Andrew Ng de que "AI Is the New Electricity", ele explica que, se o ChatGPT, usado por 800 milhões de pessoas, sair do ar, é como se a eletricidade tivesse acabado, e isso realmente me marcou.
Comentários do Hacker News