-
Recentemente, a codificação com IA consegue criar rapidamente “código que funciona”, mas ainda não consegue automaticamente transformar isso no “bom produto” que o usuário espera
-
O autor vê duas causas principais para isso
- Falta de senso comum/conhecimento tácito na IA
- Na aprendizagem baseada em RLVR, há uma estrutura em que é mais fácil recompensar o “sucesso na execução do código” do que “bom código/bom produto”
-
Como exemplos, ele cita a alucinação do MacBook Pro do Rei Sejong, o teste do lava-rápido e a falha na geração de imagens de salas de aula/alunos coreanos, apontando que até os modelos mais recentes podem deixar passar estranhezas que humanos percebem imediatamente
-
Se a recompensa do RLVR para programação ficar enviesada para a mera execução, o LLM pode criar
try-exceptem excesso, fallback e lógica defensiva, acumulando dívida técnica -
O ponto central é que, no Go, basta vencer; já no software, não basta “funcionar mais ou menos”, ele precisa ser um “produto que as pessoas querem e pelo qual pagarão”
-
Pela perspectiva de AJI (Artificial Jagged Intelligence) de Karpathy, os pontos fracos atuais da IA estão em “taste”, sensibilidade de produto e na esfera do senso comum implícito
-
A Anthropic também vê que a área de design/taste ainda é amplamente responsabilidade humana, embora considere que essa fronteira esteja sendo renegociada à medida que os modelos melhoram
-
O autor prevê que, com a evolução dos modelos, como de GPT-5.4 para GPT-5.5, essa lacuna vai diminuir gradualmente
-
Em última instância, ele defende que, quando a IA adquirir um nível de sensibilidade e julgamento difícil de distinguir do humano, ela passará no teste de Turing, e esse momento poderá ser visto como AGI
Resumo:
O problema da codificação com IA não é que ela “não sabe programar”, mas que ela se otimiza para produzir resultados executáveis sem saber qual é o produto que as pessoas realmente querem. Hoje, o papel humano é complementar a IA em senso comum, taste e julgamento de produto, áreas em que ela ainda é deficiente.
10 comentários
Não sei que tipo de pessoa escreveu o texto, mas, pessoalmente, foi o texto de menor nível que li nos últimos 10 anos.
Fiquei tão chocado que, enquanto lia, tive a sensação de ficar atordoado.
Então escreva você mesmo um bom texto.
Há partes com as quais concordo e outras não. No fim das contas, por enquanto, parece certo que a inteligência humana ainda intervenha ativamente. Mesmo os vibe coders, ainda que não saibam programar, precisam desenvolver com base na arquitetura de software ou pelo menos no mínimo de bom senso. No fim, ideias sem capacidade de gestão e sem conhecimento de domínio são um castelo de cartas e, na minha visão, não vão durar muito.
Parece uma longa exposição do óbvio, listando vários nomes famosos, e na minha opinião não vale muito a leitura.
Eu também acho que isso é algo óbvio.
Só que escrevi este texto porque foi algo que eu realmente vivi e também ouvi em várias comunidades.
Caracaaa
É algo que já se dizia há muito tempo. Mas, no fim, é um problema que o tempo vai resolver. Daqui a 10 anos, ainda será como agora?
Acho que é diferente.
Se algum dia a IA conseguir ter dúvidas e dar opiniões sobre coisas que nem estão no prompt,
aí talvez os humanos possam mesmo ser substituídos,
mas, assim como gente rica anda com motorista em vez de dirigir no modo automático,
será que o engenheiro do futuro vai ser alguém que confere tudo manualmente quando mandam fazer alguma coisa (tipo eu)?
No nível atual dos LLMs, mais importante do que simplesmente levantar dúvidas é ter "senso comum humano".
No futuro, houve até uma previsão, feita por uma pessoa famosa alguns anos atrás, de que os LLMs seriam capazes de desenvolver instantaneamente o que as pessoas quisessem, e que as empresas de software desapareceriam.