A ilusão das alegações sobre IA para programação: por que não estamos vendo uma explosão de 'shovelware'
(mikelovesrobots.substack.com)- Ao verificar com dados as recentes alegações de aumento de produtividade com ferramentas de programação com IA, o resultado real é que nem a velocidade nem a quantidade de entregas aumentam de forma perceptível
- Segundo a pesquisa da METR, os desenvolvedores acreditavam que as ferramentas de programação com IA melhoravam a produtividade em 20%, mas na prática houve uma queda de 19%
- As inúmeras mensagens promocionais e as alegações exageradas de produtividade 10x feitas por empresas e desenvolvedores não estão se refletindo na realidade do mercado nem no lançamento de novos softwares
- Não se observa um fenômeno como um surto de Shovelware (apps produzidos em massa, software de baixa qualidade), ou seja, não há mudança visível
- Empresas como GitHub, Copilot, Cursor, Google e OpenAI, além de alguns desenvolvedores, estão exagerando a produtividade e isso vem sendo usado indevidamente em investimentos, reestruturações e definição salarial
- Conclusão central: “Enquanto não sair de fato mais software, a alegação de que IA para programação transforma desenvolvedores em profissionais 10x é ficção”; portanto, os desenvolvedores não devem ceder à pressão e precisam responder com dados
Introdução: desenvolvedores de software irritados com a IA para programação
- Após viver por muito tempo como desenvolvedor de software, o autor diz ter orgulho e identidade ligados à programação
- No início da adoção de ferramentas de programação baseadas em IA, ele tinha expectativas positivas, mas pesquisas recentes (METR) o deixaram cético
- Ele próprio achava que a IA para programação o tornava cerca de 25% mais rápido, mas o estudo da METR apontou que, na verdade, ela o tornava 19% mais lento
- O estudo mostrou que a percepção subjetiva dos desenvolvedores sobre a eficiência das ferramentas de IA era o oposto dos dados medidos
- Em testes feitos pelo próprio autor, ele também sentiu que o uso de IA não traz impacto positivo no tempo real de programação
Verificação prática: experimento comparando IA e aleatoriedade
- Foi aplicado um método experimental que mede a diferença de tempo (Delta) entre usar IA e não usar IA em cada unidade de trabalho
- Os dados obtidos em 6 semanas de experimento não encontraram diferença estatisticamente significativa
- Apesar do tamanho reduzido da amostra, foi observada uma tendência de que o uso de IA deixava o trabalho 21% mais lento na prática (o mesmo número encontrado pela METR)
- Se de fato existisse um ganho de 2x ou 10x, isso teria aparecido de forma clara nos dados
- O sonho atual da programação com IA não está se concretizando e, na prática, não há mudança
Expectativa e realidade: por que não há explosão de Shovelware
- Se a revolução de produtividade da programação com IA fosse real, deveria haver uma explosão de apps, serviços e jogos de todo tipo
- Há uma enxurrada de mensagens de marketing de ferramentas de programação com IA, como “Built to make you extraordinarily productive”
- Google, OpenAI e GitHub Copilot também afirmam que desenvolvedores ficam 25% mais rápidos ou alcançam produtividade 10x
- Mas, nos dados reais de lançamento de novo software (GH Archive, BigQuery etc.), não há crescimento acentuado nem explosão
- Apesar da popularização da programação com IA desde 2022, não houve grande mudança nos números globais de novos lançamentos e projetos
Impacto no mercado e realidade dos desenvolvedores
- Já aparecem efeitos sociais dentro da indústria, como estratégia AI-First, FOMO, demissões em massa e redução salarial para desenvolvedores
- Nos ambientes reais de desenvolvimento, as ferramentas de IA não estão entregando uma revolução de produtividade
- Nem a curva de aprendizado nem a maior familiaridade com as ferramentas explicam uma diferença absoluta de produtividade
Conclusão: a necessidade de julgar com frieza com base em dados
- O ponto central é confirmar com dados que até agora não houve mudança no volume de novos softwares entregues
- Não há evidência para a alegação de que a IA criou programadores 10x
- Os desenvolvedores não devem ceder à pressão e precisam escolher ferramentas com base nos dados que eles mesmos verificaram
Respostas a objeções frequentes
-
"Se você dominar de verdade a engenharia de prompt, vira um desenvolvedor 10x"
- Se realmente houvesse gente alcançando produtividade 10x, a produção global de novos softwares já teria mais que dobrado
- Mais importante do que a alegação é o resultado objetivo (apps, projetos etc.)
-
"Ainda estamos no começo, então precisa de tempo"
- Já foram investidos bilhões de dólares e a adoção no trabalho real já está em andamento
- As decisões de hoje afetam diretamente a vida real das pessoas
-
"Se você não adotar agora, vai ficar para trás"
- Mesmo em dados do GitHub Copilot, o ganho real de produtividade com aumento de proficiência é extremamente pequeno (29% → 34% de taxa de aceitação)
-
"A qualidade melhorou, só a quantidade ficou igual"
- A qualidade geral do setor, na verdade, está regredindo, e os testes também diminuíram
- Se isso fosse mesmo uma ferramenta de programador 10x, uma inundação de Shovelware já deveria ser realidade
-
"Hoje em dia tudo gira em torno de sites, e ninguém liga mais para nome de domínio. Só subdomínios de lugares como a Vercel bastam"
- Ainda há muita gente que prefere domínios próprios
-
"A explosão de domínios .ai (47% este ano) = crescimento real"
- O aumento de novos domínios vem apenas do pivô de startups de IA, não de uma explosão no total geral de novos domínios
- O número total de domínios não mostra isso
-
"A essência do desenvolvimento está fora do código"
- Fora das grandes empresas, em ambientes de desenvolvedores individuais ou pequenos times, o código continua sendo o centro
- Ainda não houve um aumento perceptível de novos projetos que satisfaçam esse impulso de fazer pequenas coisas em código
Encerramento
- Os desenvolvedores, na prática, não estão lançando mais coisas
- A alegação de que a IA para programação entrega produtividade 10x pode ser contestada com dados
- Em vez de se deixar levar pelo FOMO e pela narrativa de marketing do setor, é preciso avaliar com base nos resultados concretos
- A mensagem do autor: “Se estiverem te pressionando, mostre os dados e os gráficos. Peça os comprovantes para qualquer alegação de produtividade 10x.”
Ainda não há comentários.