- Em geral, é difundida a visão de que o valor econômico da IA será criado por meio da automação de pesquisa e desenvolvimento (P&D)
- Dario Amodei argumenta que a IA terá um impacto positivo em P&D em biologia, neurociência e economia
- Demis Hassabis explica que a IA contribuirá para a sociedade por meio de P&D, como curar todas as doenças e resolver problemas de energia
- Sam Altman menciona que a IA pode afetar todos os setores, como os semicondutores, mas que seu maior impacto será no progresso científico
- Embora P&D contribua para o crescimento econômico de longo prazo, sua contribuição é superestimada
- Segundo o Bureau of Labor Statistics (BLS) dos EUA, os gastos privados em P&D responderam por apenas 0,2% ao ano do crescimento da produtividade total dos fatores (TFP) entre 1988 e 2022
- Os gastos públicos em P&D representam cerca de 25% do gasto total em P&D, e a contribuição total de P&D para o crescimento da TFP é de cerca de 0,4% ao ano
- Apenas cerca de 20% do crescimento da produtividade do trabalho vem de P&D; o restante decorre de acumulação de capital, melhorias de gestão, efeitos de aprendizagem etc.
- A maior parte do trabalho de P&D exige capacidades complexas, não apenas raciocínio lógico simples
- Ex.: agência, capacidade multimodal, consistência de longo prazo etc.
- Se a IA tiver capacidade suficiente para automatizar completamente o trabalho dos pesquisadores, isso significa que a automação também será possível na maioria dos outros setores da economia → potencial para gerar valor econômico ainda maior
O principal valor econômico da IA virá da ampla automação do trabalho
- Duas afirmações sobre o valor econômico da IA
- ✅ A automação de P&D pode elevar a taxa de crescimento econômico anual em alguns pontos percentuais ou mais
- Se a tecnologia puder automatizar totalmente o P&D, poderá gerar valor econômico significativo
- Há alta possibilidade de contribuição relevante para o crescimento econômico
- ❌ O maior valor econômico da IA virá da automação de P&D
- P&D é valioso, mas não deverá ser o núcleo do motor de crescimento econômico da IA
- Mesmo depois de a IA superar o desempenho humano, é improvável que a automação de P&D seja o fator mais importante de criação de valor econômico
- Medindo o valor econômico real de P&D
- Segundo dados do Bureau of Labor Statistics (BLS) dos EUA:
- Crescimento da produtividade total dos fatores (TFP) entre 1988 e 2022: 0,8% ao ano
- Contribuição do P&D privado: 0,2% ao ano → cerca de 25% do crescimento total da TFP
- Crescimento da produtividade do trabalho: 1,9% ao ano → a contribuição de P&D é de apenas cerca de 20%
- Os gastos públicos em P&D representam cerca de 25% do gasto total em P&D
- Os efeitos externos do P&D público e do P&D privado se compensam
- Como resultado, a contribuição total de P&D fica em torno de 0,4% ao ano
- Relação entre acumulação de capital e crescimento da produtividade
- A acumulação de capital responde por cerca de 50% do crescimento da produtividade do trabalho
- O restante do crescimento vem de melhorias de gestão, efeitos de aprendizagem, difusão de conhecimento etc.
- Na economia dos EUA, a proporção entre acumulação de capital e investimento em P&D é:
- Investimento anual em capital: US$ 5 trilhões
- Investimento anual privado em P&D: US$ 1 trilhão
- O investimento em capital é cerca de 5 vezes maior que o investimento em P&D
- A elasticidade da produção em relação ao trabalho (0,6) é cerca de 5 vezes maior que a elasticidade da produção em relação ao P&D
- A automação do trabalho tem potencial para uma contribuição econômica maior
- Automatizar o item que representa o maior custo na economia atual (trabalho) pode maximizar o valor econômico
- A produção excedente gerada pela automação do trabalho pode ser reinvestida em capital, possibilitando crescimento adicional
- Também existe o argumento de que o efeito de crescimento de P&D foi subestimado
- Os efeitos externos de P&D ou as fricções causadas por pesquisa duplicada podem não ter sido refletidos
- Porém, segundo o estudo de Bloom et al. (2020):
- A elasticidade da produção em relação ao investimento em P&D é 0,3, semelhante à do capital e apenas metade da do trabalho
- Em resumo, o crescimento econômico atual vem principalmente de fatores que não são P&D
Só a automação de P&D por IA dificilmente acelerará dramaticamente o avanço da IA
- O valor econômico do P&D em IA pode não ser tão grande quanto se espera, mas a IA pode causar impacto importante se automatizar seu próprio P&D
- Se a IA puder automatizar seu próprio processo de P&D de software, poderá ocorrer uma singularidade apenas de software (software-only singularity)
- Com base em recursos computacionais fixos, pesquisadores de IA poderiam melhorar seus próprios algoritmos e, com isso, criar mais pesquisadores de IA, possibilitando mais avanços em software
- A variável-chave é quão rapidamente aumenta o custo de encontrar ideias
- É essencial assumir que muitos resultados de P&D de software podem ser alcançados apenas com esforço de pesquisadores, mas é bastante provável que isso não seja verdade
- Um modelo mais realista é aquele em que os resultados de pesquisa surgem da complementaridade entre esforço cognitivo + dados
- Atualmente, a IA está aumentando rapidamente a capacidade computacional baseada em experimentos e o ritmo de avanço de software em cerca de 3 a 4 vezes ao ano
- O progresso em software está ocorrendo por meio de dados baseados em experimentos → é possível que os dados sejam um complemento importante ao esforço dos pesquisadores
- Se os dois insumos (esforço cognitivo + dados) forem complementares, os recursos computacionais podem criar um gargalo
- No fim, pode ser necessário trabalho físico para garantir e produzir mais GPUs
- Isso significa que a IA precisará ser implantada amplamente na cadeia de suprimentos de semicondutores e em toda a economia
- A sustentabilidade de uma singularidade apenas de software depende de quão forte é essa complementaridade
- Em outros setores, a complementaridade costuma ser forte → há grande chance de também ser forte em P&D de IA
- Ex.: no estudo de Oberfield e Raval (2014), a elasticidade de substituição entre capital e trabalho na manufatura dos EUA é 0,7
- Isso sugere que uma singularidade apenas de software provavelmente terminaria com uma melhora de eficiência inferior a 1x
- Até agora, o progresso científico não acelerou drasticamente, apesar da automação da programação e da automação de equipamentos de pesquisa
- Desenvolvimento de bibliotecas especializadas → automação de tarefas de programação
- Aceleração de coding com ferramentas de LLM → efeito apenas parcial
- Automação de equipamentos de experimentação física → apenas melhorias graduais, sem avanço científico abrupto
A automação completa de P&D exige capacidades muito amplas
- À primeira vista, o trabalho de cientistas pode parecer centrado em tarefas de raciocínio abstrato, como geração de ideias, formulação de hipóteses, análise de dados, coding e raciocínio matemático
- Por isso, surge a expectativa de que, quando aparecerem modelos capazes de raciocínio abstrato, o trabalho de pesquisadores poderá ser automatizado rapidamente
- Mas, na prática, o trabalho de pesquisadores exige capacidades muito mais complexas do que simples tarefas de raciocínio
- Exemplo de tarefas de cientistas da área médica
- Manipulação de substâncias tóxicas, avaliação de efeitos de medicamentos, planejamento e execução de estudos sobre doenças, análise de amostras celulares etc. exigem não apenas raciocínio, mas técnicas complexas e uso de equipamentos especializados
- Padronização de dosagem de medicamentos, orientação de procedimentos médicos e experimentais, redação de artigos, pedido de bolsas de pesquisa etc. têm probabilidade relativamente maior de automação baseada em raciocínio
- Entre as 5 principais tarefas de cientistas da área médica, apenas 1 pode ser automatizada só com raciocínio
- Entre 14 tarefas no total, julgou-se que apenas 6 podem ser automatizadas apenas com raciocínio abstrato
- O núcleo do trabalho de pesquisa não é o simples raciocínio, mas inclui capacidades complexas como:
- Operação de equipamentos técnicos → capacidade de usar equipamentos experimentais complexos
- Trabalho em equipe → colaboração e coordenação com equipes humanas de pesquisa
- Capacidade de execução de longo prazo → condução de projetos complexos ao longo de muito tempo
- Manipulação do ambiente físico → capacidade de manipulação física em experimentos e atividades práticas
- Levará bastante tempo até que a IA adquira todas as habilidades complexas exigidas no trabalho de pesquisadores
- Portanto, é provável que a automação geral do trabalho aconteça antes da automação do trabalho de pesquisadores
- A suposição de que a IA fará primeiro avanços científicos e depois se espalhará para outros setores é pouco realista
- O cenário mais realista é a IA realizar primeiro uma ampla automação do trabalho e, depois, acelerar o progresso científico e tecnológico
- Mesmo que a IA acelere o avanço científico, isso provavelmente ocorrerá não por substituição de pesquisadores, mas por meio da automação da construção de infraestrutura de pesquisa
- Como a automação de P&D não representa uma parcela grande do crescimento econômico atual, é provável que a IA lidere o crescimento econômico ao automatizar tarefas fora de P&D
O salto da IA provavelmente será amplo e visível
- Antes mesmo de o impacto econômico e tecnológico da IA se tornar pleno, a automação por IA provavelmente aparecerá de forma ampla e visível
- Amplo (Diffuse) → a automação por IA não ficará limitada a certas funções de P&D, mas afetará amplamente toda a economia
- Visível (Salient) → o impacto da IA será grande o suficiente para que a maioria das pessoas o perceba claramente e poderá causar forte disrupção no mercado de trabalho
-
O principal efeito econômico da IA virá não da automação de P&D, mas da automação ampla
- É pouco provável que o efeito transformador da IA sobre o mundo venha da automação explícita de P&D
- Em vez disso, a automação ampla do trabalho será o principal motor do desenvolvimento econômico e tecnológico
-
Cenário realista para o salto da IA
- 1. Expansão do escopo de tarefas da IA
- A IA ampliará gradualmente o conjunto de tarefas que consegue realizar
- É provável que esse processo seja conduzido principalmente pela expansão da infraestrutura computacional
- 2. Avanço da ampla automação do trabalho em toda a economia
- A IA automatizará um número cada vez maior de tarefas de trabalho
- Como resultado, isso levará à aceleração do crescimento econômico
- 3. Grandes mudanças no mercado de trabalho
- Antes de a IA produzir avanços econômicos e tecnológicos, já haverá uma onda de automação do trabalho
- Nesse processo, o mercado de trabalho será fundamentalmente reestruturado e a percepção pública sobre a IA mudará
- 4. A automação ampla de tarefas fora de P&D atuará como principal motor do crescimento
- Mesmo que a IA acelere o crescimento econômico e tecnológico, isso ocorrerá por meio da automação de tarefas fora de P&D
- A automação de P&D provavelmente terá um peso relativamente menor no crescimento
-
Cenário de “explosão da automação geral”
- É pouco provável que o salto da IA assuma a forma de “gênios em laboratórios produzindo resultados explosivos de P&D”
- Em vez disso, o salto da IA assumirá a forma de uma explosão ampla de automação
- Ou seja, não serão os resultados em um campo específico, mas o escopo e a escala gerais da automação da IA que serão o principal motor do crescimento
Principais implicações
- No futuro próximo, é bastante provável que seja mais lucrativo para os laboratórios de IA focar na automação de tarefas gerais
- Ex.: navegação na internet, operação de software comercial, execução de tarefas gerais de escritório etc.
- A automação de tarefas gerais provavelmente tem maior potencial de criação de valor econômico do que o desenvolvimento de modelos de raciocínio avançado para coisas como apoio à pesquisa em biologia e medicina
- Portanto, ao avaliar o desempenho da IA, pode ser mais importante acompanhar a capacidade de executar tarefas gerais do que os resultados em P&D
- É provável que a percepção pública sobre a IA mude bastante até o momento em que a IA tiver impacto transformador no mundo
- Antes mesmo de surgirem resultados como crescimento econômico impulsionado por IA e aumento da longevidade humana, é bastante provável que já ocorra grande disrupção causada pela automação do trabalho
- Portanto, é arriscado presumir que a percepção pública atual sobre a IA permanecerá a mesma no longo prazo
- É improvável que a IA substitua todo o trabalho humano de uma vez → espera-se uma automação gradual
- Ao longo de anos, é bastante provável que a IA automatize gradualmente o trabalho humano
- Um cenário de transição gradual é mais realista do que a ideia de uma explosão súbita de superinteligência causada pela automação de P&D em IA
- Mesmo que a IA supere humanos em certas tarefas, ainda é provável que, em outras tarefas complementares, os humanos mantenham vantagem
- No fim, a IA passará a superar os humanos na maior parte das atividades econômicas
- Porém, isso provavelmente acontecerá após décadas de automação gradual
- A aceleração do crescimento econômico deverá vir mais da automação de tarefas gerais do que da automação de P&D
2 comentários
https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… Estou testando a automação de P&D. Não é fácil, mas provavelmente não está tão distante no futuro.
Comentários do Hacker News
Fico me perguntando se mais alguém acha o otimismo tecnológico realmente deprimente. Além do motivo relacionado à substituição de humanos pela tecnologia, também me sinto desanimado por não conseguir me empolgar com um hype exagerado de baixa viabilidade
É surpreendente que, entre quase 300 comentários agora, ninguém mencione programação por restrições (CP). CP é o irmão determinístico da IA probabilística baseada em dados
Este artigo perde toda a credibilidade aqui
Se você ainda não leu o clássico de 2015 sobre implantação de tecnologia, vale a pena ler
O argumento típico do Vale do Silício é que P&D é "complexo" e todo o resto é "simples"
Eles estão debatendo se P&D ou a automação geral vai gerar mais ganhos. Fico em dúvida sobre qual é o sentido dessa discussão
É como se a Revolução Industrial e a Revolução Agrícola estivessem acontecendo de novo. A automação ampla do trabalho trará uma melhora para o capital, não uma melhora social
Trata-se do problema do valor relativo dos fatores de produção. A questão é se a IA vai aumentar ou reduzir o valor relativo do trabalho humano em comparação com máquinas, matérias-primas e terra
Concordo totalmente com este artigo, e no passado houve muitas oportunidades em que o cálculo de custo/recompensa simplesmente não fazia sentido
Os otimistas da tecnologia precisam responder às perguntas que estão na cabeça da classe média e dos pobres