IA: distopia ou utopia?
(khoslaventures.com)- Texto de Vinod Khosla, da Khosla Ventures
1. Introdução
- Tenho me dedicado e pesquisado inovação disruptiva há 40 anos. Comecei com microprocessadores e, na Sun Microsystems, liderei de forma pioneira o avanço da computação distribuída e dos computadores pessoais
- Em 1996, o surgimento do navegador representou outro grande ponto de inflexão. Investi na Netscape e ajudei a desenvolver a Juniper para construir o backbone básico de TCP/IP da internet. Foi o amanhecer da revolução da internet, e fiz investimentos estratégicos em gigantes nascentes como Amazon e Google
- Com a chegada do iPhone em 2007, teve início a era das plataformas móveis. Cada nova plataforma tornou possível uma enorme inovação em aplicações e uma explosão de novas ideias
- Há um ponto em que uma diferença de grau se torna uma diferença de natureza, e é bem possível que a IA seja de uma natureza diferente em relação às mudanças tecnológicas anteriores. Microprocessadores, internet e telefones móveis eram ferramentas para utilizar o cérebro humano, mas a IA amplia e multiplica o próprio cérebro humano
- Assim como o surgimento da máquina a vapor e dos motores ampliou a força muscular, a IA representa o equivalente intelectual disso. A capacidade de multiplicar especialização, raciocínio e conhecimento significa que, nos próximos 10 anos, ela poderá ultrapassar de forma significativa as capacidades do cérebro humano
- A inteligência artificial promete um futuro de prosperidade sem precedentes. No curto prazo, isso pode ser doloroso para as pessoas substituídas, mas políticas bem formuladas podem mitigar esses efeitos colaterais
- Os horizontes de 0-10 anos, 10-25 anos e 25-50 anos à frente serão muito diferentes entre si. Será difícil prever ou estimar a velocidade da mudança em relação à capacidade tecnológica, muito superior à inteligência humana, e ao grau de penetração social em cada área
- O que aumenta a confusão atual sobre se o futuro será distópico ou utópico é o atual ciclo de hype da IA, que distorce visões junto com os inevitáveis fracassos que o acompanham
- A maioria das startups de IA terminará em prejuízo financeiro
- Mas, no agregado, um pequeno número de empresas que mudarão o mundo ganhará mais dinheiro do que o total das perdas
- O mais empolgante não é a escala da receita da IA, mas seu potencial de mudar o rumo do mundo e recriar a infraestrutura social em uma direção melhor
2. A visão distópica sobre a IA
- Os pessimistas (Pessimists) e catastrofistas (Doomers) descrevem um futuro distópico em termos econômicos e sociais
- Sobre as preocupações deles, aponto que a maioria é infundada, míope, exagerada e, na prática, nociva
- Essas preocupações podem ser resolvidas por meio de escolhas sociais
- Vejo a distopia dos catastrofistas como um cálculo equivocado do ponto de vista de risco/recompensa
- Os riscos da IA são reais, mas administráveis
- No debate atual, os catastrofistas estão focados no pequeno risco de uma "IA intelectual ruim" e ignoram o risco mais evidente: perder a corrida da IA para um "Estado" ou outros atores mal-intencionados
- Esse é o risco que mais deveriam temer aqueles que têm medo da IA e se preocupam com a erosão da democracia e com a manipulação da sociedade
- É por isso que não podemos perder para a China, e por isso devemos usar a IA em benefício de toda a humanidade
- A China é a forma mais rápida de concretizar o pesadelo dos catastrofistas
- "Você está pronto para confiar em Xi Jinping e em seus aliados semelhantes a Putin para uma distribuição justa da tecnologia mais poderosa do mundo? Isso sim seria uma distopia"
A. Redução de empregos e desigualdade econômica
- Na distopia econômica, a riqueza se concentra no topo, enquanto o valor do trabalho intelectual e físico cai; o desemprego generalizado e a deflação destroem a economia e o poder de compra, e a desigualdade se aprofunda
- A IA pode criar um mundo em que uma pequena elite prospera, enquanto o restante enfrenta instabilidade econômica, especialmente em democracias à deriva sem políticas robustas
- No entanto, isso pode ser evitado por meio de intervenções inteligentes, como redistribuição de renda, garantia de um padrão mínimo de vida (talvez UBI?, Universal Basic Income) e legislação estratégica conduzida pela democracia
- O capitalismo e a estrutura tributária existem com a permissão da democracia, e a democracia pode viabilizar essa transição
- A boa notícia é que a IA pode gerar riqueza suficiente para beneficiar todos, e que todos podem ficar em situação melhor do que em um mundo sem IA
- Considerando o envelhecimento da população global e a redução do contingente jovem de trabalhadores, a IA é essencial
- Com as políticas corretas, a transição pode ser suave e talvez até viabilizar uma semana de trabalho de 3 dias
- Se a taxa de crescimento do PIB saltar de 2% para 5%, haverá abundância suficiente para criar um "fundo de transição". Algo semelhante ao fundo do petróleo que impulsionou a prosperidade de países como a Noruega
B. Controle social e manipulação
- No plano social, os céticos desenham um mundo em que a IA ameaça a humanidade, começando por vigilância generalizada
- No entanto, esse resultado não é inevitável. A legislação implementada em cada país determinará como a IA será integrada à nossa vida
- Em sociedades democráticas, isso será uma escolha coletiva. Estou disposto a abrir mão de certo grau de liberdade em troca de uma sociedade com menos crime. Isso não significa aceitar o totalitarismo
- A IA pode até reduzir os próprios motivos que levam ao crime
- Se impusermos restrições ao uso legal da IA, será possível alcançar um equilíbrio racional que permita colher os benefícios do avanço da IA sem se render à visão distópica prevista pelos alarmistas
- Outra preocupação adicional é que a IA possa ser usada para manipular a opinião pública, controlar informações e influenciar eleições por meio de propaganda direcionada ou tecnologia de deepfake
- De fato, a interferência russa na eleição presidencial dos EUA de 2024 já está sendo observada, e com uma IA mais poderosa a situação pode piorar muito. Isso pode corroer a democracia e criar uma sociedade em que seja difícil identificar a verdade
- No entanto, as preocupações com manipulação e controle dependem da suposição de que haverá um único governante de IA despótico, o que é pouco realista
- O mais provável é que vejamos diversas IAs servindo a interesses diferentes
- O que imagino são agentes pessoais de IA para cada indivíduo, projetados para protegê-lo do marketing manipulador e do atual brain hacking. Aqui, brain hacking significa fazer consumidores comprarem ou clicarem em algo que, de outra forma, não comprariam nem clicariam
- Podemos esperar que IAs poderosas representem e protejam cada indivíduo
- Pense nisso como "espião contra espião" na era digital. A IA nos fortalece, como consumidores e cidadãos, diante das IAs corporativas que têm incentivo para nos manipular
C. A perda da autonomia humana e as considerações éticas dos sistemas de IA
- As preocupações com o fato de a IA tomar decisões importantes em áreas como saúde, justiça e governança são válidas, considerando os vieses ocultos dos sistemas atuais
- No entanto, esses vieses se originam nos seres humanos, e a IA oferece uma oportunidade para reconhecê-los e corrigi-los
- Por exemplo, médicos humanos tendem a realizar mais cirurgias quando recebem remuneração por elas, e é difícil afirmar que estejam livres de vieses
- A IA será a única forma de oferecer atendimento sem vieses. A IA revelará os vieses e os corrigirá. Isso criará um mundo mais próspero e um acesso mais justo
- Na minha visão, os humanos manterão o poder de revogar a autoridade de decisão da IA, garantindo assim que ela continue sendo uma "instituição" guiada pelo consenso humano, e não uma força fora de controle
- O espectro de uma IA senciente e maliciosa é perigoso, mas é um risco que podemos mitigar
- À medida que a IA reorganiza o trabalho e, por fim, passa a tomar decisões em saúde, justiça e governança, potencialmente deixando de lado a inteligência e o julgamento humanos, nos deparamos com a oportunidade de redefinir o propósito humano e melhorar os resultados atuais
- Hoje, somos programados desde os 6 anos na escola para garantir uma profissão, e isso acaba moldando grande parte da nossa noção de identidade
- Mas, em 25 anos, poderemos ensinar às crianças exploração, imaginação, descoberta e experimentação sem essa obrigação urgente
- Libertar as pessoas de empregos voltados à sobrevivência pode redefinir o significado de ser humano, aumentar nossa "humanidade" e ampliar a diversidade dos nossos objetivos
- Em última instância, a "humanidade" será definida pela liberdade de escapar das correntes do trabalho de sobrevivência e perseguir essas motivações
- Acima de tudo, em um mundo com menos competição por recursos, espero que mais seres humanos sejam movidos por motivações internas, e não por pressões externas
- A sociedade e os indivíduos poderão escolher em quais tecnologias querem se apoiar e onde desejam investir seu tempo
- Se alguém preferir tomar decisões pessoais sem usar IA, poderá seguir livremente sem um copiloto. Nada nos será imposto
- A IA não será uma governante, mas uma ferramenta que poderemos usar para atender às nossas necessidades e solicitações
- Em pequena escala, os Amish nos Estados Unidos abrem mão da tecnologia por escolha. Poderiam existir milhares de comunidades assim
- À luz do que foi dito acima, há a preocupação de que a dependência da IA possa enfraquecer os padrões éticos e morais humanos
- Se os sistemas de IA forem programados para priorizar a eficiência acima das considerações éticas, podem ser tomadas decisões prejudiciais ou injustas
- No entanto, essa é uma escolha social feita por humanos, não por máquinas. Se der errado, a responsabilidade é nossa
- Pela mesma razão, quando os pessimistas temem uma regressão ética e moral porque as máquinas não têm uma compreensão sutil dos valores, da ética e das emoções humanas, eu gostaria de sugerir que seres humanos no comando representam um risco muito maior
- O alinhamento (Alignment) é importante, mas o mesmo vale quando humanos tentam coordenar grupos e tomar decisões. Primeiro, é importante ter os mesmos objetivos
- A IA ou é poderosa o suficiente para entender e seguir nossas instruções, ou não é. Não podemos ter as duas coisas
- Uma IA totalmente independente pode criar outros riscos maiores, discutidos abaixo, mas uma "IA inteligente o bastante" não entender nossas instruções não é um deles
D. Perda de criatividade e pensamento crítico
- Quanto à preocupação de que a criatividade e o pensamento crítico humanos enfraquecerão em um mundo com IA, acho que essa é uma visão limitada
- Os críticos temem que algoritmos de IA forneçam aos usuários um conjunto restrito de ideias em câmaras de eco, levando à homogeneização cultural
- Também se preocupam que a dependência excessiva da IA possa reduzir a criatividade, a capacidade de resolver problemas e o pensamento crítico das pessoas, à medida que elas delegam a tomada de decisões às máquinas
- No entanto, vejo um mundo em que até mesmo alguém como eu, sem nenhum talento musical, pode usar a IA para criar uma música personalizada que transmite o discurso que escrevi para o casamento da minha filha
- É uma história real. Isso teve um grande significado para mim
- Com a IA, podemos expandir a criatividade para além das nossas limitações e capacidades atuais
- Grandes artistas, pintores e performers poderão usar essas ferramentas ainda melhor
- Como os sistemas de IA podem ser melhores ou diferentes em trabalhos criativos e em breve poderão expressar emoções e empatia, complementando assim os seres humanos, penso nisso não como uma perda de humanidade, mas sim como uma ampliação, um aprimoramento e uma expansão da humanidade
E. A autonomia da IA, o risco existencial, a hegemonia e a China
-
Na visão mais extrema, os pessimistas alertam que a IA pode sair do controle e levar à extinção da humanidade
- O risco de uma "IA senciente, independente e maliciosa" é talvez a ameaça mais grave causada pela IA, e uma ameaça que devemos levar a sério
- O conceito de um "Hard Take-Off", no qual a IA escapa rapidamente ao controle humano, é real e exige cautela, mas é importante avaliar esse risco em comparação com os enormes benefícios que a IA pode oferecer à humanidade ou com os riscos criados pela IA nas mãos de Estados hostis
-
Yoshua Bengio e Geoffrey Hinton, amplamente conhecidos como os "padrinhos da IA", também compartilham dessas preocupações
- Com as máquinas já superando a capacidade humana em tarefas especializadas como modelagem de estrutura de proteínas, Bengio alerta que uma IA geral superando a inteligência humana pode surgir dentro da próxima década
- Junto com Hinton, Bengio alerta para o risco catastrófico de uso indevido da IA por agentes ou organizações mal-intencionados
- O potencial da IA para se autorreplicar, proteger sua própria sobrevivência, construir sistemas impenetráveis à intervenção humana e explorar vulnerabilidades da infraestrutura digital pode não apenas desestabilizar democracias, mas também subverter toda a humanidade
- Essas preocupações não dizem respeito apenas à própria IA, mas também à ampla disseminação do acesso a ferramentas tão poderosas e ao fato de elas poderem cair nas mãos de pessoas com intenções maliciosas
- Bengio defende a cooperação internacional para regular o desenvolvimento da IA, prevenir abusos e desenvolver medidas para proteger a humanidade
- Eu argumentaria que tratados internacionais aqui não fazem sentido, porque o uso da IA não é verificável (ao contrário de armas biológicas ou nucleares, cujo uso é evidente)
- Max Tegmark também se concentra no "problema do controle", mas até isso está sendo enfrentado pelos avanços na pesquisa em segurança de IA
- A pesquisa da OpenAI em aprendizado por reforço com feedback humano (RLHF) e o amplo foco de pesquisa em interpretabilidade da IA estão empurrando a área em direção a sistemas mais transparentes e controláveis
- Paul Christiano, responsável por segurança de IA no U.S. AI Safety Institute, aponta que o problema de alinhamento realmente existe, mas não é insolúvel, e está sendo gradualmente tratado por meio de soluções técnicas e estruturas de supervisão mais rigorosas
- Isso inclui sistemas que permitem aos humanos supervisionar mais de perto o processo de aprendizado da IA, garantindo que os objetivos que ela otimiza estejam alinhados aos valores humanos
-
Além disso, comparar armas nucleares ou pandemias a riscos existenciais não é muito apropriado
- Diferentemente da IA, armas nucleares e pandemias têm um poder destrutivo imediato e evidente
- Já a IA é uma ferramenta que pode ser projetada e orientada para fornecer funções específicas
- Stuart Russell, autor de "Human Compatible", enfatizou que, com planejamento cuidadoso, a IA pode ser controlada para que não se torne uma ameaça
- Ele propõe que a IA seja construída com incerteza em relação aos seus próprios objetivos, garantindo assim que ela sempre busque aprovação humana para suas decisões
- Essa abordagem, chamada de 'alinhamento de valores (Value Alignment)', reduz a possibilidade de a IA sair do controle da forma proposta por Tegmark, Bengio e Hinton
- No entanto, isso não é automático nem garantido, por isso são necessários mais recursos para pesquisa
- Mas atrasar o desenvolvimento da IA por meio de regulação em uma disputa com países não amistosos é um risco grande demais
- Ficar para trás é, de longe, o risco que mais me assusta
-
Pesquisadores como Yann LeCun, cientista-chefe de IA da Meta, apontaram que os sistemas atuais de IA não têm os mecanismos básicos necessários para autoconsciência ou autonomia
- Para eles, o medo de uma IA senciente assumir o controle é muito exagerado
- A IA como a conhecemos depende inteiramente de entradas e objetivos gerados por humanos, sem motivação independente nem capacidade de definir metas próprias
- LeCun argumenta que, embora a IA esteja avançando rapidamente, a ideia de ela desenvolver senciência ainda está muito além das nossas capacidades tecnológicas atuais
- (Mas o que pode ser possível no curto prazo? A China ganhar vantagem na corrida da IA e usar a força do regime para dominar os valores políticos e socioeconômicos no mundo todo. Vou explicar isso em mais detalhes abaixo.)
- Minha síntese desses medos apocalípticos é que o gato já saiu do saco, e que não temos escolha entre ficar totalmente vulneráveis a agentes mal-intencionados que usam IA e desenvolver tecnologia capaz de enfrentar essa IA maliciosa
-
Além disso, teremos várias IAs, então, mesmo no pior cenário, é improvável que todas as IAs se voltem contra a humanidade ao mesmo tempo
- Teremos muitas IAs diferentes, projetadas para servir aos humanos
- Com o aumento do interesse em explicabilidade da IA, a segurança provavelmente melhorará ao alinhar os objetivos da IA aos valores humanos
- Acredito que, dentro da próxima década, teremos superado o medo de "sistemas de caixa-preta" sem controlabilidade
- No entanto, resolver esse problema exige um foco intenso em segurança e ética de IA
-
Investimentos maciços em segurança de IA são importantes, e uma parte considerável da pesquisa universitária deve se concentrar nessa área
- O governo federal deve investir mais em pesquisa de segurança e em detecção de IA
- Depois de pesquisa e testes adequados, serão necessários recursos como um "botão de desligamento"
- Eu argumentaria que tratados internacionais são impossíveis porque não há como verificar seu cumprimento
- Também devemos lembrar que a humanidade enfrenta muitos riscos existenciais, como pandemias, impactos de asteroides e guerra nuclear
- A IA é apenas um risco dentro de um contexto mais amplo, e devemos considerar o equilíbrio entre esses riscos e os potenciais benefícios que a IA pode trazer
- Na minha visão, o risco de ficar atrás da China e de outros adversários em tecnologia de IA é muito maior do que o de uma IA autoconsciente
- Desacelerar o desenvolvimento da IA pode ser desastroso para a democracia
-
Nos próximos 20 anos, o país que emergir como líder tecnológico, especialmente na área de IA, ficará em posição dominante na distribuição global de tecnologia, benefícios econômicos e influência, e portanto também em termos de valores
- A IA será a tecnologia mais valiosa não apenas em aplicações de defesa, como guerra cibernética ou robôs assassinos, mas também em coisas como médicos gratuitos e tutores gratuitos para o planeta
- O país que vencer essa corrida da IA e competições relacionadas, como a fusão, provavelmente capturará poder político com base em sua força econômica avassaladora e passará a lubrificar o sistema político mundial
- A influência sobre o Sudeste Asiático, a África, a América Latina e outras regiões está em jogo
- Como os valores democráticos estão em risco nessa guerra tecnológica, devemos fazer tudo o que pudermos para vencer essa guerra e derrotar a China
- A visão utópica deles provavelmente será diferente
-
Suspeito que, nos próximos 25 anos, a China possa adotar táticas da Praça da Paz Celestial para impor à sua sociedade o que o Partido Comunista Chinês considera correto
- Em contraste, nós passaremos por um processo político
- Para que os valores democráticos prevaleçam globalmente, devemos abordar a IA com cautela, mas sem aceitar o risco de perder a corrida da IA
- É por isso que acredito que o 14º Plano Quinquenal da China, supervisionado pelo presidente Xi Jinping, declara explicitamente a intenção de vencer em IA e em redes sem fio 5G
- A primeira traz poder econômico; a segunda permite à China vigiar todos os cidadãos de mais de 100 países ao controlar redes de comunicação e o TikTok
- A liderança tecnológica é uma prioridade existencial à altura de uma mobilização de guerra
- Imagine bots chineses, livres das "restrições de alinhamento" que preocupam acadêmicos e filósofos americanos, influenciando discretamente eleitores ocidentais de forma individual
- Para lidar com esses riscos acidentais e conspiratórios, devemos aumentar drasticamente a pesquisa e o investimento em tecnologias de segurança, mas não regular a IA de forma agressiva
-
Se você acredita que a China atingirá seu pico dentro da próxima década devido à demografia, à desaceleração do crescimento e ao enorme peso da dívida, então deve acreditar que ela ficará mais desesperada para vencer e mais perigosa em seu declínio
- Ao contrário da armadilha de Tucídides (quando uma potência comercial emergente abala a ordem existente, ocorre um conflito armado entre a potência comercial estabelecida e a emergente)
- É por isso que não devemos depender da misericórdia deles enquanto debatemos cenários hipotéticos e atrasamos o progresso com regulações de prioridades equivocadas
-
Talvez devamos nos preocupar com a possibilidade de a IA ter consciência suficiente para destruir a humanidade, mas também existe o risco de um asteroide atingir a Terra ou de surgir uma pandemia
- Mas o risco de a China destruir nosso sistema é, na minha opinião, muito maior
- No debate atual, os pessimistas estão focados em riscos menores e não no risco mais óbvio: perder a corrida da IA para agentes mal-intencionados é o que torna a IA perigosa para o Ocidente
- Ironicamente, as pessoas que temem a IA e sua capacidade de corroer a democracia e manipular a sociedade deveriam ser as que mais temem esse risco!
3. Visão utópica sobre a IA
- Uma das motivações para escrever este texto é dissipar a visão distópica de um mundo centrado em IA
- Trata-se de uma visão cognitivamente preguiçosa e sem imaginação: desemprego em massa, os ricos ficando mais ricos, desvalorização da especialização intelectual/física, perda da criatividade humana etc.
- No Ocidente, há uma visão muito distorcida sobre a distopia
- Muitos autores de distopia já desfrutam do luxo de especular a partir de sua torre de marfim, livres do peso da vida real e da ameaça à sobrevivência
- Menciona-se os 40% dos americanos que teriam dificuldade para arcar com uma despesa inesperada de US$ 400, os 100 milhões de americanos sem acesso adequado à atenção primária e os 500 mil cidadãos que vão à falência todos os anos por causa de custos médicos excessivos
- A IA pode oferecer a quase toda criança do planeta um tutor de IA quase gratuito e, a todas as pessoas, conhecimento médico de IA quase gratuito
- Quase todo tipo de especialização — de oncologistas a engenheiros estruturais, engenheiros de software, designers de produto, projetistas de chips e cientistas — ficará próximo de ser gratuito
- O microprocessador, a julgar pela capacidade de computação dos celulares, tornou a maior parte dos eletrônicos e da computação quase gratuita
- A IA aplicará reduções de custo semelhantes em muito mais áreas do que o microprocessador, tornando quase gratuito todo o conhecimento especializado, grande parte do trabalho muito barata por meio de robôs bípedes e similares, e materiais que vão de metais a medicamentos muito mais baratos por meio de melhores descobertas científicas e de recursos
- Também controlará o plasma em reatores de fusão e sistemas como aeronaves autônomas, veículos autônomos e transporte público, tornando tudo isso muito mais barato e acessível para todos
- A IA dará a cada indivíduo um assistente inteligente personalizado para ajudar em tarefas do dia a dia, oferecer saúde e nutrição personalizadas e até fornecer apoio executivo
- Ferramentas baseadas em IA gerarão ilustrações, ícones, logos e obras de arte, transformando a forma como criadores trabalham
- Surgirão médicos copilotos de IA, IA para automatizar radiologia e diagnósticos, e analistas financeiros de IA para automatizar tarefas como gestão de contas a receber e modelagem financeira
- A IA ajudará na redação de contratos, na criação de videogames e na operação de veículos totalmente autônomos
- Copilotos de IA ajudarão engenheiros em tudo, da verificação formal de chips ao gerenciamento térmico, engenharia civil e design de interiores
- De ressonâncias magnéticas autônomas a audiolivros personalizados, estaremos limitados apenas pelo que os empreendedores conseguirem imaginar
- A IA democratizará até mesmo a forma como construímos empresas
- Por exemplo, a programação não ficará mais restrita à ciência da computação. Em breve, poderemos programar em linguagem natural em vez de linguagens complexas, o que pode formar quase 1 bilhão de programadores
A. Melhoria de eficiência e produtividade
- Estimo que 80% de 80%, talvez até mais, de todos os empregos poderão ser executados por IA.
- Isso vale para qualquer profissão: médicos de atenção primária, psiquiatras, vendedores, oncologistas, trabalhadores rurais, operários de linha de montagem, engenheiros estruturais, projetistas de chips etc. E, na maioria dos casos, a IA fará melhor
- Já estamos testemunhando os primeiros estágios em que a IA assume trabalhos monótonos e repetitivos, permitindo que humanos se concentrem em tarefas mais criativas, estratégicas e gratificantes
- No fim, como seres humanos, decidiremos quais tarefas atribuiremos a humanos e quais escolheremos fazer por conta própria
- Também podemos ver copilotos de IA sintetizando terabytes de dados de uma forma melhor do que seria possível para humanos
- Onde quer que a especialização esteja ligada a resultados humanos, a IA poderá superar os humanos e será oferecida a um custo próximo de zero
- Tome como exemplo um oncologista que trata uma paciente com câncer de mama: seria muito difícil que ele lembrasse dos 5.000 artigos mais recentes sobre um tipo específico de câncer de mama
- Inteligência incorporada, como robôs, será um vetor surpreendente de novas capacidades ao longo da próxima década
- O fato de uma tarefa ou profissão poder ser executada por IA não significa que toda sociedade permitirá isso
- Outra reflexão possível: em uma sociedade em que a especialização está na IA, todo trabalho — do trabalho rural ao de oncologistas e engenheiros — será valorizado de forma igual?
- A IA será uma grande ferramenta de equalização?
- E quanto aos recursos naturais e insumos físicos necessários para sustentar esse software e hardware, como ferro, cobre, lítio e cimento?
- Ao ver a China agir estrategicamente para dominar regiões ricas em recursos, como África e América do Sul, especialmente cadeias de suprimento de minerais críticos, a necessidade de inovação fica clara
- A IA transformará a forma como descobrimos e utilizamos recursos naturais como lítio, cobalto e cobre, permitindo que nossa capacidade de descoberta de recursos ultrapasse o consumo
- O desafio atual não é a falta de recursos, mas o limite da nossa capacidade de encontrá-los, e a IA ajudará a romper essa barreira
- Além disso, a IA pode otimizar o uso de recursos naturais, matérias-primas e outros recursos, reduzindo desperdícios e melhorando a eficiência em setores como agricultura, manufatura e energia
- Isso pode levar a uma economia mais sustentável e a uma melhor gestão do planeta
B. Melhoria da qualidade de vida
- Nossa vida física também será transformada para melhor
- Robôs bípedes têm potencial para transformar todos os setores verticais, das tarefas domésticas ao cuidado de idosos, linhas de montagem em fábricas e fazendas
- Poucos estão se preparando para como isso poderá provocar mudanças radicais no PIB, na produtividade e na felicidade humana, libertando as pessoas da escravidão dessas atribuições que chamamos de empregos
- Esses robôs gerarão valor suficiente para sustentar as pessoas que substituírem
- Em 25 anos, poderá haver 1 bilhão de robôs bípedes capazes de executar uma ampla variedade de tarefas, inclusive manipulação fina (em 10 anos, 1 milhão)
- Podemos libertar humanos da escravidão dos empregos realmente indesejáveis da metade inferior da força de trabalho, como operários de linha de montagem e trabalhadores rurais
- Isso pode se tornar uma indústria maior que a automobilística. Mas caberá aos humanos não adotar uma postura preguiçosa e indulgente diante da vida
- A IA também pode reduzir a distância física entre nós
- Na maioria das cidades, podemos substituir grande parte dos carros por sistemas de transporte rápido pessoal autônomo baseados em IA e veículos autônomos para a última milha, aumentando em 10 vezes a capacidade de passageiros das estradas existentes
- Isso encolherá drasticamente a indústria automobilística e reduzirá o PIB nominal, ao mesmo tempo em que tornará o transporte pessoal local muito mais conveniente, rápido e barato
- E não será apenas nossa vida física a mudar
- Em breve, o acesso à internet da maioria dos consumidores poderá se tornar um agente que age em nome deles, capacitando-os a gerenciar tarefas cotidianas com eficiência e a bloquear profissionais de marketing e bots
- Não seria surpreendente haver dezenas de bilhões de agentes rodando 24 horas por dia em nome dos consumidores, e isso está atualmente na minha lista de desejos
- Isso também aumentará o consumismo e será uma grande ferramenta de equalização para consumidores diante de máquinas de marketing bem estruturadas que tentam vender coisas ou distorcer seu modo de pensar
- Eles terão a IA mais inteligente protegendo seus próprios interesses
C. Serviços de saúde aprimorados e aumento da longevidade
- A IA pode revolucionar os serviços de saúde ao viabilizar a medicina personalizada por meio de tratamentos adaptados à composição genética, ao estilo de vida e ao ambiente de cada pessoa. Isso pode levar a melhores resultados de saúde e a vidas mais longas e saudáveis
- A IA pode ser usada para detectar doenças precocemente, antes do aparecimento dos sintomas, permitindo tratamentos mais eficazes e menos invasivos. Isso pode reduzir significativamente o peso das doenças crônicas e melhorar a saúde pública em geral
- A qualidade, a consistência e a acessibilidade de serviços como os de saúde devem melhorar à medida que se tornam quase gratuitos
- Uma gama extremamente ampla de cuidados primários, incluindo saúde mental e manejo de doenças crônicas, não apenas se tornará básica em todo o mundo, como a IA também complementará as tecnologias atuais de biotecnologia para criar medicamentos de precisão que realmente funcionem, minimizem efeitos off-target e sejam escaláveis globalmente e acessíveis
- Médicos mais especializados, como oncologistas, poderão acessar um volume imenso de informações sobre pesquisas e dados mais recentes, o que lhes permitirá ser mais eficazes e mais atualizados do que seus equivalentes humanos
- Provavelmente ainda haverá necessidade de intervenção humana, e a IA saberá quando chamar um médico humano de acordo com as preferências do paciente, mas um oncologista de IA operando 24 horas por dia poderá oferecer muito mais pontos de contato, sintetizar muito mais informações e modelar resultados para tomar decisões sobre diagnóstico e processos clínicos, permitindo que médicos humanos se dediquem a atividades mais gratificantes. Isso também se aplica a outras especialidades, bem como a todos os tipos de manejo de doenças crônicas e exames diagnósticos
- O medo de uma distopia de IA não vem de pacientes que lutam para conseguir atendimento em um sistema de saúde extremamente ineficiente (embora eles se preocupem com seus empregos)
- 150 milhões de americanos vivem em áreas designadas pelo governo federal com escassez de profissionais de saúde mental, e mais da metade dos adultos com transtornos mentais não consegue receber tratamento
- Devemos perguntar não a acadêmicos de elite, mas a 28 milhões de pessoas se elas receberiam bem notícias como estas:
- Os primeiros terapeutas de IA baseados em grandes modelos de linguagem aprovados no Reino Unido agora estão lidando com 40% da triagem de saúde comportamental do NHS e apresentam resultados muito superiores em recuperação, com a IA realizando triagem, escalonamento, diagnóstico e tratamento.
- Com o tempo, essa tendência levará a cuidados de saúde mental quase gratuitos. Esse é o lado utópico da IA — uma revolução tecnológica há muito esperada, capaz de resolver grande parte do sofrimento causado pelo sistema atual
- Minha hipótese sobre reconstruir a infraestrutura social por meio da tecnologia (Reinventing Societal Infrastructure) para que 7,9 bilhões de pessoas no planeta possam viver como os 10% mais ricos dos seres humanos agora parece muito mais alcançável com a revelação das capacidades cada vez maiores da IA
- A expansão dos cuidados primários básicos, do manejo de doenças crônicas e do atendimento especializado (por exemplo, cardiologia, oncologia, sistema musculoesquelético etc.) é essencial para melhorar a saúde e prevenir doenças entre as pessoas que vivem em países em desenvolvimento
- Um médico disponível 24 horas por dia, quase gratuito, para todas as crianças do mundo seria impossível se continuássemos dependendo de humanos para prestar serviços de saúde
- Na verdade, o debate atual não está focado no resultado mais marcante da IA: as pessoas mais impactadas pela revolução da IA serão os 4 bilhões que compõem a metade inferior do planeta, que luta diariamente para sobreviver
- Principalmente por essas razões, quando acadêmicos da torre de marfim tentam nos fazer retroceder no caminho rumo a uma utopia de IA, isso mostra o quanto eles estão desconectados do mundo real
- Há 20 anos, a revista Lancet descobriu que, em 42 países responsáveis por 90% da mortalidade infantil global, 63% das mortes infantis poderiam ser prevenidas com cuidados primários mais eficazes, o equivalente a 6 milhões de vidas por ano. A IA pode tornar isso quase gratuito
- Nos países ocidentais, tomamos como garantida a possibilidade de prevenir doenças como diarreia, pneumonia, sarampo, malária e a transmissão pré e perinatal de HIV/AIDS
- Não existe uma forma realista de ter médicos humanos de atenção primária em número suficiente para alcançar todas as crianças nas regiões menos favorecidas do mundo e aumentar os pontos de contato
- Se aceitarmos a IA na sociedade e avançarmos, imagino que, quando eu visitar uma vila na Índia onde nasci, a qualidade do atendimento que receberei será superior à que recebo ao consultar um médico local de atenção primária em Stanford. Isso porque as vilas indianas adotarão a IA mais rapidamente, dadas as fricções existentes nos Estados Unidos
D. Educação e expansão do conhecimento
- A IA pode criar experiências de aprendizagem personalizadas que se adaptem às necessidades, ao ritmo, às lacunas de conhecimento e aos interesses de cada aluno, levando a uma educação mais eficaz e a níveis mais altos de desempenho para todos os aprendizes
- Plataformas baseadas em IA podem oferecer educação de alta qualidade a pessoas no mundo todo, independentemente de localização geográfica ou condição econômica. Isso pode democratizar o conhecimento e empoderar indivíduos globalmente
- O zoneamento de distritos escolares públicos e o CEP em que alguém nasceu terão muito menos impacto sobre os resultados de vida de uma pessoa com a ajuda da IA, se conseguirmos resolver o problema da influência dos pares
- Em escala global, a IA é nossa única oportunidade de oferecer a todas as crianças do planeta um tutor pessoal quase gratuito, disponível 24 horas por dia, em inúmeras disciplinas
- É difícil superestimar o impacto que isso pode ter na abertura de oportunidades e na concessão de autonomia, autoeficácia, paixão, esperança, motivação e igualdade de gênero. Isso é ainda mais verdadeiro para quem vive em partes do mundo que, de outra forma, carecem de recursos e de infraestrutura para uma educação tão ampla, consistente e acessível
- Combinados com minha visão de mais de 25 anos de uma sociedade libertada da “necessidade de trabalhar”, tutores de IA e mentores humanos darão às crianças a liberdade de explorar e ser quem são. Isso é mais próximo da liberdade
E. Sustentabilidade ambiental
- A IA pode desempenhar um papel importante no enfrentamento da mudança climática por meio da otimização do uso de energia, da redução de emissões e do desenvolvimento de novas tecnologias para energia renovável
- A IA também pode ajudar no monitoramento ambiental e nos esforços de conservação
- A IA pode levar a práticas agrícolas mais inteligentes e eficientes, capazes de aumentar a produção de alimentos enquanto reduzem o impacto ambiental, ajudando a alimentar de forma sustentável uma população mundial em crescimento
- Mas isso é pensamento linear. Cientistas de IA podem tornar possíveis abordagens muito mais inovadoras para esse problema decisivo criado por nós, humanos
- Para concretizar uma utopia de IA, serão necessárias tecnologias complementares, como a fusão nuclear, para a produção ilimitada de energia barata
- Se o ambiente político certo for criado, isso poderá substituir todas as usinas de carvão e gás natural até 2050
- Eu aposto mais em caldeiras de fusão para adaptar e substituir caldeiras a carvão e gás natural do que na construção do zero de usinas completas de fusão ou nucleares
- Também há esforços promissores usando energia geotérmica, solar e sistemas avançados de baterias para obter energia limpa e controlável
- Há vários fatores em jogo na redução do custo ambiental da computação
- Melhorias significativas estão sendo feitas em eficiência algorítmica e hardware, permitindo que sistemas de IA façam muito mais consumindo muito menos energia
- Novas tecnologias e a integração com recursos de busca na web ajudam a IA a escalar com mais eficácia sem aumentar drasticamente o consumo de energia
- Esses esforços em prol de uma computação otimizada não apenas sustentam a crescente demanda energética da IA, como também garantem que essa tecnologia possa escalar de forma sustentável sem sobrecarregar a infraestrutura global
- No entanto, precisamos trabalhar duro nesse problema, e ele é um problema real
F. Aprimoramento das capacidades humanas (e da criatividade), novas experiências
- A IA amplia as capacidades humanas, permitindo resolver problemas complexos que hoje são difíceis de lidar apenas com a inteligência humana
- Isso pode levar a avanços em ciência, tecnologia e outras áreas, inclusive em desafios intelectuais
- Como parceira criativa, a IA pode ajudar artistas, designers e inovadores a explorar novas ideias e ampliar os limites do possível na arte, na ciência e na tecnologia
- Os serviços ao consumidor serão hiperpersonalizados, permitindo que cada pessoa seja ao mesmo tempo artista, compositor, produtor, escritor e consumidor
- Por exemplo, a música poderá se tornar interativa como um jogo, e há a possibilidade de novos formatos serem descobertos e ativados
- Esse tipo de mídia já começou a surgir em massa e, em alguns casos, está gerando hits em proporção maior do que obras feitas por humanos
- Antes, muitas aspirações artísticas eram bloqueadas por falta de talento, preocupação com um futuro econômico estável ou simplesmente pela falta de recursos para fazer um filme ou compor uma música, mas essas barreiras desaparecerão gradualmente
- Isso não significa que celebridades famosas vão desaparecer, mas a arte gerada por IA oferecerá complexidade e texturas profundas que ocultarão a origem artificial da música
- Algumas pessoas vão odiar isso, outras vão gostar. O mesmo vale para os gêneros musicais de hoje, da música clássica ao heavy metal
- Novos tipos de trabalho surgirão, e uma nova criatividade irá florescer
- Antes do surgimento da câmera de cinema, não existia a profissão de cineasta. Uma indústria inteira cresceu de forma explosiva
- O entretenimento se tornou mais popular, e esportes radicais passaram a ser profissões que geram renda para muitas pessoas, como nos X Games
- Por exemplo, o snowboard antes não era uma profissão, e agora é
- Plataformas como Etsy e eBay impulsionaram artesãos e empreendedores do mundo todo, e novas tecnologias tornarão possíveis profissões de mundos totalmente novos
- O Wattpad possibilitou o surgimento de muitos novos escritores criativos, e plataformas como Pinterest e Tumblr deram às pessoas uma saída para expressar sua criatividade, permitindo que expressem mais seus gostos e sua individualidade
G. Tomada de decisão ética e governança
- A IA pode ajudar a criar uma sociedade mais justa e igualitária ao garantir processos de decisão justos, reduzir vieses e promover transparência na governança
- A IA pode analisar enormes volumes de dados para apoiar o desenvolvimento de políticas baseadas em evidências, levando a uma governança mais eficaz e bem informada
- Será possível oferecer um advogado 24 horas por dia para todos os cidadãos, multiplicando por 10 o acesso a especialistas e ampliando acessibilidade e adequação
- Haverá juízes de IA em número suficiente para resolver disputas rapidamente, sem os vieses humanos profundamente enraizados
- Educação, serviços jurídicos e aconselhamento financeiro deixarão de existir apenas para as camadas mais altas da sociedade
- Na verdade, tudo isso se tornará um serviço governamental essencial e quase gratuito, como hoje são as estradas e a defesa nacional
H. Prosperidade e felicidade humanas
- Em uma visão utópica, a IA pode ajudar a deslocar o foco social do crescimento econômico para a felicidade e a realização humanas
- Imagine um mundo em que as pessoas tenham, desde cedo, a oportunidade de seguir aquilo que realmente as entusiasma, permitindo que as paixões surjam naturalmente
- Já expliquei antes a liberdade das crianças, mas aprofundando um pouco mais
- Se começarmos a ensinar às crianças, desde os 6 anos, que elas não precisam se destacar na escola apenas para conseguir um emprego, mas para alimentar sua própria paixão, isso criará uma experiência formativa muito diferente em seus cérebros em desenvolvimento, em comparação com começar essa conversa aos 40 anos
- Profissões como artes visuais, música, esportes e escrita, que em geral não estão associadas à estabilidade financeira, exceto talvez para o 1% ou 0,1% do topo, em breve poderão se tornar satisfatórias e viáveis para qualquer pessoa que queira segui-las, sem as restrições atuais de precisar ganhar a vida e sustentar a família
- Essas mudanças podem redefinir o que significa ser humano
- Não estaremos mais presos à monotonia do trabalho em linha de montagem definindo toda a nossa existência
- Como propus em 2000, talvez precisemos repensar a própria definição do que significa ser humano
- Afinal, será que passar 30 anos instalando um mesmo tipo de roda em carros numa linha de montagem é realmente algo gratificante?
- Trabalhos assim, como o trabalho agrícola sob calor de 100 graus Fahrenheit, representam uma forma de servidão, não de florescimento humano
- Mas isso não diz respeito apenas ao trabalho braçal. Os empregos de colarinho branco podem desaparecer primeiro
- Por exemplo, olhando para o banco de investimento: passar 16 horas por dia mexendo em planilhas do Excel ou apresentações em PowerPoint e repetindo o mesmo trabalho sem parar é algo realmente satisfatório?
- As consequências financeiras da IA libertarão as pessoas dessas restrições, permitindo que voltem a focar no que realmente importa — não na sobrevivência nem em necessidades básicas como moradia, comida ou remédios para a família, mas em suas paixões
- Eliminar trabalhos indesejáveis e intensivos em mão de obra não tornará a vida menos significativa
- Pelo contrário
- Nos países que se adaptarem a essas tecnologias, a vida poderá se tornar mais significativa, porque em algumas décadas talvez desapareça a necessidade de trabalhar 40 horas por semana
- Em 1920, Keynes imaginava uma semana de trabalho de 15 horas!
- Imagine o que é possível. Trabalhar 1 dia por semana e ainda assim fornecer 20% do trabalho de que precisamos ou queremos
- Eu mesmo, aos 69 anos, teria prazer em passar um dia da semana cuidando do jardim e o restante do tempo aprendendo
- Finalmente poderia ter tempo suficiente para esquiar, fazer trilhas ou me dedicar aos meus muitos interesses
- É justamente essa oportunidade de redefinir a experiência humana que desmonta o argumento dos pessimistas de que a “humanidade” desaparecerá em nossas vidas
- Primeiro, podemos criar um mundo que dê a todos os seres humanos muito mais autonomia, autoeficácia e esperança, removendo as restrições e preocupações financeiras que impõem a tantas pessoas a necessidade de garantir o básico para si e para suas famílias
- Ao remover o peso da sobrevivência básica, a IA nos oferece a chance de criar um mundo em que as pessoas sejam livres para perseguir aquilo que realmente importa para elas
- Os principais campos do esforço humano poderão ser cultura, arte, ciência, criatividade, filosofia, experimentação, exploração, todos os tipos de competição e aventura
- A verdadeira questão é se todos poderão participar disso
I. Os possíveis obstáculos à nossa utopia podem ser superados
- É claro que muita coisa pode atrapalhar a transformação dessas previsões em uma realidade utópica
- A resistência de organizações estabelecidas pode impedir o progresso (por exemplo, sindicatos de atores)
- Políticos podem explorar os medos do público para obter ganhos pessoais ou populistas, o que pode alimentar ainda mais a resistência
- Além disso, falhas ou atrasos técnicos, agravados por problemas na cadeia de suprimentos ou conflitos globais, podem retardar o desenvolvimento
- Os mercados financeiros também são um fator de risco. Recessões ou condições adversas podem deixar ideias promissoras sem financiamento, descritas como caindo no “vão de uma ponte distante”
- Sentimentos antitecnologia, incluindo a oposição de pessoas que desconfiam da tecnologia e de seus adversários, podem impedir a ampla adoção de avanços benéficos
- Esse sentimento pode se alinhar a preocupações de luditas modernos, que, junto com defensores de DEI, podem dominar o discurso e desviar o foco dos benefícios potenciais da tecnologia
- A situação pode se complicar ainda mais se alguns poucos resultados negativos relacionados à IA receberem atenção desproporcional da mídia, contaminando a percepção pública sobre a IA
- Eventos imprevisíveis e anômalos de “cisne negro” são comuns e podem atrapalhar o progresso de forma inesperada
- Por fim, o movimento pode ser prejudicado se agitadores e defensores centrais não surgirem ou não conseguirem defender a causa com eficácia
- No entanto, mantenho a convicção de que uma utopia movida por IA não é apenas uma possibilidade otimista, mas uma probabilidade altamente alcançável por meio de escolhas sociais corretas e avanços tecnológicos
- O essencial é aproveitar o potencial da IA com responsabilidade e garantir que seus benefícios sejam distribuídos de forma justa por toda a sociedade
- À medida que os contornos do cenário de IA continuam evoluindo, parece improvável que exista uma única empresa dominante que forneça IA e controle seus benefícios
- Dado o quanto as ferramentas de IA se tornaram acessíveis e fáceis de usar, é pouco provável a preocupação de que o poder da IA fique concentrado nas mãos de poucos
- Ao contrário de setores em que a especialização e o capital elevam as barreiras de entrada, o desenvolvimento de IA está cada vez mais democratizado, permitindo que indivíduos e pequenas equipes construam, treinem e implantem sistemas de IA com recursos mínimos
- Hoje, muitos serviços de nuvem oferecem a infraestrutura necessária para treinar modelos de IA em grande escala sem hardware especializado ou investimentos financeiros enormes
- E novas pesquisas de empresas menores estão focadas em abordagens de desenvolvimento de IA fundamentalmente diferentes dos LLMs atuais
- O caminho ideal de desenvolvimento ainda não está claro para mim. É muito provável que muitos deles sejam complementares entre si
- Além disso, plataformas low-code, no-code e de linguagem natural estão tornando mais fácil do que nunca para pessoas sem conhecimento técnico profundo criar e implantar soluções de IA
- De chatbots a modelos de aprendizado de máquina, essas plataformas abstraem boa parte da complexidade, permitindo que a pessoa comum desenvolva aplicações de IA em muito menos tempo do que há apenas alguns anos
- Com APIs baseadas em IA, qualquer pessoa com apenas uma compreensão básica de programação pode integrar uma IA poderosa aos seus apps, ferramentas e fluxos de trabalho com esforço mínimo
- À medida que ferramentas e recursos para desenvolvimento de IA continuam se tornando mais acessíveis, a ideia de que uma única empresa ou organização monopolize a IA se torna menos viável
- Em vez disso, estamos caminhando para um futuro em que o desenvolvimento de IA estará aberto a todos, de empreendedores individuais a empresas locais, permitindo que a inovação floresça de baixo para cima
- Esse modelo de inovação descentralizada ajudará a garantir que a IA continue sendo uma ferramenta para muitos, e não para poucos
4. A nova economia do mundo da IA
A. Capitalismo e democracia na era da IA
- O capitalismo ocidental opera dentro do escopo da democracia e tradicionalmente foi projetado para a eficiência econômica
- Embora o capitalismo tenha gerado crescimento econômico, na era da IA não devemos nos concentrar apenas na eficiência; considerando o papel da igualdade na felicidade humana, também devemos acrescentar como objetivo igualmente importante a redução da desigualdade de renda
- O capitalismo, tradicionalmente o motor da eficiência econômica, pode precisar evoluir diante da transformação impulsionada pela IA
- Com a redução da necessidade de eficiência econômica tradicional, surge espaço para priorizar, ao lado da eficiência, o capitalismo empático e a igualdade econômica
- O capitalismo existe com a permissão da democracia
- Desigualdades acima de certo nível levam à instabilidade social, por isso as políticas devem ser formuladas tendo isso em mente
- Cresci simpatizando com certo grau de desigualdade (isto é, “motivação para trabalhar mais”), desde que exista uma grande oportunidade de mobilidade social
- Essas saídas que podem melhorar de forma significativa nossas vidas ainda devem existir
- Além disso, o capitalismo atual se desviou para uma nova forma em que os esforços para criar demanda (isto é, publicidade e equivalentes) superam as vantagens de eficiência econômica para as empresas, fazendo-nos querer coisas que nem sabíamos que queríamos.
- Isso não contribui para o bem-estar social
- Chegamos a um ponto em que melhorar o sistema capitalista atual pode ser inteiramente positivo
- Ironicamente, a sociedade que decidir abraçar essa tecnologia ao máximo — ainda que nem todos a abracem igualmente — terá uma capacidade muito maior de praticar um capitalismo empático graças à abundância que a IA abrirá
- Não devemos frear a mão do mercado nem o progresso tecnológico; em vez disso, devemos reconhecer que, em muitos casos, o trabalho humano pode ser desvalorizado
- Isso pressiona para baixo os salários de trabalhadores pouco qualificados e até de muitos trabalhadores altamente qualificados
- À medida que a necessidade de trabalho e julgamento humanos diminui, o trabalho perderá ainda mais valor em relação ao capital e em relação a ideias e técnicas de aprendizado de máquina
- Em uma era de abundância e ampliação da desigualdade de renda, como previ em meu ensaio sobre IA de 2014, talvez precisemos de uma versão do capitalismo que não se concentre apenas na produção eficiente, mas que dê maior prioridade aos efeitos colaterais indesejáveis do capitalismo
B. Compressão salarial e turbulência no emprego, junto com aumento de produtividade
- À medida que a IA nivela as diferenças de habilidade, os salários podem ser comprimidos, e a criação de valor pode migrar para criatividade, inovação ou propriedade da IA, potencialmente levando a outras desigualdades econômicas
- Historicamente, ganhos de produtividade levaram a salários mais altos e aumento dos gastos do consumidor, mas reconhece-se que isso pode não acontecer com a IA, dado seu potencial de separar dos humanos 80% do trabalho em 80% dos empregos, como prevejo
- Nesse mesmo contexto, não podemos simplesmente extrapolar a história econômica do passado, apesar da pregação de que, em cada revolução tecnológica, novas oportunidades de trabalho superaram as perdas
- Como alguém disse, "quando o trem da história faz uma curva, os intelectuais caem para fora"
- Argumento que desta vez a situação pode ser diferente, porque o motor fundamental da criação de empregos está mudando devido a uma tecnologia que não apenas pode ampliar as capacidades humanas, mas superá-las de forma ampla
- Já vimos grandes transições antes, mas nunca nessa velocidade, o que torna a adaptação um problema muito mais difícil
- Em 1900, a maior parte dos empregos nos EUA estava na agricultura
- Em 1970, isso era 4%
- Mas isso levou 3 gerações
- Este ciclo de IA será muito mais rápido. Portanto, será mais caótico e desconfortável
- A IA provavelmente causará uma mudança tectônica na força de trabalho, eliminando muitos empregos e exigindo uma reconsideração social de como as pessoas passam seu tempo
- Mesmo que a sociedade como um todo melhore, a mudança pode atingir com mais força algumas pessoas da economia
- Isso dificilmente será fácil de aceitar para os mais afetados
- O período de transição de 10 a 25 anos pode ser muito turbulento
- Mas isso nunca é motivo para agir com medo e, no fim, deixar de colher os benefícios de um mundo liberto das restrições do trabalho e com maior acesso a recursos hoje desfrutados por tão poucas pessoas
- É hora de considerar seriamente como cuidar das pessoas afetadas
- Ao oferecer capacidades de especialistas multiplicadas várias vezes, isso pode aumentar não só a acessibilidade, mas também a qualidade, ao mesmo tempo em que pode levar à perda de empregos de quem antes ocupava essas funções
- A robótica baseada em IA pode e vai fazer o mesmo em empregos intensivos em trabalho manual
- Ferramentas de IA que apoiam designers e arquitetos em diversos setores verticais aumentarão produção e produtividade de forma semelhante, reduzindo o número de humanos necessários. Isso, ao menos até assumirem autonomamente essas funções no período de 10 a 25 anos que vem pela frente
- Se 1 milhão de médicos ganham US$ 300 mil cada, isso gera um custo de US$ 300 bilhões só nos EUA
- No mundo todo, provavelmente é 10 vezes isso. Trilhões de dólares.
- Talvez esse gasto de US$ 300 bilhões permaneça o mesmo, mas entregue 10 vezes mais serviços nos próximos 10 a 20 anos
- Ao olhar para contadores, é possível chegar ao mesmo tipo de números. Trilhões de dólares são gastos, mas não parece provável que a demanda por serviços contábeis aumente 10 vezes
- Cada área especializada reagirá de maneira diferente ao equilíbrio entre aumento de oferta e aumento de consumo
- Se a IA apoiar/substituir muita mão de obra, essas economias irão para os consumidores. Será preciso equilibrar oferta e demanda em cada setor
- Nos EUA, a demanda por saúde, alimentos e moradia pode aumentar, mas não 10 vezes
- Música e entretenimento quase não terão limites de aumento de demanda, mas, exceto pelo entretenimento de celebridades como músicos ou atletas, serão quase gratuitos
- A produtividade pode aumentar a renda média e, ao mesmo tempo, reduzir tanto a renda mediana quanto o coeficiente de Gini (medida estatística de dispersão usada para representar a distribuição de renda)
- Ironicamente, cidadãos de países desenvolvidos como os EUA podem ter um padrão de vida mais alto, apesar de a desigualdade de renda poder aumentar
- Mas isso dependerá em grande parte da abordagem de políticas adotada por autoridades eleitas
- Pode ser necessária uma educação mais ampla, não para treinar para uma profissão, mas para buscar conhecimento intelectual por seus próprios méritos, em vez de um "propósito" como uma carreira
C. Deflação e necessidade de novas métricas econômicas
- Ganhos de produtividade decorrentes da redução de insumos (isto é, redução do custo do trabalho) e do aumento da concorrência podem desencadear deflação, junto com as perdas de empregos mencionadas acima
- Por outro lado, essas novas dinâmicas podem aumentar a contratação em empresas com gastos limitados para aproveitar os custos mais baixos
- Além da força de trabalho e da expertise, o uso de IA para descoberta de recursos, pesquisa etc. pode reduzir prazos e custos, aumentando a pressão deflacionária
- Claro, há nuances adicionais, como comportamento do consumidor, decisões de investimento das empresas, resposta dos bancos centrais e volatilidade setorial
- Mas, embora a IA provavelmente afete todos os setores do PIB, os prazos são diferentes, então será difícil superestimar seu possível impacto sobre a economia como um todo, e a política monetária nesta nova era não parece que será uma alavanca tão poderosa quanto foi historicamente
- A política monetária funcionou e foi refinada para provocar mudanças graduais na economia
- A ideia de que mudanças econômicas marginais conduzem mudanças marginais de comportamento pode deixar de se aplicar
- A reação ao vento é diferente da reação a um furacão, e a reação a uma onda é diferente da reação a um tsunami
- A eficiência impulsionada por IA em áreas blue-collar e white-collar pode levar à deflação e à perda de empregos, e ambas podem ser mitigadas
- "Deflação" carrega uma conotação negativa porque a queda crônica dos preços normalmente leva à redução da lucratividade das empresas e à estagnação ou até contração do crescimento econômico
- Em contrapartida, o crescimento deflacionário impulsionado por IA provavelmente ocorrerá ao mesmo tempo que um aumento no consumo de bens e serviços (isto é, aumento efetivo da capacidade de gasto do consumidor), por todos os motivos descritos acima
- Se a quantidade de bens e serviços consumidos pelos cidadãos aumentar drasticamente, isso é necessariamente ruim? Nossa linguagem equipara crescimento do PIB e lucro corporativo à prosperidade. Isso é um bug do nosso vocabulário atual
- O custo do trabalho ou o custo do capital podem ser efetivamente alterados por mudanças em regras simples, regulamentações, leis e estratégias tributárias, como imposto sobre ganhos de capital ou MLPs
- Muitos desses vieses estão embutidos na economia capitalista aparentemente neutra de hoje
- Para atingir metas razoáveis de desigualdade de renda, serão necessárias intervenções mais numerosas e mais importantes
- Renda ou mobilidade social são objetivos muito mais difíceis de projetar nas "regras" de uma sociedade
- Acredito que a situação ficará ainda mais complexa à medida que o debate econômico tradicional entre trabalho e capital for subvertido por uma economia de ideias movida por empreendedorismo e conhecimento, um novo fator ao qual muitos economistas não dão o devido crédito
- Esse último fator pode ser um motor da economia mais importante do que trabalho ou capital
- Alguns fatores de produção, como recursos físicos como lítio, cobre e aço, podem levar muito mais tempo do que outros para se adaptar às mudanças
D. Escolhas de políticas públicas
- Esse novo salto quântico na capacidade computacional provavelmente aumentará ao mesmo tempo a desigualdade de renda e a prosperidade
- Desta vez, a evolução tecnológica pode realmente ser diferente, porque pela primeira vez ela supera a inteligência humana, e não apenas eleva a produtividade
- Se esse cenário se concretizar, será necessário fazer mudanças estruturais nos sistemas sociais e políticos para otimizar a justiça, quaisquer que sejam os objetivos da nossa sociedade
- O processo democrático é ideal para esse tipo de decisão, especialmente porque nem todos precisam perseguir os mesmos objetivos
- Estamos diante de uma escolha: acelerar, desacelerar ou regular a adoção de tecnologias disruptivas e decidir, por exemplo, se compensaremos as pessoas substituídas por meio de apoio econômico
- A dinâmica da mudança pode ser dolorosa para quem sofre com a disrupção, e colocar as pessoas substituídas no centro dos esforços de políticas públicas será essencial para absorver de forma eficaz a IA e todas as suas vantagens
- A política econômica deve considerar não apenas o ajuste do crescimento econômico, como faz hoje o Federal Reserve dos EUA, mas também as alavancas e os amortecedores da desigualdade e da mobilidade social
- Como um capitalista assumido e um otimista em relação à tecnologia, eu defendo o apoio e a implantação contínuos e rápidos dos sistemas de IA
- Em vez de desacelerar o progresso tecnológico, devemos nos adaptar às mudanças que ele traz, incluindo a potencial desvalorização do trabalho humano
- Essas mudanças apresentam desafios consideráveis, mas também oferecem, ao longo de mais de 25 anos, a oportunidade de construir uma sociedade mais empática e um mundo pós-escassez de recursos
- Devemos ser cuidadosos com a sociedade em que vivemos e com o futuro que estamos construindo, e formular políticas de forma muito mais empática. Antes isso era um luxo que não podíamos bancar, mas agora passou a estar ao nosso alcance
- Para lidar com os efeitos colaterais mais amplos de tecnologias que superam as capacidades humanas, mudanças estruturais em nível nacional (e internacional) provavelmente serão necessárias no longo prazo
- A política econômica deve ser guiada não apenas pelo ajuste do crescimento econômico, como faz hoje o Federal Reserve dos EUA, mas também pelos vieses da desigualdade e da mobilidade social
- No contexto global, em que os países adotam abordagens diferentes para a adaptação à IA, é provável que ocorram mudanças dramáticas no poder econômico relativo
- À medida que a IA reduz a necessidade de trabalho humano, a UBI (Universal Basic Income) pode se tornar importante, com o governo desempenhando um papel central na regulação do impacto da IA e na garantia de uma distribuição justa da riqueza
- À medida que a IA reduz os custos do trabalho e aumenta a produtividade, o papel da regulação governamental na distribuição de riqueza e na manutenção do bem-estar social será importante
- Diante dos grandes ganhos de produtividade à frente e da possibilidade de a taxa anual de crescimento do PIB subir de 2% para 4-6% ao longo dos próximos 50 anos, o PIB per capita pode chegar a cerca de US$ 1 milhão (assumindo crescimento anual de 5% por 50 anos)
- Uma economia deflacionária faz os dólares nominais atuais renderem muito mais
- Eu acredito que haverá recursos e abundância suficientes para sustentar a UBI
- Hoje, a UBI pode parecer irrealista por causa das restrições econômicas e, de fato, ignorar essas restrições levou a desastres em países como Argentina e Venezuela. No entanto, essas restrições irão gradualmente diminuir
- É preciso cautela ao recomendar certas soluções ou ações precoces, ousadas ou irreversíveis, em escala nacional
- Debate e discussão são claramente necessários. Devemos encontrar soluções pontuais para as pessoas prejudicadas pela ampliação da desigualdade de renda
- Precisamos acompanhar as mudanças de perto e fazer continuamente pequenos ajustes de políticas públicas ao longo desta década
- Apesar do forte avanço da tecnologia de IA, o impacto real e a adoção podem ser mais lentos, assim como na parte plana de uma curva exponencial
E. Imaginando uma utopia do consumidor
- Há paralelos interessantes com o efeito deflacionário da China no Ocidente ao longo dos últimos 20-30 anos
- A migração da força de trabalho para o exterior levou à perda de dezenas de milhões de empregos domésticos na manufatura, mas quase não houve políticas focadas em requalificação ou cuidado com as pessoas cuja subsistência foi desestruturada
- Com IA e visão computacional, passamos a ter a oportunidade de trazer a manufatura de volta ao país sem elevar os preços dos bens, afastando-nos da mão de obra barata de países como a China, ao mesmo tempo em que nos engajamos em pensar políticas produtivas para as pessoas que serão substituídas
- O impacto deflacionário da China veio acompanhado, nos EUA, de uma redução da capacidade de consumo à medida que os empregos eram transferidos para o exterior
- Em contraste, o crescimento deflacionário impulsionado por IA provavelmente ocorrerá ao mesmo tempo que um aumento no consumo de bens e serviços (isto é, um aumento efetivo da capacidade de consumo), por todas as razões explicadas acima. Será difícil prever a dinâmica dessa transformação
- Imagine um mundo em que moradia, energia, saúde, alimentos e transporte sejam todos fornecidos quase de graça por máquinas ou entregues à sua porta. Não resta um único emprego nesses setores
- Quais seriam as principais características desse mundo, e como seria viver nele? Em primeiro lugar, seria uma utopia do consumidor. Todos desfrutariam de um padrão de vida com que apenas reis e papas podiam sonhar
- Acho que, em uma futura sociedade utópica, um certo nível de custo de vida cairá tanto que uma pessoa que hoje ganha US$ 40 mil por ano poderá, na prática, viver melhor do que alguém que hoje ganha US$ 300 mil por ano
- Felizmente, a tecnologia será muito mais deflacionária para bens e serviços do que o outsourcing para a China foi nos últimos 10 ou 20 anos
- No entanto, minha verdadeira esperança é que, à medida que bens e serviços se tornem abundantes, nossos cidadãos passem a se concentrar mais no que lhes traz mais felicidade do que em consumir mais, e que o consumo deixe de ser tanto um símbolo de status
F. Empresa vs. Estado
- Em um mundo de IA, os CEOs de tecnologia que controlam essas tecnologias podem exercer uma influência sem precedentes sobre o emprego global, a estrutura econômica e até a distribuição de riqueza
- Suas plataformas podem se tornar os principais intermediários do trabalho, da educação e da interação social, com potencial para superar o papel dos governos tradicionais em muitos aspectos da vida cotidiana
- Críticos argumentam que esses executivos exercem uma influência comparável ou até superior à de muitos Estados. Eles apontam a capacidade das plataformas tecnológicas de moldar o debate público, influenciar eleições e até afetar a geopolítica como prova desse poder excessivo
- No entanto, essas preocupações levantam uma questão interessante, e eu volto à estrutura anterior de uma escolha forçada entre uma China emergente e maximizada e nossas sociedades e economias mais livres
- Por que deveríamos nos sentir mais confortáveis com a influência de CEOs de tecnologia do que com a influência global de um líder não eleito como Xi Jinping? É improvável que qualquer CEO de tecnologia detenha participação controladora ou mesmo participação substancial, e eles terão de prestar contas a acionistas e conselhos
- Ambos exercem um poder imenso sem responsabilidade democrática direta, mas há diferenças importantes em suas estruturas de incentivos
- CEOs de tecnologia, com todos os seus defeitos, dependem em última instância do apoio e do engajamento contínuos de usuários, clientes e acionistas. Eles precisam, em alguma medida, responder às forças do mercado e à opinião pública para manter sua posição
- Em contraste, líderes autoritários como Xi Jinping ignoram o sentimento público e usam o aparato estatal para suprimir a dissidência e manter o controle
- Essa dinâmica sugere que, embora o poder dos CEOs de tecnologia seja claramente preocupante e exija escrutínio rigoroso, ele pode ser preferível ao poder autoritário desenfreado em termos de responsividade aos stakeholders globais
5. Podemos construir o futuro que queremos
- O futuro que virá será aquele que nossa sociedade decidir conduzir com esta poderosa ferramenta
- Será uma série de escolhas de políticas públicas, não de escolhas tecnológicas, e isso variará de país para país
- Algumas pessoas vão usá-la e outras não
- Quais devem ser as escolhas em nível individual e social?
- Como nossas necessidades básicas foram atendidas, todo o tempo, trabalho, energia, ambição e objetivos humanos serão reorientados para o intangível:
- grandes questões, desejos profundos. A natureza humana será plenamente expressa pela primeira vez na história.
- Sem as restrições das necessidades físicas, seremos o que quisermos ser
- O crescimento do PIB nos levará a uma sociedade de “abundância”, na qual teremos de redefinir nossa relação básica com o trabalho
- E as métricas tradicionais de PIB começarão a se tornar medidas cada vez mais imprecisas do progresso humano
- E haverá grande dependência de trajetória, de acordo com as escolhas políticas e sociais que fizermos
- O mais importante é que a grande ambição de levar a vida abundante desfrutada por apenas 700 milhões de pessoas (10%) a todos os 7,9 bilhões de cidadãos do mundo finalmente parece estar ao nosso alcance
- Sem IA, claramente será impossível expandir em 10 vezes energia, recursos, saúde, transporte, empresas e serviços profissionais. Ela é o multiplicador de força necessário e a única ferramenta capaz de ampliar o que hoje é desfrutado pelos mais afortunados
- A IA é necessária, mas não suficiente
- São necessárias políticas que criem condições favoráveis para a transição social, política e econômica que a acompanha
- A IA é uma ferramenta poderosa que, assim como ferramentas tecnológicas poderosas anteriores, como a tecnologia nuclear ou a biotecnologia, pode ser usada para fins bons ou ruins
- É essencial que façamos escolhas cuidadosas e a usemos para construir um mundo “possível” de acordo com as escolhas da sociedade, e não da tecnologia
Não devemos abrir mão dos benefícios por medo do desconhecido
- É essencial que façamos escolhas cuidadosas e a usemos para construir um mundo “possível” de acordo com as escolhas da sociedade, e não da tecnologia
- Sou um possibilista tecnológico, um otimista tecnológico, mas alguém que usa a tecnologia com prudência e consideração
- Como diz a frase “No wine before its time”, a regulação é necessária, mas não deve haver regulação prematura
- Relembrando o que eu disse em uma entrevista ao New York Times em 2000, teremos de redefinir o que significa ser humano
- Essa nova definição deve permitir uma interpretação pessoal da humanidade, com foco em paixão, imaginação e relacionamentos, e não na necessidade de trabalho ou produtividade
9 comentários
Acho que a afirmação de que "a democracia pode domar a IA" não é garantida na ausência de um governo mundial ou de um direito internacional efetivo. Cada país não pode impor regulações pesadas por causa da competitividade da indústria de IA em relação a outros países, e empresas internacionais como as M7 continuarão resistindo à regulação sob as bandeiras da "inovação" e da "utilidade", enquanto a polarização política vai atrapalhar que unamos forças para domar a IA no momento certo e de forma adequada.
Eu li com bastante interesse. Acho que não é um texto para ser visto pela ótica de certo e errado. É apenas o ponto de vista do autor...
A questão da concentração de riqueza nas empresas pode ser resolvida com políticas públicas
Essa parte parece otimista demais
As políticas sempre vieram depois dos fatos, então me preocupa como a sociedade vai conseguir absorver uma mudança tão rápida e tão grande.
Se os humanos não fossem necessários, não pensariam: por que servir então? Não seria como a ilusão de que o deus que criou os humanos seria superior aos próprios humanos?
Como era de se esperar, não há nenhuma menção ao clima. Além disso, ficam falando de líderes não eleitos, mas também fico me perguntando por que é justificável, na prática, impor à sociedade uma tecnologia com a qual a maioria nem sequer concorda, supostamente em nome de "Mingdyudyu-ui".
É um texto com o qual é difícil concordar no geral, porque o autor se concentra apenas no potencial de transformação social da IA e não considera todas as condições necessárias para que essa mudança ocorra.
A essência da medicina não está apenas em fornecer conhecimento médico, mas em tomar decisões considerando evidências e circunstâncias como eficiência e riscos entre métodos de tratamento, além do prognóstico. Para que um sistema especialista conquiste a confiança do público em geral, será necessário acumular inúmeras evidências, casos de fracasso e regras práticas, em vez de apenas otimismo.
Para que a distância física diminua mais uma vez, não basta apenas o avanço dos meios de transporte; também é necessário haver mudanças no planejamento urbano e na malha viária de acordo com esses meios de transporte mais avançados. Ao observar que grandes cidades da Europa e dos Estados Unidos continuam usando basicamente a mesma malha viária de sua fundação, sem conseguir se afastar muito do planejamento urbano inicial, fica claro que o simples avanço dos meios de transporte não é suficiente para reduzir a distância física em todas as grandes cidades. Como transformar cidades já estabelecidas exige superar enormes custos financeiros e incertezas, isso é pouco provável; as cidades novas é que poderão aproveitar os benefícios do avanço dos transportes.
As doenças infecciosas não podem ser prevenidas apenas com a melhoria do acesso à saúde; também é necessário avançar simultaneamente em saúde pública e saneamento, o que exige serviços administrativos em paralelo, como infraestrutura de abastecimento de água e esgoto.
A IA não pode resolver no lugar das pessoas questões de psicologia e juízo de valor, como vieses cognitivos ou preconceitos, conflitos, igualdade de oportunidades e redistribuição de riqueza.
Plataformas low-code são fáceis para começar o trabalho, mas, à medida que os requisitos aumentam e as dependências se tornam mais complexas, torna-se difícil produzir resultados eficientes e bem acabados.
É muito improvável que todos os políticos e formuladores de políticas pensem como o autor e implementem políticas nesse sentido.
As sanções da UE contra o poder de influência das big techs americanas, bem como o debate sobre a adequação dessas medidas, são questões em andamento no presente e não têm qualquer relação com o governo totalitário da China.
De algum modo, este texto me faz compará-lo com A Era da Inteligência (The Intelligence Age), do Sam Altman.
Foi melhor ver a explicação com vários exemplos do que simplesmente dizer “vai dar tudo certo”.
Foram abordadas perspectivas nas quais eu nunca tinha pensado, e isso me trouxe muita inspiração.
A Khosla Ventures é avaliada como a melhor VC, escolhida pelos próprios fundadores. https://www.founderschoicevc.com/
Se o texto do Sam Altman soa mais como um papo de vendedor dizendo, sem critério, que vai dar tudo certo, gostei deste texto porque ele traz várias questões para pensar.
Hoje, a relação ainda é de humanos como senhores e IA como serva, mas quando vejo a frustração que sentimos em dias como hoje, em que o ChatGPT não funciona, fico até confuso sobre quem é o senhor e quem é o servo.
Além disso, é óbvio que as empresas de IA passarão a desfrutar de um poder econômico e político gigantesco, e acho que o custo social para chegarmos a uma utopia com base em um consenso da sociedade será enorme.
E, embora fosse ótimo se todos os seres humanos fossem éticos e bons, pensando no passado, em que isso raramente aconteceu na era humana, fico triste por me sentir como apenas uma pessoa, pequena diante de uma grande transformação.