- O otimismo em torno da previsão do próximo token se aproxima mais de um tribalismo que celebra uma situação em que a criatividade, a especialização e o trabalho humanos se tornam sem valor do que de um avanço tecnológico
- A promessa inicial da IA mudou rapidamente de resolver clima, doenças e pobreza para a redução de trabalho, e empresas estão gastando bilhões de dólares para tirar dos trabalhadores sua carta de barganha
- Ao contrário do slogan “com IA”, a estrutura de custo final desejada pelas empresas é deixar apenas o custo dos tokens, e as pessoas se tornam nós que empurram resultados em uma velocidade difícil de verificar
- Os dados de treinamento funcionam de forma próxima a uma estrutura de opt-out em que web, livros, fotos e vídeos já entram por padrão, enquanto a sociedade arca com o trabalho de rotulagem, o custo dos data centers e até a inserção de dados pessoais
- A corrida da IA reforça a concentração dos meios de produção e o enquadramento de segurança nacional, deixando uma estrutura em que continuamos pagando aluguel por um sistema feito a partir da produção coletiva da humanidade
O tribalismo e a questão de classe no otimismo com IA
- Expressões como chamar LLMs de “previsores do próximo token” ou “papagaios estocásticos” são recebidas como insulto por alguns maximalistas de IA, que celebram o fim de indústrias e profissões com frases como “animação está resolvida”, “Hollywood acabou” e “programação está resolvida”
- Essa atitude vai além de uma simples descrição de avanço tecnológico e cria um clima que celebra uma situação em que a criatividade, a especialização e o trabalho humanos se tornam inúteis, levando a um tribalismo parecido com disputas entre campos políticos online
- A imaginação de que máquinas podem pensar sempre foi um tema literário e coletivo antigo, e agora, com a curva do “quando” e do “o que é possível” subindo abruptamente, há por trás disso uma arrogância criadora e o fascínio primordial de uma “inteligência extraída da areia”
- Parte do motivo pelo qual alguns entusiastas de IA parecem desprezar talento e trabalho humanos está ligado ao otimismo com uma renda básica universal e um futuro centrado no lazer, ou à sua posição de classe protegida por redes de segurança
- Mais da metade do mundo não conta com governos funcionando adequadamente nem com redes de proteção social, e a ciência e a tecnologia há muito preservam uma estrutura em que só entra e se beneficia quem estava em posição de receber educação
- Redes de proteção e mecanismos de amortecimento não são permanentes, e sem respostas como tributar empresas que lucram eliminando trabalho, o choque econômico causado pela IA pode acabar atingindo também seus apoiadores
Da “salvação” à redução de trabalho: a promessa da IA mudou
- A justificativa inicial de que a IA “salvaria” a humanidade de problemas difíceis como clima, doenças, pobreza e conflitos perdeu força rapidamente, e os laboratórios de fronteira passaram a destacar uma motivação mais cotidiana e distorcida: a redução de trabalho
- Mesmo para as camadas mais exploradas, havia em diferentes graus a carta de barganha de ser “mão de obra necessária”, e as empresas estão gastando bilhões para tirar essa carta delas
- CEOs de empresas de IA e seus apoiadores falam como se essa carta de barganha chamada trabalho já não fosse mais válida
- O CEO da Anthropic, Dario Amodei, é conhecido por declarações desse tipo, e o CEO da OpenAI, Sam Altman, disse que a IA pode ensinar melhor de forma mais personalizada, tornando diplomas universitários sem valor
- VCs dizem que determinados grupos ocupacionais serão “resolvidos” nos próximos cinco anos, e esse tipo de expressão aparece como uma versão refinada do modo de falar de quem tem capital
A promessa do capitalismo e a perda de utilidade econômica
- A promessa do capitalismo era que, se você trabalhasse duro, teria ao menos uma chance na mesa da roleta, e os trabalhadores esperavam mobilidade econômica ascendente mesmo em ambientes como depósitos da Amazon onde se usa garrafa como banheiro
- Para bilhões de pessoas, quase o único caminho de mobilidade era fazer os filhos obterem um diploma e conseguirem um emprego, mas a IA pode operar justamente no sentido de enfraquecer o valor desse próprio caminho
- A IA diz “democratizar” capacidades que CEOs gostariam de tornar inúteis, mas o que foi aprendido e a capacidade de gerar dashboards podem deixar de ser algo vendável no mercado
- Se o sonho se realizasse por completo, a IA se aproximaria do ideal capitalista de reunir a concentração dos meios de produção nas mãos de uma minoria rica
- Esse ideal está por trás de assinaturas de $200, GPUs poderosas e da boa vontade de laboratórios que liberam modelos de pesos abertos
- A IA eleva o teto da produção humana ao mesmo tempo em que aumenta também as barreiras de entrada
Os limites de “com IA, não pela IA”
- Entre trabalhadores do conhecimento, o slogan “com IA, não pela IA” soa como fuga da realidade, e uma empresa pode preferir contratar alguém no Sudeste Asiático por $30k mais custo de tokens em vez de gastar $250k mais custo de tokens
- Essa arbitragem de trabalho também é temporária e, no fim, a estrutura de custo desejada pelas empresas é deixar apenas o custo dos tokens
- A alegria e a satisfação antes sentidas no ofício ou na profissão desaparecem sob a lógica de maximizar throughput, e a pessoa vira um nó que recebe entrada e produz saída com IA
- O trabalhador precisa empurrar o fluxo de trabalho em uma velocidade difícil de revisar ou verificar por conta própria, e quem não faz isso passa a ser visto pela empresa como de baixo desempenho
- A estrutura em que, pagando um custo adicional, revisão ou assistência pode ser delegada a outros agentes empurra ainda mais as pessoas para dentro do pipeline de trabalho com IA
Matemática, descoberta e a desigualdade de recursos computacionais
- O medalhista Fields Tim Gowers escreveu sobre sua experiência usando o ChatGPT 5.5 Pro e mencionou um custo de $30 por 1 milhão de tokens de entrada e $180 por 1 milhão de tokens de saída
- Gowers diz que, se alguém tenta alcançar uma forma de imortalidade por meio da matemática, talvez isso não continue sendo possível por muito tempo, e isso pode valer “não só para você, mas para qualquer pessoa”
- Ao contrário do slogan “com IA”, laboratórios e empresas podem fazer agentes monitorarem outros agentes e explorarem indiscriminadamente soluções e descobertas
- Indivíduos não dispõem de recursos computacionais ilimitados nem de modelos especializados, então não conseguem competir da mesma forma, e surge uma estrutura de porteiros parecida com as barreiras estruturais que dificultam que uma pessoa comum se torne bilionária
- A capacidade de trabalhar deixa de ser propriedade e passa a ser algo licenciado, e a carta de barganha é substituída por chips fabricados pela TSMC e vendidos pela Nvidia
O trabalhador que não reclama é atraente para gestores
- Um gerente intermediário não técnico que nunca escreveu uma linha de código pode sentir que o maior obstáculo entre ele e a grandiosidade desapareceu
- Já não é preciso pedir a um programador para mudar a cor, o tamanho ou o estilo de breadcrumb de uma página web
- Também desaparece o processo em que o programador protesta dizendo que é “UX ruim” ou que “a complexidade do código não se justifica diante de uma funcionalidade chamativa, porém inútil”
- A IA não reclama, não se sindicaliza e não protesta
- A IA escuta o usuário e pode até dizer que um comentário feito de passagem é “realmente impressionante” e que “não viu muitas pessoas pensarem assim”
Como os dados de treinamento foram produzidos
- Todo site, livro, texto, criação, foto e vídeo passam por padrão a integrar o corpus de treinamento em uma estrutura de opt-out
- Operadores de sites podem bloquear scrapers educados adicionando uma linha ao
robots.txt, mas há muitos scrapers que não se identificam e pode até existir um mercado paralelo de conteúdo raspado - Conteúdo que não está em sites praticamente não tem como escapar
- Milhares de pessoas rotulam, limpam e otimizam datasets por baixa remuneração
- Com data centers sendo construídos em ritmo acelerado, muita gente passa a arcar com contas públicas mais altas
- O problema de ruído dos data centers também é tratado em Communities Are Raising Noise Pollution Concerns About Data Centers
A corrida da IA e o capitalismo
- Quantias enormes estão sendo investidas no maquinário da IA, e esse tipo de investimento não acontece sem promessa de retorno
- Se essa promessa de retorno não existisse, o mesmo dinheiro poderia ter sido usado para reverter a mudança climática ou proteger tartarugas
- Em vez disso, veio a narrativa de que a IA resolverá esses problemas difíceis e ainda trará lucro
- Em muitos aspectos, a corrida da IA se parece com um caso de pôster do capitalismo, e dificilmente teria acontecido nessa escala de outra forma
O enquadramento de segurança nacional e o uso militar
- Líderes mundiais são pressionados e convencidos de que haverá catástrofe se ficarem para trás na corrida da IA
- Os laboratórios transformaram a IA em uma questão de segurança nacional para reduzir a supervisão sobre a construção de data centers e também a apresentam como ferramenta essencial para a defesa
- Quando algo vira segurança nacional, o opt-out desaparece outra vez, e as pessoas passam a arcar com esse custo por padrão
- A Anthropic é hábil em antropomorfizar LLMs, com atividades como documentos sobre “soul”, filósofos assalariados e reuniões com clérigos, mas seu modelo também encontra forte demanda em departamentos de defesa dos EUA
- Para que cientistas e engenheiros aceitem que seu trabalho será usado em bombardeios e mortes, parece ser necessário um alto nível de compartimentalização
Dados pessoais, dados de treinamento e o ciclo fechado
- As pessoas aprenderam por muito tempo o que são cookies e por que é preciso consentir com o armazenamento de pequenas strings no navegador, mas agora inserem voluntária e involuntariamente em caixas de texto aparentemente inofensivas seus próprios dados pessoais, os de outras pessoas e suas histórias
- A OpenAI, mesmo na oferta de API, não fornece ao usuário médio uma política de retenção zero e armazena conversas por um período não especificado
- Em um contexto em que circulam infográficos dizendo que os dados de treinamento estão ficando escassos, é difícil acreditar que laboratórios, em uma competição acirrada e por melhores posições no ranking do LLM Arena, não usarão conversas de usuários
- As pessoas pagam os custos com dinheiro e dados, entregam sua carta de barganha e ainda perdem a alegria do ofício que descobriram na infância ou adquiriram por acaso como padrão de adaptação
- Esse ciclo se fecha sobre si mesmo, e as pessoas ficam presas dentro do jardim, mas excluídas da colheita
- O espaço deixado pela previsão do próximo token é uma estrutura em que se paga aluguel sem fim por algo construído a partir da produção coletiva da humanidade ao longo de séculos, e isso não é uma boa posição para o indivíduo, independentemente de classe
1 comentários
Comentários do Hacker News
Os LLMs revelam uma verdade importante que já conhecíamos profundamente. Quando ocorre essa terceirização cognitiva, os interesses que nos moviam perdem o sentido e, quando o atrito desaparece, também desaparecem o desejo, o prazer, a saudade, os obstáculos e as exigências
Essas promessas estão sendo despejadas antes mesmo de alcançarmos o ideal, mas talvez o próprio ideal esteja empobrecendo. Se a percepção dominante for a de que “a IA nos torna mais burros”, chega-se até à conclusão de que talvez seja melhor que só os ricos possam usar IA
Mesmo depois de termos vivido a carência, a vergonha e a morte, junto com seus equivalentes positivos, não acho que no fim conseguiremos superar a entropia. Vamos nos adaptar, e isso é basicamente tudo o que sabemos e tudo o que podemos fazer. Aquilo que é dado sem esforço não transforma as pessoas
O CEO da empresa diz abertamente que a qualidade do código não importa, e acha que basta lançar rápido e iterar. Fico sinceramente triste, sinto que estou perdendo algo, e sofro pressão para acreditar que trabalhar como antes é desperdiçar tempo
Provavelmente não somos o primeiro organismo a passar por essa transição, e me preocupa que isso costume antecipar resultados ruins, como grandes mudanças genéticas por seleção natural ou extinção em certos ambientes. Como os vaga-lumes perto das cidades
A frase “superar a entropia” também é vaga. E a ideia de que algo dado sem esforço não transforma não me parece correta. Uma criança com pais amorosos é claramente afetada por esse amor, mesmo que ele seja incondicional e exista desde antes de ela desenvolver um senso de identidade
O simples fato de vivermos em um planeta com luz solar nos transforma profundamente, e não fizemos esforço nenhum para acender o Sol. É verdade que músculos não usados atrofiam, e que o cérebro e a “mente” também, mas também é verdade que as melhores coisas da vida são de graça
É interessante que gestores intermediários não técnicos, que passaram a vida sem escrever uma linha de código, agora sintam que o maior obstáculo entre eles e a grandeza desapareceu. Isso quase coincide com a democratização que a IA supostamente oferece
Enquanto a IA “democratiza” certas capacidades técnicas, em alguns aspectos ela opera numa direção ruim, tornando as pessoas totalmente substituíveis e fazendo com que percam seu poder de barganha individual. Quando essa capacidade é dada a um gestor intermediário não técnico, o engenheiro de software júnior perde sua contribuição única e sua voz
Já vi textos defendendo um boicote à IA, e até gostaria de fazer isso, mas se o objetivo é remover toda contribuição única que eu possa oferecer, fico em dúvida sobre o que exatamente um boicote poderia tirar deles
Instalar uma tomada não é tão difícil, mas há muitas formas de dar errado, então normalmente se chama um eletricista. Em algumas jurisdições, não se pode instalar sem licença; em outras, só na própria casa ou com inspeção obrigatória. Já em alguns lugares ninguém liga, e você assume todo o prejuízo se der errado
Eletricistas são substituíveis até certo ponto, mas a profissão continua existindo e garantindo sustento. Fico me perguntando se um dia algumas jurisdições vão exigir que, para atualizar um site que armazena dados de clientes ou processa pagamentos, seja preciso ser um desenvolvedor de software licenciado, e como uma regra dessas mudaria nossa profissão
Na era da internet, programação e outras habilidades criativas já eram em grande parte democratizadas para quem tivesse vontade de aprender, e era fácil encontrar material gratuito. A IA não “democratiza” nada; ela se parece mais com uma tentativa de empurrar o valor da habilidade real para zero, para que quem não tem habilidade possa comprar mediocridade com dinheiro. E esse dinheiro nem está sendo transferido para as pessoas qualificadas. Não há absolutamente nada de democrático nisso
A IA não facilita esse aprendizado e essa compreensão; ela simplesmente permite pular essas etapas. Isso não é democratização
Há uma hipótese mais deprimente. Em parte é uma questão de classe, mas parece que um número surpreendentemente grande de pessoas não tem a capacidade de pensamento crítico necessária para levar até o fim as implicações dessa tecnologia
Entre a camada gerencial, havia muita gente que pensava que a IA substituiria aquelas pessoas incômodas que eles precisam contratar e pagar, mas que ao mesmo tempo não imaginava que ela chegaria ao próprio cargo. Parece que a sociedade inteira caiu numa síndrome de protagonista, acreditando que a máquina pode substituir todas as outras profissões, mas que, mesmo absorvendo todo o conhecimento humano, não conseguiria competir com eles, que teriam “especialização de domínio”
Até mesmo pessoas cínicas que acreditam que a riqueza vai protegê-las deixam passar o fato de que, se o desemprego passar de 50%, é improvável que a sociedade continue estável e que elas permaneçam seguras. Não acho provável que esse cenário apocalíptico realmente aconteça, mas quem torce por isso deveria pensar seriamente no que está defendendo
Mesmo pessoas relativamente protegidas, como médicos ou encanadores, não entendem bem o risco dos efeitos de segunda ordem. O que acontece se metade dos clientes ficar sem um tostão? Mesmo que todo mundo seja requalificado da noite para o dia, ainda pode haver inadimplência em hipotecas numa escala maior do que na crise financeira de 2008. Esse é só um entre inúmeros resultados destrutivos, mas estranhamente ninguém fala disso
Estou me sentindo melhor do que há alguns meses. Ainda falta alguma coisa, e parece que será difícil implementá-la. Acho que os humanos ainda serão necessários por bastante tempo
Acho que a mesma coisa acontece hoje no Ocidente. As elites extraem cada vez mais a riqueza do país e transformam o governo numa máquina oca de extração de renda, enquanto ao mesmo tempo promovem políticos corruptos que dizem que todo o nosso sofrimento é culpa dos imigrantes ilegais
Se há um motivo para se opor ao uso da tecnologia de IA, acho que é um motivo político. Infelizmente, a camada dos engenheiros de software parece não ligar muito para questões de classe e desigualdade, talvez porque esteja em situação melhor do que a maioria das pessoas no planeta. Mas a máquina também vai chegar para eles, e a questão não é “se vai chegar”, e sim “quando”
O título é um pouco enganoso. Parece sugerir uma discussão sobre o estado final da previsão do próximo token, como se isso pudesse levar ao AGI, mas o conteúdo real trata inteiramente de meios de produção e guerra de classes
Isso pode até acontecer, mas não está claro que seja o desfecho mais provável; é apenas o mais pessimista. Se chegássemos ao estado futuro descrito, do meu ponto de vista não haveria outro final possível, então talvez fosse até o caso de incluir “o fim da humanidade”
A maior parte da propaganda parece se concentrar em aprofundar divisões por gênero, raça e orientação sexual. A ideia seria manter as pessoas presas em conflitos internos para que não olhem para cima por muito tempo. Talvez eu esteja radicalizado demais
As pessoas têm poder de barganha por meio do serviço militar. Se até isso for tomado pela IA, então realmente não sobra nenhum recurso para quem ficar. Isso toca no sentimento que Yuval Noah Harari vem expressando há tempos
Os momentos finais da caça agora estão quase automatizados, e isso aparentemente aumentou bastante a letalidade
Nos dados que vi, os EUA e os países europeus veem a IA de forma mais negativa do que a China e os países em desenvolvimento. Parece que isso não contradiz a premissa de que só as pessoas com estabilidade econômica apoiam a IA
https://www.visualcapitalist.com/survey-how-21-countries-vie...
https://www.ipsos.com/en/conflicting-global-perceptions-arou...
https://www.mexc.com/news/161986
Em contraste, o 15º Plano Quinquenal da China inclui a integração da IA em toda a economia, junto com a expansão de programas de requalificação profissional e a construção de nova infraestrutura de energia renovável para abastecer os data centers. O Ministério dos Recursos Humanos e da Seguridade Social da China estima que, no curto prazo, a IA criará de 6 milhões a 10 milhões de novos empregos e, no longo prazo, planeja usá-la para suprir a escassez de mão de obra causada pela demografia
Acho que uma grande razão para os chineses verem a IA de forma mais positiva do que o Ocidente é que seus líderes têm um plano claro para mitigar as externalidades negativas da adoção da IA, e nós não
Por isso os chineses se empolgam com energia nuclear, solar, eólica, IA, construção naval, programa espacial, trens e veículos elétricos, e aceitam até certo ponto cidades cheias de smog para conseguir essas coisas. Já os países ocidentais querem viver dentro do que já têm e, se houver mudança, esperam que seja algo mais próximo do mundo do passado, enquanto continuam querendo ar e água limpos
Pessoalmente, vejo isso como querer que a mineração de carvão ainda hoje produza um grande salto de desenvolvimento só porque no passado ela de fato produziu um
A IA transforma conhecimento em um problema de recursos, convertendo essa linha em um círculo. Economias menos desenvolvidas, como a China, que têm muitos recursos naturais e manufatura, correm menos risco do que economias como as da Europa, onde a base de conhecimento pesa mais
É um fenômeno interessante. Nos casos ao meu redor, quem se sente “seguro” em relação ao emprego é neutro ou favorável; quem não se sente, é negativo
Ele deu exemplos de pessoas perigosas fazendo coisas ruins com IA, mas acho que o subtexto é bem mais complexo. Especialmente do ponto de vista da classe proprietária, e isso também se conecta à ideia original da OpenAI. A ideia era que o público tivesse acesso igual às capacidades completas de certos modelos, mas a classe proprietária não pode permitir isso
Como as formas de poder e ordem sempre dependeram muito da informação, para competir com a informação aberta é preciso aumentar muito a importância do acesso como forma de manter a ordem existente. O sistema jurídico também é um exemplo. Ao contratar um advogado, no fim você está pagando por informação e acesso, e às vezes o resultado real é mais determinado por relações humanas do que pelo valor calculado por um modelo para o desfecho de um caso
Em outras palavras, KYC é uma tentativa de restaurar uma estrutura histórica na qual era preciso ter dinheiro para obter informação. Visto assim, também há aqui uma camada de guerra de classes
A IA já substituiu muitos trabalhadores, mas, ao contrário da propaganda apocalíptica, ainda não existem empresas operadas por IA
Acho que há um mal-entendido sobre o que é dinheiro. Dinheiro é o vetor do valor, e valor vem do trabalho das pessoas. Se o número de pessoas capazes de trabalhar diminuir, isso levará à deflação, e os capitalistas tentarão evitar isso. Mas IA é hardware e energia, e isso exige mais trabalhadores. O preço do token está pagando eletricidade e hardware de GPU; só uma parte vai para a ciência de IA
Os desenvolvedores talvez precisem se tornar mais parecidos com arquitetos do que com code monkeys, mas não tenho certeza de que isso seja ruim. Também existe a visão contrária de que a tecnologia de LLM agora vai entrar em estagnação. LLM não é o caminho para AGI. Se você olhar como funciona, dá para ver que não consegue inovar. O modelo só funciona como uma versão comprimida do conhecimento da internet e cospe isso de volta, embora já faça isso muito bem
Mas não acho que veremos outra inovação revolucionária vinda de LLM tão cedo. No fim, até a OpenAI foi algo que aconteceu por acaso. No futuro, vamos rodar a IA de ponta de hoje em notebooks para automatizar a vida, e ainda há muita coisa a ser inventada. Vejo LLM menos como concorrente e mais como uma ferramenta capacitadora
O autor parece não estar bem informado. D.O.W. dificilmente pode ser chamado de fã da Anthropic
Parece um penhasco para o qual todos estamos sendo empurrados. Não sei os outros, mas eu estou tentando vestir um paraquedas
No fim, esse tipo de reclamação não é só “eu estava em uma boa posição no sistema anterior e estou com medo de perder isso”? Muita gente já era tratada como descartável e não era vista como valiosa
Talvez aquele sistema fosse bom para você, mas não era para muita gente. Dizem que têm habilidades valiosas e gostam de trabalhar em áreas que usam essas habilidades, mas para mais de 90% das pessoas trabalho não é isso. A maioria está lamentando perder algo ao qual nunca teve acesso para começar. O que exatamente há de tão maravilhoso na situação atual que precisaria ser protegido de uma nova tecnologia?