- Grandes modelos de linguagem e aprendizado de máquina estão reorganizando a estrutura da sociedade e mudando toda a vida humana, assim como os automóveis transformaram as cidades
- Desinformação gerada por IA e conteúdo automatizado já penetraram profundamente em áreas cotidianas como busca, e-mail e atendimento ao cliente
- É necessário parar de usar ferramentas de IA e restaurar um pensamento centrado no humano, escrevendo por conta própria e pensando na linguagem humana
- Indivíduos podem desacelerar a disseminação da tecnologia por meio de ações concretas como recusar a dependência de IA, formar sindicatos e exigir regulação política
- Essas escolhas podem levar à redução de efeitos colaterais legais e sociais e à obtenção de paz ética, e, se forem um erro de julgamento, será possível recomeçar
Escolhas após a era da inteligência artificial
- O impacto do avanço dos grandes modelos de linguagem (LLM) e do aprendizado de máquina (ML) sobre a sociedade como um todo é comparado às transformações históricas do automóvel
- Assim como o automóvel alterou de forma fundamental a estrutura das cidades, o transporte, o meio ambiente e as relações sociais, a inteligência artificial também pode reorganizar a vida humana e a estrutura industrial
- O foco está menos na velocidade ou conveniência da tecnologia e mais em como a forma das cidades e a vida humana irão mudar
- Desinformação baseada em IA e conteúdo automatizado já se infiltraram profundamente no cotidiano
- Em resultados de busca, atendimento ao cliente, e-mails e sites, se espalham informações imprecisas ou falsas geradas por LLMs
- O aumento do consumo de energia em data centers provoca alta de tarifas e pressão ambiental
- Também está se espalhando o fenômeno de delegar à IA o trabalho pessoal, a arte e até os relacionamentos humanos
- Enfatiza-se a necessidade de parar de usar ferramentas de IA
- O auxílio de ML enfraquece a capacidade humana de aprendizado e de pensamento teórico, levando à perda da
metisde James C. Scott (conhecimento prático especializado) - É preciso escrever por conta própria, resolver problemas diretamente e manter o pensamento por meio de conversas com outros seres humanos
- Recomenda-se minimizar o consumo de materiais gerados por IA e procurar ler conteúdo produzido por humanos
- O auxílio de ML enfraquece a capacidade humana de aprendizado e de pensamento teórico, levando à perda da
- São apresentadas ações práticas que indivíduos e a sociedade podem adotar
- Exorta-se que as pessoas escrevam em sua própria linguagem e não dependam de produções geradas por IA
- Propõe-se resistir à imposição de IA no trabalho, formar sindicatos e exigir regulação política
- Também são sugeridas ações concretas como fortalecer a responsabilização das empresas de IA por emissões de carbono e digitais, opor-se a incentivos fiscais para data centers e considerar pedir demissão por motivos éticos
- Mesmo que essa resistência não consiga parar completamente o avanço da IA, ela pode desacelerá-lo
- Isso pode dar tempo para que tecnologia, indústria e governo se adaptem e para mitigar efeitos colaterais legais e sociais
- Também abre margem para responder a problemas como material de abuso sexual infantil gerado por IA (CSAM), golpes e vulnerabilidades de segurança
- Conclui-se que escolhas éticas podem trazer paz de consciência e que, se a decisão estiver errada, “sempre dá para construir de novo depois”
E a tentação que ainda resta
- Repulsa à IA e tentação prática coexistem
- Como exemplo, menciona-se a possibilidade de usar geração de código por LLM para controlar uma iluminação com mudança de cor
- Em situações limitadas, nas quais o risco de segurança é baixo e o resultado pode ser verificado diretamente, reconhece-se a utilidade do uso de IA
- Ainda assim, termina com a pergunta “que mal isso faria?”, revelando os limites do uso de IA e a própria contradição interna
Processo de escrita
- Este texto foi escrito manualmente no Vim, diagramado com Pandoc e revisado em papel duas vezes
- O rascunho foi compartilhado com amigos para receber feedback, e fica declarado que todos os erros e opiniões são de inteira responsabilidade do autor
- Enfatiza-se que todo o processo de escrita e edição foi realizado por mãos humanas, sem ajuda de IA
1 comentários
Comentários do Hacker News
Sinto que capacidades centrais como leitura, pensamento e escrita estão entrando na esfera de influência dos grandes modelos de linguagem
Durante a maior parte da vida da humanidade, essas capacidades foram habilidades raras que permitiam ascensão social
Mas, olhando historicamente, antes de 1800 essas capacidades tinham pouca utilidade para um fazendeiro
Só depois da Segunda Guerra Mundial os empregos para “pessoas inteligentes” começaram a superar a oferta, e aquele foi a era de ouro da mobilidade social
Antes disso, fatores como força física, honestidade, linhagem e ordem de nascimento eram mais importantes
Se vier uma era em que a IA passe a pensar por nós, talvez esses valores voltem a ocupar o centro
Não precisamos voltar a coisas como primogenitura ou discriminação de gênero como “valores centrais”
A era em que a ‘inteligência’ era valiosa não foi uma anomalia; ela foi, na verdade, resultado do progresso humano
Não somos prisioneiros da história e não precisamos voltar a ficar sob o domínio de uma minoria que controla datacenters ou sistemas operacionais
Mesmo um fazendeiro inteligente poderia administrar uma fazenda de forma mais eficiente graças a essas capacidades
Mesmo modelos com trilhões de parâmetros mal conseguem distinguir esquerda de direita
O pensamento humano não acabou; assim como a máquina a vapor não encerrou completamente a era dos cavalos, ainda há um longo caminho pela frente
Mesmo depois do início da agricultura, a capacidade de planejar e gerir recursos sempre foi importante
Mas a ideia de que os anos 1800 eram o estado normal da humanidade é estranha
Explicar mudanças sociais pela existência ou não de “nerds ricos” também é um salto grande demais
Os textos do Kyle formam uma série que realmente vale a leitura
Foi marcante a comparação entre a introdução do automóvel e a disseminação da IA
O fato de uma tecnologia ser útil não significa que ela traga apenas impactos positivos para a sociedade
Acho certo usar LLMs apenas em ambientes limitados, quando for possível controlar os riscos
Nos anos 1920, em vez de dizer “não ande de carro”, era preciso prever os efeitos negativos e mitigá-los por meio de políticas públicas
Especialistas que entendem os limites da tecnologia precisam intervir com responsabilidade
É parecido com as tentativas de proibir smartphones nas escolas para recuperar a interação humana espontânea
Em vez de bloquear a tecnologia, devemos ensinar as pessoas
O avanço da IA também pode ser aplicado a simulação física, dobramento de proteínas e outras áreas
Sinto que essa tecnologia está perfeitamente ajustada para 0,001% da elite
Para eles, queda populacional e controle social são até vantajosos
Se não houver responsabilidade com as gerações futuras, basta pensar na sobrevivência individual; mas, se houver essa responsabilidade, então é necessária uma revolução global
Dizer que vai substituir humanos é exagero, e a automação provavelmente vai criar novos empregos
Quando CEOs falam em substituir trabalho, isso é desculpa para justificar demissões
O problema é que gente demais ama a IA
Quem tem emprego estável deveria agir primeiro
Isso me faz lembrar o final de In the Beginning Was the Command Line, de Neal Stephenson
Um mundo em que a vida é oferecida por padrão como um sistema operacional, e as pessoas só apertam o botão ‘LIVE’
Quando alguém reclama, ouve apenas que “vai melhorar na próxima atualização”
No fim, um engenheiro de verdade diria algo assim — “a vida é complexa por natureza, e você precisa fazer suas próprias escolhas”
Aqui está uma organização dos principais textos da série
Por causa do princípio do HN de evitar repetição, normalmente textos em série recebem menos peso, mas desta vez foi uma exceção
Por exemplo, numa série sobre restauração de máquinas antigas, cada parte pode tratar de um tema completamente diferente
Fazer previsões categóricas sobre o futuro é só uma forma de acalmar o medo
Ninguém sabe para onde a IA vai
Não dá para saber se será como os carros ou se seguirá um caminho totalmente diferente
Por isso, afirmações como “engenheiros da Anthropic deveriam pedir demissão imediatamente” são um julgamento precipitado
Quando lembro da época da faculdade, vejo que a memória muscular e a profundidade teórica obtidas por tentativa e erro fizeram de mim quem sou hoje
Se eu fosse universitário agora, acho que seria difícil resistir à tentação dos LLMs
Entre prazos, provas e tempo com os amigos, eu acabaria usando IA
Piora do clima, desigualdade econômica, desconfiança nas instituições e insegurança profissional causada pela IA se acumulam ao mesmo tempo
Quando minha filha pensa no que estudar na universidade, eu não consigo dar conselho nenhum com confiança
No momento em que a IA faz isso no seu lugar, esse aprendizado experiencial desaparece
É preciso ter o contexto construído ao suportar a dificuldade para entender de verdade até mesmo as respostas da IA
Milhares de horas de trabalho manual me deram uma intuição natural para código
Vai ser difícil para as gerações iniciantes substituir isso com IA
Surge um incentivo em que quem tenta aprender em profundidade acaba ficando para trás na competição
É claro que a estrutura social vai mudar, mas sinto que, na prática, é difícil escolher não participar
Se você não usar IA, fica para trás, e o RH exige experiência
Quem escolheria algo que só traz prejuízo pessoal?
Podemos chegar à AGI com apenas um avanço tecnológico decisivo
Por exemplo, se forem descobertos supercondutores à temperatura ambiente, serão possíveis chips em velocidade de THz e baterias com carga instantânea
A IA está agora numa fase à beira da explosão, como os computadores nos anos 1980
Nos últimos 6 meses, eu mesmo me tornei completamente otimista
Se a tecnologia continuar avançando, não vai restar nenhum emprego seguro
Se já fosse possível fazer esses chips com supercondutores resfriados, isso já teria sido feito há muito tempo
O autor diz que não vai usar LLMs, mas isso é porque ele tem capacidade para isso
A maioria das pessoas não consegue
Já existem muitos desenvolvedores que nem escrevem código de teste, e para eles a IA é um meio de sobrevivência
Não há tempo para reaprender os fundamentos e ainda acompanhar a tendência dos LLMs
No fim, virá uma era em que haverá mais “bruxos” do que engenheiros de verdade
As novas gerações de desenvolvedores também vão aprender a criar software de alto desempenho para vencer a competição
Codem com IA ou não, se o resultado for bom, isso é competência
A humanidade sempre fez pessimismo apocalíptico, mas no fim sempre conseguiu se adaptar bem