A tecnologia do futuro não é a 'IA', e sim o 'foco'

• LLMs são úteis para automatizar tarefas repetitivas e para brainstorming, mas a dependência cega pode causar queda na capacidade de resolver problemas
• Em especial, a confiabilidade dos LLMs para problemas novos é baixa, por isso o julgamento de engenheiros humanos é importante
• Mecanismos de busca como o Google oferecem um equilíbrio entre exploração e exploração de oportunidades, mas os LLMs induzem imediatamente apenas ao “aproveitamento” (exploitation)
• O hábito de depender apenas de respostas rápidas provoca o enfraquecimento da capacidade essencial de resolver problemas e do foco (focus)
• A principal competência do futuro, mais do que saber usar IA, será a capacidade exclusivamente humana de pensar com profundidade e manter o foco

---

LLMs são poderosos, mas devem ser usados com cuidado

• LLMs ajudam muito a automatizar tarefas repetitivas e em apoio à escrita de código ou depuração
• No entanto, por causa de problemas como viés, inconsistência e alucinação (hallucination), os resultados gerados sempre precisam ser revisados
• Em especial, os dados de treinamento contêm respostas para problemas já existentes, mas a capacidade de lidar com problemas realmente novos é baixa
• Como resultado, quando engenheiros dependem de LLMs, sua própria capacidade de resolver problemas pode enfraquecer

Os riscos da aceitação acrítica

• Se a resposta fornecida por um LLM for aceita sem compreensão, o foco passa a ser receber a resposta, e não resolver o problema
• Resolver problemas complexos exige, no fim das contas, o acúmulo de habilidades básicas e de capacidade de raciocínio, e os LLMs não podem substituir isso
• O importante não é apenas o resultado, mas a compreensão de por que a solução funciona e do processo de pensamento por trás dela

A diferença importante entre mecanismos de busca e LLMs

• Mecanismos de busca tornam possível uma abordagem equilibrada entre exploração (exploration) e aproveitamento (exploitation)
• Já os LLMs tentam fornecer a resposta desde o início, e os usuários tendem a usá-la sem verificação
• Um sistema em que existe apenas aproveitamento, sem exploração, aumenta a instabilidade e a dependência

O objetivo original da ciência da computação: ferramentas para que humanos se concentrem em resolver problemas

• Os seres humanos vêm criando ferramentas para reduzir tarefas repetitivas, e o controle dos algoritmos estava nas mãos das pessoas
• Porém, agora, por causa da pressão para produzir resultados rapidamente, as oportunidades de treinar foco e capacidade de pensar estão diminuindo
• Essa tendência pode acabar levando ao enfraquecimento da criatividade humana e do pensamento profundo

A verdadeira tecnologia para o futuro: foco (Focus)

• Quanto mais a tecnologia avança, mais importantes se tornam a capacidade de pensar e o foco, qualidades próprias dos seres humanos
• Mais importante do que o desempenho da IA é a capacidade humana de reconhecer e resolver problemas complexos
• É muito provável que, no futuro, a habilidade central não seja usar LLMs, mas sim o foco e a capacidade de compreender a essência das coisas

[GN⁺]

Opiniões do Hacker News

• É comum que novos estudantes percam a capacidade de se concentrar. Não são só os LLMs; quase todos os apps e startups estão competindo pela atenção limitada dos usuários

  • Os LLMs removeram a barreira que exigia que os estudantes se esforçassem para encontrar respostas. É fácil ficar viciado em respostas rápidas e esquecer de perguntar por que algo funciona
  • No entanto, quando usados da forma certa, os LLMs podem apoiar a investigação. Já vi momentos em que estudantes contestaram a primeira resposta e descobriram insights mais profundos
  • O verdadeiro risco não é a ferramenta, mas esquecer como usá-la com cuidado

• Usar aimbot no Gunbound não tornou os jogadores melhores. Destruiu o ecossistema do jogo

  • Não sei se a humanidade conseguirá usar um "aimbot de letramento" com responsabilidade
  • O ABS tornou a frenagem mais fácil e segura em condições escorregadias. As pessoas não aprenderam a frear melhor e ainda achavam que pisar mais forte no pedal faria o carro parar mais rápido
  • Muitas pessoas precisam de foco. Algumas não precisam, e elas devem escalar. Alguns sistemas precisam de aimbot, outros não
  • O futuro exige a coexistência de todos os tipos de tecnologia

• Motores de busca oferecem uma boa escolha entre exploração (navegar por listas de resultados e páginas) e aproveitamento (clicar no resultado do topo)

  • Os LLMs não oferecem essa escolha
  • Os LLMs são muito úteis para exploração. Ajudam a resolver problemas complexos e refinar ideias. Também podem criar loops de feedback difíceis até mesmo com parceiros humanos

• Conseguir se concentrar parece um privilégio hoje em dia

  • Nos anos 90, dava para trabalhar por semanas sem interrupções. Hoje sempre há gerentes querendo atualizações ou planejamento
  • O trabalho real acaba ficando em segundo plano em relação às conversas

• Em um mundo rico em informação, a abundância de informação significa escassez de outra coisa. A informação consome a atenção de quem a recebe

  • A abundância de informação cria pobreza de atenção, e há necessidade de alocá-la com eficiência

• O oposto de foco é reatividade. Se você postar no SO, pode obter uma resposta exata, mas é preciso formular a pergunta certa e ter paciência para esperar a resposta

  • Um LLM pode dizer algo errado imediatamente. Ele é reativo
  • Um grande engenheiro precisa ser responsivo com colegas de equipe, gerentes, clientes e o negócio. Também precisa encontrar tempo para focar
  • Depois da Covid, houve uma grande mudança cultural quando pessoas que não eram assíncronas nem remotas passaram a ficar todas online
  • É fácil medir reatividade, mas difícil medir qualidade e crescimento

• Perco a concentração quando uso LLMs

  • copiar e colar, copiar e colar. Nenhuma compreensão real da solução
  • Talvez eu consiga fazer mais, mas não gosto disso. Agora não consigo mais voltar a usar o Google
  • Preferia que isso não tivesse sido inventado

• Será um tipo diferente de foco

  • Com frequência se prevê que a tecnologia vai reduzir capacidades antes consideradas importantes
  • As calculadoras fizeram com que as crianças não precisassem mais fazer aritmética à mão. Mas ainda é preciso ter a habilidade de interpretar os resultados
  • Os motores de busca permitiram que as pessoas encontrassem respostas em segundos. Mas ainda é preciso saber o que procurar e como usar o que foi encontrado

• Há 10 anos, havia especialistas dizendo que smartphones e redes sociais mudariam tudo. Precisamos aprender a usar isso com sabedoria

• Não concordo em equiparar a revolução dos LLMs à ascensão de mecanismos de busca como o Google nos anos 90

  • Os LLMs incentivam o aproveitamento imediato. O usuário pode explorar quando a primeira solução não funciona
  • A maior parte do uso de LLMs na prática é parecida com a de mecanismos de busca. Explicar decisões de design existentes, procurar bibliotecas adequadas às necessidades ou gerar consultas relacionadas