Um profeta moderno ou uma máquina de besteiras? Como prosperar no mundo do ChatGPT

• Esperamos que sistemas computacionais superinteligentes tragam uma era de inovação e prosperidade
• Com a chegada do ChatGPT, alguns o chamam de um profeta moderno, enquanto outros o avaliam como uma máquina de besteiras
• Especialistas em tecnologia e profissionais de relações públicas afirmam que os LLMs vão revolucionar nossa forma de trabalhar, aprender, brincar, nos comunicar, criar e nos conectar
• A IA afetará quase todos os aspectos da vida cotidiana
• Ao permitir que as pessoas conversem com computadores em linguagem comum, ela melhora muito a acessibilidade da computação
• No entanto, na mesma medida em que os sistemas de IA desempenham papéis úteis, também existe o risco de o ambiente informacional ficar saturado por uma imensa quantidade de besteiras

"Essa tecnologia será a mais transformadora já criada pela humanidade e pode ser comparada à invenção da imprensa, da eletricidade e da internet"
— Sam Altman, CEO da OpenAI

• Gostemos ou não, os LLMs já se instalaram em nossas vidas
• Estamos lendo online conteúdos gerados por LLMs, e muitas pessoas interagem com chatbots baseados em LLM
• Algumas pessoas também usam LLMs para produzir conteúdo diretamente

Como sobreviver à era dos LLMs

• Por meio de aulas de 5 a 10 minutos, será explicado o que é um LLM e como ele funciona
• É possível aprender a distinguir quando ele pode economizar tempo e esforço e quando é mais provável que cometa erros
• Em meio ao marketing exagerado, é importante aprender a diferenciar informações realmente úteis e alegações infladas

Índice das lições

• Lição 1: Autocomplete em velocidade máxima (Autocomplete in Overdrive)
• Lição 2: A natureza das besteiras (The Nature of Bullshit)
• Lição 3: Testes de Turing e benchmarks de besteiras (Turing Tests and Bullshit Benchmarks)
• Lição 4: Computadores com os quais você pode conversar (Computers You Can Talk To)
• Lição 5: Difícil de entender, mais difícil ainda de corrigir (Hard to Understand, Harder to Fix)
• Lição 6: Não, eles não estão fazendo isso! (No, They're Not Doing That!)
• Lição 7: De clonagem de voz a Jesus camarão (From Voice Cloning to Shrimp Jesus)
• Lição 8: Cogumelos venenosos e passaportes para cachorros (Poisonous Mushrooms and Doggie Passports)
• Lição 9: Links azuis importam (Blue Links Matter)
• Lição 10: A arte humana da escrita (The Human Art of Writing)
• Lição 11: Transformando a educação? (Transforming Education?)
• Lição 12: O cientista de IA (The AI Scientist)
• Lição 13: Máquinas de besteiras para trabalhos de besteira (Bullshit Machines for Bullshit Work)
• Lição 14: Autenticidade (Authenticity)
• Lição 15: Inteligência artificial e estupidez humana (Artificial Intelligence and Human Stupidity)
• Lição 16: A falácia do primeiro passo (The First-Step Fallacy)
• Lição 17: Seu próprio Show de Truman particular (Your Own Private Truman Show)
• Lição 18: Democracia (Democracy)

[GN⁺]

Opiniões do Hacker News

• Este artigo está cheio de afirmações muito confiantes sobre IA, mas carece de embasamento, e algumas parecem erradas

  • A afirmação de que a IA “não tem verdade fundamental” está errada
  • Dizer que a IA não consegue raciocinar logicamente é um exagero
  • Também não é verdade que a IA não consegue explicar como chegou a uma conclusão
  • Essas afirmações tão categóricas parecem mais críticas a modelos fracos

• Um amigo trabalha em uma equipe que influencia políticas governamentais, e um membro mais jovem da equipe escreveu um relatório cheio de números tirados de um LLM

  • O relatório era impreciso e pouco confiável
  • Desenvolvedores entendem bem como os LLMs funcionam e conseguem revisar e corrigir imprecisões nas saídas
  • Muita gente vai passar a confiar nessas ferramentas, e haverá uma enxurrada de conteúdo impreciso

• As versões atuais de IA podem ser perigosas para estudantes e podem torná-los piores

  • Ao ajudar amigos não técnicos, observo a taxa de mudança e enfatizo que a confiabilidade está muito atrás da capacidade potencial
  • Ambientes adversariais continuam sem solução, e as previsões são incertas
  • Previsões de pessoas que só repetem discurso não são confiáveis
  • Como RL existe, a alegação de autocorreção é exagerada
  • Os pessimistas provavelmente estão errados, mas quem minimiza seus argumentos entende menos do que eles

• A seção "The AI scientist" foi excelente

  • Ela apresenta casos de uso positivos da IA sem cair na armadilha do argumento do papagaio
  • Mostra de forma objetiva usos positivos da IA na ciência, exemplos prejudiciais e exemplos que são perda de tempo

• Este material é básico, mas útil para um público amplo

  • Foi bom mencionar que não se deve humanizar os modelos
  • Seria mais útil para formuladores de políticas com mais de 50 anos ouvirem este curso do que para um calouro de 19 anos

• Dizer que um LLM é só um papagaio porque apenas prevê o próximo token não faz sentido

  • Humanos também preveem a próxima tecla no teclado
  • Essa visão é apenas fechar os olhos para a revolução tecnológica que se aproxima

• É desafiador para estudantes navegar pelo ambiente de IA

  • Estou pensando em compartilhar este material com estudantes
  • Estudantes que querem usar LLM para tudo provavelmente não vão se engajar com o material
  • Sugiro acrescentar um parágrafo explicando por que escrever sem LLM ainda é importante na área científica

• Gostaria que o título não fosse tão anti-tecnologia

  • Quero promover este curso no trabalho, mas fazer isso assim pode me fazer parecer uma pessoa negativa e obstrutiva

• Este material é um recurso excelente

  • Estou projetando um curso para dar a estudantes de medicina conhecimento básico sobre os avanços em ML e LLM
  • O objetivo é fazê-los entender ML na medicina, mostrar o potencial da tecnologia e apresentar um caminho para adotá-la com segurança

• Estou gostando muito deste material

  • Encontrei alguns erros de digitação na Lesson 11
  • Em "No one is going to motivated by a robotic...", falta "be"
  • Em "People who are given a possible solution to a problem tend to less creative at...", falta "be"