Crianças brincando no riacho

• Experiências da infância

  • Quando era criança, bloquear o riacho no quintal dos fundos era uma atividade divertida.
  • Empilhava pedras e folhas e tapava os buracos com areia para tentar conter a água.
  • Um dia, percebeu que podia criar uma grande represa usando uma pá grande para derrubar a margem.
  • Seu pai disse que, depois de descobrir esse método, ele não poderia mais brincar de bloquear o riacho.

• O processo de crescimento

  • Ao construir uma catapulta de K'Nex e fazer um buraco no teto, passou a agir com mais cuidado.
  • A tentativa de amarrar fogos de artifício para provocar uma explosão não foi permitida.
  • Depois de aprender a técnica de fazer arco e flecha, não conseguiu mais se dedicar tanto a isso.

• Carreira e jogos

  • Recebeu uma proposta para ajudar em um jogo de soma zero no banco de investimento.
  • Fez muito esforço para receber essa proposta, mas percebeu que não podia mais jogar o jogo de "ganhar o máximo de dinheiro possível".

• Novos desafios

  • Gostava de brincar na praia bloqueando o fluxo de água nas poças de maré e criando lagos e deltas.
  • Empurrava a areia com as mãos e observava os mariscos voltarem à superfície.

• Desenvolvimento de inteligência artificial

  • O desenvolvimento de inteligência artificial é uma aventura interessante e gratificante.
  • O sucesso nem sempre significa um resultado gratificante.
  • A Anthropic está prestando atenção ao uso na área da educação.

[GN⁺]

Comentários do Hacker News

• Este texto é bom. Mas parece deixar escapar o ponto principal

  • Não é sobre desenvolvimento de IA, e sim sobre "querer ganhar o máximo de dinheiro possível"
  • O problema da IA está mais relacionado ao marketing e à disseminação da IA do que ao desenvolvimento em si
  • Na parábola do CEO e do pescador, o pescador para quando já tem o suficiente para aproveitar
  • Se só existissem pessoas lidando com IA por diversão, não haveria problema
  • O problema surge quando as pessoas começam a usar IA como forma de ganhar dinheiro
  • Dizem que a Anthropic está consciente disso, mas uma autoridade externa precisa intervir
  • Enquanto "ganhe o máximo de dinheiro possível" for tratado como exceção, o problema vai continuar

• Excelente ensaio. Tenho pensamentos parecidos com os do autor, mas não consegui expressá-los dessa forma

  • Não espero que pesquisadores de IA ouçam conselhos e diminuam o ritmo
  • É admirável que o autor tenha largado um emprego financeiro de alta renda por motivos morais
  • Mas Wall Street continua existindo, e ainda há muita gente querendo ganhar dinheiro

• A história de barrar o riacho ou brincar na praia é reconfortante e faz sorrir

  • Resolver o quebra-cabeça pode ser um final ruim para o jogo
  • As pessoas deveriam fazer algo por diversão
  • Não sei se o fim vai chegar ou não, mas vou aproveitar a vida ao máximo

• A frase de Vonnegut expressa isso melhor

  • "Estamos aqui na Terra para ficar à toa"

• Explicação sobre o significado de tillering

  • [1] Curvar madeira para fazer um arco
  • [2] Produzir brotos laterais em gramíneas

• O autor parece estar preocupado com os riscos da IA

  • Mas os modelos de IA atuais carecem de percepção e originalidade
  • Pergunta de Dwarkesh: a IA memorizou conhecimento humano, mas não consegue criar novas conexões
  • Quando perguntaram ao GPT-4.5 "Deep Research", não havia insights originais
  • Não acho que LLMs consigam imaginar uma forma de extinguir a humanidade
  • Não têm vontade independente nem senso de tempo/espaço

• Quero dar às crianças memórias de brincar no riacho do quintal

• Sempre haverá alguém disposto a correr riscos se houver chance de ganhar dinheiro

• Pedido de explicação sobre a metáfora de "coquina"

• Guia sobre tillering de arcos

  • link