8 pontos por GN⁺ 1 일 전 | 1 comentários | Compartilhar no WhatsApp
  • Na era da IA, a lógica que defende o valor humano em sua maioria se apoia na lacuna de capacidade entre humanos e IA, mas, à medida que essa lacuna diminui, a própria base desse argumento se abala
  • A conclusão de que "humanos têm valor quando produzem resultados de alta qualidade" depende das pontuações de benchmark de modelos em um determinado momento, então não há garantia de que continue válida no futuro
  • Em vez de impor condições, é mais sólido simplesmente declarar a proposição firme: "humanos são preciosos"
  • A qualidade de uma criação se divide em dois elementos: intenção e forma, e a discussão sobre valor tem ignorado a intenção e se inclinado demais para a forma
  • O problema da IA generativa é produzir forma sem intenção clara com facilidade excessiva, algo que dificilmente ocorreria em trabalho feito manualmente

  • Existem algumas lógicas meio estranhas ao avaliar o valor dos humanos e de suas criações

    "Mesmo na era da inteligência artificial, certos papéis ainda são mais adequados para humanos. Isso porque a inteligência artificial jamais conseguirá executar as tarefas necessárias para esse papel" ou porque humanos ao menos conseguem fazê-las melhor
    "Mesmo que os resultados de humanos e inteligência artificial pareçam semelhantes, o resultado humano é superior por causa de diferenças estilísticas sutis que a inteligência artificial não consegue reproduzir. Pelo menos a inteligência artificial não consegue reproduzir esse estilo de forma consistente"

    • Pense nos arranhões na parte de baixo da trave causados por movimento constante. O concreto leva 28 dias para curar completamente
  • No fim, esse modo de pensar leva à conclusão de que "humanos têm valor quando produzem resultados de alta qualidade"
  • Essa afirmação depende de forma perigosa da lacuna de capacidade entre humanos e IA que existe hoje, mas vem diminuindo gradualmente
  • No passado (o ChatGPT de 2023), essa lacuna claramente existia, e talvez ainda exista hoje. Mas não sabemos se ela será mantida no futuro

Em vez disso, considere isto

"Humanos são preciosos."

  • Dá para simplesmente dizer isso. Como você também é humano, eu recomendaria fazer exatamente isso. Nem é preciso acrescentar explicações
  • Essa frase é uma proposição firme e segura que não depende da pontuação que o modelo mais avançado de um dado momento obteve no benchmark mais recente

A natureza da "qualidade"

  • Como medir a qualidade de uma criação?
    • "É eficaz? Alcançou o que pretendia?"
  • Essa pergunta implica dois subelementos da qualidade, dois aspectos: intenção e forma
  • Muitas discussões sobre o valor de criações parecem ignorar a intenção e focar excessivamente na forma
  • Criar é o processo de condensar intenção em forma
  • A intenção normalmente está inseparavelmente incorporada à forma do resultado
  • Humanos repetidamente (às vezes com muito esmero) refinam e reconstroem suas criações até que elas correspondam o suficiente à imagem que têm na cabeça
  • O aspecto peculiar da inteligência artificial generativa é que ela consegue produzir uma forma substancial com o mínimo de intenção
  • Humanos podem começar um trabalho com um modelo mental pouco claro do que querem alcançar, mas a inteligência artificial ainda assim consegue produzir alguma coisa

    "Escreva uma carta de demissão para eu mandar ao meu chefe." "Hmm… parece plausível."

  • Talvez a expressão "AI slop" indique justamente a dificuldade de perceber a intenção contida na forma
  • Por essa definição, humanos também podem produzir slop
  • A IA generativa apenas reduziu a barreira de entrada para produzir formas sem intenção
  • Pode-se dizer que a intenção está no prompt e, no caso de prosa, um prompt bem elaborado já pode ser visto como uma forma intencional
  • Em uma discussão recente sobre o uso de LLMs para mediar a comunicação humana, meu amigo Tom Hudson disse:

    "Se você vai usar um LLM para escrever um e-mail, seria muito melhor me mandar o prompt. Aí eu saberia o que você realmente estava tentando dizer."

  • O problema da inteligência artificial generativa é que a forma aparece com facilidade demais mesmo sem intenção clara. Esse é um tipo de erro que dificilmente aconteceria quando algo é feito manualmente

1 comentários

 
GN⁺ 1 일 전
Comentários do Hacker News
  • Essa frase dita por um amigo do autor realmente marcou: “Se você vai usar um LLM para escrever um e-mail para mim, então me mande logo o prompt. Pelo menos assim eu consigo saber o que você realmente queria dizer”
    Isso não quer dizer que seja inútil acrescentar um pouco de cortesia e profissionalismo à comunicação. Mas a ideia é que o cerne do que se quer transmitir está no prompt, e bastaria colocar uma saudação e uma assinatura
    Nós conversamos como seres humanos e, ao mesmo tempo, nos comunicamos de forma direta. Quando alguém manda uma resposta de IA, parece faltar autenticidade, então acaba soando um pouco ofensivo

    • Tudo o que é produzido a partir de um prompt e enviado não é você mesmo
      Se eu tiver de ler algo que uma pessoa não escreveu, melhor trocar o remetente por algo como “Claude” ou “gpt-5”, sem fingir que houve uma contribuição significativa da parte dela
      Você pode usar ajuda de IA, mas isso deveria vir como um anexo claramente identificado, enquanto o corpo principal deveria ser escrito por um humano. O mesmo vale para descrições de PR: conteúdo gerado por IA deveria ficar em uma área separada, e o restante deveria deixar clara a intenção humana
      Só que agora vivemos num mundo em que a IA finge ser humana, e isso está ficando cada vez pior
    • Não concordo com esse sentimento. O prompt não é o que a pessoa quer dizer em si, e sim parte do ato privado de pensar e escolher palavras
      O que foi de fato enviado é o que a pessoa quis dizer. A distinção entre pensamento e fala sempre foi importante, e acho errado partir da ideia de que alguém deve ter acesso direto aos pensamentos privados que o outro escolheu não enviar
      É parecido com receber uma carta e exigir os rascunhos privados para descobrir a “verdadeira intenção”. Grande parte da comunicação envolve negociação e persuasão, e o pensamento é, por natureza, privado
      Ainda assim, a preocupação faz sentido, porque e-mails gerados por IA mudam o equilíbrio entre o tempo e o esforço para escrever e o tempo e o esforço para ler
    • É bem possível que “mande só o prompt” não deva ser entendido literalmente. É parecido com quando um chefe pede feedback sincero, mas despejar tudo sem filtro pode prejudicar sua carreira
      As pessoas cometem erros sutis na forma como percebem o mundo, e os outros cometem erros parecidos, então as regras estruturais da cortesia ajudam a reduzir esse dano
      A IA pode acabar apenas reescrevendo o conteúdo do prompt com mais palavras, o que pode soar sem graça, mas em média ainda deve ser melhor do que mandar o prompt cru. O que o amigo realmente quer dizer parece ser: “dedique mais tempo para se comunicar comigo do que o que caberia num prompt curto”
    • Para amigos ou colegas, talvez. Mas para processos rotineiros de negócios, LLMs são um grande atalho
      Dei a ele 3 pedidos da Amazon que eu queria devolver, os motivos de cada devolução, pedi que buscasse os detalhes e montasse o e-mail para solicitar o serviço de garantia; revisei rapidamente, copiei e enviei, e terminei em 5 minutos algo que levaria 15
      Quando isso se repete, a diferença cresce. Só é preciso saber quando não usar atalhos. Num dia bom, é uma ferramenta como uma máquina de cortar pelo de iaque de 240 volts
    • Quando falavam em e-mail de IA, eu achava que se referiam a documentos longos e formais enviados a várias pessoas, tipo proposta; é surpreendente incluir até mensagens pessoais 1:1
      Eu me aposentei pouco antes dos LLMs se popularizarem, então não vivi isso diretamente, mas e-mails 1:1 ou 1:2 entre colegas, pares ou amigos já costumavam ser o mais curtos e diretos possível
      E-mails com o comprimento e a estrutura que um LLM provavelmente geraria hoje já pareceriam bem estranhos mesmo antes dos LLMs
  • Foi a melhor definição de conteúdo-lixo de IA que já li, e o próprio texto foi o oposto disso. Curto, mas cada palavra tinha sentido
    O que produz conteúdo-lixo de IA não é o uso de IA em si, e sim um resultado grande, porém sem motivação ou compreensão fundamental
    Essa distinção cria um modelo mental que permite culpar não a IA em si, mas seu mau uso contínuo. Também explica por que é tão importante continuar dando direção no coding assistido por IA
    Se a soma dos prompts fornecidos formar uma visão coesa da intenção do software, isso vira a semente e a especificação para gerar um bom código. Já se você juntar só prompts curtos como “não funcionou, faz de novo”, dá para imaginar o que sai daí

    • Concordo. O que vem me frustrando na retórica anti-IA recente não é que a premissa esteja totalmente errada, e sim que ela é abrangente demais
      Está começando a soar como gente reclamando dos “químicos” na comida e na água
      As reclamações reais dizem respeito a aspectos específicos da IA e do modo como ela é usada, e este texto expressa muito bem um desses pontos. Por isso dá para discutir e tratar o problema de verdade
    • Não entendo muito bem a intenção por trás de contrastar “um conjunto coeso de prompts sobre intenção” com prompts curtos como “não funcionou, faz de novo”. Acho que os dois tipos de prompt têm valor
    • Vale ver também a definição de conteúdo-lixo do Hank Green: https://youtu.be/dT5IJExTUR4?si=mjkHK024MUqCId0k
      Em resumo, é bem parecida. A variável funcionalmente importante é intenção e capricho. Humanos também conseguem fazer conteúdo-lixo sem IA, e também é possível fazer arte com IA. A IA apenas torna o conteúdo-lixo viável em escala industrial
  • Gente demais já gastou energia demais desumanizando os outros com base em “contribuição para a sociedade”
    É o tipo de pensamento que diz que, se você não está empregado, não merece receber seguro-saúde. Espero que a IA possa nos levar a repensar se o valor de uma pessoa deve estar atrelado ao resultado do trabalho

    • Vai além disso. Há um classismo embutido aí, porque isso implica não questionar o valor dos ricos, cuja produção real de trabalho muitas vezes é relativamente pequena graças à posição privilegiada que ocupam
      Por exemplo, uma pessoa desempregada pode ter sido 100 vezes mais produtiva ao longo da carreira, resolvendo problemas reais, do que qualquer VC. Já esse VC pode simplesmente ter dado sorte com uma startup, enriquecido e passado 10 anos sentado em alguns conselhos
    • Existem empregos inúteis demais no mundo. Eu mesmo tenho um
      Um morador de rua que tenha tempo, abertura e algumas conversas sinceras por dia pode estar oferecendo mais valor à sociedade do que eu no momento
    • A IA provavelmente vai transformar “contribuição para a sociedade” num critério ainda mais rígido e ajudar a criar uma classe permanente de pessoas dispensáveis
    • Não vejo por que isso aconteceria. Esse tipo de reconsideração sempre foi possível, mas na prática nunca aconteceu
    • Vai piorar. Vamos ser forçados com muito mais frequência a falar com computadores no lugar de pessoas
  • Acho que a frase do C.S. Lewis é excelente, a ponto de poder ser comparada à de São Paulo: “Não existem pessoas comuns. Você nunca conversou com um simples mortal. Nações, culturas, artes e civilizações são mortais, mas a vida delas é para a nossa como a de um efêmero inseto de um dia. São imortais aqueles com quem brincamos, trabalhamos, nos casamos, desprezamos e exploramos — horrores imortais ou esplendores eternos. Isso não significa que devamos ser sempre solenes. Devemos brincar. Mas nossa alegria deve ser do tipo que existe entre pessoas que, desde o início, levam umas às outras a sério — sem leviandade, sem sentimento de superioridade, sem pressuposições apressadas”
    É difícil. Os ideais mais altos costumam ser assim
    Máquinas que fazem clic-clac são só espíritos mecânicos muito grandes, então é só tratá-las dessa forma

    • As pessoas são mortais. C.S. Lewis também morreu há mais de 60 anos
  • Sobre a frase de que se pode simplesmente dizer “os seres humanos têm valor”, na prática não dá para fazer isso
    CEOs estremeceriam ao ouvir isso. Talvez seja algum resquício de quando um dia foram humanos. Para eles, pessoas são “capital humano de baixo valor”, gado, números em votos
    https://fortune.com/2026/05/26/standard-chartered-ceo-bill-w...

    • Se você disser isso, o governo vai te rotular de extremista
  • Fiquei surpreso. Ultimamente eu estava passando por uma leve crise de identidade
    Eu sei que sou um desenvolvedor apaixonado e nada mau, mas com toda essa avalanche de conversa sobre IA, estava difícil entender se isso representava, para mim, o fim de uma era
    Mas, enquanto lia este texto, alguma coisa encaixou, e senti que realmente fazia sentido. Fiquei muito melhor

    • Acho esta citação muito relevante. Talvez não para iniciantes, mas o ponto aqui, na minha opinião, é gosto
      Humanos importam, e o gosto humano não pode ser substituído. Ainda não? Nunca? E por que quereriam substituí-lo para começo de conversa?
      https://www.goodreads.com/quotes/309485-nobody-tells-this-to...
    • Isso também me incomodou bastante nos últimos meses. Você não está sozinho
  • Muito antes de bots ou LLMs, ao escrever e-mails eu já tinha me treinado para, na maioria dos casos, colocar “resumo” no topo, e depois “detalhes”
    Ex.: “Resumo: você pode trazer uma dúzia de brownies amanhã ao meio-dia no almoço?”
    “Detalhes: o plano da sobremesa deu errado, seus brownies são os melhores, e você está me devendo uma…”
    Essa estrutura é libertadora. Posso resumir o que quero e o que preciso de forma curta e às vezes até ríspida, porque sei que, se as pessoas precisarem de justificativa, vão continuar lendo
    Ao mesmo tempo, isso me obriga a deixar claro o que eu quero. Só pode não ser apropriado se sua posição na organização for baixa demais em relação à do destinatário

  • Existe uma categoria de produção humana que continuará tendo valor independentemente da capacidade da IA: arte e esportes
    As pessoas se importam com o criador. A origem define a obra, o assombro e a resposta emocional
    Mas quase toda produção fora disso está em risco de ser substituída por IA. Empresas são entidades amorais que otimizam lucro e só obedecem à lei na medida do necessário
    A lei é a nossa ação coletiva. Nós definimos socialmente o que vamos valorizar. Podemos lutar para preservar a semana de trabalho de 5 dias fazendo coisas que as máquinas podem fazer, mas eu acho melhor lutar pela copropriedade das máquinas

    • Não sei sobre esportes, mas sobre arte tenho uma história
      Um amigo compartilhou uma música feita com IA, e fiquei surpreso com a qualidade. O criador revelou que só tinha usado o Suno, então fiquei curioso, assinei o plano Pro e me diverti bastante imaginando músicas que minha esposa e eu gostaríamos de ouvir
      Eram músicas que nenhum de nós dois conseguiria fazer, mas o processo de imaginá-las foi realmente divertido. Eu não diria que “fizemos” aquilo, porque não fomos nós que fizemos. Minha esposa ainda escuta com bastante frequência no carro, e, se quiser ouvir música nova, é só imaginar mais
      Eu sei que isso só é possível porque usou música feita por humanos como dados de treinamento. Não estou tentando falar de moralidade ou legalidade, mas é um tema que vale discutir. Só quero dizer que realmente existem pessoas que gostam de música gerada por IA
      Talvez eu seja exatamente o tipo de consumidor ingênuo contra o qual o “Brave New World” de Huxley alertava
    • Seria bom se pudéssemos obrigar as big techs a divulgar os modelos e os pesos, porque isso é, no fundo, um produto construído sobre o trabalho coletivo da humanidade, e parte dele foi licenciada sob GPL ou CC-BY-SA
      Se eu pudesse apertar um botão e acabar com a noção de copyright e propriedade intelectual, eu faria isso
      https://en.wikipedia.org/wiki/Free-culture_movement
    • Não discordo necessariamente de que quase toda produção fora desse campo esteja em risco de substituição por IA, mas acho que mesmo dentro dele existe muita arte na forma de intenção, tomada de decisão e comunicação
      Só reconheço que o valor disso realmente depende de quem vê e do contexto
    • O trabalho de serviço pode durar mais do que outras áreas. Parte do valor que o trabalho de serviço oferece é a conexão humana
      Mas concordo que, quando nossa mente e nosso corpo não puderem mais fazer coisas que as máquinas não conseguem, a única coisa que restará para vender será a humanidade
    • A arte já está perdendo valor hoje por causa da IA. Banksy vai ficar bem, mas artistas na fronteira já estão competindo com IA generativa
  • A frase “os seres humanos têm valor” na verdade depende condicionalmente da utilidade
    O autor do post original não vai até uma pessoa que não consegue emprego por causa da IA e cuja cotação de mercado caiu a zero para lhe dar dinheiro
    Então dizer que “os seres humanos têm valor intrínseco” é só um consolo vazio oferecido enquanto os humanos estão sendo desvalorizados

    • Se não existissem pessoas que julgam os outros por seu valor de mercado, a sociedade certamente seria melhor
    • Seria bom ter uma rede de segurança para ajudar pessoas em dificuldade. Isso enquanto empresas de trilhões de dólares registram lucros recordes
      Mas isso é tratado como “socialismo” demais, ou como um comunismo assustador
  • Nossa vida não passa de uma grande coleção de experiências. O tempo que realmente importa na vida são os minutos no relógio que passamos com outras pessoas
    Esses momentos são literalmente tudo o que temos, e o próximo minuto é a única coisa que perdemos quando morremos
    Conversar com máquinas é apenas algo que fazemos por obrigação, para colocar comida na mesa. O tempo gasto falando com máquinas não fica na memória e, por não ter valor, nem merece ser lembrado

    • Pelo visto, não jogou Need For Speed Underground 2 quando foi lançado. Aquilo foi melhor do que 99% das interações humanas que eu já tive