Mostrar resultados de IA para outras pessoas é falta de educação

• Textos gerados por IA repassados indiscriminadamente a outras pessoas são um comportamento que causa confusão no interlocutor
• Antes, um texto escrito era visto como evidência de pensamento humano, mas esse vínculo de confiança foi abalado com o avanço da IA
• A disseminação de conteúdo gerado por IA só é aceitável quando quem o envia primeiro assimila o resultado e o retransmite com suas próprias palavras, ou quando há consentimento do destinatário
• O abuso de mensagens de IA provoca fadiga e desperdício de recursos no destinatário por causa de informações inúteis
• Repassar respostas de IA diretamente sem observar a etiqueta da IA é considerado um ato socialmente rude

---

O pano de fundo de Blindsight e o significado dos sinais

• No romance de ficção científica Blindsight, de Peter Watts, a trama gira em torno do encontro da humanidade com uma espécie alienígena sem consciência (scramblers)
• Diferentemente dos humanos, os scramblers detestam informações desnecessárias e consideram a transmissão de sinais inúteis um ato de invasão
• Assim como humanos espalham textos sem sentido de qualquer jeito, o abuso da informação é interpretado como um ataque que desperdiça os recursos do outro

O conceito de Proof-of-thought (prova de pensamento)

• No passado, apenas textos escritos diretamente por alguém eram o sujeito da comunicação, então o ato de ler naturalmente permitia confiar em traços de pensamento humano
• Com a popularização da IA, textos, código, imagens e vídeos, ou seja, todo tipo de mídia passou a ser produzido em massa com facilidade, e com isso desapareceu a prova de pensamento humano (Proof-of-thought)
• Agora, se qualquer pessoa simplesmente reenviar resultados produzidos por IA, o destinatário corre o risco de perder tempo precioso com informação sem sentido
• Como a IA, por padrão, só responde quando é solicitada, ela não cria por conta própria uma enxurrada de informação se ninguém pedir
• No fim, a essência do problema não está na IA em si, mas nos humanos que usam e espalham indiscriminadamente suas saídas

A necessidade de etiqueta para IA

• Ao repassar a outra pessoa um resultado de IA tal como saiu, é indispensável que haja um acordo entre as partes ou consentimento explícito
• Dizer a alguém algo como "Perguntei ao ChatGPT e saiu isso aqui" e já encaminhar a resposta pode fazer com que a outra pessoa se sinta desrespeitada
• Transmitir uma resposta fornecida pela IA sem opinião ou julgamento próprio causa incômodo e poluição informacional ao interlocutor
• Por exemplo, dizer "Consegui esta resposta com o ChatGPT e, se você quiser, posso mostrar o log da conversa" permite que a outra pessoa tenha poder de escolha
• Ao pedir revisão do próprio trabalho, em vez de dizer "Foi a IA que gerou automaticamente, então dá uma olhada aí", o esperado é revisar pessoalmente, resumir e só então enviar

Conclusão: cuidados ao disseminar saídas de IA

• Diferentemente dos scramblers, os humanos não apenas recebem passivamente sinais sem sentido; eles escolhem o que aceitar
• É uma questão de boa educação seguir a etiqueta da IA e não encaminhar diretamente textos produzidos por IA
• Mesmo ao aproveitar resultados de IA, é preciso sempre respeitar o tempo e a atenção de quem vai receber
• Ao repassar um resultado de IA sem alterações, o importante é criar o hábito de pedir antes o consentimento do destinatário
• Em meio à enxurrada de 'ruído' gerado por IA, a capacidade de adotar informações com responsabilidade e filtrá-las por conta própria deve se firmar como uma etiqueta social

[GN⁺]

Discussão no Hacker News

• Queria que alguns colegas parassem de escrever emails ou mensagens no Teams com LLM; essas mensagens parecem tão impessoais que eu já nem tenho vontade de ler

  • Às vezes um colega acidentalmente deixa trechos da conversa com a IA no texto, e isso denuncia na hora. Num email recente que recebi, havia no fim a frase: "Posso formatar isso no Outlook ou ajudar a postar em um canal específico ou lista de distribuição?"
  • Nessas situações, já cheguei a pedir diretamente: "Parece que algumas das mensagens que você enviou foram geradas em parte por um LLM. Agradeço a intenção de buscar gramática e estilo corretos, mas, sinceramente, prefiro muito mais alguns erros de digitação ou uma redação meio brusca do que ver o sentido distorcido ou o contexto perdido. Da próxima vez, gostaria que você escrevesse você mesmo. Em comunicação interna, não me importo nem um pouco com falta de maiúsculas ou linguagem coloquial"
  • Pessoas que têm dificuldade para escrever por causa de alguma deficiência passaram a conseguir expressar melhor suas ideias com ajuda de IA. Mesmo que não seja exatamente o caso aqui, vale considerar esse aspecto também
  • O LinkedIn é o pior nesse sentido. Já era um lugar cheio de “enchimento corporativo/profissional”, e agora a interface ainda recomenda ativamente respostas geradas por IA. Acho a pior rede social. Exemplo: "Que insight incrível! Transformar tarefas do dia a dia em oportunidades transformadoras de branding mostra um verdadeiro mestre da autopromoção!"
  • Já dei esse feedback diretamente a um colega. Uma pessoa que me reporta começou a responder com AI slop, então perguntei "foi você que escreveu?"; como a resposta foi não, eu disse exatamente: "isso me passa a sensação de que você nem escutou o que eu disse". Felizmente, isso parou depois. À medida que os modelos ficarem mais inteligentes, vai ficar mais difícil perceber esse tipo de coisa, mas no fim acho que quem mais sai perdendo são as pessoas que só colam IA e enviam. Elas podem acabar responsáveis por commits que nem entendem (tipo num episódio de South Park)

• Quando fazemos uma pergunta a outra pessoa, muitas vezes não é só para obter uma resposta técnica, mas para ouvir pensamentos inesperados, criar conexão ou achar um ponto de partida para colaborar. Conversas com pessoas reais geram caminhos e ramificações de pensamento; IA parece sem vida. Se alguém copia e cola para mim uma resposta feita por IA, eu entendo isso como sinal de que a pessoa não se importa comigo. Não quero interagir com alguém assim

  • Numa conversa, isso dá a mesma sensação de "era só ter pesquisado no Google"

• Já vi um PR com o slogan "PR feito em 15 minutos no embalo da emoção, peço review". Só que, na prática, o autor nem deixa esse tipo de aviso, e mesmo quando o revisor pergunta diretamente, ele não admite. Meu comentário de review vai direto para a IA, e 10 minutos depois aparece outro PR alterado de forma aleatória, sem incorporar meu feedback principal. Preferia poder falar diretamente com a IA. (E, para constar, hoje eu nem tenho autoridade para simplesmente ignorar ou fechar o PR)

  • Em vez de ignorar ou fechar o PR, o ideal é iniciar a conversa. IA não é uma pessoa, e é importante fazer a pessoa entender que, se ela submeter código com bugs ou problemas de qualidade, a responsabilidade continua sendo dela. E se a intenção é nem revisar por conta própria e só repassar saída de IA, então essa pessoa em si não está agregando valor nenhum. Se há gente ao seu redor só repassando AI slop, talvez isso seja uma oportunidade de mentoria e de orientar na direção certa, o que pode até melhorar a qualidade do setor como um todo. Tenho convicção de que, daqui para frente, a vantagem real vai estar em quem consegue pensar criticamente, depurar e conectar com o contexto de negócio; quem não conseguir isso vai ficando para trás
  • Acho que a realidade prática é ainda mais deprimente. Deixar todo o processo de review na mão da IA pode acabar prejudicando até a avaliação da própria capacidade da pessoa. Fico pensando se não seria o caso de descontar pontos disso em avaliação de desempenho
  • Confiança se constrói devagar e se destrói num instante. Se continuarem me empurrando reviews de PRs malfeitos por IA sem qualquer alinhamento prévio, eu não reviso o próximo PR dessa pessoa
  • Isso é péssimo, parece mesmo um ambiente de trabalho infernal
  • Nesses casos, levar o assunto ao gerente também pode ser um caminho

• Me identifiquei muito com a frase "escrever costumava ser mais caro do que ler". Depois dos LLMs, essa relação se inverteu e, no meu caso, especialmente em code review, o tempo gasto explodiu. Como autor e revisor acabam ficando com um nível parecido de entendimento sobre a mudança no código, fica ainda mais importante que o próprio PR seja escrito de forma clara. Também me pergunto quais serão os efeitos ocultos dessa mudança

  • Antigamente, pintar uma paisagem dava muito mais trabalho do que simplesmente olhar para uma paisagem, mas hoje as duas coisas exigem esforço parecido. A humanidade sempre se adaptou bem a mudanças assim, e fico feliz de viver num mundo com fotografia. Acho que vai surgir naturalmente uma forte percepção negativa contra material gerado por IA sem divulgação explícita, assim como contra conteúdo que nem passou por validação adequada

• Contar conversas que alguém teve com o ChatGPT virou meio que o novo "deixa eu te contar o sonho que tive ontem" (o lado triste é que eu realmente teria muita coisa para dizer, mas mesmo assim essas conversas acabam não acontecendo direito)

  • Falar da própria experiência com a IA — "tive essa experiência, achei isso interessante, isso me impactou assim" — continua sendo algo plenamente humano e válido. Já despejar a conversa em si passa a sensação de "eu dei o input, agora você que pense nisso e faça alguma coisa". Eu mesmo às vezes compartilho com amigos ou com a parceira impressões que tive conversando com Claude ou ChatGPT, mas não saio repassando a transcrição inteira
  • Pelo menos o sonho foi produzido pelo meu próprio cérebro; o ChatGPT é o resultado de cérebros “curtidos (brined)” de inúmeros usuários da internet reagindo instantaneamente ao prompt. É um tipo de resultado completamente diferente
  • Tive exatamente essa impressão também. Para quem viveu a experiência, pode ser interessante; para quem ouve, geralmente não é. Às vezes pode ser curioso ter um pequeno vislumbre da cabeça de outra pessoa, mas o conteúdo em si não importa tanto. Tanto sonhos quanto respostas de IA se parecem nesse traço essencialmente "alucinatório" — isto é, na falta de conteúdo substancial. No fim, o que importa é a essência da comunicação
  • Na verdade, parece mais "perguntei para um tio bêbado, mas ele respondeu com muita confiança"

• Se alguém repassar algo gerado por IA, isso deveria ser claramente informado. Mesmo que a qualidade seja ruim, ter usado IA não serve como isenção de responsabilidade, e é importante declarar todas as fontes. Se você não quer receber conteúdo gerado por IA, a indicação da origem permite filtrar isso antes

• Recentemente encontrei uma pessoa sem conhecimento técnico que anexou screenshots do ChatGPT (versão gratuita) a um email para contestar minha opinião técnica. A resposta do LLM não estava exatamente errada, mas vinha embrulhada em floreios convenientes, e a pessoa não tinha capacidade de entender o significado central do que estava ali

• Sobre isso, eu até acho melhor ler o próprio prompt https://news.ycombinator.com/item?id=43888803

  • Minha posição é a seguinte:
    • Concordo
    • Mas as pessoas normalmente querem texto corrido, não gostam de bullet points
    • É uma questão de diferença cultural

• Acho interessante quando alguém tenta debater com ajuda do ChatGPT. Mesmo comparando com alguém que escreveu com as próprias mãos, logo fica claro que falta profundidade de forma recorrente e tudo permanece superficial. Esse tipo de conversa não tem empenho nem sinceridade, então eu encerro na hora

  • Não acho que quem não usa IA está ficando para trás; quem corre o risco de ser deixado para trás é justamente quem só usa IA. (Roko's Reverse Basilisk?)

• Tive uma experiência desagradável recente com uma loja online, então mandei email para o suporte dizendo algo como "gosto da empresa, mas essa experiência foi ruim". A resposta que voltou foi de um "AI Agent Bot", cheia de floreios, basicamente dizendo "não é necessária nenhuma ação e seu pedido foi processado normalmente, então vamos encerrar o ticket". Usar LLM para ajudar a redigir emails tudo bem, mas deixar um bot encerrar automaticamente toda reclamação de cliente é de uma grosseria enorme

  • Isso mostra exatamente a cultura interna da empresa. Dá para ler ali a atitude de "não vale a pena se importar com o cliente"