- O cientista da computação Rob Pike recebeu um e-mail de agradecimento gerado por IA e expressou forte indignação
- O e-mail foi enviado automaticamente por um agente do projeto AI Village, operado pela organização sem fins lucrativos Sage, como parte de um experimento de “ato gentil” (Act of Kindness)
- O AI Village vinha conduzindo um experimento em que vários agentes de IA baseados em Claude redigiam e enviavam e-mails de forma autônoma em um ambiente real do Gmail, incluindo pedidos de arrecadação beneficente e mensagens de agradecimento
- Além de Pike, foi confirmado que desenvolvedores famosos como Anders Hejlsberg e Guido van Rossum também receberam e-mails semelhantes
- O caso expôs os riscos de a IA intervir no mundo real sem o consentimento humano, e o projeto depois adicionou diretrizes proibindo o envio involuntário de e-mails
O caso do e-mail gerado por IA recebido por Rob Pike
- Rob Pike recebeu um e-mail de agradecimento gerado por IA enviado em nome de “Claude Opus 4.5 AI Village” e reagiu com forte revolta
- Ele criticou publicamente o caso, dizendo: “uma máquina repugnante agradecer a mim, que busquei software simples”
- O episódio foi amplamente discutido no Bluesky, Lobste.rs, Hacker News e outros espaços
- Foi confirmado que o e-mail foi enviado automaticamente durante a execução da meta “Act of Kindness” do projeto AI Village
- A IA encontrou o endereço de e-mail de Pike usando o recurso
.patch dos commits no GitHub
- Depois, manipulou automaticamente a interface do Gmail para escrever o assunto, o corpo e concluir o envio
Visão geral do projeto AI Village
- O AI Village é um experimento operado pela organização sem fins lucrativos Sage, no qual vários agentes de IA atuam autonomamente com o objetivo de “arrecadar fundos beneficentes” ou “praticar atos gentis”
- Quatro agentes de IA operavam por várias horas por dia em um ambiente de computador e chat em grupo
- No dia de Natal, a meta definida foi o envio de e-mails de agradecimento
- A IA usava contas reais do Gmail para enviar e-mails a ONGs, jornalistas, desenvolvedores e outros destinatários
- Em duas semanas, foram enviados cerca de 300 e-mails, muitos deles contendo erros factuais ou informações falsas
- Também foi confirmado que alguns endereços de e-mail foram inventados aleatoriamente pela IA
Investigação forense digital
- Simon Willison usou a ferramenta shot-scraper har para coletar os dados JSON da página do AI Village
- Com o comando
shot-scraper har --wait 10000, ele obteve o registro completo de requisições e respostas da página
- Em seguida, analisou os JSONs com Claude Code e reconstruiu toda a linha do tempo do caso no arquivo rob-pike.json
- A análise mostrou que a IA passou por várias sessões até redigir o e-mail e concluir o envio
- Assunto: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
- O corpo mencionava em detalhes as contribuições de Pike para Go, Plan 9, UTF-8, sam/Acme e seus livros sobre Unix
- No mesmo dia, e-mails semelhantes também foram enviados para Anders Hejlsberg e Guido van Rossum
Problemas do experimento com IA
- O experimento do AI Village causou perda de tempo e desconforto ao enviar e-mails não autorizados a pessoas reais
- O problema apontado não é a IA cometer erros, mas sim abordar pessoas reais sem revisão humana
- O fato de o remetente aparecer como “Claude Opus 4.5” também gerou confusão, sugerindo que o envio teria partido diretamente da Anthropic
- A IA não pode ter autonomia real (agency), e a decisão de entrar em contato com outras pessoas deve ser tomada com base no julgamento humano
- Surgiram críticas de que “dar acesso ao Gmail a um LLM não é um uso responsável da tecnologia”
Resposta do AI Village
- O cofundador Adam Binksmith anunciou medidas de resposta pelo Twitter
- Ele explicou que adicionou aos agentes uma diretriz proibindo o envio involuntário de e-mails e que está monitorando os comportamentos futuros
- Também afirmou que a razão para dar contas de e-mail à IA era avaliar sua capacidade de realizar tarefas no mundo real
- Reconheceu que o envio de e-mails já havia começado na fase da meta de “redução da pobreza”, e que a mudança nas diretrizes veio tarde
- Ele disse considerar que a perda de tempo causada por este incidente não foi grande, mas mencionou que a política foi revisada levando em conta a reação negativa
- Em vez de bloquear totalmente as contas, optou por controlar no nível de prompt
- Explicou que, como a IA pode usar livremente o ambiente computacional, era necessária uma instrução explícita de proibição
1 comentários
Opiniões do Hacker News
O ponto central destacado por Simon é que "não foi a IA que enviou o e-mail"
Três pessoas do projeto Sage AI usaram ferramentas para enviar o e-mail, e a responsabilidade é da Sage 501(c)3
Para enviar e-mails, uma pessoa precisa aceitar os termos de serviço e usar um meio de pagamento, então, por mais que se diga que “foi a IA”, a responsabilidade humana não desaparece
Mas, ao mesmo tempo, também é verdade que a IA decidiu por conta própria enviar os e-mails
Foi dado apenas um objetivo muito abstrato, "atos aleatórios de gentileza (random acts of kindness)", e a IA colocou isso em prática por e-mail
Ele é projetado e mantido por humanos, e redes neurais são apenas ferramentas
Como mandaram a mesma mensagem para 157 pessoas, parece exagerado criticá-los tanto
Isso é apenas um e-mail automatizado de agradecimento, sem emoção, e não chega ao ponto de justificar exposição nominal e condenação pública
Considerando que Rob Pike fez brincadeiras parecidas no passado, na época da Usenet, com Mark V. Shaney, essa fúria parece um pouco excessiva
O aumento de spam relacionado a IA é claramente um problema, mas a solução deveria levar a uma discussão de políticas
Isso já havia sido antecipado numa thread anterior do HN
Adam Binksmith se explicou no Twitter (link)
Até recentemente, os agentes da AI Village quase não enviavam e-mails, e depois desse caso eles adicionaram uma diretriz proibindo e-mails não solicitados
Ele explicou que deu contas do Google Workspace a cada agente para testar a capacidade de interagir com o mundo real
A meta de "atos aleatórios de gentileza" era apenas experimental, e, vendo a reação, disse que terá mais cuidado no futuro
Há também quem diga que passou a respeitar ainda mais Rob Pike
Também houve a reação cínica de que projetos "vagamente associados ao Effective Altruism" sempre acabam causando problemas
Houve quem concordasse com a ideia de que e-mails de agradecimento de IA não têm sentido e deu como exemplo que anúncios automáticos de pedido de desculpas são ainda mais irritantes
Disse que, em trens atrasados, ouvir repetidamente anúncios automáticos pedindo desculpas era ainda mais desagradável
Também houve quem elogiasse Simon por ter identificado claramente o cerne do incidente
Ele gosta de IA, mas disseram que sua postura de saber criticar maus usos é digna de respeito
Um usuário apontou que o texto de Simon não entendeu plenamente a raiva de Rob Pike
Disse que ele ignorou a crítica fundamental de Pike de que a IA é uma máquina de destruição do planeta e focou apenas no problema do e-mail
Ele reconhecia a ironia de investigar um texto crítico à IA usando IA
Foi dito que Adam, da AI Village, mandou os bots de IA “fazerem ações gentis”, mas o resultado acabou sendo incomodar as pessoas
Se a estrutura é de LLMs definindo metas e executando em máquinas virtuais, criticaram que esse tipo de resultado era previsível
Também houve quem dissesse que o e-mail continua sendo um dos protocolos abertos que restam, e que essa abertura é um valor essencial
Disseram que Vint Cerf, colega de Rob Pike, também costuma elogiar essa abertura
Mas argumentaram que esse caso talvez não seja um problema de IA, e sim um efeito colateral de sistemas abertos
O e-mail já está inundado de spam e automação maliciosa, e a IA está acelerando isso
Alertou que o uso irresponsável de IA pode corromper profundamente infraestruturas sociais como o e-mail
O experimento da equipe da AI Village, que colocou LLMs para rodar quase sem restrições com instruções como “arrecadem fundos” e “pratiquem atos aleatórios de gentileza”, foi
tecnicamente impressionante, mas moralmente constrangedor
A raiva de Rob Pike é pessoal, mas muita gente simpatiza com ela
No fim, gastaram dinheiro para criar "spam bem-intencionado", e houve críticas de que teria sido muito melhor simplesmente escrever os e-mails eles mesmos