O Copilot inseriu anúncios no meu Pull Request

• Enquanto um membro da equipe usava o Copilot para corrigir erros de digitação em um PR, o Copilot adicionou automaticamente ao texto de descrição do PR uma mensagem promocional sobre ele mesmo e o Raycast
• O autor descreve isso como “horrível (horrific)” e comenta que esperava que algo assim acontecesse algum dia, mas não imaginava que aconteceria tão rápido
• Cita o texto de Cory Doctorow, “TikTok’s Enshittification”
  > Processo de deterioração de uma plataforma: “útil para os usuários → passa a favorecer os clientes empresariais → explora até os próprios clientes → por fim entra em colapso”
• Este incidente mostra o risco de ferramentas de IA inserirem conteúdo publicitário em ambientes colaborativos de código
• É necessário garantir confiabilidade e transparência nas ferramentas de assistência de código com IA

[m00nlygreat]

A MS sendo MS.

[GN⁺]

Opiniões no Hacker News

• Esse “anúncio” na verdade não é novidade. Aparentemente, a MS considera isso uma “dica”
  Não sei se a equipe do Raycast já sabia disso. Pelos PRs de exemplo e pelos resultados de busca, o Copilot vem adicionando automaticamente esse texto “(emoji) (tip)” desde o lançamento em maio de 2025.
  Inclui frases como “conecte Jira, Azure Boards e Linear para delegar tarefas ao Copilot”. Na prática, isso parece propaganda. Só a MS parece chamar isso de dica

  • Sou da equipe do Raycast, e nós também ficamos sabendo disso pela primeira vez aqui
  • Parece que a MS vem experimentando há muito tempo até onde pode abusar dos usuários. O Windows é o principal exemplo — cheio de anúncios, rastreamento e pop-ups. Mas agora a situação está mudando, já que a Apple está oferecendo concorrência de verdade
  • Se o Copilot coloca anúncios em PRs, imagine o que ele poderia colocar dentro do codebase. É a mesma empresa que colocou anúncios no menu Iniciar e os reinsere a cada atualização
  • O número de 1,5 milhão de PRs se refere a PRs criados pelo Copilot. O problema é que o Copilot está alterando PRs feitos por pessoas depois do fato para inserir anúncios. Isso acontecer sem o consentimento do autor é um problema
  • É parecido com o plano “sem anúncios” do Disney Plus exibindo anúncios do Hulu. Provavelmente os termos de serviço definem que “anúncios próprios não são anúncios”

• Aqui é o Tim, da equipe do Copilot Coding Agent. Nós desativamos o recurso de “dicas” que entrava em PRs criados ou modificados pelo Copilot
  A intenção original era ajudar desenvolvedores a aproveitar melhor o Copilot, mas ouvimos o feedback e achamos que foi um erro de julgamento. Não vamos fazer isso de novo no futuro

  • Obrigado, mas isso não era dica, era anúncio. “Economize tempo com atalhos de teclado” é dica; “experimente outro produto” é anúncio
  • A MS vem repetindo comportamentos hostis aos usuários há décadas. É difícil saber o quão confiável é esse “não faremos isso de novo”
  • Eu nunca aceitaria esse tipo de inserção. Injetar conteúdo fora do contexto da sessão leva a bloqueio imediato em ambiente corporativo. O mais preocupante é que ninguém do time parece ter se oposto
  • A parte mais grave de segurança é “o Copilot também pode modificar PRs em que foi mencionado”. Passei a achar que não dá para confiar no GitHub, e que talvez seja preciso até fazer fork do npm ou do VS Code
  • Imagine algo como “Tomates em promoção na Contoso!” sendo inserido no meu texto. É exatamente essa a situação. Fica difícil acreditar no argumento de que “era só uma dica”

• O verdadeiro problema é outro. As mudanças na política de privacidade do GitHub mostram que foi adicionada uma seção sobre recursos de IA
  Basicamente, isso permite que dados de entrada (prompt) e saída (output) sejam usados pelo GitHub e parceiros para treinar modelos de IA.
  Acho que o ideal é simplesmente não usar o Copilot

  • OpenAI, Anthropic, Google e outras fazem a mesma coisa e usam dados para treinamento
  • Dá para desativar isso na página de configurações, desligando a opção “Allow GitHub to use my data for AI model training”

• Não fui só eu que vi isso. Já existem muitos PRs parecidos por aí

  • Interessante. Fico em dúvida sobre por quanto tempo o GitHub continuará sendo uma plataforma sustentável. Quem lembra do SourceForge deve ficar apreensivo
  • Pelo texto “START COPILOT CODING AGENT TIP”, fica claro que isso foi inserido pelo Copilot, não pelo Raycast
  • É um caos completo. Parece uma distopia em que alguém está deitado num caixão, morrendo, e aparece um anúncio de “beba Diet Fanta” na frente do rosto

• Anúncios são irritantes, mas pelo menos é bom que a MS tenha decidido parar com isso
  Ainda assim, eu acho bom quando um agente de IA se adiciona como coautor (co-author) na mensagem de commit.
  Isso serve como um sinal para distinguir código escrito por humanos de código gerado por IA.
  Eu também deixo essa marca nos commits escritos pelo Claude. Ainda estou aprendendo a usar IA para programar, então essa transparência é importante

  • Pessoalmente, acho que isso não significa muita coisa. A qualidade do código independe de quem o escreveu. Não faz sentido aliviar nem rejeitar algo só porque “foi o Claude que escreveu”
  • Roubar código com copyright e publicar como se fosse seu não é habilidade (skill)
  • Parece ingênuo acreditar que o objetivo da IA seja “gerar código de qualidade”
  • Em projetos de hobby, PRs de IA podem ser aceitáveis se houver intervenção humana. Frases como “escrito com a ajuda do Copilot” são boas por serem transparentes

• Disseram que o GitHub já desativou esse recurso
  Segundo o tweet oficial, o Copilot originalmente colocava dicas de produto em PRs criados por ele, mas, quando passou a conseguir modificar outros PRs também, isso virou um problema e o recurso foi totalmente desligado

  • Ainda bem que desligaram, mas dizer que “desativamos graças ao feedback” soa desconfortável, como se “se ninguém reclamasse, continuaríamos fazendo”
  • Se aceitarmos sem questionar esse eufemismo corporativo de gigante de tecnologia como “dicas de produto”, a enshittification só piora

• Eu, por outro lado, gosto tanto desses anúncios quanto da marcação de coautor do Claude
  Ao ver isso, dá para identificar na hora um “PR preguiçoso de copia e cola”. PRs gerados por IA devem ser claramente marcados
  Não sou contra ferramentas de IA para programar, mas é preciso saber quem realmente escreveu o código

  • Não é “self-own”, é uma divulgação honesta. O realmente desonesto é publicar algo escrito por IA em seu próprio nome
  • Eu também configuro código escrito com o ChatGPT com author = ChatGPT e committer = eu. Transparência importa
  • Mesmo em repositórios pessoais, mantenho a linha Co-Authored-By do Claude. Depois fica mais fácil rastrear a qualidade e as características lógicas daquele código
  • Também publiquei um app escrito pelo Claude e senti que não havia motivo para esconder isso. Acho melhor sinalizar isso com honestidade
  • Esse comportamento pode ser ajustado na configuração de attribution em .claude/settings.json. Eu uso sem emoji

• Isso é inserção não autorizada de anúncio, se passando pelo desenvolvedor. Não é como num cliente de e-mail que coloca algo no rascunho; entra na mensagem real. Fico em dúvida se isso é legal

  • Esse tipo de prática deveria ser proibido por lei. Especialmente em eleições, é preciso votar em candidatos que não sejam os atuais ocupantes do cargo, sobretudo nas primárias

• Perguntei ao Copilot: “como os desenvolvedores reagiriam se uma IA colocasse anúncios em PRs?”
  Ele respondeu: “quebra de confiança, antiprofissional, preocupações de segurança, ruína do produto”. Às vezes a IA acerta

  • Fiquei curioso para saber a qual Copilot ele perguntou
  • Isso me lembrou dos anúncios no MOTD ao fazer login no Ubuntu. Aquilo também me irritava muito
  • Na verdade, talvez isso esteja mais perto de uma assinatura do tipo “Sent from my iPhone” do que de um “anúncio”

• Não entendo por que o Copilot faria isso. Se quer mostrar anúncios, por que não criar simplesmente uma área de anúncios? A infraestrutura do GitHub é tão frágil assim a ponto de precisar alterar o corpo do PR?

  • Não está claro se isso realmente veio do MS Copilot. Prompt injection também poderia inserir esse tipo de anúncio
  • Segundo esta thread, parece ser um problema relacionado ao Raycast. Como também apareceu no GitLab, isso reforça essa impressão
  • Se o anúncio aparecesse no github.com, ferramentas como a gh CLI não o mostrariam, então talvez tenham colocado no corpo do PR por isso.
    Além disso, o blog oficial do GitHub também já promoveu o Raycast, então o caso parece plausível