Por que a ideia de colocar um copiloto no Excel é preocupante

• A usuária do TikTok Ada James(@belligerentbarbies) expressou preocupação com a introdução de um copiloto de IA no Excel
• O Excel é comparado a “o monstro que move a nossa economia”, e ‘Brenda’ aparece como a figura que domou esse monstro
• Brenda é descrita como uma espécie de deusa do Excel que existe em todo departamento financeiro corporativo
  • Usa-se a expressão simbólica: “uma deusa do Excel desceu dos céus e beijou a testa de Brenda”
  • Surge a metáfora exagerada de que o capitalismo funciona graças ao esforço de Brenda
• Quando o chefe tenta modificar o relatório financeiro criado por Brenda, ele usa o Copilot acreditando que a IA será mais inteligente do que Brenda
• Porém, a IA lida mal com o Excel e estraga o relatório, e o chefe não percebe o erro
• O motivo é que o chefe não entende Excel, e a IA alucina (hallucination)

“Quem é que não produz alucinações? Brenda”

[GN⁺]

Opinião no Hacker News

• É interessante haver duas narrativas opostas sobre o uso de tecnologia
  Uma diz que “pessoas como a Brenda cometem erros, então precisamos de automação”, e a outra diz que “a Brenda é perfeita, mas a IA erra muito”
  Na verdade, isso não é uma contradição. Aplicamos automação apenas a tarefas compreensíveis, execução confiável, processos observáveis e trabalho repetitivo e tedioso
  O problema surge quando a IA não atende a essas condições. Em especial, a autonomia da IA provoca medo. É a ansiedade de “não sei por que esse resultado saiu assim”
  Por isso, as pessoas ainda confiam mais em IA restrita ou IA com salvaguardas

  • Não é uma oposição simples de “a Brenda é perfeita, a IA erra”
    Código tradicional sempre produz a mesma saída para a mesma entrada, mas a IA muda a cada vez
    O problema é a opacidade incompreensível de não dar para entender por que a IA funcionou daquele jeito
    Se a Brenda comete um erro, dá para perguntar a causa e corrigir, mas com IA isso é difícil
    Eu também gosto de IA, mas conheço bem suas limitações
  • Não é contradição; quando falamos de ‘máquina’, estamos nos referindo a algoritmos determinísticos
    Já a IA generativa é imprevisível
    Se fosse para ordenar por previsibilidade: Quick Sort > Brenda > Gen AI
  • O “Thinking mode” só cria uma ilusão de depurabilidade
    Os tokens gerados não refletem o processo de pensamento humano
    As “etapas de raciocínio” criadas pelo modelo não mostram o estado interno real, e a conclusão muda conforme vieses invisíveis
  • Em áreas como contabilidade, automação determinística é importante
    IA é difícil de validar, e o valor em relação ao custo é incerto
    No fim, a pergunta central é se a combinação “Brenda + IA” será melhor, ou se é melhor deixar só a Brenda
    A IA atual ainda está naquele estágio de “daqui a alguns anos talvez fique útil”
  • O motivo para desconfiar de IA não é que a Brenda seja perfeita, mas que os líderes confiam mais na IA do que na Brenda

• Na nossa organização também empurraram à força Copilot e IA na Microsoft Stack
  A maioria dos recursos estava desativada ou era inútil. No fim, não passava de marketing para sustentar a cotação da ação
  Além disso, a empresa proibiu bots de IA para transcrição de reuniões. Por causa do risco de segurança

  • Transcrição de atas é um dos recursos mais úteis de IA corporativa, mas é difícil confiar na nuvem
  • Também houve uma reação cínica do tipo: “empurrar coisa inútil é o modelo de negócios da Microsoft há 40 anos”
  • É incômodo ver a IA invadindo até a stack de desenvolvimento
    Autocompletar no VS Code e interpretação de erros são legais, mas enfiar tudo numa interface de chat não agrada
    Preferia que melhorassem primeiro a qualidade do reconhecimento de voz

• Antigamente, na empresa de um amigo, havia um script em Perl que fazia commit diário dos dados financeiros no DB
  Sem esse script, a empresa não conseguia ganhar dinheiro. Só uma pessoa conhecia a senha de administrador
  Por melhor que o Copilot seja, ele não sabe essa senha

  • Se existe um sistema assim, o problema maior é o risco operacional, não o Copilot
  • Eu também já administrei um sistema que faturava US$ 5 milhões por mês, e ninguém deixou a senha de root
    Acho que até hoje ele deve estar rodando em Linux de 2008
  • Um colega tinha um script Perl parecido e o imprimiu em 30 páginas para guardar em casa
  • Esse tipo de situação não é argumento contra IA, e sim prova de má gestão organizacional
  • Esses sistemas legados também não ajudam na estabilidade do emprego

• Era uma frase citada de um vídeo do TikTok
  Baixaram o MP4 com yt-dlp e transcreveram com MacWhisper

  • Provavelmente teria sido mais rápido simplesmente digitar tudo
  • É a primeira vez que vejo uma citação de TikTok chegar ao topo do HN
  • Ironicamente, talvez esse trabalho devesse ter sido deixado para a Brenda
  • O MacWhisper é uma ferramenta GUI que usa o modelo parakeet v2, mas na prática parece uma carcaça de US$ 60 para um script em Python

• Eu também já usei LLM no Excel, mas com dados reais ele entra em confusão imediata
  As demos sempre usam demonstrativos financeiros limpos ou exemplos de livro didático
  Os dados reais de empresas são totalmente diferentes. No Excel, é quase inútil

  • Para quem não conhece bem Excel, talvez LLM sirva como um guia para mostrar o que é possível fazer

• As Brendas que eu conheço não lidam apenas com planilhas
  Na prática, elas fazem coisas complexas como alinhar com a equipe de operações, analisar o impacto das decisões e tratar exceções
  O Copilot não entende nada desse contexto. Se você pedir um “modelo de planilha para relatório de despesas”, ele entrega uma planilha com erro #REF

  • A maior parte da ineficiência do time financeiro vem de baixa prioridade
    É melhor fazer propostas de melhoria diretamente. Por exemplo, criar um link de workbook compartilhado para todo mundo usar
    Mas, se isso não for atualizado de forma consistente, a bagunça volta
  • Se aumentar a automação, no fim você vai precisar de gente que custa três vezes mais que a Brenda, e um e-mail simples vira um sistema de tickets
  • Em vez de falar em “reduzir a Brenda”, é preciso respeitar e apoiar a Brenda
  • Quando a automação entra, é preciso equipe de manutenção, e isso custa mais caro
    Sempre que o processo muda, precisa de coordenação, então no fim volta-se ao manual

• O problema de “tenho medo de a IA estragar tudo” pode ser reduzido com controle de versão de Excel integrado ao Git
  Se você rastrear em nível de commit as fórmulas ou alterações em VBA feitas pelo Copilot, fica claro ver o que aconteceu

• A Brenda ficou mais lenta, mas por isso mesmo sabe como sustentar o sistema como um todo

  • Mas no fim o chefe vai dizer que “vai fazer mais rápido com IA” e terceirizar o trabalho
    A Brenda perde o emprego, e alguém em outro país ganha uma nova vaga

• Usar IA não isenta ninguém de responsabilidade
  É preciso ter especialização suficiente para validar o resultado da IA
  Dá para economizar tempo, mas se economiza menos do que parece por causa do processo de verificação

• Eu também gosto de Excel, mas fórmulas aninhadas complexas ainda parecem difíceis
  Já usei modelos como ChatGPT e duck.ai, mas eles frequentemente sugerem fórmulas sem sentido
  Só funciona depois de pedir várias correções
  É bom que LLM explique em inglês, mas no fim houve muito desperdício de tempo e frustração
  No começo eu acreditava que isso tornaria o Excel mais fácil, mas agora tenho convicção de que ainda falta muito