O verdadeiro superpoder da IA: consumo, não criação

• A maioria das pessoas usa a IA como ferramenta de geração de conteúdo, mas sua verdadeira força está na capacidade de ler e conectar grandes volumes de informação
• O ponto central é o processo em que a IA consome e encontra padrões em dados acumulados, como notas pessoais, registros de reuniões e ideias
• Ao integrar notas do Obsidian com IA, é possível extrair insights de registros antigos e descobrir mudanças de pensamento esquecidas ou decisões de arquitetura recorrentes
• A IA permite busca baseada em conceitos, e não em palavras-chave, exploração de padrões além do tempo e conexões entre ideias
• A vantagem competitiva humana está na experiência, e a IA a converte em um ativo de conhecimento pesquisável, ajudando no aprendizado contínuo e na melhoria da tomada de decisão

---

A armadilha da criação

• A maioria dos usuários usa a IA como ferramenta de produtividade para escrever e-mails, gerar relatórios e escrever código
  • Isso é descrito como usar um supercomputador como máquina de escrever, um desperdício
• O autor armazenou no Obsidian 3 anos de notas de engenharia, mais de 500 registros de reuniões e milhares de observações
  • É uma quantidade que um ser humano não conseguiria ler em toda a vida, mas a IA consegue consumir isso em poucos segundos

O ponto de virada do consumo

• Depois de conectar a IA ao Obsidian, a forma de perguntar mudou de “escreva algo novo para mim” para “o que eu já descobri?”
• Casos reais
  • Na análise de padrões das 50 reuniões 1:1 mais recentes, foi descoberto que problemas de desempenho surgiam 2 a 3 semanas antes das reclamações sobre ferramentas
  • Ao rastrear a mudança de pensamento sobre dívida técnica, foi identificado que por volta de março de 2023 a visão mudou de “algo a ser corrigido” para “informação sobre a evolução do sistema”
  • Na comparação entre a arquitetura da Buffer API e da carpeta.app, foram encontrados 12 padrões recorrentes de decisão de design

Acúmulo de conhecimento e acessibilidade

• Toda reunião, pensamento e experiência de debugging gera aprendizado, mas, se não puder ser pesquisado, permanece como conhecimento inútil
• A busca tradicional exige lembrar as palavras exatas, e a memória humana tem limites
• A IA supera isso e torna possível
  • consultas baseadas em conceitos,
  • exploração de padrões ao longo de anos,
  • conexões entre ideias além do tempo e do contexto
• A limitação humana não estava na criação, mas na falta de capacidade de consumir, lembrar e conectar

Construindo um sistema de consumo

• A configuração é simples
  • armazenar todos os registros no Obsidian
  • dar à IA acesso ao conjunto completo de dados
  • fazer perguntas ao eu do passado como se fosse um assistente de pesquisa
• O essencial não é a ferramenta, mas a mudança de mentalidade
  • é preciso ver a IA não como criadora, mas como leitora da experiência
  • cada nota se transforma em insight futuro, e cada reflexão em sabedoria pesquisável

O efeito composto

• Resultado de dois meses de experimento
  • maior velocidade na resolução de problemas ao encontrar casos semelhantes do passado
  • melhoria na qualidade das decisões ao recuperar contextos esquecidos
  • possibilidade de reconhecer padrões antes invisíveis espalhados ao longo do tempo
• A maioria das pessoas possui uma mina de ouro de insights enterrada em notas, arquivos e memórias
  • A IA transforma isso em um banco de dados consultável de especialização pessoal

A verdadeira revolução

• Ainda há muita gente que enxerga a IA apenas como ferramenta de escrita e geração de código
• A verdadeira revolução está no fato de a IA funcionar como leitora de todos os pensamentos humanos
• Por isso, registrar conhecimento hoje deve se tornar um ato de documentação para o seu eu do futuro e para a IA
  • Para uma IA que faz você se lembrar do que esqueceu, é preciso manter o hábito de registrar continuamente

[choijaekyu]

No fim das contas, é regressão feita com texto

[crawler]

> Sozinho, o modelo é apenas um leitor mediano; tende a deixar passar partes importantes, mas, quando combinado com ferramentas como testes, compiladores e linters, se transforma em uma ferramenta de criação com um ciclo de feedback rápido.

Isso fez sentido para mim. Nunca tentei desse jeito, mas vou experimentar.

[GN⁺]

Opiniões do Hacker News

• Acho que a parte mais assustadora da capacidade de consumir informação da IA é uma das suas maiores forças
  A NSA e grandes empresas já coletam nossos padrões de navegação há anos, e preocupa o fato de que a IA possa analisar esses dados muito mais rápido que humanos e usá-los para prever ou manipular comportamentos, traçar perfis psicológicos e identificar vulnerabilidades
  Ainda assim, é irônico ver algumas pessoas criticando a IA como uma tecnologia inútil

  • Mesmo que a IA fosse inútil, ainda assim seria usada para esse tipo de coisa
    Porque dá uma ilusão de confiança para quem faz esse trabalho
  • A expressão “Worthless” é ambígua
    A IA pode ser sem valor (valueless), mas não inútil (useless)
    Assim como minas terrestres têm utilidade, mas não valor, a IA generativa gera um debate parecido em termos de externalidades
  • Na verdade, esse tipo de análise de dados já era possível com tecnologias de ML de 10 anos atrás
    IA generativa não é necessariamente necessária
  • Mais do que debates sobre superinteligência ou criatividade, o que me preocupa é a transformação em uma sociedade de vigilância
    As cidades já estão cobertas por inúmeras câmeras, e hoje o fato de não haver gente suficiente para monitorar todas as imagens funciona como uma espécie de proteção, mas a IA pode derrubar essa barreira
    Num futuro próximo, parece provável o surgimento de sistemas de vigilância baseados em linguagem natural como “me avise quando passar um Nissan vermelho”
  • O ser humano é complexo demais, então mesmo com dados da NSA ou de empresas a precisão na previsão de comportamento ainda pode continuar baixa

• O modelo, por si só, está no nível de um leitor mediano
  Ele tende a deixar passar partes importantes, mas quando combinado com ferramentas como testes, compiladores e linters, vira uma ferramenta de criação com ciclo de feedback rápido
  A parte realmente difícil continua sendo decidir “o que afirmar”
  Isso também deve aparecer na newsletter HackerNewsAI

  • Existem guardrails aplicados à IA que a gente desconhece
    Por exemplo, uma vez tentei falar sobre energia solar e o sistema interpretou como tema político, bloqueando a conversa
  • O Google já lê e indexa patentes e documentos da SEC há muito tempo
    Em alguns campos, já existem sistemas que leem documentos mais rápido do que advogados

• Mesmo que a IA leia meus dados em segundos, é impossível validar a precisão
  Há estudos dizendo que isso não passa de uma simples abreviação (abbreviation), e não de um resumo de fato
  Como no exemplo de “encontrei padrões em 50 reuniões 1:1”, o resultado pode na prática valer só para parte dos dados

  • Gostaria de conhecer a metodologia dessas pesquisas relacionadas
    Na verdade, isso só é perigoso quando se trata de um problema difícil de verificar
    O LLM deve ser usado como ferramenta de exploração, e os insights precisam vir dos humanos
  • Humanos também não são perfeitos
    Se a IA for nem que seja um pouco melhor que humanos, isso já tem valor
  • Muitas vezes validar é mais rápido do que resolver
    Dá para conferir os itens sugeridos pela IA com busca de texto
  • A IA é uma ferramenta de processamento em massa
    O essencial é gerenciar o contexto, e ela pode ser útil mesmo sem determinismo completo
  • Se o modelo indicar as fontes, dá para usar sem confiar cegamente

• Tenho receio de subir documentos pessoais para a nuvem
  O risco à privacidade é grande demais, então estou esperando os LLMs locais evoluírem

  • Eu também uso modelos locais pelo mesmo motivo
    Um modelo de cerca de 30B já consegue resumir coisas em um MacBook, mas a usabilidade ainda é ruim
  • Eu só faço upload de documentos que não me importaria se vazassem
    Se for um negócio coberto por NDA, é difícil recomendar qualquer coisa além de modelo local
    O hardware é caro, mas acho que em algum momento vamos voltar para um ambiente de execução de modelos centrado no PC
  • Estou analisando minhas notas do Obsidian com o mlx_lm da Apple
    Testei o Qwen 3, mas ele tem muita alucinação (hallucination) e não é prático
    Imagino que até modelos SOTA tenham qualidade parecida em resumos
  • Eu uso LLM como hobby
    Comprei 3 GPUs para rodar modelos locais, mas o ROI não fecha nem um pouco
    Faço isso só porque é divertido
    Se não houver chaves sensíveis, alugar GPU pequena na nuvem também é uma boa opção

• A ideia central do texto parece ser delegar o pensamento para a máquina
  Eu uso notas com foco em memória e associações, então entregar isso à IA parece uma desistência de pensar

  • Pelo contrário, a IA pode ser um dispositivo de memória que recupera instantaneamente nossos pensamentos, notas e experiências
    É útil por resgatar conhecimento enterrado em e-mails ou relatórios antigos

• Metade do “superpoder” da IA vem do fato de que a pessoa já organizou todos os dados no Obsidian
  Com essa base, qualquer ferramenta fica poderosa

  • A maioria das pessoas não registra tudo com essa consistência
    É admirável que ele esteja colhendo os frutos desse esforço

• A verdadeira habilidade da IA é dizer o que você quer ouvir
  Essa tendência ficou ainda mais forte especialmente depois do RLHF
  A capacidade de resumir continua fraca, e na maioria dos casos ela fica só na abreviação, não no resumo
  LLMs são excelentes em continuar texto, mas fracos em entender o quadro geral
  Se aquele “avanço exponencial” de que se falava em 2023 fosse real, nem estaríamos tendo esse debate

• Durante uma aula de matemática, pesquisei um termo que não conhecia e o resumo por IA foi bem razoável
  Era só uma reconstrução do original, mas era exatamente a função que eu queria

  • Mas a verificabilidade do resumo é importante
    A maioria das pessoas prefere consumo rápido e acaba sem compreender profundamente
  • Eu acho que até um resumo de baixa qualidade já basta se me permitir captar rapidamente uma visão geral
  • Quando pesquisei um termo médico, o Gemini misturou informações erradas com corretas
    Foi assustador ver até especialistas acreditando naquilo como se estivesse certo
    Além disso, fiquei incomodado pensando se o Google teria associado aquela doença ao meu perfil

• Já aconteceu de eu acreditar quando a IA disse que “JS Set é mais rápido que Array” e depois perceber que estava errado por falta de contexto
  Mesmo assim, a IA é excelente em sintetizar grandes volumes de material sobre temas desconhecidos
  Por exemplo, ao traduzir poemas de Lorca e Cavafy, a IA explicou bem o texto original e as dificuldades de tradução
  Obtive resultados muito melhores quando a usei como ferramenta de apoio, em vez de pedir que ela fizesse a tradução diretamente
  Relatei essa experiência em detalhes neste post do meu blog