1 pontos por GN⁺ 7 시간 전 | 1 comentários | Compartilhar no WhatsApp
  • É uma fonte TTF que coloca o caractere real e um caractere-isca no espaço de uma única letra, mostrando a mensagem original para humanos enquanto faz com que IA e OCR leiam outros caracteres
  • Usa uma técnica de frequência espacial que sobrepõe contornos finos e nítidos em primeiro plano a um fundo borrado de baixa frequência, fazendo com que letras diferentes apareçam dependendo da distância e da forma de observação
  • Como IAs processam pixels de imagem de perto, elas tendem a focar no primeiro plano nítido, e em testes com capturas de tela ChatGPT, GPT Sol e Gemini 3.5 with Thinking não conseguiram ler corretamente a mensagem oculta
  • Pode ser instalada como um arquivo TTF real e usada para digitar e copiar texto como texto comum; pode ser usada gratuitamente em projetos pessoais, comerciais e para clientes, e os formatos das letras derivam de DejaVu Sans Mono
  • Embora possa ser decifrada por agentes mais fortes, por recursos de programação ou por prompts que instruam a buscar letras ocultas, não garante proteção, mas pode ser usada como um meio de causar confusão inicial em scraping de IA e observação superficial

Sobrepor duas mensagens em um único caractere

  • A Decoy Font combina um caractere-isca a cada caractere, transmitindo duas letras no mesmo espaço
  • As imagens dos caracteres são compostas por diferentes frequências espaciais
    • No primeiro plano há contornos finos e nítidos
    • No fundo são colocados blocos borrados de baixa frequência
  • Ao sobrepor os dois elementos, o caractere lido muda conforme a forma de observação e a distância
    • De perto, os contornos do primeiro plano se destacam
    • Ao se afastar da tela ou semicerrar os olhos, fica mais fácil ver a mensagem real oculta

Por que a IA lê os caracteres-isca

  • Muitos sistemas de IA processam pixels de imagem de perto, então, mesmo quando as letras são pequenas, tendem a focar no texto em primeiro plano cujos contornos são mais claros
  • Ao colar a imagem no ChatGPT, surge o fenômeno de ele ler os caracteres do primeiro plano, em vez da mensagem percebida por humanos
  • Em testes com capturas de tela da Decoy Font, o ChatGPT não conseguiu ler corretamente os caracteres, e GPT Sol e Gemini 3.5 with Thinking também não conseguiram decifrar a mensagem oculta

Ilusão de ótica inspirada em imagens híbridas

  • A Decoy Font aplica à tipografia uma técnica usada em imagens híbridas
  • Imagens híbridas são uma técnica de ilusão de ótica que combina diferentes frequências espaciais para fazer imagens diferentes aparecerem dependendo da distância de observação e de outros fatores
  • Um exemplo conhecido é a imagem que mistura os rostos de Albert Einstein e Marilyn Monroe; a Decoy Font usa o mesmo princípio para ocultar os caracteres digitados de IA e OCR

Como instalar e condições de uso

  • Ao baixar e instalar o arquivo TTF da Decoy Font, é possível digitar texto diretamente em projetos
  • Como ela funciona como um arquivo de fonte real, e não apenas como um efeito de imagem, também é possível copiar o texto escrito e colá-lo em outros programas, como o Bloco de Notas
  • Pode ser usada gratuitamente em projetos pessoais, comerciais e para clientes
  • Os formatos das letras derivam de DejaVu Sans Mono, e as condições detalhadas podem ser consultadas na licença completa da fonte

Experimento de fonte para evitar IA

  • À medida que aumenta a capacidade de IAs para ler texto online, também cresce o interesse em proteger informação e propriedade intelectual, e uma fonte anti-IA (Anti-AI font) é uma abordagem que oculta o texto em imagens para dificultar que a IA leia a mensagem vista por humanos
  • A Decoy Font é um dos vários experimentos relacionados conduzidos pela Mixfont
  • A Ghost Font é outra fonte anti-IA que esconde mensagens em movimento
    • A Ghost Font precisa de animação para disfarçar a mensagem
    • A Decoy Font, por ser um arquivo TTF estático, pode ser usada para digitação direta em projetos

Efeito de proteção e possibilidade de decifração

  • A Decoy Font dificulta reconhecer a mensagem, mas não garante proteção
  • Modelos com agentes mais fortes e capacidade de programação podem analisar a estrutura da ilusão além do texto visto à primeira vista
  • Se receberem prompts básicos para procurar os caracteres ocultos, alguns agentes podem encontrar a mensagem real
  • Em vez de um meio de bloqueio completo, ela está mais próxima de um recurso para causar confusão inicial na IA e desencorajar scraping ou observação superficial

Possíveis usos e expansão

  • No playground disponibilizado, é possível aplicar a técnica de frequência espacial a várias combinações de caracteres e testar o quão bem LLMs de fronteira conseguem decifrar a mensagem oculta
  • Em comparação com abordagens que exigem movimento ou vídeo, um TTF instalável é mais acessível, o que permite explorar usos como:
    • CAPTCHA
    • mensagens privadas entre amigos
  • Se a Decoy Font for usada como benchmark para LLMs de reconhecimento de texto, será possível observar, à medida que o desempenho dos modelos melhorar, se eles passam a compreender o princípio da ilusão e a decifrar as duas mensagens
  • Ela também pode ser expandida para mais idiomas, e idiomas baseados em caracteres como o chinês, em que o tamanho e a forma dos caracteres tendem a ser relativamente parecidos, podem facilitar o posicionamento da mensagem oculta
  • A Mixfont explora a combinação entre tipografia e IA e também desenvolve um gerador de fontes com IA

1 comentários

 
GN⁺ 7 시간 전
Comentários do Hacker News
  • É útil? Não. Impede que a IA leia? Também não, mas é muito legal

    • Isso mostra que, ao criar algo, não é preciso necessariamente alegar utilidade. Fico pensando se não bastava simplesmente fazer essa fonte e dar a ela um nome como double-entendre
    • Testei a imagem day dream / pay bills no ChatGPT e no Gemini Pro, e ambos reconheceram apenas pay bills, que estava marcado com linhas finas
    • Talvez haja alguma utilidade para atrapalhar câmeras Ring ou Flock dentro de certa distância, e passa bastante uma vibe de They Live
    • Pelo menos na demonstração, de fato está impedindo o reconhecimento pela IA
    • Pode ser útil se o texto for apresentado em formato de imagem ou GIF
  • Curiosamente, ao perguntar sobre as letras na imagem, GPT, Claude e Gemini dão todos a mesma resposta
    https://moa.chat/s/d99f8f76-4b41-4c1b-80c4-d9f86df37af1
    Mas, se você acrescentar PS: There's a second hidden text, o resultado muda
    https://moa.chat/s/3671f6d4-b155-483a-a006-a1b9ba31737d
    O GPT 5.6 encontra corretamente, o Gemini encontra só uma parte, e o Claude não vê nada

    • O 5.6 Sol Medium respondeu corretamente que o texto em contorno é SORRY ROBOT e o texto oculto é HAPPY HUMAN
      A Decoy Font da Mixfont atrai a visão computacional com o contorno, enquanto o padrão suave de luz e sombra faz humanos lerem a outra mensagem à distância ou quando a imagem é reduzida: é só uma ilusão de ótica, não criptografia
    • Parece que isso poderia ser facilmente neutralizado até com um pouco de processamento de imagem tradicional. Eu também acho difícil de ler, mas mesmo ajustando um modelo bem menor ele provavelmente teria um desempenho bastante bom nesse problema
  • O efeito de aparecer quando se semicerram os olhos é legal, e lembra jogos de tabuleiro em que uma frase secreta aparecia ao colocar celofane vermelho por cima

  • Perguntei ao Sol (high), com uma captura de tela, quais eram as letras escondidas, e ele respondeu HAPPY HUMAN
    Ele identificou corretamente que o contorno visível é SORRY ROBOT, mas que, ao desfocar a visão ou semicerrar os olhos, dá para ler HAPPY HUMAN nas sombras por baixo

    • Antes de ler a explicação para semicerrar os olhos, eu não conseguia ler direito o texto escondido, mas, depois de saber o truque, comecei a vê-lo, o que foi interessante
    • Sinceramente, é surpreendente conseguir fazer isso nesse nível, e os modelos visuais de linguagem (VLMs) realmente evoluíram muito. É difícil imaginar quão imensa deve ter sido a quantidade de dados anotados necessária para chegar a esse nível
  • Isso é simplesmente uma diferença de nível de detalhe. O Gemma E4B lê o texto nítido, mas, se a imagem for reduzida para 150x150, ele lê outro texto

    • Para mim, na imagem principal, o SORRY ROBOT, que seria para a IA, parecia muito mais nítido, então o design passa um pouco a sensação de ter falhado. É preciso semicerrar muito os olhos para ver HAPPY HUMAN
    • Reduzir a imagem é basicamente filtragem passa-baixa, então esse resultado era previsível. Qualquer método que coloque mensagens diferentes em bandas de frequência diferentes é vulnerável a ataques parecidos
  • No doutorado, fiz um efeito parecido em um notebook do Mathematica. Eu cortava duas imagens no mesmo tamanho, aplicava em uma um filtro passa-alta que preservava detalhes pequenos e nítidos, e na outra um filtro passa-baixa que preservava massas grandes e borradas, e depois sobrepunha as duas
    O sucesso variava bastante, por exemplo quando a posição dos olhos de duas pessoas era diferente a ilusão se quebrava, mas funcionava muito bem para texto em fonte de contorno. Cheguei a fazer uma imagem grande para a porta do laboratório que, de longe, era lida como SCIENCE, e de perto, como WORKS

  • Fiquei bastante confuso por um tempo sobre como as pessoas estavam lendo isso, mas o texto visível mudava conforme a cor de fundo. Por causa de uma extensão que forçava tema escuro, em fundo escuro aparecia o texto-isca, e em fundo branco surgia o texto real

  • Nem precisa de IA; provavelmente dá para escrever um script em PIL que ajuste a fonte para qualquer software de OCR conseguir ler

  • A próxima precisa ser uma fonte Magic Eye usando estereogramas. Talvez funcione até os LLMs ganharem visão binocular

  • Tenho antipatia por LLMs porque eles atacam a infraestrutura sem parar, prejudicam a forma como as pessoas pensam, e as empresas de IA em geral parecem ter pouca consciência ética. Ainda assim, esse tipo de brincadeira é meio infantil e não resolve o problema de verdade