Avaliação dos novos resultados de criptoanálise por IA da Anthropic

• O modelo avançado não divulgado Claude Mythos produziu um ataque de recuperação de chave contra o HAWK e uma melhoria em um ataque ao AES de 7 rodadas, mostrando a capacidade da IA de entender, combinar e estender técnicas de criptoanálise existentes
• O ataque ao HAWK não quebra imediatamente sistemas implantados, mas reduz aproximadamente pela metade o número de bits de segurança. É possível compensar dobrando o tamanho da chave, mas isso reduz a eficiência e torna a padronização muito improvável
• O resultado sobre o AES mira uma variante de 7 rodadas, não as 10·12·14 rodadas completas, e é um ataque impraticável que melhora um trabalho de 2013 apenas por um fator constante, sem mudança direta para a segurança real do AES
• Como o modelo também produz com facilidade resultados plausíveis, porém errados, a verificabilidade vira o gargalo. Código executável ou contraexemplos simples são fáceis de checar, mas melhorias teóricas de desempenho exigem revisão de especialistas, e até provas em Lean precisam de verificação humana sobre como o teorema foi formulado
• A criptografia de chave pública e pós-quântica, com número limitado de problemas estruturais difíceis, é uma área em que a IA pode aplicar amplamente ferramentas existentes. Ainda existe uma fronteira em que ela subitamente se torna incapaz em pesquisa avançada, mas essa fronteira está se movendo rapidamente para fora

---

Dois resultados de criptoanálise produzidos pelo Claude Mythos

• A Anthropic divulgou um ataque de recuperação de chave contra o HAWK e um ataque a AES com rodadas reduzidas, ambos produzidos pelo modelo avançado não divulgado Claude Mythos
• Os dois resultados têm alvos e impactos bem diferentes
  • O resultado sobre o HAWK afeta de forma concreta um esquema de assinatura que tinha chance de padronização
  • O resultado sobre o AES está mais próximo de um avanço teórico pequeno sobre pesquisas anteriores
• A Anthropic também publicou uma apresentação separada do processo de pesquisa

Ataque de recuperação de chave que reduz o nível de segurança do HAWK

• O HAWK é um candidato a esquema de assinatura pós-quântica baseado no problema de isomorfismo de reticulados modulares (module-LIP), e ainda não foi implantado nem adotado como padrão
• Ele é relacionado ao Falcon, que está em processo de padronização, mas se baseia em um problema difícil diferente, então este ataque não se aplica ao Falcon
• O HAWK já vinha sendo avaliado seriamente como possível candidato a padrão no futuro
• Não é um ataque que quebra imediatamente o HAWK com parâmetros reais de implantação, e ainda exige tempo exponencial, mas reduz aproximadamente pela metade o número de bits de segurança
  • Em teoria, isso poderia ser compensado dobrando o tamanho da chave
  • Mas chaves maiores reduzem a eficiência e enfraquecem a principal justificativa do HAWK, que era ser mais eficiente que alternativas
• O código do ataque fornecido recupera a chave em poucas horas em uma instância de desafio enfraquecida
  • Não são os parâmetros propostos para implantação real, mas isso basta para demonstrar a fraqueza criptográfica
• Em vez de inventar matemática nova, o resultado foi obtido ao estender e aplicar de forma minuciosa várias ferramentas já conhecidas
  • Os ingredientes usados não têm nada de especialmente exótico
  • Combinar ferramentas de ataque conhecidas de forma ampla e persistente é exatamente o tipo de tarefa em que uma IA ofensiva tende a ser boa
• Com esse resultado, a chance de o HAWK virar um padrão real fica muito baixa
• Mais contexto técnico está disponível no resumo do ataque ao HAWK

Impacto limitado do ataque ao AES de 7 rodadas

• O AES é uma cifra de bloco usada como padrão desde 2001 e executa 10·12·14 rodadas dependendo do tamanho da chave
• O AES implantado no mundo real já resistiu a análises importantes, incluindo verificação não pública da NSA
• Como atacar a cifra completa é difícil, é comum na criptoanálise estudar versões enfraquecidas com rodadas reduzidas, e o resultado da Anthropic mira o AES de 7 rodadas
• O ataque ao AES de 7 rodadas em si não é novo; desta vez, o resultado melhora um trabalho anterior de 2013 e um artigo relacionado apenas no nível de fator constante
• Ele exige uma quantidade enorme de operações criptográficas, inviável na prática, e ainda pressupõe conseguir fazer com que um dispositivo real de criptografia cifre um número muito grande de textos claros escolhidos com a chave secreta
• Como o ataque completo não pode ser executado na prática, o ganho da melhoria se baseia em análise no papel
  • Não está claro se o tempo real de execução cairia quando todos os detalhes fossem implementados
• Em termos de técnica, é um avanço interessante em criptoanálise, mas não é um ataque prático ao AES completo nem uma matemática nova revolucionária

Como os ataques foram sintetizados com intervenção humana mínima

• Os pesquisadores da Anthropic parecem ter pedido ao modelo que buscasse resultados e depois o deixaram executar iterações por longos períodos, em vez de ajustar finamente o sistema com uma grande equipe de especialistas em criptografia
• O modelo chegou a um nível em que consegue executar as tarefas abaixo sem intervenção humana detalhada
  • Entender resultados existentes de criptoanálise
  • Sintetizar várias técnicas
  • Construir ataques realmente novos
  • Estender ataques existentes
• Ainda não é uma criptoanálise superinteligente, mas a capacidade de produzir progresso real com base em pesquisa conhecida já é considerável

Verificar ficou mais difícil do que gerar resultados

• Uma saída que parece um novo resultado nem sempre está realmente correta
• Além de resultados verdadeiros, o modelo também consegue gerar com mais facilidade resultados plausíveis e enganosos, aumentando a carga de revisão humana
• Um ataque completo que roda em poucas horas em um sistema enfraquecido, como no caso do HAWK, é fácil de verificar
  • Basta receber o código e confirmar se ele recupera a chave e permite assinar de fato as mensagens escolhidas
• Melhorias teóricas sutis de desempenho, como no caso do AES, são bem mais difíceis de validar
  • É possível produzir provas com verificação automática em Lean
  • Mesmo que a prova esteja correta, ainda é necessário que especialistas verifiquem a forma como a própria afirmação do teorema foi construída
• Resultados matemáticos recentes que ganharam atenção em geral se enquadram nos seguintes tipos
  • Incluem provas passíveis de verificação mecânica para teoremas bem compreendidos
  • Fornecem contraexemplos simples que podem ser calculados diretamente, como o contraexemplo para a conjectura de Jacobian
  • Têm sua validade reconhecida após longa revisão por vários especialistas
• A necessidade de verificação humana limita a velocidade da pesquisa, e em criptoanálise não crítica essa situação provavelmente continuará por algum tempo

Impacto sobre criptografia simétrica e de chave pública

• Criptografia simétrica

  • A criptografia simétrica usa deliberadamente estruturas complexas e robustas para poder ser aplicada rapidamente, mas ser difícil de inverter
  • Colocar mais tempo de computação da IA nisso não significa que ela conseguirá desfazer essa estrutura, e os modelos atuais ainda não mostraram a intuição revolucionária necessária para quebrá-la
  • Mesmo que a IA avance com novas técnicas, isso também pode ser usado para reforçar ainda mais a própria criptografia

• Criptografia de chave pública e pós-quântica

  • A criptografia de chave pública precisa de estruturas matemáticas com trapdoors: cálculos rápidos em uma direção, difíceis na direção inversa, mas reversíveis por partes específicas
  • Não há muitas estruturas convenientes descobertas por humanos, e as principais bases hoje são
    • (EC)DLP
    • RSA
    • Problemas de reticulados
    • Vários problemas da teoria de códigos
  • Mesmo em problemas antigos como RSA é difícil ter certeza de que mão de obra suficiente já analisou tudo; em áreas mais novas, como criptografia baseada em códigos e em reticulados, especialmente ainda há muito espaço para pesquisa de ataques
  • Isso faz delas um alvo fértil de pesquisa para IAs capazes de aplicar ferramentas existentes em larga escala

Uma oportunidade aberta na transição para padrões pós-quânticos

• A criptografia de chave pública está em transição de criptografia baseada em EC e RSA para algoritmos pós-quânticos baseados em novos problemas difíceis
• Este momento, em que muitos candidatos — incluindo o HAWK — estão sendo avaliados, é especialmente adequado para o surgimento de uma capacidade ampla de criptoanálise pública em larga escala
• Se a IA não derrubar todos os problemas difíceis subjacentes nem nos levar ao cenário Minicrypt de Impagliazzo, uma criptoanálise poderosa feita por IA pode produzir os seguintes efeitos
  • Aumentar a confiança nos problemas que sobreviverem
  • Tornar a literatura de criptoanálise mais robusta
  • Eliminar candidatos fracos antes da adoção como padrão

Mudanças para cientistas e para o ecossistema de pesquisa

• Cientistas podem discutir os problemas mais difíceis com os modelos, mas como eles ainda não conseguem resolver tudo de forma independente, o papel humano continua existindo
• A aceleração no ritmo de novas descobertas tende a ser positiva para pesquisadores ativos
• Ainda restam problemas em aberto
  • A quem atribuir o mérito por resultados produzidos por IA
  • Quem fará a revisão do volume crescente de resultados
• Na experiência com modelos avançados não públicos, o desempenho melhorou visivelmente até nos últimos meses, e já surgiram candidatos a resultados surpreendentes em questões que atraíam interesse havia anos
• Não é preciso ter o Claude Mythos nem recursos da ordem de US$ 100 mil para observar esse tipo de mudança em alguns modelos avançados recentes

A fronteira atual da capacidade dos modelos

• Ver modelos apenas como um autocompletar avançado ou concluir que o progresso estagnou não combina com as capacidades reais dos modelos avançados atuais
• Nos últimos 5 meses houve progresso grande e mensurável em certos tipos de problema, e até agora não há evidência clara de um teto de desempenho
• Quem usa apenas resultados de busca de IA gratuitos dificilmente vê a capacidade desses modelos, e serviços de alto desempenho também podem ser acessados por cerca de US$ 20
• Isso não significa, porém, que os modelos já sejam superinteligentes ou que a AGI esteja pronta
  • Em pesquisa avançada, eles podem ser muito úteis até certo ponto e de repente se tornar incapazes ao cruzar uma fronteira específica
  • Os humanos ainda conseguem encontrar essa fronteira com facilidade, mas a própria fronteira continua se deslocando para fora
• A linha entre as áreas em que os modelos ajudam e as áreas que os humanos ainda precisam resolver sozinhos está se movendo, e essa mudança acabará afetando não só cientistas, mas todas as profissões, incluindo advogados, vendedores e encanadores