OpenMythos: hipótese de arquitetura do Claude Mythos reconstruída a partir de pesquisa aberta ou mais um hype de IA

Visão geral

• OpenMythos é apresentado como um experimento teórico de arquitetura (theoretical architecture experiment) que busca reconstruir, com base em pesquisa aberta, uma estrutura semelhante à do Claude Mythos
• O texto não trata o OpenMythos em si como mero “slop”
• Em vez disso, usa o OpenMythos como exemplo para discutir como, na comunidade de IA, README, resumos feitos por IA, disseminação via YouTube/Reddit e estrelas no GitHub criam convicção pública antes da verificação
• O texto chama esse fenômeno de “sheepwave”
• Aqui, sheepwave não significa ignorância ou simples curiosidade, mas o processo em que narrativas tecnicamente plausíveis e emocionalmente atraentes se cristalizam em convicção coletiva antes da validação
• A tese central não é que “o OpenMythos não é interessante”, e sim que o problema está em como um artefato de pesquisa interessante passa a ser consumido como se fosse um avanço arquitetural validado (architecture breakthrough)

---

O que é o OpenMythos

• O OpenMythos não é um modelo que copia diretamente ou vaza o Claude Mythos da Anthropic
• O desenvolvedor diz que o OpenMythos não é uma reimplementação validada do Claude Mythos, mas um experimento teórico de arquitetura que combina linhas de pesquisa abertas
• O OpenMythos chamou atenção porque o nome Claude Mythos já carregava um ar de mistério
• Como a arquitetura completa do Claude Mythos não foi divulgada, a comunidade passou a se perguntar “o que existe lá dentro?”
• O OpenMythos oferece uma forma para preencher esse vazio: “poderia ser algo assim”
• Online, a frase “reconstruímos o Claude Mythos” se espalha muito mais rápido do que “experimento especulativo de arquitetura de profundidade recorrente baseado em pesquisa aberta”

Por que o OpenMythos ganhou atenção tão rápido

• O OpenMythos aciona ao mesmo tempo várias expectativas nas quais a comunidade de IA já quer acreditar

1. Expectativa de eficiência de parâmetros

• A ideia de que um modelo menor, com profundidade recorrente, possa alcançar qualidade parecida com a de um Transformer maior de profundidade fixa é uma mensagem forte
• A narrativa de “ficar mais profundo sem necessariamente ficar maior” é atraente para uma comunidade cansada do custo de GPU e da concentração em laboratórios de fronteira

2. Arquitetura em loop

• Computação recorrente parece, visualmente, “como se estivesse pensando”
• Mas computação recorrente com pesos compartilhados não é a mesma coisa que capacidade real de raciocínio ou comportamento adaptativo

3. Expectativa em torno de hardware pessoal/menor

• A combinação entre estrutura de profundidade recorrente e compressão de cache no estilo MLA cria a expectativa de que até modelos pequenos possam “parecer” maiores
• Mas, na prática, ainda restam problemas de engenharia como custo de tratamento de ramificações, comportamento de memória, estabilidade de treino, eficiência de kernel, precisão das dependências e throughput

4. O próprio nome Claude Mythos

• Como a Anthropic não divulgou a estrutura completa, o OpenMythos oferece a “forma” que a comunidade queria

5. Palavras-chave recentes de arquitetura de IA como MoE, MLA, LTI, ACT e profundidade recorrente reunidas num só repositório

• Por isso, é difícil descartar o OpenMythos simplesmente como hype vazio
• Justamente por haver ideias reais ali, o hype pode se tornar ainda mais forte

Como a sheepwave funciona

• O texto explica a reação em torno do OpenMythos em três etapas

1. Etapa da crença

• As pessoas veem sinais como Claude Mythos, open source, profundidade recorrente e eficiência de parâmetros, e reagem primeiro à possibilidade
• Nesse ponto, a “possibilidade plausível” é consumida antes de qualquer comprovação sobre caminho de treino real ou reprodutibilidade de desempenho

2. Etapa da amplificação

• YouTube, Reddit, newsletters, posts em redes sociais e resumos de IA repetem a versão mais forte da história
• Nessa etapa, não é necessário reproduzir benchmark nem validar caminho de treino
• O importante é a história que circula bem

3. Etapa da suspeita em nível de código

• Analistas de código clonam o repositório e verificam scripts de treino, caminhos do roteador, lógica de ACT, tratamento de ramificações de MoE e configurações de contexto longo

• Mas essa etapa normalmente chega tarde

• Essa estrutura é um problema de assimetria de informação

  • Uma frase como “um modelo de 770M entrega desempenho de nível 1.3B” se espalha rapidamente
  • Já perguntas como “essa alegação de eficiência foi realmente reproduzida neste repositório, o tratamento de ramificações de MoE aguenta em escala, o viés do roteador é mesmo atualizado no script de treino” exigem revisão longa de código

• Uma frase vira post; a outra exige auditoria

• Por isso, a memória pública tende a reter a alegação simples, enquanto o resultado da auditoria vira uma nota de rodapé tardia (footnote)

Por que esta sheepwave é diferente

• Neste hype, assistentes de IA entram em cena

• Ao entregar um link do GitHub a uma IA, ela pode ler README, estrutura de arquivos, termos de arquitetura e referências plausíveis, e produzir um resumo convincente

• Isso é útil, mas não é validação

• Em ambientes normais de chat, assistentes de IA geralmente não fazem o seguinte

  • reproduzir treino multi-GPU
  • reproduzir curvas de benchmark
  • observar se o balanceamento do roteador se mantém em treinos longos
  • medir throughput de MoE
  • verificar inicialização e comportamento de memória em configurações de contexto grande

• Portanto, reações do tipo “até a IA ficou impressionada” podem refletir uma resposta ao README e à superfície do repositório, não uma verificação real do código

• A distinção central do texto é a seguinte

  • há casos em que a IA se impressiona com o código
  • há casos em que a IA se impressiona com o README
  • não é a mesma coisa

• Este hype não gira em torno de “agentes que agem”, e sim de “arquiteturas que parecem pensar”

• Esse tipo de hype arquitetural tende a não desmoronar por causa de uma demo fracassada e dramática; as fragilidades aparecem de forma silenciosa em pontos como caminho de treino, reprodução de benchmark, função de perda, estado de integração e caminho de execução

Resultados da auditoria em nível de fonte

• O texto apresenta também os resultados de uma auditoria em nível de código-fonte do OpenMythos

• A auditoria confronta implementação do modelo, scripts de treino, configurações de variantes, tokenizer, testes, arquivos de dependência e alegações do README com os caminhos reais do código

• O resultado é que o OpenMythos não é hype vazio (Empty slop)

• Há elementos realmente implementados

  • existe uma estrutura Prelude + Recurrent Block + Coda
  • a estabilização recorrente no estilo LTI é avaliada como um dos elementos de implementação mais fortes
  • a compressão de cache no estilo MLA se conecta ao problema de contexto longo
  • também há lógica de parada no estilo ACT
  • a estrutura de profundidade recorrente pode entrar nas discussões sobre escala, distribuição de computação, repetição, memória e roteamento

• Mas isso ainda está distante do nível de prontidão operacional sugerido pela narrativa pública

Principais diferenças identificadas na auditoria

• Alegação de eficiência 770M vs 1.3B

  • no repositório, isso se parece mais com uma alegação externa ou citação do que com um resultado reproduzido
  • portanto, é mais apropriado ler isso como “citação, não resultado”

• Roteamento MoE

  • a lógica de roteamento existe, mas há tratamento aninhado de ramificações em Python, o que deve ser visto como risco de throughput em escala
  • isso não significa “impossível de qualquer forma”, mas sim um risco que exige profiling real

• Balanceamento do roteador

  • o mecanismo de viés do roteador está exposto, mas não aparece um caminho em que ele seja atualizado explicitamente nos scripts de treino distribuídos
  • em treinos longos, o risco de desequilíbrio de carga pode aumentar

• Lógica de parada ACT

  • a lógica de parada no estilo ACT existe
  • porém, o caminho de treino distribuído não inclui explicitamente ponder loss nem termo de regularização de computação
  • a cabeça de parada pode receber gradiente indiretamente via perda do modelo de linguagem, mas não há uma função-objetivo que incentive diretamente uma parada adaptativa eficiente

• Módulo MoDA

  • ele existe como arquivo experimental separado, mas é difícil dizer que esteja integrado ao modelo principal

• Variantes grandes do modelo

  • configurações de 100B+ ou contexto de 1M parecem mais orientadas a objetivo do que imediatamente utilizáveis, porque a estrutura cria buffers de RoPE logo de início

O problema do rótulo de pesquisa

• O OpenMythos pode ser visto não como um modelo operacional, mas como uma reconstrução teórica (theoretical reconstruction) ou um artefato de pesquisa (research artifact)
• Esse rótulo, em si, é legítimo
• Projetos de pesquisa podem incluir caminhos de treino incompletos, estruturas experimentais e integrações inacabadas
• O problema é que o rótulo de pesquisa e o hype público operam em linguagens diferentes

A diferença entre rótulo de pesquisa e hype público

• Rótulo de pesquisa: “isto é um experimento teórico”

  • Hype público: “isto vai mudar o futuro da IA”

• Rótulo de pesquisa: “é uma reconstrução baseada em pesquisa aberta e inferência”

  • Hype público: “alguém reimplementou o Claude Mythos”

• Rótulo de pesquisa: “é uma arquitetura a ser explorada”

  • Hype público: “modelos pequenos agora conseguem pensar como modelos grandes”

• O texto descreve essa diferença assim: “o projeto fala na linguagem da pesquisa, mas a reação pública traduz isso para a linguagem da chegada”

Três camadas para avaliar repositórios de IA

• O texto defende que, ao avaliar repositórios open source de IA, é preciso separar três camadas

1. Narrativa (Narrative)

• o que o README, textos explicativos e posts sociais dizem

2. Mecanismo (Mechanism)

• a estrutura que o código realmente implementa

3. Caminho operacional (Operational path)

• as capacidades efetivamente sustentadas pelo caminho de treino, pelo caminho de execução e pelo caminho de avaliação

• A maior parte do hype de IA mistura essas três camadas como se fossem uma só

• Uma boa diligência técnica separa essas três camadas

Conclusão

• O OpenMythos não é algo a ser ignorado ou ridicularizado
• O OpenMythos é um artefato de pesquisa útil, interessante e tecnicamente sugestivo
• Mas isso não é prova de que só a arquitetura já venceu os limites de escala
• O README é um ponto de partida, não o fim da validação
• A conclusão do texto pode ser resumida assim: “README não é a costa (shore). O caminho do código é a costa”
• O texto relacionado inclui a análise completa da sheepwave e um relatório separado de auditoria em nível de código do OpenMythos v0.5.0
  https://flamehaven.space/writing/…