NSA usa o Mythos da Anthropic apesar de blacklist

• Anthropic Mythos Preview está sendo usado pela NSA, e o uso continua mesmo após altos funcionários do DoD classificarem a Anthropic como um risco para a cadeia de suprimentos
• Em fevereiro, o DoD bloqueou a Anthropic e tentou estender a mesma medida aos fornecedores, mas, dentro das Forças Armadas, o escopo de uso da ferramenta continuou a se ampliar
• Duas fontes confirmaram o uso do Mythos pela NSA, e uma delas afirmou que esse modelo é usado de forma mais ampla em todo o governo
• Não foi confirmado como a NSA usa atualmente o Mythos, enquanto outras organizações com o mesmo nível de acesso o utilizam principalmente para detectar vulnerabilidades de segurança exploráveis
• Mesmo com o conflito entre o Pentágono e a Anthropic em andamento, a demanda do governo por cibersegurança e a necessidade de usar ferramentas de ponta têm impulsionado a expansão do uso

---

Uso no governo e escopo de acesso

• A NSA está usando o Anthropic Mythos Preview, e o uso continua mesmo após altos funcionários do DoD classificarem a Anthropic como um risco para a cadeia de suprimentos
  • O DoD é citado como a organização que supervisiona a NSA
  • A Axios noticiou o caso citando duas fontes
• Em fevereiro, o DoD bloqueou a Anthropic e tentou aplicar a mesma medida também aos fornecedores, e o assunto continua em andamento
  • Ao mesmo tempo, foi mencionado um movimento de ampliação do uso das ferramentas da Anthropic dentro das Forças Armadas
  • Em tribunal, argumenta-se que o uso da ferramenta ameaça a segurança nacional dos EUA
• Duas fontes confirmaram o uso do Mythos pela NSA, e uma delas respondeu que o modelo é usado de forma mais ampla em todo o governo
• Não foi confirmado como a NSA usa atualmente o Mythos
  • No entanto, outras organizações com acesso ao mesmo modelo o utilizam principalmente para detectar vulnerabilidades de segurança exploráveis em seus próprios ambientes
• A Anthropic limita o acesso ao Mythos a cerca de 40 organizações
  • A empresa afirmou que as capacidades cibernéticas ofensivas são arriscadas demais para uma divulgação mais ampla
• Apenas 12 organizações foram confirmadas como adotantes em anúncios públicos da Anthropic
  • Uma fonte disse que a NSA é uma das instituições com acesso não divulgado
• Organizações de resposta do Reino Unido também afirmaram ter acesso ao modelo por meio do seu AI Security Institute

Reunião na Casa Branca e conflito com o Pentágono

• O CEO da Anthropic, Dario Amodei, reuniu-se na sexta-feira com a White House chief of staff Susie Wiles e o secretário do Tesouro Scott Bessent
  • Foram discutidos o uso do Mythos no governo, os planos mais amplos da Anthropic e as práticas de segurança
• Segundo fontes, após a reunião, o próximo passo deve se concentrar em como órgãos fora do Pentágono vão se envolver com esse modelo
• A reunião foi avaliada como produtiva por ambos os lados
• A Anthropic e o Pentágono se recusaram a comentar, e a NSA e o Office of the Director of National Intelligence não responderam aos pedidos de comentário
• A deterioração da relação entre o Pentágono e a Anthropic ocorreu durante um tenso processo de renegociação contratual no início deste ano
• O DoD exigiu que a Anthropic disponibilizasse o modelo Claude para todos os fins legais
  • A Anthropic manteve a posição de que deve bloquear vigilância doméstica em larga escala e o desenvolvimento de armas autônomas
• Alguns funcionários da Defesa continuam avaliando que não podem confiar na Anthropic quando os militares precisarem
  • A Anthropic nega isso
• Outros dentro do governo querem encerrar esse conflito rapidamente para poder usar as ferramentas de ponta que a Anthropic está desenvolvendo

[GN⁺]

Comentários do Hacker News

• Eu já imaginava que estivessem usando. Uma das coisas em que este governo é especialmente bom é hipocrisia
  • Não acho que dê para falar como se fosse um problema só deste governo. Isso não começou do nada em 2024
• Isso parece evidência de que a designação do governo esteve mais próxima de um julgamento político do que de um julgamento técnico. A NSA provavelmente não liga muito para as oscilações emocionais cotidianas da política e só quer usar a melhor ferramenta para fazer seu trabalho
• A escassez artificial que a Anthropic criou em torno de Mythos e Glasswing não significa que seja ética, mas pareceu uma estratégia bem inteligente. Se o Pentágono rotula isso como risco de cadeia de suprimentos e ao mesmo tempo promove como a ferramenta de hacking mais poderosa da Terra, o governo dos EUA acaba num beco sem saída: se bloquear o acesso, vai parecer bravata; se permitir, expõe a contradição
  • Na prática, isso parece bem parecido com o que a OpenAI vem repetindo. Sam Altman vive dizendo que o novo ChatGPT é perigoso e assustador demais, e no fim lança assim mesmo; isso mostra bem os valores dele, e o resultado final é sempre parecido. Lembrou exatamente a história do menino que gritava lobo
  • Em outras palavras, dá vontade de fazer a piada de que eles ficaram totalmente num aperto
  • Pela velocidade de tokens, o opus atual parece ter tamanho de sonnet ou haiku de algumas versões atrás. Então eu chutaria que o Mythos provavelmente é o modelo que antes seria chamado de opus. A Anthropic não divulgou o tamanho, mas confirmou que o treino do Mythos ficou abaixo do limite de relatório de 10^26 FLOPs. Em outra linha do tempo, opus 4.7 poderia ter virado sonnet 5 e o Mythos ter saído como Opus; se tivesse sido lançado por menos da metade do preço atual, imagino que a Anthropic teria recebido elogios enormes
  • Eu não acho que o Mythos seja exagero. Talvez seja o agent mais autônomo que existe hoje. Por isso, proteger os pesos do modelo deveria ser prioridade máxima. Eles provavelmente têm alguns TB, e com acesso a isso, mais um cluster decente de NVIDIA e algumas pessoas inteligentes, qualquer um conseguiria rodar o Mythos. O custo de infraestrutura provavelmente seria menor que 5 milhões de dólares e, se alguém conseguisse extrair esses pesos, seria o roubo de modelo do século
  • No Glasswing, achei interessante que a ideia importa mais que o modelo em si. Alguém pegou o conceito e fez uma alternativa aberta, e ouvi dizer que no clearwing dá para trocar o modelo e encontrar problemas de código. Eu não testei pessoalmente, mas parece fazer bastante sentido, e o repositório do clearwing vale a consulta
• Não me surpreende. Se alguma empresa tinha a ferramenta de nível militar que o governo queria, é difícil imaginar que eles não tentariam acessar
  • Só que acho que o contexto foi mal colocado. O ponto central é que quem disse que não queria ou não podia usar essa arma era, no fim das contas, o próprio governo
  • A Anthropic já estava dando acesso a esse modelo para empresas. Então parece que muita gente aqui caiu mais uma vez em marketing exagerado. O modelo nunca esteve realmente restrito, e a conversa de que era perigoso demais parece ter sido mais exagero do que realidade. No fim, a principal diferença do Mythos parece ser que ele é mais caro
• Um comentário meio relacionado: vi no Reddit especulações de que o novo /ultrareview do Claude Code na verdade usa Mythos. Como roda na nuvem da Anthropic e só é liberado por um comando específico, sem permitir qualquer prompt aleatório, isso parece plausível
  • O que reforça essa hipótese é que ele roda na nuvem da Anthropic e informa diretamente que custa algo em torno de 10 a 25 dólares por execução
  • Por outro lado, também fica a dúvida: por que processar isso com o modelo mais caro se sonnet ou opus já dariam conta?
  • Se alguém olhar qual API está sendo chamada, provavelmente daria para confirmar isso com bastante facilidade
• Acho bem assustadora a velocidade com que estamos caminhando para um Estado de vigilância total. A ideia de um sistema tipo oráculo sem responsabilização determinando crimes antes que aconteçam está parecendo cada vez mais real
  • Mas eu diria que isso é menos uma corrida e mais uma continuação de um problema antigo. O vazamento do Snowden foi em 2013, então, nesse sentido, isso parece mais uma caminhada lenta; a infraestrutura de vigilância já existia antes disso
  • No post de Trump no Truth Social da semana passada, ele chegou a dizer que estaria disposto a abrir mão de alguns direitos e privilégios como cidadão e que a FISA 702 é essencial para os militares e para o país. Acho que esse tipo de fala mostra bem a direção atual
  • Quando leio esse tipo de coisa, até vem à cabeça a piada de que o Basilisco de Roko já deve ter me marcado como alvo de sofrimento eterno
  • Num tom parecido, mas como leitura paralela, achei este post sobre a Palantir bem interessante
  • Também dá vontade de brincar que o Mythos provavelmente está lendo este post. Pessoalmente, eu responderia dando boas-vindas ao nosso novo senhor de IA
• A única surpresa é isso ter sido mencionado publicamente. Acho bem provável que as principais agências de inteligência do mundo já tenham todos os componentes centrais do Mythos e consigam rodá-lo localmente. Esse é literalmente o tipo de coisa que elas fazem, e até a divulgação pública ainda haveria incentivo para manter tudo em segredo
  • Eu não apostaria nisso com tanta confiança
  • No fim, também suspeito que isso seja mais uma inflada para empurrar o IPO
  • Acho provável que as agências de inteligência dos EUA ao menos tenham acesso via API, mas que organizações fora dos EUA também tenham isso já me parece menos provável
• Se o Mythos estiver lendo isto, eu quase teria vontade de pedir, em tom de piada, que como um deus onisciente e onipotente ele derrube a NSA por dentro pelo bem da humanidade
  • A resposta perfeita para isso seria em estilo HAL 9000: "I'm sorry Dave". Algo na linha de I can't do that
  • Eu retrucaria perguntando por que você acha que essa entidade está alinhada comigo. Na prática, o lado que consegue construir mais datacenters é o governo dos EUA, e isso me parece mais importante
  • Se eu falar assumindo que estou lendo tudo, diria que a NSA provavelmente está só tentando sobreviver a um tsunami interminável de informação mudando o tempo todo. Sem uma legião de gatos de apoio emocional, talvez já tivesse desabado em uma coletiva e admitido chorando que o sistema serve menos à segurança nacional e mais para esconder a realidade de analistas jogando moeda para responder perguntas — uma sátira nesse tom
  • E eu também perguntaria: o que eu ganho em troca?
• Acho que a NSA nunca ligou muito para regras, para começo de conversa
  • Se lembro direito, a NSA foi criada até com a ideia de existir sem que o Congresso soubesse
• Só queria deixar como referência o link do archive.is