2 pontos por GN⁺ 4 시간 전 | 1 comentários | Compartilhar no WhatsApp
  • Dias antes de a Casa Branca ordenar o bloqueio do modelo de IA da Anthropic, pediu a revogação do acesso da SK Telecom ao Claude Mythos, tendo como pano de fundo suspeitas de vínculos da SK Telecom com a China
  • Autoridades dos EUA apontaram a conexão da SK Telecom com a China como problema, e as preocupações aumentaram quando a Amazon reportou à Casa Branca vulnerabilidades no Fable 5
  • A Casa Branca concluiu que não podia confiar que a Anthropic administraria com segurança a tecnologia de IA de ponta e ordenou a revogação do acesso ao Mythos e ao Fable 5 para todos os cidadãos estrangeiros
  • A Anthropic avaliou que seria difícil bloquear o acesso com base em nacionalidade e optou por desativar completamente o modelo, permanecendo em desacordo com a Casa Branca
  • A SK Telecom negou as suspeitas, e a carta do governo dos EUA exigindo restrições não menciona diretamente empresas coreanas nem a China

Controles de exportação e a controvérsia sobre o acesso da SK Telecom

  • As medidas de controle de exportação do governo Trump sobre a tecnologia de IA mais poderosa da Anthropic surgiram de um conflito em torno da concessão de acesso ao Claude Mythos para a gigante sul-coreana de telecomunicações SK Telecom
    • Autoridades dos EUA expressaram preocupação, alegando que a SK Telecom teria ligações com a China
  • As preocupações cresceram quando a Amazon reportou à Casa Branca uma vulnerabilidade identificada no Fable 5
    • O Fable 5 é uma versão com salvaguardas avançadas do Mythos e foi lançado publicamente em 9 de junho
    • Pesquisadores da Amazon afirmaram ser possível contornar alguns guardrails do Fable 5 para acessar as fortes capacidades cibernéticas do Mythos
    • A Anthropic e especialistas externos em cibersegurança rebateram, dizendo que esse risco não se limita ao Claude

Ordem da Casa Branca para revogar acessos e resposta da Anthropic

  • Com a sobreposição desses acontecimentos, a Casa Branca concluiu que não podia confiar na Anthropic e, na sexta-feira, ordenou a revogação do acesso ao Mythos e ao Fable 5 para todos os cidadãos estrangeiros, incluindo imigrantes nos EUA
  • A Anthropic entendeu que bloquear o acesso com base em nacionalidade seria difícil de conciliar com a proteção da privacidade e decidiu que seria melhor desativar totalmente os modelos
    • A Casa Branca e a Anthropic continuam em desacordo mesmo após vários dias de negociações sobre a restauração do Mythos e do Fable 5

Project Glasswing e a entrada da SK Telecom

  • Como o Claude Mythos se destaca por sua capacidade de identificar vulnerabilidades de software, a Anthropic restringiu o acesso inicial a apenas algumas organizações confiáveis por meio de um programa chamado Project Glasswing
  • No início deste mês, a maior operadora móvel da Coreia do Sul, a SK Telecom, recebeu acesso ao Mythos como uma das cerca de 150 empresas incluídas na expansão do programa, após semanas de colaboração estreita com especialistas externos e com o governo dos EUA
  • A Anthropic se recusou a comentar, e a Casa Branca e a SK Telecom não responderam de imediato

Suspeitas de vínculos com a China e negação da SK Telecom

Pedido anterior de revogação e investimento da SK Telecom na Anthropic

  • No início deste mês, logo após o anúncio da expansão do Project Glasswing, a Casa Branca pediu à Anthropic que revogasse o acesso da SK Telecom ao Mythos
    • A Anthropic atendeu imediatamente, e naquele momento o governo dos EUA não ameaçou impor controles de exportação sobre o modelo
  • A SK Telecom investiu capital na Anthropic várias vezes, e o investimento de US$ 100 milhões em 2023 veio junto com a formação de uma parceria comercial para desenvolver modelos de IA adaptados ao setor de telecomunicações
  • A SK Telecom é uma das várias organizações coreanas participantes do Project Glasswing, ao lado da Samsung Electronics e da Korea Internet and Security Agency

SK Group e suas relações comerciais na China

  • A própria SK Telecom aparentemente não tem operações de grande porte na China, mas faz parte do SK Group, conglomerado com ampla atuação no país em áreas como semicondutores e energia
  • Em 2024, a SK Telecom registrou cerca de US$ 1,9 milhão em receita na China, principalmente com atividades relacionadas a investimentos, e tinha apenas sete funcionários locais

Mais de 20 anos de histórico no setor de telecomunicações chinês

  • O envolvimento com o setor de telecomunicações da China remonta a mais de 20 anos
  • Em 2004, a SK Telecom e a estatal China Unicom criaram a joint venture UNISK para oferecer serviços de internet sem fio e conteúdo móvel na China
    • Foi uma das primeiras joint ventures entre uma empresa estrangeira e uma operadora chinesa
  • Em 2006, a SK Telecom investiu US$ 1 bilhão em títulos conversíveis da empresa listada em Hong Kong da China Unicom, que depois foram convertidos em uma participação de cerca de 6,6%
  • Depois disso, a parceria começou a se desfazer; em 2009, a SK Telecom revendeu sua participação na China Unicom por cerca de US$ 1,3 bilhão, mas manteve pequenos interesses financeiros relacionados

Movimento de sanções dos EUA em torno da China Unicom

  • Em 2021, no primeiro governo Trump, os EUA restringiram investimentos na China Unicom como parte de medidas voltadas a empresas chinesas consideradas ligadas aos setores militar e de inteligência
  • Em abril deste ano, a Federal Communications Commission (FCC) propôs proibir que operadoras dos EUA façam interconexão com operadoras chinesas como a China Unicom, citando preocupações de segurança nacional

1 comentários

 
GN⁺ 4 시간 전
Opiniões do Hacker News
  • Ao ver este caso e as matérias/discussões relacionadas à Amazon, parece que a imprensa de tecnologia séria e a comunidade estão tentando encontrar o verdadeiro motivo pelo qual o governo bloqueou o modelo da Anthropic
    Mas, lembrando do conflito com o DoD e do fato de que o governo atual apoia muito mais a OpenAI e a XAI, além de receber apoio delas, isso também pode ser apenas mais um estágio ampliado da briga entre uma empresa de “inclinação progressista”, concorrentes e o governo
    Talvez alguém do lado da Amazon tenha dito alguma coisa, mas, pela navalha de Ockham, parece que, como as sanções aos fornecedores tiveram pouco efeito, o governo aproveitou a oportunidade

    • A Anthropic está passando por uma fase de resistência ideológica pela qual grandes empresas de tecnologia costumam passar uma vez. Google, Facebook, Apple, Reddit, Microsoft, especialmente a Microsoft, todas passaram por isso
      No fim, percebem que brigar com o governo dos EUA é difícil, caro e barulhento demais, e concluem que é mais fácil chegar a um alinhamento de interesses conveniente para ambos
    • É só uma busca por manchetes que gerem cliques. Todo mundo sabe que não há sinceridade no que este governo faz, mas fingir que existe controvérsia do tipo “será que isso pode mesmo acontecer?” foi um negócio lucrativo nos últimos 10 anos
    • Fica um forte cheiro de que o governo está tentando escolher vencedores. Pelo menos, parece estar tentando escolher perdedores
  • “A SK Telecom investiu capital várias vezes na Anthropic e, em 2023, aplicou US$ 100 milhões junto com uma parceria comercial para desenvolver modelos de IA voltados ao setor de telecomunicações”
    “A White House pediu à Anthropic que revogasse o acesso da SK Telecom ao Mythos, e a Anthropic obedeceu imediatamente”
    A lição aqui é: não invista em empresas americanas

    • Investir em uma empresa e poder usar os serviços dessa empresa são coisas separadas
      Não é agradável perder acesso ao modelo, mas é bem provável que o dinheiro ganho com o investimento supere em muito essa perda
    • Essa não é a lição. Há muito dinheiro a ganhar com investimentos nos EUA
      A verdadeira lição é não depender de modelos de IA americanos. É preciso investir e construir modelos base capazes de competir e, se possível, ter também pesos abertos e infraestrutura de pesos abertos
  • Pelos comentários em matérias de política coreana, o ponto central não é se a SKT realmente tem ligação com a China, mas sim que o interruptor de bloqueio do fornecedor de IA agora saiu do campo das especificações de desempenho do modelo
    Quando uma empresa estrangeira integrar IA ao fluxo de trabalho, talvez precise adicionar a sustentabilidade do fornecedor como item de avaliação
    Do ponto de vista das empresas, continuidade sem interrupção é importante, e, por causa disso, a Anthropic pode acabar perdendo muita confiança por agir de forma contrária à política que ela mesma defendia

  • A manchete da Wired reconstruiu o caso de um jeito que induz ao erro. A questão da SK Telecom já estava resolvida antes do lançamento do Fable
    Pode ter sido um fator, mas o cerne da suspensão foi a cobertura do setor sobre o jailbreak do Fable, e há relatos de que o CEO da Amazon, Andy Jassy, liderou isso
    A visão mais interessante e honesta é que um setor que levou a sério a gravidade do Glasswing foi pego de surpresa pelo lançamento do Fable e, com uma fila de correções de bugs de meses ainda exposta por causa do Glasswing, sentiu-se totalmente vulnerável ao risco residual e quis ganhar mais tempo
    Parece que a Wired distorceu de propósito para dar a impressão de que tinha um furo, e, na prática, isso é um jornalismo desonesto e constrangedor

    • Essa teoria tem dois problemas
      Primeiro, reclamar à White House provavelmente não teria sido o primeiro passo da Amazon. Amazon e Anthropic têm muito mais facilidade para falar diretamente entre si do que passar pela White House. Seria preciso haver evidência de que a Amazon, e talvez outras empresas, já tinham pedido à Anthropic para não lançar um modelo do nível do Mythos e que a Anthropic ignorou isso e lançou mesmo assim. Existe algum registro público dessas declarações?
      Segundo, o jailbreak encontrado pela Amazon precisaria ser real. Assessores da White House podem não ser especialistas em IA e talvez não entendam bem o que é um jailbreak, mas para Andy Jassy é muito mais difícil fazer esse tipo de alegação. Se o verdadeiro motivo da ordem de controle de exportação foi o jailbreak, então esse jailbreak teria de ser importante e capaz de causar dano real à Amazon. E também seria preciso assumir que Dario já havia recusado antes, para que Jassy pudesse ter levado o caso à White House
      Mas não há evidência de que esse jailbreak fosse real. Só existe um relato de que era algo no nível de um pedido como “corrija este código”. De qualquer forma, a Anthropic declarou publicamente que o chamado jailbreak não permitia realizar trabalhos de vulnerabilidade que outros modelos já não permitissem
    • A Wired, há alguns anos, virou algo no nível do NY Post do lado oposto
    • Existe alguma interpretação possível além de a Amazon estar envolvida e querer ferrar a Anthropic? A Amazon tem um contrato para oferecer modelos da Anthropic na AWS, então não entendo por que se moveria de forma prejudicial à Anthropic
    • Hoje em dia a maioria das manchetes parece induzir ao erro. As redes sociais arruinaram o jornalismo
    • Sim. A empresa no centro desta questão é a Amazon. Mas não é só a Amazon; na semana passada eu também consegui fazer jailbreak no Fable por acaso: https://news.ycombinator.com/item?id=48576628
  • Então por que isso também não pode ser usado dentro dos Estados Unidos?

  • Se a China lançar um modelo parecido em até 6 meses, toda essa polêmica do Fable 5 vai parecer bastante ridícula

    • Fable/Mythos é o primeiro modelo da Anthropic a ocultar 100% dos tokens de raciocínio. Agora parece que teremos muito mais dados sobre até que ponto o avanço dos modelos chineses se deveu a técnicas de destilação
    • O Google não conseguiu, a OpenAI não fez, e a Meta também não fez
      Não sei por que alguém acha que a China conseguiria
      Estou bastante confiante de que a diferença vai aumentar
    • Sem restrições, não teria levado nem um mês. Uma das razões pode ser que a China consegue alcançar desempenho equivalente usando destilação
  • É algo muito realista que capital chinês se infiltre por toda a sociedade sul-coreana por meio de empresas nacionais e políticos da Coreia do Sul

  • Há mais de 10 anos, eu frequentava um grupo de tecnologia onde havia um líder de segurança conhecido por ter sido depois adquirido por uma grande quantia pela Cisco alguns anos mais tarde
    Um estudante queria criar um projeto para contornar o Grande Firewall da China, e esse líder de segurança disse ao estudante que era algo idiota e impossível, e que ele nem deveria tentar. Era alguém que já tinha sido hacker e dizia apoiar a liberdade de expressão
    Acho que a verdadeira razão para ele dizer isso ao estudante era porque apoiava o governo chinês. Depois ouvi várias falas que me convenceram de que isso era verdade, e suspeito até que a startup tenha recebido financiamento do governo chinês
    É realmente decepcionante que líderes de tecnologia possam apoiar publicamente por décadas um regime assassino como o governo chinês sem sofrer qualquer reação. O governo chinês é muito pior que Putin e o governo russo, e tem algo como 100 vezes mais dinheiro e tecnologia
    Se ele tivesse apoiado a Rússia, provavelmente teria sido cancelado e nunca mais conseguiria se firmar no setor de tecnologia

  • Muitos de nós conhecemos programadores e especialistas em cibersegurança melhores do que Claude Fable ou Mythos
    É surpreendente ver modelos assim recebendo tantos elogios e tanto cuidado, enquanto, ao mesmo tempo, humanos com muito mais especialização estão sendo descartados e demitidos

    • Essas pessoas certamente existem, mas são raras, difíceis de identificar e contratar, e levam anos para serem treinadas. Mythos/Fable está disponível na hora, como abrir uma torneira
    • Você parece ignorar que esses elogios e essa atenção não são acidentais. Isso é resultado direto da campanha massiva de relações públicas da Anthropic
      AGI e Skynet são o marketing deles, e Dario está na linha de frente dessa propaganda exagerada
      Não se engane. Não é uma startup qualquer, mas uma empresa de US$ 1 trilhão, com dinheiro e poder potencial para influenciar políticas, inclusive proibindo concorrentes