Estados Unidos e Reino Unido recusam declaração de segurança em IA na cúpula

• Rejeição ao multilateralismo

  • Estados Unidos e Reino Unido não assinaram a declaração sobre segurança em IA
  • A posição dos EUA representa uma "virada de 180 graus" em relação ao governo Biden
  • O vice-presidente dos EUA, JD Vance, alertou a Europa para não adotar regulações "excessivamente cautelosas" sobre IA
  • Os dois países não assinaram a declaração para garantir que a tecnologia de IA seja "segura, protegida e confiável"
  • Cerca de 60 países concordaram com a declaração na cúpula AI Action

• Posição dos Estados Unidos

  • Vance enfatizou que os EUA continuarão sendo a força dominante em tecnologia de IA
  • Ele afirmou que "os sistemas de IA mais poderosos serão construídos nos EUA, com chips projetados e fabricados pelos Estados Unidos"
  • Defendeu que o regime regulatório internacional deve promover a criação de tecnologias de IA

• Conteúdo da declaração

  • O objetivo é garantir que a IA seja aberta, inclusiva, transparente, ética, segura, protegida e confiável
  • EUA e Reino Unido já haviam assinado declarações semelhantes em cúpulas anteriores sobre IA
  • Desta vez, não assinaram devido à política "America First" do novo governo dos EUA e à avaliação do governo britânico de que o texto era "restritivo"

• Competição em IA e China

  • A disputa com a China se intensifica em áreas como desenvolvimento de IA, fabricação de chips, chatbots de IA e energia necessária para supercomputadores
  • O modelo de IA de baixo custo da DeepSeek surpreendeu a OpenAI, no Vale do Silício

• Indústria europeia de IA

  • A Europa tenta evitar dependência dos EUA ou da China na indústria de IA
  • Na cúpula organizada pelo presidente francês Emmanuel Macron, foram anunciados cerca de 200 bilhões de euros em investimentos para data centers e clusters de computação

• Alerta dos Estados Unidos

  • Vance alertou para que não sejam fechados acordos de IA com "regimes autoritários"
  • Citando CCTV e 5G como exemplo, ele disse que "tecnologias baratas" são subsidiadas e exportadas por regimes autoritários

• Prioridades da declaração conjunta

  • A declaração conjunta assinada por países como China, Índia e Alemanha busca "fortalecer a cooperação internacional para promover a coordenação na governança internacional"
  • Os EUA não concordaram com a linguagem sobre multilateralismo e cooperação internacional
  • Há preocupações de que a fundação Current AI, criada pela França, possa financiar países francófonos

• Discurso de Vance

  • O discurso de Vance foi avaliado como uma "virada de 180 graus" em relação ao governo Biden
  • A cúpula de Macron tinha como objetivo promover uma alternativa ao desenvolvimento de tecnologia de IA liderado pelos EUA
  • Após o lançamento do poderoso modelo aberto da DeepSeek, a Europa sentiu que havia conquistado temporariamente uma oportunidade na corrida da IA

[GN⁺]

Comentários do Hacker News

• Há a opinião de que, com a aceleração do avanço tecnológico, a vida nas próximas décadas vai parecer como passar por uma lobotomia em plena consciência. É possível imaginar milhares de formas hipotéticas pelas quais a tecnologia pode seguir na direção errada, mas, ainda assim, o progresso não para. A IA vai chegar no fim das contas, queiramos ou não

• IA não é como fissão nuclear. Não dá para detectar remotamente que alguém está treinando IA. Já é tarde demais para isolar todas as informações relacionadas à IA. O equipamento necessário para treinar IA é barato e está em todo lugar

  • A "declaração de segurança" não tem poder real e não pode ser imposta
  • Como não é possível parar a IA, é preciso se adaptar
  • Vídeos e fotos em breve perderão valor como prova
  • Relações no mundo real são mais importantes do que relações online
  • O fato de a IA "causar confusão" não existia 200 anos atrás, e as pessoas sempre se adaptaram

• "Segurança de IA" é apenas uma medida defensiva de empresas como a OpenAI para barrar startups. LLMs não vão alcançar AGI. Altman falar desse risco é como Musk falar de táxis autônomos

• Quando se está prestes a se tornar a força dominante do mundo, não se deixa que outros decidam a estratégia. As tentativas de conter a IA virão de quem está ficando para trás na corrida. Há uma entrevista em que Edward Teller relembra que a União Soviética usou a suspensão de testes nucleares para se igualar aos EUA em bombas de hidrogênio

• Como "hacker" que perdeu os anos 80, mas passou pelos anos 90 e 2000, há um sentimento profundo de tristeza e ansiedade em relação a como a conversa sobre IA está sendo conduzida. É difícil imaginar dizer aos hackers do passado que existiriam pessoas defendendo que o governo criminalizasse executar código no próprio computador

• É difícil saber o que a política e muitos outros querem dizer com o termo "IA". A situação é parecida com a de "blockchain" alguns anos atrás. "IA" é, na prática, sinônimo de tomada de decisão algorítmica e pode afetar diretamente a vida das pessoas. A expansão desenfreada da "IA" sem responsabilidade, transparência ou mecanismos de reparação representa um retrocesso significativo em relação a direitos historicamente estabelecidos

  • Os EUA estão desmontando o CFPB e avançando com ainda mais desregulamentação
  • A posição do Reino Unido é interessante. Em termos de proteção de cidadãos/consumidores, fica entre os EUA e a UE, mas, apesar do Brexit, está mais próxima desta última

• Um país com AGI irrestrita provavelmente dará um grande salto tecnológico. Países que a limitarem podem acabar ficando na "Idade da Pedra"

• A Europa gosta de escrever declarações e cartas de preocupação. Assinar ou não não fará diferença

• Fico me perguntando se está correto entender que esta "declaração" não promete nenhuma ação concreta. Não vejo muito bem por que importaria quem assina

• A declaração é inútil e não passa de um esforço vazio