EUA e Reino Unido recusam assinar declaração de segurança de IA na cúpula de Paris
(arstechnica.com)- Na AI Action Summit em Paris, cerca de 60 países chegaram a um acordo sobre uma declaração conjunta de segurança em IA, mas Estados Unidos e Reino Unido não assinaram, expondo fissuras em torno da regulação de IA e da liderança industrial
- A declaração trazia os princípios de que a IA deve ser aberta, inclusiva, transparente, ética, segura, protegida e confiável, e não tinha força legal vinculante
- O vice-presidente dos EUA, JD Vance, enfatizou que a regulação de IA não deve “sufocar” o desenvolvimento tecnológico e defendeu a posição de construir os sistemas de IA mais poderosos dentro dos EUA com chips fabricados nos EUA
- Uma fonte próxima ao governo britânico considerou que a redação da declaração era “restritiva demais”, e um representante de um dos países signatários afirmou que os EUA não concordaram com trechos sobre multilateralismo e cooperação internacional
- A Europa está ampliando sua base industrial de IA para reduzir a dependência dos EUA e da China, e na cúpula foi apresentado um plano de investimento de cerca de 200 bilhões de euros em data centers e clusters de computação
Fissura nas assinaturas exposta na cúpula de IA de Paris
- Estados Unidos e Reino Unido não assinaram a declaração conjunta da AI Action Summit realizada em Paris
- Cerca de 60 países aderiram à declaração conjunta, que trazia o objetivo de tornar as tecnologias de IA “seguras, protegidas e confiáveis”
- A declaração também incluía os princípios de que a IA deve ser aberta, inclusiva, transparente e ética
- Ela continha uma formulação sobre considerar um framework internacional para todos
- O compromisso era não vinculante, mas EUA e Reino Unido já haviam assinado declarações semelhantes em cúpulas anteriores sobre IA
O foco dos EUA é a liderança em IA, não a regulação
- O vice-presidente dos EUA, JD Vance, alertou que a Europa não deve adotar uma regulação “excessivamente preventiva” para a IA
- Vance afirmou que o governo Trump fará com que os sistemas de IA mais poderosos sejam construídos nos Estados Unidos
- A posição é que esses sistemas devem usar chips projetados e fabricados pelos EUA
- A mensagem foi lida como a intenção de manter a posição dominante dos EUA na tecnologia de IA
- Ele defendeu que um regime regulatório internacional deve estimular a criação de tecnologia de IA, e não reprimi-la
- Keegan McBride, do Oxford Internet Institute, avaliou o discurso de Vance como uma “guinada de 180 graus” em comparação com o governo Biden
Divergências entre EUA e Reino Unido sobre a redação da declaração
- A postura dura dos EUA está alinhada com a inclinação “America First” do governo Trump
- Uma fonte próxima ao governo britânico considerou que a redação da declaração era “restritiva demais”
- Um representante de um dos países signatários afirmou que os EUA não concordaram com expressões relacionadas a multilateralismo e cooperação internacional
- A declaração conjunta incluía como prioridade o fortalecimento da cooperação internacional para promover a coordenação da governança internacional
- A mesma fonte disse que os EUA também demonstraram preocupação com a Current AI, lançada pela França durante a cúpula
- A preocupação era que a Current AI pudesse ser usada para direcionar recursos a países francófonos
Competição com a China e a tensão criada pela DeepSeek
- A postura dura dos EUA surge em um contexto de intensificação da competição com a China em torno da IA
- A disputa se estende da fabricação de chips a modelos fundacionais, chatbots de IA e até à energia necessária para abastecer supercomputadores
- O pouco conhecido laboratório chinês DeepSeek abalou empresas do Vale do Silício ao lançar um modelo de IA de baixo custo
- Empresas como a OpenAI acreditavam ter uma vantagem poderosa
- Vance alertou para que não se coopere com “regimes autoritários” em acordos de IA, numa referência indireta à China
- Citando CCTV e 5G como exemplos do passado, ele disse que regimes autoritários exportaram tecnologias baratas fortemente subsidiadas
- Na visão dele, esse tipo de cooperação prende um país a atores autoritários que buscam infiltrar e controlar sua infraestrutura de informação
A resposta da Europa: fortalecer sua própria base industrial de IA
- A Europa busca ganhar tração na indústria de IA para reduzir sua dependência dos EUA e da China
- Na cúpula de dois dias organizada pelo presidente francês Emmanuel Macron, líderes europeus e empresas anunciaram planos de investimento de cerca de 200 bilhões de euros
- O investimento será direcionado a data centers e clusters de computação para sustentar os esforços europeus em IA
- Frederike Kaltheuner, do AI Now Institute, disse que, após o lançamento do forte modelo aberto da DeepSeek, os europeus sentiram uma breve oportunidade de competir em IA
- McBride avaliou que o tom da cúpula de Macron era o de impulsionar uma alternativa ao desenvolvimento de IA liderado pelos EUA, mas que as falas de Vance esfriaram esse clima
1 comentários
Opiniões no Hacker News
Acho que parte da vida nas próximas décadas, impulsionada pela aceleração tecnológica, será como passar por uma lobotomia acordado e assistir ao processo
Dá para imaginar e discutir infinitamente milhares de caminhos hipotéticos em que até tecnologias aquém de uma AGI completa saem catastroficamente dos trilhos, mas o avanço nessa direção simplesmente não desacelera nem para
Basta um único grupo com inteligência coletiva suficiente e algum avanço decisivo para que a próxima IA seja entregue à nossa porta, quer tenhamos querido isso ou não
É parecido com a experiência de perceber, 20 anos depois, que livros lidos na infância transmitiam mensagens importantes sobre a vida. A mensagem estava bem ali, mas na época faltava inteligência emocional e perceptiva para absorvê-la
Quando a imprensa foi inventada, também havia pessoas com esse mesmo clima, e no fim elas estavam erradas. Se tivéssemos seguido as “lições” delas, a sociedade humana teria ficado muito pior
Se as críticas atuais à IA/AGI são válidas, só saberemos retrospectivamente
Especialmente no setor de tecnologia, há gente demais que não se importa muito com o que acontece com os outros, desde que consiga ganhar dinheiro. Estão dispostos a sacrificar outras pessoas e nem mesmo querem compartilhar bem-estar dentro da própria comunidade
É a consequência inevitável de sociedades de baixa confiança infiltrando-se em sociedades de alta confiança; à medida que tecnologias com implicações perigosas para a sociedade se disseminam mais, haverá gente suficiente trabalhando pela ruína social, então não há esperança realista de parar esse trem
Hoje o treinamento de IA exige muito hardware, mas só com um laptop e internet já é possível fazer pesquisa e inovação de ponta em arquitetura e algoritmos
Mesmo que uma lei dizendo “o avanço da IA é ilegal” fosse aprovada, fico me perguntando como isso poderia ser aplicado
Medos imaginados não são medos reais. Não concordo com a abordagem do governo atual, é preciso manter vigilância, e também não parece bom que pessoas que lucrarão enormes quantias com essa tecnologia estejam na mesa de discussão
Mas, fora isso, ainda não vi um motivo real para fazer mais do que esperar e manter a atenção
Ninguém vai querer ficar preso em um país que proibiu a IA, especialmente a IA de outros países, e perder competitividade em um mundo emergente
O futuro será difícil; por que amarrar uma das próprias mãos? Prudência e medo são coisas diferentes
IA é diferente de fissão nuclear. Não dá para detectar remotamente se alguém está treinando IA, e já é tarde demais para isolar informações relacionadas a IA como no caso do enriquecimento de urânio
O equipamento necessário para treinar IA é barato e comum. Essas “declarações de segurança” são declarações sem força e impossíveis de aplicar
Não dá para parar a IA; teremos de nos adaptar. Vídeos e fotos logo perderão valor probatório, e deveríamos valorizar mais relações humanas reais do que relações online, porque assim sabemos que a outra parte é uma pessoa de verdade
É lamentável, mas nada do que a IA está “destruindo” existia há 200 anos, e as pessoas vão se adaptar como sempre fizeram. Como disse o vilão dos quadrinhos Toyo Harada: “Nenhum de vocês pode me deter. Nem individualmente, nem em grupo”
Há possibilidade de isso ser imposto por lei por motivos e de forma semelhantes à obrigatoriedade do som do obturador em câmeras digitais no Japão
Há 200 anos, a população da Terra era de cerca de 1 bilhão de pessoas, mas hoje é de cerca de 8 bilhões. Anarcoprimitivistas e defensores do decrescimento também costumam descartar com um gesto os avanços dos últimos 200 anos, mas esses avanços são importantes para sustentar sistemas que mantêm muitas pessoas vivas
Ainda assim, acordos internacionais sobre a não utilização de armas químicas têm se mantido surpreendentemente bem
Onde haverá confusão é na esfera pública. Haverá cerca de uma geração de confusão, em que pessoas nascidas aproximadamente entre antes de 1975 e hoje não conseguirão pensar criticamente ao ver uma imagem em que querem acreditar
Proibir serviços baseados em IA, como o ChatGPT, também reduziria o incentivo econômico para investir dinheiro nesse tipo de treinamento
Uma iniciativa mais recente é https://c2pa.org/
Toda essa discussão sobre segurança em IA não passa de uma tentativa de empresas como a OpenAI de construir um fosso para barrar novos concorrentes como a DeepSeek
LLMs não levam à AGI. Nem chegam perto. Altman falar desses riscos é parecido com Musk falar de táxis autônomos
Claro que é uma tecnologia impressionante. Parece que LLMs talvez um dia aumentem em 10 vezes a produtividade das pessoas em trabalhos que passam o dia inteiro interagindo com computadores
Eles definitivamente não falavam disso para criar um fosso para a OpenAI. Para começo de conversa, a OpenAI nem existia naquela época, a IA não estava nem perto do nível atual, e quase todo mundo achava os argumentos deles absurdos
Você pode discordar, mas simplesmente descartar isso como uma alegação feita só para sustentar empresas de IA existentes é errado e desonesto
Naquilo que um LLM consegue receber pelos sentidos, ele é, por qualquer descrição, muito mais inteligente do que o ser humano médio
Se você é a potência dominante do mundo, não deixa outros países definirem sua estratégia. É simples assim
Tentativas de conter a IA virão do lado que está perdendo a competição. Como na entrevista lembrada por Edward Teller, a União Soviética usou a moratória de testes nucleares para alcançar os EUA na bomba de hidrogênio, e Teller foi quem disse aos cientistas idealistas que aquilo aconteceria
É bem sabido que a China já alcançou os EUA em quase todos os aspectos e está prestes a ultrapassá-los no restante. Basta olhar para a DeepSeek: ela é tão eficiente quanto a OpenAI, mas custa muito menos. Há também Baidu, Alibaba AI etc.
A economia chinesa está em trajetória para ultrapassar a dos EUA em 5 anos e, mesmo assim, assinou esse acordo. Na verdade, a maioria dos países assinou, e a Índia também
Não é uma situação em que os perdedores estão criando novas regras; é uma discussão entre grandes países sobre como lidar com a situação, e os países que se acham bons demais parecem estar ficando para trás
Mas essas tentativas também são simbólicas, e os próprios envolvidos sabem disso. Servem apenas para parecer que estão fazendo algo aos consumidores ingênuos de informação, isto é, os idiotas úteis
Perdi os anos 80, mas, como “hacker” que passou pelos anos 90 e 2000, o rumo da conversa em torno da IA é profundamente triste e desconfortável
Imagine dizer aos hackers do passado que, em um site chamado “hacker news”, as pessoas discutiriam que o governo deveria criminalizar executar código no próprio computador
Isso entra em conflito frontal, ética e filosoficamente, com tudo que me fez me apaixonar por computadores. Fico me perguntando se as pessoas realmente acreditam nisso ou se é uma narrativa sofisticada conveniente para certas empresas e políticos
Nem a regulamentação de IA da UE nem as discussões que vi restringem o hacking de IA em si
A regulação trata de aplicações por empresas e governos e de casos de uso reais. Coisas como impedir que uma IA sem responsabilização tome a decisão final de contratação, proibir reconhecimento facial em larga escala em espaços públicos, exigir transparência no uso de IA em áreas de alto risco como saúde, educação e Justiça, e proibir IA armada
Já que você falou em ética, pergunto: que ética devemos aplicar à IA? Nenhuma, apenas parte dela, ou a mesma ética aplicada a humanos? Se a IA substitui humanos na tomada de decisões, deve responder como humanos
Países que tiverem AGI irrestrita provavelmente vão dar um salto técnico enorme à frente
Por outro lado, países que impuserem restrições vão ficar na “Idade da Pedra” nesse campo
Em geral, países onde a renda das elites depende do trabalho da população geram resultados melhores para a maioria do que países onde isso não acontece. Basta olhar para países em desenvolvimento com grandes reservas de petróleo
A que a AGI levaria? Assim como o trabalho industrial foi substituído, a maior parte do trabalho intelectual também seria substituída, e as elites existentes passariam a controlar a AGI. Ela poderia ser usada para reprimir rebeliões para sempre, com vigilância perfeita, automatizada e onipresente
Não é algo a que realmente valha a pena aspirar
[1]: https://en.wikipedia.org/wiki/Resource_curse
Talvez ela exista algum dia. Mas a “IA” atual não pode se tornar AGI, e não há um caminho para chegar lá
Não se deve engolir essa narrativa do jeito que ela vem. A regulação da UE não tenta proibir a AGI, mas garantir um mínimo de decência quando a tecnologia existir. Americanos parecem ter uma alergia quase fatal a esse tipo de coisa
Agora, alguns anos depois, estamos considerando seriamente uma situação real em que parte do mundo adota IA e outra parte não
Essa adoção parcial era previsível, mas eu não imaginava que estaríamos tendo esse debate tão cedo
Posso entender que essa “declaração” não é um compromisso com ações concretas? Se for assim, não entendo muito bem por que importa quem assina ou não
A concretude também não parece muito melhor do que isso. Tem cerca de uma página e meia, a lista de países é tão longa quanto a própria declaração, e basicamente diz: “nós conversamos sobre não fazer coisas ruins”
Eles estão certos. Essa declaração é inútil e é só esforço desperdiçado
A Europa realmente adora assinar declarações e cartas de preocupação. Mesmo que tivesse assinado, não teria feito diferença nenhuma
Esse tipo de declaração de “não vamos ser maus” costuma ser um gesto sem sentido
Atores secundários que de qualquer forma nem participariam exibem superioridade moral, mas não influenciam em nada o curso real dos acontecimentos
O Tratado de Ottawa é parecido. Entre os não signatários estão EUA, China, Rússia, Paquistão, Índia, Egito, Israel, Irã, Cuba e as duas Coreias, entre outros. Ou seja, todos os países de que, para começo de conversa, se esperaria o uso de minas terrestres ficaram de fora
Quando a situação aperta, até signatários como a Ucrânia usarão minas terrestres. Porque a defesa nacional é mais importante do que preservar uma folha de papel e sentir-se moralmente superior