- A OpenAI está se afastando de sua política anterior de não fornecer tecnologia de IA às Forças Armadas e está trabalhando em projetos do Pentágono, incluindo software de cibersegurança
- A empresa também está discutindo com o governo dos EUA uma ferramenta para reduzir suicídios entre veteranos de guerra, mas afirmou que mantém a proibição ao desenvolvimento de armas
- Com a remoção, da política de uso, da frase que proibia “military and warfare”, cresce a controvérsia sobre até onde o uso de IA no domínio militar deve ser permitido
- O Vale do Silício passou a se mover em uma direção mais aberta à colaboração com o Departamento de Defesa mesmo após a oposição de funcionários do Google a um projeto do Pentágono em 2018, e o Pentágono também vem promovendo ativamente a adoção de ferramentas avançadas e parcerias com startups
- Mesmo excluindo o desenvolvimento de armas, softwares de IA para o Departamento de Defesa, como interpretação de dados e escrita de código, podem obscurecer a fronteira entre o processamento de dados militares e a condução da guerra
Colaboração entre OpenAI e Pentágono
- A OpenAI está trabalhando com o Pentágono em projetos de software, incluindo atividades relacionadas à cibersegurança
- Isso representa uma mudança em relação à sua política anterior de não fornecer tecnologia de IA às Forças Armadas
- A OpenAI, desenvolvedora do ChatGPT, também está discutindo com o governo dos EUA o desenvolvimento de uma ferramenta para reduzir suicídios entre veteranos de guerra
- Anna Makanju, vice-presidente de Assuntos Globais da OpenAI, revelou isso no World Economic Forum
- No entanto, ela explicou que a proibição ao desenvolvimento de armas será mantida
Mudança na política de uso e preocupações com segurança
- Na semana passada, a OpenAI removeu de sua política de uso a frase que proibia o uso de IA em aplicações de “military and warfare”
- A mudança provocou preocupações entre defensores da segurança em IA
- A nova política proíbe o desenvolvimento de armas, mas deixa aberta a possibilidade de fornecer outras formas de software relacionadas às Forças Armadas
Mudança na relação entre o Vale do Silício e o Departamento de Defesa dos EUA
- Nos últimos anos, o Vale do Silício tem demonstrado uma postura mais flexível em relação à colaboração com as Forças Armadas dos EUA
- Em 2018, milhares de funcionários do Google se opuseram a um projeto do Pentágono
- Os funcionários temiam que a tecnologia que haviam desenvolvido pudesse ser usada para fins letais
- Esse momento é considerado o auge da oposição do Vale do Silício ao Departamento de Defesa
- Depois disso, o Google passou a faturar centenas de milhões de dólares com contratos de defesa
- O Pentágono vem tentando convencer startups do Vale do Silício a desenvolver novas tecnologias de armamentos e integrar ferramentas avançadas às operações do Departamento de Defesa
- As tensões entre EUA e China e a guerra da Rússia na Ucrânia também contribuíram para reduzir a hesitação que empreendedores tinham em relação à cooperação militar
Expectativas e riscos da IA no domínio militar
- Especialistas em defesa frequentemente têm uma visão otimista sobre o impacto da IA nas Forças Armadas
- O ex-CEO do Google Eric Schmidt comparou o surgimento da IA ao surgimento das armas nucleares
- Ele considera que a autonomia e os sistemas distribuídos baseados em IA são poderosos o suficiente para transformar a guerra
- Por outro lado, grupos de defesa alertam que integrar IA à guerra traz riscos significativos
- A IA tem tendência a criar alucinações (hallucination), produzindo informações falsas como se fossem reais
- Se sistemas baseados em IA forem integrados a sistemas de comando e controle, a propagação desses riscos pode se tornar muito maior
- A Arms Control Association alertou que a corrida para usar novas tecnologias militares está avançando muito mais rapidamente do que os esforços de avaliação de riscos
Falta de clareza sobre o escopo dos acordos militares
- A OpenAI excluiu o desenvolvimento de armas, mas a nova política pode abrir caminho para fornecer software de IA ao Departamento de Defesa
- The Information citou como possíveis usos o apoio a analistas na interpretação de dados ou na escrita de código
- A guerra na Ucrânia mostra que a fronteira entre processamento de dados e condução da guerra pode não ser clara
- A Ucrânia desenvolveu e adotou software para analisar grandes volumes de dados
- Esse software é usado para informar rapidamente operadores de artilharia sobre alvos russos na região e aumentar significativamente a velocidade de disparo
- The Information alertou que a mudança de política da OpenAI pode reacender o debate sobre segurança em IA que contribuiu para a breve demissão de Sam Altman do cargo de CEO
1 comentários
Opiniões no Hacker News
É um desdobramento óbvio demais. IA será transformada em arma, e quem trabalha nisso vai ter que conviver com esse fato
A partir de agora, devem se ver como parte do complexo industrial-militar, não dá mais para vender a ideia de que fazem isso pelo progresso da humanidade
Além disso, assim que um lado descobrir esse método, é questão de tempo até os outros acompanharem; segredo não existe
A bomba atômica também vazou, e a receita da inteligência artificial geral também acabará vazando
No fim, você trabalha para o complexo industrial-militar do seu próprio país e, ao mesmo tempo, viabiliza futuros inimigos
Teria sido bom se os funcionários comuns tivessem apoiado esse lado mais publicamente, em vez de embarcar empolgados no trem do Altman; agora dá para ver para onde esse trem está indo
Não sou altruísta a ponto de aceitar um salário menor, me mudar para a Costa Leste e provavelmente ainda lidar com uma burocracia gigantesca
A bomba atômica ainda não se espalhou para mais do que cerca de 10% dos países do mundo, e muitos tiveram que praticamente recriá-la do zero, então não é um bom exemplo
Em IA, as opções são construir por conta própria ou esperar vazar de quem já vai construir de qualquer maneira
No momento em que a OpenAI deixou de ser sem fins lucrativos, ela se abriu para quem pagasse mais, ou seja, para o complexo industrial-militar
A estrutura corporativa original foi criada justamente por causa desse risco, e deixava explícito que não queria se tornar instrumento de grandes empresas
Muito triste
Post recente relacionado: OpenAI deletes ban on using ChatGPT for "military and warfare" - https://news.ycombinator.com/item?id=38972735 - janeiro de 2024, 260 comentários
O Pentágono deve estar feliz com o retorno de Sam Altman ao conselho da OpenAI
No fim, para se defender de um inimigo sem limites, uma inteligência sem limites se torna importante
A corrida da IA já começou, e tenho a sensação de que dela só sairá coisa ruim
Oppenheimer quase certamente estaria se revirando no túmulo
Um ponto a saber: Anna Makanju, vice-presidente de assuntos globais da empresa, acrescentou que a proibição de desenvolvimento de armas será mantida
Num mundo em que simplesmente apagaram a frase dizendo que não cooperariam de forma alguma com militares, não sei que tranquilidade uma promessa verbal de uma vice-presidente deveria trazer
Dá para considerar que todas essas promessas têm um “por enquanto” omitido entre parênteses
“Para melhorar a resposta a novas ameaças, nossos SmartMissiles™ agora usam a OpenAI, em vez de operadores humanos, para tomar decisões de lançar/não lançar.”
Soldado, desligando o ansible: “De onde veio essa ordem?”
Esta colaboração é o que abre essa porta
Nos EUA, quem teria mais dados de treinamento do que a NSA?
Não estou dizendo que seja certo, mas dá para imaginar que a tentação de colocar dados praticamente ilimitados em grandes modelos de linguagem seja enorme
Especialmente se for quase certo que os proprietários de conteúdo terão uma base jurídica forte para impedir o uso gratuito de seu conteúdo
Para integrar recursos da OpenAI a mais produtos da Microsoft, provavelmente será preciso funcionar bem também com a organização que deve ser seu maior cliente
Se considerarmos todo o Departamento de Defesa como um único cliente
China e Rússia sabem que os EUA usarão IA em armas autônomas. Se elas não tiverem isso, ficarão para trás; se não se adaptarem, desaparecerão
Antes era a Guerra Fria nuclear; agora é a Guerra Fria da IA
Não acredito no que Sam Altman ou a OpenAI dizem. Os funcionários estão lá pelo dinheiro, e a organização sem fins lucrativos é quase uma piada
É só uma empresa fazendo o que empresas sempre fizeram
Um pequeno número de superpotências tem disposição para assinar tratados para evitar resultados ruins para todos, e por isso os estoques nucleares também foram bastante reduzidos
O problema desta tecnologia é que ela é barata o suficiente para que lugares como Coreia do Norte, Irã e Turquia também possam usá-la
Resta torcer para que tratados consigam impedir isso
Tenho certeza de que o futuro da guerra será de drones baseados em IA
Basta imaginar o controle sofisticado de unidades de Starcraft aplicado a drones reais equipados com armas e bombas
O fato de de repente parecer problemático que a fuselagem de um avião seja controlada por algoritmos de IA tem um clima meio vale da estranheza, como se tivesse ficado perto demais da realidade
Dito isso, se visão de máquina também contar como IA, ela já está amplamente disseminada
Pelo título, todo mundo pensa imediatamente em robôs assassinos baseados em GPT, mas na prática é mais provável que seja algo como usar RAG para vasculhar montanhas de documentos de compras e papelada de procedimentos entediante
Como não será mais preciso ter pessoas reais ouvindo e marcando conteúdo ruim, os militares poderão fazer isso em escala muito maior
Tenho quase certeza de que os militares já têm robôs assassinos