O problema do Vale do Silício do Pentágono

O problema do Pentágono no Vale do Silício

• Ronen Bar, diretor do Shin Bet, o serviço de segurança interna de Israel, apresentou uma plataforma de inteligência artificial desenvolvida internamente.
• A tecnologia é usada para analisar informações sobre terroristas, prever riscos e emitir alertas.
• O ataque do Hamas pegou totalmente de surpresa o sistema de defesa de Israel, apesar de o Hamas ter realizado seus preparativos publicamente.

Big Tech ficando para trás nas guerras do futuro

• Michèle Flournoy enfatiza a importância da conexão entre o Vale do Silício e o governo dos Estados Unidos.
• O Pentágono é visto como resistente a novas tecnologias, mas na prática está investindo em diversos projetos de IA.
• A tecnologia de IA pode afetar a forma como operações militares são conduzidas, mas isso alimenta o mito de que idealistas da indústria de tecnologia estão revolucionando a máquina militar.

A crença de que software pode resolver conflitos humanos

• O papel do software na condução da guerra pelos Estados Unidos tem uma longa história.
• Durante a Guerra do Vietnã, a Operação Igloo White posicionou sensores para detectar atividades inimigas, mas fracassou.
• O Vale do Silício se desenvolveu a partir da indústria eletrônica que contribuiu para a vitória na Segunda Guerra Mundial e recebeu apoio do Pentágono durante a Guerra Fria.

A relação entre o Vale do Silício e o Pentágono

• A indústria de tecnologia do Vale do Silício originalmente tinha uma relação próxima com a indústria de defesa, e a internet se desenvolveu a partir da ARPANET do Pentágono.
• Peter Thiel tem como objetivo levar o Vale do Silício de volta ao complexo industrial-militar.
• O Pentágono busca aproveitar as tecnologias do Vale do Silício para manter a superioridade tecnológica dos Estados Unidos.

Tecnologia de defesa do Vale do Silício

• As empresas do Vale do Silício estão ampliando sua atuação no setor de defesa, adicionando novos players ao complexo industrial-militar existente.
• O Google desenvolveu, por meio do Project Maven, tecnologia para processar imagens de drones, mas se retirou do projeto após oposição dos funcionários.
• As empresas do Vale do Silício estão expandindo seu papel no setor de defesa, que parece ser uma fonte estável de receita a partir do orçamento militar.

Opinião do GN⁺

• Este artigo oferece insights interessantes sobre como o avanço das tecnologias de defesa e da inteligência artificial está sendo aplicado em operações militares reais.
• Ele levanta dúvidas sobre se a tecnologia de IA consegue compreender e responder plenamente à complexidade do campo de batalha real.
• Ele provoca uma discussão importante sobre que impacto a colaboração entre a indústria de tecnologia e o setor de defesa pode ter na segurança nacional.
• O artigo destaca os problemas éticos que podem surgir à medida que empresas do Vale do Silício se envolvem mais profundamente no setor de defesa.
• Ele relembra que o avanço tecnológico nem sempre leva ao sucesso militar, sustentando esse ponto com exemplos de projetos fracassados do passado.

[GN⁺]

Opiniões no Hacker News

• Os exemplos citados no artigo parecem ter sido escolhidos de forma seletiva. Não dá para colocar o fracasso no Vietnã apenas na conta do computador IBM 360. O ataque do Hamas pode até ter pego Israel de surpresa, mas, nos últimos anos, o Iron Dome vinha funcionando bem. Os EUA alertaram sobre o ataque da Rússia à Ucrânia, mas muita gente não ouviu. E quem construiu a bomba atômica foram físicos teóricos.
• Como acontece com muita mídia, este artigo também generaliza demais a inteligência artificial. As capacidades preditivas do aprendizado de máquina (ML) já são usadas há décadas pelos exércitos modernos. A abertura do artigo sugere que os LLMs tiveram um grande papel na falha de inteligência sobre o ataque de 7 de outubro, mas na prática não foi isso. O ML continuará tendo um papel, alternando entre sucessos e fracassos, e ficará ainda mais imperfeito ao enfrentar ML adversarial. Culpar ferramentas imperfeitas não é útil.
• Os sistemas de inteligência artificial sabiam tudo sobre o Hamas, mas os membros do Hamas forneceram os dados que a IA queria ouvir. Quando o outro lado pode ver tudo o que você faz e diz, a única defesa é a privacidade. No romance "O Problema dos Três Corpos", a privacidade existe apenas dentro da mente humana, e só os humanos podem tomar decisões com base em estratégias que nunca verbalizaram. A ficção científica está virando realidade.
• É quase impossível projetar um bom sistema sem um caso de uso claro. A Ucrânia tem esses casos de uso e uma forte motivação para resolvê-los. A Ucrânia controla o campo de batalha com computadores comuns e afundou vários navios de guerra russos com drones marítimos de longo alcance. Mais recentemente, começou a testar em grande escala drones aéreos baratos equipados com reconhecimento de alvos baseado em visão computacional. Já os EUA estão em paz, o que por si só é uma coisa boa, mas na prática facilita desperdiçar bilhões de dólares em tecnologias inúteis.
• A expressão "surpreendentemente" é estranha. A imprensa israelense vem repetindo histórias de analistas da linha de frente que soaram o alarme e foram ignorados. Isso pode ter ocorrido por sexismo, etarismo, discriminação ligada ao serviço militar obrigatório, ou pela forte vontade de grupos de assentamento no governo de reassentar a Faixa de Gaza. De qualquer forma, os sinais existiam, e os preparativos e treinamentos vinham sendo observados havia cerca de um ano. Mesmo que os grupos de resistência tenham mantido esse segredo, um oficial comum da inteligência ou das forças armadas deveria acabar concluindo que haveria uma reação violenta.
• Não sei muito sobre a tecnologia israelense, mas o Pentágono tem um problema de imagem no Vale do Silício. Não parece estar recrutando os melhores talentos nem contratando empresas parceiras como a Palintir. Nossa geração se sente mais próxima do Iraque e do Vietnã do que da Segunda Guerra Mundial, e muitas das mentes brilhantes são imigrantes de primeira geração. Ultimamente, a ad tech também vem tendo um problema de imagem (à medida que as pessoas passam a ver mais de perto como ela é feita), mas ainda é mais atraente trabalhar em grandes empresas de consumo do que na indústria de defesa. Para convencer colegas a trabalhar para o governo dos EUA, mesmo que indiretamente, é preciso pagar mais. Em vez disso, muitas vezes recebem menos e ainda têm menos liberdade para atividades fora do expediente.
• No fim do artigo, Cockburn reclama que obteve respostas fantasiosas ao perguntar ao ChatGPT sobre o trabalho da IDF com a Palantir. Se você pesquisar "IDF Palantir" no DuckDuckGo.com, vai encontrar links para várias reportagens. Se a questão é que os LLMs ainda não são confiáveis, tudo bem; mas, se a questão é que não dá para saber se a Palantir coopera com a IDF, já existem evidências disso.
• Não dá para escapar da verdade eterna de métricas e contramedidas... um idiota com uma ferramenta continua sendo um idiota...
• Parece que as equipes de operações estão sobrecarregadas por falsos alarmes das escalas de plantão. A melhor forma de corrigir o problema é... simplesmente ignorá-lo. Um sistema complexo que precisa ser operado por funcionários burocráticos está fadado ao fracasso.