Chefe da principal unidade de espionagem de Israel expõe sua verdadeira identidade após falha de segurança online
(theguardian.com)- A identidade do comandante da Unit 8200, a unidade de inteligência militar de Israel mantida em sigilo máximo, foi revelada por rastros digitais deixados em um e-book da Amazon em 2021
- O livro publicado sob o pseudônimo Brigadier General YS incluía um endereço de e-mail anônimo, que levava a uma conta do Google em nome de Yossi Sariel e a perfis no Maps e no Calendar
- O livro The Human Machine Team trata da combinação entre pessoal militar e IA, e se conecta ao projeto de sistemas de recomendação de alvos baseados em IA nos quais as IDF confiaram durante seis meses da guerra em Gaza
- As IDF disseram que o e-mail não era uma conta pessoal, mas uma conta dedicada a assuntos relacionados ao livro; depois, reconheceram a exposição de informações pessoais como um “erro” e anunciaram uma revisão para evitar recorrência
- A exposição aumenta a pressão sobre Sariel em meio às cobranças de responsabilidade sobre a Unit 8200, que não conseguiu impedir o ataque do Hamas em 7 de outubro de 2023, e às críticas sobre viés tecnológico
Identidade do comandante da Unit 8200 exposta
- A identidade do comandante da Unit 8200 de Israel é tratada como um dos segredos mais sensíveis até mesmo dentro das Forças Armadas
- A Unit 8200 é conhecida como uma poderosa agência de vigilância, frequentemente comparada à NSA dos EUA
- O comandante foi identificado como Yossi Sariel, que atuava sem exposição pública havia mais de 20 anos
- A identidade de Sariel foi exposta por meio de rastros digitais ligados a um livro publicado na Amazon
- Um endereço de e-mail anônimo incluído no e-book levava a uma conta do Google criada em nome de Sariel
- Essa conta estava conectada a um ID exclusivo e a links de perfis no Google Maps e no Calendar
- Um porta-voz das IDF explicou que aquele e-mail não era o e-mail pessoal de Sariel, mas uma conta dedicada a assuntos relacionados ao livro
- Depois, as IDF reconheceram à imprensa israelense que a exposição de informações pessoais foi um “erro” e disseram que analisariam o caso para evitar ocorrências semelhantes
The Human Machine Team e a estratégia militar de IA
- Sariel publicou em 2021 o livro The Human Machine Team sob o pseudônimo Brigadier General YS
- O pseudônimo é composto por suas iniciais
- Segundo a verificação de várias fontes, Sariel é o autor não divulgado da obra
- O livro apresenta uma visão de como a IA pode transformar a relação entre pessoal militar e máquinas
- Sariel defende que, na guerra moderna, o machine learning deve sair da periferia e passar ao centro das operações
- A direção central é o human-machine teaming, que busca a sinergia entre humanos e IA, em vez de sistemas totalmente autônomos
- O público-alvo são comandantes militares de alto escalão e autoridades de segurança
- Entende-se que Sariel escreveu o livro com autorização das IDF após passar um ano como pesquisador visitante na National Defense University, em Washington DC, nos EUA
Projeto de uma máquina de alvos com IA
- Uma parte do livro trata do conceito de “targets machine” baseado em IA
- O conceito se assemelha às descrições do sistema de recomendação de alvos que as IDF teriam usado nos bombardeios em Gaza
- Sariel avalia que, para construir uma máquina de alvos eficaz, é necessário usar big data além da capacidade de processamento do cérebro humano
- Entre os exemplos citados estão dados do campo de batalha, informações populacionais, dados visuais, dados de celular, conexões em redes sociais, fotos e contatos de telefone
- A posição apresentada é que quanto mais dados e mais diversidade, melhor
- A máquina de alvos usa modelos complexos para prever comportamentos combinando em grande escala pequenas características
- Entre os exemplos estão pessoas em grupos de WhatsApp com integrantes do Hezbollah, pessoas que recebem um novo celular a cada poucos meses e pessoas que mudam de endereço com frequência
- A IA é tratada como um meio de reduzir os gargalos causados por agentes de inteligência humanos ou soldados no processo de geração de potenciais alvos militares
- Busca de novos alvos e tomada de decisão para aprovação
- Processamento de grandes volumes de dados
- Ligação entre inteligência e poder de fogo
Sistemas de IA na guerra de Gaza
- Sob o comando de Sariel, as IDF implantaram durante seis meses da guerra de Gaza vários sistemas de apoio à decisão baseados em IA, desenvolvidos e aprimorados rapidamente pela Unit 8200
- Entre os sistemas divulgados estão the Gospel e Lavender
- Os dois sistemas vieram a público por meio do veículo israelense-palestino +972 magazine, do veículo em hebraico Local Call e do Guardian
- As IDF afirmam que os sistemas de IA servem para auxiliar oficiais humanos de inteligência
- Esses oficiais precisam verificar se um suspeito militar é um alvo legítimo segundo o direito internacional
- Um porta-voz afirmou que as Forças Armadas usam diversas ferramentas e métodos, inclusive ferramentas baseadas em IA para ajudar pesquisadores de inteligência
Controvérsia sobre a Unit 8200 após 7 de outubro
- A falha de segurança de Sariel veio a público em meio às críticas de que a Unit 8200 não conseguiu prever nem impedir o ataque do Hamas em 7 de outubro de 2023
- Nesse ataque, militantes palestinos mataram cerca de 1.200 israelenses e sequestraram cerca de 240 pessoas
- A Unit 8200 já foi altamente valorizada dentro e fora de Israel por sua capacidade de inteligência, considerada por alguns comparável à do GCHQ do Reino Unido
- Acredita-se que tenha construído um grande aparato de vigilância para monitorar de perto os territórios palestinos
- Após o ataque, surgiram críticas de que a arrogância tecnológica da Unit 8200 ocorreu às custas de técnicas tradicionais de coleta de inteligência
- O jornal israelense Maariv abordou em fevereiro de 2024 as disputas internas de responsabilização na Unit 8200 após 7 de outubro
- Sariel foi referido não pelo nome, mas como o comandante da Unit 8200, “Y”
- Críticos avaliam que, sob o comando de Sariel, a unidade priorizou tecnologias “viciantes e empolgantes”, o que teria contribuído para a tragédia
- Sariel teria dito a colegas que o 7 de outubro o atormentará até seu último dia e que, no sentido mais profundo, aceita a responsabilidade: “nós fomos derrotados. Eu fui derrotado”
1 comentários
Opiniões no Hacker News
Fiquei mais curioso para saber qual era exatamente a natureza da falha de segurança mencionada na citação.
Será que a Amazon tem um bug que expõe o endereço de e-mail da conta de autores autopublicados, ou será que, ao compartilhar conteúdo do Google Maps ou do Google Calendar dentro do livro, ele não sabia que esses recursos revelavam o e-mail real?
Havia uma conta do Gmail criada para receber feedback, correções, resenhas e contatos da imprensa; ela deveria ser quase anônima, mas aparentemente estava registrada com o nome real.
No mínimo, o nome teria ficado visível para quem recebeu uma resposta, e também pode ter aparecido por meio de conexões com outras contas.
Não sei se é algo como um número de identidade civil, um número militar ou algum outro identificador.
Não parece haver nenhuma falha de segurança aqui.
Algumas pessoas usam pseudônimos para esconder sua identidade real, mas outras usam para separar a persona pública da vida privada.
Este caso claramente parece mais próximo do segundo.
Ele publicou o livro combinando suas iniciais com pistas que sugeriam sua profissão, e o fato de não ter tentado esconder seriamente o e-mail também é natural nesse contexto.
Isso é tão irrelevante quanto noticiar que descobriram o nome verdadeiro de JJ Lehto.
Pensando melhor, ao mesmo tempo é um nome de guerra e também um pseudônimo.
Segurança operacional é difícil.
E, por mais otimista que alguém seja quanto ao potencial da IA, usar IA para decidir quem matar é horrível e claramente antiético.
Isso permite atrocidades sem responsabilização.
O próprio fato de essa pessoa ter sido anônima também parece um sinal de que responsabilização não era o objetivo.
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Dito isso, nessa matéria, a maior parte do que é assustador vem dos operadores humanos.
Parece haver uma indiferença bastante forte em buscar motivos para desconfiar da máquina.
Concordo com o sentimento de que “é antiético usar IA para decidir quem matar”, mas acho difícil aceitar uma afirmação tão forte assim.
Por exemplo, se houver um grupo de 10 pessoas tomando decisões de alvo e a IA reduzir a carga de trabalho para que essas 10 pessoas possam revisar por mais tempo, isso também seria “usar IA para decidir quem matar”, mas o resultado poderia até melhorar.
O problema é que, na prática, é bem provável que as pessoas joguem a responsabilidade para a máquina e deem de ombros.
Acho difícil responder adequadamente a essa pergunta e, ao mesmo tempo, chegar a uma resposta simples.
Pelo contrário, comentários e raciocínios desse tipo é que tornam possível fugir dela.
Há seres humanos que decidiram usar IA, e esses seres humanos devem ser responsabilizados.
Se não conseguem arcar com essa responsabilidade, não deveriam usar IA.
Mesmo que a identidade seja vazada, isso não importa muito.
Se é uma pessoa em cargo de diretor, qualquer coisa que faça chama mais atenção, e ela não consegue se esconder.
No âmbito militar, oficiais de alta patente representam as Forças Armadas, então suas identidades não são protegidas.
É claro que soldados e pessoal de baixa e média patente, que cumprem ordens e assumem riscos reais, devem sempre ter suas identidades protegidas.
Seria melhor que sua identidade não fosse pública, já que ele poderia ficar exposto a risco de assassinato ao viajar, mas, sinceramente, isso não é uma grande história.
Parece que só vai gerar comentários de ódio em grupos anti-Israel.
À primeira vista, ele tentou esconder a identidade e fracassou de forma bem desastrosa, por isso isso virou notícia.
O livro está aqui:
https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...
Pessoalmente, não me importo com a identidade dele, mas esta matéria também aborda o conteúdo do livro que ele publicou, e essa parte é muito mais interessante.
A jogada inteligente de xadrez 4D de Yossi Sariel
Parece que ele está tentando sair do cargo sem uma renúncia formal, fingindo que foi um erro
Esse “erro” dá aos superiores uma justificativa para afastá-lo, ao mesmo tempo que permite escapar do caso de 7 de outubro
Olhando para o que aconteceu depois de 7 de outubro, nenhum dos lados parece muito competente em qualquer forma de elaboração de estratégia
Muito menos em “xadrez 4D inteligente”
Quer dizer que ele errou de propósito naquela época para criar um jeito de sair sem renunciar três anos depois?
Não parece que ele realmente estivesse tentando manter isso em segredo
Se quisesse, poderia até se tornar um denunciante como Snowden
É estranhamente reconfortante saber que esse tipo de coisa é difícil até para especialistas
“Críticos de Sariel acreditam que a prioridade dada pela Unit 8200 a tecnologias ‘viciantes e empolgantes’ em vez de métodos mais antiquados de coleta de inteligência levou ao desastre”
Será que eles também usam Kubernetes e os frameworks de front-end mais recentes?
Um enorme loop useEffect() que controla individualmente todos os robôs assassinos por nomes hardcoded
Ainda é meio lento porque não há orçamento para pesquisar memoização, mas funcionava bem em hardware suficientemente potente
Os cálculos balísticos são todos feitos em WebGL, causando a escassez mundial de GPUs dos últimos anos
Às vezes eles erravam o tamanho do viewport, gerando danos colaterais :(
Tendo aprendido a lição, o próximo projeto de IA de Israel seguirá uma abordagem comprovada e será escrito inteiramente em CSS
Uma analogia mais plausível seria demitir os desenvolvedores sêniores, contratar juniores com assinatura do ChatGPT e esperar que a velocidade de desenvolvimento melhore muito
Invadem computadores aleatórios em porões e enviam pequenas funções para serem processadas de forma distribuída
Os dados são tão pequenos que é impossível reconstruir o que estão fazendo
É um SETI@HOME soviético
Você acaba processando os dados deles sem nem saber
A única coisa que dá para fazer é formatar o sistema para remover os backdoors — com sorte, vai dar certo
Segurança operacional é difícil
Você pode fazer tudo certo 99.999 vezes, mas, se errar uma vez, acabou