‘ELITE’, o app que a Palantir usa para o ICE selecionar áreas de batida

• O ‘ELITE’ é uma ferramenta interna da Palantir usada pelo Serviço de Imigração e Controle de Alfândega dos EUA (ICE) para localizar pessoas alvo de deportação, visualizando a concentração de alvos em áreas específicas por meio de uma interface baseada em mapas
• O app tem um formato semelhante ao Google Maps e usa dados, incluindo a concentração de imigrantes, para indicar “áreas com muitos alvos”
• Quando o usuário seleciona uma pessoa específica, é exibido um perfil individual (dossiê) com nome, foto, Alien Number, data de nascimento e endereço
• Segundo materiais internos, o sistema fornece até mesmo um índice de confiança (confidence score) do endereço atual do alvo, sendo usado para perfilamento racial em larga escala
• O texto argumenta que essa tecnologia está contribuindo para ampliar o poder administrativo de deportar pessoas sem devido processo legal e levanta a questão da responsabilidade ética dos desenvolvedores

---

Cooperação tecnológica entre o ICE e a Palantir

• Segundo documentos internos do ICE e depoimentos de pessoas ligadas ao caso, foi confirmada uma ligação direta entre a infraestrutura tecnológica construída pela Palantir para o ICE e as operações de batida em campo
• De acordo com reportagem da 404 Media, o sistema ELITE está sendo usado pelo ICE para identificar áreas de operações de deportação em massa
• A ferramenta marca no mapa potenciais alvos de deportação e fornece, para cada pessoa, um índice de confiança (confidence score) do endereço

Funções e interface do ELITE

• O ELITE é baseado em uma interface de mapa semelhante ao Google Maps e visualiza “áreas ricas em alvos” por meio de dados que incluem a concentração de imigrantes
• Quando o usuário clica em uma pessoa específica no mapa, o sistema exibe um perfil individual (dossiê) com nome, foto, Alien Number, data de nascimento e endereço completo
• Esses dados são usados pelo ICE para rastrear a localização dos alvos e planejar operações de prisão

Questões éticas

• O texto classifica esse sistema como “perfilamento racial em larga escala” e critica o uso da tecnologia para deportar pessoas sem devido processo legal
• O autor descreve o conflito moral que funcionários da Palantir podem sentir ao desenvolver esse tipo de produto
  • A expressão “ir trabalhar todos os dias para criar software que deporta pessoas” enfatiza a distância entre o cotidiano do desenvolvedor e a ética
• O texto aponta que, embora funcionários da Palantir desfrutem de benefícios como salário, stock options e benefícios corporativos, a tecnologia que produzem está contribuindo para atos violentos de órgãos armados

A ligação entre tecnologia e violência

• O texto menciona atos do ICE como sequestrar civis e atirar com arma de fogo, descrevendo que o ELITE dá suporte a essas atividades com “uma interface de mapa bonita e moderna”
• Ao citar casos de violência, incluindo um incidente em que o ICE atirou no rosto de uma mulher, o texto critica o uso da tecnologia como ferramenta para tornar mais eficiente uma execução administrativa violenta

Profissionais de tecnologia e responsabilidade social

• O texto descreve que funcionários da Palantir podem sentir ao mesmo tempo que “é agradável trabalhar com esse time” e que “deveriam procurar outro emprego”, vivendo um conflito interno
• Questiona se, quando o trabalho de um profissional de tecnologia contribui para a violência social, isso pode ser justificado simplesmente por subsistência ou carreira
• Em conclusão, o ELITE é apresentado como um sistema que dá sustentação tecnológica às batidas violentas do ICE e como um caso que expõe a questão da responsabilidade ética de quem desenvolve tecnologia

[GN⁺]

Opiniões no Hacker News

• Nunca trabalhei na Palantir, mas, tirando a encenação de vilão da liderança barulhenta, a empresa me parece uma fornecedora enterprise bem típica
  O produto é comum, mas é vendido de forma supervalorizada para compradores institucionais e, no fim, acaba sendo imposto aos funcionários da ponta
  O problema são as decisões de política pública que fazem essas ferramentas serem usadas e a estrutura que torna amplamente acessíveis dados que deveriam ser controlados
  Em vez de dar à Palantir a imagem de “vilã”, o foco deveria estar no contexto político que fez com que ferramentas assim passassem a ser desejadas

  • Vejo a Palantir de forma parecida. No fim, é uma consultoria, um serviço embalado com mapas, banco de dados de grafos e “IA”
    Vendem caros forward deployed engineers para customizar tudo sob medida para o cliente
    Não dá para dizer que seja uma empresa ética, mas eles não coletam dados pessoais diretamente. Os dados são fornecidos pelo cliente
    A mudança precisa acontecer do lado desses clientes
  • É chocante que exista “maldade falsa”. Como a “falsa piedade” dos anos 1600, agora a moda é a falsa maldade
    Se a cultura corporativa exige que empresas finjam ser mais más do que realmente são, isso é uma falência moral da sociedade
  • Não concordo. O problema é a Palantir e os clientes dela
    Existe a opção de não construir a ferramenta e também a opção de não usá-la
  • O verdadeiro problema é o governo usar os serviços da Palantir para conectar dados e viabilizar vigilância em massa
  • O Karp justifica isso como “ajudar o governo a funcionar melhor”
    Mas, no fim, cabe aos eleitores controlar o governo

• Hoje em dia, parece que as pessoas perderam a capacidade de ter um pensamento complexo
  Dá para acreditar que a ICE pode ter uma missão clara e ética e, ao mesmo tempo, achar errado o modo como ela executa essa missão
  Dá para não rotular imigrantes sem documentos como “inerentemente ilegais” e ainda assim acreditar que respeitar os processos legais é importante
  O mundo não é preto no branco, então não sei por que tanta gente só consegue pensar em extremos. Talvez seja efeito das redes sociais

  • Mas quem tem poder e armas quer impor apenas “uma crença correta”, isto é, “valores americanos”
    Não é uma disputa ideológica simétrica. A onda azul nas próximas eleições de meio de mandato talvez seja a última esperança
    Se isso fracassar, o desespero da literatura russa vai parecer ainda mais real
  • Dizer que algo “é possível” não significa que seja “certo”
    A missão legal da ICE não é clara e, na prática, vem sendo executada de forma antiética e ilegal
    Não é porque uma crença é “possível” que ela se torna justificável
  • Dizer que “furar a fila da imigração é imoral” é um argumento de quem não conhece a realidade
    Para os pobres, essa fila nem existe. Eles não conseguem sequer solicitar um visto legal
  • O ponto central não é que as pessoas não consigam pensar de forma complexa, e sim que essa complexidade não é recompensada
  • Também houve quem respondesse mandando parar de fingir interesse (trolling)

• Queria dizer aos líderes e recrutadores de outras empresas
  Seria bom que declarassem publicamente que vão entrevistar engenheiros que querem sair da Palantir por razões morais
  Seria ótimo se reduzir a barreira para mudar de emprego e oferecer refúgio a essas pessoas virasse uma nova norma do setor

  • Mas eu penso o contrário. Não quero trazer para a minha empresa alguém que construiu um sistema eticamente duvidoso
  • A reputação da Palantir já era ruim há 10 anos
    Se alguém só percebeu isso agora, parece que faltaram princípios
  • Acho melhor trabalhar em projetos positivos para a sociedade e construir uma boa reputação
    Curiosamente, nunca vi o currículo de um ex-funcionário da Palantir. Talvez sejam filtrados automaticamente, ou talvez eles não se interessem por empresas assim
  • Será que eles realmente erraram? Também dá para pensar que usar seu talento para perseguir criminosos é até um dever moral

• Desde a fundação, a Palantir já recebeu cerca de US$ 10 bilhões em impostos do governo dos EUA

  • O governo atual, na prática, funciona como um Estado corporativo. Todo mundo só calcula quanto consegue desviar
  • (Este comentário estava em forma de letra de música, mas foi omitido por questões de direitos autorais)

• Para evitar que esta thread seja apagada, é preciso uma discussão mais aprofundada
  É preciso tratar de forma concreta qual linha de produto da Palantir está sendo usada, como a FOIA (Lei de Acesso à Informação) se aplica e quais dados estão sendo fornecidos

• Parece que a equipe de gestão de imagem da Palantir entrou nesta thread muito mais rápido desta vez

  • Talvez até operem um exército de bots online para manipular a opinião pública
    Podem inclusive vender isso como serviço para clientes
    Para impedir esse tipo de problema, os sites deveriam reforçar a verificação de identidade de contas anônimas

• Quando eu tinha 19 anos, um funcionário da Palantir foi dar uma palestra sobre TDD, e os estudantes fizeram boicote
  Na época achei extremo demais, mas hoje sinto que eles estavam certos
  Eu nunca trabalharia numa empresa como a Palantir. Se pudesse voltar no tempo, eu também teria participado do boicote
  A lógica de “a China também faz isso, então nós também devemos fazer” é eticamente nojenta
  A solução para um mundo corrompido não é se corromper ainda mais. Esse tipo de lógica remove responsabilidade, tira a humanidade das pessoas e intensifica conflitos
  Precisamos lutar contra essa corrupção moral

  • A realidade é que, quando se faz esse tipo de crítica, vêm os downvotes dos bots

• Isso não é apenas uma questão de “imigrantes ilegais”
  Já está sendo construída uma infraestrutura de vigilância em massa. Agora ela mira grupos específicos, mas em breve vai mirar todo mundo
  Sistemas de vigilância como Flock e Ring, junto com IA e integração de dados, formam essa base
  As pessoas que criaram essas tecnologias precisam assumir responsabilidade moral, e é necessário haver plataformas rastreáveis

  • Se o governo consegue encontrar até pessoas que ficaram décadas sem registros, então rastrear contribuintes será ainda mais fácil
  • Mas, se o critério for “moralidade”, então funcionários de FAANG também teriam de ser criticados

• Artigo original: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
  Link de arquivo: archive.ph/wa32f