Google retira promessa de não usar IA em armas e vigilância

• Contexto da mudança nos princípios de IA do Google

  • A promessa, antes explícita nos princípios de IA, de não usar IA para armas ou vigilância foi removida
  • Demis Hassabis e James Manyika, do Google, anunciaram a mudança de política citando a disseminação da IA e as demandas de segurança nacional
  • Eles enfatizaram que “as democracias devem liderar o desenvolvimento de IA e colaborar com governos e com a área de segurança”

• Principais pontos da nova política de IA

  • Foi mantida a redação de que a tecnologia será usada em conformidade com o direito internacional e os princípios de direitos humanos
  • Foi adicionado o item de que “testes são realizados para mitigar danos não intencionais”
  • A cláusula que excluía especificamente o uso em armas ou vigilância foi removida
  • Um porta-voz do Google se recusou a responder perguntas específicas sobre a mudança na política de armas e vigilância

• Reação interna anterior no Google e o contrato Maven

  • Em 2018, houve forte reação de funcionários enquanto a empresa trabalhava no Project Maven, de análise de imagens de drones, com o Departamento de Defesa dos EUA
  • Os funcionários argumentaram que “o Google não deve estar no negócio da guerra”
  • A empresa não renovou o contrato do Maven e, depois disso, publicou seus princípios de IA, incluindo a promessa de proibir o uso em armas e vigilância
  • Com esta atualização da política, essa promessa explícita foi removida, fazendo com que o movimento de oposição dos funcionários no passado volte a chamar atenção

• Impacto no setor

  • A colaboração do Vale do Silício com as áreas militar e de defesa está se expandindo rapidamente
  • Há avaliações de que a oposição dos funcionários do Google ao Maven foi um grande ponto de virada para o setor
  • Há análises de que, com esta mudança de política, aumentou a possibilidade de a IA do Google voltar a ser aplicada em áreas militares e de vigilância

[GN⁺]

Opiniões do Hacker News

• Discute-se o risco de drones e armas de IA. Há várias possibilidades de mau uso, como assassinatos remotos, instabilidade política e alvos seletivos por ditadores

  • Muitos países acabarão tendo essa tecnologia, e muitos modelos de IA já foram abertos ao público
  • A comunidade tecnológica precisa pensar em formas de enfrentar esse problema
  • São levantadas questões importantes, como medidas de defesa, formas de monitoramento e como os cidadãos podem auditar o uso de armas pelo governo

• Grandes empresas como o Google não são intrinsecamente boas nem morais, e essa imagem seria apenas uma estratégia de marketing

• Há um reconhecimento de que o mundo caminha para a autodestruição, e de que existem avanços assustadores sendo feitos longe do olhar público

• A maioria das empresas privadas usará a tecnologia em busca de lucro e quebrará promessas anteriores

• É interessante como as empresas mudam de acordo com o cenário político

  • O Google está preocupado com a gestão de imagem em resposta à repercussão de seus anúncios sobre IA

• Compara-se a assinatura de contratos da OpenAI com o DoD com a postura do Google, argumentando que uma atitude franca é mais honesta

• Argumenta-se que certos países precisam de armas para controle de multidões

  • Critica-se que crises internacionais foram iniciadas principalmente pelos EUA e pela Rússia

• Em um mundo caótico, há quem veja de forma positiva a participação de empresas como Google, OpenAI e Microsoft em projetos de defesa

• Expressa-se preocupação com a capacidade dos LLMs de ampliar a análise de texto em agências de inteligência