OpenAI remove proibição de uso do ChatGPT para fins "militares e de guerra"

OpenAI remove cláusula que proibia uso para fins militares e de guerra

• A OpenAI removeu discretamente nesta semana, de sua política de uso, a linguagem que proibia explicitamente o uso de sua tecnologia para fins militares.
• Até 10 de janeiro, a página de políticas de uso da OpenAI afirmava explicitamente a proibição de atividades que pudessem aumentar danos físicos, incluindo "desenvolvimento de armas" e "militares e de guerra".
• A nova política mantém a diretriz de "não usar o serviço para prejudicar a si mesmo ou a outras pessoas", mas a proibição total ao uso para "militares e de guerra" desapareceu.

Contexto da mudança de política

• A OpenAI revisou amplamente sua página de políticas para torná-la "mais clara e fácil de ler".
• Um porta-voz da OpenAI explicou que a nova política enfatiza conformidade legal e que o princípio de "não prejudicar outras pessoas" pode ser aplicado de forma ampla.
• Especialistas apontam que a nova política evita responder perguntas sobre contratos militares e operações de guerra, concentrando-se especialmente em armas.

Preocupações sobre uso militar e em guerra

• Especialistas apontam que vieses e falta de precisão em large language models (LLMs) podem levar, em contextos militares e de guerra, a operações imprecisas e enviesadas.
• É pouco provável que as ferramentas da OpenAI sejam usadas para letalidade direta por forças militares, mas elas podem ser empregadas em várias tarefas de apoio às capacidades militares.
• Como o principal objetivo de instituições militares é manter capacidade letal, ajudar essas instituições, mesmo sem violência direta, ainda pode ser problemático.
• A estreita parceria entre OpenAI e Microsoft abre a possibilidade de a OpenAI expandir seus negócios para fins militares.

Impacto real da mudança de política

• As consequências reais da mudança de política ainda não estão claras.
• A OpenAI não apresentou uma posição clara sobre como fará cumprir a proibição de usos militares e de guerra.
• Especialistas avaliam que a OpenAI está enfraquecendo sua posição sobre fazer negócios com instituições militares.

Uso de tecnologia de IA por instituições militares

• Forças armadas ao redor do mundo tentam ganhar vantagem usando tecnologias de machine learning, e o Pentágono ainda explora o uso do ChatGPT e de outros LLMs.
• Large language models são treinados com grandes volumes de livros, artigos, dados da web e outros materiais para imitar respostas humanas a prompts de usuários.

Opinião do GN⁺:

• A mudança de política da OpenAI aumenta a possibilidade de a tecnologia de inteligência artificial ser usada para fins militares, o que pode desencadear discussões importantes sobre ética e segurança tecnológica.
• Essa mudança mostra como empresas de tecnologia tentam equilibrar seus princípios com oportunidades de mercado relacionadas a contratos de defesa.
• A remoção de uma proibição explícita ao uso de IA para fins militares e de guerra pode servir de gatilho para um debate social mais amplo sobre segurança tecnológica e uso ético.

[GN⁺]

Comentários do Hacker News

• O crescimento da OpenAI e a mudança de princípios

  • É impressionante que a OpenAI tenha abandonado seus princípios fundadores e esteja seguindo a estratégia do Google.
  • O Google levou 17 anos até remover o "Don't be Evil", mas a OpenAI cresceu rapidamente e mudou de forma abrupta.
  • Parece que a OpenAI será a empresa ou tecnologia que substituirá o Google, o que é irônico, assim como o Google substituiu a Microsoft.

• Possibilidades de uso militar dos modelos GPT

  • Os modelos GPT têm uma grande oportunidade de uso comum em bancos de dados militares e trabalhos de pesquisa.
  • A proibição de uso militar poderia, por exemplo, acabar proibindo até o uso por um corpo militar para melhorar a preparação para desastres.
  • A maioria das grandes empresas acaba fazendo esse tipo de concessão, porque o Pentágono tem uma quantidade enorme de dinheiro.

• Desenvolvimento de produtos militares por empresas industriais

  • Muitas empresas industriais provavelmente também desenvolvem produtos militares.
  • Por exemplo, elas podem querer assistência de LLM em ferramentas CAD que desenvolvem motores de navios que podem ser usados para fins militares.
  • Infraestrutura e software muitas vezes são compartilhados ou desenvolvidos para poderem ser aplicados em toda a empresa.

• Entendimento da nova política

  • Fico me perguntando se alguém realmente leu a nova política.
  • Ela tem uma política mais ampla sobre armas e causar danos.

• IA e poder militar

  • IA avançada é essencial para poder militar avançado.
  • Esses problemas não são problemas técnicos, mas humanos.
  • Os humanos são primatas hierárquicos que competem por território e recursos.

• Diferença de política entre desenvolvimento de armas e atividade militar

  • Há uma diferença clara entre as duas políticas: a primeira proíbe o desenvolvimento de armas e atividades militares, enquanto a segunda enfatiza conformidade legal e flexibilidade.
  • O impacto potencial na segurança de IA é importante.

• Limitações dos LLMs

  • É uma ideia terrível que o ChatGPT ainda não consiga parar de alucinar de forma consistente em tarefas básicas e não entenda de fato o que está fazendo.
  • A área de AI/ML em si não é perda de tempo, mas os LLMs em grande parte são só aparência, com pouquíssimo valor real.

• A inevitabilidade da decisão da OpenAI

  • Era inevitável que a OpenAI não fosse abrir mão desse tipo de dinheiro.
  • Parece estranho se preocupar com o fato de que o produto seja usado de outra maneira.

• Silicon Valley e o complexo industrial-militar

  • O Vale do Silício é um produto do complexo industrial-militar.

• Diferença de perspectiva sobre desenvolvimento de armas entre civis e militares

  • Para civis, desenvolver armas é perigoso na maioria dos casos, mas para os militares, o perigoso é não desenvolver armas melhores mais rápido do que o inimigo.