Google retira promessa de não usar IA em armas e vigilância
(washingtonpost.com)- O Google alterou na terça-feira suas diretrizes de ética em IA e removeu a promessa pública de não aplicar IA nas áreas de armas e vigilância
- Os princípios de IA de 2018 continham uma cláusula de restrição que excluía aplicações de IA de formas que “causassem ou provavelmente causassem dano geral”
- A seção “Aplicações que não iremos perseguir” do documento anterior colocava armas, vigilância, tecnologias com alto potencial de dano e casos de uso contrários ao direito internacional e aos princípios de direitos humanos na categoria de proibição
- Uma cópia arquivada no Internet Archive, disponível até quinta-feira, ainda continha essa seção de proibição e as quatro categorias
- Com essa mudança, desapareceram dos princípios públicos de IA do Google as formulações que excluíam explicitamente determinados usos de alto risco
Promessas de proibição que desapareceram dos princípios de IA
- O Google atualizou na terça-feira suas diretrizes de ética em IA
- Nas novas diretrizes, foi removida a formulação anterior que afirmava que a empresa não aplicaria tecnologia de IA a armas ou vigilância
Cláusula de restrição da política de 2018
- O Google introduziu em 2018 uma política para limitar o escopo de aplicação da IA
- Na época, a política incluía o compromisso de não aplicar IA de maneiras que “causassem ou provavelmente causassem dano geral”
Remoção da seção “Applications we will not pursue”
- Os princípios anteriores de IA continham uma seção chamada “Applications we will not pursue”
- Uma cópia arquivada no Internet Archive, disponível até quinta-feira, ainda mantinha essa seção
- Essa seção reunia quatro categorias que o Google dizia que não perseguiria
- Armas
- Vigilância
- Tecnologias que “causam ou provavelmente causam dano geral”
- Casos de uso contrários ao direito internacional e aos princípios de direitos humanos
O que mudou nos princípios públicos
- Antes da mudança, os princípios de IA excluíam explicitamente determinados usos
- Após a mudança, os princípios públicos deixaram de incluir a formulação de que a empresa não buscaria armas, vigilância, dano geral e casos de uso que violassem o direito internacional e os princípios de direitos humanos
1 comentários
Comentários do Hacker News
https://archive.ph/hfrKY
No começo, achei que fosse o anúncio de um novo compromisso e pensei: “vão esquecer disso assim que for conveniente”. Mas, depois de ler a matéria, pensei: “ah, a situação já ficou conveniente”.
O Google é uma corporação gigante e, embora corporações gigantes talvez não sejam inerentemente “más”, elas não têm, fundamentalmente, interesse em bondade ou moralidade.
Quando parece que têm, é puramente uma ação de marketing.
Pode haver uma diferença entre a maldade de um policial corrupto e a maldade de um assassino em série, mas a atitude de fazer qualquer coisa por dinheiro historicamente foi classificada como comportamento maligno.
Isso não quer dizer que uma sociedade sem grandes corporações seria melhor ou pior, mas um mundo em que empresas pagassem impostos muito mais altos à medida que crescessem seria interessante.
E elas continuavam sendo distribuídas de graça como antes, com qualidade até decente.
Depois, quando o estado proibiu até isso, o Walmart passou a distribuir sacolas de papel de graça, como um relógio, e elas também eram bem razoáveis.
Ao ver isso, percebi que empresas não fazem nada nem um pouco melhor para o meio ambiente a menos que sejam obrigadas.
Todas as ações de uma empresa, incluindo as más, simplesmente seguem o dinheiro, e vejo como papel do governo fornecer a ética.
Se o Google não fizer, outra pessoa fará; então a lógica vira que é melhor o Google ganhar esse dinheiro para os acionistas.
Tecnicamente, acionistas ativistas poderiam se organizar e argumentar que “se a diretoria não mirar nesse mercado, deve ser substituída”.
No fim, é como se o preço das ações fosse o único indicador que importa.
As ordens vêm de cima, e os de baixo as aceitam.
Por isso, parecem inerentemente más.
Acho que o ponto central é o anonimato que surge no meio dos números e da complexidade.
Milhares de pessoas querem, cada uma, que os números subam, e esse desejo acaba governando decisões como esta.
Se isso tivesse derrubado as ações do Google, o Google não teria feito.
Mas o comportamento humano coletivo está sustentando o preço das ações.
A corporação gigante é só um bode expiatório; na prática, está mais para um conjunto de regras democráticas.
Empresas são uma janela que permite enxergar a verdadeira face da natureza humana.
Quero ficar com raiva disso com uma frustração meio ingênua de “por que não conseguimos todos nos dar bem?”.
Sei como eu gostaria que o mundo fosse, mas, como espécie, inclusive eu mesmo, continuamos decepcionando diante de uma autodestruição quase garantida.
Quero ficar com raiva, mas ao mesmo tempo sou tristemente levado a reconhecer a realidade de por que ninguém se surpreende.
Já existem concorrentes nessa área que farão isso, e farão coisas ainda piores.
Já vimos avanços bem horríveis desse lado e, pensando bem, esses são os que decidiram que podiam mostrar publicamente.
As coisas realmente interessantes estão acontecendo fora das redes sociais, atrás de portas fechadas.
Se apresentassem uma arma específica à qual só armas de IA pudessem responder, talvez eu pensasse diferente, mas, por enquanto, não consigo imaginar por que robôs deveriam decidir quem matar.
Quando as pessoas dizem que IA é perigosa ou que pode trazer o fim do mundo, em geral eu não concordo, mas armas de IA são claramente perigosas e podem sair facilmente do controle.
Afinal, o objetivo delas é justamente ficar fora de controle.
O problema não é que armas de IA sejam “más”, mas que alinhamento de valores não é um problema resolvido, e armas de IA podem matar pessoas que não queremos que elas matem.
Mentiras fazem o planeta girar, e isso é nojento.
Seja como for, vivemos em um planeta com recursos escassos, e isso significa competição; competição gera inovação em armas.
Ainda assim, passamos décadas com armas nucleares e, coletivamente, escolhemos não usá-las, então há pelo menos um pouco de espaço para otimismo.
Não há motivo para se acomodar, e esse caminho só acelera a destruição.
Não precisa necessariamente ser assim.
Isso é mais ou menos ético do que a OpenAI, menos de um ano depois de dizer que “isso jamais aconteceria”, ter fechado um contrato com o DoD para implantar modelos no campo de batalha?
A desculpa foi algo do tipo “o que dissemos se referia apenas a certos tipos de guerra ou fins militares”.
No fim, a pergunta é se inverter abertamente a própria posição, como o Google, não é mais honesto do que manter a ficção de que ainda está tentando fazer a coisa certa.
É como perguntar: “sim, isso até parece se curvar a um tirano estrangeiro, mas é mais ou menos ético do que quando Vidkun Quisling liderava a Noruega?”
A OpenAI me parece sombria e escorregadia, liderada por um narcisista maluco.
Faz o Pichai parecer um santo.
Eticamente, talvez dê no mesmo, mas, se alguém apontasse uma arma para mim, eu preferiria que atrás do gatilho houvesse alguém com um pouco de empatia do que a personificação de uma empresa da qual executivos de alto escalão saem em debandada.
Uma das maiores preocupações com modelos de linguagem de grande escala para agências de inteligência é que eles podem escalar a análise de texto
Antes, pelo menos algum agente precisava se interessar por mim; agora, em teoria, um LLM pode ler todos os textos com que tive contato e sinalizar qualquer coisa, desde violações da lei até inclinações políticas
Em uma escala de filtrar bilhões de mensagens, os custos crescem muito rapidamente, então também é duvidoso que um LLM seja a melhor ferramenta para essa tarefa
Parece que estamos naquele período de Downton Abbey em que todos esperam o início da Primeira Guerra Mundial
Todos sentem que ela está chegando, mas ninguém consegue impedir
Na prática, em uma guerra do Ocidente contra Rússia/Irã/Coreia do Norte/China, ou contra quem quer que acabemos enfrentando, faremos tudo o que for possível para que a civilização e os soldados ocidentais sobrevivam e vençam
No fim, o Google é uma empresa ocidental e, se a guerra estourar, uma postura de não apoiar nossa civilização e nossas forças armadas será extremamente impopular e transformará o Google em um pária
O contrário, para começo de conversa, dificilmente aconteceria
Os EUA estão se isolando e maltratando seus aliados
Para potências alternativas expansionistas, nunca houve momento melhor do que agora
Não havia uma guerra se aproximando entre um Ocidente unido e outras grandes potências
A guerra está chegando porque o Ocidente já não existe mais
Não há uma divisão entre “nossa” civilização e “a deles”; existe apenas uma civilização
Alguns séculos atrás, essa ideia talvez tivesse alguma base, mas hoje a noção de que “nós” somos muito diferentes “deles” é uma fantasia perigosa para a maioria das pessoas
Agora, se é um país que ameaça anexar a Greenland e defende que todos os palestinos sejam transferidos por completo para Jordan e Egypt, certamente vai precisar de armas de controle de multidões
Quando as pessoas perceberem que os dois partidos sempre as exploram, esse tipo de arma também pode ser útil internamente
Não sei por que China é uma ameaça além da esfera econômica
A China já tentou invadir os EUA? A Russia já tentou invadir a UE? A resposta é não
A única ameaça atual à UE vem do homem laranja
Ele também acabou com o tratado INF
Os EUA agora instalarão mísseis nucleares de médio alcance na Europa, e a Russia os instalará em Belarus
Assim, as duas grandes potências terão bodes expiatórios convenientes para receber o primeiro ataque nuclear, e só depois pensarão de novo
É realmente absurdo que os EUA e a Russia continuem dizendo que estão em perigo, mesmo que todas as crises internacionais dos últimos 40 anos tenham começado em um dos dois
A Russia claramente invadiu países da Europa, em especial a Ukraine
O único motivo pelo qual ela não invadiu a própria UE é que isso desencadearia uma guerra que, por causa da aliança da NATO, causaria enormes baixas e acabaria sendo perdida
O que manteve a UE segura foi o poder militar, e países sem poder militar suficiente continuam sendo espancados, à mercê da ambição de poder
A Ukraine ficou nessa situação depois de ingenuamente abrir mão de suas armas nucleares nos anos 1990 em troca da promessa da Russia de que não a invadiria
É difícil chamar isso de ameaça imaginária
Sua política econômica também é bastante predatória: em vez de apoiar outros países, recebe em troca coisas irreversíveis
Por que invadir, se dá para simplesmente pegar o que precisa?
O homem laranja é completamente impotente nas duas frentes
Ele não vai gastar dinheiro com as forças armadas, nem é competente o bastante para fazer acordos que não causem prejuízo no longo prazo
É interessante como essas empresas se movem conforme os ventos políticos
Assim como a Meta anunciou algumas mudanças por volta da posse, a direção do Google também deve ter percebido os anúncios relacionados a IA e não quer que o governo atual a veja de determinada maneira
Acho que a verdade está em algum ponto no meio
Dentro da empresa deve haver enormes divergências, mas é claro que eles se importam com a forma como são vistos por quem está no poder
Empresas têm, tecnicamente, poder desproporcional
Portanto, é melhor que se movam de acordo com a vontade do povo
A alternativa, ou seja, empresas agindo por vontade própria, pode ser muito pior
O único incentivo das empresas não é aquele teatro corporativo constrangedor de “tornar o mundo um lugar melhor”, mas sim gerar lucro
Empresas são criadas para esse objetivo e sempre o seguem
Não sei o que esperávamos depois que o Google removeu o lema Don’t be evil
Sistemas autônomos bem feitos podem ajudar bastante a aumentar a precisão dos alvos e reduzir baixas civis
Se você se irrita com a própria existência de armas, precisa rever o dilema do prisioneiro
Vamos supor que traições em pequena escala sejam administradas por governos, mas que as principais potências mundiais não aceitarão a jurisdição de um governo mundial único que impeça traições à força
Especialmente uma potência forte e próspera como a nossa, que em geral teria muito a perder nesse tipo de sistema, menos ainda aceitaria
O ex-CEO do Google, Schmidt, está desenvolvendo drones de IA para a Ukraine na Estonia
Se ele precisar de uma boa fonte de IA de base, é razoável esperar que o Google possa ser um dos fornecedores preferenciais
Naturalmente, a Ukraine é apenas o começo, e o mercado-alvo para algo comprovado em campo de batalha, especialmente algo validado contra a Russia e, indiretamente, contra tecnologia Chinese, será enorme
Ainda são poucos os que foram implantados em campos de batalha reais, mas há enorme interesse também em plataformas terrestres autônomas e de operação remota
O Google é líder em plataformas autônomas civis, e o caminho para transferir essa tecnologia para sistemas militares parece relativamente fácil