Meta desmantela equipe de IA Responsável

• A Meta desmantelou a equipe de IA Responsável (RAI) e realocou seus integrantes para outras equipes de produtos de IA generativa e para a área de infraestrutura de IA
• A equipe de RAI vinha, desde 2019, identificando problemas nos métodos de treinamento de IA e supervisionando o treinamento de modelos com informações diversas.
• A equipe já havia passado por uma reestruturação no início deste ano, e na época houve uma reportagem do Business Insider dizendo que, após demissões, restou apenas a "casca" da equipe.
• Os sistemas automatizados da Meta causaram problemas como uma prisão indevida por erro de tradução no Facebook, geração de imagens enviesadas no recurso de criação de figurinhas por IA do WhatsApp e o algoritmo do Instagram ajudando a encontrar material de abuso sexual infantil.

Tendências globais de regulação de IA

• Esse movimento da Meta acontece enquanto governos do mundo todo tentam criar regulações para o desenvolvimento de inteligência artificial, com o governo dos EUA ordenando a criação de regras de segurança para IA e firmando acordos com empresas do setor.
• A União Europeia (UE) divulgou princípios para IA e ainda segue tentando aprovar uma legislação sobre IA.

Opinião do GN⁺

• O ponto mais importante desta notícia é que a Meta desfez a equipe dedicada ao desenvolvimento responsável de IA e redistribuiu seus membros para outros departamentos.
• Em meio ao rápido avanço da tecnologia de IA e ao aumento da importância do uso responsável dessa tecnologia, essa mudança oferece um caso interessante sobre como as empresas estão administrando ética e segurança em IA.
• Além disso, a notícia reflete o momento atual de intensificação do debate global sobre regulação de IA, trazendo um conteúdo atraente para quem se interessa pela interseção entre tecnologia e legislação.

[GN⁺]

Opiniões no Hacker News

• A Meta é considerada a grande empresa de IA mais ética por tornar seus modelos de IA públicos.
  • Há quem argumente que manter modelos de IA fechados em nome da “ética” é antiético, pois torna as pessoas mais dependentes de decisões arbitrárias das grandes empresas.
• Todas as equipes de IA deveriam considerar a responsabilidade ética, e concentrar isso em uma única equipe é ineficiente.
  • Isso pode criar um gargalo em que a “equipe de IA responsável” revisa todo o trabalho de IA, ou fazer com que outras equipes fiquem livres para desenvolver IA de forma irresponsável.
• Segurança em IA é um grupo parasitário ao trabalho dos outros, então é desejável que a Meta o desfaça.
• Equipes de ética em tecnologia, nos estágios iniciais, focam mais em imagem do que na realidade.
  • Um pequeno número de pessoas que define a direção central da tecnologia carrega a responsabilidade ética, e, se agirem de forma irresponsável, podem causar grandes danos.
• Não há casos concretos de contribuição positiva da equipe de ética da Meta.
  • É preciso revisar o histórico da Meta nos últimos anos para avaliar o quanto ela foi eficaz em manter a verdade.
• Quando falta financiamento e surge uma crise (como na OpenAI), o melhor é fechar departamentos que existem apenas para imagem.
• Como treinar modelos de IA custa muito caro, à medida que a tecnologia avança, haverá quem tente controlá-la para lucrar com isso, mas isso pode sair pela culatra no longo prazo.
• A comparação entre segurança em IA e equipes jurídicas ou de segurança não é válida.
  • Como ninguém sabe o que significa construir uma IA segura, essas equipes só podem acabar servindo para atrasar o progresso.
• A melhor forma de tornar a IA responsável é torná-la open source.
  • Isso evita que uma única empresa tenha controle total e permite que pesquisadores entendam melhor tanto as possibilidades de abuso quanto as boas formas de uso.
• A responsabilidade pela IA deveria estar com o usuário, mas atualmente nenhuma empresa dá aos usuários poder para moldar o produto de forma responsável.
  • A estrutura legal já lida com essas externalidades, e as tentativas das empresas de fugir da responsabilidade acabam criando sistemas mais incompetentes e inúteis.