Construir supercomputadores para ditadores não é necessariamente bom para a democracia

• A OpenAI anunciou recentemente uma parceria para construir um grande data center de IA nos Emirados Árabes Unidos (EAU)
• Embora a parceria diga estar “enraizada em valores democráticos”, os EAU são um exemplo representativo de país não democrático
• A Freedom House e outras organizações destacam a repressão às liberdades civis e aos direitos políticos nos EAU
• A OpenAI apresenta essa colaboração como uma forma de expandir a IA democrática, mas sua contribuição real para a democracia é incerta
• Há preocupação de que a transferência de recursos de supercomputação possa fortalecer o poder nacional de um Estado autoritário

---

Visão geral da parceria da OpenAI para um supercomputador de IA nos EAU

• Em maio de 2024, a OpenAI anunciou oficialmente o programa OpenAI for Countries e o projeto Stargate, um grande data center de IA nos Estados Unidos
• A OpenAI afirmou que governos reconhecem que a concentração de capacidade computacional para IA será um elemento central da competitividade nacional e declarou a meta de “levar uma IA democrática a países ao redor do mundo”
• Após o anúncio, a OpenAI revelou uma parceria com os EAU para construir um data center de IA de última geração. A empresa afirmou que essa parceria é “baseada em valores democráticos”

A realidade da democracia nos EAU

• Segundo a avaliação de 2024 da Freedom House, os EAU receberam 18 pontos de 100, ficando abaixo até de Haiti, Zimbábue e Iraque
• Os EAU são uma monarquia hereditária, marcada por concentração do poder político, proibição de partidos, direito de voto restrito e um conselho consultivo sem poder legislativo real
• Candidatos e ativistas que criticam o governo, defendem direitos humanos ou pedem reformas políticas são detidos, e suas famílias também podem ser alvo de vigilância e punição
• Os meios de comunicação praticam autocensura ou sofrem censura direta do governo, e livros didáticos e currículos escolares também são censurados
• Os trabalhadores migrantes, que representam 90% da população, não têm direitos políticos, e os problemas de exploração trabalhista são graves. Organizações internacionais de direitos humanos também apontam a disseminação de formas modernas de escravidão

Críticas à lógica da “IA democrática” da OpenAI

• A OpenAI e Chris Lehane, chefe de política global, argumentam que expandir a tecnologia de IA dos EUA significa “disseminar valores democráticos”
• A lógica principal é a seguinte
  1. Como a IA produzida nos EUA incorporaria valores democráticos, expandi-la para o exterior promoveria avanços democráticos
  2. Na competição de IA entre EUA e China, a vitória dos EUA estaria diretamente ligada à defesa da democracia
• Na prática, mesmo que o uso do ChatGPT se torne mais amplo nos EAU, é difícil concluir que isso levará à garantia efetiva da liberdade de expressão ou a um avanço democrático imediato
• Nem sequer está claro se os serviços serão oferecidos de acordo com os critérios de censura locais dos EAU. A resposta do COO da OpenAI, de que isso seria “discutido com o governo”, reforça esse ponto

Impacto de apoiar governos autoritários com tecnologia de supercomputação

• A infraestrutura de supercomputadores de IA em larga escala está se tornando um elemento extremamente importante do poder estatal
• Há grande chance de que os EAU, por meio dessa parceria, garantam acesso significativo ou até propriedade sobre chips de IA de ponta
• Como Lehane mencionou, o acordo fornece um motor central para colocar os EAU entre as potências de IA
• Pode haver benefícios dentro de uma diplomacia americana guiada por pragmatismo, mas as implicações negativas de fortalecer o poder nacional de um regime autoritário também são grandes

Conclusão e questão central

• Isso não significa que a cooperação em semicondutores e IA seja necessariamente negativa por si só
• A maior parte dos detalhes do contrato entre a OpenAI e os EAU permanece não divulgada ou ainda indefinida
• Ainda assim, é evidente que esse acordo só será firmado em termos aceitáveis para a família real dos EAU → seu potencial de promover a democracia é limitado
• O objetivo declarado pela OpenAI de fazer a tecnologia de IA beneficiar toda a humanidade e a questão de como governança e controle são realmente distribuídos continuam sendo temas completamente distintos
• Este caso pode ser interpretado como um sinal de que a OpenAI talvez não esteja levando suficientemente a sério a tensão entre sua justificativa pública e os riscos concretos (concentração de poder, retrocesso democrático)

[GN⁺]

Opiniões no Hacker News

• O que realmente me incomoda é esse clima de sempre abrir uma exceção ou inventar uma desculpa especial para empresas de alto perfil como a OpenAI. Na prática, isso é o tipo de coisa que grandes gigantes industriais de baixo perfil como Cisco e Oracle já fazem há décadas. Acho que a análise sobre o que a OpenAI está fazendo não deveria ser o começo e o fim da discussão
  • Cisco e Oracle nunca começaram como organizações sem fins lucrativos sob o slogan de servir a um futuro melhor para a humanidade. Não é muito diferente do caso do Google, que um dia defendia o lema “não seja mau” e depois o abandonou, recebendo críticas por isso. Também não faz sentido o argumento de que, só porque deixaram passar quando uma empresa errou, não se pode exigir padrões mais altos de outras no futuro
  • Política é a arte do possível. Mesmo que seja irritante, dá para valorizar o fato de haver alguma tentativa de agir com base em princípios. Claro, a motivação real pode ser só enfeite, mas neste caso, mesmo que esteja claro que o autor queria criticar especificamente a OpenAI, acho que o argumento em si é bastante convincente
  • O setor de tecnologia vende grandes sistemas computacionais e tecnologia avançada para os Emirados Árabes Unidos há décadas. O contexto original da separação da AMD em relação à GloFo também tinha, na verdade, o objetivo de instalar uma fábrica avançada de semicondutores em Abu Dhabi, mas isso era difícil de concretizar na prática por causa de problemas de cadeia de suprimentos e recursos hídricos no deserto
  • Isso é algo muito mais antigo do que o que Cisco e Oracle vêm fazendo há décadas. A IBM de fato forneceu computadores que foram usados na operação do Holocausto
  • Acho que a OpenAI se expôs a esse tipo de crítica justamente ao levantar a bandeira de “promover a democracia”. Como é evidente que o objetivo real é ganhar dinheiro, usar esse discurso acabou se voltando contra ela
• Eu tinha deixado passar que a categoria de Estados ditatoriais mencionada no artigo se refere aos monarcas do Golfo, e não aos autoritários dentro dos EUA. Primeiro, para a Nvidia, vender grandes quantidades de GPUs para investidores sauditas confiáveis é um bom negócio. Segundo, as monarquias do Golfo dependem das relações com os EUA e também querem manter o sistema atual para evitar uma revolução islâmica. Terceiro, a energia dos data centers pode ser resolvida com solar. Esses países vigiam os usuários? Claro. Já não é difícil contornar as restrições legais locais por meio de acordos de compartilhamento de inteligência com GCHQ e NSA. Não há nada especialmente novo nisso; no fim, eu simplesmente não deveria confiar meus pensamentos ou minha privacidade a nenhum SaaS
  • Na verdade, acho que a realidade é ainda mais insidiosa. Já estão capturando meu histórico de compras, endereço, metadados de chamadas e, graças ao DOGE, até dados federais. Mesmo sem meu feed de redes sociais, isso já basta para me ameaçar. E isso não se limita a SaaS. Estão raspando a web inteira em velocidade absurda, então sinto que os limites da minha vida já se ampliaram muito além disso
  • No fim das contas, a comunidade do HN é um grupo pequeno, e a maioria das pessoas no mundo, além de mal informada, provavelmente acabará escolhendo abrir mão da privacidade em troca de conveniência. Também vale considerar a visão de que o ideal seria eliminar essa tentação desde o início
• Acho que desenvolver tecnologia para ditadores, de qualquer forma, não é algo positivo para a democracia. O núcleo da saúde democrática é maximizar a riqueza da classe trabalhadora. Só quando as pessoas têm folga e educação suficientes para cuidar de si mesmas, da família e da comunidade é que pode existir participação democrática significativa. É melhor não desenvolver para ditadores de país nenhum — EUA, países do Golfo, Rússia ou qualquer outro (embora, na prática, isso não seja fácil)
  • Participação democrática e a realidade de países ditatoriais parecem assuntos um tanto separados. Na verdade, quanto mais rápido o avanço tecnológico, mais fortes ficam as tendências distópicas nas sociedades ocidentais, especialmente dentro dos EUA. Em contrapartida, os países ditatoriais do Oriente Médio já operam fortes sistemas de bem-estar social há muito tempo e, por terem populações pequenas, conseguem se beneficiar do boom de IA com mais eficiência
• Acho que o valor essencial dos LLMs está em multiplicar o poder das mensagens que se espalham por toda a sociedade. Daqui para frente, todos estarão cercados por mensagens simuladas enviadas por entidades que não são pessoas. É como se tivesse se provado que a única forma de controlar a internet é “enterrá-la” sob uma avalanche de mensagens
  • Se hoi polloi aqui significa o povo em geral, então na prática o povo usa esse tipo de ferramenta para fins comerciais e continua preso às redes sociais por carência de interação social. Se significa a elite, então ela já usa esse método há muito tempo, colocando pessoas como escudo, e continuará fazendo isso enquanto tiver riqueza suficiente
  • Acho que a expressão “multiplicação do poder” captou bem a essência da minha preocupação
  • Não consigo acreditar nessa postura de tratar a utilidade essencial dos LLMs como algo tão “óbvio”, por excesso de confiança no próprio conhecimento e imaginação. Isso me faz pensar na perspectiva das pessoas que, em 1780, achavam que podiam definir com certeza qual era a essência da máquina a vapor
  • Vejo com frequência a opinião de que LLM serve para amplificar mensagens, mas não acho isso nada evidente. Eu sou introvertido, acompanho só um número mínimo de veículos de imprensa e evito deliberadamente interações online. Antes das redes sociais, isso era mais comum. Se houver inundação de LLMs, não parece possível que a gente volte a uma forma mais primitiva de uso da rede? E quanto à ideia de controlar a internet enterrando tudo sob mensagens, a realidade é mais complexa, porque na prática não economizam no custo de intervir por via legal
  • Acho difícil concordar com isso. A imprensa e a mídia já estão cheias de lixo informacional em excesso, e a capacidade média de atenção das pessoas já atingiu o limite. Mesmo que se acrescente mais conteúdo variado gerado por IA, não vai mudar muita coisa. O controle da internet continua sendo, no fim, uma estrutura de regulação direta por parte do governo
• Na minha visão, quanto mais avançada a tecnologia, maior a possibilidade de qualquer governo se degenerar em uma forma mais autoritária ou totalitária. Para quem está no poder, a tentação de controlar tudo é enorme, e o resultado tende a ser uma governança terrível sobre o Estado e a população
• Independentemente da questão dos padrões morais de Sam Altman, fico em dúvida se existe de fato uma diferença essencial entre democracias que oprimem, praticam violência e ocupam outros povos (EUA, Israel, Índia) e ditaduras do outro lado (Arábia Saudita, China, Coreia do Norte)
  • Chamar de “país democrático” uma situação em que as pessoas governadas não têm voz direta já é algo estranho por si só
  • Se você ignora as diferenças e só compara tudo no mesmo plano, fica impossível fazer distinções essenciais. E você fala como se houvesse apenas minorias sofrendo nas ditaduras, ignorando que existem literalmente bilhões de pessoas reprimidas ali
• Pessoalmente, acho muito mais realista lucrar negociando com os Emirados Árabes Unidos do que deixar isso beneficiar a China. Já ficou provado que tentar manter o Oriente Médio eternamente subjugado não funciona. No fim, esse movimento é o melhor do ponto de vista da realpolitik, uma escolha parecida com jogar Hearts of Iron no mundo real. Se a Arábia Saudita já vai ser uma ditadura de qualquer maneira, então é melhor tirar proveito disso agora
• A própria democracia também não é uma estrutura capaz de servir à democracia. Acho que já é uma ideia fracassada
• Lembro que, em 1984, uma ideia central era que cada casa tinha uma TV instalada, e essa TV estava sempre vigiando as pessoas. Até agora isso era apenas uma fantasia distópica simples, porque era impossível para alguém “entender” e vigiar todo mundo em tempo real. Mas, com o surgimento recente de LLM/GenAI, já se tornou perfeitamente viável fazer alertas iniciais de coisas como detecção de pensamento perigoso com uma GPU por casa. Talvez seja até realista projetar isso de modo a deixar só recursos computacionais limitados. Uma AGI poderia ouvir os dois lados e manter neutralidade, mas agentes LLM unidirecionais não têm essa capacidade. Hoje, pelo menos seis empresas, incluindo OpenAI e Apple, estão desenvolvendo dispositivos domésticos de vigilância contínua baseados em GenAI de última geração. Uma IA que observa a vida inteira de alguém e entende o contexto também pode saber as preferências do usuário, sua inclinação política etc. Isso pode facilmente ser abusado por governos autoritários. Também apareceu quase em tempo real o exemplo de o TikTok conseguir inferir orientação sexual e interesses dos usuários mesmo sem os dados fornecidos por eles. Dispositivos baseados em LLM podem inferir inclinação de voto, disposição para participar de protestos e assim por diante apenas analisando padrões de consumo de TV, conversas e expressões emocionais. Helen Toner está preocupada com democracias em continentes distantes, mas eu temo mais que o próprio centro da democracia já esteja prestes a implementar uma sociedade orwelliana. Etapa 1: induzir todos a instalar esse tipo de aparelho em casa (em andamento); etapa 2: pressionar as empresas envolvidas a usar esses dispositivos conforme a vontade dos poderosos (o que ainda falta)
  • Classificar comportamento em decisões binárias como “perigoso/seguro” nunca foi algo próprio da IA generativa; isso já era possível há muito tempo com modelos tradicionais de machine learning e classificação. Nem precisa de LLM; na prática, modelos tradicionais de ML são mais eficientes
• O artigo da Wikipédia do Chris Lehane ainda não foi atualizado à altura do currículo real dele Chris Lehane - Wikipedia Ele teve uma carreira de alto nível como fixer