Construir supercomputadores para autocratas não é necessariamente bom para a democracia
(helentoner.substack.com)- A OpenAI apresenta o OpenAI for Countries e o Stargate UAE como uma expansão da “IA democrática”, mas há poucas evidências de que construir um grande data center de IA nos Emirados Árabes Unidos promova a democracia
- Os EAU receberam 18/100 pontos na avaliação de 2024 da Freedom House, com problemas citados como monopólio de poder por uma monarquia hereditária, proibição de partidos políticos, proibição de críticas ao governo, prisão de ativistas, censura à imprensa e exploração de trabalhadores migrantes
- O argumento da OpenAI se divide entre “a IA americana dissemina valores democráticos” e “se os EUA vencerem a corrida de IA contra a China, isso favorece a democracia”, mas não há evidências de que o Stargate UAE tenha como objetivo oferecer acesso sem censura ou ferramentas pró-democracia
- A infraestrutura de computação de IA em larga escala está se tornando um ativo central do poder estatal e, como a família real dos EAU está investindo enormes recursos, é provável que a influência do governo dos EAU cresça por meio do acesso ou da posse de chips avançados de IA
- Negócios envolvendo semicondutores e infraestrutura de IA não são sempre ruins, mas promovê-los como um projeto de democracia sem divulgar a quantidade de chips, os direitos de propriedade e uso e as condições para impedir transferência de tecnologia para a China é uma embalagem perigosa
A justificativa de “IA democrática” da OpenAI e o Stargate UAE
- No início de maio, a OpenAI anunciou o OpenAI for Countries e afirmou que ajudaria países a construir infraestrutura de IA, conectando a iniciativa ao Stargate, em andamento no Texas, nos EUA, entre outros lugares
- O ponto central do anúncio é o argumento de que a infraestrutura de IA em larga escala se tornará um ativo de base para o crescimento econômico futuro e o desenvolvimento nacional, e de que é preciso oferecer aos países que desejam “trilhos de IA democráticos” uma alternativa à IA autoritária
- Depois disso, a OpenAI anunciou uma parceria para construir um grande data center de IA nos EAU e apresentou o projeto como enraizado em “valores democráticos”
- O foco das críticas é que o primeiro grande acordo em que a OpenAI invoca a democracia não foi com um país de fato democrático, mas com os EAU
O sistema político e a situação de direitos humanos dos EAU
- Na pontuação nacional de 2024 da Freedom House, os EAU receberam 18/100 pontos, abaixo de Haiti, Zimbábue e Iraque
- Pontuação de liberdade: {p:18}
- O sistema político dos EAU é uma estrutura em que uma monarquia hereditária monopoliza o poder
- Partidos políticos são proibidos
- Candidatos podem concorrer como independentes, mas dificilmente conseguem desafiar o regime de forma significativa
- Apenas metade das cadeiras do conselho consultivo é eleita; o restante é nomeado pelo governo
- Esse conselho consultivo não tem poder legislativo efetivo
- Críticas ao governo são proibidas, e candidatos e ativistas que pedem direitos humanos ou reforma política são presos ou submetidos a julgamentos coletivos
- Até as famílias de dissidentes presos são sistematicamente alvo de vigilância e punição
- A imprensa pratica autocensura ou sofre censura ativa do governo e, em alguns casos, pode ser fechada
- Cerca de 90% da população dos EAU é formada por trabalhadores migrantes sem direitos políticos, e exploração trabalhista, como confisco de passaportes, salários atrasados e trabalho forçado sob calor extremo, é tratada como um problema
- Uma organização de direitos humanos avaliou que os EAU têm a 7ª maior prevalência de escravidão moderna no mundo
As duas vertentes do argumento democrático da OpenAI
- Chris Lehane, responsável por assuntos globais da OpenAI, argumentou em um artigo no The Hill que valores democráticos devem moldar o futuro da IA e que, se os EUA não ajudarem países que querem construir IA, autocratas preencherão esse vazio
- A explicação da OpenAI se divide, em linhas gerais, em dois argumentos
- A IA americana carrega valores democráticos, portanto oferecê-la a mais pessoas dissemina a democracia
- Como os EUA são uma democracia e a China não, uma vitória dos EUA na “corrida” de IA favorece a democracia
- O primeiro argumento pode valer até certo ponto em situações extremas, mas não se encaixa bem no acordo com os EAU
- Se um país proíbe acesso a chatbots de IA sem censura e depois passa a permiti-lo, isso pode ajudar valores democráticos do ponto de vista da liberdade de informação
- Também pode ter algum sentido, de forma limitada, oferecer ferramentas de IA pró-democracia contra a vontade de um governo não democrático
- Mas não há evidências de que o Stargate UAE tente concretizar esses cenários
- A OpenAI divulgou que os EAU se tornariam o primeiro país do mundo a ativar o ChatGPT em escala nacional, mas não está claro se o ChatGPT era restrito nos EAU até então, nem por que EUA, Austrália, Canadá e outros não seriam considerados “ativados nacionalmente”
- Também houve relatos de que o ChatGPT Plus seria oferecido gratuitamente aos residentes dos EAU, mas isso era fake news
Operação do ChatGPT e linhas de censura dos EAU
- Não há sinal de que o ChatGPT será operado nos EAU de forma mais democrática do que outras ferramentas de IA
- Moradores dos EAU parecem ter acesso também a outros produtos americanos de IA, como Gemini, Claude e Llama
- O COO da OpenAI, Brad Lightcap, foi questionado se o ChatGPT nos EAU respeitaria “red lines” sobre temas sensíveis, como críticas à família real, e respondeu: “Ainda não sabemos. Precisamos trabalhar em parceria com o país”
- Essa resposta não descarta a possibilidade de o ChatGPT ser ajustado para não entrar em conflito com as linhas de censura política já existentes nos EAU
Infraestrutura de computação de IA e poder estatal
- O segundo argumento, sobre a competição de IA entre EUA e China, pode ser relativamente mais convincente
- Recursos de computação têm um papel importante no sucesso em IA
- Considera-se difícil construir grandes data centers atualmente nos EUA
- Se outros países fornecerem capital, energia e licenças, empresas americanas poderão obter mais recursos de computação e criar IA melhor
- Porém, enxergar apenas EUA e China faz perder de vista as implicações maiores do acordo com os EAU
- Infraestrutura de computação em larga escala, especialmente supercomputadores de IA de nível mundial compostos por centenas de milhares de aceleradores avançados de IA, está se tornando uma importante fonte de poder estatal
- Desse ponto de vista, o Stargate UAE é um acordo que amplia muito o poder do governo dos EAU e sua influência sobre IA
- Com base apenas em informações públicas, é muito ambíguo quem detém a propriedade e os direitos de uso dos recursos de computação, mas, dado que os EAU estão gastando enormes somas, é difícil imaginar que não obtenham acesso significativo ou posse desses chips
Condições e incertezas dos acordos de IA e semicondutores no Golfo
- Fazer negócios de semicondutores com países do Golfo não é, por si só, algo necessariamente ruim
- Os detalhes de vários acordos semelhantes ao da OpenAI com os EAU não foram divulgados, e alguns ainda não foram finalizados
- Os EUA cooperam há muito tempo com governos autocráticos do Golfo por razões de segurança nacional e, sob uma visão fria de realpolitik, também pode haver formas de acordo em que os benefícios superem os custos
- Para avaliar posteriormente se os EUA fizeram um bom acordo, as seguintes condições são importantes
-
Quantidade de chips
- Propriedade e direitos de uso dos recursos de computação
- Salvaguardas contra transferência de tecnologia para a China
- Ainda assim, mesmo a melhor versão de um acordo Stargate UAE teria de conter condições aceitáveis para a família real dos EAU, portanto é difícil que essa parceria se torne um instrumento forte de promoção da democracia
-
A missão da OpenAI e o problema da concentração de poder
- Se a OpenAI fosse uma empresa comum com fins lucrativos, ou se a IA fosse uma tecnologia menos importante, a relevância da linguagem promocional em torno deste acordo seria menor
- Mas a OpenAI enfatiza que é uma organização sem fins lucrativos orientada por missão e que pretende criar uma tecnologia extremamente poderosa
- A missão de “garantir que a IA beneficie toda a humanidade” muitas vezes é simplificada como construir AGI segura, mas a questão de desenvolver uma tecnologia capaz de mudar o mundo de modo que ela realmente beneficie todos é muito mais complexa do que “torná-la segura” ou “criá-la nos EUA”
- Quem terá acesso a sistemas poderosos de IA e quem terá controle sobre eles é uma questão central para determinar quem receberá os benefícios
- Desenvolver IA de uma forma que não amplie desigualdades de poder existentes, não fortaleça regimes autocráticos e não enfraqueça o poder das pessoas comuns continua sendo um problema em aberto em escala civilizacional
- Promover o Stargate UAE como um projeto de democracia parece mais um sinal de que a OpenAI não está tratando esse desafio com seriedade suficiente
1 comentários
Opiniões no Hacker News
Em geral concordo com essa direção, mas é frustrante ver tanta alegação especial quando se compara o que empresas famosas como a OpenAI fazem com o que gigantes industriais menos notados, como Cisco e Oracle, vêm fazendo há uma geração
A análise perde força se começa e termina apenas na OpenAI
Não é diferente do Google ter abandonado o “do no evil” e recebido críticas por isso. Além disso, o fato de alguma empresa no passado ter agido mal e saído impune não significa que não devamos esperar padrões melhores de outras empresas no futuro
A cisão da GloFo pela AMD também tinha originalmente a intenção de colocar uma fab de ponta em Abu Dhabi, mas esbarrou na realidade de tentar fazer algo no deserto, com cadeia de suprimentos ruim e sem água doce
É irritante, mas ao menos podemos agradecer pelo fato de as pessoas tentarem se organizar em torno de princípios. Mesmo que esses princípios não pareçam ser a motivação real. Neste caso, o autor claramente escreve em grande parte porque tem uma antipatia especial pela OpenAI, mas ainda assim o argumento em si é bom
Apontar que Joe estacionou ilegalmente não é “alegação especial”. A expressão não significa isso
O mesmo conselho que demitiu Sam Altman
O artigo deixou passar que não está falando de ditadores americanos, mas de ditadores das monarquias do Golfo
É bem simples. Primeiro, para a Nvidia parece uma ótima ideia vender placas de vídeo em massa a investidores sauditas de confiança. Segundo, as monarquias do Golfo dependem dos EUA e querem evitar uma revolução islâmica. Terceiro, elas querem usar painéis solares para alimentar data centers.
Vão rastrear os usuários? Claro. E o GCHQ e a NSA podem firmar acordos de compartilhamento de inteligência para contornar as leis de seus próprios países. Não há nada de novo nisso. Só não se deve confiar seus pensamentos a nenhum serviço SaaS
Já existem meu histórico de compras, meu histórico de endereços, os metadados das minhas chamadas e agora, com o DOGE, boa parte dos dados federais também. Não precisam nem do meu feed do Twitter para agir contra meus interesses.
A web também está sendo raspada de forma insana, então vejo a fronteira como muito mais ampla do que SaaS
Os nativos são minoria, e as forças de segurança são todas formadas por estrangeiros diretamente subordinados aos governantes; em alguns casos, são mais numerosos que toda a população nativa. Os próprios nativos também vivem bem demais para terem muito incentivo a arriscar tudo numa luta
Pelo contrário, imagino que isso possa se tornar uma das piores fontes de poluição na corrida da IA. A tentação de queimar petróleo e gás, que existem em oferta praticamente ilimitada, é forte demais
Sob certo ponto de vista, é melhor impedir que essa tentação sequer exista
Para mim ficou claro que a principal utilidade dos LLMs é serem um multiplicador de força para amplificar mensagens enviadas à sociedade
Cada indivíduo do público ficará preso sob uma espessa manta de comunicações e interações quase replicadas, e a maior parte delas não será humana. A única forma de controlar a internet acabou se revelando cobri-la por cima, como se a afogasse
Sou bem introvertido, e fico curioso se você é parecido ou o oposto. Normalmente leio mídias específicas, não procuro “interações” online e evito completamente redes sociais. Antes das redes sociais, isso era normal. Fico me perguntando se você acha impossível que o abuso de LLMs faça as pessoas voltarem a formas mais primitivas de uso da rede.
Além disso, você diz que para controlar a internet basta cobri-la, mas na prática também vemos gente sem poupar custos para manipular leis. Há mais em jogo do que simplesmente desprezar “o povo”
Em 1780, o que as pessoas achavam que era a principal utilidade do motor a vapor?
Até se poderia usar isso para trocas comerciais, mas o que mantém as pessoas presas às redes sociais é uma necessidade de interação social que não é satisfeita desse jeito. Mesmo que signifique a elite, também não. Eles já vêm fazendo isso usando pessoas como amortecedores e, se forem ricos o suficiente, provavelmente continuarão fazendo
A mídia já está transbordando de lixo grudento muito além do que uma pessoa consegue lidar. A atenção média já está saturada, então despejar ainda mais lixo gerado por IA não parece que vá mudar muito.
A maneira de controlar a internet é controlá-la literalmente. Como os governos já vêm fazendo
Construir algo para ditadores, sinceramente, tem grande chance de não ser bom para a democracia
Se queremos que a democracia seja saudável, é melhor maximizar a riqueza da classe trabalhadora. Pessoas com folga suficiente para cuidar um pouco de si mesmas, de suas famílias e de suas comunidades podem ter tempo e educação para participar de forma significativa da democracia.
Seja construindo para um ditador americano, para um ditador de um país do Golfo ou para um ditador russo, parece melhor não fazer isso. Claro, é mais fácil falar do que fazer
Fico me perguntando o que significa participar da democracia em uma ditadura.
Ironicamente, quanto mais a tecnologia avança rumo à singularidade, ou a algo próximo disso, e automatiza a maioria dos empregos de baixa e média qualificação, mais tendências distópicas aparecem no Ocidente, especialmente nos EUA. Já essas ditaduras têm há muito tempo fortes sistemas de bem-estar para seus cidadãos, e agora também para residentes, além de populações pequenas que as colocam em boa posição para colher os benefícios do boom da IA
Acho que a implicação aponta mais na direção oposta
Uma tecnologia suficientemente influente pode transformar qualquer governo em algo autoritário e totalitário. Para quem está no poder, querer controlar tudo é a maior tentação, e disso surgem Estados horríveis e formas horríveis de governar a população
Basta lembrar que, em 1984, de Orwell, a ideia central era a de que a TV em cada casa estava sempre observando, e que alguém por trás daquele aparelho realmente entendia o que via.
A última parte era o que parecia distópico. Não haveria pessoas suficientes para observar e entender todo mundo o dia inteiro, e ainda havia a questão de quem vigia os vigilantes. 1984 era mais uma fantasia assustadora, porque não havia um meio prático de realizá-la.
Pela primeira vez na história, os novos LLMs/IA generativa estão tornando essa parte de 1984 realista. Para emitir alertas precoces sobre “pensamentos perigosos”, basta uma GPU por residência, e isso já é possível ou em breve será. O fato de a quantidade de computação alocada a cada casa ser pequena, permitindo rodar apenas uma inteligência básica e pobre, na verdade é perfeito. Uma AGI, pelo menos em teoria, poderia ouvir os dois lados, investigar o panorama geral e acabar apoiando o outro lado; mas um agente LLM linear não tem essa capacidade.
Há relatos de que pelo menos seis empresas, incluindo OpenAI e Apple, estão pesquisando dispositivos domésticos que ficam sempre observando e têm IA generativa moderna no backend. Para ajudar de forma significativa com uma única frase, é preciso contexto suficiente; portanto, é necessário ver toda a sua vida recente. Ao mesmo tempo, só isso já basta para saber em quem você vai votar, a qual protesto ainda nem anunciado você pretende ir e qual é a melhor forma de assustá-lo para que não vá. É parecido com a diferença entre uma ferramenta para pregar e uma arma de assassinato. Ambas são o mesmo martelo.
Durante a campanha TikTok-China, havia muitos vídeos de pessoas LGBT falando sobre a rapidez com que o TikTok descobriu sua orientação sexual. Mesmo sem curtir nenhum vídeo, sem seguir ninguém e sem fornecer informações de perfil rastreáveis, às vezes o aplicativo descobria antes mesmo de a própria pessoa admitir para si. O TikTok descobre só observando para o que o usuário olha e por quanto tempo. Basta permanecer muito mais tempo em vídeos de homens se exercitando do que em vídeos de mulheres, ou o inverso. Parece que isso foi usado para assustar as pessoas com o quanto a China poderia descobrir sobre americanos apenas pelo uso do app.
Se isso é assustador, o mais assustador é isto: um dispositivo com backend de LLM já pode fazer muito mais apenas observando quais programas de TV você assiste, em que partes você ri e o que diz à pessoa ao lado. Talvez nem precise ser multimodal. Acho que só legendas e transcrição de voz já seriam suficientes. Ele pode descobrir seu desejo de se opor ao autoritarismo que se aproxima antes mesmo de você admitir isso para si.
Enquanto Helen Toner se preocupa com a democracia do outro lado do planeta, o bastião da democracia talvez esteja a apenas dois últimos passos da primeira implementação funcional de uma sociedade orwelliana. O passo 1 é convencer todo mundo a colocar esse tipo de dispositivo em casa em benefício próprio, e isso já está em andamento. O passo 2 é chantagear ou tomar o controle da empresa proprietária para usar o dispositivo para fins que não sejam do nosso interesse, e isso ainda está por fazer.
“É claro que não havia como saber se, em determinado momento, você estava sendo observado. Com que frequência, ou por qual sistema, a Polícia do Pensamento se conectava a uma linha individual era apenas conjectura. Talvez ela observasse todos o tempo todo. Mas, de qualquer forma, podia se conectar à sua linha sempre que quisesse. Você tinha de viver — e vivia, por hábito que se tornava instinto — na suposição de que todo som que fizesse era ouvido e, exceto na escuridão, todo movimento era vigiado.”
Ainda assim, está correto dizer que, pela primeira vez na história, muitos países se aproximaram de uma verdadeira vigilância total das comunicações.
A saída não é uma explicação em texto, mas um sim/não binário. Também dá para fazer com LLMs, mas um modelo específico de aprendizado de máquina treinado com o mesmo conjunto de dados provavelmente seria melhor em quase todas as métricas quantitativas, e essa tecnologia já existia muito antes do surgimento dos transformers.
Algo como uma Polícia do Pensamento em escala de bairro.
Todo negócio com ditadores e regimes ditatoriais deveria ser proibido.
Acho que deveríamos poder fazer negócios com os 100 primeiros países desta lista: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
Fazer negócios com o resto só fortalece regimes desumanos e, infelizmente, esses regimes não matam apenas seus próprios cidadãos; eles também atacam países vizinhos. Veja a Ucrânia, e talvez em breve Taiwan. Dinheiro tem cheiro.
Uma parte considerável da riqueza dos países desenvolvidos foi acumulada explorando a corrupção dos países em desenvolvimento. Assim, desde que eles cooperem com as potências ocidentais e vendam recursos e o trabalho de suas populações barato para empresas ocidentais, há incentivos para que continuem corruptos.
É melhor fazer negócios com os Emirados Árabes Unidos e colher os benefícios do que deixar esses benefícios acabarem indo para a China.
A tentativa de manter o Oriente Médio reprimido para sempre claramente não funcionou, então acho que o que está sendo feito agora é realpolitik e a resposta óbvia. A Arábia Saudita será autoritária de qualquer jeito, e isso é como jogar bem uma versão real de Hearts of Iron.
As desvantagens são claras. Na prática, estamos armando pessoas cuja visão de mundo é fundamentalmente incompatível com a nossa e que, mesmo hoje, são no máximo aliados de conveniência. Também não há garantia de que o que entregarmos não será revendido à China. Considerando que esses regimes são notoriamente corruptos, eu diria que isso é quase certo.
De todo modo, não está claro se qualquer uma das pessoas “responsáveis” se importa.
Na verdade, esse pode ser o ponto principal.
O maior risco da IA não é uma rebelião, mas sim permitir que ditadores e totalitários tenham controle total sobre toda a população
Algoritmos suficientemente avançados conseguem encontrar tudo que uma pessoa publicou online por meio de referências cruzadas, estilo de escrita etc., e avaliar com alta precisão os pontos de vista e opiniões dessa pessoa. Também conseguem extrapolar como essas opiniões mudaram ao longo do tempo.
O governo pode mirar dissidentes antes mesmo que eles percebam que são dissidentes, muito antes de terem tempo para se organizar
Análise de estilo é uma área bem estudada. É reconfortante saber que ela só é prática quando há poucos possíveis autores para uma publicação e texto suficiente de cada autor para servir de amostra. Ou seja, numa situação em que todos são suspeitos em potencial, na maioria dos casos é completamente impossível vincular uma publicação anônima de volta ao seu autor. Mesmo nos poucos casos práticos, no máximo isso gera um sinal fraco para uma investigação adicional.
Acho que o artigo “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity”, de Greenstadt et al., pode ser uma leitura interessante
Para Trump, claramente também não importam. Pessoas estão sendo deportadas sem provas e, às vezes, sem sequer acusação formal. Esse é o ponto central do autoritarismo: fazer o que o líder quer. O que viabiliza Trump não é a IA, mas um sistema impotente de freios e contrapesos. Da mesma forma, W mentiu sobre armas de destruição em massa para entrar em uma guerra sem fim. Não importava que o motivo não fosse verdadeiro. Ele saiu impune e enriqueceu a si mesmo e seus amigos da indústria de defesa às custas do povo americano
https://www.newsweek.com/donald-trump-database-palantir-dyst...
Só que operando em uma escala muito maior
Hoje vemos uma tendência de indivíduos ricos concentrando cada vez mais poder, algo que se torna mais evidente na esfera pública. Também chama atenção o fato de que eles estão na linha de frente da posse e do controle do desenvolvimento da inteligência artificial. Por coincidência, essa tendência costuma ser chamada de “tecnofascismo” e, no fim, acaba nos levando de volta ao modelo do ditador