Novo livro mostra como o poder das empresas está desestabilizando a governança

• Golpe Tecnológico: como salvar a democracia do Vale do Silício

  • A pesquisadora de políticas do Stanford HAI, Marietje Schaake, alerta que o poder sem limites das empresas de tecnologia está ameaçando o Estado de Direito democrático.
  • Ela explica que as empresas de tecnologia estão invadindo o papel dos governos e exercendo influência excessiva em áreas como cibersegurança, sistemas policiais, eleições e políticas de defesa militar.

• Como empresas privadas estão assumindo cada vez mais o papel do Estado

  • Empresas com controle da informação e autoridade irrestrita para agir estão substituindo o papel dos governos.
  • Empresas como a NSO Group Technologies vendem a capacidade de invadir dispositivos pessoais por meio do spyware Pegasus.
  • Essas tecnologias oferecem a capacidade de hackear informações sensíveis de opositores políticos, juízes, jornalistas e outros.

• Como as instituições democráticas podem retomar a liderança

  • É necessário haver conscientização e compreensão sobre o impacto das empresas na atuação dos governos, na democracia e no direito internacional.
  • Também são necessárias clareza jurídica, mecanismos de responsabilização e medidas de transparência no ambiente digital.
  • Leis e regulações tradicionais devem ser aplicadas ao ambiente digital, e o direito internacional e as regulações precisam ser fortalecidos de acordo com os avanços tecnológicos.

• Reinventar um novo governo democrático para enfrentar os desafios da digitalização

  • Os legisladores devem contar com a ajuda de especialistas independentes em tecnologia para compreender o impacto da tecnologia.
  • É preciso reforçar a responsabilização por meio da ampliação da responsabilidade pública no processo em que o governo terceiriza funções para empresas de tecnologia.

• Tensões relacionadas ao uso de energia pelas empresas de tecnologia

  • Falta transparência sobre o consumo de energia dos data centers, o que prejudica a transparência no uso de recursos e uma boa governança.
  • São necessários requisitos padronizados de transparência e de relatórios para avaliar o impacto de grandes projetos de data centers sobre as comunidades locais.

• O princípio da precaução e a IA

  • O princípio da precaução exige uma pausa temporária para avaliar o impacto da inovação sobre a sociedade.
  • Esse princípio deve ser aplicado a inovações tecnológicas como a IA para evitar problemas inesperados.

• Por que os americanos demoram a entender a ameaça das empresas de tecnologia

  • Em todo o mundo, há danos causados pelo abuso de poder das empresas de tecnologia, mas os americanos tendem a enxergar isso como um problema distante.
  • Casos como o da Cambridge Analytica também ocorrem dentro dos EUA, e o abuso de poder das empresas de tecnologia afeta a democracia americana.

• O papel como cidadãos democráticos

  • Os consumidores podem fazer escolhas sobre o uso de tecnologia, mas isso não é suficiente.
  • São necessários fiscalização independente e contrapoder contra o abuso de poder das empresas de tecnologia.
  • Os cidadãos devem moldar a agenda política e exigir mais de seus líderes.

Resumo do GN⁺

• O livro de Marietje Schaake alerta para o impacto do poder sem limites das empresas de tecnologia sobre a democracia e apresenta diversas formas de enfrentar esse problema.
• O controle da informação e a autoridade irrestrita para agir por parte das empresas de tecnologia estão substituindo o papel dos governos, o que ameaça o Estado de Direito democrático.
• Também no ambiente digital são necessárias clareza jurídica, mecanismos de responsabilização e medidas de transparência, e o impacto social da inovação tecnológica deve ser avaliado por meio do princípio da precaução.
• Os cidadãos devem exigir fiscalização independente e contrapoder contra o abuso de poder das empresas de tecnologia, além de ajudar a moldar a agenda política.

[GN⁺]

Comentários do Hacker News

• Há quem diga que, nos EUA, é importante que as pessoas façam as leis, além do controle do governo e das empresas. Mas, na prática, não é assim. O importante é perguntar a quem a lei beneficia. Por exemplo, é preciso considerar se leis favoráveis às farmacêuticas fazem os preços dos remédios subirem ou se controlam esses preços.

  • Com o salário mínimo federal em $7.25, quem se beneficia não é a população em geral.
  • Há a opinião de que os cidadãos devem aprovar leis que os beneficiem, e que é especialmente importante reverter a decisão Citizens United v. Federal Election Commission.
  • A mídia depende de anunciantes corporativos, o que dificulta se opor aos excessos das empresas.

• Há a opinião de que o software está violando os direitos de propriedade, e isso é chamado de "techno feudalism". As empresas possuem o software, e as pessoas o alugam.

• A internet conecta todo mundo e permite o livre fluxo de informações, mas isso está enfraquecendo a confiança das pessoas.

  • A liberdade de expressão é importante, mas as pessoas podem usá-la para enganar ou coagir.
  • Em "Reflections on Trusting Trust", de Ken Thompson, conclui-se que não é possível construir confiança dependendo de computadores.
  • A sociedade precisa de confiança, mas, como informações falsas se espalham rapidamente online, as pessoas estão perdendo a confiança natural.

• Há a opinião de que governo e empresas estão agindo contra as pessoas.

  • O governo pressiona empresas para que façam coisas que ele próprio não pode fazer.
  • Se as empresas não cooperam, enfrentam a ameaça de desmembramento.

• Nas discussões sobre regulação de tecnologia, enfatiza-se a necessidade de especialistas técnicos independentes.

  • O Congresso dos EUA já manteve o Office of Technology Assessment, mas ele foi extinto em 1995.
  • Monopólios são o problema, e há a opinião de que é necessária uma aplicação forte da Sherman Act.

• Há discussão sobre como fazer com que as instituições democráticas retomem o controle.

  • Levanta-se a necessidade de especialistas independentes e a dúvida sobre como garantir sua independência.
  • Há debate sobre se as empresas deveriam ser obrigadas a divulgar seu consumo de energia ou água.

• Há preocupação de que a rede elétrica dos EUA esteja chegando ao limite e de que o aumento dos data centers possa causar um desastre.

• Há a opinião de que o modelo geográfico de governo não é adequado para a era da internet.

  • No passado, os governos podiam aplicar leis dentro de seu território, mas, na internet, produtos e serviços que cruzam fronteiras se tornam um problema.

• Há preocupação de que os smartphones estejam assumindo o controle da segurança.

  • O acesso a serviços governamentais foi totalmente privatizado, em troca de conveniência.
  • Como as pessoas abriram mão da segurança e escolheram a conveniência, há a opinião de que as empresas estão substituindo o governo.