Estamos criando um inferno para vender anúncios [Vídeo]

• A ameaça da inteligência artificial não são os robôs, mas sim a forma como os poderosos usam a IA
• A publicidade digital e as estruturas de persuasão estão evoluindo na direção de identificar e manipular as fraquezas de cada usuário
• Algoritmos de aprendizado de máquina preveem e induzem o comportamento humano de maneiras que não conseguimos compreender
• Coleta de dados e manipulação algorítmica estão sendo usadas para exercer influência política e social
• Precisamos redesenhar de forma transparente a estrutura dos sistemas digitais e desenvolver a tecnologia de um modo que preserve os valores humanos

---

Inteligência artificial e poder: riscos reais

• O verdadeiro medo em relação à IA não são robôs como o Exterminador do Futuro, mas sim os poderosos manipularem a IA para controlar os seres humanos
• Sistemas de vigilância como em "1984", de George Orwell podem se tornar realidade
• Empresas estão desenvolvendo tecnologias que podem violar a liberdade e a dignidade individuais
• Companhias como Facebook, Google, Amazon, Alibaba e Tencent estão focadas em coleta e análise de dados por meio de publicidade

A evolução da publicidade digital e das estruturas de persuasão

• A publicidade tradicional dependia de espaço físico limitado e segmentação, mas no mundo digital é possível fazer persuasão personalizada para cada indivíduo
• Anúncios na internet geram publicidade personalizada que nos persegue sem parar, com base no que vimos, pesquisamos e sobre o que conversamos
• Ao contrário do mundo físico, o espaço digital pode operar estruturas de persuasão em tempo real na escala de bilhões

O poder e os limites dos algoritmos de aprendizado de máquina

• Algoritmos de aprendizado de máquina são usados para prever e manipular o comportamento individual com grandes volumes de dados
• Nem mesmo os programadores entendem completamente como o interior desses algoritmos funciona
• Quanto mais dados houver, mais poderoso se torna o desempenho do algoritmo; por isso, as empresas tentam coletar o máximo de dados possível

Redes sociais e manipulação política

• Facebook e YouTube podem analisar e manipular inclinações políticas por meio de algoritmos
• Por exemplo, o Facebook usa painéis não públicos para expor informações apenas a grupos demográficos específicos
• Há casos em que até uma única postagem simples alterou o comportamento de voto de centenas de milhares de pessoas
• O algoritmo de recomendação do YouTube produz o efeito de "toca do coelho", atraindo usuários para conteúdos extremos

A necessidade de redesenhar os sistemas digitais

• Hoje estamos em uma situação em que não sabemos quais informações estamos vendo nem o que os outros estão vendo
• Os algoritmos conseguem identificar características pessoais como etnia, inclinação política e orientação sexual
• A China está reforçando seu sistema de vigilância com tecnologia de reconhecimento facial, e o Ocidente também enfrenta riscos semelhantes
• É preciso reconstruir a tecnologia digital com base em valores humanos e garantir transparência
• Isso exige mudanças amplas que abrangem tecnologia, criatividade e estruturas políticas

Conclusão: a responsabilidade que cresce junto com a tecnologia digital

• As plataformas digitais são ferramentas valiosas, mas ao mesmo tempo podem se tornar ameaças graves para indivíduos e para a sociedade
• O sistema atual é uma estrutura em que nós somos negociados como "produto"
• Para um futuro melhor, são necessárias transparência tecnológica, valores centrados no ser humano e mudanças criativas e políticas
• É preciso reconhecer que "uma tecnologia com enorme potencial vem acompanhada de enormes riscos"

[GN⁺]

Comentários no Hacker News

• Sente que a maioria dos anúncios na internet é vazia e enganosa

  • Se os anúncios não fossem como esses, tudo bem
  • Usa o Ublock Origin porque o algoritmo não sabe quais anúncios vai mostrar
  • Acha que os anúncios deveriam deixar de ser promoção paga e se tornar anúncios bons, no nível do que as pessoas realmente querem ver
  • Gosta de músicas de propaganda como Splendor Song Chalta rahe e continua ouvindo
  • Sente que a maioria dos anúncios é golpe tentando vender formas de ficar rico
  • Odeia esses vendedores de cursos golpistas e acha que a economia da publicidade gira em torno de vigaristas
  • Parece estar criando um pesadelo de privacidade e uma distopia
  • Gostaria de poder desativar os anúncios e usar o serviço
  • Não espera uma grande receita de clientes comuns, em vez de clientes empresariais
  • Sente uma obrigação moral com o open source, mas está em dúvida porque empresas podem fazer self-hosting
  • O sistema é guiado pelo dinheiro, e quando falta dinheiro é muito provável que a moralidade seja ignorada
  • Há concorrência demais e pouca diferença entre as ideias, então tenta usar publicidade

• Usa AdBlock Pro e AdBlock no Safari para evitar anúncios

  • Como passa muito tempo no YouTube, assina o Premium e comprou a extensão UnTrap for YouTube para esconder recomendações
  • Visita BlueSky, Hacker News e YouTube com frequência, mas não usa X, TikTok, Instagram nem Facebook
  • Tenta evitar usar a Amazon

• Reclamou bastante sobre desigualdade de renda, mas isso explica muita coisa

  • Como as pessoas não têm condições de gastar com serviços, acaba-se ganhando dinheiro capturando sua atenção
  • Como o produto é gratuito, não há expectativa de suporte ao usuário

• Aceita cookies, vê anúncios, fecha pop-ups de newsletter e assiste a um vídeo sobre anúncios

  • Isso realmente acerta em cheio

• A implementação de telemetria do Reddit é extremamente agressiva

  • Os endpoints de coleta de eventos mudam aleatoriamente toda vez que a página é carregada
  • Todas as URLs de coleta de eventos são endpoints de API válidos usados para outros fins
  • É difícil bloquear com ferramentas comuns de bloqueio de anúncios
  • Acha isso malicioso

• Há muitos comentários dizendo que bloqueadores de anúncios existem, mas eles estão perdendo o ponto

  • O dano da economia da internet baseada em publicidade não se limita apenas a ver anúncios
  • Todo o conteúdo e a estrutura da internet são distorcidos para se adaptar a essa economia
  • Mecanismos de busca, SEO, mecanismos de descoberta de conteúdo, os tipos de conteúdo e sua diversidade poderiam ter sido melhores

• Fica se perguntando se seria possível iniciar um ataque que falsificasse humanos consumindo anúncios, tornando as métricas de publicidade sem sentido