- Em aplicativos importantes como Hinge e Uber, algoritmos sofisticados e técnicas psicológicas operam para maximizar o lucro extraído dos usuários
- Em cada interação cotidiana da sociedade, intermediários baseados em IA passam a intervir para criar estruturas de extração de lucro adicional
- As empresas ajustam rapidamente seus algoritmos de acordo com a reação dos usuários para maximizar o Lifetime Customer Value
- Como é preciso embarcar nessa tendência para não ficar para trás na concorrência, isso pode ser visto como um problema coletivo
- A manipulação em larga escala com uso de dados, machine learning e técnicas psicológicas virou rotina, e é difícil melhorar sem mudanças fundamentais
Apresentação do problema: normalização dos algoritmos e das técnicas psicológicas
- Grandes serviços como Hinge e Uber têm uma estrutura voltada a extrair o máximo de lucro possível dos usuários por meio de recursos como boosts, tela de gorjeta e algoritmos de vendas
- IAs intermediárias passam a interferir em quase todos os aspectos da vida cotidiana, e a prática de arrancar "um pouco mais" com algoritmos avançados de IA se espalha por toda a sociedade
- Em atividades diárias como comprar café, sair para um encontro ou enviar dinheiro a um amigo, intermediários maliciosos são automatizados para buscar lucro
Possibilidade de autocorreção do mercado e adaptação dos algoritmos
- Muita gente pode achar que as pessoas vão se cansar da manipulação e evitá-la por conta própria, mas as empresas já preveem isso e respondem imediatamente por meio de dashboards de dados
- A IA funciona de modo a evitar o abandono, oferecendo regulação emocional e recompensas extras antes mesmo de a pessoa perceber o desconforto
Concorrência e problema de ação coletiva
- Mesmo tentando sair desse sistema, em cenários competitivos se intensifica o fenômeno em que todos os operadores precisam participar ou ficam em desvantagem
- Todas as métricas viram alvo de competição e, como na ‘Red Queen’s Race’, capital social e valores também acabam sendo sacrificados para não ficar para trás
Estrutura social real e dificuldade de mudança
- A sociedade como um todo está afundada nessa estrutura, e existe um problema de ação coletiva em que a saída individual dificilmente produz mudança fundamental
- Em uma democracia guiada por algoritmos, até a possibilidade de escolha (voto) fica dissociada de mudanças reais, sugerindo que, dentro da estrutura atual, não a reforma, mas sim a mudança fundamental (revolução) seria a única solução efetiva
Conclusão e essência do problema
- Publicidade, discriminação de preços e manipulação em larga escala baseada em dados são, em essência, erradas
- O capitalismo moderno, como no fenômeno de wireheading, induz o comportamento humano de forma extrema, destacando que o problema chegou essencialmente a um novo patamar de escala e manipulação indiscriminada
1 comentários
Comentários no Hacker News
Explicação de uma situação em que, para algumas pessoas, o objetivo em si era pagar um prêmio para furar a fila, mas quando todos começam a pagar o prêmio, a realidade é que a fila continua existindo do mesmo jeito; menciona que esse fenômeno aparece de forma marcante em voos comerciais na Austrália, onde, por causa do trabalho fly-in fly-out, a classe club se tornou comum, e até prioridade de embarque ou passagens com pontos quase desapareceram; em resumo, enfatiza que precificação discriminatória e busca por status se tornam um padrão socialmente nocivo quando direcionados ao consumidor; compartilha uma experiência pessoal de antipatia pela Uber e a piora do serviço de táxi, critica o modelo de negócios da Uber por tolerar entrada ilegal no mercado, mas admite que agora a Uber está tão normalizada que nem se importa muito com tarifa dinâmica; expressa incômodo com a introdução da cultura da gorjeta na Austrália, defendendo que, como há salário mínimo garantido por lei e adicionais obrigatórios, o recurso de gorjeta deveria ser desativado; também menciona a controvérsia nas companhias aéreas europeias sobre tornar obrigatório incluir bagagem e descreve até o clima estranho de zombaria contra quem leva roupa íntima limpa, como parte de uma cultura peculiar da Europa
Posição de que pessoas de fora dos EUA precisam rejeitar firmemente a cultura da gorjeta; alerta que, se começarem a aceitar gorjetas, os salários cairão ainda mais e a situação só vai piorar, defendendo que nem se deveria aceitar gorjeta alguma
Uber e Lyft são caras, mas enfatiza que, em comparação com os táxis de antigamente, a situação hoje é muito melhor; fora de grandes cidades como Nova York, antes era preciso procurar nomes na lista telefônica e reservar com empresas suspeitas, além de ser difícil conseguir um carro; hoje é possível chamar um carro de qualquer lugar pelo app, rapidamente, e embora práticas injustas contra motoristas ou passageiros sejam claramente um problema, não existe nenhuma vontade de voltar ao modelo antigo
Especialmente nas companhias aéreas low-cost da Europa, relata a experiência de que quase todo mundo compra embarque prioritário; antes fazia sentido pagar extra para entrar antes, mas agora há a ironia de que a fila do embarque prioritário às vezes é ainda maior; em momentos de tarifa dinâmica da Uber, a estratégia é observar por um instante a variação no app e chamar quando fica mais barato; os táxis custam de 2 a 3 vezes mais que a Uber e nem são mais simpáticos, além de não terem sistema de avaliação, o que gera relutância em usá-los; compartilha um caso real em que pegou um táxi até o aeroporto por menos do que a Uber, porque o taxista o levou cobrando no local o valor da Uber, enquanto cobrou 5 vezes mais de outro passageiro; conclui que a postura de não usar Uber só torna a vida mais difícil, e acrescenta que, na Europa, com duas pessoas ou mais, muitas vezes Uber sai mais barato que trem
Se todo mundo paga o prêmio e a fila se forma de novo, então, na visão de quem acredita no mercado, o preço real acaba se tornando o preço com o prêmio incluído; compartilha a perspectiva de que só se resolve aumentando ainda mais o custo de ficar na fila
Visão de que nem se importa com a fila e até aprecia o conforto de entrar por último; atitude pessoal de não pagar o prêmio, ficar esperando com calma no saguão e só entrar quando a fila já estiver quase toda esvaziada
Argumento de que a resposta humana atemporal ao avanço tecnológico e à manipulação é o desligamento, e que isso não é teoria, mas algo que já está acontecendo; cita exemplos reais como detox digital, volta dos dumbphones entre os jovens, preferência por DMs privadas em vez de feeds públicos e a geração do “não perturbe”; o diagnóstico é que as pessoas sentem a manipulação e vão optando por sair, uma a uma
Minha taxa de desligamento agora não vai mais ser dada de graça; opinião de usar uma estratégia de se desconectar de forma aleatória de propósito, para que nenhum dos lados consiga prever o efeito; ironiza que até a febre dos dumbphones ou do detox digital já virou apenas mais um mercado de estilo de vida, e que até a percepção da manipulação se tornou material para novos negócios; lança perguntas experimentais sobre o quanto dá para hackear algoritmos e fazê-los traçar um perfil diferente de quem você realmente é
Relato de ter cortado completamente, desde 2012, o uso de apps e redes sociais que transformam e monetizam a vida
Perspectiva amarga de que as empresas passarão a buscar “lucro com o desligamento”; compartilha material de referência, incluindo YouTube watch?v=9h9wStdPkQY (apenas menção ao link)
Opinião de que um desligamento completo do capitalismo é impossível; reconhece que várias das formas de desligamento mencionadas, como detox digital e dumbphones, apenas reduzem o quanto a pessoa é explorada, mas não a libertam de fato da exploração
Preocupação de que desligamento é diferente de nonchalance e pode não ser uma boa resposta humana; nonchalance seria uma atitude individual, enquanto desligamento busca efeito coletivo, mas, na maioria dos casos, isso não leva a mudanças positivas; teme que o resultado seja, na verdade, piora comunitária e queda do padrão mínimo, feita em nome de igualdade e inclusão, mas que na prática aprofunda a polarização; explica que, depois de ‘Occupy Wall Street’ e da ‘Primavera Árabe’, a indiferença/hyper-individualism virou moda, fazendo até políticos e executivos perderem o senso de responsabilidade e se concentrarem mais na própria carreira; referência: Broken Windows Theory Wikipedia, The Subtle Art of Not Giving a F*ck
Aponta o problema de que o produto criado pelo autor, openpilot, para de funcionar se ficar 14 dias sem conexão com a internet; compartilha link para o código relacionado
Diz que em geral evita textos não técnicos do George, mas considera este significativo; normalmente faltam autocrítica e a reflexão necessária, mas desta vez isso pode servir como oportunidade para provocar autoexame; comenta que também sente um clima semelhante crescendo recentemente na comunidade do HN, compartilhando um senso de urgência sobre a necessidade de mudança
Ao ver o título "Are we the baddies?", esperava uma reflexão sobre o próprio papel pessoal, mas se decepcionou porque não foi isso que encontrou
Questiona se algumas pessoas não estão apenas seguindo a moda; menciona a nuance de um texto que parece imitar superficialmente sem reflexão profunda
Reação um tanto sarcástica ao mencionar o caso em que geohot usou LLM para ficar bem colocado no ranking do Advent of Code
Deixa, como referência, o link para o tweet relacionado
Cita a ideia de que “se o governo abrisse para todos uma conta do S&P 500 começando com US$ 1000, a seguridade social estaria resolvida”, apontando que isso, em essência, só garantiria um fluxo contínuo de dinheiro público para grandes empresas (ou seus afiliados); explica que até a UBI (renda básica universal) é, no fundo, um indício de uma economia sem dinamismo, numa estrutura problemática em que se tolera que o governo pague pela mera existência em vez de fornecer empregos
Não concorda com a interpretação de que a renda básica universal “deixa as pessoas confortáveis só por existirem”; enfatiza que a UBI garante o mínimo para sobreviver, e que qualquer renda adicional ainda pode ser conquistada pela própria pessoa; apresenta exemplos de países escandinavos como base para argumentar que a UBI é necessária numa economia de mercado
Explica que empresas do S&P 500 não recebem de fato entrada de capital quando suas ações são compradas
ETFs passam por renovação e rebalanceamento, e quando uma empresa é removida pode haver grande queda no preço da ação; compartilha como exemplo que a Pltr caiu bastante recentemente depois de ser removida do índice Russel2000
Compartilha experiência construindo navegador de internet, infraestrutura moderna e hyper-scale cloud; no começo havia orgulho de estar criando algo melhor, mas depois que surgiu o papel de Product Manager, passou a se arrepender de tudo
Esclarece que o título se origina de um esquete do programa de TV britânico "That Mitchell and Webb Look" e compartilha o link do YouTube
Menciona o poder de sátira espirituosa do programa, dizendo que o episódio Dr Death também é muito adequado para satirizar a ciência e a tecnologia modernas, com link do vídeo relacionado
Recomenda outro episódio triste, mas engraçado, com link
Menciona uma cena clássica com link
Brinca que agora oficialmente envelheceu
Opinião de que a humanidade nunca entendeu de verdade o quão essencial e ao mesmo tempo quão frágil é a cooperação humana; propõe experimentos mentais sobre como uma colônia de formigas colapsaria se seus sinais de feromônio fossem removidos, ou como o sistema mudaria se certas formigas passassem a receber os “benefícios”; imagina que o resultado seria diferente se o experimento fosse repetido com formigas dotadas de autoconsciência; aconselha que a compreensão de sistemas adaptativos complexos pode ser aprendida construindo-os diretamente e recomenda "Hidden Order", de John Holland
Reação positiva ao ver George tentando usar AMD para enfrentar o monopólio da NVidia; avalia de forma favorável essa atitude de querer enfraquecer um monopólio de mercado
No entanto, aponta que ele aparentemente desistiu porque, ao usar chips da AMD, havia bugs que dificultavam uma operação estável por longos períodos
Expressa certa compaixão ao ver que até mesmo George Hotz, tão bem-sucedido e apaixonado, trilha um caminho de iniciante nas questões amorosas; diz que isso faz alguém menos excepcional, como ele próprio, sentir que inevitavelmente sofrerá ainda mais
Perspectiva de ver esse tipo de post como um heatmap demográfico; análise de que isso significa que até pessoas um pouco mais periféricas, que antes só perseguiam interesses ou curiosidade (como os hacks do geohot), agora perceberam a gravidade do problema e começaram a falar publicamente sobre ele, sugerindo que geohot está bem no centro do fenômeno
Cita a pergunta: “Em algum momento as pessoas precisam perceber que vivem em comunidade, numa sociedade; o que vai provocar isso?”; avalia positivamente o ambiente de podcasts e redes sociais por ter tornado possível apontar problemas sociais de forma distribuída; enfatiza que o que realmente precisamos é de uma comunidade de vila em sentido moderno, recuperando relações de cuidado ajustadas às necessidades e circunstâncias dos outros, em vez de um individualismo excessivo e decisões autocentradas
Diz que não esperava ouvir de George Hotz uma mensagem tão próxima de um anti-capitalismo de raiz e aplaude a coragem de expressar esse sentimento com sinceridade