- A partir da experiência com boosts do Hinge, critica-se a estrutura em que serviços cotidianos extraem mais valor de cada interação usando técnicas psicológicas e algoritmos
- Telas de gorjeta, algoritmo da Uber, compra de café, encontros, chamadas de carro e até pagamentos entre amigos passam a incluir intermediários que pressionam o usuário um pouco mais
- Ao contrário da expectativa de que o mercado protegeria usuários cansados de manipulação, empresas usam dashboards e IA para otimizar de forma mais sofisticada o valor do ciclo de vida do cliente
- Surge uma Red Queen’s race em que, se não se maximiza o engajamento, perde-se espaço para a concorrência, e até capital social e valor acabam sendo consumidos por Moloch
- Manipulação em massa com publicidade, discriminação de preços, big data, machine learning e psicologia é difícil de justificar, e o capitalismo moderno teria se aproximado de wireheading
Como serviços cotidianos extraem valor
- Os boosts encontrados após se cadastrar no Hinge são o ponto de partida do problema
- Telas de gorjeta, o algoritmo da Uber e várias interações de soma zero viram exemplos de como técnicas psicológicas extraem um pouco mais de valor de cada momento da vida social
- Até atividades sociais normais, como comprar café, sair para um encontro, chamar um carro ou mandar dinheiro para um amigo, ganham um intermediário
- Esse intermediário usa algoritmos de IA de ponta para extrair ainda mais dos usuários
- A expectativa de que o mercado corrigiria isso quando os usuários percebessem a manipulação é fraca
- As empresas identificam esse tipo de reação antes, por meio de dashboards
- Elas podem ajustar a IA para fazer as pessoas sentirem que estão sendo menos manipuladas
- O objetivo vai além da extração de curto prazo e mira maximizar o valor do ciclo de vida do cliente
Ceticismo sobre concorrência e possibilidade de reforma
- Também é difícil escapar pela concorrência
- Para operar um negócio concorrente, é preciso maximizar métricas de engajamento
- Todas as métricas viram metas, e se o engajamento não for maximizado, ele é perdido numa Red Queen’s race
- Isso leva a uma situação em que até capital social e valor são oferecidos a Moloch
- É difícil resolver isso apenas com a recusa individual de participar; trata-se mais de um problema de ação coletiva
- Há também ceticismo quanto à possibilidade de reforma democrática
- Levanta-se a dúvida: algoritmos permitiriam uma votação que os eliminasse?
- A separação entre voto e ação é comparada à estrutura em que a Uber separa o valor pago aos motoristas da tarifa cobrada dos passageiros
- Chega-se a usar a formulação forte de que não há reforma, apenas revolução
- Pergunta-se se ainda seria aceitável considerar legítima a manipulação em massa mesmo após eventos extremos como colapso financeiro, World War 3 e fome em grande escala
- Afirma-se categoricamente que publicidade, discriminação de preços e manipulação em massa com big data, machine learning e psicologia não são aceitáveis
- O capitalismo moderno seria wireheading, e só aprenderemos essa lição depois de oferecer a maioria dos clientes a Moloch
1 comentários
Opiniões do Hacker News
Para algumas pessoas, pagar mais para furar a fila é o objetivo em si. Mas elas não previram que, quando todo mundo passa a pagar pelo premium, a fila volta a se formar na frente delas
Usuários de milhas aéreas na Austrália em geral estão nessa situação: antes havia benefícios porque a barreira de entrada era alta, mas, à medida que o trabalho FIFO popularizou os níveis de clube, a vantagem no embarque praticamente desapareceu, e quase não há passagens-prêmio
Por isso, quando a busca por status e a busca por preços diferenciados são usadas como arma contra o consumidor, acho correto chamar isso de padrão antissocial. A Uber entrou no mercado até dando garantias a pessoas dispostas a infringir a lei, e eu não gostava dela porque continuava desviando lucros para o exterior, mas o serviço de táxi ficou tão ruim que agora acabamos acostumados à Uber e à tarifa dinâmica
Na Austrália, o fato de PayWave e serviços de alimentação terem ganhado função de gorjeta também deixa todo mundo desconfortável. Não combina com a Austrália. Como existe salário mínimo legal e adicionais, esse recurso deveria ser desativado
Também há bastante deboche com a iniciativa na Europa de tornar obrigatória a inclusão de bagagem nas passagens aéreas, mas ainda existem verdadeiros fiéis que veem a necessidade de roupa íntima limpa como fraqueza
Sei que os funcionários recebem pouco, mas, se começarmos a dar gorjeta, os salários cairão ainda mais e todos ficarão em situação pior: é uma ladeira escorregadia
Hoje é possível chamar um carro com relativa rapidez em qualquer lugar. As práticas de negócios predatórias contra motoristas e passageiros são graves e exigem regulação mais forte, mas não quero voltar ao modelo antigo
A tarifa dinâmica da Uber aqui também oscila muito em poucos minutos, tipo 40→50→38 euros, então basta olhar o app por um tempo e chamar quando aparecer um bom preço. Táxis quase sempre custam o dobro, no aeroporto chegam a custar o triplo, muitas vezes são rudes, e nem dá para avaliar, então quase não uso
Na última vez que peguei um táxi, a corrida até o aeroporto levava 10 minutos e a Uber estava 15 euros; o taxista de verdade simplesmente disse para eu pagar 15 euros, então entrei, mas cobrou 72 euros de outro passageiro que entrou no mesmo carro depois. Ou seja, ganhou quase 90 euros por uma corrida de 10 minutos
Deixar de usar Uber por não gostar dela torna a vida inconveniente demais em comparação com o que se ganha. O setor de táxis precisava de um choque e parece que ainda não aprendeu nada. É preciso reservar com antecedência, os apps são ruins e é muito mais caro. Com duas ou mais pessoas, muitas vezes sai mais barato que o trem, o que é bem estranho em um país onde “deveríamos pegar o trem sempre que possível”
Não se deve subestimar a antiga reação humana de evasão quando se sente manipulado
Isso não é teoria, é algo que está acontecendo agora. A moda do detox digital, o retorno dos feature phones entre os jovens, a migração de feeds públicos para DMs privadas e a geração do “não perturbe” são todos o mesmo fenômeno. As pessoas sentem a manipulação e estão escapando, desligando uma notificação de cada vez
Detox digital e a volta dos feature phones também já viraram mercado; é só “lifestyle”. As pessoas não sentem a manipulação. Até a percepção da manipulação virou mercado, e certamente deve haver YouTubers se dando bem com isso
A pergunta interessante é até que ponto dá para enganar algoritmos de perfilamento. O mais importante é saber se consigo fazê-los acreditar que sou algo que não sou, e o quanto consigo quebrá-los
Removi o começo do link watch?v=9h9wStdPkQY por causa da linguagem e do conteúdo, mas você deve saber o que fazer e provavelmente também de quem é o vídeo
“Não se importar” funciona no nível individual, mas a evasão parece precisar funcionar no nível coletivo. Não sou especialista em ciências sociais, mas acho que, para a evasão levar a uma mudança positiva, ela precisa estar combinada com a teoria das janelas quebradas. O problema é que muita gente já está nessa fase de evasão
Em um clima desagradável para todos, o ambiente se deteriora em conjunto, mas a mudança coletiva induzida não acontece. Feature phones e detox digital são mais exceções; na prática, os padrões aceitáveis estão sendo sistematicamente rebaixados. Pior ainda é que isso ocorre em nome da igualdade e da inclusão, enquanto os desequilíbrios entre grupos aumentam
Depois do Occupy Wall Street e da Primavera Árabe, “não se importar” virou moda. Isso contrastava com a auto-otimização, growth hacking e estilo de vida orientado por dados, mais próximos do marketing corporativo; também ressuscitou morfemas como hyper/super/über, por nostalgia do boom econômico dos anos 80 e 90, e o aceleracionismo neoliberal de livre mercado e o Bitcoin se encaixaram nessa corrente
“Não se importar” era uma crítica aos sistemas existentes que capturam a atenção para enfatizar a individualidade do cidadão, mas políticos e operadores de empresas entenderam isso erroneamente como focar mais na própria carreira do que nas responsabilidades de seus cargos atuais. Em um mundo cada vez mais conectado, eles também deixaram de “se importar”
https://en.wikipedia.org/wiki/Broken_windows_theory
https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...
A ideia de que, se o governo abrir para cada pessoa, ao nascer, uma conta de S&P 500 de 1.000 dólares, isso vira uma fonte de financiamento da Previdência Social, tem um bom ponto. No fim das contas, esse dinheiro se torna uma entrada garantida nas maiores empresas e nas empresas que se acredita que um dia crescerão, mais uma forma de redistribuir dinheiro público para empresas privadas
Um exemplo parecido é que a renda básica parece evidência de uma economia sem dinamismo. É uma aprovação e um reconhecimento, na prática, de que “você provavelmente não vai encontrar um emprego digno para sustentar você e sua família, então o governo vai lhe dar dinheiro para viver confortavelmente enquanto existir”
Acho que uma economia de mercado democratizada precisa de algo próximo de uma renda básica, e vejo os países escandinavos como sustentação para esse argumento
ETFs precisam fazer rebalanceamento, então aumentam e reduzem posições em certas ações e, às vezes, também as excluem. Ao comprar SPY, você fica exposto não só às empresas que fazem parte dele hoje, mas também às que entrarão no futuro
Quando uma empresa é removida de um índice, a ação pode cair bastante porque o ETF se move mecanicamente. “Bastante” é relativo, mas um exemplo é a queda considerável da PLTR na semana passada depois de sair do Russell 2000
Em geral evito os textos não técnicos do George porque me parecem pouco inspirados, mas este aqui de fato faz sentido
Claro que isso provavelmente não vai levá-lo a uma autorreflexão sobre sua relação com as pessoas que ele costuma elogiar e com quem convive, mas pelo menos talvez outras pessoas consigam olhar para dentro e agir de forma diferente
Algo precisa mudar. Também parece que esse sentimento cresceu no HN nos últimos anos. Talvez eu só tenha passado a enxergar melhor, mas talvez o problema não seja a existência do Grape em si, e sim de onde ele veio
O autor deveria começar pelo próprio produto. Ele para de funcionar se não se conectar à internet pelo menos a cada 14 dias
https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...
https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
Trabalhei nos primeiros navegadores e na infraestrutura moderna da internet, e também participei da construção da infraestrutura de nuvem em hiperescala que tornou a internet atual possível. Tive participação em muita coisa que está acontecendo e sentia sinceramente que estava criando algo melhor
Então surgiu o papel de gerente de produto, e passei a me arrepender de tudo que fiz
Administrei um pequeno negócio por muito tempo, construí uma empresa viável e, mais tarde, caí na tentação de trabalhar como gerente de produto em uma empresa de tecnologia bem grande. Era algo muito distante do que eu conhecia sobre criar ótimos produtos, mas combinava muito bem com empurrar as coisas adiante do jeito que aprendi fazendo “tudo” em uma empresa pequena. Tive muitos resultados, mas sofri quase o tempo todo com burnout e ansiedade
Também participei de softwares de nuvem e open source muito populares, mas detestei a maior parte disso. Detestei especialmente a forma como a gestão de produto e o complexo industrial da gestão de produto separam esse papel da realidade, ao mesmo tempo em que exigem que ele corrija as besteiras de fundadores, executivos C-level e da velha guarda. Também cansei dos quadros do Miro e dos intermináveis threads de comentários no GDocs
Por isso abri mão até de uma remuneração alta, saí da organização de produto e voltei a construir coisas
Não é que eu discorde; só queria ouvir mais sobre sua experiência pessoal com a ascensão do papel de gerente de produto. Ainda assim, também acho que não dá para culpar apenas PMs e a cultura centrada em PM. Ainda não encontrei uma equipe de liderança cujos comportamentos e decisões eu respeitasse ou conseguisse tolerar, e claro que há uma grande chance de o problema ser eu
O título vem de um esquete do programa britânico That Mitchell and Webb Look: https://www.youtube.com/watch?v=h242eDB84zY
Dr Death também é uma interpretação perfeita para a tecnologia moderna
https://m.youtube.com/watch?v=Skl71urqKu0
https://www.youtube.com/watch?v=uRbj1Q4tXNo
É só sair e falar com as pessoas. Não existe exatamente um fosso em torno dos apps de namoro, e os seres humanos ainda existem em espaços físicos
Ainda não vi um contrato de app de namoro proibindo que estranhos se abordem casualmente. Casamenteiros também ainda existem
Vejo textos assim como uma espécie de mapa de calor demográfico interessante. Porque isso significa que alguém que antes só seguia os próprios interesses, como no caso dos hacks do geohot, agora reconheceu um problema e se sentiu motivado o bastante para escrever sobre ele
Na minha visão, geohot está bem no meio desse mapa, e bem fundo nele
Precisamos de uma aldeia moderna. Não deveríamos tomar todas as decisões apenas de forma individualista e autocentrada; deveríamos nos ajustar às demandas e necessidades uns dos outros. Mesmo sabendo que os pais estão errados, às vezes não é preciso impor a própria opinião. É hora de cultivar uma sociedade interdependente, em vez de nos tornarmos seres completamente fragmentados e transacionais
Dito isso, venho sentindo as mesmas emoções que Hotz expressou neste texto, e aprecio o fato de ele as ter colocado em palavras
A resposta é “sim”, e a resposta para o quão ruim é: realmente ruim. Os seres humanos nunca entenderam antes o quanto a cooperação inata é essencial, nem o quanto ela é frágil
O que aconteceria se tirássemos de uma colônia de formigas a capacidade de usar trilhas de feromônio?
O que aconteceria se usássemos as trilhas de feromônio de uma colônia de formigas para fazer algumas formigas obterem “lucro” às custas de outras?
As formigas talvez tenham pouquíssima autoconsciência, mas e se acrescentássemos consciência a elas, disséssemos que estão sendo manipuladas e então repetíssemos os dois experimentos acima?
Uma boa maneira de entender sistemas adaptativos complexos como os que os humanos usam é criar diretamente um sistema desse tipo. “Hidden Order”, de John Holland, dá pistas sobre esse método