- Score de crédito, recomendações no LinkedIn, avaliações da Uber e outros apps do dia a dia já funcionam como sistemas de crédito social
- Há um grande mal-entendido no Ocidente sobre o sistema de crédito social da China, mas na prática ele é limitado e descentralizado
- As sociedades ocidentais estão construindo vários sistemas de pontuação comportamental, e a infraestrutura para conectá-los também está avançando
- Com compartilhamento de dados e colaboração entre empresas e governos, além de altos custos de migração, na prática fica difícil escapar
- No futuro, se as regras e pontuações se tornarem mais transparentes, os usuários também poderão entender as regras do jogo e fazer escolhas
O sistema de "crédito social" que já existe
- Score de crédito, recomendações do LinkedIn, avaliação de passageiros da Uber, métricas de engajamento do Instagram, avaliações da Amazon, status de anfitrião no Airbnb: tudo isso são sistemas de crédito social que rastreiam e pontuam o comportamento dos usuários e, com base nisso, determinam acesso, oportunidades e posição social
A ampliação do conceito de crédito social
- Originalmente, crédito social (social credit) era um conceito econômico de distribuir os lucros da indústria para aumentar o poder de compra dos consumidores
- Hoje, passou a significar qualquer sistema que rastreia comportamentos, atribui pontuações e usa essas notas para determinar acesso a serviços e status social
A realidade em que já vivemos
- Sempre que algoritmos avaliam confiabilidade, responsabilidade e valor social, estamos participando de um sistema de crédito social
- Essa avaliação acontece de forma invisível em inúmeras plataformas e já está sendo aplicada a toda a vida prática
- A diferença em relação à China é que o governo chinês explica isso abertamente, enquanto o Ocidente esconde sob o rótulo de "experiência do usuário"
Crédito social na China: equívocos e realidade
- No Ocidente, o sistema de crédito social da China costuma ser imaginado como uma forma de vigilância totalitária, mas, na prática, em 2024 não existe um sistema nacional unificado
- Com a extinção de muitos sistemas privados de pontuação e o encerramento de pilotos locais, hoje ele está limitado sobretudo à supervisão financeira e corporativa
- A pontuação de comportamento individual permanece restrita a cidades-piloto ou experimentos limitados, com alcance e impacto bastante reduzidos
- Na prática, o que se rastreia na maior parte dos casos é o descumprimento de decisões judiciais (dívidas, multas não pagas etc.)
A realidade do Ocidente: pontuação descentralizada e infraestrutura de conexão
- Existem perfis comportamentais por plataforma em score de crédito, Uber, Instagram, LinkedIn, Amazon e outras, e eles determinam acesso a serviços, oportunidades e conexões sociais
- Alguns credores alternativos usam até perfis de redes sociais na avaliação de crédito
- Apps de pagamento e serviços financeiros analisam os padrões de pagamento e o comportamento transacional dos usuários para montar perfis de risco ainda mais abrangentes
- O LinkedIn usa visibilidade baseada em algoritmo e avaliação da capacidade de conexão em rede; Amazon e Instagram também intensificam o uso de dados comportamentais
- Esses sistemas ainda não estão totalmente integrados, mas a infraestrutura para conectá-los entre si está sendo criada gradualmente
Transparência e regras
- Na China, mesmo que de forma descentralizada, os critérios de avaliação muitas vezes são públicos
- Já nas empresas ocidentais, os critérios de decisão algorítmica ficam escondidos como uma completa caixa-preta
Empresas vs. governo: diferença essencial e realidade
- Altos custos de migração entre plataformas (ex.: ecossistema do Google, rede do LinkedIn)
- As informações comportamentais/de crédito de cada plataforma estão sendo cada vez mais compartilhadas, integradas e usadas em colaboração, ampliando seu impacto
- Os governos também usam dados corporativos por meio de procedimentos legais e compra de dados, entre outras vias
Por que os sistemas de crédito social estão se expandindo
- Internacionalmente, os sistemas de crédito social resolvem problemas como prevenção de fraudes, promoção de cooperação e indução de comportamento em larga escala
- As sociedades ocidentais já caminham na direção de uma pontuação comportamental mais abrangente e integrada
- A Europa está reforçando a integração entre identidade digital e pontuação
- Algumas cidades dos EUA fazem experimentos com incentivos comportamentais
- Grandes plataformas estão ampliando o compartilhamento de dados de reputação, e serviços financeiros estão adotando análise de redes sociais
O futuro que nos espera e as escolhas possíveis
- Se o sistema passar a divulgar as pontuações comportamentais com mais transparência e as regras se tornarem visíveis, os usuários poderão entender quais ações afetam sua nota
- Se as recomendações baseadas em algoritmos forem, na prática, avaliações ocultas de crédito social, talvez seja melhor um sistema que ao menos revele seus critérios de avaliação
- Ao entender as regras, o usuário pode decidir ativamente se quer participar desse jogo
Conclusão
- No futuro, é possível que o sistema de crédito social ao estilo chinês influencie cada vez mais as plataformas ocidentais e evolua na direção de tornar mais públicas as regras e estruturas das pontuações comportamentais
- Este é o momento de entender como o sistema funciona e reconhecer que você também é um jogador desse jogo
1 comentários
Comentários do Hacker News
Aponta que, na mídia e no discurso dos EUA, a vida sob regimes autoritários é retratada de forma muito distorcida. Diz que, na prática, em muitos países, a não ser em situações específicas como ser minoria, ativista político ou criminoso, o cotidiano não é tão diferente do Ocidente. Mas a maioria das pessoas não quer ouvir isso, porque quer acreditar que jamais toleraria esse tipo de vida. Também há uma tendência de negar o avanço do autoritarismo nos países ocidentais justamente porque as pessoas não o sentem de forma direta. Claro, a vida não é completamente igual, mas a sensação é que o impacto do autoritarismo se infiltra de maneira mais sutil do que se imagina
Fala da experiência de ter vivido sob vários sistemas políticos em diversos países, inclusive em zonas de guerra. Ainda assim, diz que o cotidiano real era quase sempre parecido. Ir às compras, trabalhar, encontrar amigos, tomar uma bebida, comer fora, ir a casamentos — os padrões de vida se mantêm surpreendentemente semelhantes em muitos lugares. Explica que, no Ocidente, a forma de retratar países não pertencentes à OCDE e não democráticos cria um sentimento equivocado de superioridade, embora sofram dos mesmos problemas: concentração de riqueza, pobreza, minorias perseguidas, participação política meramente formal, polícia perigosa e corrupção. Claro, isso não significa que todos os países sejam idênticos; diferenças culturais e geográficas se destacam mais do que as políticas
Diz que, durante um tempo, ao viver como imigrante ou estrangeiro iniciante, a realidade local não aparece muito. Mas, à medida que se aprende a língua e se olha mais a fundo, começam a surgir problemas como relações familiares pouco confiáveis, hierarquias de suborno e incompetência, ausência de proteção legal e uma sociedade de classes sem esperança. E, se isso já acontece em tempos normais, quando a guerra começa a maioria étnica passa a perseguir e expulsar as minorias
Diz que, no curto prazo, tudo pode parecer parecido, mas explica por que tantos imigrantes instruídos de classe média alta queriam originalmente emigrar para os EUA. Como a inovação, a força econômica e o poder militar dos EUA também seriam afetados se a corrupção se tornasse generalizada, enfatiza que a corrupção — ou a questão da confiança social — precisa ser mitigada
Mesmo que a vida seja parecida para quem não é minoria, ativista político ou alvo de problemas legais, é justamente por isso que prefere governos liberais ocidentais. Considera esse ideal algo pelo qual vale criticar governos autoritários e lutar para preservar no Ocidente
Compartilha a experiência de ter vivido na China e diz que, para um cidadão comum, o cotidiano em geral parece bastante normal. Claro, há questões de equilíbrio entre vida e trabalho, como em outras partes da Ásia, mas não era um ambiente de controle estatal extremo como a antiga Rússia (aquela descrita por escritores russos) ou a RDA. Até sob regimes fascistas, se a pessoa não pertence a uma minoria “impopular” e permanece alheia, o cotidiano pode ser tranquilo. Só que esse tipo de vida dura apenas até a guerra começar
Conta problemas com o sistema de crédito que enfrentou ao se mudar do Canadá para a Califórnia por causa de um novo emprego. Mesmo com salário alto, teve dificuldade para conseguir moradia por não ter pontuação de crédito, e resolveu isso pagando um ano de aluguel adiantado. O processo de transferir uma grande quantia do Canadá para os EUA também não foi simples. Na compra de um carro, o concessionário recusou o negócio porque o SSN recém-obtido ainda não aparecia no sistema, então não foi possível confirmar a identidade. Por outro lado, o histórico longo como cliente da Amex foi reconhecido também nos EUA, e por isso conseguiu com facilidade um cartão de crédito de alto limite. Acha que já vivemos em um sistema de crédito social operado por empresas, e que isso talvez seja até melhor para o consumidor
Considera que a pontuação de crédito, em princípio, deveria medir a confiabilidade financeira, mas na prática muitas vezes serve para bloquear arbitrariamente o acesso
Explica que teve quase a mesma experiência ao se mudar para o Canadá há 15 anos. Mesmo trabalhando no setor de tecnologia, sem nenhuma dívida e com poupança suficiente, não conseguiu cartão de crédito por muito tempo por falta de histórico, e não podia alugar sem fiador. Após passar por situações semelhantes em vários países, percebeu que, na prática, muitas comunidades discriminam imigrantes. O igualitarismo é um ideal, mas sentiu na pele como compadrio e preconceito estão profundamente entranhados nas instituições
A pontuação de crédito é totalmente administrada por empresas. Diz que não consegue entender qual é exatamente o modelo de negócios delas
Acha que a Amex lida com esse tipo de problema com bastante flexibilidade. Conseguiu receber facilmente um cartão pessoal mesmo sem pontuação de crédito, e isso provavelmente ajudou porque já tinha histórico de uso de um cartão corporativo da Amex
Compartilha um antigo comentário do HN dizendo que “também existe crédito social na vida real”. Por exemplo, se você for rude com um bartender, sua reputação naquele bar piora; se virar voluntário, constrói reputação naquela organização. Mesmo sem algoritmo, as pessoas lembram
Se quiser, sempre dá para se mudar para outra cidade e recomeçar. O problema de um sistema centralizado de crédito social é que a reputação te acompanha para sempre. Se um registro incorreto ficar marcado por engano, não há como obter reparação. Entre pessoas, dá para resolver diretamente; o sistema não funciona assim
A reputação do mundo offline (crédito social) em geral é frouxa, local e muda ou desaparece com o tempo. Já o crédito social digital te acompanha por toda a vida como uma pontuação automatizada e impõe consequências absolutas
Diz que algumas pessoas acham que o bartender realmente se lembra muito bem dos clientes, mas, na prática, em um único turno acontecem vários casos piores, então a maioria nem presta atenção. Em organizações sem fins lucrativos, com o tempo os responsáveis mudam e ninguém mais se lembra dos antigos voluntários. Dar peso excessivo a esse tipo de coisa é efeito do “spotlight effect”
A diferença da reputação offline é que todas as relações acontecem em lugares físicos e no contexto local. É preciso haver valor concreto na interação. Mesmo que alguém fique com má reputação em um lugar, isso não a acompanha ao se mudar para outro
A reputação sempre foi uma espécie de crédito social; a diferença moderna está na escala e na transparência
Explica, com exemplos, a diferença entre o sistema de registros da China e os de outros países
Enfatiza que existe uma diferença essencial quando um único poder central controla o crédito social e a lei não consegue proteger o indivíduo desse poder. Fora isso, as pessoas sempre avaliaram umas às outras de diversas maneiras
No momento em que uma autoridade central passa a controlar uma “pontuação” de crédito social, isso deixa de ser simples feedback social e vira poder estrutural
Ressalta que é preciso entender corretamente a situação recente da China. Diz que, mesmo em 2024, não existe um sistema nacional de pontuação de crédito pessoal, e que a maior parte disso ainda se limita a ferramentas de supervisão financeira e corporativa. Observa que os EUA já têm um sistema de pontuação de crédito criado por três agências privadas completamente integrado às finanças, mas que, se fosse introduzido um crédito público, pelo menos haveria mais transparência e mecanismos de controle. Critica a realidade em que Equifax, Experian e outras vazam dados e praticamente não enfrentam responsabilidade
Claro que as pessoas sempre julgam umas às outras, mas se empresas me avaliam e vendem isso como “serviço”, a diferença é enorme
Dá o exemplo da Amazon para explicar que a minha taxa de compras/devoluções não é compartilhada com terceiros
Sobre a afirmação de que “a diferença entre o crédito social da China e o celular é que a China pelo menos fala honestamente o que está fazendo”, rebate dizendo que você pode escolher entre vários celulares e até não usar nenhum, enquanto não há como escapar completamente do sistema de um Estado. Mesmo que o custo de mudar entre sistemas empresariais seja alto, ele é muito menor do que o custo de mudar de país. O aumento da cooperação entre sistemas privados também pode ser um problema, mas ainda assim é algo fundamentalmente diferente do controle total exercido por um Estado. Se um governo compra dados privados para restringir direitos fundamentais, aí sim está o verdadeiro perigo (por exemplo, o congelamento de contas ligadas a doações para protestos no Canadá), mas a questão não se resume simplesmente à compra de dados. Por fim, observa que há controvérsia sobre o que exatamente define “crédito social” em sua essência
Sobre histórias como “se comprar álcool demais na China sua pontuação cai”, compartilha a experiência de sua primeira viagem ao país, quando ainda era menor de idade, e pôde comprar bebida sem qualquer restrição. Diz que pareceu muito mais frouxo do que nos EUA. Também acha mais eficiente não rastrear por lei a quantidade de álcool comprada, e sim punir o resultado — por exemplo, quando há problema decorrente de embriaguez em público
Com base na experiência de ter esposa chinesa e familiares chineses, explica que o consumo de álcool por menores na China é visto mais como questão familiar. Se um adolescente de 16 anos fica bêbado, família e amigos ao redor se preocupam mais com a reputação, e a polícia só intervém por último. Na verdade, sente que a China tem muito menos desordem relacionada ao consumo de álcool em espaços públicos do que o Ocidente
Se alguém compra muito álcool para preparar uma festa ou aproveitar uma promoção, seria irracional perder pontos automaticamente, porque compra não significa consumo imediato
Enfatiza que já existem no Ocidente sistemas parecidos com os da China, só que com menos regulação. Crédito social não é um conceito novo, nem necessariamente um controle ao estilo Orwell. O abuso desses sistemas por governos ou empresas acontece porque não os administramos, regulamos ou exigimos transparência. Aceitar a realidade de que esses sistemas já existem é o primeiro passo para encontrar um consenso social de que é preciso regular a coleta e retenção de dados e o acesso do governo a dados privados. Insiste que o estado atual beneficia apenas o capital e prejudica a democracia e os direitos civis, então mudanças são necessárias
Do ponto de vista de que sistemas de crédito ou reputação são resultado natural da evolução do mercado, cita o caso da Suécia para explicar que “consulta de crédito” já é algo muito comum há muito tempo. Menciona também o fenômeno recente de empresas desenvolverem pontuações de crédito do consumidor e fazerem com que a própria pessoa precise pagar uma assinatura para poder consultar sua pontuação. Esse processo seria, em essência, um movimento das empresas para confirmar o valor do consumidor, administrar riscos e custos e tornar as transações mais eficientes
Explica por que escolheu agir em comunidades sem xingamentos nem confusão. No passado, na época da UseNet, costumava fazer trolling e escrever mensagens agressivas, mas isso foi uma experiência muito negativa. Hoje, age de acordo com seu padrão pessoal de integridade e com a ideia de ser um membro produtivo da sociedade. Busca esse comportamento por motivos importantes para si mesmo, mais do que por avaliação alheia ou reputação