- O ponto central do discurso de Eric Schmidt não está na vaia sobre IA, mas na forma como ele reconhece os efeitos colaterais da internet enquanto obscurece onde está a responsabilidade
- Seu período na liderança do Google coincide com a época em que se consolidaram modelos de negócio da internet como publicidade, coleta de dados, manipulação de comportamento e testes A/B
- A ideia de que a “mesma ferramenta” serviu tanto para coisas boas quanto ruins faz com que os dark patterns pareçam subprodutos, e não estruturas projetadas
- Embora ele incentive os estudantes a entrar nas salas onde as decisões sobre IA são tomadas, falta uma análise de falha sobre o que deu errado nas tecnologias anteriores
- Para que a IA não siga o mesmo caminho da internet, é preciso reconhecer que as partes ruins do passado não surgiram sozinhas, mas foram construídas por pessoas
Responsabilidade diluída no discurso de formatura
- O discurso de formatura de Eric Schmidt na University of Arizona ficou conhecido pela cena em que suas falas sobre IA foram vaiadas, mas a parte mais importante está na primeira metade, quando ele reconhece os efeitos colaterais da internet
- Schmidt diz que acreditava que conectar todas as pessoas do planeta e fornecer as informações do mundo levaria à democratização do conhecimento, à redução da pobreza e a uma sociedade mais sábia e gentil
- Ao mesmo tempo, ele reconhece que as mesmas ferramentas também isolaram as pessoas, que plataformas que deram voz a todos prejudicaram a esfera pública, recompensaram a indignação, amplificaram os piores instintos e tornaram mais áspera a forma como as pessoas falam e se tratam
- Ele afirma que ninguém queria criar uma tecnologia que polarizasse a democracia e deixasse a geração mais jovem ansiosa, e formula isso como: “não era esse o nosso plano, mas foi isso que aconteceu”
- Enquanto fala de forma ativa sobre os resultados positivos que esperava, ele trata os resultados negativos com uma formulação passiva, como algo que simplesmente “aconteceu”, diluindo assim onde está a responsabilidade
Sua posição como executivo do Google
- Schmidt ocupou o cargo de CEO do Google e outros papéis de liderança entre 2001 e 2017, período que coincide com a fase em que os dark patterns do negócio da internet foram desenvolvidos e se consolidaram no setor
- O Google é tratado como uma das empresas que lideraram os modelos de negócio da internet baseados em publicidade, coleta de dados, manipulação do comportamento do usuário e na lógica de testar tudo com A/B
- Se Steve Wozniak dissesse, ao falar da época em que criou os primeiros computadores da Apple, que não pretendia um ecossistema fechado nem o controle dos dispositivos, isso poderia soar sincero; aplicar a mesma distância a Schmidt é bem mais difícil
- O texto problematiza a postura de Schmidt de se enxergar apenas como alguém que criou uma “ferramenta”, um mecanismo de busca, separado das camadas de empresa de publicidade, empresa de coleta de dados, modificação de comportamento e dark patterns
- A ideia de que a “mesma ferramenta” foi usada para um X positivo e um Y negativo faz com que os maus resultados pareçam subprodutos de um objetivo nobre, e não estruturas pensadas e construídas
As falas sobre IA e a vaia dos estudantes
- Na parte final do discurso, Schmidt diz aos estudantes para entrarem na sala onde são tomadas as decisões sobre IA, fazerem suas vozes serem ouvidas e levarem valores e julgamento humanos para esse espaço
- Ele afirma que a tecnologia, por si só, é apenas uma ferramenta, que cabe às pessoas decidir o que será otimizado, e que, ao longo da vida dos formandos, esse “alguém” serão eles mesmos
- A mensagem prossegue com a defesa de “liberdade”, “debate aberto”, “o projeto lento, confuso, mas belo de viver com pessoas que pensam diferente”, “igualdade” e “perspectivas diversas”
- Esses estudantes nunca viveram, como gerações anteriores, outra forma de tecnologia: só conhecem uma tecnologia de dark patterns em que não se possui de fato o que se usa, os dados ficam armazenados por terceiros, o comportamento é rastreado, os dados são vendidos e as pessoas viram alvo de publicidade
- Quando um dos principais tomadores de decisão do ciclo tecnológico anterior diz a esses estudantes que entrem com entusiasmo na próxima onda tecnológica, isso ganha um significado mais complexo do que uma simples vaia por antipatia à IA
O que faltou foi pedido de desculpas e análise de falha
- Schmidt reconhece que os maus resultados do passado ocorreram durante seu período de liderança e dentro do espaço de decisões em que atuava, mas não oferece uma reflexão sobre por que houve fracasso
- Falta explicar por que se permitiu a criação de camadas tecnológicas e comerciais ruins sobre ferramentas úteis, por que isso não foi impedido e em que pontos cabe responsabilidade
- O conselho realmente valioso para os estudantes não seria apenas entrar nas salas da nova tecnologia, mas receber uma análise concreta sobre o que deu errado na tecnologia anterior e quais decisões produziram esses resultados
- O medo em relação à IA não nasce de uma abstração tecnológica, mas da lembrança de que os tomadores de decisão do Vale do Silício, quando controlaram a tecnologia nova anterior, construíram sua versão baseada em dark patterns
- Sem pedido de desculpas pelo passado, reconhecimento de responsabilidade e um caminho para evitar repetição, sobra apenas a formulação passiva de que “foi isso que aconteceu”, o que aumenta a desconfiança de que a IA seguirá na mesma direção da internet
Condições para impedir a próxima repetição
- As partes ruins da internet não surgiram sozinhas depois que a ferramenta foi liberada ao público; elas são resumidas aqui como resultado de pessoas que de fato construíram as partes ruins
- Para que a IA não siga o mesmo caminho da internet, é preciso reconhecer por que isso aconteceu e quais decisões levaram a esse resultado
- Não só a próxima geração de Schmidts, mas também figuras como o próprio Schmidt, que ainda hoje têm influência no Vale do Silício e em Washington DC, precisam ser levadas a reconhecer que decisões passadas moldaram o ambiente tecnológico atual
- Sem reconhecimento e reflexão por parte de quem teve responsabilidade, existe o risco de que os mesmos modelos de negócio e dark patterns se repitam na próxima tecnologia
- A conclusão de que da próxima vez é preciso fazer melhor não parte de um otimismo tecnológico abstrato, mas de uma forma responsável de lidar com os fracassos do passado
Quer continuar recebendo tópicos de tecnologia selecionados?
Siga o canal no Telegram. @GeekNewsBrasil
1 comentários
Opiniões no Lobste.rs
Para quem quiser ler em texto, há uma transcrição
Valeu a pena assistir. Casey já é uma pessoa inteligente por natureza, mas este tema era um assunto muito mais pesado do que as discussões técnicas que ele costuma abordar
Schmidt diz aos estudantes algo como “tragam humanidade para a sala onde são tomadas as decisões sobre tecnologia”, e isso soa plausível. Mas, olhando para como as coisas estão funcionando agora, as decisões sobre tecnologias que afetam todo mundo, como a IA, estão sendo tomadas por outras pessoas, e o restante de nós parece nem estar naquela sala
Como o texto aponta, o ponto-chave é a parte em que o tom de fala muda de repente para uma voz completamente passiva. Ele não diz “nós fizemos isso, houve maus resultados, e a culpa foi nossa”, nem “cometemos erros terríveis”, nem “fracassamos desta forma”
Joseph Weizenbaum já apontava o mesmo problema em 1976, em Computer Power And Human Reason. Até altos executivos se descrevem como vítimas inocentes de tecnologias pelas quais não assumem responsabilidade nem compreendem, e a responsabilidade desaparece numa lógica de que “na tragédia houve ações, mas não houve agentes”. O mito da inevitabilidade tecnológica, política e social funciona como um poderoso sedativo que paralisa a consciência e alivia a responsabilidade dos ombros dos agentes que de fato existem
Repete-se a ideia de que “o sistema é responsável, não as pessoas”, e até a pergunta sobre se queremos esse futuro desaparece. Fica só a atitude de que isso está chegando, não pode ser impedido e não pode ser revertido
É perturbador, mas captou muito bem as minhas preocupações. Sou um dos filhos da internet desta era, então este vídeo deu nome a essa sensação
Casey se subestimou demais. É um vídeo muito bem feito e combina bastante com a reação que eu tive ao ver os principais trechos daquele discurso
E a referência a I Think You Should Leave também foi engraçada. Tem muita coisa aqui com aquela energia de “estamos todos tentando encontrar o cara que fez isso”
Essa postura de “nós só queríamos construir um mundo melhor, mas de alguma forma coisas ruins aconteceram” revela muita coisa. Eric Schmidt é literalmente hipócrita e, como muitas pessoas que causaram dano com suas ações, está racionalizando o próprio comportamento
Outro eixo importante é a questão geracional. A geração de Schmidt concentra poder político e econômico em excesso. Os jovens de hoje não são idiotas e estão vendo o que está acontecendo. Suas vidas são controladas por pessoas mais velhas, que dizem à geração mais nova que ela deve suportar insegurança no emprego, dificuldades econômicas, tecnologia distópica e crise ambiental. E então dizem que tudo isso “simplesmente aconteceu”, mas todo mundo sabe que foram essas pessoas que criaram essa situação. Não é surpresa que os estudantes vaiem. Eu teria feito o mesmo