Por que não posso deixar de dizer adeus: a liderança do Google perdeu a bússola moral
(mayrhofer.eu.org)- O responsável pela segurança do Android decidiu pedir demissão e enviou uma carta de despedida aos colegas, citando a perda de direção ética da liderança do Google como motivo
- Em 2017, aceitou a proposta para o cargo de Director of Android Platform Security; na época, o Google era uma empresa com cultura voltada ao interesse público, com meta de neutralidade de carbono, cancelamento de contrato com o Pentagon e princípios de IA
- Durante o período em que esteve no cargo, alcançou resultados de proteção ao usuário como criptografia completa do dispositivo ativada por padrão, backup com criptografia de ponta a ponta e Insider Attack Resistance
- Recentemente, o Google abandonou a meta de neutralidade de carbono e fechou um contrato de IA com o Ministry of War dos EUA; o fato de a alta liderança ter decidido isso sem discussão interna foi a causa direta da demissão
- Como pacifista e acadêmico europeu, a mensagem central é que ele não pode se envolver em trabalho para um exército que conduz guerra de agressão, e teme que esse contrato possa levar à vigilância sobre ele mesmo e outros cidadãos da UE
Contexto da entrada na empresa e o Google do início
- Em 2017, não conseguiu recusar a proposta para o cargo de Director of Android Platform Security; Trump já era presidente, mas parecia contornável, e acima de tudo o Google de 9 anos antes era uma empresa diferente
- O Android era open source first e tinha acabado de ultrapassar 2 bilhões de usuários
- Desde 2009, pesquisava segurança do Android de fora, mas mesmo com o código aberto era muito difícil ter contato direto com a equipe interna do Android
- Era a oportunidade de liderar por dentro o sistema operacional open source baseado em Linux mais usado do mundo, e ele expressa gratidão pela confiança de Dave Kleidermacher e Nick Kralevich
- Como acadêmico e professor titular de segurança da computação, era o posto no Vale do Silício que mais correspondia ao espírito acadêmico e aos princípios éticos em prol do interesse público
- Quando entrou, esperava-se e acolhia-se que um Googler levasse sua identidade e seus valores para o trabalho, e a cultura era transparente e aberta a diferentes debates
Os antigos valores do Google voltados ao interesse público
- A meta da empresa era alcançar a neutralidade total de carbono, e após funcionários se manifestarem contra, o contrato com o Pentagon foi cancelado (ele assinou a carta aberta de 2018)
- Os Princípios de IA anunciados por Sundar Pichai em 2018 definiam áreas que a empresa não buscaria
- Armas e tecnologias que causem dano ou o promovam diretamente
- Tecnologias de coleta e uso de informações para vigilância que violem normas internacionais
- Tecnologias contrárias ao direito internacional e aos princípios de direitos humanos
- "Don't Be Evil" não era apenas um slogan, mas a estrela-guia (north star) para tomar decisões difíceis
- O lema da equipe de Android Security era: "Se o aparelho custa 1.000 dólares ou 100 dólares, se o usuário é uma celebridade ou um refugiado, nós o tornamos seguro a ponto de nem nós mesmos conseguirmos quebrá-lo"
- A equipe protegia os interesses dos usuários como prioridade máxima, colocando-os em primeiro lugar mesmo quando isso entrava em conflito com interesses comerciais de outros apps e serviços do Google
Resultados de segurança durante o período no cargo
- No Android 10, fez a indústria avançar ao aplicar criptografia completa do dispositivo por padrão até nos aparelhos mais baratos
- Enquanto o debate se concentrava na Apple, o Google introduziu discretamente o backup do Android com criptografia de ponta a ponta, estabelecendo um padrão de fato que continua relevante nas discussões entre aplicação da lei e privacidade do usuário
- Insider Attack Resistance, ARM MTE e credenciais digitais com privacidade em primeiro lugar foram resultados de colaboração para proteger usuários até mesmo contra partes maliciosas dentro do próprio Google
- Logo no início, conheceu especialistas de primeira linha como a lendária do Android Dianne Hackborn, e todos foram gentis com um novato e compartilharam conhecimento
O Google que mudou e a decisão de pedir demissão
- A liderança do Google abandonou silenciosamente a meta de neutralidade de carbono por causa do consumo de energia dos modelos de IA
- Mais grave ainda, a liderança assinou um contrato de IA com o Ministry of War dos EUA
- O "any lawful purpose" do atual governo dos EUA já foi repetidamente demonstrado como violação do direito internacional
- Essa mudança não foi discutida nem compartilhada internamente; foi decidida de forma unilateral pela alta liderança, e mesmo tendo estado anteriormente na cadeia de gestão, ele não soube disso por canais internos
- Como não pode apoiar, de forma explícita ou implícita, direta ou indireta, as ações do Ministry of War dos EUA, que levanta a bandeira de "Maximum lethality, not tepid legality", concluiu que não tinha outra opção além de se demitir
Os dois lados da decisão
- Por um lado, foi uma decisão muito difícil
- Sentirá falta das pessoas que ainda querem fazer o bem, das oportunidades de mudança positiva, dos engenheiros brilhantes e da cultura madura de blameless post-mortem e de lidar com falhas
- Por outro lado, tornou-se uma decisão inevitável e fácil
- Como pacifista, decidiu há muito tempo não trabalhar para um exército que conduz guerra de agressão, distinguindo isso de ações puramente defensivas
- Como acadêmico europeu, considera que o atual governo dos EUA se tornou hostil a ele, e entende que "any lawful purpose" inclui até vigilância em massa de cidadãos da UE
- Ele vê esse contrato como a possibilidade de produtos (de IA) do Google serem usados diretamente contra ele e as pessoas ao seu redor
Planos daqui para frente
- Pelo contrato, o prazo de aviso é de 3 meses a partir do último dia do mês em que a demissão foi apresentada; até 2026-08-31, ele poderá ser contatado por canais internos por tempo limitado e pretende concluir e repassar projetos em andamento
- Ele se desligará imediatamente de qualquer trabalho em sistemas de IA que possam se enquadrar no contrato DoW (até o momento, não tem conhecimento de ter se envolvido nisso)
- Depois disso, poderá ser contatado externamente por vários canais e pretende continuar trabalhando com protocolos de comunicação e armazenamento com criptografia de ponta a ponta, identidade digital com preservação de privacidade, segurança de sistemas embarcados e segurança de sistemas operacionais e cadeia de suprimentos
- A interseção entre esses temas continua sendo a segurança e a privacidade do Android (especialmente o AOSP)
- Ele deseja sinceramente que a liderança do Google recupere sua bússola moral
Adendo (2026-06-12)
- A carta de despedida se espalhou mais do que o esperado
- Ele reafirma que o Android continua sendo, hoje, o melhor sistema operacional móvel em equilíbrio entre abertura, flexibilidade e segurança
- Algumas limitações e inconveniências ainda permanecem, mas ele não conhece alternativa melhor
- As equipes de Android Security e Privacy seguem comprometidas em melhorar a proteção dos usuários de forma contínua e consistente
- A decisão de deixar o Google não é uma avaliação das pessoas dessas equipes, e ele confia que os times que ficaram continuarão tomando as decisões certas
1 comentários
Comentários do Hacker News
Não que eu me importe particularmente, mas dizer que o Google só agora perdeu a bússola moral é algo que só alguém rico o bastante para se aposentar, e não apenas pedir demissão, pode se dar ao luxo de dizer
O Google é literalmente a maior e mais sistemática empresa de rastreamento e criação de perfis do mundo, e com a ascensão dos LLMs isso só está aumentando
Fechar os olhos para isso por causa da oportunidade ou qualquer outro motivo, e só agora dizer que a empresa perdeu a bússola moral, soa como hipocrisia
A empresa continua mudando, mas ao mesmo tempo não muda tanto assim; sempre gostou de falar bonito e dizer aos outros como deveriam agir, mas quase nunca esteve disposta a abrir mão de receita de verdade para fazer a coisa certa
A justificativa comum era que, se o Google não fizesse, outra pessoa faria, e essa outra pessoa obviamente não seria tão moral quanto os Googlers
Se você tem certa idade, deve lembrar da época em que o Google se posicionava publicamente contra anúncios gráficos invasivos e que violavam a privacidade. Essa era a imagem central da empresa, mas isso foi antes de ela perceber que dava para ganhar muito dinheiro com a aquisição da DoubleClick
O Google já tinha perdido a bússola moral muito antes de essa pessoa entrar na empresa. Isso não quer dizer que fosse especialmente maligna, mas sim que entrou para a fileira das empresas de capital aberto comuns
Não entendo por que agem como se rastreamento e segmentação de anúncios e desenvolvimento de armas letais autônomas estivessem no mesmo nível moral
Não sei se os comentários sarcásticos são necessariamente justos. Todo mundo sabe que as pessoas do Google não eram altruístas puras, mas aceitar isso e ainda assim não aceitar um uso específico de IA em guerra não me parece incoerente
Em outras palavras, minhas ações finalmente foram todas adquiridas, e como ninguém poderia saber em 2017 que o Google não era um bastião de esperança ética, agora fiquei rico o bastante de forma independente para sinalizar que estou pedindo demissão apenas por motivos morais
Só que a frase “o Google perdeu a bússola moral” na verdade nunca esteve realmente certa
A esta altura, parece bem claro que empresas respondem apenas a correntes econômicas, e essas correntes são moldadas pelo que as pessoas realmente querem. Em geral, acho que são as pessoas que perderam a bússola moral. Não pelo que dizem, mas pelo voto na política e pelo voto com a carteira
Pessoalmente, não entendo muito por que as pessoas rejeitam automaticamente qualquer colaboração com os militares. Entendo ser pacifista, mas ainda assim não me convence
A história está cheia demais de tragédias causadas pela fraqueza. Por exemplo, Alemanha e União Soviética conseguiram invadir a Polônia, e o Massacre de Katyn continua sendo uma ferida nacional. Quem não iria querer derrotar um invasor como Gêngis Khan? Já ouviu falar do massacre de Yangzhou ou dos três massacres de Jiading? Por que deveríamos deixar a civilização se curvar à barbárie?
Não me entenda mal. Eu odeio guerra. Sinto indignação sem fim com guerras intermináveis como a do Iraque, e acho que G.W. Bush e seu gabinete foram realmente perversos. Claro que o risco é real. Mesmo um exército criado para defesa pode facilmente virar instrumento de tirania ou imperialismo se não for controlado. É por isso que precisamos manter um controle civil rigoroso e freios e contrapesos sobre o poder. Mas isso não significa que os militares sejam sempre maus por definição, certo?
Eles não precisam encarar de frente o fato central da própria existência: que desfrutam de uma parcela desproporcional da prosperidade mundial, algo que não seria possível sem um poderio militar esmagador. Não acho que alguém vivendo na Ucrânia falaria assim
Quanto mais velho fico, mais concordo com o coronel Jessup: https://www.youtube.com/watch?v=9FnO3igOkOk
E esse país está se tornando cada vez mais hostil até com os próprios aliados, além de fazer coisas estranhas difíceis de justificar no cenário internacional
Todas as escolhas de política externa são alinhadas para evitar confronto militar e guerra nuclear. Por isso, há uma tendência excessivamente forte de tentar resolver conflitos pela diplomacia
Mas as pessoas em geral não entendem isso e assumem que a paz atual, sustentada por armas nucleares, é real e permanente. Ignoram as armas nucleares escondidas no subsolo e defendem políticas como o pacifismo que não refletem a realidade
A situação atual se resume nesta frase: tempos difíceis criam pessoas fortes, pessoas fortes criam tempos bons, tempos bons criam pessoas fracas, e pessoas fracas criam tempos difíceis
Sou escritor e, na semana passada, reli meu livro, escrito anos antes de surgirem os LLMs, e me assustei ao ver que eu mesmo tinha usado a estrutura “X não é Y, é Z”
Agora surgiu um dilema moral. Parece tanto aquele tom robótico de LLM doloroso demais que quero corrigir essa frase na próxima edição. Mas, ao mesmo tempo, fui eu que escrevi aquilo, não um LLM, então também quero deixar como está. Eis o dilema moral que os humanos precisam enfrentar!
Às vezes eu também despejo minhas ideias num LLM, deixo ele organizá-las e depois vou refinando repetidamente o que quero dizer
Li Zen and the Art of Motorcycle Maintenance há mais de 20 anos, e ficou comigo a ideia de que escrever é difícil quando você tenta decidir ao mesmo tempo o que dizer e como dizer. Despejar pensamentos num LLM é uma forma de ganhar tração
Dito isso, esse padrão de paralelismo negativo que LLMs usam em excesso realmente me enlouquece, e eu sempre preciso apagar isso manualmente. Também me pergunto se pensar assim tem alguma vantagem na programação. Por exemplo, na programação, a negação defensiva pode melhorar a qualidade do código, mas, na escrita, quando usada em excesso, dilui um texto bom
Mas o que você faria se deixasse de sentir que consegue julgar, com probabilidade razoavelmente alta, se algo foi produzido com ajuda de LLM?
Você acharia tudo bem, já que no fim não dá para distinguir, ou deixaria de ler qualquer coisa por receio de acabar consumindo trabalho assistido por LLM?
Para mim, tudo bem, desde que não esteja cheio daqueles sinais comuns. Aí é só texto ruim mesmo, e eu não quero ler
“Olha o que eu fiz com o Claude, os LLMs vão mudar o mundo!”
“Meh, o autor usou LLM para escrever post de blog”
Surpreende que o autor tenha levado 8 anos para assumir uma posição ética. Nesse período, as ações do Google subiram 600%
Como alguém que trabalhou no Google, dizer que o Google só foi perder sua bússola moral nesta década é completamente risível
E mais absurdo ainda é insinuar que o Google ainda tinha uma bússola moral em 2017, quando essa pessoa entrou na empresa
É uma piada completa, precisa de um pouco de autorreflexão
Não consigo entender o clima negativo aqui
Ele é um dos maiores especialistas em segurança da área, e liderar a segurança da plataforma Android era uma oportunidade de causar um impacto tremendamente positivo na vida de muita gente. E, de fato, foi o que ele fez por 10 anos
As pessoas ponderam vários fatores conflitantes. No começo, ele pode ter tido grandes ambições de aplicar ideias interessantes e orientadas à pesquisa no Android, e agora pode ter realizado muitas delas. Então talvez esteja considerando outros fatores neste momento
É horrível supor que as pessoas se movem apenas por dinheiro, ou imaginar que ele tomou essa decisão porque seu patrimônio pessoal passou de algum limite. Ainda mais se você nem conhece a pessoa
Quase todos os acadêmicos que conheço são movidos por curiosidade pessoal, ambição intelectual, necessidade de encontrar e resolver problemas e um forte desejo de contribuir positivamente. Eu também sou acadêmico, conheço o Rene e acredito que isso também se aplica a ele
Se ele ganhou dinheiro com o próprio trabalho, isso é uma coisa boa
Acho que agora não estou mais na minoria. A atitude geral desta thread pode ser “negativa”, mas contém uma verdade muito mais realista e direta
Como sempre, acrescento: essa pessoa deveria devolver todo o dinheiro que o Google lhe pagou. Claro, isso nunca aconteceu uma única vez na história desses textos piedosos, e por isso o meme continua
Parece que cada um está propondo uma data arbitrária para quando o Google perdeu sua bússola moral, de acordo com a própria bússola moral
Nessa lógica, para mim o Google se tornou mau no momento em que Brin e Page publicaram um artigo dizendo que o PageRank jamais poderia beneficiar o consumidor se fosse combinado com publicidade, e depois abriram uma empresa de anúncios baseada em PageRank
Todo o negócio do Google foi construído sobre a decisão da alta liderança de jogar fora a bússola moral
Sergey Brin e Larry Page escreveram que “mecanismos de busca financiados por publicidade serão inerentemente enviesados em favor dos anunciantes e se afastarão das necessidades dos consumidores”. E mesmo assim acabaram entrando no negócio de anúncios