- Copilot+ Recall: novo recurso do Microsoft Windows 11 que captura continuamente a tela do PC do usuário e transforma toda a atividade em um banco de dados pesquisável.
- Permite ao usuário pesquisar facilmente tudo o que viu anteriormente.
- A maioria dos usuários reagiu negativamente a esse recurso, devido a preocupações com privacidade e ao potencial de invasão da vida privada.
Usuários em potencial do Copilot+ Recall
- Para gestores de empresas com muitas tarefas e pouco tempo, pode ser útil poder pesquisar instantaneamente o que fizeram sobre um tema específico há um mês.
- No entanto, isso representa apenas uma parcela muito pequena da base de usuários do Windows.
- A maioria dos usuários do Windows quer jogar, ver pornografia e viver a vida humana, cometendo erros.
- A ideia de que outra pessoa possa acessar seu dispositivo e ver memórias pessoais registradas em imagens é algo profundamente assustador para muita gente.
O erro da Microsoft
- Em nome da IA, e de uma forma que prejudica clientes reais, a Microsoft está se autossabotando.
- Isso pode incendiar toda a marca Copilot.
- Aponta-se que esse recurso quebra de forma fundamental a promessa de segurança do Windows.
[ Perguntas e respostas sobre os problemas de segurança do Copilot+ Recall ]
P. Os dados não são processados totalmente de forma local no laptop?
- Sim. Foi tomada a decisão inteligente de fazer com que códigos como os do Azure AI fossem processados na borda.
P. Então hackers e malwares não podem acessar isso, certo?
P. Mas isso não está criptografado?
- Quando você faz login no PC e executa o software, ele é descriptografado para o usuário.
- A criptografia em repouso só ajuda quando alguém rouba fisicamente o laptop.
- Coisas como trojans InfoStealer já são um grande problema há mais de 10 anos, e agora podem ser facilmente adaptadas para oferecer suporte ao Recall.
P. Mas a Microsoft disse que só o usuário pode acessar os dados, não?
- Isso não é verdade. É possível mostrar que outras contas de usuário no mesmo dispositivo conseguem acessar o banco de dados.
P. Então como isso funciona?
- Uma captura de tela é tirada a cada poucos segundos.
- Ela passa automaticamente por OCR via Azure AI e é gravada em um banco de dados SQLite na pasta do usuário.
- Esse arquivo de banco de dados armazena em texto simples um registro de tudo o que o usuário viu no PC.
P. Como é esse banco de dados?
- A Microsoft afirmou à imprensa que hackers não poderiam exfiltrar remotamente a atividade do Copilot+ Recall.
- Mas, na prática, trata-se de um banco de dados em texto simples com tudo o que foi visto no PC. É muito fácil automatizar a exfiltração.
P. Como se obtém o arquivo do banco de dados?
- São arquivos localizados na nova pasta CoreAIPlatform dentro de AppData.
P. Mas ele é altamente criptografado, então ninguém pode acessá-lo, certo?!
- Isso pode ser visto em um vídeo no qual dois engenheiros da Microsoft acessam a pasta do banco de dados do Recall e invadem o banco SQLite.
- Nem mesmo é preciso ter privilégios de sistema.
P. Mas usuários comuns não executam como administrador!
- Segundo a própria página de lançamento do Recall no site da Microsoft, seria assim.
- Na verdade, nem é preciso ser administrador para ler o banco de dados.
P. Mas no vídeo apareceu um prompt do UAC, isso não é um limite de segurança?
- Segundo o próprio site da Microsoft e o MSRC, o UAC não é um limite de segurança.
P. Então onde está a segurança nisso?
- No mundo real, há brechas grandes o suficiente para fazer um avião passar, então isso não funciona de fato.
P. Informações financeiras e afins não são automaticamente capturadas em screenshot e passadas por OCR?
- Não.
- Segundo a documentação, o Recall não faz moderação de conteúdo.
- Ele não oculta senhas nem números de conta bancária.
- A menos que o site em questão siga protocolos padrão da internet (como mascarar senhas com
*).
P. Qual é o tamanho do banco de dados?
- Ele comprime muito bem: alguns dias de trabalho dão cerca de 90 KB.
- Em uma conexão banda larga comum, é possível exfiltrar em segundos meses de documentos e entradas de teclado.
P. E a velocidade de busca?
- No dispositivo, é muito rápida.
P. Você já tentou exfiltrar seu banco de dados do Recall?
- Sim. Fiz a exfiltração automatizada e criei um site em que o banco enviado pode ser pesquisado imediatamente.
- Estou intencionalmente deixando de divulgar detalhes técnicos para dar tempo à Microsoft até o lançamento do recurso.
- Na prática, haveria muito a mostrar, e acho que, quando esse recurso for disponibilizado ao público, mais comunidades de cibersegurança vão se divertir muito com isso, mas é algo realmente triste porque pode causar danos reais.
P. Que tipo de coisas há no banco de dados?
- Tudo o que o usuário viu, organizado por aplicativo.
- Todo o texto que o usuário viu (o modo InPrivate do Microsoft Edge fica de fora, mas o Google Chrome não).
- Todas as interações do usuário, como minimizar janelas.
- Existe uma API de atividade do usuário, e aplicativos de terceiros podem complementar os dados e visualizar os dados armazenados.
- Mesmo sendo de terceiros, ele armazena todos os sites visitados.
P. Se eu apagar mensagens de e-mail/WhatsApp/Signal/Teams, elas também são apagadas do Recall?
- Não, elas permanecem no banco de dados por tempo indeterminado.
P. Mensagens que se autodestroem em apps de mensagem são removidas do Recall?
- Não, elas podem ser capturadas pelo Recall e continuar utilizáveis.
P. Então isso pode viabilizar grandes vazamentos de dados de sites?
- Sim. Se no futuro ocorrer um grande incidente de vazamento de dados em que dados de clientes tenham claramente sido expostos, passarei a considerar que a responsabilidade é da empresa que processou esses dados.
- Mas se o acesso a um serviço/app foi feito a partir de um dispositivo Windows com Recall, um hacker pode ver tudo e criar um dump de dados sem que nem a própria empresa que opera o serviço saiba.
- Os dados já ficam estruturados de forma consistente no banco de dados do Recall, o que facilita o uso por atacantes.
- É preciso se preparar para megavazamentos baseados em IA.
P. A Microsoft induziu a BBC ao erro sobre a segurança do Copilot?
P. A Microsoft induziu clientes ao erro sobre a segurança do Copilot?
- Sim. Por exemplo, ela descreve isso como uma experiência opcional, mas na prática vem ativado por padrão e as pessoas é que podem optar por desativar.
- O CEO da Microsoft se referiu a esse produto como “screenshot”, mas o próprio produto usa apenas o termo “snapshot”.
- A Microsoft precisa deixar claro o que isso é, para que clientes possam fazer uma escolha informada.
P. O Recall não se aplica só a um único dispositivo de hardware?
- Isso não é verdade. Atualmente há 10 dispositivos Copilot+ disponíveis para pedido junto a todos os principais fabricantes.
- Além disso, o site da Microsoft diz que está trabalhando para oferecer suporte a chipsets AMD e Intel.
- O Recall está previsto para o Windows 11.
P. Como se desativa o Recall?
- É preciso clicar na opção de desativar o Recall durante a configuração inicial de um dispositivo Copilot+ compatível.
- Em ambientes corporativos, ele vem ativado por padrão, então é necessário configurar a política
Turn off Saving Snapshots for Windows para desligá-lo.
P. E o impacto sobre a privacidade? Isso não viola o GDPR?
- Não sou especialista em privacidade nem em direito.
- Especialistas em privacidade com quem conversei estão muito preocupados com o impacto em lares, inclusive em situações de violência doméstica.
- Do ponto de vista corporativo, é preciso considerar o risco de tratar dados de clientes dessa forma.
- Como o processamento ocorre no dispositivo de borda, a Microsoft provavelmente não assumirá responsabilidade como processadora de dados.
P. A Microsoft é uma empresa grande e maligna?
- Não.
- Há pessoas muito inteligentes lá, e às vezes pessoas muito inteligentes cometem erros. O importante é saberem que erraram e o que farão a respeito.
P. Você não era um ex-funcionário que odeia a Microsoft?
- Não, inclusive escrevi um blog elogiando a Microsoft neste mês.
P. Isso é realmente tão prejudicial quanto parece?
- Vá à casa dos seus pais, dos seus avós etc., examine o PC com Windows deles, veja os softwares instalados ao longo do último ano, use o dispositivo e rode uma verificação antivírus.
- Existe uma indústria de segurança de 1 trilhão de dólares por um motivo, e a maior parte dos problemas gira em torno de malware e endpoints.
P. O que a Microsoft deveria fazer?
- Na minha opinião, deveria recolher o Recall e retrabalhá-lo como um recurso adequado para oferecê-lo mais tarde.
- Também deveria revisar a tomada de decisão interna que levou a essa situação.
- No começo deste mês, o CEO da Microsoft enviou um e-mail a todos os funcionários dizendo: “Se você tiver que escolher entre segurança e outras prioridades, a resposta é clara. Escolha a segurança”.
- Agora veremos se ele leva esse e-mail a sério.
- A empresa precisa aceitar o golpe agora e agir com humildade; caso contrário, pode colocar em risco a confiança dos clientes na marca Copilot e na marca de segurança.
- Sinceramente, quase não há clientes chorando porque não podem usar o Recall imediatamente, mas eu ficaria seriamente preocupado se a reação da Microsoft fosse não fazer nada, lançar o produto, fazer pequenos ajustes ou tentar contornar o problema na imprensa.
1 comentários
Opiniões do Hacker News
Estratégia da Microsoft: a Microsoft está usando uma estratégia de forçar com intensidade no começo para depois apresentar uma solução mais branda e, assim, alcançar seu objetivo.
Experiência com Windows e ChromeOS: com base na experiência de ter trabalhado na Microsoft no passado, o Windows não era um sistema operacional ruim. Mas, depois de experimentar o ChromeOS, acabou voltando para o Debian.
Migração para Linux: recentemente, instalou Arch Linux e Steam em um Framework 16 e está rodando jogos sem problemas. Agora sente que se desvinculou completamente dos produtos da Microsoft.
Mudança na imagem da Microsoft: com a aquisição do GitHub e a introdução do subsistema Linux, a Microsoft parecia uma empresa legal, mas, por causa do recurso Recall recente e da exigência de login obrigatório em conta durante a instalação do Windows 10, voltou a ter uma percepção negativa da empresa.
Problemas do recurso Recall: no passado, a Microsoft se esforçava para manter compatibilidade com softwares de terceiros, mas agora decepciona ao introduzir o Recall, que invade a privacidade dos usuários.
Steve Jobs e Microsoft: Steve Jobs entendia os sentimentos das pessoas em relação aos produtos, mas a Microsoft não. Parece que, no passado, ela não levava os sentimentos dos usuários em conta, e isso não mudou até hoje.
Preocupações com privacidade: a questão da privacidade é séria, e há chance de melhora antes que a situação piore ainda mais. Mas, se esse recurso for bem implementado, pode virar o aplicativo matador da IA moderna.
Importância do acesso à informação: ter bom acesso à informação é uma capacidade poderosa. Dados pessoais têm enorme valor, e é preciso haver uma forma de armazená-los e acessá-los automaticamente. Com o tempo, será necessário se adaptar a isso.
Dispositivo de espionagem: em 2017, as pessoas levaram voluntariamente dispositivos de espionagem para dentro de casa, e em 2024 estão ativando keyloggers.
O filme 'Antitrust' e a realidade: o filme 'Antitrust', de 2001, tratava de uma empresa parecida com a Microsoft monitorando todos os computadores e roubando código. Vinte e três anos depois, isso virou realidade.