- Segundo um tuíte de Kevin Bankston, o serviço Gemini AI do Google está lendo documentos privados no Drive sem autorização do usuário
- Isso não condiz com a reputação do Google e não há qualquer controle sobre informações pessoais sensíveis
- Não é um bom sinal para futuros problemas de privacidade decorrentes do lançamento forçado de IA
O que exatamente está acontecendo?
- Nem a equipe de suporte do Google nem o próprio Gemini AI sabem exatamente, mas Kevin Bankston apresentou algumas teorias
- Isso está acontecendo tecnicamente em todo o Google Drive, não apenas em documentos do Google
Qual é a causa desse problema?
- Segundo o Gemini AI, as configurações de privacidade que deveriam informar isso ao Gemini precisam estar disponíveis publicamente, mas não estão
- Parece que a IA "está alucinando (mentindo)" ou que há um mau funcionamento em algum sistema interno nos servidores do Google
- Mesmo que esses dados privados não sejam usados para treinar o Gemini AI, a situação continua ruim
Problemas com o botão de alternância de configuração encontrado por Bankston
- O recurso de resumo do Gemini já estava desativado
- Ele estava em um lugar completamente diferente da página web indicada inicialmente pelo bot Gemini
No caso de Bankston, o problema parece estar limitado ao Google Drive
- Pelo menos, isso só ocorreu depois de pressionar o botão do Gemini em um documento
- Tipos de documento correspondentes (neste caso, PDF) passam a acionar automaticamente o Google Gemini no futuro para todos os arquivos do mesmo tipo abertos no Google Drive
- A causa pode ser ter ativado o Google Workspace Labs em 2023. Isso pode ignorar as configurações pretendidas do Gemini AI
Mesmo que esse problema esteja limitado aos usuários do Google Workspace Labs, trata-se de uma falha grave
- Um preço a pagar por ajudar a testar tecnologia de ponta
- O consentimento do usuário em nível granular continua sendo importante, especialmente ao lidar com informações potencialmente sensíveis
- Ao não seguir esse princípio, o Google falhou completamente pelo menos com uma parte de sua base de usuários
Opinião do GN⁺
- Coletar e analisar informações pessoais sem o consentimento do usuário é uma violação séria de privacidade. Isso é ainda mais grave quando envolve dados sensíveis, como restituição de impostos
- À medida que a tecnologia de IA avança, esse tipo de problema pode se tornar ainda mais sério. As empresas devem tratar a proteção da privacidade do usuário como prioridade máxima
- São necessários mecanismos de proteção melhores e mais transparência para usuários que participam de programas de teste beta como o Google Workspace Labs
- É importante respeitar o consentimento e o poder de escolha do usuário ao adotar tecnologia de IA. Abordagens forçadas fazem os usuários perderem a confiança
- O Google deveria aproveitar este caso para revisar as políticas de privacidade de seus serviços, incluindo o Gemini AI, e reforçar a comunicação com os usuários
Ainda não há comentários.