Pergunta à Microsoft: nossos dados pessoais estão sendo usados para treinar IA?
(foundation.mozilla.org)- O novo Contrato de Serviços (Service Agreement) da Microsoft foi analisado por 9 pessoas, incluindo advogados, especialistas em privacidade e ativistas, mas ninguém conseguiu determinar se dados pessoais são usados no treinamento de modelos de IA
- A análise abrange dados pessoais coletados em 130 produtos, incluindo Office, Skype, Teams e Xbox, como áudio, vídeo, chats e anexos
- Se nem 9 especialistas em privacidade conseguem entender os termos, é praticamente impossível que um usuário comum consiga compreendê-los
- A Mozilla exige que a Microsoft responda claramente à pergunta simples: "vocês usam dados pessoais para treinamento de IA?"
- A falta de transparência sobre o uso de dados é apontada como o problema central
Questão central levantada pela campanha
- O novo contrato de serviços da Microsoft foi analisado por 4 advogados, 3 especialistas em privacidade e 2 ativistas
- Nenhum dos 9 especialistas conseguiu determinar se a Microsoft pretende usar dados pessoais para treinar modelos de IA
- A ambiguidade dos termos impede verificar como os dados são usados
- Se nem 9 especialistas em privacidade conseguem entender os termos, um usuário comum dificilmente conseguiria
Escopo dos dados analisados
- O foco são dados pessoais coletados em 130 produtos
- Exemplos de produtos incluídos: Office, Skype, Teams, Xbox
- Tipos de dados: áudio, vídeo, chats e anexos
Exigência da Mozilla
- A Mozilla pede que a Microsoft declare diretamente se usa dados pessoais no treinamento de IA
- Há uma campanha em andamento para pressionar por uma resposta por meio da participação dos usuários (assinaturas)
1 comentários
Comentários do Hacker News
A estrutura regulatória das big techs é um desastre completo
Não se deveria permitir que, na prática, duas empresas dominassem os pontos de contato digitais de uma parte considerável da população mundial
Não há absolutamente nenhuma razão para confiar que elas não vão abusar dessa posição de maneiras opacas e difíceis de rastrear. São empresas com fins lucrativos e capital na casa dos trilhões, com exércitos de advogados e lobistas capazes de ameaçar até países de porte médio, e vão explorar todas as fragilidades de um sistema regulatório e político incompetente, caótico e capturado
Há pressão para que façam isso em nome dos acionistas, e esses acionistas só querem colocar algumas “vencedoras” de tecnologia no portfólio, pouco importando se essa estrutura monopolista de dois polos destrói todo o futuro digital. Quanto mais se adiam medidas sérias, mais difícil fica depois
As ferramentas só mudam; a característica humana que impulsiona esse tipo de comportamento sempre existiu. Não existe um interruptor que liga de repente quando os ativos passam de certo nível
Também não vejo empresas como devendo algo “legalmente” a alguém, nem mesmo como existindo de fato uma “obrigação”. Executivos tentam atingir seus objetivos com as ferramentas ao alcance da mão, e de fato fazem isso
É a thread mais absurdamente kafkiana que já vi no Hacker News
Se dados analíticos contam como dados pessoais, então a Microsoft claramente usa dados analíticos: https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
Se a Microsoft está lendo contas do Gmail, documentos do Word e atividade pornográfica para jogar isso na OpenAI, pelos termos ela não está: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
Agora, se a Microsoft está fazendo coisas que, em geral, não temos como saber, então eu diria que sim
Há muito tempo sou contra a política de privacidade labiríntica da Microsoft
Antes, em outro fórum, bem antes de assistentes de programação com “IA” se tornarem amplamente usados, eu já tinha perguntado se, ao deixar a telemetria ativada no VS Code, a política de privacidade da Microsoft permitia que ela enviasse meu código e o utilizasse
Na época, a pergunta foi descartada como absurda, mas ninguém mostrou onde, nos termos ou na política de privacidade da Microsoft, esse tipo de tratamento era clara e transparentemente excluído
Hoje existe uma obsessão por treinar modelos de machine learning com todo grande conjunto de dados possível, então aquela cautela do passado talvez não pareça mais tão ridícula
A menos que haja vantagem comercial ou jurídica em dizer “não faremos X”, grandes empresas não impõem conscientemente esse tipo de limitação a si mesmas
Para referência, o texto integral do próximo Contrato de Serviços da Microsoft está aqui
https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
O resumo das alterações está aqui
https://www.microsoft.com/en-us/servicesagreement/upcoming-u...
A única limitação explícita parece ser para publicidade direcionada. Algo como: “não usamos e-mail, chat, chamadas de vídeo ou correio de voz, nem documentos, fotos ou outros arquivos pessoais para direcionar anúncios a você”
O resumo das alterações não menciona mudanças na política de privacidade, e essa política de privacidade também não parece excluir o uso de dados de usuários para treinar modelos de IA
Já trabalhei no setor de publicidade, e as leis sobre informações de identificação pessoal são interessantes. Na Califórnia existe a CCPA, então, pelo que sei, se eu solicitar por formulário a exclusão das minhas informações de identificação pessoal, elas devem ser apagadas em cerca de 90 dias
Mas se um modelo foi treinado com informações de identificação pessoal de um residente da Califórnia, depois chega um pedido de exclusão e, três meses depois, alguém pergunta sobre essa pessoa e o modelo cospe as informações de identificação pessoal “apagadas”, o que acontece?
No fim, parece algo que será decidido nos tribunais, mas se alguém entende bem da lei da Califórnia, fico curioso sobre por que ainda não houve tentativas mirando isso, nem que fosse atrás de acordo
Não conheço a lei da Califórnia, mas muitas leis de privacidade parecidas permitem exceções para dados agregados mesmo quando há pedido de “exclusão”
Em geral, a lei se aplica aos registros de dados brutos, e não a dados agregados, métricas ou modelos. Mas aqui, pelo que lembro, a menção a modelos se baseia numa decisão específica relacionada ao setor de seguros ou de avaliação de crédito
O modelo nem precisa “cuspir” os dados apagados. Pode nem ser um modelo generativo; pode ser um classificador ou um modelo de regressão, e idealmente ele nem deveria ter sido treinado com meus dados desde o início
O fato de isso ser tecnicamente difícil também importa. Vamos supor que um modelo custou um valor enorme X para ser criado e normalmente é retreinado a cada 6 meses. Mas, se os pedidos de exclusão continuarem chegando, retreinar com frequência para cumprir isso fica caro demais
Existem pesquisas sobre machine unlearning para tentar lidar com isso de forma eficiente, mas até agora têm sido bem decepcionantes
Se a parte pessoal desapareceu, não sei bem se ainda existe base para reivindicação
Como o jurídico da Microsoft consegue realizar esse feito? Será que eles empilham tantas camadas de abstração linguística que só uma equipe grande o bastante, como a Microsoft ou um grande júri, consegue extrair o significado?
São frases-isca com armadilhas escondidas em trechos aparentemente inofensivos? Ou é um jeito de ficar rodeando sem nunca dar uma resposta exata?
Se um tipo de uso não foi explicitamente excluído, então dá para presumir que esses dados acabarão sendo usados como dados de treinamento enquanto forem úteis. Se não for agora, será em algum momento. Isso vale para toda empresa do planeta que acumula dados
Essa deveria ser a suposição padrão de todos e, a menos que surja legislação, provavelmente estará correta na maior parte do tempo. Mesmo que a lei surja, ela pode ser inútil para dados antigos por causa de manobras de jurisdição, e os dados novos provavelmente também serão protegidos só de forma fraca
Bem-vindo ao novo petróleo
Privacidade e informações de identificação pessoal não são a mesma coisa. Em vários aspectos, o uso de dados pessoais é inevitável
Texto preditivo usa dados pessoais. Porque “aprende” com todo mundo. Frases e parágrafos são dados pessoais? Um mecanismo de busca registra o que eu digito. Você classificaria uma busca como “pessoal”? Eu poderia copiar e colar o primeiro comentário desta thread; isso também seria dado pessoal?
Posso estar completamente errado, e talvez eu não devesse digitar nada em página nenhuma da web
Parecia que quatro advogados e três especialistas em privacidade também não conseguiam chegar a uma conclusão sobre o que é dado pessoal. As big techs colocam dados criados por pessoas em ferramentas de “IA”? Sim. Empresas pequenas de tecnologia também fazem isso? Sim
Estou pronto para pegar o forcado junto com a Mozilla, mas quero saber por quê. Precisamos de gente que diga claramente como proteger meus interesses, em vez de só incitar a multidão
O uso de dados, qualquer dado, está sujeito a contratos. Se você ler os “documentos legais” com os quais concordou ao usar o Hacker News, há uma seção inteira sobre como dados pessoais são usados. Devemos erguer forcados contra o HN também, ou aqui está tudo bem?
O que, dentre isso, é “treinamento de IA”?
Um sistema de detecção de abuso treinado com comportamento e dados dos usuários para encaminhar usuários mal-intencionados para revisão humana, uma função de ranking treinada com o comportamento de todos os usuários quando você faz uma busca na web, um redator de e-mails que sugere conclusões com base no meu histórico de digitação, uma interface pública de chat com LLM sendo treinada com meus e-mails privados
Na maioria dos casos, “treinamento de IA” parece mais um detalhe de implementação do que algo que caberia numa política de privacidade. Eu gostaria que a Mozilla dissesse de forma mais explícita de que comportamento está falando
Sim, as megacorporações fazem isso e continuarão fazendo. Se você acredita que alguma grande corporação está pensando no nosso melhor interesse e tem uma governança perfeitamente estruturada, haha, isso é um grande hahaha