Juíza rejeita alegação de “programa de vigilância em massa” que prejudicaria todos os usuários do ChatGPT

• Como a OpenAI passou a ter de manter indefinidamente logs do ChatGPT de milhões de usuários para preservar provas em um processo de direitos autorais, a controvérsia sobre privacidade dos usuários virou uma questão no tribunal
• O segundo requerente, Aidan Hunt, contestou a ordem afirmando que ela se aproxima de um programa nacional de vigilância em massa, ao exigir a preservação até de chats excluídos e anônimos, e que mesmo manter apenas as saídas pode revelar as perguntas ou temas das entradas
• A juíza Ona Wang considerou a ordem uma medida para fazer uma empresa privada preservar, separar e armazenar dados existentes para fins do processo, e não aceitou a interpretação de vigilância em massa
• O tribunal afirmou que a possibilidade de violação da privacidade constitucional ou contratual dos usuários do ChatGPT é uma questão incidental sem relação direta com o mérito da violação de direitos autorais, e não permitiu a intervenção de Hunt
• A OpenAI deve contestar preocupações sobre a ordem de preservação em sustentação oral em 26 de junho, enquanto Corynne McSherry, da EFF, ressaltou a necessidade de mecanismos de notificação, exclusão e transparência para registros de chatbots de IA

---

Ordem de preservação de logs do ChatGPT e tentativa de intervenção de usuários

• O tribunal ordenou que a OpenAI mantivesse indefinidamente logs do ChatGPT de milhões de usuários, incluindo chats excluídos
• A ordem é uma medida para preservar possíveis provas em um processo de violação de direitos autorais movido por organizações de notícias
• O primeiro pedido de intervenção de um usuário foi apresentado em nome de uma empresa, mas a juíza Wang o rejeitou em maio porque a empresa deveria ter preparado os documentos por meio de um advogado
• O segundo requerente, Aidan Hunt, disse que usa o ChatGPT ocasionalmente e que, durante o uso do serviço, às vezes envia à OpenAI “informações pessoais e comerciais altamente sensíveis”

Alegação de violação de privacidade de Aidan Hunt

• Hunt contestou a ordem de preservação, afirmando que ela criou um programa nacional de vigilância em massa que afeta todos os usuários do ChatGPT e pode prejudicá-los
• Ele também questionou o fato de os usuários não terem sido informados previamente de que chats excluídos e chats anônimos passariam subitamente a ser armazenados
• Para ele, o risco permanece mesmo que o escopo da preservação seja limitado às saídas do ChatGPT
  • Isso porque as saídas podem, por sua natureza, revelar as perguntas ou temas de entrada, ou frequentemente reformulá-los de modo explícito
• Hunt disse que não sabia que a OpenAI preservava essas informações até ver notícias relacionadas em fóruns online
• Ele afirmou que seus direitos sob a Quarta Emenda e ao devido processo legal foram violados, e propôs uma moção para anular a ordem judicial

Pedido para excluir chats anônimos e de temas sensíveis

• Hunt apontou que a juíza Wang não considerou excluir Anonymous Chats do escopo de preservação e divulgação
• Para ele, chats anônimos têm maior probabilidade de conter as informações mais sensíveis e potencialmente danosas dos usuários
• Os tipos de chats que ele pediu para excluir foram os seguintes
  • Chats sobre temas médicos, financeiros, jurídicos e pessoais
  • Chats que contenham informações profundamente privadas sobre o usuário, mas que não tenham nenhuma relação com os interesses das organizações de notícias autoras
• Hunt entende que o caso envolve uma questão constitucional nova e importante sobre direitos de privacidade relacionados ao uso de IA
• Ele também levantou como questão se uma ordem de discovery em um caso civil pode criar um programa nacional de vigilância em massa

Fundamentação da rejeição pela juíza Wang

• A juíza Wang não aceitou os argumentos de Hunt em uma ordem de 20 de junho
• Em uma nota de rodapé, ela deixou claro que uma ordem de preservação de documentos não pode ser interpretada como vigilância em massa
  • A ordem faz uma empresa privada preservar, separar e armazenar dados específicos que possui, limitados aos fins do processo
  • Ela declarou expressamente que o Poder Judiciário não é uma agência de aplicação da lei
• A possibilidade de a preservação temporária, pela OpenAI durante o litígio, de determinados dados de logs de saídas de chats que normalmente seriam excluídos violar direitos de privacidade constitucionais ou contratuais de consumidores individuais foi considerada uma questão incidental
• A juíza entendeu que essa questão não contribui “de forma alguma” para a formação do conjunto fático do mérito sobre violação de direitos autorais
• Ela concluiu que as perguntas “novas” levantadas por Hunt não são questões do processo de violação de direitos autorais e que, mesmo que fossem analisadas, atrasariam indevidamente a resolução das questões reais

Sustentação oral da OpenAI e questão da notificação aos usuários

• A OpenAI terá a oportunidade de apresentar sustentação oral perante a juíza Wang em 26 de junho para tratar das preocupações sobre a ordem de preservação
• O ponto que mais preocupava Hunt era a possibilidade de a ordem de preservação ser mantida e os dados de chats serem divulgados aos autores do setor de notícias
• A juíza Wang entendeu que, por enquanto, não há risco porque nenhum dado de chat foi divulgado a organizações de notícias
• Hunt teme que, mesmo sem compartilhamento dos dados, o simples fato de a OpenAI armazená-los possa causar danos graves e irreparáveis
• Alguns usuários questionam quão firmemente a OpenAI lutará contra a ordem
  • Hunt teme que a defesa da privacidade dos usuários possa ficar em segundo plano caso a OpenAI priorize outras preocupações, como custos do caso, resolução rápida e evitar danos à reputação
• A OpenAI não respondeu imediatamente a um pedido de comentário e já havia declarado anteriormente que contestaria a ordem, apresentando o escopo de usuários afetados
• Corynne McSherry, da Electronic Frontier Foundation, entende que essa ordem de discovery cria riscos reais à privacidade dos usuários e pode virar precedente para outros processos
• McSherry disse que, em apps de chat de IA, os usuários precisam poder apagar seus registros e ter certeza de que eles foram de fato removidos, além de receber notificação oportuna sobre solicitações de informações de usuários e relatórios regulares de transparência