Após reação negativa, Zoom diz que não usará dados de clientes para treinar modelos de IA
(darkreading.com)- Após crescer a reação negativa de que as permissões de uso de dados eram excessivas depois da introdução de recursos de IA generativa, a Zoom alterou seus termos e seu produto para não usar conteúdo de clientes no treinamento de modelos de IA
- A exclusão inclui áudio, vídeo, chat, compartilhamento de tela e anexos, além de conteúdos de caráter comunicacional como resultados de enquetes, quadros brancos e reações
- A controvérsia começou com a política anterior, que permitia usar alguns dados de clientes no treinamento de recursos como Zoom IQ Meeting Summary e Zoom IQ Team Chat Compose
- Após a reação dos clientes, a Zoom primeiro adicionou uma opção de opt-out, mas depois revisou novamente os termos em 11 de agosto para remover a maior parte das expressões relacionadas ao uso de IA
- Os novos termos ainda mantêm os direitos sobre dados gerados pelo serviço, como telemetria, uso do produto e dados de diagnóstico, deixando uma tensão entre recursos de IA e confiança dos usuários
Termos da Zoom mudam para excluir conteúdo de clientes do treinamento de IA
- Após receber feedback dos clientes, a Zoom atualizou seus Terms of Service para deixar claro que não usa conteúdo de clientes no treinamento de modelos de IA da Zoom ou de terceiros
- Os itens excluídos do treinamento de IA são:
- áudio
- vídeo
- chat
- compartilhamento de tela
- anexos
- conteúdos de clientes com caráter de comunicação, como resultados de enquetes, quadros brancos e reações
- O contexto da controvérsia está nos recursos de IA generativa da Zoom
- Zoom IQ Meeting Summary: recurso de resumo automático de reuniões baseado em IA
- Zoom IQ Team Chat Compose: recurso de redação de chats baseado em IA
- A política anterior concedia à Zoom o direito de usar, nos bastidores desses recursos, alguns dados de clientes para treinar modelos de IA, e o fato de isso poder ocorrer sem o consentimento dos clientes levou à reação negativa
Direitos amplos de uso de dados e peso maior sobre a confiança
- Os termos anteriores concediam à Zoom direitos muito amplos em relação ao uso de dados de clientes
- direitos “perpétuos, mundiais, não exclusivos, isentos de royalties, sublicenciáveis e transferíveis”
- propósitos amplos, incluindo machine learning, inteligência artificial, treinamento e testes
- ações sobre os dados como “redistribuir, publicar, importar, acessar, usar, armazenar, transmitir e divulgar”
- Quando a reação dos clientes se espalhou pelas redes sociais, a Zoom primeiro alterou a política no sentido de “não usar conteúdo de áudio, vídeo e chat de clientes para treinar modelos de IA sem o consentimento do cliente”
- Depois, em 11 de agosto, revisou novamente os termos e removeu, na prática, a maior parte das expressões relacionadas ao uso de inteligência artificial
- Ainda assim, os novos termos mantêm os direitos da Zoom sobre dados gerados pelo serviço
- dados de telemetria
- dados de uso do produto
- dados de diagnóstico
- Shomron Jacob, responsável por machine learning da iterate.ai, vê que empresas de tecnologia há muito tempo usam dados de clientes para melhorar a experiência do usuário e introduzir novos recursos
- O contexto é que Google, Facebook e Amazon têm usado dados dos usuários para personalizar serviços e melhorar algoritmos de IA
- À medida que cresce a fiscalização sobre questões de privacidade, segurança e ética na IA, também aumentam as expectativas de transparência e consentimento do usuário
- Com estruturas regulatórias como o GDPR e a CCPA da Califórnia definindo padrões para coleta e uso de dados, empresas de tecnologia precisam lidar ao mesmo tempo com o uso de dados para melhorar a IA, a conformidade regulatória e a proteção da confiança dos usuários
1 comentários
Opiniões no Hacker News
Se os dados estão armazenados em um banco de dados que a empresa pode ler e acessar livremente, ou seja, se não há criptografia de ponta a ponta, no fim a empresa vai tentar mudar os termos para usar esses dados em treinamento de IA.
Acho que o incentivo é forte demais para resistir.
Clientes pagantes realmente detestam que seus dados sejam usados para treinar modelos de IA sem sua permissão, e este caso do Zoom é o exemplo mais recente.
Empresas que tentarem isso vão se queimar feio, e a Zoom já se queimou bastante. Pessoalmente, acho que a Zoom não estava de fato tentando fazer isso; parece mais que não deixou suficientemente claro que não faria, o que resultou em um desastre de PR.
Se clientes pagantes não gostam, o incentivo para a empresa é muito mais forte no sentido de não fazer.
Para as empresas, seria uma dor de cabeça rastrear sob qual versão dos termos cada pedaço de dado foi armazenado, mas precisa ficar inconveniente nesse nível para que elas passem a tratar dados como aquilo que deveriam ser: passivo.
Não há contexto nem controle de qualidade. Mesmo assumindo que a sabedoria das multidões leve, em média, a algo mais próximo da resposta correta, no fim isso treinaria a IA para dar respostas medíocres.
Na febre de big data, muitas empresas diziam que dados tinham valor e armazenavam tudo, mas a maior parte não valia nem o custo do disco rígido. Só passa a ter valor se houver um comprador disposto a pagar pelo custo de aproveitá-los.
Há muitos dados no mundo, mas o que realmente tem valor são informação e conhecimento.
A Zoom só ficou decepcionada porque a mudança nos termos se espalhou, e também deve ter ficado decepcionada por sua própria reputação de empresa pró-privacidade ainda ser boa o bastante para isso virar polêmica.
Fico curioso se o Teams enfrentaria uma reação parecida caso algo assim já não esteja nos termos.
Outros podem sentir diferente, mas todas as pessoas que conheço já odeiam o Teams e só o usam quando a empresa obriga.
Conversei certa vez com um executivo da Microsoft, e ele disse que já surgiu a ideia de colocar anúncios contextuais no Hotmail, como no Gmail, mas ela foi fortemente rejeitada.
A ideia de usar dados de clientes, até mesmo dados de usuários gratuitos, desse jeito era tabu. A Microsoft ganha dinheiro com enormes contratos corporativos, e se os dados dos clientes forem usados de alguma forma que beneficie concorrentes, esses contratos podem ficar ameaçados.
Posts relacionados:
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - agosto de 2023 (35 comentários)
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - agosto de 2023 (177 comentários)
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - agosto de 2023 (16 comentários)
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - agosto de 2023 (194 comentários)
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - agosto de 2023 (510 comentários)
A Zoom claramente tem vários modelos de IA, e o mesmo vale para Teams, Google Chat etc.
Eles são necessários para legendas e transcrição automática de reuniões, e também para desfoque automático de fundo e separação de plano de fundo. Provavelmente também estão trabalhando em um produto de “resumo de reunião”.
Essas são funcionalidades de que as pessoas gostam e usam o tempo todo. Fico curioso sobre como esperam que a Zoom melhore esses recursos sem coletar dados de usuários reais da plataforma.
Tarde demais. Levei uma hora para colocar no ar uma instância de Jitsi auto-hospedada, e não há motivo para voltar.
Fiquei surpreso com o desempenho e a estabilidade do Jitsi.
Eu e várias pessoas que conheço estamos prestes a seguir esse caminho.
Estou montando uma lista de empresas de IA que treinam com dados de usuários: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Vou atualizar o item da Zoom, mas ainda acho suspeito
Na semana passada ajustei um modelo de regressão com parte dos dados de clientes; então treinei IA com dados de clientes? É uma questão de intenção, de ser voltado a usuários públicos, ou de ser um modelo generativo?
Por isso não acho que esse critério se aplique
A Zoom armazena os dados de vídeo ou áudio das chamadas? Essa é realmente a pergunta central
Se qualquer coisa for armazenada, não dá para confiar
Além disso, ao usar protocolos de streaming de vídeo como HLS ou MPEG-DASH, o stream é armazenado em segmentos de vídeo e depois apagado
É mais uma decepção ver grandes empresas tentando empurrar políticas assim sem chamar atenção
Quem acha que isso é aceitável? Algum executivo querendo só pegar o dinheiro? Precisamos ser melhores do que isso
“Após a reação negativa, a Zoom afirmou que não usaria dados de clientes para treinar modelos de IA”
Por enquanto
Para começo de conversa, como eles poderiam treinar qualquer coisa se tudo fosse criptografia de ponta a ponta?
Parece bastante claro para todo mundo qual das duas opções é mais plausível, mas, curiosamente, acho que haveria divergência sobre qual delas não faz sentido
O Zoom, assim como Meet, Teams, WebEx e muitos outros serviços que conheço, é “criptografado”, mas a “criptografia de ponta a ponta” no sentido comum não é o padrão. Alguns têm uma opção de E2EE, mas ela fica enterrada nas configurações do serviço e não é fácil de ativar
Portanto, por design, os servidores podem ver o áudio e o vídeo, e de fato veem. Se a infraestrutura for comprometida, um invasor também poderá ver. A criptografia no modo padrão apenas impede que o ISP veja o conteúdo da chamada
Em contraste, as chamadas do Signal usam E2EE. Mesmo chamadas retransmitidas pelos servidores do Signal não permitem que o Signal veja o vídeo ou áudio descriptografado. Ainda assim, nesse caso, ele pode saber quem participa da chamada, mas não o que foi dito
Como observação paralela, foi por isso que criamos o Booth.video: para mostrar que isso não é uma troca fundamental e que videoconferências com E2EE e segurança de metadados são possíveis até no navegador