A Microsoft está monitorando usuários de suas ferramentas de IA

A Microsoft monitora usuários de ferramentas de inteligência artificial

• A Microsoft anunciou que descobriu que hackers da China, Rússia e Irã estão aprimorando suas capacidades de hacking usando suas ferramentas de inteligência artificial (IA).
• Esses hackers, identificados como Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon e Salmon Typhoon, foram rastreados e parecem usar Modelos de Linguagem de Grande Escala (LLMs) para aumentar o alcance de operações cibernéticas.
• A única forma de a Microsoft ou a OpenAI detectar tais atividades é monitorando as sessões do chatbot.
• Embora os termos de uso provavelmente autorizem a monitorização de usuários, e não seja surpreendente que a Microsoft e a OpenAI monitorem o uso de IA, esta divulgação confirma esse fato.

Opinião do GN⁺

• Esta matéria apresenta uma informação importante de que a Microsoft monitora o uso de ferramentas de IA e, dessa forma, rastreia as atividades de hackers apoiados por Estados.
• A vigilância de usuários pode suscitar preocupações com privacidade e segurança pessoal, mas também pode ser vista como uma medida crucial para fortalecer a cibersegurança e a segurança nacional.
• Esta vigilância destaca o potencial de uso dual da tecnologia de IA e pode estimular debate sobre novas questões éticas e legais introduzidas pelo avanço tecnológico.

[GN⁺]

Comentários do Hacker News

• Resumo dos comentários sobre o processamento de dados de usuários da API da OpenAI

  • De acordo com os Termos de Serviço (TOS) da OpenAI, a empresa pode reter as entradas e saídas da API por até 30 dias para prestação do serviço e identificação de abuso.
  • A menos que haja obrigação legal, os dados são excluídos do sistema após 30 dias.
  • O usuário pode solicitar retenção de dados para casos de uso específicos (ZDR).
  • Os detalhes sobre o processamento de dados podem ser conferidos na página de documentação da plataforma da OpenAI.

• Resumo dos comentários sobre o processamento de dados de usuários de ferramentas de IA da Microsoft

  • Em vez de afirmar apenas que "a Microsoft monitora usuários de ferramentas de IA", o comentário diz que a Microsoft descobriu que governos hostis em países autoritários estavam usando ferramentas de IA para atividades ilícitas.
  • Ao aceitar os termos de serviço, o usuário reconhece que a Microsoft pode realizar esse rastreamento de dados.

• Resumo dos comentários sobre o Google Bard e Gemini

  • O Gemini do Google deixa claro desde a página inicial que conversas de usuários são processadas por revisores humanos e usadas para melhorar a tecnologia do app Gemini.
  • Os usuários não devem inserir informações que não queiram mostrar a revisores humanos ou permitir que o Google as utilize.
  • O conteúdo do Google Workspace não é revisado nem usado para melhorar o Gemini.
  • Ao desativar a atividade do app Gemini, o usuário pode configurar para que futuras conversas não sejam revisadas nem usadas para melhorar modelos de machine learning.

• Resumo dos comentários sobre termos de serviço e política de privacidade

  • Muitas empresas de tecnologia têm permissão para monitorar o uso de IA pelos usuários com base no que está indicado em seus termos de serviço.
  • Se os termos de serviço contiverem cláusulas que autorizam monitoramento, é razoável assumir que a empresa realmente monitora.
  • As políticas de privacidade tendem a criar confiança nos usuários, mas não existe modo de verificar se a empresa de fato as cumpre.

• Resumo dos comentários sobre o monitoramento de dados de usuários pela Microsoft

  • O monitoramento da Microsoft do uso de ferramentas de IA pelos usuários não é surpreendente e já é um fato amplamente conhecido.
  • Empresas de tecnologia, incluindo a Microsoft, têm acesso para visualizar o conteúdo das conversas dos usuários, o que deveria ocorrer apenas com permissão explícita e revogável do usuário.

• Resumo dos comentários sobre uso de ferramentas de IA e coleta de dados

  • Usar ferramentas de IA significa que os dados do usuário serão coletados em larga escala.
  • Só use IA que roda localmente se estiver preocupado com a proteção de dados do usuário.

• Resumo dos comentários sobre a correlação entre desenvolvimento de IA e coleta de dados

  • A IA é baseada em dados, e quanto mais dados são coletados, melhor é possível treinar a IA, criando um ciclo virtuoso em que mais usuários querem fornecer dados.

• Resumo dos comentários sobre coleta de dados e detecção de abuso em plataformas

  • É evidente que todas as plataformas coletam entradas dos usuários para treinar o próximo modelo e detectar abuso.