Meta suspende programa de monitoramento de funcionários após vazamento interno de dados

 (wired.com)
1 pontos por GN⁺ 5 시간 전 | 1 comentários | Compartilhar no WhatsApp
  • A Meta suspendeu temporariamente o programa depois que dados da Model Compatibility Initiative (MCI), que coletava entradas nos computadores dos funcionários, foram expostos internamente de forma excessiva
  • A MCI foi implementada em abril para funcionários nos EUA e gerou reação interna por coletar informações como movimentos do mouse, locais de clique, teclas digitadas e conteúdo da tela
  • A liderança acreditava que dados dos funcionários eram necessários para que a IA aprendesse como pessoas usam software, mas preocupações com privacidade e segurança acabaram se concretizando em um problema real de exposição interna
  • Stephane Kasriel informou aos funcionários que o problema de segurança descoberto em 18 de junho foi tratado em até 4 horas, mas que a correção inicial não se manteve, levando a restrições adicionais de acesso aos dados
  • A Meta explicou que só retomará a MCI quando tiver confiança na eficácia dos controles de proteção de dados, e que já coletou dados suficientes para avaliar seu valor de longo prazo

Suspensão da MCI e exposição interna de dados

  • A Meta suspendeu temporariamente o programa de monitoramento de funcionários MCI
  • A suspensão ocorreu depois que dados potencialmente sensíveis coletados pela MCI foram expostos a outros funcionários dentro da empresa
  • A porta-voz da Meta, Tracy Clayton, explicou que o programa foi projetado para ter mecanismos de proteção de privacidade e que, embora atualmente não haja indícios de que funcionários da Meta tenham acessado os dados de forma indevida, ele ficará suspenso durante a investigação

Dados coletados e reação dos funcionários

  • A MCI é uma ferramenta distribuída em abril a funcionários nos EUA
  • Segundo apontado pelos funcionários em uma petição contra o programa, os dados coletados incluíam:
    • movimentos do mouse
    • locais de clique
    • teclas digitadas
    • conteúdo da tela
  • No lançamento, os funcionários não podiam optar por não participar da MCI, mas isso foi alterado de forma limitada após os protestos
  • Funcionários vinham expressando preocupação de que a MCI pudesse violar privacidade, segurança e liberdade individual

Por que a Meta impulsionou a MCI

  • A liderança da Meta defendeu repetidamente que a coleta de dados da MCI era necessária para treinar sistemas de IA
  • O objetivo é fazer com que a IA aprenda como pessoas operam softwares de computador
  • A liderança avaliou que os funcionários seriam os melhores exemplos dos quais a IA poderia aprender

Comunicado interno de segurança e reação dos funcionários

  • Na segunda-feira, um engenheiro da Meta informou em um comunicado interno de segurança que um banco de dados contendo informações coletadas pela MCI ficou exposto a qualquer pessoa dentro da empresa
  • Um ex-funcionário que participou da mobilização contra a MCI chamou o problema de “a mess” e disse que era algo que os funcionários já esperavam
  • Esse ex-funcionário criticou a liderança por ter levado o programa adiante apesar das preocupações dos funcionários e por não reconhecer os riscos à segurança e à privacidade dos dados de trabalhadores e clientes
  • Na segunda-feira, fóruns internos receberam uma enxurrada de comentários críticos sobre o problema de segurança e, depois disso, a Meta suspendeu toda a MCI, para surpresa de alguns funcionários
  • Alguns funcionários disseram ter ficado confusos porque a ferramenta continuava em execução em seus laptops até antes do anúncio da suspensão

Comunicado de Kasriel e condições para retomada

  • O vice-presidente Stephane Kasriel, responsável pela pesquisa de IA da Meta, informou aos funcionários, no fim da segunda-feira, sobre a suspensão da MCI
  • Segundo Kasriel, o problema de segurança foi descoberto em 18 de junho e tratado em até 4 horas
  • No entanto, a correção inicial não se manteve, por isso foi necessário bloquear ainda mais o acesso aos dados
  • Por causa desse problema, “alguns dados derivados da MCI” ficaram acessíveis a mais pessoas do que o previsto, mas não foram fornecidos detalhes específicos
  • A MCI só será reativada quando a Meta tiver confiança na eficácia dos controles de proteção de dados
  • A Meta já coletou dados suficientes para avaliar o valor de longo prazo da MCI e pretende compartilhar mais informações sobre o futuro da MCI

Leituras relacionadas

1 comentários

 
GN⁺ 5 시간 전
Comentários do Hacker News

  • A Meta continua sendo a empresa mais descarada que existe, e quase uma empresa em que é vergonhoso trabalhar
    É difícil pensar em um único produto dessa empresa que não tenha tornado o mundo claramente pior
    Até a investida recente em hardware está encontrando formas de destruir a confiança nas interações cotidianas, como homens filmando mulheres bêbadas com Ray-Ban e vigilância
    Conheço algumas pessoas em laboratórios de fronteira mais “cuidadosos” que descartam candidatos vindos da Meta só por esse motivo

    • O Facebook, por exemplo, fez os acionistas ganharem muito dinheiro, e nós sabemos que isso é o mesmo que tornar o mundo um lugar melhor
    • Um produto que não tornou o mundo claramente pior é o zstd
      React e PyTorch dividem um pouco mais as opiniões
    • A Meta parece uma prisão dourada para adolescentes de uns vinte e poucos anos que não conseguem crescer de jeito nenhum. É vergonhoso
    • Os produtos da Meta realmente fazem mal à sociedade, mas eu diria que uma empresa ainda mais vergonhosa para se trabalhar é a Palantir
    • O Facebook de 2004~2005 era realmente bom
      Espalhou-se como fogo e era muito divertido de usar. Era a época em que só estavam lá eu, meus amigos da faculdade e os amigos deles

  • Se eles fazem isso até com funcionários que queriam pagar para manter por perto, o que será que tentam fazer com os dados dos usuários
    E o que mais será que tentam fazer com os sistemas deles conectados aos sistemas dos usuários
    “Dumb f*cks” aparentemente era a linha da empresa desde o dia 1

  • Estou cada vez mais convencido de que esse tipo de vazamento é a única resistência realmente eficaz contra a sociedade de vigilância para a qual estamos entrando
    A Meta vai continuar fazendo isso, outros empregadores provavelmente vão copiar, e o governo vai acrescentar esses dados aos próprios arquivos por meio do “devido processo legal”
    A expansão de câmeras de vigilância, o controle de chats e a eliminação do anonimato estão acontecendo em tempo real
    Quando esses dados vazam, fica claro para todos o tamanho do risco de responsabilidade que eles representam. Os dados de executivos da Meta também estão nesse monte, e militares e parlamentares estão no banco de dados da Flock
    Quantos senadores será que o PornHub tem com um perfil exato de preferências
    Claro que esse tipo de vazamento causa danos. Mas esse dano é realmente maior do que todos serem vigiados por todos, em todo lugar

    • O dano pode ser maior quando não vaza
      Porque isso pode ser usado para chantagear pessoas poderosas. Nem precisa haver algo especialmente ilegal; uma fala controversa ou uma preferência sexual incomum já basta
      Claro, também pode haver algo ilegal, e mesmo que não haja absolutamente nada ilegal, talvez já seja suficiente para montar uma investigação por parallel construction

  • Se você ler o texto linkado, verá que os dados vazados incluíam capturas de tela em que conversas privadas de alguns funcionários apareciam em texto puro, além de informações de desempenho
    Gravar a tela inteira e esperar que a anonimização funcionasse bem foi uma escolha bem ousada

  • Quem diz “se você não infringe as regras, não tem nada a temer” deveria considerar que a maioria das empresas vê trabalhar estritamente pelas regras como uma forma de protesto
    Mesmo se você apenas seguir as regras à risca, essa vigilância será usada para identificar e punir você

  • Aquele sistema parece que vai ser um pesadelo em discovery

    • Na verdade, isso até parece uma ótima ideia
      Fico me perguntando se eles já pensaram nisso e excluem da vigilância os cargos com maior chance de produzir “provas definitivas”

  • Uma empresa lixo está entrando numa espiral da morte

    • Infelizmente, por causa do caixa acumulado e do Facebook como galinha dos ovos de ouro, ela ainda vai aguentar por um bom tempo

  • Foi apenas suspenso temporariamente, e claramente há intenção de retomar
    Não sei por que isso está levando downvote. A matéria literalmente diz isso
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • A Meta deve pagar dinheiro demais mesmo

  • Provavelmente escreveram esse utilitário com IA. Não é tão surpreendente assim que a IA não consiga cuidar direito da segurança