Meta começa a coletar movimentos do mouse e teclas digitadas de funcionários para treinamento de IA

• A Meta instalou nos computadores de funcionários nos EUA um software que rastreia movimentos do mouse, cliques e teclas digitadas para usar como dados de treinamento de modelos de IA, além de capturar periodicamente capturas de tela de apps e sites de trabalho
• A ferramenta, chamada Model Capability Initiative (MCI), tem como objetivo obter dados de treinamento em áreas nas quais a IA ainda não consegue reproduzir bem o comportamento humano, como seleção de menus suspensos e uso de atalhos de teclado
• O CTO Andrew Bosworth apresentou, por meio do programa interno de transformação em IA rebatizado como Agent Transformation Accelerator (ATA), a visão de que “os agentes executarão principalmente o trabalho, e os humanos irão orientar, revisar e melhorar”
• A Meta começará em 20 de maio uma redução de 10% da força de trabalho global e está incentivando ativamente os funcionários a usar agentes de IA em tarefas como programação
• Juristas apontam que a medida aplica a funcionários de colarinho branco um nível de vigilância em tempo real antes visto em entregadores e trabalhadores de gig economy, além de possivelmente violar o GDPR europeu

---

Como a ferramenta MCI funciona

• O MCI roda em apps e sites de trabalho dos funcionários e captura movimentos do mouse, cliques e teclas digitadas
• Também inclui a função de tirar periodicamente snapshots do conteúdo exibido na tela dos funcionários
• A informação foi revelada por meio de um memorando interno publicado por um cientista de pesquisa em IA no canal da equipe Meta SuperIntelligence Labs
• O objetivo é melhorar áreas em que modelos de IA têm dificuldade para reproduzir interações humanas no computador, como a seleção de menus suspensos e o uso de atalhos de teclado
• Segundo a explicação, “todos os funcionários da Meta podem contribuir para melhorar os modelos apenas realizando seu trabalho cotidiano”

Estratégia de transição do trabalho para IA

• Em um memorando separado, o CTO Andrew Bosworth afirmou que reforçará a coleta de dados internos e rebatizou o programa como Agent Transformation Accelerator (ATA)
• Ele apresentou a visão de que “os agentes executarão principalmente o trabalho, e o papel dos humanos será orientar, revisar e apoiar melhorias”
• A meta é que os agentes identifiquem automaticamente os pontos em que sentiram necessidade de intervenção humana, para melhorar na próxima vez
• Bosworth não explicou explicitamente como os agentes seriam treinados, mas disse que será rigoroso em acumular dados e avaliações sobre todos os tipos de interação no processo de trabalho
• O porta-voz da Meta, Andy Stone, reconheceu que os dados do MCI são um dos insumos para o treinamento dos modelos

Reestruturação da força de trabalho com base em IA

• Os dados do MCI não serão usados em avaliações de desempenho e serão utilizados apenas para treinamento de modelos; há salvaguardas para proteger “conteúdo sensível”, mas não foi explicado exatamente quais dados ficam fora da coleta
• A capacidade das ferramentas de IA de lidar com tarefas complexas com supervisão humana mínima, como criação de apps e organização de grandes volumes de dados, vem dominando o Vale do Silício e levando à queda das ações de empresas tradicionais de software e a planos de cortes massivos de pessoal
• A Meta começará em 20 de maio uma redução de 10% da força de trabalho global e também avalia novos cortes em larga escala ainda este ano
• A Amazon reduziu nos últimos meses cerca de 30.000 funcionários de colarinho branco (cerca de 10%), e a Block demitiu quase metade dos funcionários em fevereiro
• A Meta está incentivando os funcionários a usar agentes de IA em tarefas como programação, mesmo que isso reduza a velocidade no curto prazo
• Também está em andamento a eliminação de distinções entre certas funções, com integração sob o título genérico de "AI builder"
• No mês passado, foi criada a equipe de engenharia Applied AI (AAI) para reforçar a capacidade de programação dos modelos de IA da Meta e focar no desenvolvimento de agentes de IA que no futuro realizarão a maior parte do trabalho de construção de produtos e infraestrutura
• Desde o início deste mês, a empresa começou a transferir engenheiros de software “excelentes” para a AAI

Preocupações com vigilância de funcionários de colarinho branco

• Segundo Ifeoma Ajunwa, professora de direito da Universidade Yale, tecnologias de registro de atividade no computador e de capturas de tela foram historicamente usadas para detectar má conduta de funcionários ou atividades não relacionadas ao trabalho
• O registro de teclas digitadas leva a coleta de dados um passo adiante e aplica a funcionários de colarinho branco um nível de vigilância em tempo real antes experimentado apenas por entregadores e trabalhadores de gig economy
• Pela legislação federal dos EUA, não há restrições à vigilância de trabalhadores, e as leis estaduais em geral exigem apenas que os empregadores informem de forma ampla que o monitoramento existe
• Valerio De Stefano, professor de direito da Universidade de York, avaliou que, sob a legislação europeia, esse tipo de monitoramento provavelmente seria proibido
  • Na Itália, rastrear a produtividade de funcionários por monitoramento eletrônico é explicitamente ilegal
  • Tribunais alemães mantêm o entendimento de que o registro de teclas digitadas só é permitido em situações excepcionais, como suspeita de crime grave
• É muito provável que essas práticas configurem violação do GDPR na Europa
• A percepção sobre a vigilância patronal tem o efeito de inclinar o equilíbrio de poder no local de trabalho para o lado do empregador

[unsure4000]

No que será que a pessoa que estava programando esse sistema de rastreamento estava pensando?

[t7vonn]

A suposta melhoria do modelo é só fachada; na prática, parece mais que estão acumulando dados para justificar layoffs.

[winkagn]

Isso me faz pensar no que exatamente isso difere do Big Brother.

[GN⁺]

Comentários do Hacker News

• Isso simplesmente parece lixo tóxico. Dá vontade de torcer para que seja amplamente hackeado, e que alguém crie uma contramedida para enfiar um monte de dados falsos absurdos nesse pipeline ganancioso de coleta da Meta
• Acho que isso vai ter um enorme efeito inibidor sobre os funcionários. Agora até conversas paralelas ou papo fora do trabalho teriam de acontecer sem a menor expectativa de privacidade. Antes já devia ser possível olhar logs, mas parece completamente diferente fazer isso de forma limitada depois de um incidente e ter uma vigilância permanente em massa
  • Dá até um cinismo pensar que não existe grupo mais adequado para isso. A ironia é tão forte que parece capaz de quebrar o detector
  • Eu sempre parti do princípio de que, em equipamentos da empresa, tudo o que eu faço pode ser monitorado pelo TI. Por isso nunca fiz nada que a empresa pudesse desaprovar em hardware corporativo, nem que fosse um pouco arriscado, e sempre usei meu smartphone e meu computador pessoal. Quando houve conflito entre engenheiros e a gestão numa startup onde trabalhei, os engenheiros criaram um grupo privado com contas pessoais no Signal e conversaram sem problema
  • Sinceramente, duvido que a Meta se importe se está inibindo os funcionários. A impressão é que já entrou na fase de extrair mais valor, e que já não é mais uma empresa capaz de atrair talentos de ponta
  • Entendo o lado de que máquinas de trabalho são propriedade da empresa e, portanto, não deveria haver expectativa de privacidade. Trabalho numa empresa de tecnologia na Índia, e somos incentivados a criar um skills.md com base nas características dos colegas para reduzir o risco de dependência de pessoas-chave. De fato, o código de alguns engenheiros demitidos em reestruturações já está sendo mantido por seus equivalentes de IA. Talvez a Meta esteja indo nessa direção também
  • Desde que entrei no mercado de trabalho, sempre achei que ativos e equipamentos da empresa podem ser monitorados pela empresa, ou até sofrer keylogging. Na prática, muitas vezes nem vão tão longe, e isso até me surpreende, mas acho que o direito existe. Não entendo por que as pessoas esperam ter o direito de fazer atividades não relacionadas ao trabalho durante o expediente. Em todas as empresas onde trabalhei, contratos e políticas deixavam claro o que era permitido; se você quer falar mal da empresa, que seja fora do Slack ou Teams, fora da empresa ou ao lado de um bebedouro, ou então por números pessoais
• Surgiu a piada de que a próxima geração de IA provavelmente vai ficar muito boa em rolar o Hacker News
• Eu realmente não entendo como isso é legal. Dá a impressão de que nos EUA o Facebook praticamente não tem nenhuma exigência de compliance. Capturas de séries temporais de telas de SRE inevitavelmente vão conter informação sensível, como senhas, chaves de criptografia e PII; então como faz sentido esse aspirador de dados armazenar isso? Fico curioso se o funcionário pode desligar isso quando quiser, e preocupado com o que acontece se alguém deixar sem querer a chave privada root de ssh da empresa inteira na tela e não conseguir desligar. Antes mesmo da questão legal, qualquer pessoa com acesso a esses dados de treinamento acabaria tendo acesso amplo demais aos sistemas da empresa como um todo, o que no fim só aumenta o risco de invasão
  • Pela lei americana, especialmente em dispositivos da empresa, isso costuma ser legal para a maioria das empresas e, infelizmente, não é tão raro. Normalmente o compliance desses dados é tratado como qualquer outro dado sensível, limitando o acesso às capturas de tela a grupos específicos. Não é que eu apoie isso, mas muitas empresas não ignoram preocupações de segurança para fazer isso; na verdade, fazem isso justamente com o argumento de resolver problemas de segurança. Dito isso, a Meta parece diferente, com uma forte impressão de que quer criar modelos para substituir parte da força de trabalho
  • Acho que esses dados inevitavelmente vão vazar em algum incidente de exposição. Vão ser usados de forma desfavorável em tribunal, vão servir para treinamento, e, diga-se o que se disser, se a IA puder fazer o trabalho no lugar das pessoas, vão acabar sendo usados também para demissões. E mesmo que tudo isso aconteça, a Meta provavelmente ainda vai escapar de responsabilidade. Por isso parece ainda mais urgente aprovar leis para impedir esse tipo de coisa
  • Existe a preocupação de que qualquer experimento psicológico minimamente relacionado à web passou a ser tratado como automaticamente legal depois que testes A/B foram normalizados. Isso originalmente não é um tipo de coisa que deveria ser coberta por um consentimento genérico; deveria exigir participação voluntária e procedimentos como revisão independente. O gato já saiu do saco, mas isso não significa que deixou de ser um problema
• Isso parece realmente insano. Antigamente engenheiros eram vistos de fato como uma profissão especializada; agora parece que chegamos ao ponto em que a empresa exige spyware em vez de confiança. Soa parecido com sugerir instalar software de vigilância em notebooks de escritórios de advocacia porque advogados poderiam estar fazendo acordos obscuros com juízes, ou vigiar todas as ações de médicos 24 horas por dia. Dá até vontade de satirizar dizendo que seria melhor aplicar vigilância 24 horas auditável publicamente a políticos
  • Os políticos certamente seriam os primeiros a criar exceções para si mesmos em nome da segurança ou algo do tipo. Em princípio, quanto maior o poder, maior deveria ser a responsabilização e a vigilância, mas o mundo real funciona exatamente ao contrário
  • Dá para apontar que, entre os exemplos que você deu, os únicos pagos diretamente com meus impostos e que, em princípio, trabalham para mim, são os políticos. Advogados e médicos não são meus empregados nem trabalham sobre meus ativos. Na verdade, o que este caso mostra é que a máscara foi quase totalmente arrancada da relação empregador-empregado nos EUA e, com até o seguro de saúde atrelado ao emprego, chegou-se a esse ponto com pouca capacidade restante de resistência
  • A ideia de instalar esse tipo de vigilância em notebooks de escritório de advocacia até soa como uma boa ideia
  • Eu já levei uma facada nas costas de alguns advogados. Mais do que e-mails, o que você deveria temer são as ligações telefônicas
• Você acha mesmo que os funcionários da Meta vão acreditar quando dizem que os dados coletados não serão usados para avaliação de desempenho nem para outros fins, e sim apenas para treinar modelos?
  • Esses funcionários já vinham codificando voluntariamente uma das maiores redes de vigilância do planeta, então talvez estejam preparados para acreditar em muita coisa
  • Se já houve demissões por quatro anos seguidos e ainda paira a expectativa de mais 20% de corte, então imagino que os funcionários da Meta, ainda que sejam uma minoria, devam estar bem desconfiados
  • No fim, o que importa é a compensação, e a visão fria é que salários altos provavelmente vão garantir a conformidade
  • A credibilidade dessa afirmação está no mesmo nível do antigo "It's free and always will be"
• Que alívio pensar que eu decidi nem começar o processo seletivo da Meta. Na época a empresa já parecia bastante ridícula, mas agora a sensação é de que está em outro nível
• Fico imaginando como seria a empresa oposta à Meta. Talvez algo pequeno e centrado em privacidade, com HN bloqueado no trabalho, embora eu também me pergunte se estou deixando passar alguma coisa
• Imagino que esse sistema vá acabar coletando em massa cenas de funcionários da Meta trabalhando com IA. Aí implantam de novo um modelo treinado nisso, e da próxima vez passam a coletar funcionários usando IA que usa IA de forma eficiente, e, depois de repetir isso algumas vezes, acabam coletando até os inputs de gente martelando o teclado em desespero e gritando por que o modelo não consegue fazer nada — uma verdadeira comédia sombria
  • A especulação é que esse papo de treinamento de IA seja só um pretexto e que, na prática, sirva como justificativa para mandar gente embora sem chamar atenção em meio a demissões em massa e ainda reduzir indenizações de desligamento
  • Esses dados também vão mostrar quem não está usando IA o suficiente, então a preocupação é que esses funcionários acabem entrando em PIP ou sendo demitidos
  • Parece um modo de falha engraçado, mas tecnicamente talvez seja até algo bom. Os modelos já têm em certa medida as habilidades que humanos usavam ao pedir coisas para IA; seja usando agentes subordinados, seja incorporando ao próprio modelo o trabalho que a IA fazia no lugar, o fato de os humanos terem mudado a distribuição das tarefas para algo mais próximo da distribuição da IA acaba facilitando o treinamento
  • Plantão: a Meta criou o simulador definitivo de "gato sentado no teclado"
• Como história relacionada, isso me fez lembrar de Manna, de Marshall Brain, e acho que https://marshallbrain.com/manna1 dialoga bastante com a situação atual