- A Meta reduziu seus planos de usar teclas digitadas e cliques de mouse de funcionários para treinar modelos de IA e adicionou controles para interromper a coleta de dados por até 30 minutos de cada vez
- O novo controle permite que os funcionários pausem temporariamente a coleta de dados do MCI ou solicitem exclusão total, e a Meta se recusou a comentar oficialmente
- A reação dos funcionários continuou por semanas, e uma petição contra a introdução do rastreamento reuniu mais de 1.500 assinaturas
- A Meta afirmou que, para criar agentes que ajudem em tarefas cotidianas no computador, são necessários exemplos reais de uso, e que os dados não serão usados para outros fins e contam com proteções para conteúdo sensível
- Um memorando interno reconheceu as preocupações levantadas pelos funcionários sobre dados pessoais, duração da bateria e controle sobre o momento da captura, e informou que a equipe do MCI introduziu otimizações para reduzir o impacto na bateria dos laptops
Meta reduz plano de rastreamento da atividade de funcionários
A Meta informou em um memorando interno na terça-feira que reduziu seu plano de rastrear a atividade em computadores de funcionários. O plano está relacionado a uma ferramenta que registra teclas digitadas e cliques de mouse de funcionários para treinar modelos de IA.
Segundo a Reuters, o novo controle permite que os funcionários interrompam a coleta de dados “por até 30 minutos de cada vez” e também solicitem exclusão completa desse plano. A Meta se recusou a comentar oficialmente.
Model Capability Initiative e reação interna
O nome da ferramenta é Model Capability Initiative (MCI). No anúncio inicial, a Meta afirmou que “para criar agentes que ajudem a concluir tarefas cotidianas usando computadores, os modelos precisam de exemplos reais que mostrem como as pessoas realmente usam computadores”.
A Meta acrescentou que esses dados “não serão usados para outros fins” e que a ferramenta conta com “salvaguardas para proteger conteúdo sensível”.
A reação dos funcionários continuou por semanas, e alguns iniciaram uma petição contra a medida. A petição agora reúne mais de 1.500 assinaturas.
Preocupações levantadas pelos funcionários
Um funcionário da Meta disse que a situação de seu comportamento ser usado para treinar modelos de IA parecia “muito distópica”. Os funcionários já esperavam novas demissões.
A Meta demitiu cerca de 2.000 pessoas neste ano. Em abril, informou aos funcionários que planejava reduzir 10% da força de trabalho total, cerca de 8.000 pessoas.
Outra pessoa que deixou a Meta recentemente descreveu a ferramenta de rastreamento como “a forma mais recente de enfiar IA goela abaixo de todo mundo”.
Ajustes descritos no memorando interno
Segundo a Reuters, o memorando interno visto pela agência foi escrito por Stephane Kasriel, vice-presidente da divisão Meta Superintelligence Labs.
Kasriel afirmou que a equipe do MCI introduziu “várias otimizações” para reduzir o impacto na duração da bateria dos laptops. A mudança veio depois de funcionários relatarem que, por causa da ferramenta, o uso de dados durante o trabalho remoto disparou e o consumo de internet aumentou.
Kasriel afirmou no memorando que continua confiante nas medidas de privacidade que passaram por várias etapas de revisão de risco no lançamento, mas disse ter ouvido preocupações sobre dados pessoais em dispositivos de trabalho, duração da bateria e maior controle sobre o momento da captura.
1 comentários
Comentários do Hacker News
Isso me faz lembrar de um excelente trecho de Snow Crash que descreve o trabalho em “Fed Land”
A mãe da Y.T. abre um novo memorando e começa a ler, e o tempo estimado de leitura é de 15,62 minutos. Mais tarde, os gerentes veem quanto tempo cada funcionário gastou lendo esse memorando, e se for menos de 10 minutos há uma conversa sobre atitude; entre 10 e 14 minutos, possibilidade de falta de dedicação; exatamente 15,62 minutos, “metido” e conversa sobre atitude; mais de 18 minutos, verificam as câmeras de segurança suspeitando de algo como uma pausa não autorizada no banheiro
A mãe da Y.T. decide ler entre 14 e 15 minutos, apertando Page Down em intervalos regulares e às vezes voltando para a página anterior para fingir que está relendo. O computador registra esse comportamento também, avalia releitura de forma positiva, e a ideia é que esses pequenos hábitos acabam aparecendo fortemente no resumo dos hábitos de trabalho depois de uns 10 anos
Como no comentário abaixo, não dá para saber até que nível a vigilância está acontecendo. Se algum CEO estiver lendo isso, oi
Sempre foi difícil saber o quão severo é o rastreamento na prática, e profissionais de TI também não costumam falar muito sobre isso
Nos EUA, existe a premissa de que, se você usa um dispositivo fornecido pela empresa, toda atividade nele pode ser completamente monitorada e registrada, e usada contra o funcionário por qualquer motivo. Na prática, muita gente não se preocupa tanto com alguma navegação casual, ver o Hacker News ou resolver assuntos pessoais no computador de trabalho
Mas a situação muda muito por causa da IA. Agora, sob o pretexto de “treinamento”, robôs podem classificar e examinar em detalhe cada pequena ação, então parece que em breve teremos de nos preparar para um nível de rastreamento absolutamente brutal
No meio disso, também há muitas empresas que só impõem segurança básica e mantêm apenas o direito de investigar quando surge algum problema. Quando você conversa com líderes dessas empresas, por mais difícil que pareça acreditar, muitos rejeitam fortemente as formas mais invasivas de rastreamento
Ainda assim, qualquer tipo de vigilância ganha uma oportunidade perigosa com a ascensão da IA, porque ela torna possível uma observação muito mais direcionada. Não é mais preciso que uma pessoa gaste tempo olhando diretamente; basta mandar a IA continuar observando e encontrar o que interessa
Um dos riscos mais realistas quando um funcionário comum resolve assuntos pessoais no computador de trabalho provavelmente é a ameaça interna de um administrador de TI malicioso com acesso a dispositivos da empresa sem supervisão suficiente
Estranhamente, no HN isso vira bastante polêmica. Como se trazer o celular pessoal para a empresa para resolver banco ou escrever no HN fosse um inconveniente enorme; quando sugeri isso, muitas vezes recebi reações estranhamente irritadas. Hoje é muito mais fácil separar os mundos do que era antes dos smartphones
Não há motivo para o empregador saber que assuntos pessoais eu preciso resolver durante o dia, e, por outro lado, a empresa também nunca aprovaria que eu fizesse trabalho confidencial em dispositivo pessoal, então os dois lados saem ganhando
Em contabilidade, bancos, negociação de ações etc., em teoria dá para construir um sistema que impeça 100% das fraudes, mas ele fica tão inconveniente que ninguém mais usa. Se para comprar um taco você tiver de fazer 15 escaneamentos de retina, coleta de sangue e pedir aprovação a um supervisor do banco, isso não funciona
Aqui é a mesma coisa. Com IA e grandes modelos de linguagem, dá para tentar medir e otimizar quanto uma pessoa trabalha até o nível de segundos. A Amazon já faz isso em armazéns, e continuam aparecendo casos em que um funcionário morreu no chão e os outros tiveram de continuar trabalhando ao lado do corpo
A Amazon precisa esgotar comunidades inteiras, uma por uma, para encontrar pessoas dispostas a trabalhar nesse sistema, e em documentos enviados à SEC consta que o esgotamento populacional é uma ameaça real à força de trabalho
Portanto, mesmo para corporações malignas, a quantidade ótima de vigilância não é 100%. A Amazon já passou do ponto de equilíbrio e parece estar sendo empurrada de volta na direção do ótimo. Esse ponto pode estar muito mais adiante do que imaginávamos
As empresas que vão ter sucesso na próxima década provavelmente serão as que respeitam a dignidade básica dos funcionários e os tratam como profissionais competentes e responsáveis. Pensei a mesma coisa no passado, quando ouvi amigos em grandes empresas contarem que instalaram mexedores de mouse para satisfazer softwares de vigilância do notebook quando saíam da mesa
É parecido com teste de drogas. A menos que seja governo ou trabalho com credencial de segurança, sempre vi teste de drogas como um bom sinal de uma cultura sem respeito pelos funcionários e de baixo prestígio no setor
A Meta deixou muito claro para onde está indo, e isso parece parecido com arrumar emprego na Cisco de 2012. Boa sorte para contratar bem, entre a Gen Z agora na faixa dos 20 anos, o talento necessário para IA e tecnologias emergentes
Entendo que isso pode ser legalmente permitido, mas eu nunca trabalharia em um lugar assim
Não trabalho na Meta, mas fico me perguntando por quantos anos ainda vou conseguir continuar no setor de tecnologia. Estou na casa dos 40 e meus filhos ainda são pequenos. Já abri contas 529 para eles e estou no meio de uma reforma cara na casa
Quando isso acabar e eu montar uma reserva de segurança, talvez eu possa passar os 5–10 anos restantes da minha vida profissional em outro setor. Queria saber se mais alguém tem um plano parecido
Recomendo fortemente sair do setor de tecnologia. Meu nível de cortisol caiu muito em relação ao que era antes, e não preciso mais organizar minha vida em torno de reuniões com EMEA e APAC fora do horário normal de trabalho. Só trabalho mais de 40 horas quando eu quero, e às vezes quero. Agora é porque o trabalho de fato é prazeroso
Posso fazer uma diferença visível para as pessoas e trabalhar com algo com que me importo. Em vez de satisfazer investidores ou capital de risco, focamos todos os anos em maximizar impacto e atingir o ponto de equilíbrio
A remuneração e os benefícios pioraram em alguns aspectos, mas não me importo muito. Tenho um cônjuge com um plano de saúde decente, então usamos isso, e enquanto trabalhava em tecnologia quitei a hipoteca e também guardei bastante dinheiro. Não sou rico no sentido em que as pessoas de tecnologia pensam em riqueza, mas se quisesse eu poderia vender o que tenho, viver muito bem em alguma praia da América Latina e talvez nunca mais trabalhar
O conselho prático é reservar um tempo para calcular quanto você precisa para sair. Eu estava acostumado com um salário de seis dígitos, mas na prática meu custo de vida nunca passou de cinco dígitos, então o valor de que eu precisava era muito menor do que eu imaginava
Também deveríamos conseguir submeter a liderança a algum tipo de código de ética. Não quero trabalhar em uma empresa que faz robôs assassinos ou volta atrás em compromissos climáticos
O desprezo aberto pelos funcionários, de cima a baixo, está piorando cada vez mais e não há sinal de fim. Quando eu fizer 50, vou ter que contar com a sorte para não ser alvo da triagem anual de profissionais sêniores
Já não existe desculpa para fingir que não sabemos como este setor funciona. A máscara já tinha caído há anos
Dá para construir coisas como feature phones que sejam realmente inteligentes e funcionem para os usuários, TVs de código aberto, modelos locais de IA e navegadores que não espionem
Amo desenvolver software, mas não aguento trabalhar neste setor
É uma combinação profana de cultura corporativa ruim com princípios morais duvidosos
Quero perguntar seriamente a quem está lendo isso e trabalha na Meta: como você ainda consegue trabalhar nessa empresa?
Eu realmente não entendo por que alguém não sai de uma empresa tão tóxica e vai para outro lugar ou começa algo próprio. Era só deixar a Meta morrer
É chocante que haja tanta gente que dê muito mais valor a uma montanha de dinheiro do que a fazer o bem. Todo mundo que está disposto a abrir mão dos próprios valores por dinheiro faz parte do problema. É nojento
Também existe a realidade de ter de sustentar a família e se preparar para a aposentadoria. Não é perfeito, mas onde exatamente se traça a linha do que torna uma empresa tóxica? Até onde se pode ceder quando há outras vantagens? As respostas para essas perguntas variam de pessoa para pessoa. Algumas diriam que, por causa das questões ambientais, trabalhar no setor de tecnologia em si já é errado
Pessoalmente, acho que trabalharia na Meta sem problemas. Muita gente usa e gosta dos serviços deles. Talvez não seja o melhor trabalho possível para a sociedade, mas o mesmo vale para Netflix, Amazon e Apple
Ao trabalhar na Meta, a empresa está traindo você. Ela está gravando sua tela abertamente para treinar a IA que vai substituí-lo. Trabalhar em outro lugar é algo parecido com você trair a Meta
Simplificando ao extremo, o que é melhor? Ganhar US$ 400 mil por ano durante 5 anos e depois ser demitido, correndo o risco de que quase não existam empregos porque você ajudou a Meta a construir a tecnologia que o substitui? Ou ganhar US$ 200 mil por ano ao longo de toda a carreira, sem secar as oportunidades de emprego porque você não ajudou a construir a tecnologia de substituição?
Claro, espero que isso seja um caso muito extremo e raro, mas existem muitos casos em que dinheiro faz uma diferença bastante grande. E também muda muito se a única pessoa afetada pela decisão sou eu ou se há outras pessoas envolvidas
Ao escolher esse tipo de posição, essas implicações práticas também podem ser consideradas com bastante peso
Em geral, considera-se que a entrevista da Meta não é tão difícil, e isso acaba reforçando ainda mais a síndrome do impostor. Como a pessoa entrou com facilidade, fica com a sensação de que está sendo recompensada além do que merece. Dá quase para suspeitar que isso seja uma estratégia intencional
Os funcionários que passaram anos rastreando todo mundo no planeta agora também estão sendo rastreados; é difícil imaginar algo mais irônico do que isso :)
Essas empresas já rastreiam muito do comportamento dos usuários, e uma parte considerável disso faz sentido do ponto de vista de segurança. Então fico pensando no que ainda não está sendo rastreado e que poderia ter algum valor
Não vejo como pressionamentos individuais de teclas e movimentos do mouse poderiam ser mais valiosos do que os resultados do trabalho, que em geral já são rastreados em unidades de valor adequadas
Talvez seja simplesmente uma forma de fazer mais gente pedir demissão, sem se importar nem um pouco em perder talento de verdade
Todo o MAG-7 parece querer transferir gastos de P&D de salários para capex de datacenters de IA, e aparenta estar disposto a aceitar a saída de 90% das pessoas que geram 99% do valor real
Não é que sejam idiotas e não saibam o que realmente acontece na prática. É uma autoconfiança arrogante, sustentada pela posição de mercado, que os faz acreditar que podem tomar decisões desastrosas e ainda assim obrigar todo mundo a arcar com as consequências
Se o modelo for ruim, é só fazer lobby no Congresso para tornar modelos com pesos abertos ilegais; se ninguém gostar do preço, o governo pode ser forçado a pagar pelo produto; se China ou Europa fizerem melhor, basta proibir a concorrência em nome da segurança nacional
Isso me faz lembrar do artigo satírico de 2015 do The Onion, “HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related”
Mas o próprio opt-out obviamente também será rastreado. Se você escolher isso, pode acabar entrando na avaliação de desempenho
Isso me lembra a cena em que O’Brien desliga a teletela
“Você...”
“Sim... a nós esse privilégio é permitido”
As pessoas que criaram essa política quase certamente estão isentas dela
Winston podia ficar sentado no vão da parede, um pouco recuado, e assim permanecer fora do alcance da teletela, pelo menos no campo de visão. Claro, ainda podiam ouvi-lo, mas, enquanto ficasse exatamente onde estava, não podiam vê-lo. Foi em parte por causa da disposição incomum do quarto que ele pensou no que estava prestes a fazer