Enfermeiros da Kaiser dizem que vigilância por IA piora trabalho e atendimento aos pacientes
(localnewsmatters.org)- Enfermeiros de aconselhamento e triagem da Kaiser Permanente dizem que a gestão de desempenho que monitora chamadas com mais de 15 minutos, intervalos entre ligações e cumprimento de diretrizes inibe o julgamento profissional e o cuidado ao paciente
- A IA testada em 2024 avaliava até a empatia e o tom de voz dos enfermeiros, que criticaram a ferramenta por atribuir notas incorretas sem entender o contexto do trabalho
- Mesmo quando consultas longas são inevitáveis, como no caso de pacientes com risco de suicídio, sintomas complexos ou necessidade de intérprete, os enfermeiros precisam se preocupar com pontuações mensais e reuniões de avaliação; em horários de pico, o tempo para registrar e se recuperar após uma ligação cai para 30 segundos ou menos
- A Kaiser contestou, dizendo que não avalia desempenho pelo tempo médio de atendimento e que todas as ferramentas têm revisão e supervisão humanas, mas não divulgou a lista específica nem o modo de operação de seus sistemas internos
- O sindicato trata a IA como pauta central na negociação contratual de 25.000 pessoas, enquanto o Legislativo da Califórnia também analisa projetos de lei para proteger profissionais de saúde que rejeitem recomendações automatizadas e restringir IA de previsão de emoções
A pressão por desempenho criada pelo padrão de chamadas de 15 minutos
- Sete enfermeiros de aconselhamento e triagem da Kaiser dizem que, quando passam mais de 15 minutos ao telefone com um paciente, repetidamente recebem críticas da gestão ou são chamados para reuniões de avaliação de desempenho
- O tempo de chamada é refletido nas pontuações de desempenho que os enfermeiros recebem todos os meses
- O software tenta prever diariamente se um enfermeiro está sendo improdutivo ou não está atendendo chamadas rápido o suficiente
- Raquel Alvarez Sanchez, que trabalha em Vallejo desde 2010, ficou mais de uma hora ao telefone com uma paciente em risco de suicídio até a chegada da polícia
- Ela não desligou, embora soubesse que uma chamada longa poderia piorar seu tempo médio de atendimento por semanas e levar a perguntas da gestão
- Como dirigente sindical, ao participar de reuniões de avaliação com colegas, viu casos em que o tratamento da chamada em si foi totalmente adequado, mas virou problema apenas por ter passado de 15 minutos
- Ela não viu enfermeiros serem demitidos por isso, mas teme que a pressão contínua possa levar a pedidos de demissão ou aposentadorias antecipadas
- Os enfermeiros dizem receber instruções para seguir diretrizes predeterminadas durante as chamadas e limitar os conselhos a no máximo 2 ou 3
- Isso pode criar situações em que precisam escolher entre deixar de dar uma orientação necessária ou aceitar o impacto na avaliação de desempenho
Impacto incerto no atendimento ao paciente
- O efeito da gestão baseada em algoritmos e dos limites de tempo de ligação sobre os resultados reais dos pacientes não está claro
- Como os enfermeiros de aconselhamento não acompanham os pacientes depois de encerrar a ligação, é difícil saber se ocorreram resultados negativos
- A CalMatters solicitou registros públicos ao California Department of Managed Health Care em 2024, mas não encontrou queixas de pacientes relacionadas ao tempo de chamada da Kaiser
- Os enfermeiros dizem que os seguintes atendimentos exigem mais de 15 minutos
- Pacientes em que é preciso avaliar múltiplos sintomas ou doenças crônicas em conjunto
- Pais de primeira viagem que precisam de orientação e tranquilização
- Pacientes que desejam educação adicional em saúde
- Pacientes abalados ou ansiosos após receber um diagnóstico que muda a vida
- Chamadas que exigem intérprete, que geralmente podem levar mais de 30 minutos
- Cerca de 4 em cada 10 moradores da Califórnia falam um idioma diferente do inglês, e metade deles não fala inglês fluentemente
- Uma enfermeira inicialmente achou que um paciente idoso com diagnóstico de câncer terminal estava em risco de suicídio, mas percebeu que, na verdade, ele precisava de alguém com quem conversar enquanto estava em choque
- Ela queria oferecer mais empatia e conforto, mas falou menos por temer queda na pontuação mensal e reprimenda do gestor
- Precisou avaliar por conta própria se seria punida por sair das diretrizes ou dizer mais do que o necessário
- Michele Ramos, da Consumer Watchdog, avalia que, como muitos pacientes da Kaiser iniciam o atendimento por telefone de aconselhamento, restrições nessa etapa podem se tornar o ponto de partida para problemas posteriores
- A Kaiser já firmou um acordo que incluiu uma multa recorde de US$ 50 milhões após investigações apontarem que consultas de saúde mental eram marcadas além do prazo legal e que a empresa usava terapia em grupo em excesso em vez de tratamento individual
- Em 2002, a Kaiser foi criticada por pagar bônus a funcionários não enfermeiros de call center em troca de chamadas curtas, mas os enfermeiros atuais dizem não ter vivenciado a mesma prática
A IA que pontuava empatia e tom de voz
- No verão de 2024, a Kaiser testou uma ferramenta de IA que tentava avaliar empatia e tom nas vozes de enfermeiros e pacientes
- Os enfermeiros assinaram uma petição exigindo proteção da privacidade dos pacientes, transparência, direito ao julgamento profissional e participação dos enfermeiros no processo de adoção de tecnologia
- Também usaram na campanha o slogan “Trust nurses, not AI”, o mesmo de protestos do lado de fora de hospitais naquele ano
- O teste terminou em novembro de 2024, mas representantes sindicais ouviram da gestão que o programa poderia ser reintroduzido no futuro
- Sanchez diz que a vigilância já existente fazia os enfermeiros se sentirem assediados, e que o plano de a IA avaliar e pontuar chamadas intensificou isso
- Segundo uma enfermeira anônima, a IA não entendia o trabalho dos enfermeiros e dava notas erradas de forma constante
- A Kaiser não respondeu a perguntas sobre essa ferramenta, sobre os sistemas automatizados usados na avaliação de desempenho dos enfermeiros nem sobre se informou os pacientes de que empatia e tom eram avaliados
30 segundos entre chamadas e esgotamento emocional
- No passado, os enfermeiros recebiam cerca de 10 minutos após uma chamada para organizar o registro do paciente ou se recuperar de atendimentos difíceis
- Hoje, quando o volume de ligações é alto, geralmente têm 30 segundos ou menos até a próxima chamada
- Em horários mais tranquilos, como tarde da noite, esse intervalo pode ser maior
- Após atendimentos especialmente difíceis, é possível obter tempo adicional com autorização do gestor
- Mesmo depois de falar com pacientes em risco de suicídio, em crise de saúde mental ou próximos do fim da vida, quase não há tempo, e há preocupação de que esse ritmo possa levar a erros que deixam passar pistas importantes sobre o estado do paciente
- Um estudo de 2023 sobre call centers em 4 países desenvolvidos constatou que funcionários submetidos a gestão e vigilância baseadas em IA tinham menos tempo entre chamadas e mais esgotamento emocional
- Quase metade dos respondentes disse que ferramentas de IA aumentaram o estresse no trabalho
- Um estudo anterior da mesma equipe identificou associação entre vigilância de desempenho e altos níveis de esgotamento emocional
- Virginia Dolleghast, da Cornell University, vê o caso da Kaiser como parte de uma tendência em vários setores de monitorar continuamente trabalhadores que resolvem problemas complexos e emocionais
- Na área da saúde, o risco é maior porque erros causados por estresse e burnout se conectam diretamente à vida e à saúde das pessoas
- Trabalhadores com maior autonomia para decidir o ritmo e o momento de seu trabalho têm maior satisfação no emprego e menos faltas
Algoritmos e julgamento profissional da equipe de saúde
- Uma pesquisa da National Nurses United com mais de 2.000 enfermeiros em 2024 mostrou que metade disse que seu empregador usa sistemas algorítmicos para analisar prontuários de saúde
- Esses sistemas podem prever a fragilidade do paciente ou o tempo de cuidado necessário
- Dois terços dos respondentes disseram que seu julgamento já divergiu de uma previsão do computador
- 6 em cada 10 não confiam que seus empregadores priorizarão a segurança do paciente ao usar IA
- Pa Vue, enfermeira da Kaiser, conversa regularmente com gestores sobre eficiência nas chamadas e recebe pontuação de avaliação todo mês
- Sua pontuação já caiu depois que repetiu orientações a um paciente por se preocupar com sintomas incomuns e possível problema cardíaco
- Ela também viu casos em que a pontuação caía quando uma recomendação de software era rejeitada com base em julgamento profissional ou quando uma consulta era marcada para o paciente sem consultar um médico
- Vue não se opõe à IA em si quando ela beneficia o paciente, mas avalia que a vigilância de empatia e tom está focada em aumentar produtividade e reduzir custos
- Com a adoção de IA crescendo em todo o país, sindicatos estão exigindo que empregadores tratem dos problemas causados pela IA nas negociações de novos contratos
- Os 2.400 trabalhadores de saúde mental da Kaiser no norte da Califórnia também estão em negociação contratual
- Eles se preocupam com o uso de transcrições de sessões terapêuticas para treinar modelos de IA e com a possibilidade de a IA substituir empregos
A IA que a Kaiser introduziu no processo médico
- Além dos centros de aconselhamento, a Kaiser usa ou testa IA em várias áreas do processo médico
- Analisa prontuários eletrônicos para identificar o risco de eventos adversos em pacientes hospitalizados
- Usa Preventus para determinar o momento de alta dos pacientes
- Médicos e terapeutas usam Abridge para gravar consultas presenciais e converter voz em texto
- Em unidades da Bay Area, testa monitoramento remoto por IA para pacientes que precisam de cuidados adicionais
- Cathy Kennedy, da National Nurses United e da CNA, vê a IA de detecção de empatia como parte de uma sequência de medidas para limitar a autonomia dos enfermeiros e aumentar a eficiência
- Como a IA pode automatizar e fragmentar o trabalho de enfermagem, ela exige que as empresas que desenvolvem e implementam esses sistemas comprovem sua eficácia e equidade antes da implantação
- O contrato entre a Kaiser e o sindicato dos enfermeiros prevê notificação sobre a introdução de novas tecnologias, mas, segundo a CNA, às vezes a notificação não ocorre
- A liderança sindical pede que os membros avisem quando descobrirem novas tecnologias e acompanha o número de modelos de IA usados na Kaiser
- Foi assim que reagiu à IA de empatia e tom, e também interrompeu um teste que tentava substituir enfermeiros à beira do leito de pacientes em estado de confusão por câmeras
- A Coalition of Kaiser Permanente Unions também conduz uma campanha “see something, say something” para que trabalhadores da linha de frente denunciem adoções de IA
- O sindicato diz que a gestão insere IA no fluxo de trabalho com frequência excessiva sem notificar os trabalhadores nem colher suas opiniões
- A técnica em radiologia Debru Carthan teme que detectores de tom de voz possam discriminar enfermeiros de diferentes origens culturais
A resposta da Kaiser e a negociação trabalhista
- A Kaiser afirma que não avalia o desempenho da equipe de aconselhamento pelo tempo médio de atendimento (Average Handle Time) nem impõe metas de duração de chamadas
- A empresa diz que as ferramentas de call center apoiam a garantia de qualidade e passam por revisão e supervisão humanas
- Afirma priorizar segurança do paciente, privacidade e equidade no uso de IA, mas não divulga informações específicas sobre seus sistemas tecnológicos internos por razões de segurança e operação
- A Kaiser é a maior empregadora privada da Califórnia e presta serviços de saúde a 9 milhões de pessoas no estado e a 3 milhões de americanos em outras regiões
- A California Nurses Association começa em julho de 2026 a negociar um novo contrato com a Kaiser, abrangendo 25.000 pessoas, incluindo 1.000 enfermeiros de call center
- Em março, os enfermeiros fizeram uma greve de um dia contra a IA
- No outono do ano anterior, também fizeram piquetes contra o uso de IA
- A CNA não divulgou cláusulas detalhadas sobre IA antes da negociação
Regulação de IA no trabalho na Califórnia
- A AB 1018 e a SB 7, apoiadas pela CNA, exigiam que empregadores notificassem trabalhadores antes de usar sistemas automatizados em promoções, punições disciplinares, avaliações de desempenho e outras decisões
- O governador Gavin Newsom vetou a SB 7
- Em meio à forte oposição de empresas, incluindo a Kaiser, a AB 1018 fracassou pelo terceiro ano seguido
- Parlamentares reapresentaram SB 947, uma nova versão da SB 7
- Outros projetos buscam as seguintes regulações
- Proibir empregadores de usar IA para prever o estado emocional de funcionários
- Proteger médicos e enfermeiros contra retaliação caso ignorem recomendações de sistemas automatizados
- Exigir que prestadores de serviços de saúde forneçam anualmente aos funcionários uma lista dos sistemas automatizados
- A CNA e a California Labor Federation apoiam cerca de 6 projetos de lei para regular o uso de IA no trabalho
- Enfermeiros temem que a vigilância e a pontuação transformem quem cuida de pessoas em autômatos que preenchem checkboxes
- Como as chamadas são gravadas, fica mais difícil expressar humor ou empatia pessoal aos pacientes
- Eles avaliam que, à medida que interações humanas não previstas nas diretrizes diminuem, a essência do trabalho de enfermagem e o cuidado esperado pelos pacientes são prejudicados
1 comentários
Opiniões no Hacker News
Ao ler o texto, a maior parte das reclamações parece ser sobre métricas de desempenho de call center e pressão para limitar o atendimento, ou seja, um problema de mau uso de métricas, não da IA em si. A avaliação de empatia por IA foi um projeto-piloto de 2024 e já foi encerrada.
Minha esposa usa LLMs médicos na Kaiser e diz que eles economizam tempo e ajudam a oferecer um atendimento melhor graças à tradução em tempo real, ao resumo de prontuários e à busca de respostas abrangentes. Pacientes idosos frequentemente trazem alertas do Apple Watch que detectaram anomalias cardíacas.
Em vez de agrupar tecnologias com efeitos e riscos muito diferentes, é preciso avaliá-las por uso específico.
Como executivos e analistas usam a onda da “IA” para impulsionar automação, informatização e até demissões comuns, é natural que quem se opõe a isso use o mesmo termo.
Essa linguagem imprecisa turva o debate e dificulta concentrar a indignação e a energia em problemas centrais como ocultação da responsabilidade humana, erosão da autonomia, redução da flexibilidade organizacional e desprofissionalização, mas a responsabilidade por isso não começou com os críticos da IA.
Se alguém acha que avaliar por máquina o quanto um ser humano é empático é uma boa ideia, não deveria receber poder.
Remuneração e avaliação são necessárias, mas é questionável se gerenciar por métricas calculadas por algoritmos é o melhor caminho; nesse processo, empatia e bom senso estão desaparecendo.
Meu médico de atenção primária disse que a ferramenta de anotações com IA trouxe um grande alívio. Antes, ele precisava digitar tudo enquanto ouvia o paciente; agora consegue se concentrar em ouvir o paciente e registrar em detalhes apenas o que é necessário, o que reduziu muito o estresse.
Mas, no momento em que regras operacionais passam a impor como o atendimento deve ser feito e a ditar como tratar pacientes, isso provoca forte reação; a ideia de substituir o julgamento clínico por IA é tola.
Métricas e vigilância no trabalho podem facilmente gerar efeitos colaterais, mas a enfermagem, como outras funções, também precisa de algum nível de supervisão de segurança.
Várias médicas me aconselharam a tomar cuidado com interações com enfermeiros durante uma internação, dizendo que nem todos são dedicados e que alguns são negligentes ou arranjam desculpas, causando danos a pacientes.
A saúde não é apenas uma vocação sagrada, mas também uma profissão, então supervisão é necessária; porém, se forem métricas impostas por empresas, há grande chance de distorções severas pela lei de Goodhart.
Como é um estudo divulgado antes de uma negociação contratual do sindicato dos enfermeiros, parece raciocínio motivado. Há muitos problemas reais, mas o estudo não os tratou bem; é necessária uma crítica mais eficaz.
A IA poderia ser usada para identificar pacientes que usam serviços de saúde em excesso de forma seletiva e reduzir esse uso ao resolver as causas fundamentais. Isso poderia melhorar a qualidade do atendimento aos pacientes e a qualidade de vida dos profissionais de saúde, além de liberar tempo para alcançar subutilizadores que precisam de cuidados preventivos.
Fico me perguntando se Manna, de Marshall Brain, ainda soa como uma história do futuro.
https://marshallbrain.com/manna
O problema de IA corporativa interferindo no cumprimento das obrigações médicas de enfermeiros com os pacientes não se limita à Kaiser; a UHC também adotou e usa ferramentas semelhantes de vigilância por IA.
A maioria dos enfermeiros está cuidando de pessoas que vivem o pior dia de suas vidas.
O texto menciona o uso de IA, mas quase não apresenta danos concretos causados por IA. Por outro lado, são concretos os exemplos de a Kaiser otimizar chamadas para reduzir custos em vez de priorizar a qualidade do atendimento.
Políticas que tratam chamadas longas como problema ou penalizam enfermeiros que dão mais de três orientações provavelmente reduzem a qualidade do atendimento.
Em um hospital rural da região, colocaram dispositivos de rastreamento nos enfermeiros para registrar todos os deslocamentos dentro do hospital, e até o tempo passado em cada local entra na avaliação.
Alguns anos atrás eles ficavam de 15 a 20 minutos em cada quarto, mas agora entram e saem rapidamente. O número de pacientes não aumentou e o número de enfermeiros até cresceu, então vejo isso como métricas de avaliação ruins derrubando o nível do atendimento.
O enorme uso excessivo da saúde nos EUA está elevando os custos, mas ninguém quer admitir isso honestamente.
A Kaiser já tinha um serviço bem ruim, então essa mudança preocupa ainda mais.