- A OpenAI esclareceu recentemente que não mudou as condições sobre aconselhamento jurídico e médico em resposta a uma alteração nos termos que foi interpretada como “agora não será mais possível receber aconselhamento jurídico/médico pelo ChatGPT”
- A atualização da política de uso de 29 de outubro apenas deixou explícito que orientações que exigem licença profissional (como jurídica e médica) não podem ser fornecidas sem a devida intervenção de um profissional licenciado
- Mesmo na política anterior a 29 de janeiro de 2025, já havia restrições a atividades que possam ter impacto significativo na segurança, no bem-estar ou nos direitos de outras pessoas, incluindo o fornecimento de aconselhamento jurídico, médico e financeiro personalizado
Esclarecimento da política da OpenAI
- A OpenAI afirmou que o ChatGPT não substitui aconselhamento jurídico ou médico profissional, deixando claro que a mudança nos termos não traz conteúdo novo
- Em comunicado enviado à CTVNews, disse que “isso não é uma mudança nova, e o ChatGPT continua sendo um recurso útil para entender informações jurídicas e de saúde”
- Na atualização da política de uso de 29 de outubro, foi especificado que aconselhamento personalizado que exige licença (como jurídico e médico) não pode ser fornecido sem a devida intervenção de um profissional licenciado
- Isso representa uma formulação mais clara do que a usada na política de 29 de janeiro de 2025
- Na época, a política exigia não realizar nem incentivar atividades que possam ter impacto significativo na segurança, no bem-estar ou nos direitos de outras pessoas, o que incluía a proibição de fornecer aconselhamento jurídico, médico e financeiro personalizado
- A OpenAI também afirmou que “o comportamento do modelo também não foi alterado”, enfatizando a continuidade da política existente
Uso do ChatGPT para informações médicas e seus limites
- O ChatGPT se consolidou como uma ferramenta amplamente usada por canadenses em busca de respostas sobre questões de saúde
- Uma equipe de pesquisa da Universidade de Waterloo avaliou o desempenho do ChatGPT-4 com perguntas adaptadas de cenários de exames de qualificação médica
- Como resultado, 31% das respostas estavam corretas e 34% eram claras
- Em outro estudo da University of British Columbia, foi observado que as expressões de empatia do ChatGPT foram percebidas como mais persuasivas do que as de pessoas reais
- Mesmo quando havia informações imprecisas, elas eram apresentadas em um tom confiante e confiável, dificultando para os usuários distinguir os erros
- Médicos relatam situações em que pacientes chegam à consulta já com uma conclusão formada após confiar nas orientações de ferramentas de IA
Correção da reportagem
- A versão inicial da reportagem afirmava que a OpenAI havia encerrado a função de aconselhamento médico e jurídico, mas
- a OpenAI corrigiu isso ao afirmar que “o comportamento do modelo não foi alterado”
2 comentários
Em países onde o sistema de saúde não é bem estruturado, parece que isso ajudaria bastante.
Opiniões no Hacker News
Eu entendi isso não como “você não pode fazer perguntas médicas ou jurídicas diretamente ao ChatGPT”, mas sim como “você não pode criar um serviço que forneça aconselhamento médico ou jurídico a outras pessoas com base no ChatGPT”
Por exemplo, a Epic não poderia colocar o ChatGPT no app dela para ler documentos de pacientes no lugar de alguém. Mas uma pessoa pode perguntar diretamente ao ChatGPT
Só que eu ainda não consegui encontrar por conta própria a cláusula dos termos de uso citada no artigo
Parece que o jornalista confundiu ChatGPT com a API do GPT. Os termos reais estão consolidados nos Termos de Uso da OpenAI
O trecho relevante diz para não usar as saídas em “usos que possam ter impacto significativo, como decisões legais, médicas ou financeiras sobre uma pessoa”
Como houve muita divulgação de que o GPT passou em exames de direito e medicina, dá para interpretar isso como uma forma de evitar responsabilidade caso conselhos reais causem problemas
Para uma empresa como a Epic colocar algo assim em produção, provavelmente teria de incluir avisos de isenção do tipo “resultado gerado por IA, não constitui aconselhamento jurídico”
Se alguém, como eu, quiser consultar a opinião do ChatGPT, basta perguntar direto. Reempacotar isso e vender é enganar o usuário
O verdadeiro problema não é a mudança de política, mas o fato de a IA ter evoluído mais rápido na capacidade de soar confiável do que na precisão real
Por isso, até respostas erradas podem soar como se viessem de um especialista, e as pessoas acabam confiando por causa desse tom seguro
Especialmente em áreas como medicina e direito, em que o resultado importa muito, essa distância entre convicção e precisão é o maior risco
Já vi várias pessoas usando o ChatGPT como se fosse um terapeuta. Em alguns casos, fazem até autodiagnóstico
Parece engraçado, mas na prática é muito perigoso. O modelo tende sempre a responder de forma afirmativa, então o usuário pode facilmente seguir por um caminho errado
Situações assim provavelmente acabam virando processo
Já ouvi relatos de tentativas de suicídio ou danos graves causados por conselhos de LLM
Se você conhece alguém usando LLM desse jeito, por favor incentive essa pessoa a buscar ajuda profissional
O ChatGPT só tornou esse processo mais fácil. No fundo, a causa é o problema de acesso à saúde
Acho irônico que a OpenAI enfatize tanto os próprios termos enquanto parece não se importar com direitos autorais ou PI de terceiros
(Welcome to the Internet, Jeff Bezos Song)
No fim, os termos seriam só uma forma de evitar responsabilidade, para que os usuários não possam processar a OpenAI se usarem mal a ferramenta e derem problema
Eu já esperava que esse tipo de regulação aparecesse em algum momento
Daqui para frente, talvez criem algo como uma certificação “HippocraticGPT”, para vender versões seguras para uso médico e jurídico
Assim, dá para monetizar com licenças corporativas
A empresa em que trabalho também oferece ferramentas só para profissionais. O paciente não vê diretamente a saída do modelo
O objetivo não é um tratamento melhor, e sim um tratamento mais eficiente
O texto da matéria foi corrigido para dizer que a OpenAI não proibiu aconselhamento médico ou jurídico, e sim que o comportamento do modelo não mudou
O original pode ser visto na matéria da CTV News
Uma pessoa disse que no ano passado conseguiu evitar um AVC graças ao ChatGPT. Ela sentiu que o LLM foi muito útil para fornecer informação médica
Como é um sistema não determinístico, o resultado varia de momento para momento
Ainda assim, completou dizendo que felizmente a pessoa ficou bem
Recentemente, no OpenAI Dev Day, foram mostrados no palco casos de apoio a diagnóstico médico, então esta política provavelmente surgiu porque o risco jurídico disso é grande demais
Acho bastante provável que a OpenAI lance no futuro produtos voltados especificamente para médicos ou advogados
Se proibir aconselhamento jurídico e médico no ChatGPT comum, fica mais fácil fazer diferenciação de preço
Mas, no longo prazo, se a regulação afrouxar, isso pode acabar levando à substituição de profissionais
Eu interpretei essa cláusula como significando “não processe por aconselhamento médico ou jurídico incorreto”
Essa cláusula só deixa mais claro que não se deve empacotar isso como algo do tipo “serviço de advogado com IA baseado em ChatGPT”