Estudo revela riscos de chatbots em diagnósticos e atendimento médico urgente

Um em cada seis adultos americanos consulta o ChatGPT para obter aconselhamento médico pelo menos uma vez por mês. No entanto, essa prática pode ser muito perigosa.

Uma nova pesquisa da Universidade de Oxford confirma o que médicos já alertavam há meses: os chatbots de inteligência artificial são surpreendentemente ruins em ajudar pessoas a entender problemas de saúde reais. Na verdade, eles apresentam desempenho inferior até mesmo ao simples ato de pesquisar sintomas no Google.

“Apesar de toda a divulgação, a IA ainda não está preparada para assumir o papel do médico,” afirma Rebecca Payne, líder da pesquisa em Oxford. “Os pacientes precisam estar cientes de que perguntar a um modelo de linguagem grande sobre seus sintomas pode ser perigoso, pois pode resultar em diagnósticos errados e falhar em reconhecer quando é necessário um atendimento urgente.”

Como foi o estudo

Os pesquisadores apresentaram a cerca de 1.300 pessoas cenários realistas de saúde — como dor de cabeça após uma ressaca, exaustão em mães recentes e sintomas de cálculos biliares — e permitiram que usassem o ChatGPT, o Llama 3 da Meta, o Command R+ ou simplesmente o Google para identificar o problema.

Os usuários das IAs acertaram o diagnóstico correto em apenas cerca de um terço das vezes. Quanto ao próximo passo adequado — ir à emergência, procurar atendimento urgente ou apenas descansar —, menos da metade das respostas estavam corretas. Os usuários do Google tiveram desempenho equivalente.

O ponto mais surpreendente é que esses mesmos chatbots conseguem passar em exames médicos oficiais, como os testes de licença para médicos. Contudo, quando colocados para interagir com uma pessoa ansiosa que pesquisa sintomas às 2 da manhã, o resultado é um desastre completo.

Por que a IA falha na prática real

O problema não está no conhecimento médico da IA, mas sim na forma como os humanos comunicam suas queixas. Informações importantes muitas vezes não são fornecidas, as respostas das IAs são mal interpretadas ou simplesmente ignoradas. Os cenários simulados que a IA domina nos testes não refletem a realidade de pessoas em pânico e com dados incompletos.

Além disso, as respostas do ChatGPT soam confiantes e autoritárias, o que gera uma falsa sensação de segurança, mesmo quando estão erradas. Confiança não é sinônimo de competência, especialmente quando a saúde humana está em jogo.

Se a IA não consegue ajudar a decidir se uma dor de cabeça precisa de um analgésico simples ou de uma ida ao hospital, vale questionar quais outras decisões importantes estamos delegando a essas tecnologias — seja em relacionamentos, criação dos filhos, dilemas éticos ou planejamento financeiro.

Embora a IA possa ser útil para organizar informações ou gerar ideias, tratá-la como uma fonte infalível para decisões de alto impacto é um risco que ainda não estamos preparados para correr.

“Este é um estudo muito importante porque destaca os riscos reais à saúde pública causados por chatbots,” afirma David Shaw, bioeticista da Universidade de Maastricht, que não participou da pesquisa.

Em outras palavras, perguntar ao ChatGPT se uma pinta na pele é estranha pode ser prejudicial. O programa pode deixar passar algo urgente ou causar ansiedade desnecessária com falsos alertas.

Shaw recomenda utilizar fontes médicas confiáveis — como o site do NHS no Reino Unido ou a Mayo Clinic nos Estados Unidos — ou, melhor ainda, entrar em contato diretamente com um médico.

À medida que a IA se torna mais presente e persuasiva, muitas pessoas serão tentadas a evitar consultas médicas e buscar respostas rápidas em seus celulares. Este estudo serve como alerta: mesmo que o ChatGPT pareça seguro e convincente, ele não está qualificado para substituir profissionais de saúde. Sua saúde merece muito mais do que um chatbot tentando atuar como médico. (Com informações de Emily Brown – Relevantmagazine)