O ChatGPT é considerado por muitos algo maravilhoso, mas por que Médicos não deveriam usá-lo?
Por Luiz Télvio Valim
Com mais de 100 milhões de usuários em apenas dois meses, o assunto do momento continua sendo o ChatGPT, ferramenta de processamento de linguagem natural impulsionada por inteligência artificial da empresa OpenAI, ou, simplesmente, o chatbot mais famoso do mundo na atualidade.
Pode-se dizer que a expansão do ChatGPT deve-se, em boa parte, aos reflexos do isolamento social forçado pela pandemia de Covid-19, evento que provocou grandes alterações nas relações de trabalho e também em nossos hábitos de consumo.
Apesar de todos os danos que já conhecemos, foi uma fase de efervescência digital na qual o cidadão comum precisou se habituar a fazer quase tudo pela internet, tendo sua rotina invadida por termos como lives e meetings, além de ver crescer sua dependência do e-commerce.
Paralelas a essas mudanças, tivemos, na Medicina, avanços como a adoção da telessaúde e evoluções acentuadas em campos que já vinham despontando desde antes da pandemia, como a cirurgia robótica e aplicação da inteligência artificial em áreas como pesquisa, análise de dados e diagnósticos.
O futuro chegou a passos largos, trazendo transformações uma maior necessidade de atenção às questões éticas. Não somente aquelas de grande destaque como as da bioética, mas também aquelas mais sutis, mas que, uma vez ignoradas, poderiam afetar tanto a vida do paciente, quanto a carreira do profissional médico.
O que isso tem a ver com o ChatGPT?
Sonho e o pesadelo de várias profissões, O ChatGPT tornou-se “o queridinho” da internet e da mídia prometendo agilidade na produção de um simples texto para redes sociais ou até de um complexo contrato de prestação de serviços em vários idiomas.
E os “milagres” não se encerram aí. Recentemente tivemos o primeiro projeto de lei brasileiro criado no ChatGPT, protocolado em Santa Catarina. Além disso, também temos um aplicativo “matador” onde você exporta um documento PDF e consegue “conversar” com seu conteúdo, podendo fazer perguntas e receber respostas sobre o teor do arquivo.
E o ChatGPT mal começou a mostrar todo seu potencial para lidar com a informação que inserimos nele, o que nos leva à pergunta crucial:
Afinal de contas, o que acontece com aquilo que eu escrevo no ChatGPT?
Sobre isso, convém saber de um fato recente. Em 26 de janeiro de 2023, o alto escalão da Amazon – gigante de vendas e tecnologia – divulgou memorando proibindo seus funcionários de utilizarem o ChatGPT em atividades internas da empresa devido ao risco de vazamento de dados de procedimentos confidenciais.
Alerta semelhante é dado pela plataforma antes de cada uso, ou seja, o ChatGPT avisa que é estruturalmente incapaz de garantir o sigilo de dados sensíveis e isso não é necessariamente um defeito, é apenas a forma como a plataforma foi concebida para manter a evolução constante da ferramenta.
Tudo que você escreve no ChatGPT serve para treinar a inteligência artificial e, sob essa justificativa, qualquer indivíduo que tenha acesso ao banco de dados do chatbot ou de seus programas derivados poderá acessar as informações que você inseriu na plataforma. Para piorar a situação, não há transparência sobre os critérios de contratação dessa mão de obra.
Esse modus operandi, do ponto de vista jurídico, inviabiliza a ferramenta, não só para o médico, mas para todo trabalhador dos serviços de Saúde, uma vez que a responsabilidade sobre a privacidade de dados do paciente não se restringe ou se limita ao médico, mas a todos os envolvidos na ambiência hospitalar, sendo que todos podem responder em várias esferas legais diante de um vazamento de dados de paciente.
Se uma empresa como a Amazon está preocupada com os riscos à privacidade, por que um médico, que pode ser punido e até preso por quebra de sigilo, não deveria estar?
Luiz Télvio Valim é Advogado especialista em Direito Médico e Defesa Médica, Advogado do Sindicato dos Médicos do Espírito Santo e da Associação Médica do ES, além de Presidente do Sindicato dos Advogados do Espírito Santo.
