A Inteligência Artificial está transformando o cenário da medicina, oferecendo oportunidades sem precedentes para aprimorar diagnósticos, tratamentos e eficiência operacional. Em paralelo, essa revolução tecnológica também levanta preocupações significativas sobre a segurança do paciente e a confiabilidade das informações fornecidas por essas ferramentas.
Recentemente, muitos médicos começaram a utilizar chatbots de IA, como o ChatGPT, em decisões clínicas. Mesmo sem diretrizes claras ou regulamentação suficiente, uma pesquisa da KFF Health News revelou que 76% dos médicos usam essas ferramentas para verificar interações medicamentosas, suporte ao diagnóstico e planejamento de tratamento. A facilidade de acesso e a capacidade de processamento rápido de informações tornam esses chatbots atraentes para profissionais que enfrentam cargas de trabalho intensas e a necessidade de atualização constante.
Mas os especialistas alertam para os riscos associados ao uso de sistemas não verificados. Há preocupações legítimas sobre a possibilidade de respostas incorretas, “alucinações” de IA e a falta de conformidade com normas de privacidade de dados de saúde, como a Lei Geral de Proteção de Dados (LGPD) no Brasil. Conforme destacado no artigo da Fierce Healthcare, “esses modelos podem não saber que estão cometendo um erro e também não podem lhe dizer isso”, afirmou Graham Walker, M.D., médico de emergência no Kaiser Permanente.
Paralelamente, o autodiagnóstico por IA tornou-se uma preocupação crescente entre os médicos brasileiros. De acordo com uma pesquisa da Medscape, 83% dos profissionais apontam que os pacientes correm riscos ao utilizarem a Inteligência Artificial para autodiagnóstico. A facilidade de acesso a chatbots públicos e aplicativos de saúde alimentados por IA, podem levar pacientes a interpretarem erroneamente sintomas e retardarem a busca por atendimento médico adequado.
Essa situação complexa ressalta a necessidade de uma reflexão profunda sobre o papel da IA na saúde. A Inteligência Artificial sempre vai fornecer uma resposta, independentemente de sua veracidade. E, se ela errar, ainda assim, vai tentar nos convencer de que está certa, o que é particularmente perigoso. Isso reforça a importância do julgamento clínico e da necessidade de os profissionais estarem cientes das limitações dessas tecnologias.
Diante desse cenário, é fundamental que a integração da IA na medicina seja feita de forma responsável e ética. Aqui, entra a importância de se contar com parceiros de tecnologia confiáveis que garantam a qualidade dos softwares e a segurança das informações dos pacientes. Já existem soluções tecnológicas robustas e seguras, alinhadas às necessidades do setor e em conformidade com as regulamentações vigentes.
Ao optar por parceiros tecnológicos sólidos, as instituições de saúde podem assegurar que as ferramentas de IA sejam utilizadas como aliadas, potencializando a eficiência e a precisão nos cuidados com os pacientes. Assim, é possível aproveitar os benefícios da IA na medicina, garantindo que a tecnologia esteja a serviço do cuidado humano e da segurança do paciente.
Rogerio Pires, diretor de produtos para Saúde da TOTVS.
