À medida que o setor de saúde continua a adotar a inteligência artificial (IA), os especialistas examinam os desafios que impedem a adoção dessa tecnologia transformadora. Segundo eles, compreender os desafios e o potencial da integração da IA na área da saúde pode elevar os resultados dos pacientes e catalisar uma transformação inovadora da indústria médica.
Em entrevista à PharmaNewsIntelligence, Matt Hollingsworth, MSc, MBA, CEO da Carta Healthcare, explicou os desafios da integração da IA nos sistemas de saúde e o papel da IA no combate à desinformação médica e também discutiu aplicações promissoras de IA e destacou como os provedores de assistência médica poderiam abordar as questões de privacidade enquanto aproveitam os benefícios da IA.
O gerenciamento de mudanças, o aumento da desinformação médica nas mídias sociais e as preocupações com privacidade e segurança de dados são desafios significativos para a integração da IA no sistema de saúde.
Um grande obstáculo na adoção da IA na área da saúde, de acordo com Hollingsworth, é o gerenciamento de mudanças. A IA é mantida em um padrão mais alto do que os processos de assistência médica existentes, tornando essencial abordar a resistência humana à mudança. A integração da IA nos sistemas de saúde apresenta vários desafios importantes. Ele enfatiza que o principal desafio está na implementação da mudança. “Ao implementar qualquer tipo de IA na área da saúde, o principal desafio é sempre, em primeiro lugar, o gerenciamento de mudanças – mudar uma prática ou processo atual para uma variante habilitada para IA”, disse.
De acordo com Hollingsworth, a tecnologia em si raramente é o problema. Se o desenvolvimento da IA fosse congelado hoje, ainda haveria um potencial inexplorado por trás das barreiras de gerenciamento de mudanças por décadas. Para superar esses desafios e melhorar a adoção de IA, o especialista sugere focar na adoção sem riscos da tecnologia de IA existente no domínio dos provedores de assistência médica e usar a IA para aumentar a eficiência junto com a experiência humana, em vez de substituir totalmente os esforços humanos.
A ascensão das mídias sociais e dos chatbots de IA — ou seja, do ChatGPT — levou à rápida disseminação de desinformação médica, que pode ter consequências mortais. Ao discutir o papel da IA no combate à desinformação médica, Hollingsworth enfatiza a necessidade de cautela. Por exemplo, ele aponta que o algoritmo do ChatGPT é executado sem um conceito de precisão, o que pode ser incrivelmente perigoso. “ChatGPT não tem conceito de correção ou incorreção. É fundamentalmente um algoritmo de predição de autocompletar/próxima palavra extremamente sofisticado. Colocar confiança absoluta em qualquer informação gerada pelo ChatGPT é perigoso”, alertou.
Hollingsworth sugere que as saídas de IA no campo médico devem ser filtradas por especialistas que podem verificar os fatos e editar as informações antes que sejam consideradas confiáveis. Segundo ele, é crucial reconhecer que a IA é apenas uma ferramenta e não deve substituir o aconselhamento médico fornecido pelos médicos.
As preocupações com privacidade e segurança de dados são inevitáveis com o uso de IA na área da saúde. Hollingsworth garante que a Carta Healthcare só enviará dados gerados ou coletados sob o controle do provedor. A empresa acredita que o compartilhamento de dados deve ficar nas mãos dos médicos que entendem quando é apropriado. “Há muito risco moral na revenda de dados de pacientes ou outras atividades semelhantes, e é muito melhor para nós, como sociedade, deixar isso para os médicos que sabem quando compartilhar dados e quando não”, enfatizou Hollingsworth, acrescentando que, ao respeitar o controle do provedor sobre seus dados, ele visa equilibrar o aproveitamento dos benefícios da IA e a proteção da privacidade.