Com os avanços das aplicações que utilizam inteligência artificial (IA), cresce cada dia mais o interesse em aproveitar os novos recursos para otimizar e melhorar a prestação de serviços, principalmente pela possibilidade de maior eficiência com tais inovações. A área da saúde é vista como uma das mais promissoras nesse quesito, tanto que já existem muitas discussões sobre os atuais e futuros usos dessa tecnologia em pesquisas científicas e procedimentos médicos.
Mas essa grande expectativa também acende o alerta em relação a certos riscos envolvidos. Em maio deste ano, a Organização Mundial de Saúde (OMS) emitiu um comunicado sobre o uso de ferramentas como o ChatGPT, Bard e Bert, pela chance de haver dados tendenciosos, respostas incorretas e disseminação de desinformação. Por isso a organização ressaltou a necessidade de cautela com essas tecnologias, bem como enfatizou a importância de aplicar princípios éticos e uma governança adequada ao desenvolver e implementar IA na área da saúde.
Não é a primeira vez que a OMS se pronuncia sobre IA e as consequências de informações mal aplicadas. Em 2021, a organização publicou um relatório global onde destacou as vantagens com o seu uso, como a precisão e a velocidade do diagnóstico, auxílio no atendimento clínico, fortalecimento da pesquisa em saúde e apoio em intervenções de saúde pública, mas chamou atenção para os riscos, como a coleta e o uso antiético de dados de saúde, eventuais vieses de preconceitos, além de questões relacionadas à segurança do paciente, cibersegurança e meio ambiente.
No mesmo relatório, a OMS ressalta a necessidade de que os sistemas de IA sejam cuidadosamente projetados, considerando a diversidade de ambientes de saúde e socioeconômicos. Além disso, dispõe que é fundamental aplicar princípios éticos e de responsabilidade na regulamentação e governança da IA. Entre esses princípios, destacam-se: a proteção da autonomia humana, a promoção do bem-estar e da segurança humana, a transparência, a explicabilidade, a responsabilidade social, bem como a justiça e a equidade. Assim, é necessário buscar um equilíbrio entre os potenciais benefícios da IA na área da saúde e os riscos associados à sua utilização.
Um estudo realizado em 2009 constatou que 32% dos incidentes médicos nos Estados Unidos foram atribuídos à redução do tempo de interação entre médicos e pacientes, resultando em diagnósticos equivocados, falta de reconhecimento da urgência ou agravamento da condição do paciente que exigiriam ações prescritivas ou procedimentos adequados. Mesmo em hospitais que adotam sistemas de prontuário eletrônico, possibilitando uma coleta de dados mais precisa, estima-se que 78,9% dos erros médicos estejam relacionados a problemas na relação médico-paciente, exame clínico insuficiente, falha na avaliação dos dados do paciente ou ausência de exames complementares que corroborassem as hipóteses diagnósticas.
Considerando esse cenário, a IA tem potencial para se tornar um dos mecanismos na redução de riscos para os pacientes, aprimorando procedimentos médicos, desde o diagnóstico até o planejamento e tratamento. Isso resulta em maior eficiência, possivelmente reduzindo a necessidade de testes diagnósticos e complicações pós-cirúrgicas. Além disso, a IA pode impulsionar a descoberta de novos tratamentos, fornecer suporte a decisões clínicas complexas e possibilitar um monitoramento mais preciso dos pacientes, resultando em atendimentos mais personalizados e eficazes.
Ressalta-se, porém, que a IA não substitui completamente a necessidade de uma análise humana cuidadosa e a tomada de decisões baseadas em conhecimento e experiência do profissional da saúde. O que significa que a IA deve ser utilizada para apoiar a prestação do serviço de saúde.
Se alinharmos as orientações feitas pela OMS às inovações que surgem nesse setor, é possível vislumbrar um cenário promissor no âmbito da saúde digital. Em linha com essa expectativa, a secretária de Saúde Digital do Ministério da Saúde compartilhou que está considerando a aplicação de Inteligência Artificial no Sistema Único de Saúde (SUS). No entanto, destacou que aguarda a regulação dessa tecnologia no Brasil para prosseguir com o projeto.
Toda essa ascensão tecnológica traz outra questão que merece a devida atenção: o tratamento de dados pessoais e dados pessoais sensíveis que são protegidos pela legislação brasileira sobre o tema, em especial a Lei nº 13.709/2018 (Lei Geral de Proteção de Dados Pessoais).
O fato de haver um processamento massivo de dados pessoais sensíveis nos recursos de IA voltados à saúde exige um cuidado redobrado com a segurança da informação, pois pode aumentar o risco de incidentes, inclusive de colocar em risco a vida e a integridade dos pacientes. Além disso, os requisitos de conformidade com as leis em vigor e as melhores práticas devem sujeitar não apenas as Instituições de saúde, mas se aplicar a todos os agentes envolvidos no ecossistema da saúde, em especial os terceirizados.
Como é possível, então, alinhar a possibilidade de usufruir dos benefícios da IA e mitigar eventuais riscos de sua aplicação ao setor da saúde? É preciso aplicar um programa de governança de IA com base nas premissas de ethics by design e privacy by design.
Diante dessas considerações, para que os hospitais, as clínicas médicas e as demais empresas intermediadoras de serviços de saúde viabilizem a aplicação dessa tecnologia aos seus serviços, recomenda-se que: seja criado um comitê de ética algorítmica; implementado um código de conduta ética da IA; estabelecido um plano de ação para conformidade da IA que deve considerar elaboração do RIAI (Relatório de Impacto da Inteligência Artificial); atualização das políticas e contratos; e demais medidas necessárias para garantir transparência e segurança nos procedimentos da saúde.
*Patricia Peck é CEO e sócia fundadora do escritório Peck Advogados e escreveu o artigo juntamente com Cecília Frota, também advogada especializada em direito digital, proteção de dados e inteligência artificial do escritório.
