A Food and Drug Administration (FDA) divulgou nesta segunda-feira, 21, sua perspectiva sobre a regulamentação da IA na área da saúde e biomedicina, afirmando que a supervisão precisa ser coordenada entre todos os setores regulamentados, organizações internacionais e o governo dos EUA.
A agência afirma que regulamenta as indústrias que distribuem seus produtos para o mercado global e, portanto, os padrões regulatórios dos EUA devem ser compatíveis com os padrões internacionais, segundo divulgou .o site MobileHealtNews.
A organização destacou que está trabalhando para atingir esse objetivo por meio da liderança conjunta de um grupo de trabalho de IA do Fórum Internacional de Reguladores de Dispositivos Médicos, que promove as melhores práticas de IA globalmente e lidera um grupo de trabalho dentro do Conselho Internacional de Harmonização que trabalha para acomodar a IA em ensaios clínicos.
A agência diz que os reguladores também “precisam promover mecanismos flexíveis para acompanhar o ritmo das mudanças na IA na biomedicina e na saúde”, e deve haver transparência entre os patrocinadores e proficiência entre os reguladores no uso da IA no desenvolvimento pré-comercialização.
“O FDA demonstrou abertura a programas inovadores para tecnologias emergentes, como o Software Precertification Pilot Program. No entanto, como esse programa demonstrou, desenvolver e implementar com sucesso tais caminhos pode exigir que o FDA receba novas autoridades estatutárias. O grande volume dessas mudanças e seu impacto também sugerem a necessidade de a indústria e outras partes interessadas externas aumentarem a avaliação e o gerenciamento de qualidade da IA em todo o ecossistema maior além do escopo do FDA”, escreveu a agência.
De acordo com a FDA, o gerenciamento do ciclo de vida que inclui o monitoramento do desempenho pós-comercialização também é necessário, e é preciso haver mecanismos exclusivos para examinar os LLMs e seus usos.
“Aplicações de IA generativa, como modelos de linguagem grande (LLMs), apresentam um desafio único devido ao potencial de consequências emergentes e imprevistas; o FDA ainda precisa autorizar um LLM. No entanto, muitas aplicações propostas em assistência médica exigirão a supervisão do FDA, dado seu uso pretendido para diagnóstico, tratamento ou prevenção de doenças ou condições”, escreveu o FDA.
“Mesmo ‘escribas de IA’ destinados a resumir notas médicas podem ter alucinações ou incluir diagnósticos não discutidos na visita. A complexidade dos LLMs e as permutações de resultados exigem supervisão de indivíduos e instituições, além de autoridades regulatórias. Como não podemos sobrecarregar indevidamente clínicos individuais com tal supervisão, há uma necessidade de ferramentas especializadas que permitam uma melhor avaliação dos LLMs nos contextos e cenários em que serão usados.”
Também devem ser criadas abordagens de regulamentação que equilibrem as necessidades de todo o ecossistema de saúde, desde grandes empresas até startups, e os reguladores devem se concentrar nos resultados de saúde dos pacientes enquanto avaliam o uso de IA para otimização financeira de sistemas de saúde, desenvolvedores e pagadores.
A agência escreveu que há muito tempo vem se preparando para a incorporação da IA no desenvolvimento de produtos biomédicos e de saúde, mas reconhece que a IA apresenta desafios e oportunidades únicos.
“A evolução da IA ilustra um grande dilema de qualidade e regulamentação. Como a segurança e a eficácia de muitos modelos de IA dependem da avaliação recorrente de suas características operacionais, a escala de esforço necessária pode estar além de qualquer esquema regulatório atual”, escreveu o FDA.
“É do interesse dos setores biomédico, digital e de saúde identificar e lidar com atores irresponsáveis e evitar hipérboles enganosas. Os setores regulamentados, a academia e o FDA precisarão desenvolver e otimizar as ferramentas necessárias para avaliar a segurança e a eficácia contínuas da IA na saúde e na biomedicina. O FDA continuará a desempenhar um papel central com foco nos resultados de saúde, mas todos os setores envolvidos precisarão atender à IA com o cuidado e o rigor que essa tecnologia potencialmente transformadora merece.”