A Food and Drug Administration anunciou que está desenvolvendo uma estrutura para regulamentar produtos de inteligência artificial usados em medicina que se adaptam continuamente com base em novos dados.
O comissário, Scott Gottlieb, divulgou um white paper que apresenta as linhas gerais da abordagem proposta pela FDA para estabelecer uma supervisão maior sobre esse segmento em rápida evolução de produtos de IA.
É o passo mais forte que a FDA deu para afirmar a necessidade de regular uma categoria de sistemas de inteligência artificial cujo desempenho muda constantemente com base na exposição a novos pacientes e dados em ambientes clínicos. Esses sistemas de aprendizado de máquina apresentam um problema particularmente espinhoso para o FDA, porque a agência está essencialmente tentando atingir um alvo em movimento ao regulá-los.
O white paper descreve os critérios que a agência se propõe a usar para determinar quando os produtos médicos que dependem da inteligência artificial exigirão a revisão do FDA antes de serem comercializados.
A análise pode examinar o desempenho subjacente dos algoritmos de um produto, o plano de um fabricante para fazer modificações e a capacidade do fabricante de gerenciar os riscos associados a quaisquer modificações.
“Uma nova abordagem para essas tecnologias atenderia à necessidade de os algoritmos aprenderem e se adaptarem quando usados no mundo real”, escreveu Gottlieb em um comunicado que acompanhava o white paper. “Seria um ajuste mais personalizado do que o nosso paradigma regulatório existente para software como um dispositivo médico”.
O documento é o primeiro passo de um longo processo de meses no qual a FDA vai coletar informações do público e de vários interessados em medicina antes de finalizar uma política de regulamentação de sistemas de IA adaptativos.
Eric Topol, especialista em inteligência artificial do Instituto de Pesquisa Scripps, disse que o documento “demonstra cuidadosa premeditação sobre o campo” da inteligência artificial na medicina. Ele observou que o “documento exige provas em um ambiente clínico real do mundo”, que idealmente deveria ser prospectivo, com “nenhum algoritmo de IA aprovado apenas com base em análise retrospectiva de conjuntos de dados computadorizados”.
A FDA já aprovou dispositivos médicos que dependem dos chamados “algoritmos bloqueados” ou aqueles que não mudam cada vez que um algoritmo é usado, mas são trocados por um fabricante em intervalos, usando dados de treinamento específicos e um processo de validação assegurar o funcionamento adequado do sistema. Entre os dispositivos aprovados no ano passado estavam um dispositivo usado para detectar a retinopatia diabética, uma doença ocular degenerativa, e outro projetado para alertar os provedores de um possível derrame em pacientes.
O desempenho adequado dos algoritmos bloqueados e de outros semelhantes é crucial para garantir que os médicos baseiem as decisões de tratamento de vida e morte em informações precisas. Essa tarefa é mais difícil para os produtos que aprendem e evoluem sozinhos, de maneiras que são difíceis até para os fabricantes desses sistemas entenderem. Um exemplo de tal sistema, citado por Gottlieb, é aquele que usa algoritmos para identificar lesões de câncer de mama em mamografias e aprende a melhorar sua confiança, ou identificar subgrupos de câncer, com base em sua exposição a dados adicionais do mundo real. Tais sistemas já estão em desenvolvimento em oncologia e outras áreas de cuidado.
O observou que este tipo de tecnologia também oferece um enorme potencial para melhorar os cuidados médicos, e ele disse que a agência está buscando um equilíbrio regulatório que permitirá que produtos promissores entrem no mercado o mais rápido possível.
“A inteligência artificial ajudou a transformar indústrias como finanças e manufatura, e estou confiante de que essas tecnologias terão um impacto profundo e positivo nos serviços de saúde”, escreveu ele em seu comunicado. “Eu posso imaginar um mundo onde, um dia, a inteligência artificial possa ajudar a detectar e tratar problemas de saúde desafiadores, por exemplo, reconhecendo os sinais de doença bem antes do que podemos fazer hoje.”