Em uma análise recente publicada no BMJ Global Health, um grupo internacional de pesquisadores e especialistas em saúde pública sustenta que a inteligência artificial (IA) e a inteligência artificial geral (AGI) podem representar inúmeras ameaças à saúde e ao bem-estar humanos, e pediram que a pesquisa sobre essas tecnologias seja interrompida até que possam ser devidamente regulamentadas.
Os autores observaram que a tecnologia de IA tem várias aplicações promissoras na área da saúde, mas postulam que o uso indevido dessas soluções pode prejudicar a saúde humana por meio de seu impacto nos determinantes sociais, econômicos, políticos e relacionados à segurança da saúde.
A pesquisa e o desenvolvimento da IA na área da saúde estão progredindo rapidamente, afirmaram os autores, destacando que grande parte da literatura que examina essas ferramentas é focada nos benefícios potenciais obtidos por meio de sua implementação e uso. Por outro lado, as discussões sobre os danos potenciais dessas tecnologias geralmente se limitam a observar a aplicação incorreta da IA no ambiente clínico.
No entanto, a IA pode impactar negativamente os determinantes ‘upstream’ da saúde, caracterizados pela American Medical Association (AMA) como fatores individuais que podem parecer não relacionados à saúde na superfície, mas na verdade têm impactos downstream nos resultados de saúde a longo prazo dos pacientes. A AMA indica que esses fatores iniciais, como condições de vida ou desigualdades sociais e institucionais, nem sempre estiveram no escopo da pesquisa em saúde pública, mas podem exacerbar a incidência de doenças, taxas de lesões e mortalidade.
Os autores argumentaram que o potencial uso indevido e a falha contínua em antecipar, adaptar e regular os impactos da IA na sociedade podem afetar negativamente esses fatores e causar danos.
A análise identificou três impactos que a IA poderia ter nos determinantes sociais e ascendentes da saúde (SDOH, na sigla em inglês) que poderiam resultar em ameaças à saúde humana: a manipulação e o controle de pessoas, a proliferação de sistemas letais de armas autônomas (LAWS) e a potencial obsolescência de trabalho humano.
A primeira ameaça, explicaram os autores, resulta da capacidade da IA de processar e analisar grandes conjuntos de dados contendo informações confidenciais ou pessoais, incluindo imagens. Essa capacidade pode permitir o uso indevido de soluções de IA para desenvolver campanhas de marketing altamente personalizadas e direcionadas ou expandir significativamente os sistemas de vigilância.
Eles podem ser usados com boas intenções, observaram os autores, como no combate ao terrorismo, mas também podem ser usados para manipular o comportamento individual, citando casos de subversão de eleições por IA em todo o mundo e sistemas de vigilância por IA que perpetuam as desigualdades usando reconhecimento facial e big data para produzir avaliações de comportamento individual e confiabilidade.
A segunda ameaça está relacionada ao desenvolvimento e uso de LAWS, que podem localizar, selecionar e engajar alvos humanos sem supervisão. Os autores apontaram que eles podem ser conectados a pequenos dispositivos como drones e facilmente produzidos em massa, fornecendo aos malfeitores a capacidade de matar “em escala industrial”.
A terceira ameaça diz respeito a como a IA pode tornar obsoletos os empregos humanos e o trabalho. Os autores reconheceram que a IA tem o potencial de ajudar a realizar trabalhos repetitivos, desagradáveis ou perigosos, o que traz alguns benefícios para os humanos. No entanto, eles observaram que, atualmente, o aumento da automação serviu amplamente para contribuir para a distribuição desigual da riqueza e pode exacerbar os efeitos adversos à saúde associados ao desemprego.
Além disso, os autores descreveram como a AGI poderia representar uma “ameaça existencial para a humanidade”. “Agora estamos procurando criar máquinas que sejam muito mais inteligentes e poderosas do que nós”, disseram eles. “O potencial de tais máquinas aplicarem essa inteligência e poder — seja deliberadamente ou não — de maneiras que possam prejudicar ou subjugar humanos, é real e deve ser considerado.”
Eles destacaram que a conexão da AGI com a internet e o mundo real, incluindo robôs, veículos, sistemas digitais que ajudam a administrar vários aspectos da sociedade e armas, pode ser “o maior evento da história da humanidade”, para o benefício da humanidade ou de seus detrimento.
Devido à escala dessas ameaças potenciais e aos impactos significativos que podem ter sobre a saúde humana, os autores afirmaram que os profissionais de saúde têm um papel crítico a desempenhar na conscientização sobre os riscos da IA. Além disso, os autores defenderam a proibição de certos tipos de IA e juntaram-se a pedidos de moratória no desenvolvimento de AGI.
“Com o crescimento exponencial em pesquisa e desenvolvimento de IA, a janela de oportunidade para evitar danos sérios e potencialmente existenciais está se fechando. Os resultados futuros do desenvolvimento de IA e AGI dependerão das decisões políticas tomadas agora e da eficácia das instituições reguladoras que projetamos para minimizar riscos e danos e maximizar benefícios”, escreveram.