Relatório global sobre inteligência artificial na saúde aponta princípios orientadores para concepção e uso

A inteligência artificial (IA) é uma grande promessa para melhorar a prestação de atenção à saúde e medicamentos em todo o mundo, mas apenas se a ética e os direitos humanos forem colocados no centro de seu desenho, implantação e uso, de acordo com as novas orientações da Organização Mundial da Saúde (OMS). O relatório Ethics and governance of artificial intelligence for health (Ética e governança da inteligência artificial para a saúde, em tradução ao português) é resultado de dois anos de consultas realizadas por um painel de especialistas internacionais indicados pela OMS.

“Como toda nova tecnologia, a inteligência artificial possui um enorme potencial para melhorar a saúde de milhões de pessoas em todo o mundo. Por outro lado, como toda tecnologia, também pode ser mal utilizada e causar danos”, afirmou Tedros Adhanom Ghebreyesus, diretor-geral da OMS. Segundo ele, o novo relatório fornece um guia valioso para os países sobre como maximizar os benefícios da IA, minimizando seus riscos e evitando suas armadilhas.

A inteligência artificial pode ser, e em alguns países ricos já está sendo, usada para melhorar a velocidade e a precisão do diagnóstico e da triagem de doenças; para auxiliar no atendimento clínico; fortalecer a pesquisa em saúde e o desenvolvimento de medicamentos; e apoiar diversas intervenções de saúde pública, como vigilância de doenças, resposta a surtos e gestão de sistemas de saúde.

A AI também pode capacitar os pacientes a ter maior controle de seus próprios cuidados de saúde e compreender melhor suas necessidades em evolução. Também poderia permitir que países com poucos recursos e comunidades rurais, onde os pacientes frequentemente têm acesso restrito a profissionais de saúde ou profissionais médicos, preencham as lacunas no acesso aos serviços de saúde.

No entanto, o novo relatório da OMS adverte contra superestimar os benefícios da inteligência artificial para a saúde, especialmente quando isso ocorre às custas de investimentos e estratégias essenciais para alcançar a cobertura universal de saúde.

O documento também aponta que as oportunidades estão ligadas a desafios e riscos, incluindo coleta e uso antiético de dados de saúde; preconceitos codificados em algoritmos e riscos da inteligência artificial para a segurança do paciente, cibersegurança e meio ambiente.

Embora o investimento dos setores público e privado no desenvolvimento e implantação da inteligência artificial seja fundamental, por exemplo, seu uso não regulamentado poderia subordinar os direitos e interesses dos pacientes e das comunidades aos poderosos interesses comerciais de empresas de tecnologia ou aos interesses dos governos em vigilância e controle social.

O relatório também enfatiza que os sistemas capacitados principalmente em dados coletados de indivíduos em países de alta renda podem não funcionar bem para indivíduos em ambientes de baixa e média renda.

Os sistemas de inteligência artificial devem, portanto, ser cuidadosamente projetados para refletir a diversidade de ambientes socioeconômicos e de saúde. Eles devem ser acompanhados por capacitação em habilidades digitais, envolvimento da comunidade e conscientização, especialmente para milhões de profissionais de saúde que precisarão de alfabetização digital ou retreinamento se suas funções forem automatizadas, e que devem lidar com máquinas que podem desafiar a tomada de decisão e autonomia de provedores e pacientes.

Em última análise, orientados pelas leis existentes e obrigações de direitos humanos e novas leis e políticas que consagram princípios éticos, governos, fornecedores e designers devem trabalhar juntos para abordar questões éticas e de direitos humanos em cada estágio do design, desenvolvimento e implantação de uma tecnologia de inteligência artificial.

Seis princípios para garantir que a inteligência artificial funcione para o interesse público em todos os países

Para limitar os riscos e maximizar as oportunidades intrínsecas ao uso da inteligência artificial para a saúde, a OMS fornece os seguintes princípios como base para a regulamentação e governança:

• Proteger a autonomia humana: no contexto da atenção à saúde, isso significa que os seres humanos devem permanecer no controle dos sistemas de saúde e das decisões médicas; privacidade e confidencialidade devem ser protegidas e os pacientes devem dar consentimento informado válido por meio de estruturas legais apropriadas para proteção de dados.
• Promover o bem-estar e a segurança humana e o interesse público: Os projetistas de tecnologias de inteligência artificial devem atender aos requisitos regulamentares de segurança, precisão e eficácia para casos de uso ou indicações bem definidos. Devem estar disponíveis medidas de controle de qualidade na prática e melhoria da qualidade no uso de IA.
• Garantindo transparência, explicabilidade e inteligibilidade: A transparência requer que informações suficientes sejam publicadas ou documentadas antes do projeto ou implantação de uma tecnologia de inteligência artificial. Essas informações devem ser facilmente acessíveis e facilitar a consulta pública significativa e o debate sobre como a tecnologia é projetada e como deve ou não ser usada.
• Promovendo responsabilidade e prestação de contas: Embora as tecnologias de inteligência artificial executem tarefas específicas, é responsabilidade das partes interessadas garantir que sejam usadas nas condições apropriadas e por pessoas devidamente capacitadas. Mecanismos eficazes devem estar disponíveis para questionamento e reparação de indivíduos e grupos que são adversamente afetados por decisões baseadas em algoritmos.
• Garantir inclusão e equidade: A inclusão requer que a inteligência artificial para a saúde seja projetada para encorajar o uso e acesso equitativos mais amplos possíveis, independentemente de idade, sexo, gênero, renda, raça, etnia, orientação sexual, capacidade ou outras características protegidas por códigos de direitos humanos.
• Promover inteligência artificial que seja responsiva e sustentável: Designers, desenvolvedores e usuários devem avaliar de forma contínua e transparente os aplicativos de IA durante o uso real para determinar se esta responde de forma adequada e apropriada às expectativas e requisitos. Os sistemas também devem ser projetados para minimizar suas consequências ambientais e aumentar a eficiência energética. Governos e empresas devem abordar as interrupções previstas no local de trabalho, incluindo capacitação para profissionais de saúde para se adaptarem ao uso de sistemas de inteligência artificial e possíveis perdas de empregos devido ao uso de sistemas automatizados.

Esses princípios guiarão o trabalho futuro da OMS para apoiar os esforços e garantir que todo o potencial da inteligência artificial para atenção à saúde e saúde pública seja usado para o benefício de todos.

Baixe o relatório Ethics and governance of artificial intelligence for health (Ética e governança da inteligência artificial para a saúde, em tradução ao português), disponível em pdf.