Regulação da inteligência artificial na saúde

• Autor(a) principal: Dourado, Daniel de Araujo
• Data de Publicação: 2024
• Tipo de documento: Tese
• Idioma: por
• Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
• Texto Completo: https://www.teses.usp.br/teses/disponiveis/5/5137/tde-23042024-111255/
• topic: Artificial intelligence; Digital health.; Direito sanitário; Governança em saúde; Health care coordination and monitoring; Health governance; Health law; Inteligência artificial; Marcos regulatórios em saúde; Regulação e fiscalização em saúde; Regulatory frameworks for health; Saúde digital

A Inteligência Artificial (IA) é um ponto de virada na trajetória histórica da humanidade, despertando interesse e preocupação crescentes. Na área da saúde, a IA promete induzir transformações profundas, alterando práticas e estruturas dos sistemas de saúde. A integração efetiva da IA na saúde requer um marco regulatório específico. Esta tese tem o objetivo de estabelecer um paradigma geral para a regulação da IA na saúde, baseando-se em fundamentos éticos e jurídicos e em diretrizes regulatórias. Para isso, foi realizada uma pesquisa qualitativa, utilizando abordagem teórica e empírica, fundamentada em uma revisão não sistemática da literatura global e na análise de propostas políticas e normativas de países e organizações internacionais. Primeiramente, o estudo identifica os conceitos básicos de IA, com foco em aprendizado de máquina (machine learning), abordando sua evolução histórica e o panorama atual na área da saúde. Evidencia-se que as diversas aplicações da IA na saúde compartilham características elementares e desafios, demonstrando que existem pontos comuns e suficientemente delimitados que justificam o reconhecimento da IA como objeto específico da regulação em saúde. A partir desse reconhecimento, são identificados e analisados fundamentos éticos e jurídicos para estruturar a regulação da IA na saúde, contemplando elementos de: direito à saúde; ética em IA; direitos humanos; princípios éticos próprios da IA na saúde; e governança de dados de saúde. Com base nesses fundamentos, a tese propõe diretrizes regulatórias para a IA na saúde em três dimensões: 1) segurança e eficácia; 2) transparência; e 3) responsabilidade. Em termos de segurança e eficácia, enfatiza-se a necessidade de admitir os sistemas de IA na categoria regulatória software como dispositivo médico (SaMD). Portanto, esses sistemas devem ser avaliados pelos padrões estabelecidos por entidades internacionais, mas acrescidos de dois aspectos essenciais: monitoramento contínuo de mudanças e eliminação de vieses para promover equidade. A transparência exige acesso a informações que fundamentam as decisões de sistemas de IA, priorizando a clareza sobre os contextos de desenvolvimento e implementação dos modelos, e deve ser expressa por meio de documentação padronizada. No que diz respeito à transparência dos modelos, é necessário instituir tratamentos regulatórios distintos para sistemas de IA interpretável e de IA explicável. Na dimensão da responsabilidade, são exploradas limitações dos atuais sistemas de responsabilidade civil para lidar com a IA e possíveis abordagens para solucionar essa questão jurídica. Em seguida, analisam-se as atuais propostas de adaptação das regras de responsabilidade civil para contemplar produtos baseados em IA. Por fim, são abordadas tendências emergentes que devem influenciar a regulação da IA na saúde, incluindo: o papel das legislações horizontais e da abordagem regulatória setorial; a perspectiva da estratégia regulatória baseada em ambientes de testagem (sandboxes); a necessidade e a complexidade de regular os modelos de fundação (foundation models) para uso na saúde. Conclui-se que os fundamentos analisados e as diretrizes propostas constituem uma base sólida para a elaboração de um paradigma regulatório robusto e abrangente para a IA na saúde. Espera-se contribuir para o debate em busca do avanço seguro, transparente e responsável desse campo em rápida expansão