Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde

Detalhes bibliográficos
Autor(a) principal: Souza, Cezar Miranda Paula de
Data de Publicação: 2023
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFRN
Texto Completo: https://repositorio.ufrn.br/handle/123456789/54773
Resumo: Suportado por avanços de hardware e software, o uso de Aprendizado de Máquina (AM), reconhecido por alavancar o trabalho nas mais variadas áreas de conhecimento, começou a acelerar exponencialmente nas últimas décadas. Os experimentos, em geral realizados em ambientes controlados, sobre amostras de dados previamente conhecidos e preparados, tem trazido resultados extraordinários, o que popularizou o uso do Aprendizado de Máquina ao ponto de ser difícil encontrar um ramo do conhecimento humano no qual o AM ainda não tenha sido abordado. Neste contexto, surgem questões relativas à representatividade das amostras de dados utilizadas, e à necessidade de se estabelecer garantias mínimas quanto a performance sobre dados desconhecidos (do mundo real), especialmente em aplicações críticas como as da Saúde, onde erros podem significar risco de vida para pacientes. Dentro do AM há uma disciplina chamada de Machine Learning Operations (MLOps), que se destina ao gerenciamento do ciclo de vida de modelos de Aprendizado de Máquina, desde sua concepção até sua entrega em produção (ambientes de uso efetivo no mundo real) e seu posterior monitoramento. Uma vez implantados, modelos estão sujeitos a problemas de decaimento de performance, causado por fenômenos como o drift, o que tem motivado estudos recentes sobre continual learning e monitoramento contínuo para modelos de AM. O presente trabalho apresenta um processo para avaliação de modelos de AM desenhado para aplicações da saúde em operação no mundo real. Para tanto, foram realizados (1) uma Revisão Sistemática da Literatura (RSL) com o objetivo de determinar o estado da arte para técnicas e métodos de avaliação de AM, e (2) um Estudo de Caso (EC) aplicando o processo em modelos de uma UTI oncológica. Resultados positivos foram obtidos, estabelecendo um ciclo de feedback para modelos em uso no mundo real dados.
id UFRN_11be55b39f74685f979f72f3f109d483
oai_identifier_str oai:https://repositorio.ufrn.br:123456789/54773
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Souza, Cezar Miranda Paula dehttp://lattes.cnpq.br/0100884597485902http://lattes.cnpq.br/1093675040121205Dória Neto, Adrião Duartehttps://orcid.org/0000-0002-5445-7327http://lattes.cnpq.br/1987295209521433Rodrigues, Anna Giselle Camara Dantas RibeiroLeite, Cicilia Raquel MaiaBarroca Filho, Itamir de Morais2023-09-11T23:55:47Z2023-09-11T23:55:47Z2023-06-26SOUZA, Cezar Miranda Paula de. Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde. Orientador: Itamir de Morais Barroca Filho. 2023. 173f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.https://repositorio.ufrn.br/handle/123456789/54773Suportado por avanços de hardware e software, o uso de Aprendizado de Máquina (AM), reconhecido por alavancar o trabalho nas mais variadas áreas de conhecimento, começou a acelerar exponencialmente nas últimas décadas. Os experimentos, em geral realizados em ambientes controlados, sobre amostras de dados previamente conhecidos e preparados, tem trazido resultados extraordinários, o que popularizou o uso do Aprendizado de Máquina ao ponto de ser difícil encontrar um ramo do conhecimento humano no qual o AM ainda não tenha sido abordado. Neste contexto, surgem questões relativas à representatividade das amostras de dados utilizadas, e à necessidade de se estabelecer garantias mínimas quanto a performance sobre dados desconhecidos (do mundo real), especialmente em aplicações críticas como as da Saúde, onde erros podem significar risco de vida para pacientes. Dentro do AM há uma disciplina chamada de Machine Learning Operations (MLOps), que se destina ao gerenciamento do ciclo de vida de modelos de Aprendizado de Máquina, desde sua concepção até sua entrega em produção (ambientes de uso efetivo no mundo real) e seu posterior monitoramento. Uma vez implantados, modelos estão sujeitos a problemas de decaimento de performance, causado por fenômenos como o drift, o que tem motivado estudos recentes sobre continual learning e monitoramento contínuo para modelos de AM. O presente trabalho apresenta um processo para avaliação de modelos de AM desenhado para aplicações da saúde em operação no mundo real. Para tanto, foram realizados (1) uma Revisão Sistemática da Literatura (RSL) com o objetivo de determinar o estado da arte para técnicas e métodos de avaliação de AM, e (2) um Estudo de Caso (EC) aplicando o processo em modelos de uma UTI oncológica. Resultados positivos foram obtidos, estabelecendo um ciclo de feedback para modelos em uso no mundo real dados.Fostered by hardware and software advances, Machine Learning (ML) started to ramp up exponentially in the last few decades, and has become instrumental for advancing the work in the most varied areas of knowledge. Though generally restricted to controlledspace experiments, over previously obtained and curated data samples, results have been outstanding, which gave rise to such levels of popularity for ML applications that it’s hard to find an area of human knowledge left untouched by Machine Learning. In such context, establishing minimum performance guarantees over unknown, real-world data, becomes paramount, especially in Healthcare applications, where errors can lead to life-threatening situations. There’s an ML discipline, called Machine Learning Operations (or MLOps, for short), which concerns itself with ML Models’ lifecycle management, from conception to deployment in production (real-world) environments, including monitoring its real-world behavior. Once deployed, models are subject to performance decay issues, such as drift, which has motivated recent studies on continual learning and Continuous Monitoring of ML models. The present work proposes a process for ML model evaluation designed for Healthcare applications running on real-world data. To that end, a conducted Systematic Literature Review (SLR) aimed at determining the state-of-the-art techniques and methods for ML evaluation and a case study applied the proposed process to ML models in an oncologic ICU. The Case Study produced positive outcomes in establishing a feedback loop for models in use against real-world data.Universidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃOUFRNBrasilCNPQ::ENGENHARIASAvaliação de AMMLOpsMonitoramento contínuoContinual learningFeedback-loopUm processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúdeA process for performance evaluation and change management of machine learning models in healthcare applicationsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALProcessoavaliacaogerenciamento_Souza_2023.pdfapplication/pdf3922603https://repositorio.ufrn.br/bitstream/123456789/54773/1/Processoavaliacaogerenciamento_Souza_2023.pdf9fa67ada31d29353e724ace5127f2967MD51123456789/547732023-09-11 20:56:23.362oai:https://repositorio.ufrn.br:123456789/54773Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2023-09-11T23:56:23Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.pt_BR.fl_str_mv Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
dc.title.alternative.pt_BR.fl_str_mv A process for performance evaluation and change management of machine learning models in healthcare applications
title Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
spellingShingle Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
Souza, Cezar Miranda Paula de
CNPQ::ENGENHARIAS
Avaliação de AM
MLOps
Monitoramento contínuo
Continual learning
Feedback-loop
title_short Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
title_full Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
title_fullStr Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
title_full_unstemmed Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
title_sort Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
author Souza, Cezar Miranda Paula de
author_facet Souza, Cezar Miranda Paula de
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/0100884597485902
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/1093675040121205
dc.contributor.referees1.none.fl_str_mv Dória Neto, Adrião Duarte
dc.contributor.referees1ID.pt_BR.fl_str_mv https://orcid.org/0000-0002-5445-7327
dc.contributor.referees1Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/1987295209521433
dc.contributor.referees2.none.fl_str_mv Rodrigues, Anna Giselle Camara Dantas Ribeiro
dc.contributor.referees3.none.fl_str_mv Leite, Cicilia Raquel Maia
dc.contributor.author.fl_str_mv Souza, Cezar Miranda Paula de
dc.contributor.advisor1.fl_str_mv Barroca Filho, Itamir de Morais
contributor_str_mv Barroca Filho, Itamir de Morais
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS
topic CNPQ::ENGENHARIAS
Avaliação de AM
MLOps
Monitoramento contínuo
Continual learning
Feedback-loop
dc.subject.por.fl_str_mv Avaliação de AM
MLOps
Monitoramento contínuo
Continual learning
Feedback-loop
description Suportado por avanços de hardware e software, o uso de Aprendizado de Máquina (AM), reconhecido por alavancar o trabalho nas mais variadas áreas de conhecimento, começou a acelerar exponencialmente nas últimas décadas. Os experimentos, em geral realizados em ambientes controlados, sobre amostras de dados previamente conhecidos e preparados, tem trazido resultados extraordinários, o que popularizou o uso do Aprendizado de Máquina ao ponto de ser difícil encontrar um ramo do conhecimento humano no qual o AM ainda não tenha sido abordado. Neste contexto, surgem questões relativas à representatividade das amostras de dados utilizadas, e à necessidade de se estabelecer garantias mínimas quanto a performance sobre dados desconhecidos (do mundo real), especialmente em aplicações críticas como as da Saúde, onde erros podem significar risco de vida para pacientes. Dentro do AM há uma disciplina chamada de Machine Learning Operations (MLOps), que se destina ao gerenciamento do ciclo de vida de modelos de Aprendizado de Máquina, desde sua concepção até sua entrega em produção (ambientes de uso efetivo no mundo real) e seu posterior monitoramento. Uma vez implantados, modelos estão sujeitos a problemas de decaimento de performance, causado por fenômenos como o drift, o que tem motivado estudos recentes sobre continual learning e monitoramento contínuo para modelos de AM. O presente trabalho apresenta um processo para avaliação de modelos de AM desenhado para aplicações da saúde em operação no mundo real. Para tanto, foram realizados (1) uma Revisão Sistemática da Literatura (RSL) com o objetivo de determinar o estado da arte para técnicas e métodos de avaliação de AM, e (2) um Estudo de Caso (EC) aplicando o processo em modelos de uma UTI oncológica. Resultados positivos foram obtidos, estabelecendo um ciclo de feedback para modelos em uso no mundo real dados.
publishDate 2023
dc.date.accessioned.fl_str_mv 2023-09-11T23:55:47Z
dc.date.available.fl_str_mv 2023-09-11T23:55:47Z
dc.date.issued.fl_str_mv 2023-06-26
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv SOUZA, Cezar Miranda Paula de. Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde. Orientador: Itamir de Morais Barroca Filho. 2023. 173f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.
dc.identifier.uri.fl_str_mv https://repositorio.ufrn.br/handle/123456789/54773
identifier_str_mv SOUZA, Cezar Miranda Paula de. Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde. Orientador: Itamir de Morais Barroca Filho. 2023. 173f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.
url https://repositorio.ufrn.br/handle/123456789/54773
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.publisher.program.fl_str_mv PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
dc.publisher.initials.fl_str_mv UFRN
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
bitstream.url.fl_str_mv https://repositorio.ufrn.br/bitstream/123456789/54773/1/Processoavaliacaogerenciamento_Souza_2023.pdf
bitstream.checksum.fl_str_mv 9fa67ada31d29353e724ace5127f2967
bitstream.checksumAlgorithm.fl_str_mv MD5
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv
_version_ 1814832934023069696