Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde
Autor(a) principal: | |
---|---|
Data de Publicação: | 2023 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFRN |
Texto Completo: | https://repositorio.ufrn.br/handle/123456789/54773 |
Resumo: | Suportado por avanços de hardware e software, o uso de Aprendizado de Máquina (AM), reconhecido por alavancar o trabalho nas mais variadas áreas de conhecimento, começou a acelerar exponencialmente nas últimas décadas. Os experimentos, em geral realizados em ambientes controlados, sobre amostras de dados previamente conhecidos e preparados, tem trazido resultados extraordinários, o que popularizou o uso do Aprendizado de Máquina ao ponto de ser difícil encontrar um ramo do conhecimento humano no qual o AM ainda não tenha sido abordado. Neste contexto, surgem questões relativas à representatividade das amostras de dados utilizadas, e à necessidade de se estabelecer garantias mínimas quanto a performance sobre dados desconhecidos (do mundo real), especialmente em aplicações críticas como as da Saúde, onde erros podem significar risco de vida para pacientes. Dentro do AM há uma disciplina chamada de Machine Learning Operations (MLOps), que se destina ao gerenciamento do ciclo de vida de modelos de Aprendizado de Máquina, desde sua concepção até sua entrega em produção (ambientes de uso efetivo no mundo real) e seu posterior monitoramento. Uma vez implantados, modelos estão sujeitos a problemas de decaimento de performance, causado por fenômenos como o drift, o que tem motivado estudos recentes sobre continual learning e monitoramento contínuo para modelos de AM. O presente trabalho apresenta um processo para avaliação de modelos de AM desenhado para aplicações da saúde em operação no mundo real. Para tanto, foram realizados (1) uma Revisão Sistemática da Literatura (RSL) com o objetivo de determinar o estado da arte para técnicas e métodos de avaliação de AM, e (2) um Estudo de Caso (EC) aplicando o processo em modelos de uma UTI oncológica. Resultados positivos foram obtidos, estabelecendo um ciclo de feedback para modelos em uso no mundo real dados. |
id |
UFRN_11be55b39f74685f979f72f3f109d483 |
---|---|
oai_identifier_str |
oai:https://repositorio.ufrn.br:123456789/54773 |
network_acronym_str |
UFRN |
network_name_str |
Repositório Institucional da UFRN |
repository_id_str |
|
spelling |
Souza, Cezar Miranda Paula dehttp://lattes.cnpq.br/0100884597485902http://lattes.cnpq.br/1093675040121205Dória Neto, Adrião Duartehttps://orcid.org/0000-0002-5445-7327http://lattes.cnpq.br/1987295209521433Rodrigues, Anna Giselle Camara Dantas RibeiroLeite, Cicilia Raquel MaiaBarroca Filho, Itamir de Morais2023-09-11T23:55:47Z2023-09-11T23:55:47Z2023-06-26SOUZA, Cezar Miranda Paula de. Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde. Orientador: Itamir de Morais Barroca Filho. 2023. 173f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023.https://repositorio.ufrn.br/handle/123456789/54773Suportado por avanços de hardware e software, o uso de Aprendizado de Máquina (AM), reconhecido por alavancar o trabalho nas mais variadas áreas de conhecimento, começou a acelerar exponencialmente nas últimas décadas. Os experimentos, em geral realizados em ambientes controlados, sobre amostras de dados previamente conhecidos e preparados, tem trazido resultados extraordinários, o que popularizou o uso do Aprendizado de Máquina ao ponto de ser difícil encontrar um ramo do conhecimento humano no qual o AM ainda não tenha sido abordado. Neste contexto, surgem questões relativas à representatividade das amostras de dados utilizadas, e à necessidade de se estabelecer garantias mínimas quanto a performance sobre dados desconhecidos (do mundo real), especialmente em aplicações críticas como as da Saúde, onde erros podem significar risco de vida para pacientes. Dentro do AM há uma disciplina chamada de Machine Learning Operations (MLOps), que se destina ao gerenciamento do ciclo de vida de modelos de Aprendizado de Máquina, desde sua concepção até sua entrega em produção (ambientes de uso efetivo no mundo real) e seu posterior monitoramento. Uma vez implantados, modelos estão sujeitos a problemas de decaimento de performance, causado por fenômenos como o drift, o que tem motivado estudos recentes sobre continual learning e monitoramento contínuo para modelos de AM. O presente trabalho apresenta um processo para avaliação de modelos de AM desenhado para aplicações da saúde em operação no mundo real. Para tanto, foram realizados (1) uma Revisão Sistemática da Literatura (RSL) com o objetivo de determinar o estado da arte para técnicas e métodos de avaliação de AM, e (2) um Estudo de Caso (EC) aplicando o processo em modelos de uma UTI oncológica. Resultados positivos foram obtidos, estabelecendo um ciclo de feedback para modelos em uso no mundo real dados.Fostered by hardware and software advances, Machine Learning (ML) started to ramp up exponentially in the last few decades, and has become instrumental for advancing the work in the most varied areas of knowledge. Though generally restricted to controlledspace experiments, over previously obtained and curated data samples, results have been outstanding, which gave rise to such levels of popularity for ML applications that it’s hard to find an area of human knowledge left untouched by Machine Learning. In such context, establishing minimum performance guarantees over unknown, real-world data, becomes paramount, especially in Healthcare applications, where errors can lead to life-threatening situations. There’s an ML discipline, called Machine Learning Operations (or MLOps, for short), which concerns itself with ML Models’ lifecycle management, from conception to deployment in production (real-world) environments, including monitoring its real-world behavior. Once deployed, models are subject to performance decay issues, such as drift, which has motivated recent studies on continual learning and Continuous Monitoring of ML models. The present work proposes a process for ML model evaluation designed for Healthcare applications running on real-world data. To that end, a conducted Systematic Literature Review (SLR) aimed at determining the state-of-the-art techniques and methods for ML evaluation and a case study applied the proposed process to ML models in an oncologic ICU. The Case Study produced positive outcomes in establishing a feedback loop for models in use against real-world data.Universidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃOUFRNBrasilCNPQ::ENGENHARIASAvaliação de AMMLOpsMonitoramento contínuoContinual learningFeedback-loopUm processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúdeA process for performance evaluation and change management of machine learning models in healthcare applicationsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALProcessoavaliacaogerenciamento_Souza_2023.pdfapplication/pdf3922603https://repositorio.ufrn.br/bitstream/123456789/54773/1/Processoavaliacaogerenciamento_Souza_2023.pdf9fa67ada31d29353e724ace5127f2967MD51123456789/547732023-09-11 20:56:23.362oai:https://repositorio.ufrn.br:123456789/54773Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2023-09-11T23:56:23Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false |
dc.title.pt_BR.fl_str_mv |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
dc.title.alternative.pt_BR.fl_str_mv |
A process for performance evaluation and change management of machine learning models in healthcare applications |
title |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
spellingShingle |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde Souza, Cezar Miranda Paula de CNPQ::ENGENHARIAS Avaliação de AM MLOps Monitoramento contínuo Continual learning Feedback-loop |
title_short |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
title_full |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
title_fullStr |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
title_full_unstemmed |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
title_sort |
Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde |
author |
Souza, Cezar Miranda Paula de |
author_facet |
Souza, Cezar Miranda Paula de |
author_role |
author |
dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/0100884597485902 |
dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/1093675040121205 |
dc.contributor.referees1.none.fl_str_mv |
Dória Neto, Adrião Duarte |
dc.contributor.referees1ID.pt_BR.fl_str_mv |
https://orcid.org/0000-0002-5445-7327 |
dc.contributor.referees1Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/1987295209521433 |
dc.contributor.referees2.none.fl_str_mv |
Rodrigues, Anna Giselle Camara Dantas Ribeiro |
dc.contributor.referees3.none.fl_str_mv |
Leite, Cicilia Raquel Maia |
dc.contributor.author.fl_str_mv |
Souza, Cezar Miranda Paula de |
dc.contributor.advisor1.fl_str_mv |
Barroca Filho, Itamir de Morais |
contributor_str_mv |
Barroca Filho, Itamir de Morais |
dc.subject.cnpq.fl_str_mv |
CNPQ::ENGENHARIAS |
topic |
CNPQ::ENGENHARIAS Avaliação de AM MLOps Monitoramento contínuo Continual learning Feedback-loop |
dc.subject.por.fl_str_mv |
Avaliação de AM MLOps Monitoramento contínuo Continual learning Feedback-loop |
description |
Suportado por avanços de hardware e software, o uso de Aprendizado de Máquina (AM), reconhecido por alavancar o trabalho nas mais variadas áreas de conhecimento, começou a acelerar exponencialmente nas últimas décadas. Os experimentos, em geral realizados em ambientes controlados, sobre amostras de dados previamente conhecidos e preparados, tem trazido resultados extraordinários, o que popularizou o uso do Aprendizado de Máquina ao ponto de ser difícil encontrar um ramo do conhecimento humano no qual o AM ainda não tenha sido abordado. Neste contexto, surgem questões relativas à representatividade das amostras de dados utilizadas, e à necessidade de se estabelecer garantias mínimas quanto a performance sobre dados desconhecidos (do mundo real), especialmente em aplicações críticas como as da Saúde, onde erros podem significar risco de vida para pacientes. Dentro do AM há uma disciplina chamada de Machine Learning Operations (MLOps), que se destina ao gerenciamento do ciclo de vida de modelos de Aprendizado de Máquina, desde sua concepção até sua entrega em produção (ambientes de uso efetivo no mundo real) e seu posterior monitoramento. Uma vez implantados, modelos estão sujeitos a problemas de decaimento de performance, causado por fenômenos como o drift, o que tem motivado estudos recentes sobre continual learning e monitoramento contínuo para modelos de AM. O presente trabalho apresenta um processo para avaliação de modelos de AM desenhado para aplicações da saúde em operação no mundo real. Para tanto, foram realizados (1) uma Revisão Sistemática da Literatura (RSL) com o objetivo de determinar o estado da arte para técnicas e métodos de avaliação de AM, e (2) um Estudo de Caso (EC) aplicando o processo em modelos de uma UTI oncológica. Resultados positivos foram obtidos, estabelecendo um ciclo de feedback para modelos em uso no mundo real dados. |
publishDate |
2023 |
dc.date.accessioned.fl_str_mv |
2023-09-11T23:55:47Z |
dc.date.available.fl_str_mv |
2023-09-11T23:55:47Z |
dc.date.issued.fl_str_mv |
2023-06-26 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
SOUZA, Cezar Miranda Paula de. Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde. Orientador: Itamir de Morais Barroca Filho. 2023. 173f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufrn.br/handle/123456789/54773 |
identifier_str_mv |
SOUZA, Cezar Miranda Paula de. Um processo para avaliação e gerenciamento de mudanças de modelos de aprendizado de máquina aplicado a área da saúde. Orientador: Itamir de Morais Barroca Filho. 2023. 173f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2023. |
url |
https://repositorio.ufrn.br/handle/123456789/54773 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.publisher.program.fl_str_mv |
PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO |
dc.publisher.initials.fl_str_mv |
UFRN |
dc.publisher.country.fl_str_mv |
Brasil |
publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRN instname:Universidade Federal do Rio Grande do Norte (UFRN) instacron:UFRN |
instname_str |
Universidade Federal do Rio Grande do Norte (UFRN) |
instacron_str |
UFRN |
institution |
UFRN |
reponame_str |
Repositório Institucional da UFRN |
collection |
Repositório Institucional da UFRN |
bitstream.url.fl_str_mv |
https://repositorio.ufrn.br/bitstream/123456789/54773/1/Processoavaliacaogerenciamento_Souza_2023.pdf |
bitstream.checksum.fl_str_mv |
9fa67ada31d29353e724ace5127f2967 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN) |
repository.mail.fl_str_mv |
|
_version_ |
1814832934023069696 |