Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation

Detalhes bibliográficos
Autor(a) principal: Ballester, Pedro Lemos
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Biblioteca Digital de Teses e Dissertações da PUC_RS
Texto Completo: http://tede2.pucrs.br/tede2/handle/tede/8843
Resumo: Aplicações com aprendizado de máquina possuem diversas suposições sobre o cenário em que são colocadas. Uma suposição comum é a de que o ambiente de teste segue a mesma distribuição dos dados de treino. Essa suposição é sistematicamente quebrada em cénarios do mundo real; a diferença entre essas distribuições é conhecida como domain shift. Adaptação de domínio não-supervisionada visa mitigar esse problema impulsionando o conhecimento dos modelos com dados do ambiente de teste. Uma das áreas mais sensíveis a domain shift é a de imagens médicas. Devido a heterogeneidade das distribuições de dados das máquinas de aquisição de imagens, os modelos tendem a variar sua performance preditiva quando lidam com imagens vindas de máquinas sem nenhum exemplo no conjunto de treino. Este trabalho propõe duas contribuições. Primeiramente, o uso de self ensembling em adaptação de domínio para segmentação de imagens médicas para segmentação de substância cinzenta na medula espinhal é introduzido. Em seguida, baseado no sucesso do self-ensembling, outros trabalhos recentes da literatura de aprendizado semi-supervisionado são adaptados para o contexto apresentado, nominalmente, unsupervised data augmentation e MixMatch. Foram conduzidos estudos de ablação e experimentos para compreensão do comportamento dos métodos e comparação dos seus melhores resultados. Os resultados indicam uma melhoria em relação a treinamento puramente supervisionado, além de demonstrar que os métodos recentes de aprendizado semi-supervisionado são promissores para o campo de adaptação de domínio em segmentação de imagens médicas.
id P_RS_1c200a7145de140bca7dc8f9404a0bd0
oai_identifier_str oai:tede2.pucrs.br:tede/8843
network_acronym_str P_RS
network_name_str Biblioteca Digital de Teses e Dissertações da PUC_RS
repository_id_str
spelling Barros, Rodrigo Coelhohttp://lattes.cnpq.br/8172124241767828http://lattes.cnpq.br/3790337320791279Ballester, Pedro Lemos2019-08-20T13:29:43Z2019-08-02http://tede2.pucrs.br/tede2/handle/tede/8843Aplicações com aprendizado de máquina possuem diversas suposições sobre o cenário em que são colocadas. Uma suposição comum é a de que o ambiente de teste segue a mesma distribuição dos dados de treino. Essa suposição é sistematicamente quebrada em cénarios do mundo real; a diferença entre essas distribuições é conhecida como domain shift. Adaptação de domínio não-supervisionada visa mitigar esse problema impulsionando o conhecimento dos modelos com dados do ambiente de teste. Uma das áreas mais sensíveis a domain shift é a de imagens médicas. Devido a heterogeneidade das distribuições de dados das máquinas de aquisição de imagens, os modelos tendem a variar sua performance preditiva quando lidam com imagens vindas de máquinas sem nenhum exemplo no conjunto de treino. Este trabalho propõe duas contribuições. Primeiramente, o uso de self ensembling em adaptação de domínio para segmentação de imagens médicas para segmentação de substância cinzenta na medula espinhal é introduzido. Em seguida, baseado no sucesso do self-ensembling, outros trabalhos recentes da literatura de aprendizado semi-supervisionado são adaptados para o contexto apresentado, nominalmente, unsupervised data augmentation e MixMatch. Foram conduzidos estudos de ablação e experimentos para compreensão do comportamento dos métodos e comparação dos seus melhores resultados. Os resultados indicam uma melhoria em relação a treinamento puramente supervisionado, além de demonstrar que os métodos recentes de aprendizado semi-supervisionado são promissores para o campo de adaptação de domínio em segmentação de imagens médicas.Machine learning applications make several assumptions regarding the scenario where they are employed. One common assumption is that data distribution in the test environment follows the same distribution of the training set. This assumption is systematically broken in most real-world scenarios; the difference between these distributions is commonly known as domain shift. Unsupervised domain adaptation aims at suppressing this problem by leveraging knowledge with unlabeled data from the test environment. One of the most sensitive fields for domain shift is medical imaging. Due to the heterogeneity in data distributions from scanners, models tend to vary in predictive performance when dealing with images from scanners with no examples in the training set. We propose two contributions in this work. First, we introduce the use of self-ensembling domain adaptation in the field of medical imaging segmentation in a spinal cord grey matter segmentation task. Next, based on the success of self-ensembling, we adapt two other recent work from the semi-supervised learning literature to the same task, namely, unsupervised data augmentation and MixMatch. We conduct ablation studies and other experiments in order to understand the behavior of each method and compare their best results. The results show improvements over training models in a supervised learning fashion and demonstrate that recent semi-supervised learning methods are promising for domain adaptation in medical imaging segmentation.Submitted by PPG Ciência da Computação (ppgcc@pucrs.br) on 2019-08-13T15:02:59Z No. of bitstreams: 1 PEDRO LEMOS BALLESTER_DIS.pdf: 4346218 bytes, checksum: 076915a08942c71e33f2208e8665cd2a (MD5)Approved for entry into archive by Sheila Dias (sheila.dias@pucrs.br) on 2019-08-20T13:22:08Z (GMT) No. of bitstreams: 1 PEDRO LEMOS BALLESTER_DIS.pdf: 4346218 bytes, checksum: 076915a08942c71e33f2208e8665cd2a (MD5)Made available in DSpace on 2019-08-20T13:29:43Z (GMT). No. of bitstreams: 1 PEDRO LEMOS BALLESTER_DIS.pdf: 4346218 bytes, checksum: 076915a08942c71e33f2208e8665cd2a (MD5) Previous issue date: 2019-08-02application/pdfhttp://tede2.pucrs.br:80/tede2/retrieve/176163/PEDRO%20LEMOS%20BALLESTER_DIS.pdf.jpgengPontifícia Universidade Católica do Rio Grande do SulPrograma de Pós-Graduação em Ciência da ComputaçãoPUCRSBrasilEscola PolitécnicaAprendizado ProfundoAdaptação de DomínioAprendizado Semi-SupervisionadoSelf-EnsemblingDeep LearningDomain AdaptationSemi-Supervised LearningCIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAOSemi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentationinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisTrabalho não apresenta restrição para publicação-4570527706994352458500500-862078257083325301info:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_RSinstname:Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)instacron:PUC_RSTHUMBNAILPEDRO LEMOS BALLESTER_DIS.pdf.jpgPEDRO LEMOS BALLESTER_DIS.pdf.jpgimage/jpeg5006http://tede2.pucrs.br/tede2/bitstream/tede/8843/4/PEDRO+LEMOS+BALLESTER_DIS.pdf.jpg8990538076648ff4831c6376769d4025MD54TEXTPEDRO LEMOS BALLESTER_DIS.pdf.txtPEDRO LEMOS BALLESTER_DIS.pdf.txttext/plain154189http://tede2.pucrs.br/tede2/bitstream/tede/8843/3/PEDRO+LEMOS+BALLESTER_DIS.pdf.txt5a2e4371ed59777a818256e8bfefe637MD53ORIGINALPEDRO LEMOS BALLESTER_DIS.pdfPEDRO LEMOS BALLESTER_DIS.pdfapplication/pdf4346218http://tede2.pucrs.br/tede2/bitstream/tede/8843/2/PEDRO+LEMOS+BALLESTER_DIS.pdf076915a08942c71e33f2208e8665cd2aMD52LICENSElicense.txtlicense.txttext/plain; charset=utf-8590http://tede2.pucrs.br/tede2/bitstream/tede/8843/1/license.txt220e11f2d3ba5354f917c7035aadef24MD51tede/88432019-09-11 08:02:15.738oai:tede2.pucrs.br:tede/8843QXV0b3JpemE/P28gcGFyYSBQdWJsaWNhPz9vIEVsZXRyP25pY2E6IENvbSBiYXNlIG5vIGRpc3Bvc3RvIG5hIExlaSBGZWRlcmFsIG4/OS42MTAsIGRlIDE5IGRlIGZldmVyZWlybyBkZSAxOTk4LCBvIGF1dG9yIEFVVE9SSVpBIGEgcHVibGljYT8/byBlbGV0cj9uaWNhIGRhIHByZXNlbnRlIG9icmEgbm8gYWNlcnZvIGRhIEJpYmxpb3RlY2EgRGlnaXRhbCBkYSBQb250aWY/Y2lhIFVuaXZlcnNpZGFkZSBDYXQ/bGljYSBkbyBSaW8gR3JhbmRlIGRvIFN1bCwgc2VkaWFkYSBhIEF2LiBJcGlyYW5nYSA2NjgxLCBQb3J0byBBbGVncmUsIFJpbyBHcmFuZGUgZG8gU3VsLCBjb20gcmVnaXN0cm8gZGUgQ05QSiA4ODYzMDQxMzAwMDItODEgYmVtIGNvbW8gZW0gb3V0cmFzIGJpYmxpb3RlY2FzIGRpZ2l0YWlzLCBuYWNpb25haXMgZSBpbnRlcm5hY2lvbmFpcywgY29ucz9yY2lvcyBlIHJlZGVzID9zIHF1YWlzIGEgYmlibGlvdGVjYSBkYSBQVUNSUyBwb3NzYSBhIHZpciBwYXJ0aWNpcGFyLCBzZW0gP251cyBhbHVzaXZvIGFvcyBkaXJlaXRvcyBhdXRvcmFpcywgYSB0P3R1bG8gZGUgZGl2dWxnYT8/byBkYSBwcm9kdT8/byBjaWVudD9maWNhLgo=Biblioteca Digital de Teses e Dissertaçõeshttp://tede2.pucrs.br/tede2/PRIhttps://tede2.pucrs.br/oai/requestbiblioteca.central@pucrs.br||opendoar:2019-09-11T11:02:15Biblioteca Digital de Teses e Dissertações da PUC_RS - Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)false
dc.title.por.fl_str_mv Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
title Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
spellingShingle Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
Ballester, Pedro Lemos
Aprendizado Profundo
Adaptação de Domínio
Aprendizado Semi-Supervisionado
Self-Ensembling
Deep Learning
Domain Adaptation
Semi-Supervised Learning
CIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAO
title_short Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
title_full Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
title_fullStr Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
title_full_unstemmed Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
title_sort Semi-supervised learning methods for unsupervised domain adaptation in medical imaging segmentation
author Ballester, Pedro Lemos
author_facet Ballester, Pedro Lemos
author_role author
dc.contributor.advisor1.fl_str_mv Barros, Rodrigo Coelho
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/8172124241767828
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/3790337320791279
dc.contributor.author.fl_str_mv Ballester, Pedro Lemos
contributor_str_mv Barros, Rodrigo Coelho
dc.subject.por.fl_str_mv Aprendizado Profundo
Adaptação de Domínio
Aprendizado Semi-Supervisionado
topic Aprendizado Profundo
Adaptação de Domínio
Aprendizado Semi-Supervisionado
Self-Ensembling
Deep Learning
Domain Adaptation
Semi-Supervised Learning
CIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAO
dc.subject.eng.fl_str_mv Self-Ensembling
Deep Learning
Domain Adaptation
Semi-Supervised Learning
dc.subject.cnpq.fl_str_mv CIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAO
description Aplicações com aprendizado de máquina possuem diversas suposições sobre o cenário em que são colocadas. Uma suposição comum é a de que o ambiente de teste segue a mesma distribuição dos dados de treino. Essa suposição é sistematicamente quebrada em cénarios do mundo real; a diferença entre essas distribuições é conhecida como domain shift. Adaptação de domínio não-supervisionada visa mitigar esse problema impulsionando o conhecimento dos modelos com dados do ambiente de teste. Uma das áreas mais sensíveis a domain shift é a de imagens médicas. Devido a heterogeneidade das distribuições de dados das máquinas de aquisição de imagens, os modelos tendem a variar sua performance preditiva quando lidam com imagens vindas de máquinas sem nenhum exemplo no conjunto de treino. Este trabalho propõe duas contribuições. Primeiramente, o uso de self ensembling em adaptação de domínio para segmentação de imagens médicas para segmentação de substância cinzenta na medula espinhal é introduzido. Em seguida, baseado no sucesso do self-ensembling, outros trabalhos recentes da literatura de aprendizado semi-supervisionado são adaptados para o contexto apresentado, nominalmente, unsupervised data augmentation e MixMatch. Foram conduzidos estudos de ablação e experimentos para compreensão do comportamento dos métodos e comparação dos seus melhores resultados. Os resultados indicam uma melhoria em relação a treinamento puramente supervisionado, além de demonstrar que os métodos recentes de aprendizado semi-supervisionado são promissores para o campo de adaptação de domínio em segmentação de imagens médicas.
publishDate 2019
dc.date.accessioned.fl_str_mv 2019-08-20T13:29:43Z
dc.date.issued.fl_str_mv 2019-08-02
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://tede2.pucrs.br/tede2/handle/tede/8843
url http://tede2.pucrs.br/tede2/handle/tede/8843
dc.language.iso.fl_str_mv eng
language eng
dc.relation.program.fl_str_mv -4570527706994352458
dc.relation.confidence.fl_str_mv 500
500
dc.relation.cnpq.fl_str_mv -862078257083325301
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Pontifícia Universidade Católica do Rio Grande do Sul
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Ciência da Computação
dc.publisher.initials.fl_str_mv PUCRS
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Escola Politécnica
publisher.none.fl_str_mv Pontifícia Universidade Católica do Rio Grande do Sul
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da PUC_RS
instname:Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)
instacron:PUC_RS
instname_str Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)
instacron_str PUC_RS
institution PUC_RS
reponame_str Biblioteca Digital de Teses e Dissertações da PUC_RS
collection Biblioteca Digital de Teses e Dissertações da PUC_RS
bitstream.url.fl_str_mv http://tede2.pucrs.br/tede2/bitstream/tede/8843/4/PEDRO+LEMOS+BALLESTER_DIS.pdf.jpg
http://tede2.pucrs.br/tede2/bitstream/tede/8843/3/PEDRO+LEMOS+BALLESTER_DIS.pdf.txt
http://tede2.pucrs.br/tede2/bitstream/tede/8843/2/PEDRO+LEMOS+BALLESTER_DIS.pdf
http://tede2.pucrs.br/tede2/bitstream/tede/8843/1/license.txt
bitstream.checksum.fl_str_mv 8990538076648ff4831c6376769d4025
5a2e4371ed59777a818256e8bfefe637
076915a08942c71e33f2208e8665cd2a
220e11f2d3ba5354f917c7035aadef24
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da PUC_RS - Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)
repository.mail.fl_str_mv biblioteca.central@pucrs.br||
_version_ 1799765341451059200