A self-supervised learning approach for astronomical images

Detalhes bibliográficos
Autor(a) principal: Martinazzo, Ana Carolina Rodrigues Cavalcante
Data de Publicação: 2021
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/
Resumo: Modern astronomical sky surveys are providing us with a flood of images with unusual characteristics, such as numerous channels, saturated signals, faint signals, uncertainties, and varying signal-to-noise ratios. The complexity and diversity of these images make them an adequate use case for deep convolutional neural networks. Moreover, they yield millions of detected objects whose classes are mostly unknown. Given this context, the main objective of this work is to investigate deep representation learning approaches for multichannel astronomical images, focusing on finding reasonable representations that do not require labeled data and that make use of some domain knowledge. A reasonable representation may be thought of as one that contains enough discriminative information, that can be later used for higher-level tasks such as object classification, outlier detection and clustering. We propose a self-supervised learning approach that makes use of astronomical properties (more specifically, magnitudes) of the objects in order to pretrain deep neural networks with unlabeled data. We choose the task of classifying galaxies, stars and quasars as a baseline for quantifying the quality of the learned representations, and empirically demonstrate that our approach yields results that are better than -- or at least comparable to -- a benchmark RGB model pretrained on ImageNet.
id USP_1396346a2a54305b36beddf5621d3b97
oai_identifier_str oai:teses.usp.br:tde-11012022-203357
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling A self-supervised learning approach for astronomical imagesUma abordagem de aprendizagem auto-supervisionada para imagens astronômicasAprendizagem auto-supervisionadaAstronomical image processingConvolutional neural networksProcessamento de imagens astronômicasRedes neurais convolucionaisSelf-supervised learningModern astronomical sky surveys are providing us with a flood of images with unusual characteristics, such as numerous channels, saturated signals, faint signals, uncertainties, and varying signal-to-noise ratios. The complexity and diversity of these images make them an adequate use case for deep convolutional neural networks. Moreover, they yield millions of detected objects whose classes are mostly unknown. Given this context, the main objective of this work is to investigate deep representation learning approaches for multichannel astronomical images, focusing on finding reasonable representations that do not require labeled data and that make use of some domain knowledge. A reasonable representation may be thought of as one that contains enough discriminative information, that can be later used for higher-level tasks such as object classification, outlier detection and clustering. We propose a self-supervised learning approach that makes use of astronomical properties (more specifically, magnitudes) of the objects in order to pretrain deep neural networks with unlabeled data. We choose the task of classifying galaxies, stars and quasars as a baseline for quantifying the quality of the learned representations, and empirically demonstrate that our approach yields results that are better than -- or at least comparable to -- a benchmark RGB model pretrained on ImageNet.Programas de varredura do céu contemporâneos têm nos fornecido um grande volume de imagens com características pouco usuais, tais como grande quantidade de canais, sinais saturados, sinais fracos, incertezas, e razões sinal-ruído variáveis. A complexidade e diversidade dessas imagens faz com que elas sejam dados bastante adequados e interessantes para uso de redes neurais convolucionais profundas. Dado este contexto, o principal objetivo deste trabalho é investigar abordagens de aprendizagem de representações para imagens astronômicas usando redes neurais, com foco em encontrar representações satisfatórias que não necessitem de dados rotulados, e que incorporem um pouco de conhecimento específico da Astronomia. Uma representação satisfatória pode ser definida como uma representação que contenha informação discriminativa suficiente para que possa ser utilizada em tarefas de mais alto nível, tais como classificação de objetos, detecção de anomalias, e agrupamento. É proposta uma abordagem de aprendizagem auto-supervisionada que utiliza propriedades astronômicas (mais especificamente, magnitudes) dos objetos a fim de possibilitar o pré-treinamento de redes neurais profundas com dados não rotulados. A tarefa de classificar galáxias, estrelas e quasares é escolhida como uma base comparativa para quantificar a qualidade das representações aprendidas. Demonstramos empiricamente que nossa abordagem produz resultados que são melhores do que -- ou comparáveis a -- um modelo de referência pré-treinado no ImageNet.Biblioteca Digitais de Teses e Dissertações da USPHirata, Nina Sumiko TomitaMartinazzo, Ana Carolina Rodrigues Cavalcante2021-10-25info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesseng2022-01-18T17:18:02Zoai:teses.usp.br:tde-11012022-203357Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212022-01-18T17:18:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv A self-supervised learning approach for astronomical images
Uma abordagem de aprendizagem auto-supervisionada para imagens astronômicas
title A self-supervised learning approach for astronomical images
spellingShingle A self-supervised learning approach for astronomical images
Martinazzo, Ana Carolina Rodrigues Cavalcante
Aprendizagem auto-supervisionada
Astronomical image processing
Convolutional neural networks
Processamento de imagens astronômicas
Redes neurais convolucionais
Self-supervised learning
title_short A self-supervised learning approach for astronomical images
title_full A self-supervised learning approach for astronomical images
title_fullStr A self-supervised learning approach for astronomical images
title_full_unstemmed A self-supervised learning approach for astronomical images
title_sort A self-supervised learning approach for astronomical images
author Martinazzo, Ana Carolina Rodrigues Cavalcante
author_facet Martinazzo, Ana Carolina Rodrigues Cavalcante
author_role author
dc.contributor.none.fl_str_mv Hirata, Nina Sumiko Tomita
dc.contributor.author.fl_str_mv Martinazzo, Ana Carolina Rodrigues Cavalcante
dc.subject.por.fl_str_mv Aprendizagem auto-supervisionada
Astronomical image processing
Convolutional neural networks
Processamento de imagens astronômicas
Redes neurais convolucionais
Self-supervised learning
topic Aprendizagem auto-supervisionada
Astronomical image processing
Convolutional neural networks
Processamento de imagens astronômicas
Redes neurais convolucionais
Self-supervised learning
description Modern astronomical sky surveys are providing us with a flood of images with unusual characteristics, such as numerous channels, saturated signals, faint signals, uncertainties, and varying signal-to-noise ratios. The complexity and diversity of these images make them an adequate use case for deep convolutional neural networks. Moreover, they yield millions of detected objects whose classes are mostly unknown. Given this context, the main objective of this work is to investigate deep representation learning approaches for multichannel astronomical images, focusing on finding reasonable representations that do not require labeled data and that make use of some domain knowledge. A reasonable representation may be thought of as one that contains enough discriminative information, that can be later used for higher-level tasks such as object classification, outlier detection and clustering. We propose a self-supervised learning approach that makes use of astronomical properties (more specifically, magnitudes) of the objects in order to pretrain deep neural networks with unlabeled data. We choose the task of classifying galaxies, stars and quasars as a baseline for quantifying the quality of the learned representations, and empirically demonstrate that our approach yields results that are better than -- or at least comparable to -- a benchmark RGB model pretrained on ImageNet.
publishDate 2021
dc.date.none.fl_str_mv 2021-10-25
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/
url https://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/
dc.language.iso.fl_str_mv eng
language eng
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1809090603642781696