A self-supervised learning approach for astronomical images
Autor(a) principal: | |
---|---|
Data de Publicação: | 2021 |
Tipo de documento: | Dissertação |
Idioma: | eng |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da USP |
Texto Completo: | https://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/ |
Resumo: | Modern astronomical sky surveys are providing us with a flood of images with unusual characteristics, such as numerous channels, saturated signals, faint signals, uncertainties, and varying signal-to-noise ratios. The complexity and diversity of these images make them an adequate use case for deep convolutional neural networks. Moreover, they yield millions of detected objects whose classes are mostly unknown. Given this context, the main objective of this work is to investigate deep representation learning approaches for multichannel astronomical images, focusing on finding reasonable representations that do not require labeled data and that make use of some domain knowledge. A reasonable representation may be thought of as one that contains enough discriminative information, that can be later used for higher-level tasks such as object classification, outlier detection and clustering. We propose a self-supervised learning approach that makes use of astronomical properties (more specifically, magnitudes) of the objects in order to pretrain deep neural networks with unlabeled data. We choose the task of classifying galaxies, stars and quasars as a baseline for quantifying the quality of the learned representations, and empirically demonstrate that our approach yields results that are better than -- or at least comparable to -- a benchmark RGB model pretrained on ImageNet. |
id |
USP_1396346a2a54305b36beddf5621d3b97 |
---|---|
oai_identifier_str |
oai:teses.usp.br:tde-11012022-203357 |
network_acronym_str |
USP |
network_name_str |
Biblioteca Digital de Teses e Dissertações da USP |
repository_id_str |
2721 |
spelling |
A self-supervised learning approach for astronomical imagesUma abordagem de aprendizagem auto-supervisionada para imagens astronômicasAprendizagem auto-supervisionadaAstronomical image processingConvolutional neural networksProcessamento de imagens astronômicasRedes neurais convolucionaisSelf-supervised learningModern astronomical sky surveys are providing us with a flood of images with unusual characteristics, such as numerous channels, saturated signals, faint signals, uncertainties, and varying signal-to-noise ratios. The complexity and diversity of these images make them an adequate use case for deep convolutional neural networks. Moreover, they yield millions of detected objects whose classes are mostly unknown. Given this context, the main objective of this work is to investigate deep representation learning approaches for multichannel astronomical images, focusing on finding reasonable representations that do not require labeled data and that make use of some domain knowledge. A reasonable representation may be thought of as one that contains enough discriminative information, that can be later used for higher-level tasks such as object classification, outlier detection and clustering. We propose a self-supervised learning approach that makes use of astronomical properties (more specifically, magnitudes) of the objects in order to pretrain deep neural networks with unlabeled data. We choose the task of classifying galaxies, stars and quasars as a baseline for quantifying the quality of the learned representations, and empirically demonstrate that our approach yields results that are better than -- or at least comparable to -- a benchmark RGB model pretrained on ImageNet.Programas de varredura do céu contemporâneos têm nos fornecido um grande volume de imagens com características pouco usuais, tais como grande quantidade de canais, sinais saturados, sinais fracos, incertezas, e razões sinal-ruído variáveis. A complexidade e diversidade dessas imagens faz com que elas sejam dados bastante adequados e interessantes para uso de redes neurais convolucionais profundas. Dado este contexto, o principal objetivo deste trabalho é investigar abordagens de aprendizagem de representações para imagens astronômicas usando redes neurais, com foco em encontrar representações satisfatórias que não necessitem de dados rotulados, e que incorporem um pouco de conhecimento específico da Astronomia. Uma representação satisfatória pode ser definida como uma representação que contenha informação discriminativa suficiente para que possa ser utilizada em tarefas de mais alto nível, tais como classificação de objetos, detecção de anomalias, e agrupamento. É proposta uma abordagem de aprendizagem auto-supervisionada que utiliza propriedades astronômicas (mais especificamente, magnitudes) dos objetos a fim de possibilitar o pré-treinamento de redes neurais profundas com dados não rotulados. A tarefa de classificar galáxias, estrelas e quasares é escolhida como uma base comparativa para quantificar a qualidade das representações aprendidas. Demonstramos empiricamente que nossa abordagem produz resultados que são melhores do que -- ou comparáveis a -- um modelo de referência pré-treinado no ImageNet.Biblioteca Digitais de Teses e Dissertações da USPHirata, Nina Sumiko TomitaMartinazzo, Ana Carolina Rodrigues Cavalcante2021-10-25info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesseng2022-01-18T17:18:02Zoai:teses.usp.br:tde-11012022-203357Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212022-01-18T17:18:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false |
dc.title.none.fl_str_mv |
A self-supervised learning approach for astronomical images Uma abordagem de aprendizagem auto-supervisionada para imagens astronômicas |
title |
A self-supervised learning approach for astronomical images |
spellingShingle |
A self-supervised learning approach for astronomical images Martinazzo, Ana Carolina Rodrigues Cavalcante Aprendizagem auto-supervisionada Astronomical image processing Convolutional neural networks Processamento de imagens astronômicas Redes neurais convolucionais Self-supervised learning |
title_short |
A self-supervised learning approach for astronomical images |
title_full |
A self-supervised learning approach for astronomical images |
title_fullStr |
A self-supervised learning approach for astronomical images |
title_full_unstemmed |
A self-supervised learning approach for astronomical images |
title_sort |
A self-supervised learning approach for astronomical images |
author |
Martinazzo, Ana Carolina Rodrigues Cavalcante |
author_facet |
Martinazzo, Ana Carolina Rodrigues Cavalcante |
author_role |
author |
dc.contributor.none.fl_str_mv |
Hirata, Nina Sumiko Tomita |
dc.contributor.author.fl_str_mv |
Martinazzo, Ana Carolina Rodrigues Cavalcante |
dc.subject.por.fl_str_mv |
Aprendizagem auto-supervisionada Astronomical image processing Convolutional neural networks Processamento de imagens astronômicas Redes neurais convolucionais Self-supervised learning |
topic |
Aprendizagem auto-supervisionada Astronomical image processing Convolutional neural networks Processamento de imagens astronômicas Redes neurais convolucionais Self-supervised learning |
description |
Modern astronomical sky surveys are providing us with a flood of images with unusual characteristics, such as numerous channels, saturated signals, faint signals, uncertainties, and varying signal-to-noise ratios. The complexity and diversity of these images make them an adequate use case for deep convolutional neural networks. Moreover, they yield millions of detected objects whose classes are mostly unknown. Given this context, the main objective of this work is to investigate deep representation learning approaches for multichannel astronomical images, focusing on finding reasonable representations that do not require labeled data and that make use of some domain knowledge. A reasonable representation may be thought of as one that contains enough discriminative information, that can be later used for higher-level tasks such as object classification, outlier detection and clustering. We propose a self-supervised learning approach that makes use of astronomical properties (more specifically, magnitudes) of the objects in order to pretrain deep neural networks with unlabeled data. We choose the task of classifying galaxies, stars and quasars as a baseline for quantifying the quality of the learned representations, and empirically demonstrate that our approach yields results that are better than -- or at least comparable to -- a benchmark RGB model pretrained on ImageNet. |
publishDate |
2021 |
dc.date.none.fl_str_mv |
2021-10-25 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/ |
url |
https://www.teses.usp.br/teses/disponiveis/45/45134/tde-11012022-203357/ |
dc.language.iso.fl_str_mv |
eng |
language |
eng |
dc.relation.none.fl_str_mv |
|
dc.rights.driver.fl_str_mv |
Liberar o conteúdo para acesso público. info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Liberar o conteúdo para acesso público. |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.coverage.none.fl_str_mv |
|
dc.publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da USP instname:Universidade de São Paulo (USP) instacron:USP |
instname_str |
Universidade de São Paulo (USP) |
instacron_str |
USP |
institution |
USP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da USP |
collection |
Biblioteca Digital de Teses e Dissertações da USP |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP) |
repository.mail.fl_str_mv |
virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br |
_version_ |
1809090603642781696 |