An investigation on deep active learning

Detalhes bibliográficos
Autor(a) principal: Jacomassi, Renan Cesar
Data de Publicação: 2024
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/
Resumo: Active Learning is an approach in the field of machine learning where learning algorithms have the autonomy to choose which instance can provide the most relevant information. In this way, even with a reduced amount of data, it is possible to achieve a classifier with similar performance to what would be obtained using all available data. This technique is extremely important in cases where the cost of annotation is prohibitive, especially in situations that require a specialist. Additionally, in recent years, with the advancement of convolutional neural networks, studies on the application of Deep Active Learning are emerging. In the applications, the neural network can be incrementally trained with the most informative examples. Given this context, the main objective of this work is to investigate the application of Deep Active Learning to understand its viability and challenges. For this, two plankton image datasets resembling real-world situations were used. We empirically demonstrated that Deep Active Learning can reduce the annotation effort by up to 50%, and we showed how two parameters can significantly increase the performance and reduce the training time of the model.
id USP_80ac4952946d4c8f9f7296182420c0f4
oai_identifier_str oai:teses.usp.br:tde-17072024-223436
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling An investigation on deep active learningUma investigação sobre aprendizado ativo profundoActive learningAprendizado ativoAprendizado ativo profundoClassificação de imagens de plânctonDeep active learningPlankton image classificationActive Learning is an approach in the field of machine learning where learning algorithms have the autonomy to choose which instance can provide the most relevant information. In this way, even with a reduced amount of data, it is possible to achieve a classifier with similar performance to what would be obtained using all available data. This technique is extremely important in cases where the cost of annotation is prohibitive, especially in situations that require a specialist. Additionally, in recent years, with the advancement of convolutional neural networks, studies on the application of Deep Active Learning are emerging. In the applications, the neural network can be incrementally trained with the most informative examples. Given this context, the main objective of this work is to investigate the application of Deep Active Learning to understand its viability and challenges. For this, two plankton image datasets resembling real-world situations were used. We empirically demonstrated that Deep Active Learning can reduce the annotation effort by up to 50%, and we showed how two parameters can significantly increase the performance and reduce the training time of the model.Aprendizado Ativo é uma abordagem no campo de aprendizado de máquina na qual os algoritmos de aprendizado têm autonomia para escolher qual instância pode proporcionar informações mais relevantes. Dessa forma, mesmo com uma quantidade reduzida de dados, é possível obter um classificador com uma performance semelhante daquela obtida quando se utiliza todos os dados disponíveis para treinamento. Esta abordagem é extremamente importante em casos nos quais o custo de anotação é proibitivo, principalmente em situações que requerem um especialista. Além disso, nos últimos anos, com o avanço das redes neurais convolucionais, tem-se estudado a aplicação do Aprendizado Ativo Profundo. Nessas aplicações, a rede neural pode ser treinada de forma incremental com os exemplos mais informativos. Dado este contexto, o principal objetivo deste trabalho é investigar a aplicação de Aprendizado Ativo Profundo a fim de entender sua viabilidade e desafios. Para isso, foram utilizados dois datasets de imagens de plâncton, que aproximam-se de situações reais. Demonstramos empiricamente que o Aprendizado Ativo Profundo pode reduzir o esforço de anotação em até 50% e demonstramos como dois parâmetros podem aumentar significativamente a performance e reduzir o tempo de treinamento do modelo.Biblioteca Digitais de Teses e Dissertações da USPHirata, Nina Sumiko TomitaJacomassi, Renan Cesar2024-04-22info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesseng2024-10-17T21:10:05Zoai:teses.usp.br:tde-17072024-223436Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212024-10-17T21:10:05Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv An investigation on deep active learning
Uma investigação sobre aprendizado ativo profundo
title An investigation on deep active learning
spellingShingle An investigation on deep active learning
Jacomassi, Renan Cesar
Active learning
Aprendizado ativo
Aprendizado ativo profundo
Classificação de imagens de plâncton
Deep active learning
Plankton image classification
title_short An investigation on deep active learning
title_full An investigation on deep active learning
title_fullStr An investigation on deep active learning
title_full_unstemmed An investigation on deep active learning
title_sort An investigation on deep active learning
author Jacomassi, Renan Cesar
author_facet Jacomassi, Renan Cesar
author_role author
dc.contributor.none.fl_str_mv Hirata, Nina Sumiko Tomita
dc.contributor.author.fl_str_mv Jacomassi, Renan Cesar
dc.subject.por.fl_str_mv Active learning
Aprendizado ativo
Aprendizado ativo profundo
Classificação de imagens de plâncton
Deep active learning
Plankton image classification
topic Active learning
Aprendizado ativo
Aprendizado ativo profundo
Classificação de imagens de plâncton
Deep active learning
Plankton image classification
description Active Learning is an approach in the field of machine learning where learning algorithms have the autonomy to choose which instance can provide the most relevant information. In this way, even with a reduced amount of data, it is possible to achieve a classifier with similar performance to what would be obtained using all available data. This technique is extremely important in cases where the cost of annotation is prohibitive, especially in situations that require a specialist. Additionally, in recent years, with the advancement of convolutional neural networks, studies on the application of Deep Active Learning are emerging. In the applications, the neural network can be incrementally trained with the most informative examples. Given this context, the main objective of this work is to investigate the application of Deep Active Learning to understand its viability and challenges. For this, two plankton image datasets resembling real-world situations were used. We empirically demonstrated that Deep Active Learning can reduce the annotation effort by up to 50%, and we showed how two parameters can significantly increase the performance and reduce the training time of the model.
publishDate 2024
dc.date.none.fl_str_mv 2024-04-22
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/
url https://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/
dc.language.iso.fl_str_mv eng
language eng
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1815256514796978176