An investigation on deep active learning
Autor(a) principal: | |
---|---|
Data de Publicação: | 2024 |
Tipo de documento: | Dissertação |
Idioma: | eng |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da USP |
Texto Completo: | https://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/ |
Resumo: | Active Learning is an approach in the field of machine learning where learning algorithms have the autonomy to choose which instance can provide the most relevant information. In this way, even with a reduced amount of data, it is possible to achieve a classifier with similar performance to what would be obtained using all available data. This technique is extremely important in cases where the cost of annotation is prohibitive, especially in situations that require a specialist. Additionally, in recent years, with the advancement of convolutional neural networks, studies on the application of Deep Active Learning are emerging. In the applications, the neural network can be incrementally trained with the most informative examples. Given this context, the main objective of this work is to investigate the application of Deep Active Learning to understand its viability and challenges. For this, two plankton image datasets resembling real-world situations were used. We empirically demonstrated that Deep Active Learning can reduce the annotation effort by up to 50%, and we showed how two parameters can significantly increase the performance and reduce the training time of the model. |
id |
USP_80ac4952946d4c8f9f7296182420c0f4 |
---|---|
oai_identifier_str |
oai:teses.usp.br:tde-17072024-223436 |
network_acronym_str |
USP |
network_name_str |
Biblioteca Digital de Teses e Dissertações da USP |
repository_id_str |
2721 |
spelling |
An investigation on deep active learningUma investigação sobre aprendizado ativo profundoActive learningAprendizado ativoAprendizado ativo profundoClassificação de imagens de plânctonDeep active learningPlankton image classificationActive Learning is an approach in the field of machine learning where learning algorithms have the autonomy to choose which instance can provide the most relevant information. In this way, even with a reduced amount of data, it is possible to achieve a classifier with similar performance to what would be obtained using all available data. This technique is extremely important in cases where the cost of annotation is prohibitive, especially in situations that require a specialist. Additionally, in recent years, with the advancement of convolutional neural networks, studies on the application of Deep Active Learning are emerging. In the applications, the neural network can be incrementally trained with the most informative examples. Given this context, the main objective of this work is to investigate the application of Deep Active Learning to understand its viability and challenges. For this, two plankton image datasets resembling real-world situations were used. We empirically demonstrated that Deep Active Learning can reduce the annotation effort by up to 50%, and we showed how two parameters can significantly increase the performance and reduce the training time of the model.Aprendizado Ativo é uma abordagem no campo de aprendizado de máquina na qual os algoritmos de aprendizado têm autonomia para escolher qual instância pode proporcionar informações mais relevantes. Dessa forma, mesmo com uma quantidade reduzida de dados, é possível obter um classificador com uma performance semelhante daquela obtida quando se utiliza todos os dados disponíveis para treinamento. Esta abordagem é extremamente importante em casos nos quais o custo de anotação é proibitivo, principalmente em situações que requerem um especialista. Além disso, nos últimos anos, com o avanço das redes neurais convolucionais, tem-se estudado a aplicação do Aprendizado Ativo Profundo. Nessas aplicações, a rede neural pode ser treinada de forma incremental com os exemplos mais informativos. Dado este contexto, o principal objetivo deste trabalho é investigar a aplicação de Aprendizado Ativo Profundo a fim de entender sua viabilidade e desafios. Para isso, foram utilizados dois datasets de imagens de plâncton, que aproximam-se de situações reais. Demonstramos empiricamente que o Aprendizado Ativo Profundo pode reduzir o esforço de anotação em até 50% e demonstramos como dois parâmetros podem aumentar significativamente a performance e reduzir o tempo de treinamento do modelo.Biblioteca Digitais de Teses e Dissertações da USPHirata, Nina Sumiko TomitaJacomassi, Renan Cesar2024-04-22info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesseng2024-10-17T21:10:05Zoai:teses.usp.br:tde-17072024-223436Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212024-10-17T21:10:05Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false |
dc.title.none.fl_str_mv |
An investigation on deep active learning Uma investigação sobre aprendizado ativo profundo |
title |
An investigation on deep active learning |
spellingShingle |
An investigation on deep active learning Jacomassi, Renan Cesar Active learning Aprendizado ativo Aprendizado ativo profundo Classificação de imagens de plâncton Deep active learning Plankton image classification |
title_short |
An investigation on deep active learning |
title_full |
An investigation on deep active learning |
title_fullStr |
An investigation on deep active learning |
title_full_unstemmed |
An investigation on deep active learning |
title_sort |
An investigation on deep active learning |
author |
Jacomassi, Renan Cesar |
author_facet |
Jacomassi, Renan Cesar |
author_role |
author |
dc.contributor.none.fl_str_mv |
Hirata, Nina Sumiko Tomita |
dc.contributor.author.fl_str_mv |
Jacomassi, Renan Cesar |
dc.subject.por.fl_str_mv |
Active learning Aprendizado ativo Aprendizado ativo profundo Classificação de imagens de plâncton Deep active learning Plankton image classification |
topic |
Active learning Aprendizado ativo Aprendizado ativo profundo Classificação de imagens de plâncton Deep active learning Plankton image classification |
description |
Active Learning is an approach in the field of machine learning where learning algorithms have the autonomy to choose which instance can provide the most relevant information. In this way, even with a reduced amount of data, it is possible to achieve a classifier with similar performance to what would be obtained using all available data. This technique is extremely important in cases where the cost of annotation is prohibitive, especially in situations that require a specialist. Additionally, in recent years, with the advancement of convolutional neural networks, studies on the application of Deep Active Learning are emerging. In the applications, the neural network can be incrementally trained with the most informative examples. Given this context, the main objective of this work is to investigate the application of Deep Active Learning to understand its viability and challenges. For this, two plankton image datasets resembling real-world situations were used. We empirically demonstrated that Deep Active Learning can reduce the annotation effort by up to 50%, and we showed how two parameters can significantly increase the performance and reduce the training time of the model. |
publishDate |
2024 |
dc.date.none.fl_str_mv |
2024-04-22 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/ |
url |
https://www.teses.usp.br/teses/disponiveis/45/45134/tde-17072024-223436/ |
dc.language.iso.fl_str_mv |
eng |
language |
eng |
dc.relation.none.fl_str_mv |
|
dc.rights.driver.fl_str_mv |
Liberar o conteúdo para acesso público. info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Liberar o conteúdo para acesso público. |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.coverage.none.fl_str_mv |
|
dc.publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da USP instname:Universidade de São Paulo (USP) instacron:USP |
instname_str |
Universidade de São Paulo (USP) |
instacron_str |
USP |
institution |
USP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da USP |
collection |
Biblioteca Digital de Teses e Dissertações da USP |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP) |
repository.mail.fl_str_mv |
virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br |
_version_ |
1815256514796978176 |