Ensembles de classificadores por meio de algoritmos
Autor(a) principal: | |
---|---|
Data de Publicação: | 2022 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFABC |
Texto Completo: | http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279 |
Resumo: | Orientador: Prof. Dr. Thiago Ferreira Covões |
id |
UFBC_9de937830c95454d5b3d7ad255a94457 |
---|---|
oai_identifier_str |
oai:BDTD:124279 |
network_acronym_str |
UFBC |
network_name_str |
Repositório Institucional da UFABC |
repository_id_str |
|
spelling |
Ensembles de classificadores por meio de algoritmosAPRENDIZADO COMPUTACIONALAPRENDIZADO SUPERVISIONADOENSEMBLE DE CLASSIFICADORESALGORITMOS EVOLUTIVOSMACHINE LEARNINGSUPERVISED LEARNINGCLASSIFIER ENSEMBLESEVOLUTIONARY ALGORITHMSPROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABCOrientador: Prof. Dr. Thiago Ferreira CovõesCoorientador: Prof. Dr. Emílio de Camargo FrancesquiniDissertação (mestrado) - Universidade Federal do ABC, Programa de Pós-Graduação em Ciência da Computação, Santo André, 2022.A eficácia de um ensemble de classificadores depende da seleção de modelos de classificação que sejam acurados e diversos, ou seja, que cometam erros diferentes, para comporem o comitê. Entretanto, realizar a seleção dos hiperparâmetros dos classificadores garantindo diversidade e eficácia é um problema computacionalmente caro, uma vez que o espaço de busca é muito amplo. Os Algoritmos Evolutivos são meta-heurísticas que se mostraram efetivas em problemas NP-difíceis. Uma das vantagens desses algoritmos, em relação a métodos de busca tradicionais, é que eles possuem menor propensão a ficarem presos em ótimos locais; isso se deve principalmente ao fato de processarem um conjunto de soluções (população) em vez de apenas uma solução. Além disso, existem Algoritmos Evolutivos que fazem uma busca por diversidade, cuja seleção dos indivíduos para compor a próxima geração é feita considerando a dissimilaridade entre os membros da população. Dadas essas características, a utilização de Algoritmos Evolutivos para buscar diversidade é uma abordagem apropriada para a otimização da construção de ensembles. Portanto, um Algoritmo Evolutivo chamado Diversity-based Classifier Ensemble (DCE), que incentiva a seleção de classificadores diversos para comporem o comitê, foi desenvolvido nessa dissertação. Entretanto, a execução desse Algoritmo Evolutivo para criar ensembles consome uma grande quantidade de processamento e memória. Por esse motivo, o Algoritmo Evolutivo paralelo chamado Parallel Diversity-based Classifier Ensemble (P-DCE) também foi desenvolvido utilizando a técnica global parallelisation model para distribuir o custo computacional entre diversas CPUs. Com esse mesmo objetivo de explorar a busca por diversidade entre os classificadores do comitê e a distribuição do custo computacional entre diversas CPUs, também propomos nesta dissertação os algoritmos Island Diversity-based Classifier Ensemble (IDCE) e Island Classifier Ensemble (ICE), que são baseados no modelo de ilhas, que é um tipo de Algoritmo Evolutivo paralelo. Os resultados obtidos a partir dos experimentos computacionais realizados indicam que os algoritmos propostos são ferramentas úteis quando comparadas com a estratégia de busca aleatória para a resolução do problema de otimização de ensembles de classificadores. Mais precisamente, os algoritmos DCE e IDCE se mostrarem promissores para encontrar ensembles com acurácias satisfatórias em tempo competitivo com a abordagem de busca aleatória. O algoritmo ICE apresentou resultados melhores do que os apresentados pela abordagem de busca aleatória e pelos algoritmos DCE e IDCE. Por último, também foi possível concluir que conforme o paralelismo aumenta o tempo de execução do P-DCE diminui.The effectiveness of a classifier ensemble depends on the selection of accurate and diverse classification models, that is, the committee should be composed by precise models which make different prediction mistakes. Finding the optimal global solution can be computationally costly since the number of possible combinations of classifiers, and hence the search space, is vast. Evolutionary Algorithms are metaheuristics that have been shown to be effective in NP-hard problems. One of their advantages over traditional search methods is that they are less likely to get stuck in a local optimum; the main reason for that is due to the fact that they process a set of solutions (population), instead of just one solution. Furthermore, there are diversity-guided Evolutionary Algorithms in which the selection of the individuals to compose the next generation is based on the dissimilarity between the members of the population. Given these characteristics, the use of Evolutionary Algorithms with diversity-enforcing heuristics is an appropriate approach to optimize the construction of ensembles. Therefore, an Evolutionary Algorithm, which encourages the selection of diverse classifiers to form the committee, was developed in this dissertation, it is called Diversity-based Classifier Ensemble (DCE). However, running this Evolutionary Algorithm to create ensembles is CPU and memory-intensive. For that reason, a parallel Evolutionary Algorithm called Parallel Diversity-based Classifier Ensemble (P-DCE) was also developed using the global parallelization model to distribute the computational cost among multiple CPUs. Also, in order to encouraging the ensemble diversity and aiming to distribute the computational cost among multiple CPUs, two parallel Evolutionary Algorithms based on the island model were also proposed. They are called Island Diversitybased Classifier Ensemble (IDCE) and Island Classifier Ensemble (ICE). The results obtained from the computational experiments indicate that the proposed algorithms can be useful tools for solving the classifier ensembles optimization problem when compared to the random search method. More precisely, the DCE and IDCE algorithms proved to be promising to find ensembles with satisfactory accuracies in a competitive time when compared with the random search approach. The ICE algorithm presented better results compared to the random search approach and to the DCE and IDCE algorithms. Finally, it was also possible to conclude that as parallelism increases, the P-DCE execution time decreases.Covões, Thiago FerreiraFrancesquini, Emilio de CamargoFantinato, Denis GustavoBasgalupp, Márcio PortoSilva, Fernanda Borges da2022info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdf146 f. : il.http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279&midiaext=80802Cover: http://biblioteca.ufabc.edu.br/php/capa.php?obra=124279porreponame:Repositório Institucional da UFABCinstname:Universidade Federal do ABC (UFABC)instacron:UFABCinfo:eu-repo/semantics/openAccess2023-05-29T12:16:43Zoai:BDTD:124279Repositório InstitucionalPUBhttp://www.biblioteca.ufabc.edu.br/oai/oai.phpopendoar:2023-05-29T12:16:43Repositório Institucional da UFABC - Universidade Federal do ABC (UFABC)false |
dc.title.none.fl_str_mv |
Ensembles de classificadores por meio de algoritmos |
title |
Ensembles de classificadores por meio de algoritmos |
spellingShingle |
Ensembles de classificadores por meio de algoritmos Silva, Fernanda Borges da APRENDIZADO COMPUTACIONAL APRENDIZADO SUPERVISIONADO ENSEMBLE DE CLASSIFICADORES ALGORITMOS EVOLUTIVOS MACHINE LEARNING SUPERVISED LEARNING CLASSIFIER ENSEMBLES EVOLUTIONARY ALGORITHMS PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABC |
title_short |
Ensembles de classificadores por meio de algoritmos |
title_full |
Ensembles de classificadores por meio de algoritmos |
title_fullStr |
Ensembles de classificadores por meio de algoritmos |
title_full_unstemmed |
Ensembles de classificadores por meio de algoritmos |
title_sort |
Ensembles de classificadores por meio de algoritmos |
author |
Silva, Fernanda Borges da |
author_facet |
Silva, Fernanda Borges da |
author_role |
author |
dc.contributor.none.fl_str_mv |
Covões, Thiago Ferreira Francesquini, Emilio de Camargo Fantinato, Denis Gustavo Basgalupp, Márcio Porto |
dc.contributor.author.fl_str_mv |
Silva, Fernanda Borges da |
dc.subject.por.fl_str_mv |
APRENDIZADO COMPUTACIONAL APRENDIZADO SUPERVISIONADO ENSEMBLE DE CLASSIFICADORES ALGORITMOS EVOLUTIVOS MACHINE LEARNING SUPERVISED LEARNING CLASSIFIER ENSEMBLES EVOLUTIONARY ALGORITHMS PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABC |
topic |
APRENDIZADO COMPUTACIONAL APRENDIZADO SUPERVISIONADO ENSEMBLE DE CLASSIFICADORES ALGORITMOS EVOLUTIVOS MACHINE LEARNING SUPERVISED LEARNING CLASSIFIER ENSEMBLES EVOLUTIONARY ALGORITHMS PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABC |
description |
Orientador: Prof. Dr. Thiago Ferreira Covões |
publishDate |
2022 |
dc.date.none.fl_str_mv |
2022 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279 |
url |
http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.relation.none.fl_str_mv |
http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279&midiaext=80802 Cover: http://biblioteca.ufabc.edu.br/php/capa.php?obra=124279 |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf 146 f. : il. |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFABC instname:Universidade Federal do ABC (UFABC) instacron:UFABC |
instname_str |
Universidade Federal do ABC (UFABC) |
instacron_str |
UFABC |
institution |
UFABC |
reponame_str |
Repositório Institucional da UFABC |
collection |
Repositório Institucional da UFABC |
repository.name.fl_str_mv |
Repositório Institucional da UFABC - Universidade Federal do ABC (UFABC) |
repository.mail.fl_str_mv |
|
_version_ |
1813263960565088256 |