Ensembles de classificadores por meio de algoritmos

Detalhes bibliográficos
Autor(a) principal: Silva, Fernanda Borges da
Data de Publicação: 2022
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFABC
Texto Completo: http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279
Resumo: Orientador: Prof. Dr. Thiago Ferreira Covões
id UFBC_9de937830c95454d5b3d7ad255a94457
oai_identifier_str oai:BDTD:124279
network_acronym_str UFBC
network_name_str Repositório Institucional da UFABC
repository_id_str
spelling Ensembles de classificadores por meio de algoritmosAPRENDIZADO COMPUTACIONALAPRENDIZADO SUPERVISIONADOENSEMBLE DE CLASSIFICADORESALGORITMOS EVOLUTIVOSMACHINE LEARNINGSUPERVISED LEARNINGCLASSIFIER ENSEMBLESEVOLUTIONARY ALGORITHMSPROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABCOrientador: Prof. Dr. Thiago Ferreira CovõesCoorientador: Prof. Dr. Emílio de Camargo FrancesquiniDissertação (mestrado) - Universidade Federal do ABC, Programa de Pós-Graduação em Ciência da Computação, Santo André, 2022.A eficácia de um ensemble de classificadores depende da seleção de modelos de classificação que sejam acurados e diversos, ou seja, que cometam erros diferentes, para comporem o comitê. Entretanto, realizar a seleção dos hiperparâmetros dos classificadores garantindo diversidade e eficácia é um problema computacionalmente caro, uma vez que o espaço de busca é muito amplo. Os Algoritmos Evolutivos são meta-heurísticas que se mostraram efetivas em problemas NP-difíceis. Uma das vantagens desses algoritmos, em relação a métodos de busca tradicionais, é que eles possuem menor propensão a ficarem presos em ótimos locais; isso se deve principalmente ao fato de processarem um conjunto de soluções (população) em vez de apenas uma solução. Além disso, existem Algoritmos Evolutivos que fazem uma busca por diversidade, cuja seleção dos indivíduos para compor a próxima geração é feita considerando a dissimilaridade entre os membros da população. Dadas essas características, a utilização de Algoritmos Evolutivos para buscar diversidade é uma abordagem apropriada para a otimização da construção de ensembles. Portanto, um Algoritmo Evolutivo chamado Diversity-based Classifier Ensemble (DCE), que incentiva a seleção de classificadores diversos para comporem o comitê, foi desenvolvido nessa dissertação. Entretanto, a execução desse Algoritmo Evolutivo para criar ensembles consome uma grande quantidade de processamento e memória. Por esse motivo, o Algoritmo Evolutivo paralelo chamado Parallel Diversity-based Classifier Ensemble (P-DCE) também foi desenvolvido utilizando a técnica global parallelisation model para distribuir o custo computacional entre diversas CPUs. Com esse mesmo objetivo de explorar a busca por diversidade entre os classificadores do comitê e a distribuição do custo computacional entre diversas CPUs, também propomos nesta dissertação os algoritmos Island Diversity-based Classifier Ensemble (IDCE) e Island Classifier Ensemble (ICE), que são baseados no modelo de ilhas, que é um tipo de Algoritmo Evolutivo paralelo. Os resultados obtidos a partir dos experimentos computacionais realizados indicam que os algoritmos propostos são ferramentas úteis quando comparadas com a estratégia de busca aleatória para a resolução do problema de otimização de ensembles de classificadores. Mais precisamente, os algoritmos DCE e IDCE se mostrarem promissores para encontrar ensembles com acurácias satisfatórias em tempo competitivo com a abordagem de busca aleatória. O algoritmo ICE apresentou resultados melhores do que os apresentados pela abordagem de busca aleatória e pelos algoritmos DCE e IDCE. Por último, também foi possível concluir que conforme o paralelismo aumenta o tempo de execução do P-DCE diminui.The effectiveness of a classifier ensemble depends on the selection of accurate and diverse classification models, that is, the committee should be composed by precise models which make different prediction mistakes. Finding the optimal global solution can be computationally costly since the number of possible combinations of classifiers, and hence the search space, is vast. Evolutionary Algorithms are metaheuristics that have been shown to be effective in NP-hard problems. One of their advantages over traditional search methods is that they are less likely to get stuck in a local optimum; the main reason for that is due to the fact that they process a set of solutions (population), instead of just one solution. Furthermore, there are diversity-guided Evolutionary Algorithms in which the selection of the individuals to compose the next generation is based on the dissimilarity between the members of the population. Given these characteristics, the use of Evolutionary Algorithms with diversity-enforcing heuristics is an appropriate approach to optimize the construction of ensembles. Therefore, an Evolutionary Algorithm, which encourages the selection of diverse classifiers to form the committee, was developed in this dissertation, it is called Diversity-based Classifier Ensemble (DCE). However, running this Evolutionary Algorithm to create ensembles is CPU and memory-intensive. For that reason, a parallel Evolutionary Algorithm called Parallel Diversity-based Classifier Ensemble (P-DCE) was also developed using the global parallelization model to distribute the computational cost among multiple CPUs. Also, in order to encouraging the ensemble diversity and aiming to distribute the computational cost among multiple CPUs, two parallel Evolutionary Algorithms based on the island model were also proposed. They are called Island Diversitybased Classifier Ensemble (IDCE) and Island Classifier Ensemble (ICE). The results obtained from the computational experiments indicate that the proposed algorithms can be useful tools for solving the classifier ensembles optimization problem when compared to the random search method. More precisely, the DCE and IDCE algorithms proved to be promising to find ensembles with satisfactory accuracies in a competitive time when compared with the random search approach. The ICE algorithm presented better results compared to the random search approach and to the DCE and IDCE algorithms. Finally, it was also possible to conclude that as parallelism increases, the P-DCE execution time decreases.Covões, Thiago FerreiraFrancesquini, Emilio de CamargoFantinato, Denis GustavoBasgalupp, Márcio PortoSilva, Fernanda Borges da2022info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdf146 f. : il.http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279&midiaext=80802Cover: http://biblioteca.ufabc.edu.br/php/capa.php?obra=124279porreponame:Repositório Institucional da UFABCinstname:Universidade Federal do ABC (UFABC)instacron:UFABCinfo:eu-repo/semantics/openAccess2023-05-29T12:16:43Zoai:BDTD:124279Repositório InstitucionalPUBhttp://www.biblioteca.ufabc.edu.br/oai/oai.phpopendoar:2023-05-29T12:16:43Repositório Institucional da UFABC - Universidade Federal do ABC (UFABC)false
dc.title.none.fl_str_mv Ensembles de classificadores por meio de algoritmos
title Ensembles de classificadores por meio de algoritmos
spellingShingle Ensembles de classificadores por meio de algoritmos
Silva, Fernanda Borges da
APRENDIZADO COMPUTACIONAL
APRENDIZADO SUPERVISIONADO
ENSEMBLE DE CLASSIFICADORES
ALGORITMOS EVOLUTIVOS
MACHINE LEARNING
SUPERVISED LEARNING
CLASSIFIER ENSEMBLES
EVOLUTIONARY ALGORITHMS
PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABC
title_short Ensembles de classificadores por meio de algoritmos
title_full Ensembles de classificadores por meio de algoritmos
title_fullStr Ensembles de classificadores por meio de algoritmos
title_full_unstemmed Ensembles de classificadores por meio de algoritmos
title_sort Ensembles de classificadores por meio de algoritmos
author Silva, Fernanda Borges da
author_facet Silva, Fernanda Borges da
author_role author
dc.contributor.none.fl_str_mv Covões, Thiago Ferreira
Francesquini, Emilio de Camargo
Fantinato, Denis Gustavo
Basgalupp, Márcio Porto
dc.contributor.author.fl_str_mv Silva, Fernanda Borges da
dc.subject.por.fl_str_mv APRENDIZADO COMPUTACIONAL
APRENDIZADO SUPERVISIONADO
ENSEMBLE DE CLASSIFICADORES
ALGORITMOS EVOLUTIVOS
MACHINE LEARNING
SUPERVISED LEARNING
CLASSIFIER ENSEMBLES
EVOLUTIONARY ALGORITHMS
PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABC
topic APRENDIZADO COMPUTACIONAL
APRENDIZADO SUPERVISIONADO
ENSEMBLE DE CLASSIFICADORES
ALGORITMOS EVOLUTIVOS
MACHINE LEARNING
SUPERVISED LEARNING
CLASSIFIER ENSEMBLES
EVOLUTIONARY ALGORITHMS
PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO - UFABC
description Orientador: Prof. Dr. Thiago Ferreira Covões
publishDate 2022
dc.date.none.fl_str_mv 2022
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279
url http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv http://biblioteca.ufabc.edu.br/index.php?codigo_sophia=124279&midiaext=80802
Cover: http://biblioteca.ufabc.edu.br/php/capa.php?obra=124279
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
146 f. : il.
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFABC
instname:Universidade Federal do ABC (UFABC)
instacron:UFABC
instname_str Universidade Federal do ABC (UFABC)
instacron_str UFABC
institution UFABC
reponame_str Repositório Institucional da UFABC
collection Repositório Institucional da UFABC
repository.name.fl_str_mv Repositório Institucional da UFABC - Universidade Federal do ABC (UFABC)
repository.mail.fl_str_mv
_version_ 1813263960565088256