Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação

Detalhes bibliográficos
Autor(a) principal: Padilha, Carlos Alberto de Araújo
Data de Publicação: 2013
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFRN
Texto Completo: https://repositorio.ufrn.br/jspui/handle/123456789/15472
Resumo: The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiers
id UFRN_d6414dafb4a0e3cd264054282b622b32
oai_identifier_str oai:https://repositorio.ufrn.br:123456789/15472
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Padilha, Carlos Alberto de Araújohttp://lattes.cnpq.br/3020236775004881http://lattes.cnpq.br/1987295209521433Canuto, Anne Magaly de Paulahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790093J8Melo, Jorge Dantas dehttp://lattes.cnpq.br/7325007451912598Ludermir, Teresa Bernardahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781122D6Dória Neto, Adrião Duarte2014-12-17T14:56:13Z2013-08-202014-12-17T14:56:13Z2013-01-31PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.https://repositorio.ufrn.br/jspui/handle/123456789/15472The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiersA classificação de padrões é uma das subáreas do aprendizado de máquina que possui maior destaque. Entre as várias técnicas para resolver problemas de classificação de padrões, as Máquinas de Vetor de Suporte (do inglês, Support Vector Machines ou SVM) recebem grande ênfase, devido a sua facilidade de uso e boa capacidade de generalização. A formulação por Mínimos Quadrados da SVM (do inglês, Least Squares Support Vector Machines ou LS-SVM) encontra um hiperplano de separação ótima através da solução de um sistema de equações lineares, evitando assim o uso da programação quadrática implementada na SVM. As LS-SVMs fornecem alguns parâmetros livres que precisam ser corretamente selecionados para alcançar resultados satisfatórios em uma determinada tarefa. Apesar das LS-SVMs possuir elevado desempenho, várias ferramentas tem sido desenvolvidas para aprimorá-la, principalmente o desenvolvimento de novos métodos de classificação e a utilização de comitês de máquinas, ou seja, a combinação de vários classificadores. Neste trabalho, nós propomos tanto o uso de um comitê de máquinas quanto o uso de um Algoritmo Genético (AG), algoritmo de busca baseada na evolução das espécies, para aprimorar o poder de classificação da LS-SVM. Na construção desse comitê, utilizamos uma seleção aleatória de atributos do problema original, que divide o problema original em outros menores onde cada classificador do comitê vai atuar. Então, aplicamos o AG para encontrar valores efetivos para os parâmetros de cada LS-SVM e também encontrando um vetor de pesos, medindo a importância de cada máquina na classificação final. Por fim, a classificação final é dada por uma combinação linear das respostas de cada máquina ponderadas pelos pesos. Foram utilizados vários problemas de classificação, tidos como benchmarks, para avaliar o desempenho do algoritmo e comparamos os resultados obtidos com outros classificadoresCoordenação de Aperfeiçoamento de Pessoal de Nível Superiorapplication/pdfporUniversidade Federal do Rio Grande do NortePrograma de Pós-Graduação em Engenharia ElétricaUFRNBRAutomação e Sistemas; Engenharia de Computação; TelecomunicaçõesClassificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticosPattern classification. Least squares support vector machines. Ensembles. Genetic algorithmsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAAlgoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificaçãoinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALCarlosAAP_DISSERT.pdfapplication/pdf1150903https://repositorio.ufrn.br/bitstream/123456789/15472/1/CarlosAAP_DISSERT.pdfa90e625336bbabe7e96da74cb85ee7aaMD51TEXTCarlosAAP_DISSERT.pdf.txtCarlosAAP_DISSERT.pdf.txtExtracted texttext/plain92393https://repositorio.ufrn.br/bitstream/123456789/15472/6/CarlosAAP_DISSERT.pdf.txt4536bef4f2e3e1fbe0c9dc5644aa4d23MD56THUMBNAILCarlosAAP_DISSERT.pdf.jpgCarlosAAP_DISSERT.pdf.jpgIM Thumbnailimage/jpeg2926https://repositorio.ufrn.br/bitstream/123456789/15472/7/CarlosAAP_DISSERT.pdf.jpg9e9bebd12b8f2e7e99c9490285b1314cMD57123456789/154722017-10-31 16:05:09.078oai:https://repositorio.ufrn.br:123456789/15472Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2017-10-31T19:05:09Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.por.fl_str_mv Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
spellingShingle Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
Padilha, Carlos Alberto de Araújo
Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos
Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
title_short Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_full Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_fullStr Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_full_unstemmed Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_sort Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
author Padilha, Carlos Alberto de Araújo
author_facet Padilha, Carlos Alberto de Araújo
author_role author
dc.contributor.authorID.por.fl_str_mv
dc.contributor.authorLattes.por.fl_str_mv http://lattes.cnpq.br/3020236775004881
dc.contributor.advisorID.por.fl_str_mv
dc.contributor.advisorLattes.por.fl_str_mv http://lattes.cnpq.br/1987295209521433
dc.contributor.referees1.pt_BR.fl_str_mv Canuto, Anne Magaly de Paula
dc.contributor.referees1ID.por.fl_str_mv
dc.contributor.referees1Lattes.por.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790093J8
dc.contributor.referees2.pt_BR.fl_str_mv Melo, Jorge Dantas de
dc.contributor.referees2ID.por.fl_str_mv
dc.contributor.referees2Lattes.por.fl_str_mv http://lattes.cnpq.br/7325007451912598
dc.contributor.referees3.pt_BR.fl_str_mv Ludermir, Teresa Bernarda
dc.contributor.referees3ID.por.fl_str_mv
dc.contributor.referees3Lattes.por.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781122D6
dc.contributor.author.fl_str_mv Padilha, Carlos Alberto de Araújo
dc.contributor.advisor1.fl_str_mv Dória Neto, Adrião Duarte
contributor_str_mv Dória Neto, Adrião Duarte
dc.subject.por.fl_str_mv Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos
topic Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos
Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
dc.subject.eng.fl_str_mv Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
description The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiers
publishDate 2013
dc.date.available.fl_str_mv 2013-08-20
2014-12-17T14:56:13Z
dc.date.issued.fl_str_mv 2013-01-31
dc.date.accessioned.fl_str_mv 2014-12-17T14:56:13Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.
dc.identifier.uri.fl_str_mv https://repositorio.ufrn.br/jspui/handle/123456789/15472
identifier_str_mv PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.
url https://repositorio.ufrn.br/jspui/handle/123456789/15472
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia Elétrica
dc.publisher.initials.fl_str_mv UFRN
dc.publisher.country.fl_str_mv BR
dc.publisher.department.fl_str_mv Automação e Sistemas; Engenharia de Computação; Telecomunicações
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
bitstream.url.fl_str_mv https://repositorio.ufrn.br/bitstream/123456789/15472/1/CarlosAAP_DISSERT.pdf
https://repositorio.ufrn.br/bitstream/123456789/15472/6/CarlosAAP_DISSERT.pdf.txt
https://repositorio.ufrn.br/bitstream/123456789/15472/7/CarlosAAP_DISSERT.pdf.jpg
bitstream.checksum.fl_str_mv a90e625336bbabe7e96da74cb85ee7aa
4536bef4f2e3e1fbe0c9dc5644aa4d23
9e9bebd12b8f2e7e99c9490285b1314c
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv
_version_ 1802117656704188416