Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
Autor(a) principal: | |
---|---|
Data de Publicação: | 2013 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFRN |
Texto Completo: | https://repositorio.ufrn.br/jspui/handle/123456789/15472 |
Resumo: | The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiers |
id |
UFRN_d6414dafb4a0e3cd264054282b622b32 |
---|---|
oai_identifier_str |
oai:https://repositorio.ufrn.br:123456789/15472 |
network_acronym_str |
UFRN |
network_name_str |
Repositório Institucional da UFRN |
repository_id_str |
|
spelling |
Padilha, Carlos Alberto de Araújohttp://lattes.cnpq.br/3020236775004881http://lattes.cnpq.br/1987295209521433Canuto, Anne Magaly de Paulahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790093J8Melo, Jorge Dantas dehttp://lattes.cnpq.br/7325007451912598Ludermir, Teresa Bernardahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781122D6Dória Neto, Adrião Duarte2014-12-17T14:56:13Z2013-08-202014-12-17T14:56:13Z2013-01-31PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.https://repositorio.ufrn.br/jspui/handle/123456789/15472The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiersA classificação de padrões é uma das subáreas do aprendizado de máquina que possui maior destaque. Entre as várias técnicas para resolver problemas de classificação de padrões, as Máquinas de Vetor de Suporte (do inglês, Support Vector Machines ou SVM) recebem grande ênfase, devido a sua facilidade de uso e boa capacidade de generalização. A formulação por Mínimos Quadrados da SVM (do inglês, Least Squares Support Vector Machines ou LS-SVM) encontra um hiperplano de separação ótima através da solução de um sistema de equações lineares, evitando assim o uso da programação quadrática implementada na SVM. As LS-SVMs fornecem alguns parâmetros livres que precisam ser corretamente selecionados para alcançar resultados satisfatórios em uma determinada tarefa. Apesar das LS-SVMs possuir elevado desempenho, várias ferramentas tem sido desenvolvidas para aprimorá-la, principalmente o desenvolvimento de novos métodos de classificação e a utilização de comitês de máquinas, ou seja, a combinação de vários classificadores. Neste trabalho, nós propomos tanto o uso de um comitê de máquinas quanto o uso de um Algoritmo Genético (AG), algoritmo de busca baseada na evolução das espécies, para aprimorar o poder de classificação da LS-SVM. Na construção desse comitê, utilizamos uma seleção aleatória de atributos do problema original, que divide o problema original em outros menores onde cada classificador do comitê vai atuar. Então, aplicamos o AG para encontrar valores efetivos para os parâmetros de cada LS-SVM e também encontrando um vetor de pesos, medindo a importância de cada máquina na classificação final. Por fim, a classificação final é dada por uma combinação linear das respostas de cada máquina ponderadas pelos pesos. Foram utilizados vários problemas de classificação, tidos como benchmarks, para avaliar o desempenho do algoritmo e comparamos os resultados obtidos com outros classificadoresCoordenação de Aperfeiçoamento de Pessoal de Nível Superiorapplication/pdfporUniversidade Federal do Rio Grande do NortePrograma de Pós-Graduação em Engenharia ElétricaUFRNBRAutomação e Sistemas; Engenharia de Computação; TelecomunicaçõesClassificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticosPattern classification. Least squares support vector machines. Ensembles. Genetic algorithmsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAAlgoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificaçãoinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALCarlosAAP_DISSERT.pdfapplication/pdf1150903https://repositorio.ufrn.br/bitstream/123456789/15472/1/CarlosAAP_DISSERT.pdfa90e625336bbabe7e96da74cb85ee7aaMD51TEXTCarlosAAP_DISSERT.pdf.txtCarlosAAP_DISSERT.pdf.txtExtracted texttext/plain92393https://repositorio.ufrn.br/bitstream/123456789/15472/6/CarlosAAP_DISSERT.pdf.txt4536bef4f2e3e1fbe0c9dc5644aa4d23MD56THUMBNAILCarlosAAP_DISSERT.pdf.jpgCarlosAAP_DISSERT.pdf.jpgIM Thumbnailimage/jpeg2926https://repositorio.ufrn.br/bitstream/123456789/15472/7/CarlosAAP_DISSERT.pdf.jpg9e9bebd12b8f2e7e99c9490285b1314cMD57123456789/154722017-10-31 16:05:09.078oai:https://repositorio.ufrn.br:123456789/15472Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2017-10-31T19:05:09Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false |
dc.title.por.fl_str_mv |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
title |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
spellingShingle |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação Padilha, Carlos Alberto de Araújo Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
title_short |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
title_full |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
title_fullStr |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
title_full_unstemmed |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
title_sort |
Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação |
author |
Padilha, Carlos Alberto de Araújo |
author_facet |
Padilha, Carlos Alberto de Araújo |
author_role |
author |
dc.contributor.authorID.por.fl_str_mv |
|
dc.contributor.authorLattes.por.fl_str_mv |
http://lattes.cnpq.br/3020236775004881 |
dc.contributor.advisorID.por.fl_str_mv |
|
dc.contributor.advisorLattes.por.fl_str_mv |
http://lattes.cnpq.br/1987295209521433 |
dc.contributor.referees1.pt_BR.fl_str_mv |
Canuto, Anne Magaly de Paula |
dc.contributor.referees1ID.por.fl_str_mv |
|
dc.contributor.referees1Lattes.por.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790093J8 |
dc.contributor.referees2.pt_BR.fl_str_mv |
Melo, Jorge Dantas de |
dc.contributor.referees2ID.por.fl_str_mv |
|
dc.contributor.referees2Lattes.por.fl_str_mv |
http://lattes.cnpq.br/7325007451912598 |
dc.contributor.referees3.pt_BR.fl_str_mv |
Ludermir, Teresa Bernarda |
dc.contributor.referees3ID.por.fl_str_mv |
|
dc.contributor.referees3Lattes.por.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781122D6 |
dc.contributor.author.fl_str_mv |
Padilha, Carlos Alberto de Araújo |
dc.contributor.advisor1.fl_str_mv |
Dória Neto, Adrião Duarte |
contributor_str_mv |
Dória Neto, Adrião Duarte |
dc.subject.por.fl_str_mv |
Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos |
topic |
Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
dc.subject.eng.fl_str_mv |
Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms |
dc.subject.cnpq.fl_str_mv |
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
description |
The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiers |
publishDate |
2013 |
dc.date.available.fl_str_mv |
2013-08-20 2014-12-17T14:56:13Z |
dc.date.issued.fl_str_mv |
2013-01-31 |
dc.date.accessioned.fl_str_mv |
2014-12-17T14:56:13Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufrn.br/jspui/handle/123456789/15472 |
identifier_str_mv |
PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013. |
url |
https://repositorio.ufrn.br/jspui/handle/123456789/15472 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Engenharia Elétrica |
dc.publisher.initials.fl_str_mv |
UFRN |
dc.publisher.country.fl_str_mv |
BR |
dc.publisher.department.fl_str_mv |
Automação e Sistemas; Engenharia de Computação; Telecomunicações |
publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRN instname:Universidade Federal do Rio Grande do Norte (UFRN) instacron:UFRN |
instname_str |
Universidade Federal do Rio Grande do Norte (UFRN) |
instacron_str |
UFRN |
institution |
UFRN |
reponame_str |
Repositório Institucional da UFRN |
collection |
Repositório Institucional da UFRN |
bitstream.url.fl_str_mv |
https://repositorio.ufrn.br/bitstream/123456789/15472/1/CarlosAAP_DISSERT.pdf https://repositorio.ufrn.br/bitstream/123456789/15472/6/CarlosAAP_DISSERT.pdf.txt https://repositorio.ufrn.br/bitstream/123456789/15472/7/CarlosAAP_DISSERT.pdf.jpg |
bitstream.checksum.fl_str_mv |
a90e625336bbabe7e96da74cb85ee7aa 4536bef4f2e3e1fbe0c9dc5644aa4d23 9e9bebd12b8f2e7e99c9490285b1314c |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN) |
repository.mail.fl_str_mv |
|
_version_ |
1802117656704188416 |