Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas

Detalhes bibliográficos
Autor(a) principal: Santos, Carlos Eduardo da Silva
Data de Publicação: 2019
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UnB
Texto Completo: https://repositorio.unb.br/handle/10482/35990
Resumo: Tese (doutorado)—Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Mecânica, 2019.
id UNB_ae573416c495ff0b8f839403d5002782
oai_identifier_str oai:repositorio.unb.br:10482/35990
network_acronym_str UNB
network_name_str Repositório Institucional da UnB
repository_id_str
spelling Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticasAprendizagem de máquinaOtimização multiobjetivoMáquinas de vetores de suporteTese (doutorado)—Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Mecânica, 2019.Máquinas de Vetores de Suporte (Support Vector Machines - SVMs) representam uma técnica de Aprendizagem de Máquina (Machine Learning - ML), que modelam classificadores e regressores, amplamente utilizados principalmente devido às suas propriedades matemáticas que incluem boa capacidade de generalização e robustez. O modelo de treinamento das SVMs busca minimizar o risco empírico simultaneamente à capacidade de generalização. Entretanto, para obter modelos com boa precisão e baixa complexidade, é necessário definir o kernel e os seus parâmetros, assim como os parâmetros do modelo de treinamento. Os parâmetros do kernel e do modelo de treinamento juntos são denominados de hiperparâmetros do problema de seleção de parâmetros das SVMs. Porém minimizar a complexidade e maximizar a capacidade de generalização das SVM/SVRs são critérios contraditórios e, por isso, neste trabalho, o problema de seleção de parâmetros é modelado com um problema de otimização multiobjetivo (MOOP). Para resolver este problema, foi desenvolvida uma meta-heurística multiobjetivo chamada de Adaptive Parameter with Mutant Tournament Multi-Objective Differential Evolution (APMT-MODE), Multi-Objective Particle Swarm Optimization (MOPSO), objetivando resolver o problema de seleção de parâmetros. Os algoritmos desenvolvidos foram testados com um conjunto de treinamento para classificadores e regressores (obtidos no repositório University of California, Irvine), combinados com os kernels gaussiano, cauchy, polinomial e arco cosseno. Para validar as meta-heurísticas desenvolvidas, foi realizado o teste estatístico de Friedman e os testes post hoc, os quais mostraram que o algoritmo APMT-MODE é superior ao clássico algoritmo Non Sorting Genetic Algorithm - II. Além desses estudos, foram realizados estudos de comparação da complexidade computacional entre modelos de SVMs com diferentes kernels, nos quais os kernels gaussiano e polinomial configurados pelo APMT-MODE obtiveram melhor desempenho. Como aplicação em situações reais, o APMT-MODE foi empregado para obtenção de modelos para predição da penetração e largura de cordões de solda, que são utilizados como parâmetros para o controle de processo de soldas. A partir das análises, concluiu que os modelos gerados pelo APMT-MODE são mais eficientes que os encontrados para redes neurais do tipo perceptron. Finalmente, o Grid Search foi empregado para caracterizar os espaço de busca e a complexidade do problema de seleção de parâmetros modelado como um MOOP.Support Vector Machines (SVMs) represent a Machine Learning technique (ML), which model classifiers and regressors, widely used mainly because of their mathematical properties that include good generalizability and robustness. The SVM training model seeks to minimize the empirical risk simultaneously to the generalization capacity. However, to obtain models with good precision and low complexity, it is necessary to define the kernel and its parameters, as well as the parameters of the training model. The parameters of the kernel and the training model together are called hyperparameters of the parameter selection problem of the SVMs. However, minimizing the complexity and maximizing the generalization capacity of the SVM/SVRs are conflicting criteria and, therefore, in this work, the problem of parameter selection is modeled with a multiobjective optimization (MOOP) problem. In order to solve this problem, a multiobjective meta-heuristic called Adaptive Parameter with Mutant Tournament Multi-Objective Differential Evolution (APMT-MODE) was developed, aiming at solving the problem of parameter selection. The algorithms developed were tested with a training set for classifiers and regressors (obtained from the University of California, Irvine repository), combined with the Gaussian, Cauchy, polynomial, and cosine arc textures. In order to validate the developed heuristics, the Friedman statistical test, and the post-hoc tests were performed, which showed that the APMT-MODE algorithm is superior to the classic Non-Sorting Genetic Algorithm-II algorithm. In addition to these studies, computational complexity was compared between models of SVMs with different kernels, in which the Gaussian and polynomial kernels configured by APMT-MODE obtained better performance than others considered algorithms. As an application in real situations, the APMTMODE was used to obtain models for penetration prediction and width of weld beads, which are used as parameters for the process control of welds. From the analysis, it was concluded that the models generated by APMT-MODE are more efficient than those found for neural networks of the perceptron type. Finally, Grid Search was used to characterize the search space and complexity of the parameter selection problem modeled as a MOOP.Faculdade de Tecnologia (FT)Departamento de Engenharia Mecânica (FT ENM)Programa de Pós-Graduação em Ciências MecânicasLlanos Quintero, Carlos HumbertoCoelho, Leandro dos SantosSantos, Carlos Eduardo da Silva2019-12-18T18:06:20Z2019-12-18T18:06:20Z2019-12-182019-03info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfSANTOS, Carlos Eduardo da Silva. Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas. 2019. xvi, 136 f., il. Tese (Doutorado em Ciências Mecânicas)—Universidade de Brasília, Brasília, 2019.https://repositorio.unb.br/handle/10482/35990A concessão da licença deste item refere-se ao termo de autorização impresso assinado pelo autor com as seguintes condições: Na qualidade de titular dos direitos de autor da publicação, autorizo a Universidade de Brasília e o IBICT a disponibilizar por meio dos sites www.bce.unb.br, www.ibict.br, http://hercules.vtls.com/cgi-bin/ndltd/chameleon?lng=pt&skin=ndltd sem ressarcimento dos direitos autorais, de acordo com a Lei nº 9610/98, o texto integral da obra disponibilizada, conforme permissões assinaladas, para fins de leitura, impressão e/ou download, a título de divulgação da produção científica brasileira, a partir desta data.info:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UnBinstname:Universidade de Brasília (UnB)instacron:UNB2024-02-08T21:43:29Zoai:repositorio.unb.br:10482/35990Repositório InstitucionalPUBhttps://repositorio.unb.br/oai/requestrepositorio@unb.bropendoar:2024-02-08T21:43:29Repositório Institucional da UnB - Universidade de Brasília (UnB)false
dc.title.none.fl_str_mv Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
title Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
spellingShingle Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
Santos, Carlos Eduardo da Silva
Aprendizagem de máquina
Otimização multiobjetivo
Máquinas de vetores de suporte
title_short Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
title_full Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
title_fullStr Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
title_full_unstemmed Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
title_sort Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas
author Santos, Carlos Eduardo da Silva
author_facet Santos, Carlos Eduardo da Silva
author_role author
dc.contributor.none.fl_str_mv Llanos Quintero, Carlos Humberto
Coelho, Leandro dos Santos
dc.contributor.author.fl_str_mv Santos, Carlos Eduardo da Silva
dc.subject.por.fl_str_mv Aprendizagem de máquina
Otimização multiobjetivo
Máquinas de vetores de suporte
topic Aprendizagem de máquina
Otimização multiobjetivo
Máquinas de vetores de suporte
description Tese (doutorado)—Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Mecânica, 2019.
publishDate 2019
dc.date.none.fl_str_mv 2019-12-18T18:06:20Z
2019-12-18T18:06:20Z
2019-12-18
2019-03
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv SANTOS, Carlos Eduardo da Silva. Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas. 2019. xvi, 136 f., il. Tese (Doutorado em Ciências Mecânicas)—Universidade de Brasília, Brasília, 2019.
https://repositorio.unb.br/handle/10482/35990
identifier_str_mv SANTOS, Carlos Eduardo da Silva. Seleção de parâmetros de máquinas de vetores de suporte usando otimização multiobjetivo baseada em meta-heurísticas. 2019. xvi, 136 f., il. Tese (Doutorado em Ciências Mecânicas)—Universidade de Brasília, Brasília, 2019.
url https://repositorio.unb.br/handle/10482/35990
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da UnB
instname:Universidade de Brasília (UnB)
instacron:UNB
instname_str Universidade de Brasília (UnB)
instacron_str UNB
institution UNB
reponame_str Repositório Institucional da UnB
collection Repositório Institucional da UnB
repository.name.fl_str_mv Repositório Institucional da UnB - Universidade de Brasília (UnB)
repository.mail.fl_str_mv repositorio@unb.br
_version_ 1814508204064768000

Registros relacionados