Arquitetura híbrida para otimização multi-objetivo de SVMs

Detalhes bibliográficos
Autor(a) principal: Miranda, Péricles Barbosa Cunha de
Data de Publicação: 2013
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFPE
Texto Completo: https://repositorio.ufpe.br/handle/123456789/12415
Resumo: Vem sendo dada grande atenção às Máquinas de Vetores de Suporte (SVMs) devido à sua fundamentação teórica e seu bom desempenho quando comparadas a outros algoritmos de aprendizado em diferentes aplicações. Porém, seu bom desempenho depende fortemente da escolha adequada de seus parâmetros de controle. Como a abordagem de tentativa e erro se torna impraticável devido às combinações entre os possíveis valores dos parâmetros, a seleção de parâmetros passou a ser tratada como um problema de otimização, de modo que o objetivo é encontrar a combinação de valores dos parâmetros mais adequada para um determinado problema. Embora a utilização de algoritmos de otimização e busca automatizem a seleção de parâmetros de SVM, ela pode se tornar inviável caso o número de parâmetros a serem selecionados aumente consideravelmente. Uma alternativa é o uso de Meta-Aprendizado (MA), que trata a tarefa de seleção de parâmetros como uma tarefa de aprendizado supervisionado. Cada exemplo de treinamento para o MA (meta-exemplo) armazena características de problemas passados e o desempenho obtido pelas configurações de parâmetros candidatas. Este conjunto de meta-exemplos forma a meta-base, sendo esta utilizada para auxiliar no módulo de sugestão ou meta-aprendiz. O meta-aprendiz tem a função de prever as configurações de parâmetros mais adequadas para um problema novo baseado em suas características. Deste modo, MA se torna uma alternativa menos custosa comparada aos algoritmos de otimização, pois faz uso de execuções passadas no processo de sugestão. Neste trabalho, as sugestões do meta-aprendiz são utilizadas como soluções iniciais da técnica de busca, sendo esta responsável pelo refinamento das soluções sugeridas. Neste trabalho, foi criada uma arquitetura híbrida multi-objetivo, que combina MA com algoritmos de otimização, inspirados em enxames de partículas, com múltiplos objetivos aplicado ao problema de seleção de parâmetros de SVMs. Os algoritmos de otimização utilizados no experimento foram: MOPSO, MOPSO-CDR, MOPSO-CDRS, CSS-MOPSO, m-DNPSO e MOPSO-CDLS, e os objetivos levados em consideração foram: maximização da taxa de acerto na classificação e minimização do número de vetores de suporte. De acordo com os resultados alcançados, ficou comprovado o potencial do MA na sugestão de soluções para os algoritmos de otimização. O início da busca em regiões promissoras favoreceu a convergência e geração de soluções ainda melhores, quando comparada a aplicação de algoritmos de busca tradicionais. Os Pareto fronts gerados foram analisado em 4 perspectivas (spacing, max. spread, hypervolume e coverage), sendo os resultados da abordagem híbrida superiores aos das técnicas de otimização tradicionais.
id UFPE_e8ea1c12bb1c3a20f2c6c1d03b642573
oai_identifier_str oai:repositorio.ufpe.br:123456789/12415
network_acronym_str UFPE
network_name_str Repositório Institucional da UFPE
repository_id_str 2221
spelling Miranda, Péricles Barbosa Cunha dePrudêncio, Ricardo Bastos Cavalcante 2015-03-13T13:13:38Z2015-03-13T13:13:38Z2013-02-22https://repositorio.ufpe.br/handle/123456789/12415Vem sendo dada grande atenção às Máquinas de Vetores de Suporte (SVMs) devido à sua fundamentação teórica e seu bom desempenho quando comparadas a outros algoritmos de aprendizado em diferentes aplicações. Porém, seu bom desempenho depende fortemente da escolha adequada de seus parâmetros de controle. Como a abordagem de tentativa e erro se torna impraticável devido às combinações entre os possíveis valores dos parâmetros, a seleção de parâmetros passou a ser tratada como um problema de otimização, de modo que o objetivo é encontrar a combinação de valores dos parâmetros mais adequada para um determinado problema. Embora a utilização de algoritmos de otimização e busca automatizem a seleção de parâmetros de SVM, ela pode se tornar inviável caso o número de parâmetros a serem selecionados aumente consideravelmente. Uma alternativa é o uso de Meta-Aprendizado (MA), que trata a tarefa de seleção de parâmetros como uma tarefa de aprendizado supervisionado. Cada exemplo de treinamento para o MA (meta-exemplo) armazena características de problemas passados e o desempenho obtido pelas configurações de parâmetros candidatas. Este conjunto de meta-exemplos forma a meta-base, sendo esta utilizada para auxiliar no módulo de sugestão ou meta-aprendiz. O meta-aprendiz tem a função de prever as configurações de parâmetros mais adequadas para um problema novo baseado em suas características. Deste modo, MA se torna uma alternativa menos custosa comparada aos algoritmos de otimização, pois faz uso de execuções passadas no processo de sugestão. Neste trabalho, as sugestões do meta-aprendiz são utilizadas como soluções iniciais da técnica de busca, sendo esta responsável pelo refinamento das soluções sugeridas. Neste trabalho, foi criada uma arquitetura híbrida multi-objetivo, que combina MA com algoritmos de otimização, inspirados em enxames de partículas, com múltiplos objetivos aplicado ao problema de seleção de parâmetros de SVMs. Os algoritmos de otimização utilizados no experimento foram: MOPSO, MOPSO-CDR, MOPSO-CDRS, CSS-MOPSO, m-DNPSO e MOPSO-CDLS, e os objetivos levados em consideração foram: maximização da taxa de acerto na classificação e minimização do número de vetores de suporte. De acordo com os resultados alcançados, ficou comprovado o potencial do MA na sugestão de soluções para os algoritmos de otimização. O início da busca em regiões promissoras favoreceu a convergência e geração de soluções ainda melhores, quando comparada a aplicação de algoritmos de busca tradicionais. Os Pareto fronts gerados foram analisado em 4 perspectivas (spacing, max. spread, hypervolume e coverage), sendo os resultados da abordagem híbrida superiores aos das técnicas de otimização tradicionais.porUniversidade Federal de PernambucoAttribution-NonCommercial-NoDerivs 3.0 Brazilhttp://creativecommons.org/licenses/by-nc-nd/3.0/br/info:eu-repo/semantics/openAccessOtimização Multi-ObjetivoOtimização por Enxame de PartículasMeta- AprendizadoMáquinas de Vetor de SuporteSeleção de ParâmetrosArquitetura híbrida para otimização multi-objetivo de SVMsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisreponame:Repositório Institucional da UFPEinstname:Universidade Federal de Pernambuco (UFPE)instacron:UFPETHUMBNAILDissertaçao Péricles Miranda.pdf.jpgDissertaçao Péricles Miranda.pdf.jpgGenerated Thumbnailimage/jpeg1180https://repositorio.ufpe.br/bitstream/123456789/12415/5/Disserta%c3%a7ao%20P%c3%a9ricles%20Miranda.pdf.jpgc3ce13c79f8c6630cdc595d453fe2507MD55ORIGINALDissertaçao Péricles Miranda.pdfDissertaçao Péricles Miranda.pdfDissertação de mestradoapplication/pdf2165606https://repositorio.ufpe.br/bitstream/123456789/12415/1/Disserta%c3%a7ao%20P%c3%a9ricles%20Miranda.pdfd9dd28b8af21e867949112bcb33578acMD51CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-81232https://repositorio.ufpe.br/bitstream/123456789/12415/2/license_rdf66e71c371cc565284e70f40736c94386MD52LICENSElicense.txtlicense.txttext/plain; charset=utf-82311https://repositorio.ufpe.br/bitstream/123456789/12415/3/license.txt4b8a02c7f2818eaf00dcf2260dd5eb08MD53TEXTDissertaçao Péricles Miranda.pdf.txtDissertaçao Péricles Miranda.pdf.txtExtracted texttext/plain145432https://repositorio.ufpe.br/bitstream/123456789/12415/4/Disserta%c3%a7ao%20P%c3%a9ricles%20Miranda.pdf.txta665440105fc9437791b16ab1f8c35d8MD54123456789/124152019-10-25 17:19:34.226oai:repositorio.ufpe.br:123456789/12415TGljZW7Dp2EgZGUgRGlzdHJpYnVpw6fDo28gTsOjbyBFeGNsdXNpdmEKClRvZG8gZGVwb3NpdGFudGUgZGUgbWF0ZXJpYWwgbm8gUmVwb3NpdMOzcmlvIEluc3RpdHVjaW9uYWwgKFJJKSBkZXZlIGNvbmNlZGVyLCDDoCBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBQZXJuYW1idWNvIChVRlBFKSwgdW1hIExpY2Vuw6dhIGRlIERpc3RyaWJ1acOnw6NvIE7Do28gRXhjbHVzaXZhIHBhcmEgbWFudGVyIGUgdG9ybmFyIGFjZXNzw612ZWlzIG9zIHNldXMgZG9jdW1lbnRvcywgZW0gZm9ybWF0byBkaWdpdGFsLCBuZXN0ZSByZXBvc2l0w7NyaW8uCgpDb20gYSBjb25jZXNzw6NvIGRlc3RhIGxpY2Vuw6dhIG7Do28gZXhjbHVzaXZhLCBvIGRlcG9zaXRhbnRlIG1hbnTDqW0gdG9kb3Mgb3MgZGlyZWl0b3MgZGUgYXV0b3IuCl9fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fXwoKTGljZW7Dp2EgZGUgRGlzdHJpYnVpw6fDo28gTsOjbyBFeGNsdXNpdmEKCkFvIGNvbmNvcmRhciBjb20gZXN0YSBsaWNlbsOnYSBlIGFjZWl0w6EtbGEsIHZvY8OqIChhdXRvciBvdSBkZXRlbnRvciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMpOgoKYSkgRGVjbGFyYSBxdWUgY29uaGVjZSBhIHBvbMOtdGljYSBkZSBjb3B5cmlnaHQgZGEgZWRpdG9yYSBkbyBzZXUgZG9jdW1lbnRvOwpiKSBEZWNsYXJhIHF1ZSBjb25oZWNlIGUgYWNlaXRhIGFzIERpcmV0cml6ZXMgcGFyYSBvIFJlcG9zaXTDs3JpbyBJbnN0aXR1Y2lvbmFsIGRhIFVGUEU7CmMpIENvbmNlZGUgw6AgVUZQRSBvIGRpcmVpdG8gbsOjbyBleGNsdXNpdm8gZGUgYXJxdWl2YXIsIHJlcHJvZHV6aXIsIGNvbnZlcnRlciAoY29tbyBkZWZpbmlkbyBhIHNlZ3VpciksIGNvbXVuaWNhciBlL291IGRpc3RyaWJ1aXIsIG5vIFJJLCBvIGRvY3VtZW50byBlbnRyZWd1ZSAoaW5jbHVpbmRvIG8gcmVzdW1vL2Fic3RyYWN0KSBlbSBmb3JtYXRvIGRpZ2l0YWwgb3UgcG9yIG91dHJvIG1laW87CmQpIERlY2xhcmEgcXVlIGF1dG9yaXphIGEgVUZQRSBhIGFycXVpdmFyIG1haXMgZGUgdW1hIGPDs3BpYSBkZXN0ZSBkb2N1bWVudG8gZSBjb252ZXJ0w6otbG8sIHNlbSBhbHRlcmFyIG8gc2V1IGNvbnRlw7pkbywgcGFyYSBxdWFscXVlciBmb3JtYXRvIGRlIGZpY2hlaXJvLCBtZWlvIG91IHN1cG9ydGUsIHBhcmEgZWZlaXRvcyBkZSBzZWd1cmFuw6dhLCBwcmVzZXJ2YcOnw6NvIChiYWNrdXApIGUgYWNlc3NvOwplKSBEZWNsYXJhIHF1ZSBvIGRvY3VtZW50byBzdWJtZXRpZG8gw6kgbyBzZXUgdHJhYmFsaG8gb3JpZ2luYWwgZSBxdWUgZGV0w6ltIG8gZGlyZWl0byBkZSBjb25jZWRlciBhIHRlcmNlaXJvcyBvcyBkaXJlaXRvcyBjb250aWRvcyBuZXN0YSBsaWNlbsOnYS4gRGVjbGFyYSB0YW1iw6ltIHF1ZSBhIGVudHJlZ2EgZG8gZG9jdW1lbnRvIG7Do28gaW5mcmluZ2Ugb3MgZGlyZWl0b3MgZGUgb3V0cmEgcGVzc29hIG91IGVudGlkYWRlOwpmKSBEZWNsYXJhIHF1ZSwgbm8gY2FzbyBkbyBkb2N1bWVudG8gc3VibWV0aWRvIGNvbnRlciBtYXRlcmlhbCBkbyBxdWFsIG7Do28gZGV0w6ltIG9zIGRpcmVpdG9zIGRlCmF1dG9yLCBvYnRldmUgYSBhdXRvcml6YcOnw6NvIGlycmVzdHJpdGEgZG8gcmVzcGVjdGl2byBkZXRlbnRvciBkZXNzZXMgZGlyZWl0b3MgcGFyYSBjZWRlciDDoApVRlBFIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgTGljZW7Dp2EgZSBhdXRvcml6YXIgYSB1bml2ZXJzaWRhZGUgYSB1dGlsaXrDoS1sb3MgbGVnYWxtZW50ZS4gRGVjbGFyYSB0YW1iw6ltIHF1ZSBlc3NlIG1hdGVyaWFsIGN1am9zIGRpcmVpdG9zIHPDo28gZGUgdGVyY2Vpcm9zIGVzdMOhIGNsYXJhbWVudGUgaWRlbnRpZmljYWRvIGUgcmVjb25oZWNpZG8gbm8gdGV4dG8gb3UgY29udGXDumRvIGRvIGRvY3VtZW50byBlbnRyZWd1ZTsKZykgU2UgbyBkb2N1bWVudG8gZW50cmVndWUgw6kgYmFzZWFkbyBlbSB0cmFiYWxobyBmaW5hbmNpYWRvIG91IGFwb2lhZG8gcG9yIG91dHJhIGluc3RpdHVpw6fDo28gcXVlIG7Do28gYSBVRlBFLMKgZGVjbGFyYSBxdWUgY3VtcHJpdSBxdWFpc3F1ZXIgb2JyaWdhw6fDtWVzIGV4aWdpZGFzIHBlbG8gcmVzcGVjdGl2byBjb250cmF0byBvdSBhY29yZG8uCgpBIFVGUEUgaWRlbnRpZmljYXLDoSBjbGFyYW1lbnRlIG8ocykgbm9tZShzKSBkbyhzKSBhdXRvciAoZXMpIGRvcyBkaXJlaXRvcyBkbyBkb2N1bWVudG8gZW50cmVndWUgZSBuw6NvIGZhcsOhIHF1YWxxdWVyIGFsdGVyYcOnw6NvLCBwYXJhIGFsw6ltIGRvIHByZXZpc3RvIG5hIGFsw61uZWEgYykuCg==Repositório InstitucionalPUBhttps://repositorio.ufpe.br/oai/requestattena@ufpe.bropendoar:22212019-10-25T20:19:34Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)false
dc.title.pt_BR.fl_str_mv Arquitetura híbrida para otimização multi-objetivo de SVMs
title Arquitetura híbrida para otimização multi-objetivo de SVMs
spellingShingle Arquitetura híbrida para otimização multi-objetivo de SVMs
Miranda, Péricles Barbosa Cunha de
Otimização Multi-Objetivo
Otimização por Enxame de Partículas
Meta- Aprendizado
Máquinas de Vetor de Suporte
Seleção de Parâmetros
title_short Arquitetura híbrida para otimização multi-objetivo de SVMs
title_full Arquitetura híbrida para otimização multi-objetivo de SVMs
title_fullStr Arquitetura híbrida para otimização multi-objetivo de SVMs
title_full_unstemmed Arquitetura híbrida para otimização multi-objetivo de SVMs
title_sort Arquitetura híbrida para otimização multi-objetivo de SVMs
author Miranda, Péricles Barbosa Cunha de
author_facet Miranda, Péricles Barbosa Cunha de
author_role author
dc.contributor.author.fl_str_mv Miranda, Péricles Barbosa Cunha de
dc.contributor.advisor1.fl_str_mv Prudêncio, Ricardo Bastos Cavalcante
contributor_str_mv Prudêncio, Ricardo Bastos Cavalcante
dc.subject.por.fl_str_mv Otimização Multi-Objetivo
Otimização por Enxame de Partículas
Meta- Aprendizado
Máquinas de Vetor de Suporte
Seleção de Parâmetros
topic Otimização Multi-Objetivo
Otimização por Enxame de Partículas
Meta- Aprendizado
Máquinas de Vetor de Suporte
Seleção de Parâmetros
description Vem sendo dada grande atenção às Máquinas de Vetores de Suporte (SVMs) devido à sua fundamentação teórica e seu bom desempenho quando comparadas a outros algoritmos de aprendizado em diferentes aplicações. Porém, seu bom desempenho depende fortemente da escolha adequada de seus parâmetros de controle. Como a abordagem de tentativa e erro se torna impraticável devido às combinações entre os possíveis valores dos parâmetros, a seleção de parâmetros passou a ser tratada como um problema de otimização, de modo que o objetivo é encontrar a combinação de valores dos parâmetros mais adequada para um determinado problema. Embora a utilização de algoritmos de otimização e busca automatizem a seleção de parâmetros de SVM, ela pode se tornar inviável caso o número de parâmetros a serem selecionados aumente consideravelmente. Uma alternativa é o uso de Meta-Aprendizado (MA), que trata a tarefa de seleção de parâmetros como uma tarefa de aprendizado supervisionado. Cada exemplo de treinamento para o MA (meta-exemplo) armazena características de problemas passados e o desempenho obtido pelas configurações de parâmetros candidatas. Este conjunto de meta-exemplos forma a meta-base, sendo esta utilizada para auxiliar no módulo de sugestão ou meta-aprendiz. O meta-aprendiz tem a função de prever as configurações de parâmetros mais adequadas para um problema novo baseado em suas características. Deste modo, MA se torna uma alternativa menos custosa comparada aos algoritmos de otimização, pois faz uso de execuções passadas no processo de sugestão. Neste trabalho, as sugestões do meta-aprendiz são utilizadas como soluções iniciais da técnica de busca, sendo esta responsável pelo refinamento das soluções sugeridas. Neste trabalho, foi criada uma arquitetura híbrida multi-objetivo, que combina MA com algoritmos de otimização, inspirados em enxames de partículas, com múltiplos objetivos aplicado ao problema de seleção de parâmetros de SVMs. Os algoritmos de otimização utilizados no experimento foram: MOPSO, MOPSO-CDR, MOPSO-CDRS, CSS-MOPSO, m-DNPSO e MOPSO-CDLS, e os objetivos levados em consideração foram: maximização da taxa de acerto na classificação e minimização do número de vetores de suporte. De acordo com os resultados alcançados, ficou comprovado o potencial do MA na sugestão de soluções para os algoritmos de otimização. O início da busca em regiões promissoras favoreceu a convergência e geração de soluções ainda melhores, quando comparada a aplicação de algoritmos de busca tradicionais. Os Pareto fronts gerados foram analisado em 4 perspectivas (spacing, max. spread, hypervolume e coverage), sendo os resultados da abordagem híbrida superiores aos das técnicas de otimização tradicionais.
publishDate 2013
dc.date.issued.fl_str_mv 2013-02-22
dc.date.accessioned.fl_str_mv 2015-03-13T13:13:38Z
dc.date.available.fl_str_mv 2015-03-13T13:13:38Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://repositorio.ufpe.br/handle/123456789/12415
url https://repositorio.ufpe.br/handle/123456789/12415
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Attribution-NonCommercial-NoDerivs 3.0 Brazil
http://creativecommons.org/licenses/by-nc-nd/3.0/br/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution-NonCommercial-NoDerivs 3.0 Brazil
http://creativecommons.org/licenses/by-nc-nd/3.0/br/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Pernambuco
publisher.none.fl_str_mv Universidade Federal de Pernambuco
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFPE
instname:Universidade Federal de Pernambuco (UFPE)
instacron:UFPE
instname_str Universidade Federal de Pernambuco (UFPE)
instacron_str UFPE
institution UFPE
reponame_str Repositório Institucional da UFPE
collection Repositório Institucional da UFPE
bitstream.url.fl_str_mv https://repositorio.ufpe.br/bitstream/123456789/12415/5/Disserta%c3%a7ao%20P%c3%a9ricles%20Miranda.pdf.jpg
https://repositorio.ufpe.br/bitstream/123456789/12415/1/Disserta%c3%a7ao%20P%c3%a9ricles%20Miranda.pdf
https://repositorio.ufpe.br/bitstream/123456789/12415/2/license_rdf
https://repositorio.ufpe.br/bitstream/123456789/12415/3/license.txt
https://repositorio.ufpe.br/bitstream/123456789/12415/4/Disserta%c3%a7ao%20P%c3%a9ricles%20Miranda.pdf.txt
bitstream.checksum.fl_str_mv c3ce13c79f8c6630cdc595d453fe2507
d9dd28b8af21e867949112bcb33578ac
66e71c371cc565284e70f40736c94386
4b8a02c7f2818eaf00dcf2260dd5eb08
a665440105fc9437791b16ab1f8c35d8
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)
repository.mail.fl_str_mv attena@ufpe.br
_version_ 1802310808781193216