Uma análise de otimização de redes neurais MLP por exames de partículas
Autor(a) principal: | |
---|---|
Data de Publicação: | 2007 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFPE |
Texto Completo: | https://repositorio.ufpe.br/handle/123456789/2672 |
Resumo: | Este trabalho propõe uma metodologia para a otimização global de redes neurais MLP. O objetivo é a otimização simultânea de arquiteturas e pesos sinápticos de redes MLP, na tentativa de proporcionar um bom desempenho de classificação para qualquer conjunto de dados. A otimização simultânea de arquiteturas e pesos de redes neurais é uma abordagem interessante para a obtenção de redes eficientes com maior poder de generalização, pois cria um compromisso entre baixa complexidade estrutural do modelo e baixos índices de erro de treinamento. Tal aplicação já foi bastante investigada com a utilização de métodos de busca metaheurística tais como algoritmos genéticos, recozimento simulado, busca tabu e combinações dos mesmos. Outra técnica de busca meta-heurística menos investigada neste contexto é a otimização por enxame de partículas (PSO) que vem recebendo cada vez mais atenção da comunidade científica devido aos bons resultados obtidos ao lidar com problemas de otimização numérica contínua. A metodologia desenvolvida neste trabalho consiste na aplicação de dois algoritmos PSOs, um para a otimização de arquiteturas e outro para o ajuste dos pesos sinápticos de cada arquitetura gerada pelo primeiro PSO. Estes dois processos são intercalados por um número específico de iterações. Este trabalho apresenta resultados da aplicação da metodologia proposta em três conhecidas bases de dados de problemas de classificação de padrões de domínio médico. Nos problemas mais difíceis de classificar, a metodologia apresentada obteve resultados satisfatórios e gerou redes com baixo erro de generalização e baixa complexidade. Tais resultados são relevantes para mostrar que a técnica meta-heurística de otimização por enxames de partículas é uma opção efetiva para o ajuste de pesos e arquiteturas de redes neurais MLP |
id |
UFPE_bd068d96c8d9ddb6f1d7e80240585ae6 |
---|---|
oai_identifier_str |
oai:repositorio.ufpe.br:123456789/2672 |
network_acronym_str |
UFPE |
network_name_str |
Repositório Institucional da UFPE |
repository_id_str |
2221 |
spelling |
CARVALHO, Marcio Ribeiro deLUDERMIR, Teresa Bernarda2014-06-12T16:00:06Z2014-06-12T16:00:06Z2007Ribeiro de Carvalho, Marcio; Bernarda Ludermir, Teresa. Uma análise de otimização de redes neurais MLP por exames de partículas. 2007. Dissertação (Mestrado). Programa de Pós-Graduação em Ciência da Computação, Universidade Federal de Pernambuco, Recife, 2007.https://repositorio.ufpe.br/handle/123456789/2672Este trabalho propõe uma metodologia para a otimização global de redes neurais MLP. O objetivo é a otimização simultânea de arquiteturas e pesos sinápticos de redes MLP, na tentativa de proporcionar um bom desempenho de classificação para qualquer conjunto de dados. A otimização simultânea de arquiteturas e pesos de redes neurais é uma abordagem interessante para a obtenção de redes eficientes com maior poder de generalização, pois cria um compromisso entre baixa complexidade estrutural do modelo e baixos índices de erro de treinamento. Tal aplicação já foi bastante investigada com a utilização de métodos de busca metaheurística tais como algoritmos genéticos, recozimento simulado, busca tabu e combinações dos mesmos. Outra técnica de busca meta-heurística menos investigada neste contexto é a otimização por enxame de partículas (PSO) que vem recebendo cada vez mais atenção da comunidade científica devido aos bons resultados obtidos ao lidar com problemas de otimização numérica contínua. A metodologia desenvolvida neste trabalho consiste na aplicação de dois algoritmos PSOs, um para a otimização de arquiteturas e outro para o ajuste dos pesos sinápticos de cada arquitetura gerada pelo primeiro PSO. Estes dois processos são intercalados por um número específico de iterações. Este trabalho apresenta resultados da aplicação da metodologia proposta em três conhecidas bases de dados de problemas de classificação de padrões de domínio médico. Nos problemas mais difíceis de classificar, a metodologia apresentada obteve resultados satisfatórios e gerou redes com baixo erro de generalização e baixa complexidade. Tais resultados são relevantes para mostrar que a técnica meta-heurística de otimização por enxames de partículas é uma opção efetiva para o ajuste de pesos e arquiteturas de redes neurais MLPporUniversidade Federal de PernambucoAttribution-NonCommercial-NoDerivs 3.0 Brazilhttp://creativecommons.org/licenses/by-nc-nd/3.0/br/info:eu-repo/semantics/openAccessPSOOtimização de redes neurais MLPGeneralizaçãoTécnicas de busca globalUma análise de otimização de redes neurais MLP por exames de partículasinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisreponame:Repositório Institucional da UFPEinstname:Universidade Federal de Pernambuco (UFPE)instacron:UFPETHUMBNAILarquivo5998_1.pdf.jpgarquivo5998_1.pdf.jpgGenerated Thumbnailimage/jpeg1245https://repositorio.ufpe.br/bitstream/123456789/2672/4/arquivo5998_1.pdf.jpg329bf87d9776822ec5424d71edc3869aMD54ORIGINALarquivo5998_1.pdfapplication/pdf1180748https://repositorio.ufpe.br/bitstream/123456789/2672/1/arquivo5998_1.pdfe5d0a95fe8d45bdddd6975b365971603MD51LICENSElicense.txttext/plain1748https://repositorio.ufpe.br/bitstream/123456789/2672/2/license.txt8a4605be74aa9ea9d79846c1fba20a33MD52TEXTarquivo5998_1.pdf.txtarquivo5998_1.pdf.txtExtracted texttext/plain161900https://repositorio.ufpe.br/bitstream/123456789/2672/3/arquivo5998_1.pdf.txt95773a16cb3ed1a7038bf3ccd4e88cf8MD53123456789/26722019-10-25 02:57:20.499oai:repositorio.ufpe.br:123456789/2672Tk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo=Repositório InstitucionalPUBhttps://repositorio.ufpe.br/oai/requestattena@ufpe.bropendoar:22212019-10-25T05:57:20Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)false |
dc.title.pt_BR.fl_str_mv |
Uma análise de otimização de redes neurais MLP por exames de partículas |
title |
Uma análise de otimização de redes neurais MLP por exames de partículas |
spellingShingle |
Uma análise de otimização de redes neurais MLP por exames de partículas CARVALHO, Marcio Ribeiro de PSO Otimização de redes neurais MLP Generalização Técnicas de busca global |
title_short |
Uma análise de otimização de redes neurais MLP por exames de partículas |
title_full |
Uma análise de otimização de redes neurais MLP por exames de partículas |
title_fullStr |
Uma análise de otimização de redes neurais MLP por exames de partículas |
title_full_unstemmed |
Uma análise de otimização de redes neurais MLP por exames de partículas |
title_sort |
Uma análise de otimização de redes neurais MLP por exames de partículas |
author |
CARVALHO, Marcio Ribeiro de |
author_facet |
CARVALHO, Marcio Ribeiro de |
author_role |
author |
dc.contributor.author.fl_str_mv |
CARVALHO, Marcio Ribeiro de |
dc.contributor.advisor1.fl_str_mv |
LUDERMIR, Teresa Bernarda |
contributor_str_mv |
LUDERMIR, Teresa Bernarda |
dc.subject.por.fl_str_mv |
PSO Otimização de redes neurais MLP Generalização Técnicas de busca global |
topic |
PSO Otimização de redes neurais MLP Generalização Técnicas de busca global |
description |
Este trabalho propõe uma metodologia para a otimização global de redes neurais MLP. O objetivo é a otimização simultânea de arquiteturas e pesos sinápticos de redes MLP, na tentativa de proporcionar um bom desempenho de classificação para qualquer conjunto de dados. A otimização simultânea de arquiteturas e pesos de redes neurais é uma abordagem interessante para a obtenção de redes eficientes com maior poder de generalização, pois cria um compromisso entre baixa complexidade estrutural do modelo e baixos índices de erro de treinamento. Tal aplicação já foi bastante investigada com a utilização de métodos de busca metaheurística tais como algoritmos genéticos, recozimento simulado, busca tabu e combinações dos mesmos. Outra técnica de busca meta-heurística menos investigada neste contexto é a otimização por enxame de partículas (PSO) que vem recebendo cada vez mais atenção da comunidade científica devido aos bons resultados obtidos ao lidar com problemas de otimização numérica contínua. A metodologia desenvolvida neste trabalho consiste na aplicação de dois algoritmos PSOs, um para a otimização de arquiteturas e outro para o ajuste dos pesos sinápticos de cada arquitetura gerada pelo primeiro PSO. Estes dois processos são intercalados por um número específico de iterações. Este trabalho apresenta resultados da aplicação da metodologia proposta em três conhecidas bases de dados de problemas de classificação de padrões de domínio médico. Nos problemas mais difíceis de classificar, a metodologia apresentada obteve resultados satisfatórios e gerou redes com baixo erro de generalização e baixa complexidade. Tais resultados são relevantes para mostrar que a técnica meta-heurística de otimização por enxames de partículas é uma opção efetiva para o ajuste de pesos e arquiteturas de redes neurais MLP |
publishDate |
2007 |
dc.date.issued.fl_str_mv |
2007 |
dc.date.accessioned.fl_str_mv |
2014-06-12T16:00:06Z |
dc.date.available.fl_str_mv |
2014-06-12T16:00:06Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
Ribeiro de Carvalho, Marcio; Bernarda Ludermir, Teresa. Uma análise de otimização de redes neurais MLP por exames de partículas. 2007. Dissertação (Mestrado). Programa de Pós-Graduação em Ciência da Computação, Universidade Federal de Pernambuco, Recife, 2007. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufpe.br/handle/123456789/2672 |
identifier_str_mv |
Ribeiro de Carvalho, Marcio; Bernarda Ludermir, Teresa. Uma análise de otimização de redes neurais MLP por exames de partículas. 2007. Dissertação (Mestrado). Programa de Pós-Graduação em Ciência da Computação, Universidade Federal de Pernambuco, Recife, 2007. |
url |
https://repositorio.ufpe.br/handle/123456789/2672 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
Attribution-NonCommercial-NoDerivs 3.0 Brazil http://creativecommons.org/licenses/by-nc-nd/3.0/br/ info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Attribution-NonCommercial-NoDerivs 3.0 Brazil http://creativecommons.org/licenses/by-nc-nd/3.0/br/ |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal de Pernambuco |
publisher.none.fl_str_mv |
Universidade Federal de Pernambuco |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFPE instname:Universidade Federal de Pernambuco (UFPE) instacron:UFPE |
instname_str |
Universidade Federal de Pernambuco (UFPE) |
instacron_str |
UFPE |
institution |
UFPE |
reponame_str |
Repositório Institucional da UFPE |
collection |
Repositório Institucional da UFPE |
bitstream.url.fl_str_mv |
https://repositorio.ufpe.br/bitstream/123456789/2672/4/arquivo5998_1.pdf.jpg https://repositorio.ufpe.br/bitstream/123456789/2672/1/arquivo5998_1.pdf https://repositorio.ufpe.br/bitstream/123456789/2672/2/license.txt https://repositorio.ufpe.br/bitstream/123456789/2672/3/arquivo5998_1.pdf.txt |
bitstream.checksum.fl_str_mv |
329bf87d9776822ec5424d71edc3869a e5d0a95fe8d45bdddd6975b365971603 8a4605be74aa9ea9d79846c1fba20a33 95773a16cb3ed1a7038bf3ccd4e88cf8 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE) |
repository.mail.fl_str_mv |
attena@ufpe.br |
_version_ |
1802310663759986688 |