Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
Autor(a) principal: | |
---|---|
Data de Publicação: | 2021 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFU |
Texto Completo: | https://repositorio.ufu.br/handle/123456789/34044 http://doi.org/10.14393/ufu.di.2021.694 |
Resumo: | As Redes Neurais Convolucionais (CNN) são consideradas o estado da arte em aplicações de visão computacional. Entretanto, a construção de modelos de aprendizagem de máquina utilizando essa tecnologia ainda requer a otimização de parâmetros, hiperparâmetros e desafios como a quantidade de dados para treinamento. Algoritmos Genéticos (AG) apresentam-se como uma técnica promissora para otimizar diversos aspectos das CNN. Este trabalho apresenta duas abordagens para otimização de CNNs utilizando AGs: gaCNN, para a otimização arquitetural e MLTLGA, para a otimização de aprendizagem por transferência. No método gaCNN, foi proposta uma codificação de cromossomo para incorporar funções de ativação e novos operadores de mutação, estas mudanças permitiram que o método superasse o desempenho de 9 dos 13 métodos avaliados em acurácia de classificação. No método MLTLGA, foi proposto um novo processo de inicialização que apresentou resultados superiores em pelo menos 2% de acurácia de classificação a todos os outros métodos de aprendizagem por transferência avaliados no trabalho. Dessa forma, apresentando métodos promissores no contexto de otimização de CNNs. |
id |
UFU_1093b63ac95419c8527c6b1160c9dd7f |
---|---|
oai_identifier_str |
oai:repositorio.ufu.br:123456789/34044 |
network_acronym_str |
UFU |
network_name_str |
Repositório Institucional da UFU |
repository_id_str |
|
spelling |
2022-02-04T13:43:54Z2022-02-04T13:43:54Z2021-12-17MENDES, Raphael de Lima. Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos. 2021. 86 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Uberlândia, Uberlândia, 2021. DOI http://doi.org/10.14393/ufu.di.2021.694.https://repositorio.ufu.br/handle/123456789/34044http://doi.org/10.14393/ufu.di.2021.694As Redes Neurais Convolucionais (CNN) são consideradas o estado da arte em aplicações de visão computacional. Entretanto, a construção de modelos de aprendizagem de máquina utilizando essa tecnologia ainda requer a otimização de parâmetros, hiperparâmetros e desafios como a quantidade de dados para treinamento. Algoritmos Genéticos (AG) apresentam-se como uma técnica promissora para otimizar diversos aspectos das CNN. Este trabalho apresenta duas abordagens para otimização de CNNs utilizando AGs: gaCNN, para a otimização arquitetural e MLTLGA, para a otimização de aprendizagem por transferência. No método gaCNN, foi proposta uma codificação de cromossomo para incorporar funções de ativação e novos operadores de mutação, estas mudanças permitiram que o método superasse o desempenho de 9 dos 13 métodos avaliados em acurácia de classificação. No método MLTLGA, foi proposto um novo processo de inicialização que apresentou resultados superiores em pelo menos 2% de acurácia de classificação a todos os outros métodos de aprendizagem por transferência avaliados no trabalho. Dessa forma, apresentando métodos promissores no contexto de otimização de CNNs.Convolutional Neural Networks (CNN) are considered the state-of-the-art in computer vision applications. However, building machine learning models such method still requires the parameter and hyperparameter tuning, and considerably large training datasets. Genetic Algorithms (GA) can be a promising technique to optimize various aspects of CNNs. In this work, two approaches to optimize CNN using GA are proposed: gaCNN, for architectural optimization and MLTLGA, for transfer learning optimization. In the gaCNN, a new individual codification strategy for activation functions is proposed alongside new mutation operators. The proposed method outperformed 9 out 13 methods evaluated in classification accuracy. In the MLTLGA, a new initialization operation is presented that outperformed by at least 2% the other transfer learning methods evaluated. Therefore, the two methods are promising in the study of optimization of CNN.Pesquisa sem auxílio de agências de fomentoDissertação (Mestrado)porUniversidade Federal de UberlândiaPrograma de Pós-graduação em Ciência da ComputaçãoBrasilhttp://creativecommons.org/licenses/by/3.0/us/info:eu-repo/semantics/openAccessCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAOCiência da ComputaçãoInteligência ArtificialRedes neurais (Computação)Aprendizagem de MáquinaRedes Neurais ConvolucionaisAlgoritmos GenéticosOtimizaçãoNeuroevoluçãoMachine LearningConvolutional Neural NetworksGenetic AlgorithmsNeuroevolutionAbordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticosEvolutionary approaches to optimize convolutional neural networks based on genetic algorithmsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisAmaral, Laurence Rodrigues dohttp://lattes.cnpq.br/6978567037098928Carneiro, Murillo Guimarãeshttp://lattes.cnpq.br/8158868389973535Santos, Edimilson Batista doshttp://lattes.cnpq.br/3711618829552343http://lattes.cnpq.br/6443466181339873Mendes, Raphael de Lima86107681619reponame:Repositório Institucional da UFUinstname:Universidade Federal de Uberlândia (UFU)instacron:UFUORIGINALAbordagensEvolutivasOtimização.pdfAbordagensEvolutivasOtimização.pdfapplication/pdf3722262https://repositorio.ufu.br/bitstream/123456789/34044/4/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf9040475d011086b3925b59c592588406MD54CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8914https://repositorio.ufu.br/bitstream/123456789/34044/5/license_rdf2b2ab6ec8a6a222739b9c0e57c635c2eMD55LICENSElicense.txtlicense.txttext/plain; charset=utf-81792https://repositorio.ufu.br/bitstream/123456789/34044/6/license.txt48ded82ce41b8d2426af12aed6b3cbf3MD56TEXTAbordagensEvolutivasOtimização.pdf.txtAbordagensEvolutivasOtimização.pdf.txtExtracted texttext/plain123966https://repositorio.ufu.br/bitstream/123456789/34044/7/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.txt1f64cef545a4bbf88df0a1b453c46c79MD57THUMBNAILAbordagensEvolutivasOtimização.pdf.jpgAbordagensEvolutivasOtimização.pdf.jpgGenerated Thumbnailimage/jpeg1359https://repositorio.ufu.br/bitstream/123456789/34044/8/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.jpg9eb3ccbc1ddfaa6b8c4b4a813580c6dfMD58123456789/340442022-02-07 14:47:20.969oai:repositorio.ufu.br:123456789/34044w4kgbmVjZXNzw6FyaW8gY29uY29yZGFyIGNvbSBhIGxpY2Vuw6dhIGRlIGRpc3RyaWJ1acOnw6NvIG7Do28tZXhjbHVzaXZhLCBhbnRlcyBxdWUgbyBkb2N1bWVudG8gcG9zc2EgYXBhcmVjZXIgbm8gUmVwb3NpdMOzcmlvLiBQb3IgZmF2b3IsIGxlaWEgYSBsaWNlbsOnYSBhdGVudGFtZW50ZS4gQ2FzbyBuZWNlc3NpdGUgZGUgYWxndW0gZXNjbGFyZWNpbWVudG8gZW50cmUgZW0gY29udGF0byBhdHJhdsOpcyBkbyBlLW1haWwgIHJlcG9zaXRvcmlvQHVmdS5ici4KCkxJQ0VOw4dBIERFIERJU1RSSUJVScOHw4NPIE7Dg08tRVhDTFVTSVZBCgpBbyBhc3NpbmFyIGUgZW50cmVnYXIgZXN0YSBsaWNlbsOnYSwgby9hIFNyLi9TcmEuIChhdXRvciBvdSBkZXRlbnRvciBkb3MgZGlyZWl0b3MgZGUgYXV0b3IpOgoKYSkgQ29uY2VkZSDDoCBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBVYmVybMOibmRpYSBvIGRpcmVpdG8gbsOjby1leGNsdXNpdm8gZGUgcmVwcm9kdXppciwgY29udmVydGVyIChjb21vIGRlZmluaWRvIGFiYWl4byksIGNvbXVuaWNhciBlL291IGRpc3RyaWJ1aXIgbyBkb2N1bWVudG8gZW50cmVndWUgKGluY2x1aW5kbyBvIHJlc3Vtby9hYnN0cmFjdCkgZW0gZm9ybWF0byBkaWdpdGFsIG91IGltcHJlc3NvIGUgZW0gcXVhbHF1ZXIgbWVpby4KCmIpIERlY2xhcmEgcXVlIG8gZG9jdW1lbnRvIGVudHJlZ3VlIMOpIHNldSB0cmFiYWxobyBvcmlnaW5hbCwgZSBxdWUgZGV0w6ltIG8gZGlyZWl0byBkZSBjb25jZWRlciBvcyBkaXJlaXRvcyBjb250aWRvcyBuZXN0YSBsaWNlbsOnYS4gRGVjbGFyYSB0YW1iw6ltIHF1ZSBhIGVudHJlZ2EgZG8gZG9jdW1lbnRvIG7Do28gaW5mcmluZ2UsIHRhbnRvIHF1YW50byBsaGUgw6kgcG9zc8OtdmVsIHNhYmVyLCBvcyBkaXJlaXRvcyBkZSBxdWFscXVlciBvdXRyYSBwZXNzb2Egb3UgZW50aWRhZGUuCgpjKSBTZSBvIGRvY3VtZW50byBlbnRyZWd1ZSBjb250w6ltIG1hdGVyaWFsIGRvIHF1YWwgbsOjbyBkZXTDqW0gb3MgZGlyZWl0b3MgZGUgYXV0b3IsIGRlY2xhcmEgcXVlIG9idGV2ZSBhdXRvcml6YcOnw6NvIGRvIGRldGVudG9yIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBwYXJhIGNvbmNlZGVyIMOgIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIFViZXJsw6JuZGlhIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgY3Vqb3MgZGlyZWl0b3Mgc8OjbyBkZSB0ZXJjZWlyb3MgZXN0w6EgY2xhcmFtZW50ZSBpZGVudGlmaWNhZG8gZSByZWNvbmhlY2lkbyBubyB0ZXh0byBvdSBjb250ZcO6ZG8gZG8gZG9jdW1lbnRvIGVudHJlZ3VlLgoKU2UgbyBkb2N1bWVudG8gZW50cmVndWUgw6kgYmFzZWFkbyBlbSB0cmFiYWxobyBmaW5hbmNpYWRvIG91IGFwb2lhZG8gcG9yIG91dHJhIGluc3RpdHVpw6fDo28gcXVlIG7Do28gYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBVYmVybMOibmRpYSwgZGVjbGFyYSBxdWUgY3VtcHJpdSBxdWFpc3F1ZXIgb2JyaWdhw6fDtWVzIGV4aWdpZGFzIHBlbG8gcmVzcGVjdGl2byBjb250cmF0byBvdSBhY29yZG8uCgpBIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIFViZXJsw6JuZGlhIGlkZW50aWZpY2Fyw6EgY2xhcmFtZW50ZSBvKHMpIHNldShzKSBub21lKHMpIGNvbW8gbyhzKSBhdXRvcihlcykgb3UgZGV0ZW50b3IgKGVzKSBkb3MgZGlyZWl0b3MgZG8gZG9jdW1lbnRvIGVudHJlZ3VlLCBlIG7Do28gZmFyw6EgcXVhbHF1ZXIgYWx0ZXJhw6fDo28sIHBhcmEgYWzDqW0gZGFzIHBlcm1pdGlkYXMgcG9yIGVzdGEgbGljZW7Dp2EuCg==Repositório InstitucionalONGhttp://repositorio.ufu.br/oai/requestdiinf@dirbi.ufu.bropendoar:2022-02-07T17:47:20Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU)false |
dc.title.pt_BR.fl_str_mv |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
dc.title.alternative.pt_BR.fl_str_mv |
Evolutionary approaches to optimize convolutional neural networks based on genetic algorithms |
title |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
spellingShingle |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos Mendes, Raphael de Lima CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Aprendizagem de Máquina Redes Neurais Convolucionais Algoritmos Genéticos Otimização Neuroevolução Machine Learning Convolutional Neural Networks Genetic Algorithms Neuroevolution Ciência da Computação Inteligência Artificial Redes neurais (Computação) |
title_short |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
title_full |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
title_fullStr |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
title_full_unstemmed |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
title_sort |
Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos |
author |
Mendes, Raphael de Lima |
author_facet |
Mendes, Raphael de Lima |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Amaral, Laurence Rodrigues do |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/6978567037098928 |
dc.contributor.referee1.fl_str_mv |
Carneiro, Murillo Guimarães |
dc.contributor.referee1Lattes.fl_str_mv |
http://lattes.cnpq.br/8158868389973535 |
dc.contributor.referee2.fl_str_mv |
Santos, Edimilson Batista dos |
dc.contributor.referee2Lattes.fl_str_mv |
http://lattes.cnpq.br/3711618829552343 |
dc.contributor.authorLattes.fl_str_mv |
http://lattes.cnpq.br/6443466181339873 |
dc.contributor.author.fl_str_mv |
Mendes, Raphael de Lima |
contributor_str_mv |
Amaral, Laurence Rodrigues do Carneiro, Murillo Guimarães Santos, Edimilson Batista dos |
dc.subject.cnpq.fl_str_mv |
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO |
topic |
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Aprendizagem de Máquina Redes Neurais Convolucionais Algoritmos Genéticos Otimização Neuroevolução Machine Learning Convolutional Neural Networks Genetic Algorithms Neuroevolution Ciência da Computação Inteligência Artificial Redes neurais (Computação) |
dc.subject.por.fl_str_mv |
Aprendizagem de Máquina Redes Neurais Convolucionais Algoritmos Genéticos Otimização Neuroevolução Machine Learning Convolutional Neural Networks Genetic Algorithms Neuroevolution |
dc.subject.autorizado.pt_BR.fl_str_mv |
Ciência da Computação Inteligência Artificial Redes neurais (Computação) |
description |
As Redes Neurais Convolucionais (CNN) são consideradas o estado da arte em aplicações de visão computacional. Entretanto, a construção de modelos de aprendizagem de máquina utilizando essa tecnologia ainda requer a otimização de parâmetros, hiperparâmetros e desafios como a quantidade de dados para treinamento. Algoritmos Genéticos (AG) apresentam-se como uma técnica promissora para otimizar diversos aspectos das CNN. Este trabalho apresenta duas abordagens para otimização de CNNs utilizando AGs: gaCNN, para a otimização arquitetural e MLTLGA, para a otimização de aprendizagem por transferência. No método gaCNN, foi proposta uma codificação de cromossomo para incorporar funções de ativação e novos operadores de mutação, estas mudanças permitiram que o método superasse o desempenho de 9 dos 13 métodos avaliados em acurácia de classificação. No método MLTLGA, foi proposto um novo processo de inicialização que apresentou resultados superiores em pelo menos 2% de acurácia de classificação a todos os outros métodos de aprendizagem por transferência avaliados no trabalho. Dessa forma, apresentando métodos promissores no contexto de otimização de CNNs. |
publishDate |
2021 |
dc.date.issued.fl_str_mv |
2021-12-17 |
dc.date.accessioned.fl_str_mv |
2022-02-04T13:43:54Z |
dc.date.available.fl_str_mv |
2022-02-04T13:43:54Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
MENDES, Raphael de Lima. Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos. 2021. 86 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Uberlândia, Uberlândia, 2021. DOI http://doi.org/10.14393/ufu.di.2021.694. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufu.br/handle/123456789/34044 |
dc.identifier.doi.pt_BR.fl_str_mv |
http://doi.org/10.14393/ufu.di.2021.694 |
identifier_str_mv |
MENDES, Raphael de Lima. Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos. 2021. 86 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Uberlândia, Uberlândia, 2021. DOI http://doi.org/10.14393/ufu.di.2021.694. |
url |
https://repositorio.ufu.br/handle/123456789/34044 http://doi.org/10.14393/ufu.di.2021.694 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
http://creativecommons.org/licenses/by/3.0/us/ info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
http://creativecommons.org/licenses/by/3.0/us/ |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal de Uberlândia |
dc.publisher.program.fl_str_mv |
Programa de Pós-graduação em Ciência da Computação |
dc.publisher.country.fl_str_mv |
Brasil |
publisher.none.fl_str_mv |
Universidade Federal de Uberlândia |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFU instname:Universidade Federal de Uberlândia (UFU) instacron:UFU |
instname_str |
Universidade Federal de Uberlândia (UFU) |
instacron_str |
UFU |
institution |
UFU |
reponame_str |
Repositório Institucional da UFU |
collection |
Repositório Institucional da UFU |
bitstream.url.fl_str_mv |
https://repositorio.ufu.br/bitstream/123456789/34044/4/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf https://repositorio.ufu.br/bitstream/123456789/34044/5/license_rdf https://repositorio.ufu.br/bitstream/123456789/34044/6/license.txt https://repositorio.ufu.br/bitstream/123456789/34044/7/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.txt https://repositorio.ufu.br/bitstream/123456789/34044/8/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.jpg |
bitstream.checksum.fl_str_mv |
9040475d011086b3925b59c592588406 2b2ab6ec8a6a222739b9c0e57c635c2e 48ded82ce41b8d2426af12aed6b3cbf3 1f64cef545a4bbf88df0a1b453c46c79 9eb3ccbc1ddfaa6b8c4b4a813580c6df |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU) |
repository.mail.fl_str_mv |
diinf@dirbi.ufu.br |
_version_ |
1802110396618768384 |