Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos

Detalhes bibliográficos
Autor(a) principal: Mendes, Raphael de Lima
Data de Publicação: 2021
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFU
Texto Completo: https://repositorio.ufu.br/handle/123456789/34044
http://doi.org/10.14393/ufu.di.2021.694
Resumo: As Redes Neurais Convolucionais (CNN) são consideradas o estado da arte em aplicações de visão computacional. Entretanto, a construção de modelos de aprendizagem de máquina utilizando essa tecnologia ainda requer a otimização de parâmetros, hiperparâmetros e desafios como a quantidade de dados para treinamento. Algoritmos Genéticos (AG) apresentam-se como uma técnica promissora para otimizar diversos aspectos das CNN. Este trabalho apresenta duas abordagens para otimização de CNNs utilizando AGs: gaCNN, para a otimização arquitetural e MLTLGA, para a otimização de aprendizagem por transferência. No método gaCNN, foi proposta uma codificação de cromossomo para incorporar funções de ativação e novos operadores de mutação, estas mudanças permitiram que o método superasse o desempenho de 9 dos 13 métodos avaliados em acurácia de classificação. No método MLTLGA, foi proposto um novo processo de inicialização que apresentou resultados superiores em pelo menos 2% de acurácia de classificação a todos os outros métodos de aprendizagem por transferência avaliados no trabalho. Dessa forma, apresentando métodos promissores no contexto de otimização de CNNs.
id UFU_1093b63ac95419c8527c6b1160c9dd7f
oai_identifier_str oai:repositorio.ufu.br:123456789/34044
network_acronym_str UFU
network_name_str Repositório Institucional da UFU
repository_id_str
spelling 2022-02-04T13:43:54Z2022-02-04T13:43:54Z2021-12-17MENDES, Raphael de Lima. Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos. 2021. 86 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Uberlândia, Uberlândia, 2021. DOI http://doi.org/10.14393/ufu.di.2021.694.https://repositorio.ufu.br/handle/123456789/34044http://doi.org/10.14393/ufu.di.2021.694As Redes Neurais Convolucionais (CNN) são consideradas o estado da arte em aplicações de visão computacional. Entretanto, a construção de modelos de aprendizagem de máquina utilizando essa tecnologia ainda requer a otimização de parâmetros, hiperparâmetros e desafios como a quantidade de dados para treinamento. Algoritmos Genéticos (AG) apresentam-se como uma técnica promissora para otimizar diversos aspectos das CNN. Este trabalho apresenta duas abordagens para otimização de CNNs utilizando AGs: gaCNN, para a otimização arquitetural e MLTLGA, para a otimização de aprendizagem por transferência. No método gaCNN, foi proposta uma codificação de cromossomo para incorporar funções de ativação e novos operadores de mutação, estas mudanças permitiram que o método superasse o desempenho de 9 dos 13 métodos avaliados em acurácia de classificação. No método MLTLGA, foi proposto um novo processo de inicialização que apresentou resultados superiores em pelo menos 2% de acurácia de classificação a todos os outros métodos de aprendizagem por transferência avaliados no trabalho. Dessa forma, apresentando métodos promissores no contexto de otimização de CNNs.Convolutional Neural Networks (CNN) are considered the state-of-the-art in computer vision applications. However, building machine learning models such method still requires the parameter and hyperparameter tuning, and considerably large training datasets. Genetic Algorithms (GA) can be a promising technique to optimize various aspects of CNNs. In this work, two approaches to optimize CNN using GA are proposed: gaCNN, for architectural optimization and MLTLGA, for transfer learning optimization. In the gaCNN, a new individual codification strategy for activation functions is proposed alongside new mutation operators. The proposed method outperformed 9 out 13 methods evaluated in classification accuracy. In the MLTLGA, a new initialization operation is presented that outperformed by at least 2% the other transfer learning methods evaluated. Therefore, the two methods are promising in the study of optimization of CNN.Pesquisa sem auxílio de agências de fomentoDissertação (Mestrado)porUniversidade Federal de UberlândiaPrograma de Pós-graduação em Ciência da ComputaçãoBrasilhttp://creativecommons.org/licenses/by/3.0/us/info:eu-repo/semantics/openAccessCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAOCiência da ComputaçãoInteligência ArtificialRedes neurais (Computação)Aprendizagem de MáquinaRedes Neurais ConvolucionaisAlgoritmos GenéticosOtimizaçãoNeuroevoluçãoMachine LearningConvolutional Neural NetworksGenetic AlgorithmsNeuroevolutionAbordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticosEvolutionary approaches to optimize convolutional neural networks based on genetic algorithmsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisAmaral, Laurence Rodrigues dohttp://lattes.cnpq.br/6978567037098928Carneiro, Murillo Guimarãeshttp://lattes.cnpq.br/8158868389973535Santos, Edimilson Batista doshttp://lattes.cnpq.br/3711618829552343http://lattes.cnpq.br/6443466181339873Mendes, Raphael de Lima86107681619reponame:Repositório Institucional da UFUinstname:Universidade Federal de Uberlândia (UFU)instacron:UFUORIGINALAbordagensEvolutivasOtimização.pdfAbordagensEvolutivasOtimização.pdfapplication/pdf3722262https://repositorio.ufu.br/bitstream/123456789/34044/4/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf9040475d011086b3925b59c592588406MD54CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8914https://repositorio.ufu.br/bitstream/123456789/34044/5/license_rdf2b2ab6ec8a6a222739b9c0e57c635c2eMD55LICENSElicense.txtlicense.txttext/plain; charset=utf-81792https://repositorio.ufu.br/bitstream/123456789/34044/6/license.txt48ded82ce41b8d2426af12aed6b3cbf3MD56TEXTAbordagensEvolutivasOtimização.pdf.txtAbordagensEvolutivasOtimização.pdf.txtExtracted texttext/plain123966https://repositorio.ufu.br/bitstream/123456789/34044/7/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.txt1f64cef545a4bbf88df0a1b453c46c79MD57THUMBNAILAbordagensEvolutivasOtimização.pdf.jpgAbordagensEvolutivasOtimização.pdf.jpgGenerated Thumbnailimage/jpeg1359https://repositorio.ufu.br/bitstream/123456789/34044/8/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.jpg9eb3ccbc1ddfaa6b8c4b4a813580c6dfMD58123456789/340442022-02-07 14:47:20.969oai:repositorio.ufu.br:123456789/34044w4kgbmVjZXNzw6FyaW8gY29uY29yZGFyIGNvbSBhIGxpY2Vuw6dhIGRlIGRpc3RyaWJ1acOnw6NvIG7Do28tZXhjbHVzaXZhLCBhbnRlcyBxdWUgbyBkb2N1bWVudG8gcG9zc2EgYXBhcmVjZXIgbm8gUmVwb3NpdMOzcmlvLiBQb3IgZmF2b3IsIGxlaWEgYSBsaWNlbsOnYSBhdGVudGFtZW50ZS4gQ2FzbyBuZWNlc3NpdGUgZGUgYWxndW0gZXNjbGFyZWNpbWVudG8gZW50cmUgZW0gY29udGF0byBhdHJhdsOpcyBkbyBlLW1haWwgIHJlcG9zaXRvcmlvQHVmdS5ici4KCkxJQ0VOw4dBIERFIERJU1RSSUJVScOHw4NPIE7Dg08tRVhDTFVTSVZBCgpBbyBhc3NpbmFyIGUgZW50cmVnYXIgZXN0YSBsaWNlbsOnYSwgby9hIFNyLi9TcmEuIChhdXRvciBvdSBkZXRlbnRvciBkb3MgZGlyZWl0b3MgZGUgYXV0b3IpOgoKYSkgQ29uY2VkZSDDoCBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBVYmVybMOibmRpYSBvIGRpcmVpdG8gbsOjby1leGNsdXNpdm8gZGUgcmVwcm9kdXppciwgY29udmVydGVyIChjb21vIGRlZmluaWRvIGFiYWl4byksIGNvbXVuaWNhciBlL291IGRpc3RyaWJ1aXIgbyBkb2N1bWVudG8gZW50cmVndWUgKGluY2x1aW5kbyBvIHJlc3Vtby9hYnN0cmFjdCkgZW0gZm9ybWF0byBkaWdpdGFsIG91IGltcHJlc3NvIGUgZW0gcXVhbHF1ZXIgbWVpby4KCmIpIERlY2xhcmEgcXVlIG8gZG9jdW1lbnRvIGVudHJlZ3VlIMOpIHNldSB0cmFiYWxobyBvcmlnaW5hbCwgZSBxdWUgZGV0w6ltIG8gZGlyZWl0byBkZSBjb25jZWRlciBvcyBkaXJlaXRvcyBjb250aWRvcyBuZXN0YSBsaWNlbsOnYS4gRGVjbGFyYSB0YW1iw6ltIHF1ZSBhIGVudHJlZ2EgZG8gZG9jdW1lbnRvIG7Do28gaW5mcmluZ2UsIHRhbnRvIHF1YW50byBsaGUgw6kgcG9zc8OtdmVsIHNhYmVyLCBvcyBkaXJlaXRvcyBkZSBxdWFscXVlciBvdXRyYSBwZXNzb2Egb3UgZW50aWRhZGUuCgpjKSBTZSBvIGRvY3VtZW50byBlbnRyZWd1ZSBjb250w6ltIG1hdGVyaWFsIGRvIHF1YWwgbsOjbyBkZXTDqW0gb3MgZGlyZWl0b3MgZGUgYXV0b3IsIGRlY2xhcmEgcXVlIG9idGV2ZSBhdXRvcml6YcOnw6NvIGRvIGRldGVudG9yIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBwYXJhIGNvbmNlZGVyIMOgIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIFViZXJsw6JuZGlhIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgY3Vqb3MgZGlyZWl0b3Mgc8OjbyBkZSB0ZXJjZWlyb3MgZXN0w6EgY2xhcmFtZW50ZSBpZGVudGlmaWNhZG8gZSByZWNvbmhlY2lkbyBubyB0ZXh0byBvdSBjb250ZcO6ZG8gZG8gZG9jdW1lbnRvIGVudHJlZ3VlLgoKU2UgbyBkb2N1bWVudG8gZW50cmVndWUgw6kgYmFzZWFkbyBlbSB0cmFiYWxobyBmaW5hbmNpYWRvIG91IGFwb2lhZG8gcG9yIG91dHJhIGluc3RpdHVpw6fDo28gcXVlIG7Do28gYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBVYmVybMOibmRpYSwgZGVjbGFyYSBxdWUgY3VtcHJpdSBxdWFpc3F1ZXIgb2JyaWdhw6fDtWVzIGV4aWdpZGFzIHBlbG8gcmVzcGVjdGl2byBjb250cmF0byBvdSBhY29yZG8uCgpBIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIFViZXJsw6JuZGlhIGlkZW50aWZpY2Fyw6EgY2xhcmFtZW50ZSBvKHMpIHNldShzKSBub21lKHMpIGNvbW8gbyhzKSBhdXRvcihlcykgb3UgZGV0ZW50b3IgKGVzKSBkb3MgZGlyZWl0b3MgZG8gZG9jdW1lbnRvIGVudHJlZ3VlLCBlIG7Do28gZmFyw6EgcXVhbHF1ZXIgYWx0ZXJhw6fDo28sIHBhcmEgYWzDqW0gZGFzIHBlcm1pdGlkYXMgcG9yIGVzdGEgbGljZW7Dp2EuCg==Repositório InstitucionalONGhttp://repositorio.ufu.br/oai/requestdiinf@dirbi.ufu.bropendoar:2022-02-07T17:47:20Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU)false
dc.title.pt_BR.fl_str_mv Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
dc.title.alternative.pt_BR.fl_str_mv Evolutionary approaches to optimize convolutional neural networks based on genetic algorithms
title Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
spellingShingle Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
Mendes, Raphael de Lima
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
Aprendizagem de Máquina
Redes Neurais Convolucionais
Algoritmos Genéticos
Otimização
Neuroevolução
Machine Learning
Convolutional Neural Networks
Genetic Algorithms
Neuroevolution
Ciência da Computação
Inteligência Artificial
Redes neurais (Computação)
title_short Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
title_full Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
title_fullStr Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
title_full_unstemmed Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
title_sort Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos
author Mendes, Raphael de Lima
author_facet Mendes, Raphael de Lima
author_role author
dc.contributor.advisor1.fl_str_mv Amaral, Laurence Rodrigues do
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/6978567037098928
dc.contributor.referee1.fl_str_mv Carneiro, Murillo Guimarães
dc.contributor.referee1Lattes.fl_str_mv http://lattes.cnpq.br/8158868389973535
dc.contributor.referee2.fl_str_mv Santos, Edimilson Batista dos
dc.contributor.referee2Lattes.fl_str_mv http://lattes.cnpq.br/3711618829552343
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/6443466181339873
dc.contributor.author.fl_str_mv Mendes, Raphael de Lima
contributor_str_mv Amaral, Laurence Rodrigues do
Carneiro, Murillo Guimarães
Santos, Edimilson Batista dos
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
topic CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
Aprendizagem de Máquina
Redes Neurais Convolucionais
Algoritmos Genéticos
Otimização
Neuroevolução
Machine Learning
Convolutional Neural Networks
Genetic Algorithms
Neuroevolution
Ciência da Computação
Inteligência Artificial
Redes neurais (Computação)
dc.subject.por.fl_str_mv Aprendizagem de Máquina
Redes Neurais Convolucionais
Algoritmos Genéticos
Otimização
Neuroevolução
Machine Learning
Convolutional Neural Networks
Genetic Algorithms
Neuroevolution
dc.subject.autorizado.pt_BR.fl_str_mv Ciência da Computação
Inteligência Artificial
Redes neurais (Computação)
description As Redes Neurais Convolucionais (CNN) são consideradas o estado da arte em aplicações de visão computacional. Entretanto, a construção de modelos de aprendizagem de máquina utilizando essa tecnologia ainda requer a otimização de parâmetros, hiperparâmetros e desafios como a quantidade de dados para treinamento. Algoritmos Genéticos (AG) apresentam-se como uma técnica promissora para otimizar diversos aspectos das CNN. Este trabalho apresenta duas abordagens para otimização de CNNs utilizando AGs: gaCNN, para a otimização arquitetural e MLTLGA, para a otimização de aprendizagem por transferência. No método gaCNN, foi proposta uma codificação de cromossomo para incorporar funções de ativação e novos operadores de mutação, estas mudanças permitiram que o método superasse o desempenho de 9 dos 13 métodos avaliados em acurácia de classificação. No método MLTLGA, foi proposto um novo processo de inicialização que apresentou resultados superiores em pelo menos 2% de acurácia de classificação a todos os outros métodos de aprendizagem por transferência avaliados no trabalho. Dessa forma, apresentando métodos promissores no contexto de otimização de CNNs.
publishDate 2021
dc.date.issued.fl_str_mv 2021-12-17
dc.date.accessioned.fl_str_mv 2022-02-04T13:43:54Z
dc.date.available.fl_str_mv 2022-02-04T13:43:54Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv MENDES, Raphael de Lima. Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos. 2021. 86 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Uberlândia, Uberlândia, 2021. DOI http://doi.org/10.14393/ufu.di.2021.694.
dc.identifier.uri.fl_str_mv https://repositorio.ufu.br/handle/123456789/34044
dc.identifier.doi.pt_BR.fl_str_mv http://doi.org/10.14393/ufu.di.2021.694
identifier_str_mv MENDES, Raphael de Lima. Abordagens evolutivas para otimização de redes neurais convolucionais baseadas em algoritmos genéticos. 2021. 86 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Uberlândia, Uberlândia, 2021. DOI http://doi.org/10.14393/ufu.di.2021.694.
url https://repositorio.ufu.br/handle/123456789/34044
http://doi.org/10.14393/ufu.di.2021.694
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv http://creativecommons.org/licenses/by/3.0/us/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv http://creativecommons.org/licenses/by/3.0/us/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Uberlândia
dc.publisher.program.fl_str_mv Programa de Pós-graduação em Ciência da Computação
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal de Uberlândia
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFU
instname:Universidade Federal de Uberlândia (UFU)
instacron:UFU
instname_str Universidade Federal de Uberlândia (UFU)
instacron_str UFU
institution UFU
reponame_str Repositório Institucional da UFU
collection Repositório Institucional da UFU
bitstream.url.fl_str_mv https://repositorio.ufu.br/bitstream/123456789/34044/4/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf
https://repositorio.ufu.br/bitstream/123456789/34044/5/license_rdf
https://repositorio.ufu.br/bitstream/123456789/34044/6/license.txt
https://repositorio.ufu.br/bitstream/123456789/34044/7/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.txt
https://repositorio.ufu.br/bitstream/123456789/34044/8/AbordagensEvolutivasOtimiza%c3%a7%c3%a3o.pdf.jpg
bitstream.checksum.fl_str_mv 9040475d011086b3925b59c592588406
2b2ab6ec8a6a222739b9c0e57c635c2e
48ded82ce41b8d2426af12aed6b3cbf3
1f64cef545a4bbf88df0a1b453c46c79
9eb3ccbc1ddfaa6b8c4b4a813580c6df
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU)
repository.mail.fl_str_mv diinf@dirbi.ufu.br
_version_ 1802110396618768384