Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana

Detalhes bibliográficos
Autor(a) principal: Melo Neto, Johnathan Mayke
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFJF
Texto Completo: https://repositorio.ufjf.br/jspui/handle/ufjf/10030
Resumo: Na área de aprendizado de máquina, o problema de classificação de dados consiste em rotular corretamente instâncias desconhecidas com base nos rótulos de um conjunto de instâncias conhecidas. Um importante método para a resolução de problemas de classificação de dados é denominado redes neurais artificiais (RNAs). As RNAs são métodos computacionais bioinspirados, cujos parâmetros devem ser corretamente ajustados a fim de resolver uma dada tarefa de aprendizado. A topologia e os pesos são parâmetros determinantes para o desempenho desses métodos. Apesar da importância das RNAs em situações práticas, e dos diversos trabalhos disponíveis na literatura, o ajuste de seus parâmetros ainda é considerado um problema atual. Portanto, o desenvolvimento de estratégias para auxiliar os usuários durante a modelagem das RNAs é relevante. Uma dessas estratégias consiste em utilizar algoritmos evolutivos (EAs) para otimizar os parâmetros das RNAs. A combinação de RNAs e EAs é denominada neuroevolução. Este trabalho propõe novos métodos neuroevolutivos híbridos baseados em programação genética cartesiana (CGP) para a construção de RNAs. Os métodos realizam o desacoplamento dos processos de otimização da topologia e dos pesos para gerar as RNAs. A otimização da topologia é feita pela CGP. Para a otimização dos pesos, duas técnicas são utilizadas separadamente: (i) evolução diferencial (DE), e (ii) backpropagation (BP). Nos experimentos computacionais, os modelos gerados foram aplicados a dezoito problemas de classificação, utilizando bases de dados benchmark da literatura. Há experimentos com bases balanceadas e outros com bases desbalanceadas. Os modelos foram submetidos a três estudos de desempenho. O primeiro estudo avaliou o desempenho dos modelos utilizando a acurácia como função objetivo. O segundo estudo avaliou o desempenho dos modelos utilizando o erro quadrático médio como função objetivo. O terceiro estudo utilizou os modelos para avaliar o desempenho de quatro funções objetivo distintas: acurácia, G-mean, F β-score, e área abaixo da curva ROC. Os resultados mostraram a superioridade das propostas quando comparadas a técnicas alternativas existentes na literatura.
id UFJF_c3d923ba73a7ca62fba7e04c04c1d6dd
oai_identifier_str oai:hermes.cpd.ufjf.br:ufjf/10030
network_acronym_str UFJF
network_name_str Repositório Institucional da UFJF
repository_id_str
spelling Bernardino, Heder Soareshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4742940J5Barbosa, Helio José Corrêahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781805Y9Fonseca, Leonardo Goliatt dahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4771799H1Augusto, Douglas Adrianohttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4765815T0http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K8718448P1Melo Neto, Johnathan Mayke2019-05-17T12:16:01Z2019-05-172019-05-17T12:16:01Z2019-02-22https://repositorio.ufjf.br/jspui/handle/ufjf/10030Na área de aprendizado de máquina, o problema de classificação de dados consiste em rotular corretamente instâncias desconhecidas com base nos rótulos de um conjunto de instâncias conhecidas. Um importante método para a resolução de problemas de classificação de dados é denominado redes neurais artificiais (RNAs). As RNAs são métodos computacionais bioinspirados, cujos parâmetros devem ser corretamente ajustados a fim de resolver uma dada tarefa de aprendizado. A topologia e os pesos são parâmetros determinantes para o desempenho desses métodos. Apesar da importância das RNAs em situações práticas, e dos diversos trabalhos disponíveis na literatura, o ajuste de seus parâmetros ainda é considerado um problema atual. Portanto, o desenvolvimento de estratégias para auxiliar os usuários durante a modelagem das RNAs é relevante. Uma dessas estratégias consiste em utilizar algoritmos evolutivos (EAs) para otimizar os parâmetros das RNAs. A combinação de RNAs e EAs é denominada neuroevolução. Este trabalho propõe novos métodos neuroevolutivos híbridos baseados em programação genética cartesiana (CGP) para a construção de RNAs. Os métodos realizam o desacoplamento dos processos de otimização da topologia e dos pesos para gerar as RNAs. A otimização da topologia é feita pela CGP. Para a otimização dos pesos, duas técnicas são utilizadas separadamente: (i) evolução diferencial (DE), e (ii) backpropagation (BP). Nos experimentos computacionais, os modelos gerados foram aplicados a dezoito problemas de classificação, utilizando bases de dados benchmark da literatura. Há experimentos com bases balanceadas e outros com bases desbalanceadas. Os modelos foram submetidos a três estudos de desempenho. O primeiro estudo avaliou o desempenho dos modelos utilizando a acurácia como função objetivo. O segundo estudo avaliou o desempenho dos modelos utilizando o erro quadrático médio como função objetivo. O terceiro estudo utilizou os modelos para avaliar o desempenho de quatro funções objetivo distintas: acurácia, G-mean, F β-score, e área abaixo da curva ROC. Os resultados mostraram a superioridade das propostas quando comparadas a técnicas alternativas existentes na literatura.In machine learning, the problem of data classification consists of correctly labeling unknown instances based on the labels of a set of known instances. An important method for solving data classification problems is called artificial neural networks (ANNs). ANNs are bioinspired computational methods, whose parameters must be correctly adjusted in order to solve a given learning task. Topology and weights are determining parameters for the performance of these methods. Despite the significance of ANNs in practical situations, and the several works available in the literature, to adjust its parameters remains as a current problem. Hence, the development of strategies to assist users during ANN modeling is relevant. One of these strategies is to use evolutionary algorithms (EAs) to optimize ANN parameters. The combination of ANNs and EAs is called neuroevolution. This work proposes new hybrid neuroevolutionary methods based on cartesian genetic programming (CGP) for the construction of ANNs. The methods carry out a decoupled optimization of the topology and the weights to generate the ANNs. Topology optimization is performed by CGP. For the weights optimization, two techniques are used separately: (i) differential evolution (DE), and (ii) backpropagation (BP). In the computational experiments these models were applied to eighteen data classification problems using benchmark datasets from the literature. There are experiments with balanced datasets and others with unbalanced datasets. The models were submitted to three performance studies. The first study evaluated the performance of the models using accuracy as the objective function. The second one evaluated the performance of the models using the mean square error as the objective function. The third study used the models to evaluate the performance of four distinct objective functions: accuracy, G-mean, Fβ-score, and area under the ROC curve. The results showed the superiority of the proposals when compared to alternative techniques from the literature.FAPEMIG - Fundação de Amparo à Pesquisa do Estado de Minas GeraisporUniversidade Federal de Juiz de Fora (UFJF)Programa de Pós-graduação em Modelagem ComputacionalUFJFBrasilICE – Instituto de Ciências ExatasCNPQ::CIENCIAS EXATAS E DA TERRANeuroevoluçãoHibridizaçãoProgramação genética cartesianaClassificação de dadosNeuroevolutionHybridizationCartesian genetic programmingData classificationModelos híbridos para construção de redes neurais artificiais via programação genética cartesianainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFJFinstname:Universidade Federal de Juiz de Fora (UFJF)instacron:UFJFTHUMBNAILjohnathanmaykemeloneto.pdf.jpgjohnathanmaykemeloneto.pdf.jpgGenerated Thumbnailimage/jpeg1146https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/4/johnathanmaykemeloneto.pdf.jpg09cb1de638b8c67b1978b4328667f052MD54ORIGINALjohnathanmaykemeloneto.pdfjohnathanmaykemeloneto.pdfapplication/pdf1259146https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/1/johnathanmaykemeloneto.pdfb309168e0d9407ef80af9b6d61510319MD51LICENSElicense.txtlicense.txttext/plain; charset=utf-82197https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/2/license.txt000e18a5aee6ca21bb5811ddf55fc37bMD52TEXTjohnathanmaykemeloneto.pdf.txtjohnathanmaykemeloneto.pdf.txtExtracted texttext/plain248228https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/3/johnathanmaykemeloneto.pdf.txt60ac107200b4bb9bee4237e324d7aba0MD53ufjf/100302019-06-16 13:47:41.353oai:hermes.cpd.ufjf.br:ufjf/10030TElDRU7vv71BIERFIERJU1RSSUJVSe+/ve+/vU8gTu+/vU8tRVhDTFVTSVZBCgpDb20gYSBhcHJlc2VudGHvv73vv71vIGRlc3RhIGxpY2Vu77+9YSwgdm9j77+9IChvIGF1dG9yIChlcykgb3UgbyB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvcikgY29uY2VkZSBhbyBSZXBvc2l077+9cmlvIApJbnN0aXR1Y2lvbmFsIGRhIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIEp1aXogZGUgRm9yYSBvIGRpcmVpdG8gbu+/vW8tZXhjbHVzaXZvIGRlIHJlcHJvZHV6aXIsIHRyYWR1emlyIChjb25mb3JtZSBkZWZpbmlkbyBhYmFpeG8pLCBlL291IGRpc3RyaWJ1aXIgYSBzdWEgcHVibGljYe+/ve+/vW8gKGluY2x1aW5kbyBvIHJlc3VtbykgcG9yIHRvZG8gbyBtdW5kbyBubyBmb3JtYXRvIGltcHJlc3NvIGUgZWxldHLvv71uaWNvIGUgZW0gcXVhbHF1ZXIgbWVpbywgaW5jbHVpbmRvIG9zIGZvcm1hdG9zIO+/vXVkaW8gb3Ugdu+/vWRlby4KClZvY++/vSBjb25jb3JkYSBxdWUgbyBSZXBvc2l077+9cmlvIEluc3RpdHVjaW9uYWwgZGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgSnVpeiBkZSBGb3JhIHBvZGUsIHNlbSBhbHRlcmFyIG8gY29udGXvv71kbywgdHJhbnNwb3IgYSBzdWEgcHVibGljYe+/ve+/vW8gcGFyYSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gcGFyYSBmaW5zIGRlIHByZXNlcnZh77+977+9by4gVm9j77+9IHRhbWLvv71tIGNvbmNvcmRhIHF1ZSBvIFJlcG9zaXTvv71yaW8gSW5zdGl0dWNpb25hbCBkYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBKdWl6IGRlIEZvcmEgcG9kZSBtYW50ZXIgbWFpcyBkZSB1bWEgY++/vXBpYSBkZSBzdWEgcHVibGljYe+/ve+/vW8gcGFyYSBmaW5zIGRlIHNlZ3VyYW7vv71hLCBiYWNrLXVwIGUgcHJlc2VydmHvv73vv71vLiBWb2Pvv70gZGVjbGFyYSBxdWUgYSBzdWEgcHVibGljYe+/ve+/vW8g77+9IG9yaWdpbmFsIGUgcXVlIHZvY++/vSB0ZW0gbyBwb2RlciBkZSBjb25jZWRlciBvcyBkaXJlaXRvcyBjb250aWRvcyBuZXN0YSBsaWNlbu+/vWEuIFZvY++/vSB0YW1i77+9bSBkZWNsYXJhIHF1ZSBvIGRlcO+/vXNpdG8gZGEgc3VhIHB1YmxpY2Hvv73vv71vIG7vv71vLCBxdWUgc2VqYSBkZSBzZXUgY29uaGVjaW1lbnRvLCBpbmZyaW5nZSBkaXJlaXRvcyBhdXRvcmFpcyBkZSBuaW5nde+/vW0uCgpDYXNvIGEgc3VhIHB1YmxpY2Hvv73vv71vIGNvbnRlbmhhIG1hdGVyaWFsIHF1ZSB2b2Pvv70gbu+/vW8gcG9zc3VpIGEgdGl0dWxhcmlkYWRlIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgdm9j77+9IGRlY2xhcmEgcXVlIG9idGV2ZSBhIHBlcm1pc3Pvv71vIGlycmVzdHJpdGEgZG8gZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhcmEgY29uY2VkZXIgYW8gUmVwb3NpdO+/vXJpbyBJbnN0aXR1Y2lvbmFsIGRhIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIEp1aXogZGUgRm9yYSBvcyBkaXJlaXRvcyBhcHJlc2VudGFkb3MgbmVzdGEgbGljZW7vv71hLCBlIHF1ZSBlc3NlIG1hdGVyaWFsIGRlIHByb3ByaWVkYWRlIGRlIHRlcmNlaXJvcyBlc3Tvv70gY2xhcmFtZW50ZSBpZGVudGlmaWNhZG8gZSByZWNvbmhlY2lkbyBubyB0ZXh0byBvdSBubyBjb250Ze+/vWRvIGRhIHB1YmxpY2Hvv73vv71vIG9yYSBkZXBvc2l0YWRhLgoKQ0FTTyBBIFBVQkxJQ0Hvv73vv71PIE9SQSBERVBPU0lUQURBIFRFTkhBIFNJRE8gUkVTVUxUQURPIERFIFVNIFBBVFJPQ++/vU5JTyBPVSBBUE9JTyBERSBVTUEgQUfvv71OQ0lBIERFIEZPTUVOVE8gT1UgT1VUUk8gT1JHQU5JU01PLCBWT0Pvv70gREVDTEFSQSBRVUUgUkVTUEVJVE9VIFRPRE9TIEUgUVVBSVNRVUVSIERJUkVJVE9TIERFIFJFVklT77+9TyBDT01PIFRBTULvv71NIEFTIERFTUFJUyBPQlJJR0Hvv73vv71FUyBFWElHSURBUyBQT1IgQ09OVFJBVE8gT1UgQUNPUkRPLgoKTyBSZXBvc2l077+9cmlvIEluc3RpdHVjaW9uYWwgZGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgSnVpeiBkZSBGb3JhIHNlIGNvbXByb21ldGUgYSBpZGVudGlmaWNhciBjbGFyYW1lbnRlIG8gc2V1IG5vbWUgKHMpIG91IG8ocykgbm9tZShzKSBkbyhzKSBkZXRlbnRvcihlcykgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRhIHB1YmxpY2Hvv73vv71vLCBlIG7vv71vIGZhcu+/vSBxdWFscXVlciBhbHRlcmHvv73vv71vLCBhbO+/vW0gZGFxdWVsYXMgY29uY2VkaWRhcyBwb3IgZXN0YSBsaWNlbu+/vWEuCg==Repositório InstitucionalPUBhttps://repositorio.ufjf.br/oai/requestopendoar:2019-06-16T16:47:41Repositório Institucional da UFJF - Universidade Federal de Juiz de Fora (UFJF)false
dc.title.pt_BR.fl_str_mv Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
title Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
spellingShingle Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
Melo Neto, Johnathan Mayke
CNPQ::CIENCIAS EXATAS E DA TERRA
Neuroevolução
Hibridização
Programação genética cartesiana
Classificação de dados
Neuroevolution
Hybridization
Cartesian genetic programming
Data classification
title_short Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
title_full Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
title_fullStr Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
title_full_unstemmed Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
title_sort Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
author Melo Neto, Johnathan Mayke
author_facet Melo Neto, Johnathan Mayke
author_role author
dc.contributor.advisor1.fl_str_mv Bernardino, Heder Soares
dc.contributor.advisor1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4742940J5
dc.contributor.advisor-co1.fl_str_mv Barbosa, Helio José Corrêa
dc.contributor.advisor-co1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781805Y9
dc.contributor.referee1.fl_str_mv Fonseca, Leonardo Goliatt da
dc.contributor.referee1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4771799H1
dc.contributor.referee2.fl_str_mv Augusto, Douglas Adriano
dc.contributor.referee2Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4765815T0
dc.contributor.authorLattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K8718448P1
dc.contributor.author.fl_str_mv Melo Neto, Johnathan Mayke
contributor_str_mv Bernardino, Heder Soares
Barbosa, Helio José Corrêa
Fonseca, Leonardo Goliatt da
Augusto, Douglas Adriano
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS EXATAS E DA TERRA
topic CNPQ::CIENCIAS EXATAS E DA TERRA
Neuroevolução
Hibridização
Programação genética cartesiana
Classificação de dados
Neuroevolution
Hybridization
Cartesian genetic programming
Data classification
dc.subject.por.fl_str_mv Neuroevolução
Hibridização
Programação genética cartesiana
Classificação de dados
Neuroevolution
Hybridization
Cartesian genetic programming
Data classification
description Na área de aprendizado de máquina, o problema de classificação de dados consiste em rotular corretamente instâncias desconhecidas com base nos rótulos de um conjunto de instâncias conhecidas. Um importante método para a resolução de problemas de classificação de dados é denominado redes neurais artificiais (RNAs). As RNAs são métodos computacionais bioinspirados, cujos parâmetros devem ser corretamente ajustados a fim de resolver uma dada tarefa de aprendizado. A topologia e os pesos são parâmetros determinantes para o desempenho desses métodos. Apesar da importância das RNAs em situações práticas, e dos diversos trabalhos disponíveis na literatura, o ajuste de seus parâmetros ainda é considerado um problema atual. Portanto, o desenvolvimento de estratégias para auxiliar os usuários durante a modelagem das RNAs é relevante. Uma dessas estratégias consiste em utilizar algoritmos evolutivos (EAs) para otimizar os parâmetros das RNAs. A combinação de RNAs e EAs é denominada neuroevolução. Este trabalho propõe novos métodos neuroevolutivos híbridos baseados em programação genética cartesiana (CGP) para a construção de RNAs. Os métodos realizam o desacoplamento dos processos de otimização da topologia e dos pesos para gerar as RNAs. A otimização da topologia é feita pela CGP. Para a otimização dos pesos, duas técnicas são utilizadas separadamente: (i) evolução diferencial (DE), e (ii) backpropagation (BP). Nos experimentos computacionais, os modelos gerados foram aplicados a dezoito problemas de classificação, utilizando bases de dados benchmark da literatura. Há experimentos com bases balanceadas e outros com bases desbalanceadas. Os modelos foram submetidos a três estudos de desempenho. O primeiro estudo avaliou o desempenho dos modelos utilizando a acurácia como função objetivo. O segundo estudo avaliou o desempenho dos modelos utilizando o erro quadrático médio como função objetivo. O terceiro estudo utilizou os modelos para avaliar o desempenho de quatro funções objetivo distintas: acurácia, G-mean, F β-score, e área abaixo da curva ROC. Os resultados mostraram a superioridade das propostas quando comparadas a técnicas alternativas existentes na literatura.
publishDate 2019
dc.date.accessioned.fl_str_mv 2019-05-17T12:16:01Z
dc.date.available.fl_str_mv 2019-05-17
2019-05-17T12:16:01Z
dc.date.issued.fl_str_mv 2019-02-22
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://repositorio.ufjf.br/jspui/handle/ufjf/10030
url https://repositorio.ufjf.br/jspui/handle/ufjf/10030
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Juiz de Fora (UFJF)
dc.publisher.program.fl_str_mv Programa de Pós-graduação em Modelagem Computacional
dc.publisher.initials.fl_str_mv UFJF
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv ICE – Instituto de Ciências Exatas
publisher.none.fl_str_mv Universidade Federal de Juiz de Fora (UFJF)
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFJF
instname:Universidade Federal de Juiz de Fora (UFJF)
instacron:UFJF
instname_str Universidade Federal de Juiz de Fora (UFJF)
instacron_str UFJF
institution UFJF
reponame_str Repositório Institucional da UFJF
collection Repositório Institucional da UFJF
bitstream.url.fl_str_mv https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/4/johnathanmaykemeloneto.pdf.jpg
https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/1/johnathanmaykemeloneto.pdf
https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/2/license.txt
https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/3/johnathanmaykemeloneto.pdf.txt
bitstream.checksum.fl_str_mv 09cb1de638b8c67b1978b4328667f052
b309168e0d9407ef80af9b6d61510319
000e18a5aee6ca21bb5811ddf55fc37b
60ac107200b4bb9bee4237e324d7aba0
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFJF - Universidade Federal de Juiz de Fora (UFJF)
repository.mail.fl_str_mv
_version_ 1801661288330297344