Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana
Autor(a) principal: | |
---|---|
Data de Publicação: | 2019 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFJF |
Texto Completo: | https://repositorio.ufjf.br/jspui/handle/ufjf/10030 |
Resumo: | Na área de aprendizado de máquina, o problema de classificação de dados consiste em rotular corretamente instâncias desconhecidas com base nos rótulos de um conjunto de instâncias conhecidas. Um importante método para a resolução de problemas de classificação de dados é denominado redes neurais artificiais (RNAs). As RNAs são métodos computacionais bioinspirados, cujos parâmetros devem ser corretamente ajustados a fim de resolver uma dada tarefa de aprendizado. A topologia e os pesos são parâmetros determinantes para o desempenho desses métodos. Apesar da importância das RNAs em situações práticas, e dos diversos trabalhos disponíveis na literatura, o ajuste de seus parâmetros ainda é considerado um problema atual. Portanto, o desenvolvimento de estratégias para auxiliar os usuários durante a modelagem das RNAs é relevante. Uma dessas estratégias consiste em utilizar algoritmos evolutivos (EAs) para otimizar os parâmetros das RNAs. A combinação de RNAs e EAs é denominada neuroevolução. Este trabalho propõe novos métodos neuroevolutivos híbridos baseados em programação genética cartesiana (CGP) para a construção de RNAs. Os métodos realizam o desacoplamento dos processos de otimização da topologia e dos pesos para gerar as RNAs. A otimização da topologia é feita pela CGP. Para a otimização dos pesos, duas técnicas são utilizadas separadamente: (i) evolução diferencial (DE), e (ii) backpropagation (BP). Nos experimentos computacionais, os modelos gerados foram aplicados a dezoito problemas de classificação, utilizando bases de dados benchmark da literatura. Há experimentos com bases balanceadas e outros com bases desbalanceadas. Os modelos foram submetidos a três estudos de desempenho. O primeiro estudo avaliou o desempenho dos modelos utilizando a acurácia como função objetivo. O segundo estudo avaliou o desempenho dos modelos utilizando o erro quadrático médio como função objetivo. O terceiro estudo utilizou os modelos para avaliar o desempenho de quatro funções objetivo distintas: acurácia, G-mean, F β-score, e área abaixo da curva ROC. Os resultados mostraram a superioridade das propostas quando comparadas a técnicas alternativas existentes na literatura. |
id |
UFJF_c3d923ba73a7ca62fba7e04c04c1d6dd |
---|---|
oai_identifier_str |
oai:hermes.cpd.ufjf.br:ufjf/10030 |
network_acronym_str |
UFJF |
network_name_str |
Repositório Institucional da UFJF |
repository_id_str |
|
spelling |
Bernardino, Heder Soareshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4742940J5Barbosa, Helio José Corrêahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781805Y9Fonseca, Leonardo Goliatt dahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4771799H1Augusto, Douglas Adrianohttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4765815T0http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K8718448P1Melo Neto, Johnathan Mayke2019-05-17T12:16:01Z2019-05-172019-05-17T12:16:01Z2019-02-22https://repositorio.ufjf.br/jspui/handle/ufjf/10030Na área de aprendizado de máquina, o problema de classificação de dados consiste em rotular corretamente instâncias desconhecidas com base nos rótulos de um conjunto de instâncias conhecidas. Um importante método para a resolução de problemas de classificação de dados é denominado redes neurais artificiais (RNAs). As RNAs são métodos computacionais bioinspirados, cujos parâmetros devem ser corretamente ajustados a fim de resolver uma dada tarefa de aprendizado. A topologia e os pesos são parâmetros determinantes para o desempenho desses métodos. Apesar da importância das RNAs em situações práticas, e dos diversos trabalhos disponíveis na literatura, o ajuste de seus parâmetros ainda é considerado um problema atual. Portanto, o desenvolvimento de estratégias para auxiliar os usuários durante a modelagem das RNAs é relevante. Uma dessas estratégias consiste em utilizar algoritmos evolutivos (EAs) para otimizar os parâmetros das RNAs. A combinação de RNAs e EAs é denominada neuroevolução. Este trabalho propõe novos métodos neuroevolutivos híbridos baseados em programação genética cartesiana (CGP) para a construção de RNAs. Os métodos realizam o desacoplamento dos processos de otimização da topologia e dos pesos para gerar as RNAs. A otimização da topologia é feita pela CGP. Para a otimização dos pesos, duas técnicas são utilizadas separadamente: (i) evolução diferencial (DE), e (ii) backpropagation (BP). Nos experimentos computacionais, os modelos gerados foram aplicados a dezoito problemas de classificação, utilizando bases de dados benchmark da literatura. Há experimentos com bases balanceadas e outros com bases desbalanceadas. Os modelos foram submetidos a três estudos de desempenho. O primeiro estudo avaliou o desempenho dos modelos utilizando a acurácia como função objetivo. O segundo estudo avaliou o desempenho dos modelos utilizando o erro quadrático médio como função objetivo. O terceiro estudo utilizou os modelos para avaliar o desempenho de quatro funções objetivo distintas: acurácia, G-mean, F β-score, e área abaixo da curva ROC. Os resultados mostraram a superioridade das propostas quando comparadas a técnicas alternativas existentes na literatura.In machine learning, the problem of data classification consists of correctly labeling unknown instances based on the labels of a set of known instances. An important method for solving data classification problems is called artificial neural networks (ANNs). ANNs are bioinspired computational methods, whose parameters must be correctly adjusted in order to solve a given learning task. Topology and weights are determining parameters for the performance of these methods. Despite the significance of ANNs in practical situations, and the several works available in the literature, to adjust its parameters remains as a current problem. Hence, the development of strategies to assist users during ANN modeling is relevant. One of these strategies is to use evolutionary algorithms (EAs) to optimize ANN parameters. The combination of ANNs and EAs is called neuroevolution. This work proposes new hybrid neuroevolutionary methods based on cartesian genetic programming (CGP) for the construction of ANNs. The methods carry out a decoupled optimization of the topology and the weights to generate the ANNs. Topology optimization is performed by CGP. For the weights optimization, two techniques are used separately: (i) differential evolution (DE), and (ii) backpropagation (BP). In the computational experiments these models were applied to eighteen data classification problems using benchmark datasets from the literature. There are experiments with balanced datasets and others with unbalanced datasets. The models were submitted to three performance studies. The first study evaluated the performance of the models using accuracy as the objective function. The second one evaluated the performance of the models using the mean square error as the objective function. The third study used the models to evaluate the performance of four distinct objective functions: accuracy, G-mean, Fβ-score, and area under the ROC curve. The results showed the superiority of the proposals when compared to alternative techniques from the literature.FAPEMIG - Fundação de Amparo à Pesquisa do Estado de Minas GeraisporUniversidade Federal de Juiz de Fora (UFJF)Programa de Pós-graduação em Modelagem ComputacionalUFJFBrasilICE – Instituto de Ciências ExatasCNPQ::CIENCIAS EXATAS E DA TERRANeuroevoluçãoHibridizaçãoProgramação genética cartesianaClassificação de dadosNeuroevolutionHybridizationCartesian genetic programmingData classificationModelos híbridos para construção de redes neurais artificiais via programação genética cartesianainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFJFinstname:Universidade Federal de Juiz de Fora (UFJF)instacron:UFJFTHUMBNAILjohnathanmaykemeloneto.pdf.jpgjohnathanmaykemeloneto.pdf.jpgGenerated Thumbnailimage/jpeg1146https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/4/johnathanmaykemeloneto.pdf.jpg09cb1de638b8c67b1978b4328667f052MD54ORIGINALjohnathanmaykemeloneto.pdfjohnathanmaykemeloneto.pdfapplication/pdf1259146https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/1/johnathanmaykemeloneto.pdfb309168e0d9407ef80af9b6d61510319MD51LICENSElicense.txtlicense.txttext/plain; charset=utf-82197https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/2/license.txt000e18a5aee6ca21bb5811ddf55fc37bMD52TEXTjohnathanmaykemeloneto.pdf.txtjohnathanmaykemeloneto.pdf.txtExtracted texttext/plain248228https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/3/johnathanmaykemeloneto.pdf.txt60ac107200b4bb9bee4237e324d7aba0MD53ufjf/100302019-06-16 13:47:41.353oai:hermes.cpd.ufjf.br:ufjf/10030TElDRU7vv71BIERFIERJU1RSSUJVSe+/ve+/vU8gTu+/vU8tRVhDTFVTSVZBCgpDb20gYSBhcHJlc2VudGHvv73vv71vIGRlc3RhIGxpY2Vu77+9YSwgdm9j77+9IChvIGF1dG9yIChlcykgb3UgbyB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvcikgY29uY2VkZSBhbyBSZXBvc2l077+9cmlvIApJbnN0aXR1Y2lvbmFsIGRhIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIEp1aXogZGUgRm9yYSBvIGRpcmVpdG8gbu+/vW8tZXhjbHVzaXZvIGRlIHJlcHJvZHV6aXIsIHRyYWR1emlyIChjb25mb3JtZSBkZWZpbmlkbyBhYmFpeG8pLCBlL291IGRpc3RyaWJ1aXIgYSBzdWEgcHVibGljYe+/ve+/vW8gKGluY2x1aW5kbyBvIHJlc3VtbykgcG9yIHRvZG8gbyBtdW5kbyBubyBmb3JtYXRvIGltcHJlc3NvIGUgZWxldHLvv71uaWNvIGUgZW0gcXVhbHF1ZXIgbWVpbywgaW5jbHVpbmRvIG9zIGZvcm1hdG9zIO+/vXVkaW8gb3Ugdu+/vWRlby4KClZvY++/vSBjb25jb3JkYSBxdWUgbyBSZXBvc2l077+9cmlvIEluc3RpdHVjaW9uYWwgZGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgSnVpeiBkZSBGb3JhIHBvZGUsIHNlbSBhbHRlcmFyIG8gY29udGXvv71kbywgdHJhbnNwb3IgYSBzdWEgcHVibGljYe+/ve+/vW8gcGFyYSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gcGFyYSBmaW5zIGRlIHByZXNlcnZh77+977+9by4gVm9j77+9IHRhbWLvv71tIGNvbmNvcmRhIHF1ZSBvIFJlcG9zaXTvv71yaW8gSW5zdGl0dWNpb25hbCBkYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBKdWl6IGRlIEZvcmEgcG9kZSBtYW50ZXIgbWFpcyBkZSB1bWEgY++/vXBpYSBkZSBzdWEgcHVibGljYe+/ve+/vW8gcGFyYSBmaW5zIGRlIHNlZ3VyYW7vv71hLCBiYWNrLXVwIGUgcHJlc2VydmHvv73vv71vLiBWb2Pvv70gZGVjbGFyYSBxdWUgYSBzdWEgcHVibGljYe+/ve+/vW8g77+9IG9yaWdpbmFsIGUgcXVlIHZvY++/vSB0ZW0gbyBwb2RlciBkZSBjb25jZWRlciBvcyBkaXJlaXRvcyBjb250aWRvcyBuZXN0YSBsaWNlbu+/vWEuIFZvY++/vSB0YW1i77+9bSBkZWNsYXJhIHF1ZSBvIGRlcO+/vXNpdG8gZGEgc3VhIHB1YmxpY2Hvv73vv71vIG7vv71vLCBxdWUgc2VqYSBkZSBzZXUgY29uaGVjaW1lbnRvLCBpbmZyaW5nZSBkaXJlaXRvcyBhdXRvcmFpcyBkZSBuaW5nde+/vW0uCgpDYXNvIGEgc3VhIHB1YmxpY2Hvv73vv71vIGNvbnRlbmhhIG1hdGVyaWFsIHF1ZSB2b2Pvv70gbu+/vW8gcG9zc3VpIGEgdGl0dWxhcmlkYWRlIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgdm9j77+9IGRlY2xhcmEgcXVlIG9idGV2ZSBhIHBlcm1pc3Pvv71vIGlycmVzdHJpdGEgZG8gZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhcmEgY29uY2VkZXIgYW8gUmVwb3NpdO+/vXJpbyBJbnN0aXR1Y2lvbmFsIGRhIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIEp1aXogZGUgRm9yYSBvcyBkaXJlaXRvcyBhcHJlc2VudGFkb3MgbmVzdGEgbGljZW7vv71hLCBlIHF1ZSBlc3NlIG1hdGVyaWFsIGRlIHByb3ByaWVkYWRlIGRlIHRlcmNlaXJvcyBlc3Tvv70gY2xhcmFtZW50ZSBpZGVudGlmaWNhZG8gZSByZWNvbmhlY2lkbyBubyB0ZXh0byBvdSBubyBjb250Ze+/vWRvIGRhIHB1YmxpY2Hvv73vv71vIG9yYSBkZXBvc2l0YWRhLgoKQ0FTTyBBIFBVQkxJQ0Hvv73vv71PIE9SQSBERVBPU0lUQURBIFRFTkhBIFNJRE8gUkVTVUxUQURPIERFIFVNIFBBVFJPQ++/vU5JTyBPVSBBUE9JTyBERSBVTUEgQUfvv71OQ0lBIERFIEZPTUVOVE8gT1UgT1VUUk8gT1JHQU5JU01PLCBWT0Pvv70gREVDTEFSQSBRVUUgUkVTUEVJVE9VIFRPRE9TIEUgUVVBSVNRVUVSIERJUkVJVE9TIERFIFJFVklT77+9TyBDT01PIFRBTULvv71NIEFTIERFTUFJUyBPQlJJR0Hvv73vv71FUyBFWElHSURBUyBQT1IgQ09OVFJBVE8gT1UgQUNPUkRPLgoKTyBSZXBvc2l077+9cmlvIEluc3RpdHVjaW9uYWwgZGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgSnVpeiBkZSBGb3JhIHNlIGNvbXByb21ldGUgYSBpZGVudGlmaWNhciBjbGFyYW1lbnRlIG8gc2V1IG5vbWUgKHMpIG91IG8ocykgbm9tZShzKSBkbyhzKSBkZXRlbnRvcihlcykgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRhIHB1YmxpY2Hvv73vv71vLCBlIG7vv71vIGZhcu+/vSBxdWFscXVlciBhbHRlcmHvv73vv71vLCBhbO+/vW0gZGFxdWVsYXMgY29uY2VkaWRhcyBwb3IgZXN0YSBsaWNlbu+/vWEuCg==Repositório InstitucionalPUBhttps://repositorio.ufjf.br/oai/requestopendoar:2019-06-16T16:47:41Repositório Institucional da UFJF - Universidade Federal de Juiz de Fora (UFJF)false |
dc.title.pt_BR.fl_str_mv |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
title |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
spellingShingle |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana Melo Neto, Johnathan Mayke CNPQ::CIENCIAS EXATAS E DA TERRA Neuroevolução Hibridização Programação genética cartesiana Classificação de dados Neuroevolution Hybridization Cartesian genetic programming Data classification |
title_short |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
title_full |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
title_fullStr |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
title_full_unstemmed |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
title_sort |
Modelos híbridos para construção de redes neurais artificiais via programação genética cartesiana |
author |
Melo Neto, Johnathan Mayke |
author_facet |
Melo Neto, Johnathan Mayke |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Bernardino, Heder Soares |
dc.contributor.advisor1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4742940J5 |
dc.contributor.advisor-co1.fl_str_mv |
Barbosa, Helio José Corrêa |
dc.contributor.advisor-co1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781805Y9 |
dc.contributor.referee1.fl_str_mv |
Fonseca, Leonardo Goliatt da |
dc.contributor.referee1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4771799H1 |
dc.contributor.referee2.fl_str_mv |
Augusto, Douglas Adriano |
dc.contributor.referee2Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4765815T0 |
dc.contributor.authorLattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K8718448P1 |
dc.contributor.author.fl_str_mv |
Melo Neto, Johnathan Mayke |
contributor_str_mv |
Bernardino, Heder Soares Barbosa, Helio José Corrêa Fonseca, Leonardo Goliatt da Augusto, Douglas Adriano |
dc.subject.cnpq.fl_str_mv |
CNPQ::CIENCIAS EXATAS E DA TERRA |
topic |
CNPQ::CIENCIAS EXATAS E DA TERRA Neuroevolução Hibridização Programação genética cartesiana Classificação de dados Neuroevolution Hybridization Cartesian genetic programming Data classification |
dc.subject.por.fl_str_mv |
Neuroevolução Hibridização Programação genética cartesiana Classificação de dados Neuroevolution Hybridization Cartesian genetic programming Data classification |
description |
Na área de aprendizado de máquina, o problema de classificação de dados consiste em rotular corretamente instâncias desconhecidas com base nos rótulos de um conjunto de instâncias conhecidas. Um importante método para a resolução de problemas de classificação de dados é denominado redes neurais artificiais (RNAs). As RNAs são métodos computacionais bioinspirados, cujos parâmetros devem ser corretamente ajustados a fim de resolver uma dada tarefa de aprendizado. A topologia e os pesos são parâmetros determinantes para o desempenho desses métodos. Apesar da importância das RNAs em situações práticas, e dos diversos trabalhos disponíveis na literatura, o ajuste de seus parâmetros ainda é considerado um problema atual. Portanto, o desenvolvimento de estratégias para auxiliar os usuários durante a modelagem das RNAs é relevante. Uma dessas estratégias consiste em utilizar algoritmos evolutivos (EAs) para otimizar os parâmetros das RNAs. A combinação de RNAs e EAs é denominada neuroevolução. Este trabalho propõe novos métodos neuroevolutivos híbridos baseados em programação genética cartesiana (CGP) para a construção de RNAs. Os métodos realizam o desacoplamento dos processos de otimização da topologia e dos pesos para gerar as RNAs. A otimização da topologia é feita pela CGP. Para a otimização dos pesos, duas técnicas são utilizadas separadamente: (i) evolução diferencial (DE), e (ii) backpropagation (BP). Nos experimentos computacionais, os modelos gerados foram aplicados a dezoito problemas de classificação, utilizando bases de dados benchmark da literatura. Há experimentos com bases balanceadas e outros com bases desbalanceadas. Os modelos foram submetidos a três estudos de desempenho. O primeiro estudo avaliou o desempenho dos modelos utilizando a acurácia como função objetivo. O segundo estudo avaliou o desempenho dos modelos utilizando o erro quadrático médio como função objetivo. O terceiro estudo utilizou os modelos para avaliar o desempenho de quatro funções objetivo distintas: acurácia, G-mean, F β-score, e área abaixo da curva ROC. Os resultados mostraram a superioridade das propostas quando comparadas a técnicas alternativas existentes na literatura. |
publishDate |
2019 |
dc.date.accessioned.fl_str_mv |
2019-05-17T12:16:01Z |
dc.date.available.fl_str_mv |
2019-05-17 2019-05-17T12:16:01Z |
dc.date.issued.fl_str_mv |
2019-02-22 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufjf.br/jspui/handle/ufjf/10030 |
url |
https://repositorio.ufjf.br/jspui/handle/ufjf/10030 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal de Juiz de Fora (UFJF) |
dc.publisher.program.fl_str_mv |
Programa de Pós-graduação em Modelagem Computacional |
dc.publisher.initials.fl_str_mv |
UFJF |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
ICE – Instituto de Ciências Exatas |
publisher.none.fl_str_mv |
Universidade Federal de Juiz de Fora (UFJF) |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFJF instname:Universidade Federal de Juiz de Fora (UFJF) instacron:UFJF |
instname_str |
Universidade Federal de Juiz de Fora (UFJF) |
instacron_str |
UFJF |
institution |
UFJF |
reponame_str |
Repositório Institucional da UFJF |
collection |
Repositório Institucional da UFJF |
bitstream.url.fl_str_mv |
https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/4/johnathanmaykemeloneto.pdf.jpg https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/1/johnathanmaykemeloneto.pdf https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/2/license.txt https://repositorio.ufjf.br/jspui/bitstream/ufjf/10030/3/johnathanmaykemeloneto.pdf.txt |
bitstream.checksum.fl_str_mv |
09cb1de638b8c67b1978b4328667f052 b309168e0d9407ef80af9b6d61510319 000e18a5aee6ca21bb5811ddf55fc37b 60ac107200b4bb9bee4237e324d7aba0 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFJF - Universidade Federal de Juiz de Fora (UFJF) |
repository.mail.fl_str_mv |
|
_version_ |
1801661288330297344 |