Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva

Detalhes bibliográficos
Autor(a) principal: Barbosa, Felipe Reis Macedo
Data de Publicação: 2018
Tipo de documento: Trabalho de conclusão de curso
Idioma: por
Título da fonte: Repositório Institucional da UFT
Texto Completo: http://hdl.handle.net/11612/3197
Resumo: Alguns algoritmos em aprendizado de máquina são parametrizáveis, ou seja, permitem a configuração de parâmetros de maneira a aumentar o desempenho na tarefa utilizada. Na maioria dos casos, estes parâmetros são encontrados empiricamente pelo desenvolvedor. Outra abordagem é utilizar alguma técnica de otimização para encontrar um conjunto otimizado de parâmetros. Este projeto tem por objetivo a aplicação dos algoritmos evolutivos, Algoritmo Genético (AG), Fluid Genetic Algorithm (FGA) e Genetic Algorithm using Theory of Chaos (GATC) para otimizar a busca de hiperparâmetros em algoritmos de ´arvores de decisão. Este trabalho apresenta alguns resultados satisfatórios dentro do conjunto de dados testados, onde o algoritmo Classification and. Regressivo Trees (CART) foi utilizado como algoritmo classificador para os testes. Nestes, as arvores de decisão geradas a partir dos valores padrão dos hiperparâmetros são comparados com os otimizados pela abordagem proposta. Buscou-se otimizar a acurácia e o tamanho final da ´arvore gerada, o que foram otimizadas com sucesso pelos algoritmos propostos.
id UFT_7473ab89b4654ce8f620add58075657d
oai_identifier_str oai:repositorio.uft.edu.br:11612/3197
network_acronym_str UFT
network_name_str Repositório Institucional da UFT
repository_id_str
spelling Barbosa, Felipe Reis MacedoCarvalho, Rafael Lima de2021-10-09T02:26:54Z2021-10-09T02:26:54Z2018BARBOSA, Felipe Reis Macedo. Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva. 52f. Monografia Graduação, Curso de Ciências da Computação, Universidade Federal do Tocantins, Palmas, 2018.http://hdl.handle.net/11612/3197Alguns algoritmos em aprendizado de máquina são parametrizáveis, ou seja, permitem a configuração de parâmetros de maneira a aumentar o desempenho na tarefa utilizada. Na maioria dos casos, estes parâmetros são encontrados empiricamente pelo desenvolvedor. Outra abordagem é utilizar alguma técnica de otimização para encontrar um conjunto otimizado de parâmetros. Este projeto tem por objetivo a aplicação dos algoritmos evolutivos, Algoritmo Genético (AG), Fluid Genetic Algorithm (FGA) e Genetic Algorithm using Theory of Chaos (GATC) para otimizar a busca de hiperparâmetros em algoritmos de ´arvores de decisão. Este trabalho apresenta alguns resultados satisfatórios dentro do conjunto de dados testados, onde o algoritmo Classification and. Regressivo Trees (CART) foi utilizado como algoritmo classificador para os testes. Nestes, as arvores de decisão geradas a partir dos valores padrão dos hiperparâmetros são comparados com os otimizados pela abordagem proposta. Buscou-se otimizar a acurácia e o tamanho final da ´arvore gerada, o que foram otimizadas com sucesso pelos algoritmos propostos.Some algorithms in machine learning are parameterizable, they allow the configuration of parameters in order to increase the performance in some tasks. In most cases, these parameters are empirically found by the developer. Another approach is to use some optimization technique to find an optimized set of parameters. The aim of this project is the application of evolutionary algorithms, Genetic Algorithm (GA), Fluid Genetic Algorithm (FGA) and Genetic Algorithm using Theory of Chaos (GATC) to optimize the search for hyperparameters in decision tree algorithms. This work presents some satisfactory results within the data set tested, where the Classification and Regression Trees (CART) algorithm was used as a classifier algorithm for the tests. In these, the decision trees generated from the default values of the hyperparameters are compared with those optimized by the proposed approach. We has tried to optimize the accuracy and final size of the generated tree, which were successfully optimized by the proposed algorithms.Universidade Federal do TocantinsPalmasCiências da ComputaçãoPalmasGraduaçãoAcesso Livre.info:eu-repo/semantics/openAccessCNPQ::CIENCIAS EXATAS E DA TERRAAprendizado de máquinaOtimização de hiperparâmetrosArvores de decisãoAlgoritmo genéticoOtimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutivainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisporreponame:Repositório Institucional da UFTinstname:Universidade Federal do Tocantins (UFT)instacron:UFTORIGINALFelipe Reis Macedo Barbosa - TCC.pdfFelipe Reis Macedo Barbosa - TCC.pdfapplication/pdf1427832http://repositorio.uft.edu.br/bitstream/11612/3197/1/Felipe%20Reis%20Macedo%20Barbosa%20-%20TCC.pdf23199dbe912c947a7f2ce8d7188d9ce0MD51LICENSElicense.txtlicense.txttext/plain; charset=utf-81748http://repositorio.uft.edu.br/bitstream/11612/3197/2/license.txt8a4605be74aa9ea9d79846c1fba20a33MD52TEXTFelipe Reis Macedo Barbosa - TCC.pdf.txtFelipe Reis Macedo Barbosa - TCC.pdf.txtExtracted texttext/plain81397http://repositorio.uft.edu.br/bitstream/11612/3197/3/Felipe%20Reis%20Macedo%20Barbosa%20-%20TCC.pdf.txtb2aac92f697e3f5ad3404b10d5ccc1b7MD53THUMBNAILFelipe Reis Macedo Barbosa - TCC.pdf.jpgFelipe Reis Macedo Barbosa - TCC.pdf.jpgGenerated Thumbnailimage/jpeg1222http://repositorio.uft.edu.br/bitstream/11612/3197/4/Felipe%20Reis%20Macedo%20Barbosa%20-%20TCC.pdf.jpgd1bd6c56ab2226953480d56f77da2ccbMD5411612/31972021-10-09 03:01:04.701oai:repositorio.uft.edu.br:11612/3197Tk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo=Repositório InstitucionalPUBhttp://repositorio.uft.edu.br/oai/requestbiblioarraias@uft.edu.br || bibliogpi@uft.edu.br || bibliomira@uft.edu.br || bibliopalmas@uft.edu.br || biblioporto@uft.edu.br || biblioarag@uft.edu.br || dirbib@ufnt.edu.br || bibliocca@uft.edu.br || bibliotoc@uft.edu.bropendoar:2021-10-09T06:01:04Repositório Institucional da UFT - Universidade Federal do Tocantins (UFT)false
dc.title.pt_BR.fl_str_mv Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
title Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
spellingShingle Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
Barbosa, Felipe Reis Macedo
CNPQ::CIENCIAS EXATAS E DA TERRA
Aprendizado de máquina
Otimização de hiperparâmetros
Arvores de decisão
Algoritmo genético
title_short Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
title_full Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
title_fullStr Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
title_full_unstemmed Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
title_sort Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva
author Barbosa, Felipe Reis Macedo
author_facet Barbosa, Felipe Reis Macedo
author_role author
dc.contributor.author.fl_str_mv Barbosa, Felipe Reis Macedo
dc.contributor.advisor1.fl_str_mv Carvalho, Rafael Lima de
contributor_str_mv Carvalho, Rafael Lima de
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS EXATAS E DA TERRA
topic CNPQ::CIENCIAS EXATAS E DA TERRA
Aprendizado de máquina
Otimização de hiperparâmetros
Arvores de decisão
Algoritmo genético
dc.subject.por.fl_str_mv Aprendizado de máquina
Otimização de hiperparâmetros
Arvores de decisão
Algoritmo genético
description Alguns algoritmos em aprendizado de máquina são parametrizáveis, ou seja, permitem a configuração de parâmetros de maneira a aumentar o desempenho na tarefa utilizada. Na maioria dos casos, estes parâmetros são encontrados empiricamente pelo desenvolvedor. Outra abordagem é utilizar alguma técnica de otimização para encontrar um conjunto otimizado de parâmetros. Este projeto tem por objetivo a aplicação dos algoritmos evolutivos, Algoritmo Genético (AG), Fluid Genetic Algorithm (FGA) e Genetic Algorithm using Theory of Chaos (GATC) para otimizar a busca de hiperparâmetros em algoritmos de ´arvores de decisão. Este trabalho apresenta alguns resultados satisfatórios dentro do conjunto de dados testados, onde o algoritmo Classification and. Regressivo Trees (CART) foi utilizado como algoritmo classificador para os testes. Nestes, as arvores de decisão geradas a partir dos valores padrão dos hiperparâmetros são comparados com os otimizados pela abordagem proposta. Buscou-se otimizar a acurácia e o tamanho final da ´arvore gerada, o que foram otimizadas com sucesso pelos algoritmos propostos.
publishDate 2018
dc.date.issued.fl_str_mv 2018
dc.date.accessioned.fl_str_mv 2021-10-09T02:26:54Z
dc.date.available.fl_str_mv 2021-10-09T02:26:54Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv BARBOSA, Felipe Reis Macedo. Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva. 52f. Monografia Graduação, Curso de Ciências da Computação, Universidade Federal do Tocantins, Palmas, 2018.
dc.identifier.uri.fl_str_mv http://hdl.handle.net/11612/3197
identifier_str_mv BARBOSA, Felipe Reis Macedo. Otimização de hiperparâmetros em algoritmos de arvore de decisão utilizando computação evolutiva. 52f. Monografia Graduação, Curso de Ciências da Computação, Universidade Federal do Tocantins, Palmas, 2018.
url http://hdl.handle.net/11612/3197
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Acesso Livre.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Acesso Livre.
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Tocantins
Palmas
Ciências da Computação
Palmas
Graduação
publisher.none.fl_str_mv Universidade Federal do Tocantins
Palmas
Ciências da Computação
Palmas
Graduação
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFT
instname:Universidade Federal do Tocantins (UFT)
instacron:UFT
instname_str Universidade Federal do Tocantins (UFT)
instacron_str UFT
institution UFT
reponame_str Repositório Institucional da UFT
collection Repositório Institucional da UFT
bitstream.url.fl_str_mv http://repositorio.uft.edu.br/bitstream/11612/3197/1/Felipe%20Reis%20Macedo%20Barbosa%20-%20TCC.pdf
http://repositorio.uft.edu.br/bitstream/11612/3197/2/license.txt
http://repositorio.uft.edu.br/bitstream/11612/3197/3/Felipe%20Reis%20Macedo%20Barbosa%20-%20TCC.pdf.txt
http://repositorio.uft.edu.br/bitstream/11612/3197/4/Felipe%20Reis%20Macedo%20Barbosa%20-%20TCC.pdf.jpg
bitstream.checksum.fl_str_mv 23199dbe912c947a7f2ce8d7188d9ce0
8a4605be74aa9ea9d79846c1fba20a33
b2aac92f697e3f5ad3404b10d5ccc1b7
d1bd6c56ab2226953480d56f77da2ccb
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFT - Universidade Federal do Tocantins (UFT)
repository.mail.fl_str_mv biblioarraias@uft.edu.br || bibliogpi@uft.edu.br || bibliomira@uft.edu.br || bibliopalmas@uft.edu.br || biblioporto@uft.edu.br || biblioarag@uft.edu.br || dirbib@ufnt.edu.br || bibliocca@uft.edu.br || bibliotoc@uft.edu.br
_version_ 1813912800926367744