Automatic Evolution of Deep AutoEncoders

Detalhes bibliográficos
Autor(a) principal: Sereno, David Martins Duarte
Data de Publicação: 2018
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
Texto Completo: http://hdl.handle.net/10316/84362
Resumo: Dissertação de Mestrado em Engenharia Informática apresentada à Faculdade de Ciências e Tecnologia
id RCAP_844931d4db61c58e3d701e981cdacef3
oai_identifier_str oai:estudogeral.uc.pt:10316/84362
network_acronym_str RCAP
network_name_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository_id_str 7160
spelling Automatic Evolution of Deep AutoEncodersAutomatic Evolution of Deep AutoEncodersDeep LearningAutoEncoderComputação EvolucionáriaDeep LearningAutoEncoderEvolutionary AlgorithmDissertação de Mestrado em Engenharia Informática apresentada à Faculdade de Ciências e TecnologiaIn this work we have created a versatile evolutionary algorithm that can evolve an auto encoder neural network structure in an attempt to maximize the performance of different classifiers by using the resulting compressed version of the instances. During this process the algorithm searches for structures that compress as much as possible the representation to facilitate the classifiers training while maintain the necessary information in the datasets.This approach is set around the evolution of the number and size of the layers of a deep autoencoder, which is then trained using back propagation in a semi supervised fashion. The tests executed spanned multiple classifiers, and show promising results in which we observed an overall improvement in the classification on most the cases and, as expected, significant decrease in the training times.On the context of this thesis, a methodical approach was taken to analyze the impact that an autoencoder has, and how it behaves when its structure is evolved by means of Evolutionary Computation. As a stepping stone for the final work, preliminary experiments were performed, where multiple auto encoders were implemented and tested to confirm their correct behaviour and performance. To complement this a an evolutionary algorithm was tested in order to assess the usefulness and potential of evolving the structures, without imposing any restrictions on their shape.11111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111No decorrer desta dissertação foi criado um algoritmo evolucionário altamente versátil capaz de evoluir com sucesso a estrutura de um rede neural de auto encoder, que procura maximizar a performance de diferentes classificadores. Durante este processo, o algoritmo procura maximizar a compressão de forma a facilitar a tarefa de treino dos classificadores sem que exista perda de performance dos mesmos.Esta abordagem consiste na evolução do número de camadas e número de neurónios presentes em cada uma, sendo a estrutura treinada de forma semi supervisionada através de retropropagação. Foram executados testes sobre um leque variado de classificadores, onde observámos uma melhoria na sua performance bem como uma significativa redução nos tempos de treino.No contexto desta tese , consta tambem uma análise metódica sobre o funcionamento e performance de autoencoders profundos e quais são as vantagens práticas de evoluir a sua estrutura. Como primeiro passo, no decorrer do trabalho, foram testados múltiplos autoencoders e abordagens evolucionárias de forma a confirmar o seu comportamento e performance.11111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111 11111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111 11111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111 11111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111 111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111112018-01-31info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttp://hdl.handle.net/10316/84362http://hdl.handle.net/10316/84362TID:202129594engSereno, David Martins Duarteinfo:eu-repo/semantics/openAccessreponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãoinstacron:RCAAP2020-02-11T10:24:25Zoai:estudogeral.uc.pt:10316/84362Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireopendoar:71602024-03-19T21:05:56.577448Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãofalse
dc.title.none.fl_str_mv Automatic Evolution of Deep AutoEncoders
Automatic Evolution of Deep AutoEncoders
title Automatic Evolution of Deep AutoEncoders
spellingShingle Automatic Evolution of Deep AutoEncoders
Sereno, David Martins Duarte
Deep Learning
AutoEncoder
Computação Evolucionária
Deep Learning
AutoEncoder
Evolutionary Algorithm
title_short Automatic Evolution of Deep AutoEncoders
title_full Automatic Evolution of Deep AutoEncoders
title_fullStr Automatic Evolution of Deep AutoEncoders
title_full_unstemmed Automatic Evolution of Deep AutoEncoders
title_sort Automatic Evolution of Deep AutoEncoders
author Sereno, David Martins Duarte
author_facet Sereno, David Martins Duarte
author_role author
dc.contributor.author.fl_str_mv Sereno, David Martins Duarte
dc.subject.por.fl_str_mv Deep Learning
AutoEncoder
Computação Evolucionária
Deep Learning
AutoEncoder
Evolutionary Algorithm
topic Deep Learning
AutoEncoder
Computação Evolucionária
Deep Learning
AutoEncoder
Evolutionary Algorithm
description Dissertação de Mestrado em Engenharia Informática apresentada à Faculdade de Ciências e Tecnologia
publishDate 2018
dc.date.none.fl_str_mv 2018-01-31
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10316/84362
http://hdl.handle.net/10316/84362
TID:202129594
url http://hdl.handle.net/10316/84362
identifier_str_mv TID:202129594
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.source.none.fl_str_mv reponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron:RCAAP
instname_str Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron_str RCAAP
institution RCAAP
reponame_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
collection Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository.name.fl_str_mv Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
repository.mail.fl_str_mv
_version_ 1799133950614962176

Registros relacionados