Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm

Detalhes bibliográficos
Autor(a) principal: Fruchtnicht, Lukas
Data de Publicação: 2021
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
Texto Completo: http://hdl.handle.net/10362/123649
Resumo: Dissertation presented as the partial requirement for obtaining a Master's degree in Data Science and Advanced Analytics
id RCAP_dc4451cc809b35c606bdf3e27791d1a1
oai_identifier_str oai:run.unl.pt:10362/123649
network_acronym_str RCAP
network_name_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository_id_str 7160
spelling Deep Semantic Learning Machine: A Convolutional Network Construction AlgorithmDeep Semantic Learning MachineSemantic Learning MachineGeometric Semantic Genetic ProgrammingMachine LearningConvolutional Neural NetworksRedes Neurais ConvolucionalAprendizagem AutomáticaProgramação Genética Geométrica SemânticaDissertation presented as the partial requirement for obtaining a Master's degree in Data Science and Advanced AnalyticsThe Semantic Learning Machine (SLM), an algorithm that evolves the topology of feed-forward neural networks (NN), has shown remarkable results in generalization and computing time. It has the benefits of searching the space of different NN architectures under a unimodal fitness landscape in any supervised learning problem. Recent research used the SLM at the end of a Convolutional Neural Network (CNN) instead of fully connected layers outperforming stateof- the-art CNNs. It was proposed to extend the SLM to explore the possibility of optimizing the convolution layers - evolving the full CNN topology. This thesis introduces an operator to optimize the convolution layers, extending the SLM to the Deep Semantic Learning Machine. Initial results, computed using the mnist dataset, show that the algorithm does work but are of limited interpretability. Real-life practicability remains to be improved due to high memory and computational requirements.Semantic Learning Machine (SLM), um algoritmo que evolui a topologia de redes neurais feed-forward (NN), tem mostrado resultados notáveis em generalização e tempo de computação. Tem benefícios de pesquisar o espaço de diferentes arquiteturas NN sob um cenário de aptidão unimodal em qualquer problema de aprendizagem supervisionada. Investigação recente recorre ao uso deSLMno final de uma redes neurais convolucional (CNN) em vez de camadas totalmente conectadas, superando CNNs de última geração. Foi proposto estender o SLM para explorar a possibilidade de otimizar as camadas de convolução - evoluindo a totalmente a topologia CNN. A presente tese apresenta um operador para otimizar as camadas de convolução, estendendo o SLM para a Deep Semantic Learning Machine. Os resultados iniciais, calculados usando o conjunto de dados mnist, mostram que o algoritmo funciona, mas revelam uma interpretabilidade limitada. A aplicabilidade em cenários reais precisa ainda de melhorias devido aos altos requisitos de memória e computação.Gonçalves, Ivo Carlos PereiraCastelli, MauroRUNFruchtnicht, Lukas2021-09-02T16:59:22Z2021-07-062021-07-06T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/10362/123649TID:202767019enginfo:eu-repo/semantics/openAccessreponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãoinstacron:RCAAP2024-03-11T05:05:01Zoai:run.unl.pt:10362/123649Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireopendoar:71602024-03-20T03:45:08.591476Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãofalse
dc.title.none.fl_str_mv Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
title Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
spellingShingle Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
Fruchtnicht, Lukas
Deep Semantic Learning Machine
Semantic Learning Machine
Geometric Semantic Genetic Programming
Machine Learning
Convolutional Neural Networks
Redes Neurais Convolucional
Aprendizagem Automática
Programação Genética Geométrica Semântica
title_short Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
title_full Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
title_fullStr Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
title_full_unstemmed Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
title_sort Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
author Fruchtnicht, Lukas
author_facet Fruchtnicht, Lukas
author_role author
dc.contributor.none.fl_str_mv Gonçalves, Ivo Carlos Pereira
Castelli, Mauro
RUN
dc.contributor.author.fl_str_mv Fruchtnicht, Lukas
dc.subject.por.fl_str_mv Deep Semantic Learning Machine
Semantic Learning Machine
Geometric Semantic Genetic Programming
Machine Learning
Convolutional Neural Networks
Redes Neurais Convolucional
Aprendizagem Automática
Programação Genética Geométrica Semântica
topic Deep Semantic Learning Machine
Semantic Learning Machine
Geometric Semantic Genetic Programming
Machine Learning
Convolutional Neural Networks
Redes Neurais Convolucional
Aprendizagem Automática
Programação Genética Geométrica Semântica
description Dissertation presented as the partial requirement for obtaining a Master's degree in Data Science and Advanced Analytics
publishDate 2021
dc.date.none.fl_str_mv 2021-09-02T16:59:22Z
2021-07-06
2021-07-06T00:00:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10362/123649
TID:202767019
url http://hdl.handle.net/10362/123649
identifier_str_mv TID:202767019
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron:RCAAP
instname_str Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron_str RCAAP
institution RCAAP
reponame_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
collection Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository.name.fl_str_mv Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
repository.mail.fl_str_mv
_version_ 1799138057374400513

Registros relacionados