Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão

Detalhes bibliográficos
Autor(a) principal: Peres, Tiago Alexandre Mateus
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
Texto Completo: http://hdl.handle.net/10400.21/12467
Resumo: Trabalho final de mestrado para obtenção do grau de Mestre em Engenharia de Eletrónica e Telecomunicações
id RCAP_d0b2cac3c7e1937a4c2cf0ae866c9c83
oai_identifier_str oai:repositorio.ipl.pt:10400.21/12467
network_acronym_str RCAP
network_name_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository_id_str 7160
spelling Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressãoRede neuronal convolucionalConvolutional neural networkCompressãoCompressionCortePruningCaffeFPGATrabalho final de mestrado para obtenção do grau de Mestre em Engenharia de Eletrónica e TelecomunicaçõesUma Rede Neuronal Convolucional (Convolutional Neural Network - CNN) é uma classe de redes profundas aplicada ao processamento e classificação de imagens. Uma CNN con-siste em várias camadas de nós interligados entre si. A sua capacidade de classificação ad-vém do treino das suas ligações ou pesos, obtidos por um processamento de adaptação ou aprendizagem através de um conjunto de padrões de treino. Após treinadas, conseguem classificar imagens através de um processo de inferência. Existem atualmente vários modelos ou redes CNN de classificação de imagens, com pro-babilidades de erro bastante baixas, mas que são computacionalmente muito exigentes e requerem bastante memória para armazenar os pesos da rede. Como tal, são geralmente executadas em plataformas de elevado desempenho. No entanto, a utilização deste tipo de algoritmos em sistemas embebidos tem despertado bastante interesse, pois permitirá a execução de algoritmos junto dos sistemas de aquisição de dados, permitindo decisões inteligentes junto dos sensores e evita a comunicação dos dados para um servidor central de execução de CNN. Esta dissertação teve como objetivo a redução da complexidade das redes CNN, através de métodos de corte dos pesos e de compressão de dados, de modo a permitir a execução das CNN em FPGA de baixo custo com aplicação em sistemas embebidos sem comprometer a precisão da rede. Os métodos foram aplicados à arquitetura LiteCNN tendo-se conseguido melhorar os tempos de execução em cerca de 85% para redes com elevada quantidade de pesos nas camadas totalmente conectadas.A Convolutional Neural Network (CNN) is a class of deep networks applied to image pro-cessing and classification. A CNN consists of several layers of interconnected nodes. Their ability to classify comes from training their connections or weights, obtained by an adaptation or learning process through a set of training standards. After being trained, they can classify images through an inference process. There are currently several CNN image sorting networks, with very low error probabilities, but which are computationally demanding and require a lot of memory to store network weights. As such, they are usually executed on high-performance platforms. However, there has been an increased interest in the use of this type of algorithm in em-bedded systems, since it will allow the execution of algorithms near the data acquisition sys-tems, allowing intelligent decisions near the sensors and avoiding the communication of data to a CNN execution central server. The aim of this dissertation was to reduce the complexity of CNN networks, by means of weight-cutting and data-compression methods, in order to allow the execution of CNNs in low-cost FPGAs for embedded computing without compromising network accuracy. The methods were applied to the LiteCNN architecture and managed to improve execution times by about 85% for networks with higher number of weights on fully-connected layers.Instituto Superior de Engenharia de LisboaVéstias, Mário PereiraRCIPLPeres, Tiago Alexandre Mateus2020-12-15T16:32:11Z2019-03-052019-03-05T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/10400.21/12467TID:202557545porPERES, Tiago Alexandre Mateus - Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão. Lisboa: Instituto Superior de Engenharia de Lisboa, 2019. Dissertação de mestrado.info:eu-repo/semantics/openAccessreponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãoinstacron:RCAAP2023-08-03T10:05:27Zoai:repositorio.ipl.pt:10400.21/12467Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireopendoar:71602024-03-19T20:20:33.370167Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãofalse
dc.title.none.fl_str_mv Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
title Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
spellingShingle Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
Peres, Tiago Alexandre Mateus
Rede neuronal convolucional
Convolutional neural network
Compressão
Compression
Corte
Pruning
Caffe
FPGA
title_short Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
title_full Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
title_fullStr Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
title_full_unstemmed Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
title_sort Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão
author Peres, Tiago Alexandre Mateus
author_facet Peres, Tiago Alexandre Mateus
author_role author
dc.contributor.none.fl_str_mv Véstias, Mário Pereira
RCIPL
dc.contributor.author.fl_str_mv Peres, Tiago Alexandre Mateus
dc.subject.por.fl_str_mv Rede neuronal convolucional
Convolutional neural network
Compressão
Compression
Corte
Pruning
Caffe
FPGA
topic Rede neuronal convolucional
Convolutional neural network
Compressão
Compression
Corte
Pruning
Caffe
FPGA
description Trabalho final de mestrado para obtenção do grau de Mestre em Engenharia de Eletrónica e Telecomunicações
publishDate 2019
dc.date.none.fl_str_mv 2019-03-05
2019-03-05T00:00:00Z
2020-12-15T16:32:11Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10400.21/12467
TID:202557545
url http://hdl.handle.net/10400.21/12467
identifier_str_mv TID:202557545
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv PERES, Tiago Alexandre Mateus - Otimização de redes neuronais convolucionais em FPGA utilizando técnicas de compressão. Lisboa: Instituto Superior de Engenharia de Lisboa, 2019. Dissertação de mestrado.
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Instituto Superior de Engenharia de Lisboa
publisher.none.fl_str_mv Instituto Superior de Engenharia de Lisboa
dc.source.none.fl_str_mv reponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron:RCAAP
instname_str Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron_str RCAAP
institution RCAAP
reponame_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
collection Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository.name.fl_str_mv Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
repository.mail.fl_str_mv
_version_ 1799133474429337600

Registros relacionados