Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
Autor(a) principal: | |
---|---|
Data de Publicação: | 2023 |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) |
Texto Completo: | https://repositorio.ufersa.edu.br/handle/prefix/10779 |
Resumo: | O Tiny Machine Learning (TinyML) é um novo paradigma que surge para possibilitar a execução de modelos de Machine Learning (ML) em plataformas onde os recursos de hardware são altamente restringidos, como os microcontroladores, que são usualmente empregados no desenvolvimento de sistemas embarcados. Muitos frameworks surgiram para facilitar a inferência de modelos de ML em microcontroladores, entre eles, o TensorFlow Lite Micro (TFLM) ganhou notoriedade por ser de código aberto e compatível com uma ampla gama de dispositivos arquiteturas. Para alcançar um processamento mais eficiente dos modelos de ML deu-se origem aos chamados aceleradores de hardware que consistem em hardware adicionais e especializados encarregados de desempenhar operações designadas pelo desenvolvedor de forma otimizada através do co-design hardware/software. O CFU Playground é um framework full-stack de código aberto voltado para o design de aceleradores de ML para sistemas embarcados em Field-Programmable Gate Array (FPGA) no qual foi-se utilizado para acelerar a inferência do modelo através de uma Custom Function Unit (CFU). Neste trabalho, utiliza-se um modelo de visão computacional embarcado baseado em Redes Neurais Convolucionais para inferência nas plataformas Kosagi Fomu e ESP32-C3 onde aplicam-se otimizações por meio de bibliotecas com kernel otimizado e do co-design para tecer comparações de desempenho entre as plataformas. Após aplicação das otimizações, obteve-se uma diminuição de 33,19% no tempo de inferência do modelo no ESP32-C3 por meio da biblioteca ESP-NN e 65,74% no FPGA Fomu através do co-desing e implementação de uma CFU ambas em comparação com a inferência sem nenhuma otimização implementada. |
id |
UFER_04b62edbabfb53e538bd7734a1b0e028 |
---|---|
oai_identifier_str |
oai:repositorio.ufersa.edu.br:prefix/10779 |
network_acronym_str |
UFER |
network_name_str |
Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) |
repository_id_str |
|
spelling |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine LearningENGENHARIAS::ENGENHARIA ELETRICATinyMLCo-designTensorflow lite microFPGAO Tiny Machine Learning (TinyML) é um novo paradigma que surge para possibilitar a execução de modelos de Machine Learning (ML) em plataformas onde os recursos de hardware são altamente restringidos, como os microcontroladores, que são usualmente empregados no desenvolvimento de sistemas embarcados. Muitos frameworks surgiram para facilitar a inferência de modelos de ML em microcontroladores, entre eles, o TensorFlow Lite Micro (TFLM) ganhou notoriedade por ser de código aberto e compatível com uma ampla gama de dispositivos arquiteturas. Para alcançar um processamento mais eficiente dos modelos de ML deu-se origem aos chamados aceleradores de hardware que consistem em hardware adicionais e especializados encarregados de desempenhar operações designadas pelo desenvolvedor de forma otimizada através do co-design hardware/software. O CFU Playground é um framework full-stack de código aberto voltado para o design de aceleradores de ML para sistemas embarcados em Field-Programmable Gate Array (FPGA) no qual foi-se utilizado para acelerar a inferência do modelo através de uma Custom Function Unit (CFU). Neste trabalho, utiliza-se um modelo de visão computacional embarcado baseado em Redes Neurais Convolucionais para inferência nas plataformas Kosagi Fomu e ESP32-C3 onde aplicam-se otimizações por meio de bibliotecas com kernel otimizado e do co-design para tecer comparações de desempenho entre as plataformas. Após aplicação das otimizações, obteve-se uma diminuição de 33,19% no tempo de inferência do modelo no ESP32-C3 por meio da biblioteca ESP-NN e 65,74% no FPGA Fomu através do co-desing e implementação de uma CFU ambas em comparação com a inferência sem nenhuma otimização implementada.Tiny Machine Learning (TinyML) is a new paradigm that emerges to enable the execution of Machine Learning (ML) models on platforms where hardware resources are highly constrained, such as microcontrollers, which are usually used in the development of embedded systems. Many frameworks have emerged to facilitate the inference of ML models on microcontrollers, among them, TensorFlow Lite Micro (TFLM) gained prominence for being open source and compatible with a wide range of devices and architectures. To achieve more efficient processing of ML models, hardware accelerators were created, which consist of additional and specialized hardware responsible for performing operations designated by the developer in an optimized way through hardware/software co-design. The CFU Playground is a full-stack open source framework aimed at the design of ML accelerators for embedded systems on Field-Programmable Gate Array (FPGA) in which it was used to accelerate the inference of the model through a Custom Function Unit (CFU). In this work, we use an embedded computer vision model based on Convolutional Neural Networks for inference on the Kosagi Fomu and ESP32-C3 platforms where we apply optimizations using libraries with optimized kernel and co-design to make performance comparisons between the platforms. After applying the optimizations, we obtained a decrease of 33.19% in the inference time of the model on the ESP32-C3 using the ESP-NN library and 65.74% on the FPGA Fomu through co-design and implementation of a CFU both compared to the inference without any optimization implemented.65 f.Centro Multidisciplinar de Caraúbas - CMCBrasilUFERSAUniversidade Federal Rural do Semi ÁridoBrito Filho, Francisco de AssisBrito Filho, Francisco de AssisSouza, Pedro Thiago Valério deSilva Júnior, Silvan Ferreira daCosta , Felipe William da2024-04-29T17:21:30Z2024-04-29T17:21:30Z2023-10-10info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesispdfapplication/pdfCOSTA, Felipe William da. Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning. 2023. 65 f. TCC (Graduação) - Curso de Engenharia Elétrica, Universidade Federal Rural do Semi-Árido, Caraúbas, 2023.https://repositorio.ufersa.edu.br/handle/prefix/10779CaraúbasAttribution-ShareAlike 3.0 BrazilUFERSAhttp://creativecommons.org/licenses/by-sa/3.0/br/info:eu-repo/semantics/openAccessporreponame:Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)instname:Universidade Federal Rural do Semi-Árido (UFERSA)instacron:UFERSA2024-04-30T03:00:59Zoai:repositorio.ufersa.edu.br:prefix/10779Repositório Institucionalhttps://repositorio.ufersa.edu.br/PUBhttps://repositorio.ufersa.edu.br/server/oai/requestrepositorio@ufersa.edu.br || admrepositorio@ufersa.edu.bropendoar:2024-04-30T03:00:59Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) - Universidade Federal Rural do Semi-Árido (UFERSA)false |
dc.title.none.fl_str_mv |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
title |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
spellingShingle |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning Costa , Felipe William da ENGENHARIAS::ENGENHARIA ELETRICA TinyML Co-design Tensorflow lite micro FPGA |
title_short |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
title_full |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
title_fullStr |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
title_full_unstemmed |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
title_sort |
Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning |
author |
Costa , Felipe William da |
author_facet |
Costa , Felipe William da |
author_role |
author |
dc.contributor.none.fl_str_mv |
Brito Filho, Francisco de Assis Brito Filho, Francisco de Assis Souza, Pedro Thiago Valério de Silva Júnior, Silvan Ferreira da |
dc.contributor.author.fl_str_mv |
Costa , Felipe William da |
dc.subject.por.fl_str_mv |
ENGENHARIAS::ENGENHARIA ELETRICA TinyML Co-design Tensorflow lite micro FPGA |
topic |
ENGENHARIAS::ENGENHARIA ELETRICA TinyML Co-design Tensorflow lite micro FPGA |
description |
O Tiny Machine Learning (TinyML) é um novo paradigma que surge para possibilitar a execução de modelos de Machine Learning (ML) em plataformas onde os recursos de hardware são altamente restringidos, como os microcontroladores, que são usualmente empregados no desenvolvimento de sistemas embarcados. Muitos frameworks surgiram para facilitar a inferência de modelos de ML em microcontroladores, entre eles, o TensorFlow Lite Micro (TFLM) ganhou notoriedade por ser de código aberto e compatível com uma ampla gama de dispositivos arquiteturas. Para alcançar um processamento mais eficiente dos modelos de ML deu-se origem aos chamados aceleradores de hardware que consistem em hardware adicionais e especializados encarregados de desempenhar operações designadas pelo desenvolvedor de forma otimizada através do co-design hardware/software. O CFU Playground é um framework full-stack de código aberto voltado para o design de aceleradores de ML para sistemas embarcados em Field-Programmable Gate Array (FPGA) no qual foi-se utilizado para acelerar a inferência do modelo através de uma Custom Function Unit (CFU). Neste trabalho, utiliza-se um modelo de visão computacional embarcado baseado em Redes Neurais Convolucionais para inferência nas plataformas Kosagi Fomu e ESP32-C3 onde aplicam-se otimizações por meio de bibliotecas com kernel otimizado e do co-design para tecer comparações de desempenho entre as plataformas. Após aplicação das otimizações, obteve-se uma diminuição de 33,19% no tempo de inferência do modelo no ESP32-C3 por meio da biblioteca ESP-NN e 65,74% no FPGA Fomu através do co-desing e implementação de uma CFU ambas em comparação com a inferência sem nenhuma otimização implementada. |
publishDate |
2023 |
dc.date.none.fl_str_mv |
2023-10-10 2024-04-29T17:21:30Z 2024-04-29T17:21:30Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
COSTA, Felipe William da. Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning. 2023. 65 f. TCC (Graduação) - Curso de Engenharia Elétrica, Universidade Federal Rural do Semi-Árido, Caraúbas, 2023. https://repositorio.ufersa.edu.br/handle/prefix/10779 |
identifier_str_mv |
COSTA, Felipe William da. Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning. 2023. 65 f. TCC (Graduação) - Curso de Engenharia Elétrica, Universidade Federal Rural do Semi-Árido, Caraúbas, 2023. |
url |
https://repositorio.ufersa.edu.br/handle/prefix/10779 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
Attribution-ShareAlike 3.0 Brazil UFERSA http://creativecommons.org/licenses/by-sa/3.0/br/ info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Attribution-ShareAlike 3.0 Brazil UFERSA http://creativecommons.org/licenses/by-sa/3.0/br/ |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
pdf application/pdf |
dc.coverage.none.fl_str_mv |
Caraúbas |
dc.publisher.none.fl_str_mv |
Centro Multidisciplinar de Caraúbas - CMC Brasil UFERSA Universidade Federal Rural do Semi Árido |
publisher.none.fl_str_mv |
Centro Multidisciplinar de Caraúbas - CMC Brasil UFERSA Universidade Federal Rural do Semi Árido |
dc.source.none.fl_str_mv |
reponame:Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) instname:Universidade Federal Rural do Semi-Árido (UFERSA) instacron:UFERSA |
instname_str |
Universidade Federal Rural do Semi-Árido (UFERSA) |
instacron_str |
UFERSA |
institution |
UFERSA |
reponame_str |
Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) |
collection |
Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) |
repository.name.fl_str_mv |
Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) - Universidade Federal Rural do Semi-Árido (UFERSA) |
repository.mail.fl_str_mv |
repositorio@ufersa.edu.br || admrepositorio@ufersa.edu.br |
_version_ |
1809747478817275904 |